CN117238037B - 动态动作识别方法、装置、设备和存储介质 - Google Patents

动态动作识别方法、装置、设备和存储介质 Download PDF

Info

Publication number
CN117238037B
CN117238037B CN202311498828.XA CN202311498828A CN117238037B CN 117238037 B CN117238037 B CN 117238037B CN 202311498828 A CN202311498828 A CN 202311498828A CN 117238037 B CN117238037 B CN 117238037B
Authority
CN
China
Prior art keywords
dynamic
action
preset
electrical impedance
impedance imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311498828.XA
Other languages
English (en)
Other versions
CN117238037A (zh
Inventor
张世武
金虎
曹辰昊
马刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Science and Technology of China USTC
Original Assignee
University of Science and Technology of China USTC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Science and Technology of China USTC filed Critical University of Science and Technology of China USTC
Priority to CN202311498828.XA priority Critical patent/CN117238037B/zh
Publication of CN117238037A publication Critical patent/CN117238037A/zh
Application granted granted Critical
Publication of CN117238037B publication Critical patent/CN117238037B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种动态动作识别方法、装置、设备和存储介质,方法包括:同时采集得到待识别肌电信号和待识别电阻抗成像信号;通过训练好的第一分类器模型,对待识别肌电信号进行识别,得到包括各动态动作对应的置信度的预测概率矩阵;通过训练好的第二分类器模型,对待识别电阻抗成像信号进行识别,得到静态动作识别结果;根据静态动作识别结果,对预测概率矩阵中各动态动作对应的权重进行修正;根据预测概率矩阵中各动态动作对应的权重和置信度,计算各动态动作对应的综合概率,并根据各动态动作对应的综合概率,确定动态动作识别结果。本发明可有效提高肢体动态动作的识别准确率。

Description

动态动作识别方法、装置、设备和存储介质
技术领域
本发明涉及动作识别技术领域,尤其涉及一种动态动作识别方法、装置、设备和存储介质。
背景技术
随着现代化社会的发展,对于上肢动作识别技术在医疗、科研和大数据领域的应用逐渐显现出巨大的潜力。实现对上肢动作信息的提取与分析成为主流趋势,为许多应用场景提供了新的可能性。然而,现实生活中存在着一些挑战,如传统传感器方法的限制、动作位置信息不准确以及特征提取的差异性,阻碍了上肢动作识别方法的快速、精准应用。因此,如何实现上肢动作动态精准识别成为当前的研究热点。
发明内容
本发明所要解决的技术问题是:提供一种动态动作识别方法、装置、设备和存储介质,可有效提高肢体动态动作的识别准确率。
第一方面,本发明提供了一种动态动作识别方法,包括:
同时采集得到待识别肌电信号和待识别电阻抗成像信号;
通过预设的训练好的第一分类器模型,对所述待识别肌电信号进行识别,得到预测概率矩阵,所述预测概率矩阵包括各动态动作对应的置信度;
通过预设的训练好的第二分类器模型,对所述待识别电阻抗成像信号进行识别,得到静态动作识别结果;
根据所述静态动作识别结果,对所述预测概率矩阵中各动态动作对应的权重进行修正,所述预测概率矩阵中各动态动作对应的权重初始值一致;
根据所述预测概率矩阵中各动态动作对应的权重和置信度,计算各动态动作对应的综合概率,并根据各动态动作对应的综合概率,确定动态动作识别结果。
第二方面,本发明还提供了一种动态动作识别装置,包括:
采集模块,用于同时采集得到待识别肌电信号和待识别电阻抗成像信号;
第一识别模块,用于通过预设的训练好的第一分类器模型,对所述待识别肌电信号进行识别,得到预测概率矩阵,所述预测概率矩阵包括各动态动作对应的置信度;
第二识别模块,用于通过预设的训练好的第二分类器模型,对所述待识别电阻抗成像信号进行识别,得到静态动作识别结果;
修正模块,用于根据所述静态动作识别结果,对所述预测概率矩阵中各动态动作对应的权重进行修正,所述预测概率矩阵中各动态动作对应的权重初始值一致;
确定模块,用于根据所述预测概率矩阵中各动态动作对应的权重和置信度,计算各动态动作对应的综合概率,并根据各动态动作对应的综合概率,确定动态动作识别结果。
第三方面,本发明还提供了一种电子设备,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如第一方面提供的动态动作识别方法。
第四方面,本发明还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面提供的动态动作识别方法。
本发明的有益效果在于:通过采集EMG信号(肌电信号)和EIT信号(电阻抗成像信号)两种不同的生物信号,并将两种信号进行综合分析,可以更好地区分不同的肢体动作类型,比单一EMG或者单一EIT的识别率要高,有助于提高识别准确性。本发明通过基于EMG和EIT的肢体动作识别方法,可以克服传统传感器方法的限制。EMG提供了关于肌肉活动的信息,EIT则提供了肢体内部电阻率分布的信息,这些信息的综合分析可以为肢体动作的特征提取提供更多的参考,从而在实际应用中能够更好地应对复杂的生物信号和实时识别的需求,提高肢体动作识别的可靠性和高效性。
附图说明
图1为本发明提供的一种动态动作识别方法的流程图;
图2为本发明提供的一种动态动作识别装置的结构示意图;
图3为本发明提供的一种电子设备的结构示意图;
图4为本发明实施例一的一种动态动作识别方法的流程图;
图5为本发明实施例一的LSTM分类器模型的结构示意图;
图6为本发明实施例一的权重修正示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是,一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各步骤描述成顺序的处理,但是其中的许多步骤可以被并行地、并发地或者同时实施。此外,各步骤的顺序可以被重新安排。当其操作完成时处理可以被终止,但是还可以具有未包括在附图中的附加步骤。处理可以对应于方法、函数、规程、子例程、子计算机程序等等。
此外,术语“第一”、“第二”等可在本文中用于描述各种方向、动作、步骤或元件等,但这些方向、动作、步骤或元件不受这些术语限制。这些术语仅用于将第一个方向、动作、步骤或元件与另一个方向、动作、步骤或元件区分。举例来说,在不脱离本申请的范围的情况下,可以将第一信息为第二信息,且类似地,可将第二信息称为第一信息。第一信息和第二信息两者都是信息,但其不是同一信息。术语“第一”、“第二”等而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
如图1所示,一种动态动作识别方法,包括:
S101:同时采集得到待识别肌电信号和待识别电阻抗成像信号;
S102:通过预设的训练好的第一分类器模型,对所述待识别肌电信号进行识别,得到预测概率矩阵,所述预测概率矩阵包括各动态动作对应的置信度;
S103:通过预设的训练好的第二分类器模型,对所述待识别电阻抗成像信号进行识别,得到静态动作识别结果;
S104:根据所述静态动作识别结果,对所述预测概率矩阵中各动态动作对应的权重进行修正,所述预测概率矩阵中各动态动作对应的权重初始值一致;
S105:根据所述预测概率矩阵中各动态动作对应的权重和置信度,计算各动态动作对应的综合概率,并根据各动态动作对应的综合概率,确定动态动作识别结果。
从上述描述可知,通过综合利用EMG和EIT技术,可以构建一个综合性的肢体动作识别***。在肢体动作进行时,通过EMG传感器获取整体动态运动的肌电活动信息,同时通过EIT传感器获取肢体固定静态位置的肌肉内部电阻信息,并结合机器学习算法进行处理,从而实现对肢体动作的准确分类与识别。
在一个可选的实施例中,所述步骤S104,具体为:
将包含所述静态动作识别结果的动态动作作为第一动态动作,并增加所述预测概率矩阵中所述第一动态动作对应的权重;
根据预设历史时段内的静态动作识别结果,确定第二动态动作,并增加所述预测概率矩阵中所述第二动态动作对应的权重。
从上述描述可知,由于动态动作是一个过程,而静态动作是该过程中的几帧静态时间点的动作,因此可以基于静态动作识别结果,对预测概率矩阵进行修正,以提高动态动作识别准确率。
在一个可选的实施例中,步骤S101之前,进一步包括:
采集预设的动态动作对应的肌电信号,得到肌电信号样本数据,并根据所述肌电信号样本数据,对预设的第一分类器模型进行训练;
采集预设的静态动作对应的电阻抗成像信号,得到电阻抗成像信号样本数据,并根据所述电阻抗成像信号样本数据,对预设的第二分类器进行训练,所述静态动作为所述动态动作的瞬间动作。
在一个可选的实施例中,所述采集预设的动态动作对应的肌电信号,得到肌电信号样本数据,并根据所述肌电信号样本数据,对预设的第一分类器模型进行训练,具体为:
当依次进行预设的各动态动作时,通过肌电信号采集设备采集预设肌肉位置的肌电信号,得到肌电信号样本序列;
根据预设的各动态动作的持续时间以及预设的休息时间,在所述肌电信号样本序列中确定各动态动作对应的肌电信号;
对各动态动作对应的肌电信号进行第一预处理和第一特征提取,得到肌电信号样本数据,所述第一预处理包括平滑滤波、归一化以及滑动加窗处理,提取的第一特征数据包括第一标签数据、过零点数、斜率变化以及一维数据,所述第一标签数据为各动态动作对应的肌电信号中预设第一比例的数据,所述一维数据包括均方根值、绝对均值、标准差值以及带宽;
构建第一分类器模型,并根据所述肌电信号样本数据,对所述第一分类器进行训练。
从上述描述可知,信号预处理实现了采集数据的滤波降噪、归一化、加窗分割等,特征提取实现了对采集数据时域特征和频域特征的提取。
在一个可选的实施例中,所述采集预设的静态动作对应的电阻抗成像信号,得到电阻抗成像信号样本数据,并根据所述电阻抗成像信号样本数据,对预设的第二分类器进行训练,具体为:
当依次进行预设的各静态动作时,通过电阻抗成像信号采集设备采集预设肌肉位置的电阻抗成像信号,得到电阻抗成像信号样本序列;
根据预设的各静态动作的保持时间以及预设的休息时间,在所述电阻抗成像信号样本序列中确定各静态动作对应的电阻抗成像信号;
对各静态动作对应的电阻抗成像信号进行第二预处理和第二特征提取,得到电阻抗成像信号样本数据,所述第二预处理包括滑动加窗处理,提取的第二特征数据包括第二标签数据、均方根值、绝对均值以及标准差值,所述第二标签数据为各静态动作对应的电阻抗成像信号中预设第二比例的数据;
构建第二分类器模型,并根据所述电阻抗成像信号样本数据,对所述第二分类器进行训练。
其中,当进行上肢动作识别时,所述预设的动态动作包括屈曲、伸展、外展、内收、外旋以及内旋;所述预设的静态动作包括所述预设的动态动作的起始态动作、中间态动作和终止态动作;所述预设肌肉位置包括胸大肌、三角肌、背阔肌、肱二头肌、肱三头肌、大圆肌、喙肱肌和冈下肌。
在一个可选的实施例中,所述第一分类器模型为LSTM分类器模型,所述第二分类器模型为SVM分类器模型。
从上述描述可知,选择具有时间序列特征的神经网络实现基于EMG信号对动态动作的分类;选择多类别监督学习算法实现基于EIT信号对静态动作的分类。
在一个可选的实施例中,所述步骤S101,具体为:
采集待识别动作信号,所述待识别动作信号包括肌电信号和电阻抗成像信号;
对所述肌电信号进行第一预处理和第一特征提取,得到待识别肌电信号,所述第一预处理包括平滑滤波、归一化以及滑动加窗处理,提取的第一特征数据包括第一标签数据、过零点数、斜率变化以及一维数据,所述第一标签数据为所述肌电信号中预设第一比例的数据,所述一维数据包括均方根值、绝对均值、标准差值以及带宽;
对所述电阻抗成像信号进行第二预处理和第二特征提取,得到待识别电阻抗成像信号,所述第二预处理包括滑动加窗处理,提取的第二特征数据包括第二标签数据、均方根值、绝对均值以及标准差值,所述第二标签数据为所述电阻抗成像信号中预设第二比例的数据。
从上述描述可知,第一分类器模型的输入数据为经过预处理和特征提取后的EMG信号;第二分类器模型的输入数据为经过预处理和特征提取后的EIT信号。
如图2所示,本发明还提供了一种动态动作识别装置,包括:
采集模块201,用于同时采集得到待识别肌电信号和待识别电阻抗成像信号;
第一识别模块202,用于通过预设的训练好的第一分类器模型,对所述待识别肌电信号进行识别,得到预测概率矩阵,所述预测概率矩阵包括各动态动作对应的置信度;
第二识别模块203,用于通过预设的训练好的第二分类器模型,对所述待识别电阻抗成像信号进行识别,得到静态动作识别结果;
修正模块204,用于根据所述静态动作识别结果,对所述预测概率矩阵中各动态动作对应的权重进行修正,所述预测概率矩阵中各动态动作对应的权重初始值一致;
确定模块205,用于根据所述预测概率矩阵中各动态动作对应的权重和置信度,计算各动态动作对应的综合概率,并根据各动态动作对应的综合概率,确定动态动作识别结果。
如图3所示,本发明还提供了一种电子设备,所述电子设备包括:
一个或多个处理器301;
存储装置302,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器301执行,使得所述一个或多个处理器301实现如上所述的动态动作识别方法。
本发明还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的动态动作识别方法。
实施例一
请参照图4-6,本发明的实施例一为:一种动态动作识别方法,可应用于医疗康复、运动分析和虚拟现实等领域,可丰富可识别肢体动作种类,有效地提高动作分类的准确性和稳定性。
本实施例以识别上肢的动态动作为例进行说明,实现对上肢动作类型进行快速、精准识别,为动态识别的研究与应用带来新的可能性。
在实施本方法之前,要确定好需要采集信号的肌肉位置,本实施例中,包括胸大肌、三角肌、背阔肌、肱二头肌、肱三头肌、大圆肌、喙肱肌、冈下肌8块集中在肩部前后的肌肉。并且,要定义好上肢需要进行的动态动作,本实施例中,两两动作之间满足一个闭环要求,例如屈曲、伸展、外展、内收、外旋、内旋等主要上肢动作,其中屈曲-伸展为一个闭环运动,外展-内收为一个闭环运动,外旋-内旋为一个闭环运动,闭环动作即动作起始点与终止点相同。确认好动态动作以后,从动态动作中定义相应的起始态、中间态和终止态作为静态动作,即动态过程中的静态动作位置识别点,例如针对屈曲和伸展动态动作,可以选择动作过程中的矢状面0°、矢状面45°、矢状面90°、矢状面135°等静态位置点。
本实施例的实施需要用到以下设备和物品:
EMG信号采集设备,是一种需要至少包含8个通道的采集设备,并且拥有较高的采样率和稳定性。该设备可以是通过导联线连接到电极片的方式采集,也可以是经无线蓝牙直接发送至与该设备配套的上位机采集软件中。
EIT信号采集电路板,是包含8个通道的采集设备,使用的是一款高度集成的生物传感器前端芯片AD5940;支持两端测量方案,即电极的一端作为电激励信号发射器,另一电极用作电响应信号接收器。
心电图机导联线,是用来连接采集设备与人体肌肉贴点的导线;
医用电极片,直接贴于皮肤表面用于收集生物电信号,为了适应上肢形状并减少接触面积,拟使用月牙形电极;
上位机PC,是用来收集EMG和EIT信号的设备,包括后期的数据处理部分和动作识别代码的编写;上位机PC中安装有数据处理软件,具有能处理大数据信息的能力,例如,嵌入式开发软件Keil MDK、数据处理软件MATLAB以及深度学习分析软件VS Code+Python;
胶布,一是用来将电极片贴于人体表面,二是用来帮忙固定心电图机导联线于桌面,确保采集过程稳定;
酒精棉球,用来清洁皮肤表面汗液与杂物,确保采集信号准确可靠。
如图4所示,本实施例的方法包括如下步骤:
S401:采集预设的动态动作对应的肌电信号,得到肌电信号样本数据,并根据所述肌电信号样本数据,对预设的第一分类器模型进行训练。
具体地,首先,使用酒精棉球擦拭皮肤贴点位置,将EMG传感器分别贴在胸大肌、三角肌、背阔肌、肱二头肌、肱三头肌、大圆肌、喙肱肌以及冈下肌这8块肌肉上。
然后,对不同动态动作依次标签,并按照标签顺序进行所有的动态动作作为一次实验流程,一次实验重复多次实验流程。在实验过程中通过8通道的EMG信号采集设备采集上肢动作过程中8块主要肌肉的EMG信号。为了保证肌肉的不疲劳性,一次实验流程中两两动态动作之间会有一定的休息时间,将休息时间内采集的信号定义为无意识信号;另外,实验开始和结束时会有少许时间的动作噪声扰动,这些信号的幅值一般与正常肌电幅值有较大差别,将这些信号定义为偏差较大的信号。因此在实验前要确定好每个动态动作的持续时间以及动作之间的休息时间,以便之后剔除。
接着,对采集到的EMG信号进行预处理和特征提取。本实施例中,对EMG信号的预处理包括平滑滤波、归一化、滑动加窗处理,提取的特征包括标签数据、过零点数、斜率变化和一维特征。其中,选择单一动作的10%-90%的数据作为标签数据,优选地,选取中间的数据作为标签数据,例如,选取单一动作的中间80%的数据作为标签数据,这是由于做动态动作时开始和结束采集时误差较大,动作中间信号特征性更强。一维特征由均方根值、绝对均值、标准差值和带宽四种特征合一构成。信号预处理实现了采集数据的滤波降噪、归一化、加窗分割等,特征提取实现了对采集数据时域特征和频域特征的提取。
最后,构建第一分类器模型,并根据肌电信号样本数据,对第一分类器进行训练,即EMG信号经过预处理之后,提取上述特征作为分类的依据,之后送入第一分类器模型进行训练和分类。
本实施例中,第一分类器模型为具有时间序列特征的LSTM(长短时记忆网络)分类器模型,如图5所示,本实施例采用的是双向长短期记忆(Bi-LSTM)层的混合深度学习架构,包含多个双向LSTM分支,EMG信号的每种特征数据都通过一个双向LSTM分支进行处理,每个双向LSTM分支的输出经过Dropout层,有助于防止过拟合;之后将多个双向LSTM分支的信息融合在一起经过一个全连接层,使用Softmax函数将输出转化为概率分布,会得到一个预测概率矩阵,这个矩阵包括识别为各个动态动作的置信度,LSTM分类器会取预测概率矩阵中置信度最大的动态动作标签取出,作为LSTM分类器的分类结果。
本实施例中,使用Adam优化器和categorical_crossentropy损失函数编译模型,训练会在自行设定的训练轮次(epochs)内进行,训练轮次达到则终止训练。
S402:采集预设的静态动作对应的电阻抗成像信号,得到电阻抗成像信号样本数据,并根据所述电阻抗成像信号样本数据,对预设的第二分类器进行训练,其中,所述静态动作为所述动态动作的瞬间动作,本实施例中,将各动态动作的起始态动作、中间态动作和终止态动作作为静态动作。
具体地,首先,使用酒精棉球擦拭皮肤贴点位置,将电极片分别贴在胸大肌、三角肌、背阔肌、肱二头肌、肱三头肌、大圆肌、喙肱肌以及冈下肌这8块肌肉上,电极片另外一端连在EIT信号采集电路板上。通过两端测量方案得到两两肌肉之间的阻抗分布,共计28个独立的阻抗值,后续利用数据清洗提取有效特征的阻抗区域。
然后,对不同静态动作依次标签,并按照标签顺序进行所有的静态动作作为一次实验流程,一次实验重复多次实验流程。在实验过程中通过EIT信号采集电路板采集EIT信号。同理,确定好每次静态动作的保持时间和动作之间的休息时间,之后在预处理中剔除“无意识信号”和“偏差较大的信号”。通过嵌入式开发软件和串口完成EIT对相应的静态动作的采集。
接着,对采集到的EIT信号进行预处理和特征提取。本实施例中,对EIT信号的预处理包括滑动加窗处理,提取的特征包括标签数据(选择单一动作的10%-90%的数据作为标签数据)、均方根值、绝对均值和标准差值。
最后,构建第二分类器模型,并根据电阻抗成像信号样本数据,对第二分类器进行训练,即EIT信号经过预处理之后,提取上述特征作为分类的依据,之后送入第二分类器模型进行训练和分类。
本实施例中,第二分类器模型为监督学习的SVM(支持向量机)分类器模型,可采用传统的多类别分类器。
S403:同时采集得到待识别肌电信号和待识别电阻抗成像信号。
具体地,采集待识别动作信号,所述待识别动作信号包括肌电信号和电阻抗成像信号,即在读取动态动作的EMG信号时同时读取EIT信号。进一步地,可将读取的EIT信号存储至缓冲器中,使得缓冲器中存储有过去一段时间内的EIT信号。
然后,分别对肌电信号和电阻抗成像信号进行预处理和特征提取,将提取出的特征数据作为待识别肌电信号和待识别电阻抗成像信号。
其中,对肌电信号的预处理和特征提取可参照步骤S401,即对肌电信号进行平滑滤波、归一化以及滑动加窗处理,然后提取标签数据(当前肌电信号的10%-90%的数据)、过零点数、斜率变化和一维特征(由均方根值、绝对均值、标准差值和带宽四种特征合一构成)作为特征。
对电阻抗成像信号的预处理和特征提取可参照步骤S402,即对电阻抗成像信号滑动加窗处理,然后提取标签数据(当前电阻抗成像信号的10%-90%的数据)、均方根值、绝对均值以及标准差值作为特征。
S404:通过训练好的第一分类器模型,对所述待识别肌电信号进行识别,得到预测概率矩阵,所述预测概率矩阵包括各动态动作对应的置信度。
第一分类器模型(LSTM分类器模型)的输入数据为待识别肌电信号,即经过预处理和特征提取后的EMG信号,输出数据为动态动作识别结果(例如屈曲、伸展、外展、内收、外旋、内旋等)。但本实施例中的LSTM分类器模型使用Softmax将输出转化为概率分布,会得到一个预测概率矩阵,该矩阵包括识别为各个动态动作的置信度。本步骤即不直接获取LSTM分类器模型输出的识别结果,而是获取该预测概率矩阵。
S405:通过训练好的第二分类器模型,对所述待识别电阻抗成像信号进行识别,得到静态动作识别结果。
第二分类器模型(SVM分类器模型)的输入数据为待识别电阻抗成像信号,即经过预处理和特征提取后的EIT信号,输出数据为静态识别结果(例如矢状面0°、矢状面45°、矢状面90°、矢状面135°等)。本步骤即直接获取SVM分类器模型输出的静态动作识别结果。
进一步地,将静态动作识别结果保存至缓冲区,使得缓冲区中记录有过去一段时间内的静态动作识别结果。
S406:根据所述静态动作识别结果,对所述预测概率矩阵中各动态动作对应的权重进行修正,其中,预测概率矩阵中各动态动作对应的权重初始值是相同的。
由于动态动作是一个过程,而静态动作是该过程中的几帧静态时间点的动作,因此可以基于静态动作识别结果,对预测概率矩阵进行修正,以提高动态动作识别准确率。
本实施例中,基于两层筛选机制进行修正,包含下述两条修正规则:
1、将包含所述静态动作识别结果的动态动作作为第一动态动作,并增加所述预测概率矩阵中所述第一动态动作对应的权重;即当SVM分类器识别到某些静态动作时,增加预测概率矩阵中对应动态动作的权重,这是由于静态动作只会在某些动态动作中才会经过,别的动态动作不会涉及。
例如,如图6所示,当识别到矢状面135°,增加预测概率矩阵中识别为屈曲和伸展的权重。
2、根据预设历史时段内的静态动作识别结果,确定第二动态动作,并增加所述预测概率矩阵中所述第二动态动作对应的权重;即根据缓冲区中过去一段时间内的静态动作识别结果,给出一个根据缓冲区信息判断的结果,然后根据该结果,增加预测概率矩阵中特定动态动作的权重。
例如,如图4所示,缓冲区依次识别到矢状面45°、矢状面90°、矢状面135°,则缓冲区判断结果为屈曲,增加预测概率矩阵中识别为屈曲权重。
其中,具体增加权重的大小,可根据后续实验的综合识别率来调参优化确定。本实施例中,权重初始值为1,增加的权重值也为1。
根据上述修正规则,从而实现在对动态动作识别过程中对静态动作进行判断,提高动态动作识别率。
S407:根据所述预测概率矩阵中各动态动作对应的权重和置信度,计算各动态动作对应的综合概率,并根据各动态动作对应的综合概率,确定动态动作识别结果。
其中,综合概率=权重×置信度。最后将综合概率最大的动态动作作为态动作识别结果。进一步地,可给出“正在进行从静态位置a到静态位置c的动态动作A”的结论,即“正在进行从xx位置到xx位置的xx动作”。
本实施例通过采集EMG和EIT两种不同的生物信号,可以获得更丰富的生物信号数据库,其中,EMG提供肌肉活动信息,而EIT提供肌肉位置和电阻变化信息。通过将EMG和EIT两种信号进行联合,可以更好地区分不同的上肢动作类型,比单一EMG或者单一EIT的识别率要高,有助于提高识别准确性。在实际应用中能够更好地应对复杂的生物信号和实时识别的需求,为上肢动作识别提供了更可靠和高效的解决方案。
本实施例的方法在医疗康复、运动分析、虚拟现实和人机交互等领域有着广泛应用前景,可以实时监测患者上肢运动恢复情况,优化运动训练,改进虚拟现实体验,提供更自然、智能的人机交互方式。通过准确识别和分析上肢动作,有助于提高康复效果、研究运动模式和肌肉协调性等,为多个领域带来新的应用前景。后续完全可以类推到下肢层面,实现肢体动作的动态精准识别。
实施例二
请参照图2,本发明的实施例二为:一种动态动作识别装置,可执行本发明实施例一所提供的动态动作识别方法,具备执行方法相应的功能模块和有益效果。该装置可以由软件/或硬件实现,具体包括:
一种动态动作识别装置,包括:
采集模块201,用于同时采集得到待识别肌电信号和待识别电阻抗成像信号;
第一识别模块202,用于通过预设的训练好的第一分类器模型,对所述待识别肌电信号进行识别,得到预测概率矩阵,所述预测概率矩阵包括各动态动作对应的置信度;
第二识别模块203,用于通过预设的训练好的第二分类器模型,对所述待识别电阻抗成像信号进行识别,得到静态动作识别结果;
修正模块204,用于根据所述静态动作识别结果,对所述预测概率矩阵中各动态动作对应的权重进行修正,所述预测概率矩阵中各动态动作对应的权重初始值一致;
确定模块205,用于根据所述预测概率矩阵中各动态动作对应的权重和置信度,计算各动态动作对应的综合概率,并根据各动态动作对应的综合概率,确定动态动作识别结果。
在一个可选的实施方式中,所述修正模块包括:
第一增加单元,用于将包含所述静态动作识别结果的动态动作作为第一动态动作,并增加所述预测概率矩阵中所述第一动态动作对应的权重;
第二增加单元,用于根据预设历史时段内的静态动作识别结果,确定第二动态动作,并增加所述预测概率矩阵中所述第二动态动作对应的权重。
在一个可选的实施方式中,所述动态动作识别装置还包括:
第一训练模块,用于采集预设的动态动作对应的肌电信号,得到肌电信号样本数据,并根据所述肌电信号样本数据,对预设的第一分类器模型进行训练;
第二训练模块,用于采集预设的静态动作对应的电阻抗成像信号,得到电阻抗成像信号样本数据,并根据所述电阻抗成像信号样本数据,对预设的第二分类器进行训练,所述静态动作为所述动态动作的瞬间动作。
在一个可选的实施方式中,所述第一训练模块包括:
第一采集单元,用于当依次进行预设的各动态动作时,通过肌电信号采集设备采集预设肌肉位置的肌电信号,得到肌电信号样本序列;
第一确定单元,用于根据预设的各动态动作的持续时间以及预设的休息时间,在所述肌电信号样本序列中确定各动态动作对应的肌电信号;
第一提取单元,用于对各动态动作对应的肌电信号进行第一预处理和第一特征提取,得到肌电信号样本数据,所述第一预处理包括平滑滤波、归一化以及滑动加窗处理,提取的第一特征数据包括第一标签数据、过零点数、斜率变化以及一维数据,所述第一标签数据为各动态动作对应的肌电信号中预设第一比例的数据,所述一维数据包括均方根值、绝对均值、标准差值以及带宽;
第一训练单元,用于构建第一分类器模型,并根据所述肌电信号样本数据,对所述第一分类器进行训练。
在一个可选的实施方式中,所述第二训练模块包括:
第二采集单元,用于当依次进行预设的各静态动作时,通过电阻抗成像信号采集设备采集预设肌肉位置的电阻抗成像信号,得到电阻抗成像信号样本序列;
第二确定单元,用于根据预设的各静态动作的保持时间以及预设的休息时间,在所述电阻抗成像信号样本序列中确定各静态动作对应的电阻抗成像信号;
第二提取单元,用于对各静态动作对应的电阻抗成像信号进行第二预处理和第二特征提取,得到电阻抗成像信号样本数据,所述第二预处理包括滑动加窗处理,提取的第二特征数据包括第二标签数据、均方根值、绝对均值以及标准差值,所述第二标签数据为各静态动作对应的电阻抗成像信号中预设第二比例的数据;
第二训练单元,用于构建第二分类器模型,并根据所述电阻抗成像信号样本数据,对所述第二分类器进行训练。
在一个可选的实施方式中,所述第一分类器模型为LSTM分类器模型,所述第二分类器模型为SVM分类器模型。
在一个可选的实施方式中,所述采集模块包括:
第三采集单元,用于采集待识别动作信号,所述待识别动作信号包括肌电信号和电阻抗成像信号;
第三提取单元,用于对所述肌电信号进行第一预处理和第一特征提取,得到待识别肌电信号,所述第一预处理包括平滑滤波、归一化以及滑动加窗处理,提取的第一特征数据包括第一标签数据、过零点数、斜率变化以及一维数据,所述第一标签数据为所述肌电信号中预设第一比例的数据,所述一维数据包括均方根值、绝对均值、标准差值以及带宽;
第四提取单元,用于对所述电阻抗成像信号进行第二预处理和第二特征提取,得到待识别电阻抗成像信号,所述第二预处理包括滑动加窗处理,提取的第二特征数据包括第二标签数据、均方根值、绝对均值以及标准差值,所述第二标签数据为所述电阻抗成像信号中预设第二比例的数据。
实施例三
请参照图3,本发明的实施例三为:一种电子设备,所述电子设备包括:
一个或多个处理器301;
存储装置302,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器301执行,使得所述一个或多个处理器301实现如上所述的动态动作识别方法实施例中的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
实施例四
本发明的实施例四提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的动态动作识别方法实施例中的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
综上所述,本发明提供的一种动态动作识别方法、装置、设备和存储介质,通过采集EMG和EIT两种不同的生物信号,可以获得更丰富的生物信号数据库;通过将EMG和EIT两种信号进行联合,可以更好地区分不同的上肢动作类型,比单一EMG或者单一EIT的识别率要高,有助于提高识别准确性。
本发明通过基于EMG和EIT的肢体动作识别方法,可以克服传统传感器方法的限制。EMG提供了关于肌肉活动的信息,EIT则提供了肢体内部电阻率分布的信息,这些信息的综合分析可以为肢体动作的特征提取提供更多的参考,从而在实际应用中能够更好地应对复杂的生物信号和实时识别的需求,提高肢体动作识别的可靠性和高效性。在医疗康复、运动分析、虚拟现实和人机交互等领域有着广泛应用前景,可以实时监测患者上肢运动恢复情况,优化运动训练,改进虚拟现实体验,提供更自然、智能的人机交互方式。通过准确识别和分析上肢动作,有助于提高康复效果、研究运动模式和肌肉协调性等,为多个领域带来新的应用前景。
通过以上关于实施方式的描述,所属领域的技术人员可以清楚地了解到,本发明可借助软件及必需的通用硬件来实现,当然也可以通过硬件实现,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如计算机的软盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、闪存(FLASH)、硬盘或光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
值得注意的是,上述装置的实施例中,所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。
以上所述仅为本发明的实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等同变换,或直接或间接运用在相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (9)

1.一种动态动作识别方法,其特征在于,包括:
同时采集得到待识别肌电信号和待识别电阻抗成像信号;
通过预设的训练好的第一分类器模型,对所述待识别肌电信号进行识别,得到预测概率矩阵,所述预测概率矩阵包括各动态动作对应的置信度;
通过预设的训练好的第二分类器模型,对所述待识别电阻抗成像信号进行识别,得到静态动作识别结果;
根据所述静态动作识别结果,对所述预测概率矩阵中各动态动作对应的权重进行修正,所述预测概率矩阵中各动态动作对应的权重初始值一致;
根据所述预测概率矩阵中各动态动作对应的权重和置信度,计算各动态动作对应的综合概率,并根据各动态动作对应的综合概率,确定动态动作识别结果;
所述根据所述静态动作识别结果,对所述预测概率矩阵中各动态动作对应的权重进行修正,具体为:
将包含所述静态动作识别结果的动态动作作为第一动态动作,并增加所述预测概率矩阵中所述第一动态动作对应的权重;
根据预设历史时段内的静态动作识别结果,确定第二动态动作,并增加所述预测概率矩阵中所述第二动态动作对应的权重。
2.根据权利要求1所述的动态动作识别方法,其特征在于,所述同时采集得到待识别肌电信号和待识别电阻抗成像信号之前,进一步包括:
采集预设的动态动作对应的肌电信号,得到肌电信号样本数据,并根据所述肌电信号样本数据,对预设的第一分类器模型进行训练;
采集预设的静态动作对应的电阻抗成像信号,得到电阻抗成像信号样本数据,并根据所述电阻抗成像信号样本数据,对预设的第二分类器进行训练,所述静态动作为所述动态动作的瞬间动作。
3.根据权利要求2所述的动态动作识别方法,其特征在于,所述采集预设的动态动作对应的肌电信号,得到肌电信号样本数据,并根据所述肌电信号样本数据,对预设的第一分类器模型进行训练,具体为:
当依次进行预设的各动态动作时,通过肌电信号采集设备采集预设肌肉位置的肌电信号,得到肌电信号样本序列;
根据预设的各动态动作的持续时间以及预设的休息时间,在所述肌电信号样本序列中确定各动态动作对应的肌电信号;
对各动态动作对应的肌电信号进行第一预处理和第一特征提取,得到肌电信号样本数据,所述第一预处理包括平滑滤波、归一化以及滑动加窗处理,提取的第一特征数据包括第一标签数据、过零点数、斜率变化以及一维数据,所述第一标签数据为各动态动作对应的肌电信号中预设第一比例的数据,所述一维数据包括均方根值、绝对均值、标准差值以及带宽;
构建第一分类器模型,并根据所述肌电信号样本数据,对所述第一分类器进行训练。
4.根据权利要求2所述的动态动作识别方法,其特征在于,所述采集预设的静态动作对应的电阻抗成像信号,得到电阻抗成像信号样本数据,并根据所述电阻抗成像信号样本数据,对预设的第二分类器进行训练,具体为:
当依次进行预设的各静态动作时,通过电阻抗成像信号采集设备采集预设肌肉位置的电阻抗成像信号,得到电阻抗成像信号样本序列;
根据预设的各静态动作的保持时间以及预设的休息时间,在所述电阻抗成像信号样本序列中确定各静态动作对应的电阻抗成像信号;
对各静态动作对应的电阻抗成像信号进行第二预处理和第二特征提取,得到电阻抗成像信号样本数据,所述第二预处理包括滑动加窗处理,提取的第二特征数据包括第二标签数据、均方根值、绝对均值以及标准差值,所述第二标签数据为各静态动作对应的电阻抗成像信号中预设第二比例的数据;
构建第二分类器模型,并根据所述电阻抗成像信号样本数据,对所述第二分类器进行训练。
5.根据权利要求2所述的动态动作识别方法,其特征在于,所述第一分类器模型为LSTM分类器模型,所述第二分类器模型为SVM分类器模型。
6.根据权利要求1所述的动态动作识别方法,其特征在于,所述同时采集得到待识别肌电信号和待识别电阻抗成像信号,具体为:
采集待识别动作信号,所述待识别动作信号包括肌电信号和电阻抗成像信号;
对所述肌电信号进行第一预处理和第一特征提取,得到待识别肌电信号,所述第一预处理包括平滑滤波、归一化以及滑动加窗处理,提取的第一特征数据包括第一标签数据、过零点数、斜率变化以及一维数据,所述第一标签数据为所述肌电信号中预设第一比例的数据,所述一维数据包括均方根值、绝对均值、标准差值以及带宽;
对所述电阻抗成像信号进行第二预处理和第二特征提取,得到待识别电阻抗成像信号,所述第二预处理包括滑动加窗处理,提取的第二特征数据包括第二标签数据、均方根值、绝对均值以及标准差值,所述第二标签数据为所述电阻抗成像信号中预设第二比例的数据。
7.一种动态动作识别装置,其特征在于,包括:
采集模块,用于同时采集得到待识别肌电信号和待识别电阻抗成像信号;
第一识别模块,用于通过预设的训练好的第一分类器模型,对所述待识别肌电信号进行识别,得到预测概率矩阵,所述预测概率矩阵包括各动态动作对应的置信度;
第二识别模块,用于通过预设的训练好的第二分类器模型,对所述待识别电阻抗成像信号进行识别,得到静态动作识别结果;
修正模块,用于根据所述静态动作识别结果,对所述预测概率矩阵中各动态动作对应的权重进行修正,所述预测概率矩阵中各动态动作对应的权重初始值一致;
确定模块,用于根据所述预测概率矩阵中各动态动作对应的权重和置信度,计算各动态动作对应的综合概率,并根据各动态动作对应的综合概率,确定动态动作识别结果;
所述修正模块包括:
第一增加单元,用于将包含所述静态动作识别结果的动态动作作为第一动态动作,并增加所述预测概率矩阵中所述第一动态动作对应的权重;
第二增加单元,用于根据预设历史时段内的静态动作识别结果,确定第二动态动作,并增加所述预测概率矩阵中所述第二动态动作对应的权重。
8.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一所述的动态动作识别方法。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-6任一项所述的动态动作识别方法的步骤。
CN202311498828.XA 2023-11-13 2023-11-13 动态动作识别方法、装置、设备和存储介质 Active CN117238037B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311498828.XA CN117238037B (zh) 2023-11-13 2023-11-13 动态动作识别方法、装置、设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311498828.XA CN117238037B (zh) 2023-11-13 2023-11-13 动态动作识别方法、装置、设备和存储介质

Publications (2)

Publication Number Publication Date
CN117238037A CN117238037A (zh) 2023-12-15
CN117238037B true CN117238037B (zh) 2024-03-29

Family

ID=89098652

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311498828.XA Active CN117238037B (zh) 2023-11-13 2023-11-13 动态动作识别方法、装置、设备和存储介质

Country Status (1)

Country Link
CN (1) CN117238037B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013144866A1 (en) * 2012-03-27 2013-10-03 B10Nix S.R.L. System for the acquisition and analysis of muscle activity and operation method thereof
CN108268818A (zh) * 2016-12-31 2018-07-10 广州映博智能科技有限公司 基于表面肌电信号和加速度的手势识别方法
WO2019174439A1 (zh) * 2018-03-13 2019-09-19 腾讯科技(深圳)有限公司 图像识别方法、装置、终端和存储介质
CN111553307A (zh) * 2020-05-08 2020-08-18 中国科学院合肥物质科学研究院 一种融合生物电阻抗信息和肌电信息的手势识别***
CN113111831A (zh) * 2021-04-23 2021-07-13 浙江工业大学 一种基于多模态信息融合的手势识别技术
WO2021143353A1 (zh) * 2020-01-13 2021-07-22 腾讯科技(深圳)有限公司 一种手势信息处理方法、装置、电子设备及存储介质
CN113190599A (zh) * 2021-06-30 2021-07-30 平安科技(深圳)有限公司 应用用户行为数据的处理方法、装置、设备及存储介质
CN113221694A (zh) * 2021-04-29 2021-08-06 苏州大学 一种动作识别方法
CN113505711A (zh) * 2021-07-16 2021-10-15 北京理工大学 一种基于肌电信号和Leap Motion的实时手势识别***
CN115953840A (zh) * 2022-12-29 2023-04-11 杭州玉甄数码科技有限公司 基于并行网络的手势识别方法及其***

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013144866A1 (en) * 2012-03-27 2013-10-03 B10Nix S.R.L. System for the acquisition and analysis of muscle activity and operation method thereof
CN108268818A (zh) * 2016-12-31 2018-07-10 广州映博智能科技有限公司 基于表面肌电信号和加速度的手势识别方法
WO2019174439A1 (zh) * 2018-03-13 2019-09-19 腾讯科技(深圳)有限公司 图像识别方法、装置、终端和存储介质
WO2021143353A1 (zh) * 2020-01-13 2021-07-22 腾讯科技(深圳)有限公司 一种手势信息处理方法、装置、电子设备及存储介质
CN111553307A (zh) * 2020-05-08 2020-08-18 中国科学院合肥物质科学研究院 一种融合生物电阻抗信息和肌电信息的手势识别***
CN113111831A (zh) * 2021-04-23 2021-07-13 浙江工业大学 一种基于多模态信息融合的手势识别技术
CN113221694A (zh) * 2021-04-29 2021-08-06 苏州大学 一种动作识别方法
CN113190599A (zh) * 2021-06-30 2021-07-30 平安科技(深圳)有限公司 应用用户行为数据的处理方法、装置、设备及存储介质
CN113505711A (zh) * 2021-07-16 2021-10-15 北京理工大学 一种基于肌电信号和Leap Motion的实时手势识别***
CN115953840A (zh) * 2022-12-29 2023-04-11 杭州玉甄数码科技有限公司 基于并行网络的手势识别方法及其***

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Progress in Human Lower Extremity Motion Recognition and Prediction Based on Surface Electromyography;DONG Zeping; QIU Dawei; LIU Jing;Journal of Computer Engineering & Applications;第59卷(第14期);39-50 *
基于表面肌电和组织阻抗信息融合的手势识别研究;王远;袁思敏;黄品高;王辉;于文龙;付梦龙;李光林;;集成技术(第03期);28-37 *

Also Published As

Publication number Publication date
CN117238037A (zh) 2023-12-15

Similar Documents

Publication Publication Date Title
Zhao et al. Noise rejection for wearable ECGs using modified frequency slice wavelet transform and convolutional neural networks
Gao et al. Deep neural networks for sensor-based human activity recognition using selective kernel convolution
Yuan et al. Muvan: A multi-view attention network for multivariate temporal data
CN111209885A (zh) 一种手势信息处理方法、装置、电子设备及存储介质
CN108304917A (zh) 一种基于lstm网络的p300信号检测方法
CN107951485A (zh) 基于人工智能自学习的动态心电图分析方法和装置
CN103038772A (zh) 预测患者的存活性的方法
CN110619322A (zh) 一种基于多流态卷积循环神经网络的多导联心电异常信号识别方法及***
CN109009102B (zh) 一种基于脑电图深度学习的辅助诊断方法及***
CN103584852A (zh) 个性化心电图智能辅助诊断装置与方法
CN110946566B (zh) 一种基于U-Net网络的心拍分类方法、装置、设备及存储介质
CN108681685A (zh) 一种基于人体表面肌电信号的躯干动作意图识别方法
Shin et al. Korean sign language recognition using EMG and IMU sensors based on group-dependent NN models
CN109765996A (zh) 基于fmg臂带的对穿戴位置偏移不敏感的手势检测***和方法
CN113111831A (zh) 一种基于多模态信息融合的手势识别技术
CN103886184A (zh) 一种心脏病理识别模型的构建方法
CN110598676A (zh) 基于置信度得分模型的深度学习手势肌电信号识别方法
CN109805924A (zh) 基于cnn的心电信号处理方法及心律不齐检测***
CN117457229A (zh) 基于人工智能的麻醉深度监测***及方法
CN104679967A (zh) 一种判断心理测试可靠性的方法
CN114548165A (zh) 一种可跨用户的肌电模式分类方法
CN117238037B (zh) 动态动作识别方法、装置、设备和存储介质
Gong et al. Accurate cirrhosis identification with wrist-pulse data for mobile healthcare
CN108962379A (zh) 一种脑神经***疾病的手机辅助检测***
Zohirov Classification Of Some Sensitive Motion Of Fingers To Create Modern Biointerface

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant