CN115754956A - 基于包络数据时间序列的毫米波雷达手势识别方法 - Google Patents

基于包络数据时间序列的毫米波雷达手势识别方法 Download PDF

Info

Publication number
CN115754956A
CN115754956A CN202211312638.XA CN202211312638A CN115754956A CN 115754956 A CN115754956 A CN 115754956A CN 202211312638 A CN202211312638 A CN 202211312638A CN 115754956 A CN115754956 A CN 115754956A
Authority
CN
China
Prior art keywords
data
gesture
radar
millimeter wave
envelope
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211312638.XA
Other languages
English (en)
Inventor
黄岩
刘育铭
刘江
穆志弘
王韵旋
潘晓辉
顾荣华
洪伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangsu Yilian Communication Technology Co ltd
Nanjing Ruima Millimeter Wave Terahertz Technology Research Institute Co ltd
Original Assignee
Jiangsu Yilian Communication Technology Co ltd
Nanjing Ruima Millimeter Wave Terahertz Technology Research Institute Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangsu Yilian Communication Technology Co ltd, Nanjing Ruima Millimeter Wave Terahertz Technology Research Institute Co ltd filed Critical Jiangsu Yilian Communication Technology Co ltd
Priority to CN202211312638.XA priority Critical patent/CN115754956A/zh
Publication of CN115754956A publication Critical patent/CN115754956A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Radar Systems Or Details Thereof (AREA)

Abstract

一种基于包络数据时间序列的毫米波雷达手势识别方法,属于毫米波雷达技术领域。包括以下步骤:步骤S1:使用毫米波雷达采集不同手势的数据形成包络数据,每一个手势的包络数据为帧序‑距离单元组织形式的二维矩阵数据;步骤S2:对步骤S1读取的包络数据做预处理;步骤S3:将步骤S2预处理后的数据放入LSTM网络进行特征提取;步骤S4:通过一个全连接层的分类器得到手势识别的结果。本发明提出了基于LSTM的将包络数据划分时间序列的手势识别方法,使用单发单收极窄脉冲雷达来收集手势数据并利用该方法进行手势识别分类,实现用最简单的数据、更可靠的算法、较低的计算复杂度实现较高的手势识别准确率。

Description

基于包络数据时间序列的毫米波雷达手势识别方法
技术领域
本发明属于毫米波雷达技术领域,尤其涉及一种基于包络数据时间序列的毫米波雷达手势识别分类问题。
背景技术
随着雷达技术的发展以及雷达***的成本降低,雷达在日常生活中的应用也越来越广泛。以心跳检测为例,专业的心跳检测***(心电仪)往往较为复杂,需要医护人员进行操作;而普通人日常使用的心跳检测***(血压仪、智能手表等)又普遍较为昂贵。而基于毫米波雷达的心跳检测***,其成本十分低廉,且具有较强的可靠性。只需要将掌心大小的雷达放置在特定位置,便可进行检测,并可以附加许多其他功能,如呼吸检测,甚至是手势识别。且基于毫米波雷达的***不受环境光照的影响,且功耗极低,可靠性强,可以做到全天候全时段工作。此外高频雷达信号具有高穿透性,与基于低频信号的***相比具有不可比拟的优势。毫米波雷达还有着体积小、易于集成的特性,可以轻易嵌入到其他设备内部,极大地拓展了使用场景。对于诸如目标检测这样的宏观场景,雷达探测范围广,且不易受屏蔽物干扰;对于诸如手势识别这样的微观场景,雷达识别精度高,抗干扰能力强。这样的毫米波雷达***可以集成在绝大部分移动设备中(手机),也可以制成外接式的扩展设备,应用场景非常灵活。
而在毫米波雷达的诸多应用中,手势识别的实现相对复杂。目前的手势识别算法主要分为二维和三维。二维手势识别算法主要涉及图像处理技术,使用基于计算机视觉的方法实现手势分类;而三维手势识别相比于二维数据还多了深度信息,而毫米波雷达能够很容易得到手势的三维回波数据。因此近年来,各种基于毫米波雷达的手势识别方法得到了广泛研究。这其中使用最多的是基于深度学习神经网络的手势识别算法。
传统的基于神经网络的手势识别算法,通常使用多发多收的多通道雷达***。且一般使用精度较高的线性调频脉冲信号(Linear Frequency Modulation,LFM)雷达进行收发,先对接收数据进行信号处理,如滤波、快速傅里叶变换(FFT)、短时傅里叶变换(STFT)等等;然后在有大量数据作为训练样本的基础上,搭建神经网络对数据进行分析处理,从而实现手势分类的任务。这其中卷积神经网络(CNN)的使用可以说非常广泛。以上手势识别的方法准确率高,且稳健性也较好,但LFM雷达***相对较为昂贵,信号处理的算法也较为复杂,在集成***算力和成本有限的情况下这种方法就不太适用;而基于CNN的深度学习模型的训练成本根据网络的深度和复杂程度差异很大,在使用包络数据时CNN本身也存在一些问题:
1.直接对距离单元—帧序的二维数据进行卷积,在数据量小的情况下容易过拟合,限制了判别的准确率,同时也影响模型的稳健性。
2.手势包络数据本质上是随时间规律变化的序列数据,CNN往往忽略了数据在时间维上的依赖性,进一步使得网络的普适性变差,且可解释性几乎没有。
发明内容
针对上述传统的基于CNN的手势识别算法的优劣,本发明提出了基于LSTM的将包络数据划分时间序列的手势识别方法,使用单发单收极窄脉冲雷达来收集手势数据并利用该方法进行手势识别分类,实现用最简单的数据、更可靠的算法、较低的计算复杂度实现较高的手势识别准确率。
一种基于包络数据时间序列的毫米波雷达手势识别方法,包括以下步骤:
步骤S1:使用毫米波雷达采集不同手势的数据形成包络数据,每一个手势的包络数据为帧序-距离单元组织形式的二维矩阵数据;
步骤S2:对步骤S1读取的包络数据做预处理;
步骤S3:将步骤S2预处理后的数据放入LSTM网络进行特征提取;
步骤S4:通过一个全连接层的分类器得到手势识别的结果。
优选的是,本发明的毫米波雷达通过USB接口与PC连接,使用雷达数据接收上位机程序读取并保存数据;采集手势数据时使用串口通信的USB-A雷达平台,测试时使用串口通信USB-A平台以及基于HID通信协议的USB-C平台。
优选的是,本发明每个包络数据的帧长f在10~30帧之间,在串口通信的数据传输速率下相当于每个手势的采集时间为2~3秒;每个数据的距离单元数均为D0;由上位机程序采集数据后将数据打包保存为txt或mat格式以便后续处理。
优选的是,本发明采集手势数据时将手放在毫米波雷达正前方,雷达平放于桌上或托于手掌;在一定时间内做出相应的手势动作,脉冲雷达信号经手部反射后由接收天线接收并于雷达芯片内部预先处理,随后产生的包络数据直接传回PC端并通过上位机程序打包保存。
优选的是,本发明的毫米波雷达为任意的单发单收PCR雷达或极窄脉冲雷达。
优选的是,本发明的预处理过程包括但不限于距离维降采样、归一化、尺寸统一,三种数据预处理方法的具体实现如下:
①将所有数据按包络幅值最大值归一化;
②将所有数据在距离维降采样到Ddown
③将所有数据在帧序维升采样到Fup,即通过②③两步实现数据尺寸规格化。
优选的是,本发明用于提取特征的LSTM网络部分根据包络数据的尺寸、雷达的信号特性自由调整网络参数,LSTM网络的部分参数定义如下:
输入数据的特征数为Hin=Ddown,即输入数据在距离维的长度;输入时间序列长度为Lin=Fup,即将包络数据按帧序划分为时间序列输入循环神经网络;隐藏层特征数为Hcell,即网络输出的矩阵数据的特征数,看作输出数据的距离维长度,该参数根据网络的实际表现进行调整;输出数据的特征数为Hout=Hcell;RNN层数为DR;组大小为NB;使用单向LSTM网络;该网络输出的数据为矩阵,尺寸为(NB,Lin,Hout);其余参数根据需要自行设定调整。
优选的是,本发明用于分类的全连接层网络部分并无特定形式,使用激活层、BN层、Dropout层用于提高网络性能,全连接层的分类器将LSTM网络输出的数据映射到一个一维张量G1×M,其中M为需要识别的手势种类数;G1×M张量的每一个值对应着该包络数据判别为某种类型手势的概率gi,即判别结果为:
Figure BDA0003907644400000031
其中i为判别出的手势编号。
本发明只需使用最简单的单发单收PCR雷达(脉冲相干雷达)或极窄脉冲雷达,这种雷达成本低,可靠性和识别精度对于手势识别来说也足够。尽管脉冲雷达也可以获取不同形式的雷达数据(包络数据、IQ数据等),但本发明仅使用最简单的包络数据,其数据处理较为简单,且包含的信息能够满足简单的手势分类。
且本发明使用基于循环神经网络(RNN)的长短期记忆网络(LSTM)。传统的RNN虽然在时间序列类的数据上有着较好的表现,但当需要使用的数据信息离当前节点过远的时候,RNN就会丧失学习能力从而降低网络的效果。因此就需要使用LSTM网络,这是一种特殊的RNN形式,它可以学习长期依赖信息,而并不需要付出很大的学习成本和代价。包络数据虽然本质上是二维图像数据,但如果将其按时间序列划分,即可使用LSTM网络进行训练。
本发明的识别方法从技术原理上来说就要简单许多。首先本方法对雷达***的要求较低,只需要最简单的单发单收***,成本较低。其次本方法对得到的手势包络数据仅需做简单的预处理,无需复杂的信号处理算法。最后本方法使用基于时间序列方法的LSTM网络进行数据训练和手势识别分类,总体计算复杂度较低,准确率较高,稳健性较好,识别速度快,可以适用于各种级别的集成***。
附图说明
图1a为从正前方靠近的手势示意图。
图1b为从正前方远离的手势示意图。
图1c为在正前方一定距离来回挥手的手势示意图。
图1d为在正前方一定距离握拳的手势示意图。
图2为本方法所使用的LSTM网络的结构示意图。
图3为本方法所使用的基于LSTM网络的模型结构示意图。
图4为雷达采集到的其中一组包络数据的包络图(二维,幅值归一化)。
图5为雷达采集到的其中一组包络数据的包络图(三维,幅值未归一化)。
具体实施方式
下面结合附图对本发明作更进一步的说明。
本发明是一种手势识别算法,基于简单单发单收的PCR雷达***。使用Acconeer公司的A111雷达,该雷达有三种预设数据采集模式:包络(Envelope)、IQ、稀疏(Sparse)。本发明采用的是包络(Envelope)模式。雷达采集的数据实时传回PC并由上位机程序进行数据存储,雷达芯片仅用于收发信号采集数据,数据处理均在PC端完成。所有实验过程均无需在特殊的微波暗室中完成。
由于该雷达所能得到的数据有限,本发明仅使用包络数据。结合雷达的性能和实际应用,本实例设计了4种简单且区分度较高的手势动作,这些动作包含不同方位、幅度的运动手势。本发明设计的基本手势包括:如图1a-图1d所示,分别对应从雷达正前方靠近手势、从雷达正前方远离手势、在雷达正前方一定距离来回挥手手势、在雷达正前方一定距离握拳手势,图1a-图1d所示均未连接雷达。
由于该毫米波雷达参数已经预先配置,且给出的使用说明中已给出雷达的详细参数,因此这里不作具体说明。本发明的识别方法也无需使用到雷达的诸多参数,只需调整雷达的有效测量范围,在该范围内距离单元数才有效,本方法的测量中雷达测量范围约为10cm~30cm。在预先的测试中已经测得了该PCR雷达的距离单元为0.5mm。在收集手势数据的上位机程序里设置波特率为92160,单次打包数据的chirp信号上限为30(实际采集为29帧),距离单元总数为414,数据保存格式为txt和mat,使用的数据为包络(Envelope)数据。经过多次测试30帧数据的时间可以保证手势动作采集的完整性。
脉冲雷达信号经手部反射后由接收天线接收并于雷达芯片内部预先处理,随后产生的包络数据直接传回PC端并通过上位机程序打包保存,无需其他数据处理。收集的手势数据以txt和mat格式保存在本地。mat数据保存为f*414的矩阵数据(10<f<30),可由Matlab软件直接打开;txt文件为文本文档,每帧单个距离单元的数据占一行,每一帧的414个数据由’$’开始,由’#’结束。一次手势行为的雷达数据打包在同一个文件中,即每个文件包含同一手势的f帧数据。通过反复采集,得到多个手势的多个样本数据,这些样本数据按手势分类保存在对应的文件夹路径下,并分成训练集和测试集,方便后续处理。
先使用matlab读取手势mat文件,绘制包络图用于分析数据。mat数据按照每个chirp采样数(距离单元数)×chirp数的格式进行组织,得到一个距离单元-帧序的矩阵Sraw,该矩阵为f*414的矩阵。在距离维,第n列数据表征了距离雷达n·ΔR+R0处目标的包络幅值,幅值越大标明该位置反射波信号越强,即物体的有效反射面在该位置附近;在时序维,第m行数据表征了雷达在m·ΔT慢时间的全部距离维的包络幅值。其中ΔR为距离单元,R0为距离单元偏置(即雷达开始扫频距离),ΔT为PCR雷达每个帧采样的帧持续时间,即慢时间。
对Sraw的原始包络数据直接绘制距离单元-帧序的二维图和三维图,使用某一次挥手数据绘制的图像如图4、图5所示。其中二维包络图为包络幅值归一化后的图像,对每一帧绘制距离单元-归一化幅值图,并绘制将幅值转化为颜色的二维距离单元-帧序图;三维图则未作归一化处理,x轴为距离单元,y轴为帧序,z轴为包络数据幅值。由图4的二维图像可知挥手数据的距离单元随时间小幅抖动,由图5的三维图像可知挥手数据的回波能量随时间大幅变化,此可以作为判断挥手动作的依据,其余手势数据同理。
本发明的手势识别方法部分使用Python进行编程,使用的机器学习库为Pytorch,Pytorch库有C语言版本的libtorch库,提供了齐全的Python到C++的接口。使用的数据为mat数据。使用Python编写的脚本程序可以很轻易地被其他程序调用,也可以转化为C语言,方便嵌入式开发。
一种基于包络数据时间序列的毫米波雷达手势识别方法,
(1)使用的毫米波雷达为Acconeer的A111雷达芯片成品,相关参数在使用时均已调试完毕,通过官方的接口程序也可以在后续使用中自主修改一些参数。雷达芯片通过USB接口与PC连接,使用A111开发板雷达数据接收上位机程序可以读取并保存数据。本方法中采集手势数据时使用串口通信的USB-A雷达平台,测试时使用串口通信USB-A平台以及基于HID通信协议的USB-C平台。
(2)本发明使用的雷达不需要在特定暗室中进行数据采集。收集手势数据时测试员将手放在毫米波雷达正前方,雷达可以平放于桌上或托于手掌。测试员在一定时间内做出相应的手势动作,随后产生的包络数据直接传回PC端并通过上位机程序打包保存为txt或mat格式以便后续处理。考虑到不同人不同手势的时间会有差别,每个数据的帧长f在10~30帧之间,在串口通信的数据传输速率下相当于每个手势的采集时间为2~3秒;每个数据的距离单元数均为D0。每一个手势的包络数据为帧序-距离单元组织形式的二维矩阵数据。
(3)对所有收集的包络数据进行分类存放。由Python读取所有mat数据文件,使用的机器学习库为Pytorch库。搭建基于LSTM的神经网络进行训练,并将最终训练好的网络模型用于测试。首先对读取的包络数据做预处理,然后将预处理后的数据放入LSTM网络进行特征提取,最后通过一个全连接层(FC层)的分类器可以得到手势识别的结果。
(4)数据预处理的方法包括但不限于距离维降采样、归一化、尺寸统一等。上述提到的三种数据预处理方法的具体实现如下:
①将所有数据按包络幅值最大值归一化。
②将所有数据在距离维降采样到Ddown
③将所有数据在帧序维升采样到Fup。(本方法下使用特定平台时Fup=30)。即通过②③两步实现数据尺寸规格化。
(5)用于提取特征的LSTM网络部分可根据包络数据的尺寸、雷达的信号特性等其他因素自由调整网络参数。LSTM网络的部分参数定义如下:
①输入数据的特征数(input_size)为Hin=Ddown,即输入数据在距离维的长度;
②输入时间序列长度为Lin=Fup,即将包络数据按帧序划分为时间序列输入循环神经网络;
③隐藏层特征数(hidden_size)为Hcell,即网络输出的矩阵数据的特征数,可看作输出数据的距离维长度,该参数根据网络的实际表现进行调整;
④输出数据的特征数为Hout=Hcell
⑤RNN层数(num_layers)为DR
⑥组大小(batch_size)为NB
⑦使用单向LSTM网络;
⑧该网络输出的数据为矩阵,尺寸为(NB,Lin,Hout)。其余参数可根据需要自行设定调整。
(6)用于分类的全连接(FC)层网络部分并无特定形式。FC层的分类器将LSTM网络输出的数据映射到一个一维张量G1×M,其中M为需要识别的手势种类数。G1×M张量的每一个值对应着该包络数据判别为某种类型手势的概率gi,即判别结果为:
Figure BDA0003907644400000071
其中i为判别出的手势编号。
本发明识别方法的重点在于在Python中搭建LSTM网络模型以及训练模型,具体步骤如下:
(1)按顺序读取每个手势文件夹下的mat文件,并将训练集和测试集的所有数据按[‘data’,‘label’]的形式保存为数据集,使用Pytorch库提供的dataset类继承可以很方便地建立数据集,数据将保存为张量(Tensor)形式,方便后续直接使用。
(2)从训练集中读取一个手势数据的Tensor,读取其数据部分,即’data’部分,记该部分为A,A也是一个Tensor数据,其尺寸为[1,f,D0]。对其按顺序进行如下数据预处理:
①将A按包络幅值最大值归一化得到数据
Figure BDA0003907644400000081
即矩阵A中每个元素除以A中元素的最大值,得到归一化矩阵
Figure BDA0003907644400000082
Figure BDA0003907644400000083
②将
Figure BDA0003907644400000084
在距离维降采样到Ddown=100,使用Pytorch的torch.nn.functional库的默认函数interpolate。即
Figure BDA0003907644400000085
的尺寸变为
Figure BDA0003907644400000086
③将
Figure BDA0003907644400000087
在帧序维升采样到Fup=30,使用Pytorch的torch.nn.functional库的默认函数interpolate。即
Figure BDA0003907644400000088
的尺寸变为
Figure BDA0003907644400000089
即通过以上步骤实现数据预处理,记预处理后的数据为
Figure BDA00039076444000000810
(3)建立用于特征提取的LSTM模型。使用Pytorch库封装好的LSTM网络torch.nn.LSTM。该网络的结构如图2,大的圆角矩形框内的部分为一个循环单元,即一个“Cell”。设预处理后的数据A的每一帧数据可以表示为时间序列X(t,τ)={x1(t),x2(t),...,xτ(t)|t∈[1,T]}为给定的学习数据,它的展开长度为τ,即τ为特征数(即A的距离单元数100);t为时间步(time-step),即序列的演进方向;T为序列的时间维长度(即A的帧数30)。对于按帧组织的二维包络数据,可以认为τ是每帧的距离单元总数,t是帧序,T是总帧数。图2中三个σ门分别为遗忘门,输入门和输出门。输入门决定X(t)和h(t-1)输入到c(t)的权重;遗忘门决定c(t-1)迭代到c(t)的权重;输出门决定c(t)输出到h(t)的权重。输出状态同时也是隐藏层状态,将会作为下一次迭代重复的输入。具体的循环单元结构中每个门所代表的运算以及整个循环单元对输入X(t)进行运算得到输出h(t)和c(t)的过程如下:
h(t)=go(t)·fh(c(t))
c(t)=gf(t)·c(t-1)+gi(t)·fc(vh(t-1)+uX(t)+b)
gi(t)=Sigmoid(vih(t-1)+uiX(t)+bi)
gf(t)=Sigmoid(vfh(t-1)+ufX(t)+bf)
go(t)=Sigmoid(voh(t-1)+uoX(t)+bo)
其中h(t)为隐藏层状态(hidden state),
Figure BDA0003907644400000091
为上一时刻的***的内部状态(cell state),o(t)为输出状态。g(t)为门控函数,下标i、f、o分别表示输入们、遗忘门、输出门,图中均为Sigmoid函数(用σ表示)。fh(·)和fc(·)分别表示h(t)和c(t)的激活函数,图中均为Tanh函数。v、u为权重系数,b为偏置。
使用的torch.nn.LSTM函数部分参数定义如下:
①input_size设为100,此参数为输入数据的特征数,即输入数据在距离维的长度τ,记Hin=Ddown=100;
②输入时间序列长度记为Lin=Fup=30,即将包络数据按帧序划分为时间序列输入LSTM网络的序列长度T,此参数由输入数据决定,无需单独设定;
③hidden_size设为20,此参数为隐藏层特征数,记为Hcell=20,即网络输出的h(t)在距离维的长度,该参数根据网络的实际表现进行调整;
④输出数据的特征数记为Hout=Hcell=20,即网络输出的o(t)在距离维的长度,该参数由hidden_size决定,无需单独设定;
⑤num_layers设为2,此参数为LSTM网络层数,记为DR=2;
⑥batch_size设为1,此参数为数据组大小,记为NB=1;
⑦bidirectional设为False,此参数表示使用单向LSTM网络;
其余参数可根据需要自行设定调整。
该网络输出的数据为Tensor,尺寸为(NB,Lin,Hout),记LSTM层输出的Tensor数据为B,其尺寸为B1×30×20
(4)建立用于分类的FC层网络,如图3。输入为B,输出为一维Tensor,记为O1×M,M=5为需要识别的手势种类,包括设计的4种基本手势以及无效手势。该网络自上而下的组成如下:
①Flatten层,用于数据展平,将输入的数据B展平为一维Tensor,其长度为NB×Lin×Hout=1×30×20=600。
②Dropout层,以默认0.5的概率丢弃上一层的数据。
③FC层,单个全连接层,用于将数据映射到手势空间O1×M
(5)通过softmax层将O1×M映射到元素合为零的手势概率空间G1×M,其中M为需要识别的手势种类数。G1×M张量的每一个值对应着该包络数据判别为某种类型手势的概率,即判别结果为:
Figure BDA0003907644400000101
其中i为判别出的手势编号。
(6)将判别结果i与数据的’label’,即标签对比,通过交叉熵损失函数计算损失值,进行反馈。
(7)重复(2)-(6)步骤至训练集每一数据都被加入网络。
(8)重复(7)步骤200轮次。
完成以上步骤则该模型训练完成。图3为本文训练LSTM网络的结构图,Cell为LSTM循环单元,Flatten为数据展平层,Dropout为丢弃层,Full Connect为全连接网络层,Softmax为归一化分类层。训练好的模型可以直接读取,并读取测试集的数据进行模型测试。以本发明识别方法所得的基于LSTM时间序列的模型在数据集上的识别准确率能达到93%。

Claims (8)

1.一种基于包络数据时间序列的毫米波雷达手势识别方法,其特征在于,包括以下步骤:
步骤S1:使用毫米波雷达采集不同手势的数据形成包络数据,每一个手势的包络数据为帧序-距离单元组织形式的二维矩阵数据;
步骤S2:对步骤S1读取的包络数据做预处理;
步骤S3:将步骤S2预处理后的数据放入LSTM网络进行特征提取;
步骤S4:通过一个全连接层的分类器得到手势识别的结果。
2.根据权利要求1所述的基于包络数据时间序列的毫米波雷达手势识别方法,其特征在于,毫米波雷达通过USB接口与PC连接,使用雷达数据接收上位机程序读取并保存数据;采集手势数据时使用串口通信的USB-A雷达平台,测试时使用串口通信USB-A平台以及基于HID通信协议的USB-C平台。
3.根据权利要求1所述的基于包络数据时间序列的毫米波雷达手势识别方法,其特征在于,每个包络数据的帧长f在10~30帧之间,在串口通信的数据传输速率下相当于每个手势的采集时间为2~3秒;每个数据的距离单元数均为D0;由上位机程序采集数据后将数据打包保存为txt或mat格式以便后续处理。
4.根据权利要求1所述的基于包络数据时间序列的毫米波雷达手势识别方法,其特征在于,采集手势数据时将手放在毫米波雷达正前方,雷达平放于桌上或托于手掌;在一定时间内做出相应的手势动作,脉冲雷达信号经手部反射后由接收天线接收并于雷达芯片内部预先处理,随后产生的包络数据直接传回PC端并通过上位机程序打包保存。
5.根据权利要求1所述的基于包络数据时间序列的毫米波雷达手势识别方法,其特征在于,所述毫米波雷达为任意的单发单收PCR雷达或极窄脉冲雷达。
6.根据权利要求1所述的基于包络数据时间序列的毫米波雷达手势识别方法,其特征在于,预处理包括但不限于距离维降采样、归一化、尺寸统一,三种数据预处理方法的具体实现如下:
①将所有数据按包络幅值最大值归一化;
②将所有数据在距离维降采样到Ddown
③将所有数据在帧序维升采样到Fup,即通过②③两步实现数据尺寸规格化。
7.根据权利要求6所述的基于包络数据时间序列的毫米波雷达手势识别方法,其特征在于,用于提取特征的LSTM网络部分根据包络数据的尺寸、雷达的信号特性自由调整网络参数,LSTM网络的部分参数定义如下:
输入数据的特征数为Hin=Ddown,即输入数据在距离维的长度;输入时间序列长度为Lin=Fup,即将包络数据按帧序划分为时间序列输入循环神经网络;隐藏层特征数为Hcell,即网络输出的矩阵数据的特征数,看作输出数据的距离维长度,该参数根据网络的实际表现进行调整;输出数据的特征数为Hout=Hcell;RNN层数为DR;组大小为NB;使用单向LSTM网络;该网络输出的数据为矩阵,尺寸为(NB,Lin,Hout);其余参数根据需要自行设定调整。
8.根据权利要求7所述的基于包络数据时间序列的毫米波雷达手势识别方法,其特征在于,用于分类的全连接层网络部分并无特定形式,使用激活层、BN层、Dropout层用于提高网络性能,全连接层的分类器将LSTM网络输出的数据映射到一个一维张量G1×M,其中M为需要识别的手势种类数;G1×M张量的每一个值对应着该包络数据判别为某种类型手势的概率gi,即判别结果为:
Figure FDA0003907644390000021
其中i为判别出的手势编号。
CN202211312638.XA 2022-10-25 2022-10-25 基于包络数据时间序列的毫米波雷达手势识别方法 Pending CN115754956A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211312638.XA CN115754956A (zh) 2022-10-25 2022-10-25 基于包络数据时间序列的毫米波雷达手势识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211312638.XA CN115754956A (zh) 2022-10-25 2022-10-25 基于包络数据时间序列的毫米波雷达手势识别方法

Publications (1)

Publication Number Publication Date
CN115754956A true CN115754956A (zh) 2023-03-07

Family

ID=85353632

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211312638.XA Pending CN115754956A (zh) 2022-10-25 2022-10-25 基于包络数据时间序列的毫米波雷达手势识别方法

Country Status (1)

Country Link
CN (1) CN115754956A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116842457A (zh) * 2023-07-17 2023-10-03 中国船舶集团有限公司第七二三研究所 一种基于长短时记忆网络的雷达辐射源个体识别方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116842457A (zh) * 2023-07-17 2023-10-03 中国船舶集团有限公司第七二三研究所 一种基于长短时记忆网络的雷达辐射源个体识别方法

Similar Documents

Publication Publication Date Title
CN111160139B (zh) 心电信号的处理方法、装置及终端设备
CN107024685A (zh) 一种基于距离‑速度特征的手势识别方法
CN111178331B (zh) 雷达图像识别***、方法、设备及计算机可读存储介质
CN111738060A (zh) 基于毫米波雷达的人体步态识别***
CN110007366A (zh) 一种基于多传感器融合的生命搜寻方法以及***
WO2023029390A1 (zh) 一种毫米波雷达手势检测识别方法
CN113408328B (zh) 基于毫米波雷达的手势分割与识别算法
CN111427031A (zh) 一种基于雷达信号的身份及手势识别方法
Kim et al. Radar-based human activity recognition combining range–time–Doppler maps and range-distributed-convolutional neural networks
CN115754956A (zh) 基于包络数据时间序列的毫米波雷达手势识别方法
Ullmann et al. A survey on radar-based continuous human activity recognition
CN116184394A (zh) 基于多域谱图与多分辨率融合的毫米波雷达手势识别方法及***
CN110084209A (zh) 一种基于父子分类器的实时性手势识别方法
Li et al. Recognizing strawberry appearance quality using different combinations of deep feature and classifiers
CN112826483B (zh) 基于指尖视频的心率检测方法、***及装置
CN110008847A (zh) 一种基于卷积神经网络的泳姿识别方法
CN112380903B (zh) 一种基于WiFi-CSI信号增强的人体活动识别方法
CN117523675A (zh) 一种基于神经网络的人体动作识别方法、装置及介质
CN109034093A (zh) 一种快速动态手语识别算法的设计与实现
CN116794602A (zh) 一种应用于干扰环境下的毫米波雷达动态手势识别方法
CN110309689B (zh) 基于超宽带雷达的Gabor域手势识别检测方法
CN114511873B (zh) 基于毫米波雷达成像的静态手势识别方法及装置
CN113238222B (zh) 一种基于包络密度特征的人体动作识别方法
CN117312935A (zh) 动作类别识别方法、装置、计算机设备和存储介质
Quanyu Pulse signal analysis based on deep learning network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination