CN112181151A - 基于手势识别的无人机控制方法及手势识别遥控无人机 - Google Patents
基于手势识别的无人机控制方法及手势识别遥控无人机 Download PDFInfo
- Publication number
- CN112181151A CN112181151A CN202011144731.5A CN202011144731A CN112181151A CN 112181151 A CN112181151 A CN 112181151A CN 202011144731 A CN202011144731 A CN 202011144731A CN 112181151 A CN112181151 A CN 112181151A
- Authority
- CN
- China
- Prior art keywords
- unmanned aerial
- gesture
- aerial vehicle
- gesture recognition
- control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64C—AEROPLANES; HELICOPTERS
- B64C27/00—Rotorcraft; Rotors peculiar thereto
- B64C27/04—Helicopters
- B64C27/08—Helicopters with two or more rotors
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64C—AEROPLANES; HELICOPTERS
- B64C39/00—Aircraft not otherwise provided for
- B64C39/02—Aircraft not otherwise provided for characterised by special use
- B64C39/024—Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U10/00—Type of UAV
- B64U10/10—Rotorcrafts
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01D—MEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
- G01D21/00—Measuring or testing not otherwise provided for
- G01D21/02—Measuring two or more variables by means not covered by a single other subclass
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
-
- G—PHYSICS
- G08—SIGNALLING
- G08C—TRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
- G08C17/00—Arrangements for transmitting signals characterised by the use of a wireless electrical link
- G08C17/02—Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2201/00—UAVs characterised by their flight controls
- B64U2201/20—Remote controls
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Aviation & Aerospace Engineering (AREA)
- General Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Human Computer Interaction (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- Computer Networks & Wireless Communication (AREA)
- Selective Calling Equipment (AREA)
- Toys (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
本发明公开了一种基于手势识别的无人机控制方法,包括以下步骤:(1)预先设一手势识别遥控无人机;(2)利用第一雷达芯片采集目标手势3D点云数据;(3)重新生成目标手势图像;(4)提供目标手势图像的特征信息;(5)获得目标手势动作,(6)与手势样本进行对比,从而识别出新的手势指令;(7)根据新的手势指令对无人机本体进行飞行动作控制或对摄像头进行拍摄动作控制。本发明还公开了实施该方法的手势识别遥控无人机。本发明无人机控制方法的控制范围较远,避障功能相对较强,适合远距离飞行控制和拍摄。该手势识别遥控无人机通过雷片芯片识别手势动作,与现有的手势视觉识别相比,提高了手势识别距离、速度和精度。
Description
技术领域
本发明涉及无人机技术领域,尤其涉及一种基于手势识别的无人机控制方法及手势识别遥控无人机。
背景技术
目前,无人机已经趋向平民化,大多数的家庭都有购置无人机用于日常使用,随着无人机技术的发展,已有部分企业开发出通过手势识别来控制无人机的技术,但是都是基于视觉识别、图像采集、3D传感、超声波等,但效果并不是很理想,有灰尘雨雾等都有可能导致摄像头失效,无法获取有效图片,而且相对细微的手势动作识别效果并不好;同时手势操作的范围并不大,3D传感***由于感知距离的短板,感知范围并不大,避障功能相对较弱,只能应用于自拍,并不适用于远距离飞行;因此,对于一种可以实现远距离航拍、识别精度高的手势识别无人机,是手势识别无人机发展的一大方向。
现有技术,申请号为CN201510531707.X的一种无人机的拍摄控制方法及装置、电子设备,其主要通过视觉识别手势动作用于控制无人机的飞行和拍摄控制,而采用了视觉手势识别技术的无人机,依赖于对图像的处理,要求无人机设备有很强的图像处理能力,同时对设备的使用环境有严格要求,比如光线的影响;倘若操作过程中无人机受到外界强光的照射,将导致无人机视觉识别手势失败,使得无人机处于失控状态,这就限制了视觉手势识别方法在无人机领域的应用;因此,该无人机控制方法的控制范围有限,避障功能相对较弱,并不适用于远距离飞行控制和拍摄。
因此,亟需开发一种控制范围较远,避障功能相对较强,适合远距离飞行控制和拍摄的无人机控制方法及无人机。
发明内容
本发明的目的在于针对上述的不足,提供一种基于手势识别的无人机控制方法及手势识别遥控无人机,该无人机控制方法的控制范围较远,避障功能相对较强,适合远距离飞行控制和拍摄;该手势识别遥控无人机通过雷片芯片识别手势动作,与现有的手势视觉识别相比,提高了手势识别距离、速度和精度,适用于远距离航拍。
其技术方案如下:
一种基于手势识别的无人机控制方法,包括以下步骤:
(1)、预先设一手势识别遥控无人机,所述手势识别遥控无人机包括无人机本体、摄像头、手势识别控制机构,所述手势识别控制机、摄像头安装在无人机本体上,并与所述无人机本体电连接,所述手势识别控制机构包括第一雷达芯片;
(2)、所述手势识别控制机构利用第一雷达芯片实时的向一预设范围发射微波雷达信号,并接收经手部反射后的雷达回波信号,从而获得目标手势3D点云数据,所述手势3D点云数据包括各点的三维坐标(x,y,z);所述预设范围,即所述手势识别控制机构的监控范围;
(3)、根据采集到的手势3D点云数据重新生成目标手势图像;
(4)、将所述目标手势图像进行识别预处理;并提供所述目标手势图像的特征信息;
(5)、将所述特征信息进行识别,从而获得目标手势动作,所述目标手势动作包括无人机本体的飞行模式动作和摄像头的拍摄模式动作;
(6)、将获得的目标手势动作与采用训练学习的手势样本进行对比,从而识别出新的手势指令;
(7)、根据新的手势指令对无人机本体进行飞行动作控制或对摄像头进行拍摄动作控制。
所述手势识别遥控无人机还包括手势识别控制终端,所述手势识别控制终端与所述手势识别控制机构无线通讯连接,所述手势识别控制终端包括显示屏,所述手势识别控制机构还包括GPS模块,该无人机驾驶控制方法还包括以下步骤:
(8)、所述手势识别控制机构通过所述GPS模块获得所述无人机本体的定位信息,以及通过摄像头拍摄采集的图片信息和视频信息,发送至所述手势识别控制终端的显示屏进行显示。
所述手势识别控制终端还包括第二雷达芯片,所述步骤(2)还包括以下步骤:
(21)、若目标手势超过第一雷达芯片的监控范围或第一雷达芯片发射的微波雷达信号受障碍物阻挡时,手势识别控制终端利用第二雷达芯片实时的向目标手势发射微波雷达信号,并接收经手部反射后的雷达回波信号;从而通过第二雷达芯片获得目标手势3D点云数据。
所述无人机本体包括飞行控制器,所述无人机本体的飞行动作控制及摄像头的拍摄动作控制通过所述飞行控制器控制实施;所述步骤(6)的手势样本学习包括以下步骤:
(61)、利用第一雷达芯片对手势进行训练数据采集;
(62)、将采集到的训练数据进行识别预处理,并提取手势的特征信息;
(63)、将所述手势的特征信息进行识别,并对所述特征信息进行空间变换;
(64)、完成手势样本学习,并存储在所述手势识别控制机构的主机存储芯片中;其中,所述手势样本包括飞行动作、拍摄动作,所述飞行动作包括自检、起飞、降落、返航、悬停、前进、左转、右转,所述拍摄动作包括拍照以及拍摄视频,还用于处理、存储拍摄获取的图像或视频。
一种实施上述控制方法的手势识别遥控无人机,包括无人机本体、手势识别控制机构、主机电池、摄像头、三轴自稳云台,所述摄像头通过所述三轴自稳云台安装在所述无人机本体的底部,所述无人机本体包括机身,所述机身的内部中空形成设备安装空腔,所述手势识别控制机构、主机电池分别安装在所述设备安装空腔内,所述手势识别控制机构与所述无人机本体、摄像头、主机电池电性连接,所述手势识别控制机构包括主机PCB板、第一雷达芯片、主机主控芯片、陀螺仪传感器、气压传感器、加速度传感器、第一无线通信单元、GPS模块、主机存储芯片,所述第一雷达芯片、主机主控芯片、陀螺仪传感器、气压传感器、加速度传感器、第一无线通信单元、GPS模块、主机存储芯片分别安装在所述主机PCB板上,并与所述主机PCB板电性连接。
所述无人机本体包括飞行控制器,所述飞行控制器安装在所述设备安装空腔内,所述无人机本体、摄像头通过所述飞行控制器与所述手势识别控制机构电连接,所述飞行控制器根据所述手势识别控制机构发送的控制指令选择无人机本体的飞行动作控制和摄像头的拍摄动作控制。
所述无人机本体还包括四个脚架、四个连接臂、四个浆翼、四个驱动电机、四个LED灯,四个所述连接臂周向均布在所述机身的四周,各所述驱动电机分别设在各所述连接臂远端的上侧,各所述浆翼分别安装在各所述驱动电机的转轴上,各所述脚架分别活动安装在各所述连接臂近端的下侧上,各所述LED灯分别安装在各所述连接臂远端的下侧,所述驱动电机、LED灯分别通过所述飞行控制器与所述手势识别控制机构电连接。
所述手势识别控制机构还包括录音器,所述录音器与所述PCB板电性连接,所述录音器用于获取用户输入的语音,所述主控芯片根据所述语音产生对无人机本体或摄像头的控制指令。
所述手势识别控制机构还包括内存卡槽/sim卡槽、type-c接口,所述内存卡槽/sim卡槽、type-c接口分别安装在所述设备安装空腔的侧面上,并分别与所述PCB板电连接。
还包括手势识别控制终端,所述手势识别控制终端包括壳体、显示屏、终端电池、终端控制主板、二个扬声器,所述显示屏安装在所述壳体的前侧面上,所述终端电池、终端控制主板分别安装在所述壳体内,二个所述扬声器分别安装在所述壳体的上侧面上,所述终端控制主板包括终端PCB板、第二雷达芯片、终端主控芯片、第二无线通信单元、终端存储芯片,所述第二雷达芯片、终端主控芯片、第二无线通信单元、终端存储芯片分别安装在所述终端PCB板上,所述第二雷达芯片、终端主控芯片、第二无线通信单元、终端存储芯片、扬声器、显示屏、终端电池分别与所述终端PCB板电性连接。
需要说明的是:
前述“第一、第二…”不代表具体的数量及顺序,仅仅是用于对名称的区分。
在本发明的描述中,需要理解的是,术语“上”、“下”等指示的方位或位置关系为基于本发明产品使用时惯常摆放的方位或位置关系,或者是本领域技术人员惯常理解的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的设备或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
下面对本发明的优点或原理进行说明:
1、本发明提供的基于手势识别的无人机控制方法,其采用的雷达芯片是基于雷达频率应用的微型传感器,采用宽波束雷达来识别运动、速度和距离,工作在60Ghz(吉赫,即10的9次方赫兹)的雷达频率上,能以每秒10000帧的速度对动作进行扫描;从而高速捕捉手部动作,并将手势的开始坐标至结束坐标生成手势的3D点云数据,实现手势的动作识别,雷达芯片通过主动发射微波雷达信号并接收经人手反射后的雷达回波信号,从而采集手势的3D点云数据,再根据采集到的手势3D点云数据重新生成目标手势图像,然后将新生成的目标手势图像进行识别处理,并提供目标手势图像的特征信息,从而获得目标手势动作,再将获得的目标手势动作与手势样本进行对比,从而识别出新的手势指令,最后根据新的手势控制指令对无人机本体进行飞行动作控制或对摄像头进行拍摄动作控制;雷达信号可以穿透障碍物避免其受干扰,这样会使得对手势识别更为精确,与现有的手势视觉识别相比,提高了手势识别距离、速度和精度,因此,本发明的无人机控制方法的控制范围较远,避障功能相对较强,适合远距离飞行控制和拍摄。
2、本发明的手势识别遥控无人机还包括手势识别控制终端,手势识别控制终端包括显示屏,手势识别控制机构还包括GPS模块,GPS模块用于定位无人机本体的位置信息,并通过无线通讯将无人机本体的位置信息及摄像头拍摄采集的图片信息和视频信息发送至手势识别控制终端的显示屏上显示;方便操作者对无人机的飞行动作控制和拍摄动作控制。
3、进一步的,本发明的手势识别遥控无人机还包括第二雷达芯片,若目标手势超过第一雷达芯片的监控范围或第一雷达芯片发射的微波雷达信号受障碍物阻挡时,手势识别控制终端利用第二雷达芯片识别目标手势的动作,然后通过无线通讯向飞行中的无人机发送控制指令,手势识别遥控无人机将利用第二雷达芯片进行无人机的飞行动作控制和拍摄动作控制,使本发明的控制范围更远。
4、本发明还提供了一种实施上述控制方法的手势识别遥控无人机,其包括无人机本体、手势识别控制机构、主机电池、摄像头、三轴自稳云台,主机电池用于为无人机本体和摄像头提供电力,三轴自稳云台方便无人机在飞行过程中的对场景的拍摄,手势识别控制机构包括主机PCB板、第一雷达芯片、主机主控芯片、陀螺仪传感器、气压传感器、加速度传感器、第一无线通信单元、GPS模块、主机存储芯片,GPS模块用于定位无人机本体的位置信息,陀螺仪是角运动检测装置,气压传感器是用于测量气体的绝对压强的仪器,加速度传感器是一种能够测量加速度的传感器,第一无线通信单元用于进行无线通讯传输,雷达芯片是基于雷达频率应用的微型传感器,采用宽波束雷达来识别运动、速度和距离,工作在60Ghz(吉赫,即10的9次方赫兹)的雷达频率上,能以每秒10000帧的速度对动作进行扫描;从而高速捕捉手部动作,并将手势的开始坐标至结束坐标生成手势的3D点云数据,实现手势的动作识别,雷达芯片通过主动发射微波雷达信号并接收经人手反射后的雷达回波信号,从而采集手势的3D点云数据,本发明通过雷片芯片识别手势动作,与现有的手势视觉识别相比,提高了手势识别距离、速度和精度,从而使无人机的控制范围较远,避障功能相对较强,适合远距离飞行控制和拍摄。
5、本发明的无人机本体包括飞行控制器,飞行控制器根据手势识别控制机构发送的控制指令选择无人机本体的飞行动作控制和摄像头的拍摄动作控制,通过飞行控制器根据实时的控制指令驱动无人机本体和摄像头动作,飞行动作包括自检、起飞、降落、返航、悬停、前进、左转、右转,拍摄动作包括拍照以及拍摄视频,还用于处理、存储拍摄获取的图像或视频。
6、本发明的无人机本体还包括四个脚架、四个浆翼、四个驱动电机、四个LED灯,四个连接臂周向均布在机身的四周,形成前后左右对称设置,起到平衡的作用,当接通电源后,通过驱动电机能够带动四个浆翼的转动,通过对四个浆翼的控制,可实现无人机的各种飞行动作,包括起飞、降落、返航、悬停、前进、左转、右转等。
7、本发明的手势识别控制机构还包括录音器,录音器用于获取用户输入的语音,实现语主控制指令对无人机的控制,特别是在无人机刚起飞时,与操作者近距离时,用语言指令控制无人机的飞行动作更为方便。
8、本发明的手势识别控制终端包括壳体、显示屏、终端电池、终端控制主板、二个扬声器,显示屏用于显示,无人机本体通过无线通讯将无人机本体的位置信息及摄像头拍摄采集的图片信息和视频信息发送至手势识别控制终端的显示屏上显示;终端电池为控制终端提供电源,终端控制主板包括终端PCB板、第二雷达芯片、终端主控芯片、第二无线通信单元、终端存储芯片,若目标手势超过第一雷达芯片的监控范围或第一雷达芯片发射的微波雷达信号受障碍物阻挡时,手势识别控制终端利用第二雷达芯片识别目标手势的动作,然后通过无线通讯向飞行中的无人机发送控制指令,手势识别遥控无人机将利用第二雷达芯片进行无人机的飞行动作控制和拍摄动作控制,使本发明的控制范围更远;从而使本发明既支持无人机本体直接识别手势和控制终端识别手势,通过雷达芯片发射和接收雷达信号来识别手势,无人机内部雷达芯片适用于短距离使用,直接识别手势;控制终端内部雷达芯片识别手势后通过无线通讯发送指令到无人机本体中,实现远程手势驾驶控制无人机,摆脱遥控器摇杆操控,挥手即可驾驶无人机。
附图说明
图1是本发明实施例基于手势识别的无人机控制方法的流程示意图。
图2是本发明实施例手势识别遥控无人机的前视图。
图3是本发明实施例手势识别遥控无人机脚架收起状态的前视图。
图4是本发明实施例手势识别遥控无人机脚架收起状态的侧视图。
图5是图4的A-A剖视图。
图6是本发明实施例手势识别遥控无人机脚架收起状态的仰视图。
图7是本发明实施例手势识别控制终端的前视图。
图8是本发明实施例手势识别控制终端终端控制主板的电路布局结构示意图。
附图标记说明:
10、无人机本体,11、机身,111、设备安装空腔,12、飞行控制器,13、脚架,14、浆翼,15、驱动电机,16、LED灯,17、连接臂,20、手势识别控制机构,21、主机PCB板,22、第一雷达芯片,23、主机主控芯片,24、陀螺仪传感器,25、气压传感器,26、加速度传感器,27、第一无线通信单元,28、GPS模块,29、主机存储芯片,30、录音器,31、内存卡槽/sim卡槽,32、type-c接口,40、主机电池,50、摄像头,60、三轴自稳云台,70、手势识别控制终端,71、壳体,72、显示屏,73、终端电池,74、终端控制主板,741、终端PCB板,742、第二雷达芯片,743、终端主控芯片,744、第二无线通信单元,745、终端存储芯片,75、扬声器。
具体实施方式
下面对本发明的实施例进行详细说明。
参见图1所示,本发明提供的基于手势识别的无人机控制方法,包括以下步骤:
(1)、预先设一手势识别遥控无人机,手势识别遥控无人机包括无人机本体10、摄像头50、手势识别控制机构20,手势识别控制机、摄像头50安装在无人机本体10上,并与无人机本体10电连接,手势识别控制机构20包括第一雷达芯片22;
(2)、手势识别控制机构20利用第一雷达芯片22实时的向一预设范围发射微波雷达信号,并接收经手部反射后的雷达回波信号,从而获得目标手势3D点云数据,手势3D点云数据包括各点的三维坐标(x,y,z);预设范围,即手势识别控制机构20的监控范围;
(3)、根据采集到的手势3D点云数据重新生成目标手势图像;
(4)、将目标手势图像进行识别预处理;并提供目标手势图像的特征信息;
(5)、将特征信息进行识别,从而获得目标手势动作,目标手势动作包括无人机本体10的飞行模式动作和摄像头50的拍摄模式动作;
(6)、将获得的目标手势动作与采用训练学习的手势样本进行对比,从而识别出新的手势指令;
(7)、根据新的手势指令对无人机本体10进行飞行动作控制或对摄像头50进行拍摄动作控制。
该控制方法利用雷达芯片,雷达芯片是基于雷达频率应用的微型传感器,采用宽波束雷达来识别运动、速度和距离,工作在60Ghz(吉赫,即10的9次方赫兹)的雷达频率上,能以每秒10000帧的速度对动作进行扫描;从而高速捕捉手部动作,并将手势的开始坐标至结束坐标生成手势的3D点云数据,实现手势的动作识别,雷达芯片通过主动发射微波雷达信号并接收经人手反射后的雷达回波信号,从而采集手势的3D点云数据,再根据采集到的手势3D点云数据重新生成目标手势图像,然后将新生成的目标手势图像进行识别处理,并提供目标手势图像的特征信息,从而获得目标手势动作,再将获得的目标手势动作与手势样本进行对比,从而识别出新的手势指令,最后根据新的手势控制指令对无人机本体10进行飞行动作控制或对摄像头50进行拍摄动作控制;雷达信号可以穿透障碍物避免其受干扰,这样会使得对手势识别更为精确,与现有的手势视觉识别相比,提高了手势识别距离、速度和精度,因此,本发明的无人机控制方法的控制范围较远,避障功能相对较强,适合远距离飞行控制和拍摄。
其中,手势识别遥控无人机还包括手势识别控制终端70,手势识别控制终端70与手势识别控制机构20无线通讯连接,手势识别控制终端70包括显示屏72,手势识别控制机构20还包括GPS模块28,该无人机驾驶控制方法还包括以下步骤:
(8)、手势识别控制机构20通过GPS模块28获得无人机本体10的定位信息,以及通过摄像头50拍摄采集的图片信息和视频信息,发送至手势识别控制终端70的显示屏72进行显示。
GPS模块28用于定位无人机本体10的位置信息,并通过无线通讯将无人机本体10的位置信息及摄像头50拍摄采集的图片信息和视频信息发送至手势识别控制终端70的显示屏72上显示;方便操作者对无人机的飞行动作控制和拍摄动作控制。
进一步的,手势识别控制终端70还包括第二雷达芯片742,步骤(2)还包括以下步骤:
(21)、若目标手势超过第一雷达芯片22的监控范围或第一雷达芯片22发射的微波雷达信号受障碍物阻挡时,手势识别控制终端70利用第二雷达芯片742实时的向目标手势发射微波雷达信号,并接收经手部反射后的雷达回波信号;从而通过第二雷达芯片742获得目标手势3D点云数据。
本发明的手势识别遥控无人机还包括第二雷达芯片742,若目标手势超过第一雷达芯片22的监控范围或第一雷达芯片22发射的微波雷达信号受障碍物阻挡时,手势识别控制终端70利用第二雷达芯片742识别目标手势的动作,然后通过无线通讯向飞行中的无人机发送控制指令,手势识别遥控无人机将利用第二雷达芯片742进行无人机的飞行动作控制和拍摄动作控制,使本发明的控制范围更远。
进一步的,无人机本体10包括飞行控制器12,无人机本体10的飞行动作控制及摄像头50的拍摄动作控制通过飞行控制器12控制实施;步骤(6)的手势样本学习包括以下步骤:
(61)、利用第一雷达芯片22对手势进行训练数据采集;
(62)、将采集到的训练数据进行识别预处理,并提取手势的特征信息;
(63)、将手势的特征信息进行识别,并对特征信息进行空间变换;
(64)、完成手势样本学习,并存储在手势识别控制机构20的主机存储芯片29中;其中,手势样本包括飞行动作、拍摄动作,飞行动作包括自检、起飞、降落、返航、悬停、前进、左转、右转,拍摄动作包括拍照以及拍摄视频,还用于处理、存储拍摄获取的图像或视频。
参见图2至图8所示,本发明还提供了一种手势识别遥控无人机,包括无人机本体10、手势识别控制机构20、主机电池40、摄像头50、三轴自稳云台60,摄像头50通过三轴自稳云台60安装在无人机本体10的底部,无人机本体10包括机身11,机身11的内部中空形成设备安装空腔111,手势识别控制机构20、主机电池40分别安装在设备安装空腔111内,手势识别控制机构20与无人机本体10、摄像头50、主机电池40电性连接,手势识别控制机构20包括主机PCB板21、第一雷达芯片22、主机主控芯片23、陀螺仪传感器24、气压传感器25、加速度传感器26、第一无线通信单元27、GPS模块28、主机存储芯片29,第一雷达芯片22、主机主控芯片23、陀螺仪传感器24、气压传感器25、加速度传感器26、第一无线通信单元27、GPS模块28、主机存储芯片29分别安装在主机PCB板21上,并与主机PCB板21电性连接。
主机电池40用于为无人机本体10和摄像头50提供电力,三轴自稳云台60方便无人机在飞行过程中的对场景的拍摄,手势识别控制机构20包括主机PCB板21、第一雷达芯片22、主机主控芯片23、陀螺仪传感器24、气压传感器25、加速度传感器26、第一无线通信单元27、GPS模块28、主机存储芯片29,GPS模块28用于定位无人机本体10的位置信息,陀螺仪是角运动检测装置,气压传感器25是用于测量气体的绝对压强的仪器,加速度传感器26是一种能够测量加速度的传感器,第一无线通信单元27用于进行无线通讯传输,雷达芯片是基于雷达频率应用的微型传感器,采用宽波束雷达来识别运动、速度和距离,工作在60Ghz(吉赫,即10的9次方赫兹)的雷达频率上,能以每秒10000帧的速度对动作进行扫描;从而高速捕捉手部动作,并将手势的开始坐标至结束坐标生成手势的3D点云数据,实现手势的动作识别,雷达芯片通过主动发射微波雷达信号并接收经人手反射后的雷达回波信号,从而采集手势的3D点云数据,本发明通过雷片芯片识别手势动作,与现有的手势视觉识别相比,提高了手势识别距离、速度和精度,从而使无人机的控制范围较远,避障功能相对较强,适合远距离飞行控制和拍摄。
其中,无人机本体10包括飞行控制器12、四个脚架13、四个连接臂17、四个浆翼14、四个驱动电机15、四个LED灯16,飞行控制器12安装在设备安装空腔111内,无人机本体10、摄像头50通过飞行控制器12与手势识别控制机构20电连接,飞行控制器12根据手势识别控制机构20发送的控制指令选择无人机本体10的飞行动作控制和摄像头50的拍摄动作控制。飞行控制器12根据手势识别控制机构20发送的控制指令选择无人机本体10的飞行动作控制和摄像头50的拍摄动作控制,通过飞行控制器12根据实时的控制指令驱动无人机本体10和摄像头50动作,飞行动作包括自检、起飞、降落、返航、悬停、前进、左转、右转,拍摄动作包括拍照以及拍摄视频,还用于处理、存储拍摄获取的图像或视频。
四个连接臂17周向均布在机身11的四周,各驱动电机15分别设在各连接臂17远端的上侧,各浆翼14分别安装在各驱动电机15的转轴上,各脚架13分别活动安装在各连接臂17近端的下侧上,各LED灯16分别安装在各连接臂17远端的下侧,驱动电机15、LED灯16分别通过飞行控制器12与手势识别控制机构20电连接。四个连接臂17周向均布在机身11的四周,形成前后左右对称设置,起到平衡的作用,当接通电源后,通过驱动电机15能够带动四个浆翼14的转动,通过对四个浆翼14的控制,可实现无人机的各种飞行动作,包括起飞、降落、返航、悬停、前进、左转、右转等。
手势识别控制机构20还包括录音器30、内存卡槽/sim卡槽31、type-c接口32,录音器30与PCB板电性连接,录音器30用于获取用户输入的语音,主控芯片根据语音产生对无人机本体10或摄像头50的控制指令。四个连接臂17周向均布在机身11的四周,形成前后左右对称设置,起到平衡的作用,当接通电源后,通过驱动电机15能够带动四个浆翼14的转动,通过对四个浆翼14的控制,可实现无人机的各种飞行动作,包括起飞、降落、返航、悬停、前进、左转、右转等。内存卡槽/sim卡槽31、type-c接口32分别安装在设备安装空腔111的侧面上,并分别与PCB板电连接。
本发明的手势识别遥控无人机还包括手势识别控制终端70,手势识别控制终端70包括壳体71、显示屏72、终端电池73、终端控制主板74、二个扬声器75,显示屏72安装在壳体71的前侧面上,终端电池73、终端控制主板74分别安装在壳体71内,二个扬声器75分别安装在壳体71的上侧面上,终端控制主板74包括终端PCB板741、第二雷达芯片742、终端主控芯片743、第二无线通信单元744、终端存储芯片745,第二雷达芯片742、终端主控芯片743、第二无线通信单元744、终端存储芯片745分别安装在终端PCB板741上,第二雷达芯片742、终端主控芯片743、第二无线通信单元744、终端存储芯片745、扬声器75、显示屏72、终端电池73分别与终端PCB板741电性连接。显示屏72用于显示,无人机本体10通过无线通讯将无人机本体10的位置信息及摄像头50拍摄采集的图片信息和视频信息发送至手势识别控制终端70的显示屏72上显示;终端电池73为控制终端提供电源,终端控制主板74包括终端PCB板741、第二雷达芯片742、终端主控芯片743、第二无线通信单元744、终端存储芯片745,若目标手势超过第一雷达芯片22的监控范围或第一雷达芯片22发射的微波雷达信号受障碍物阻挡时,手势识别控制终端70利用第二雷达芯片742识别目标手势的动作,然后通过无线通讯向飞行中的无人机发送控制指令,手势识别遥控无人机将利用第二雷达芯片742进行无人机的飞行动作控制和拍摄动作控制,使本发明的控制范围更远;从而使本发明既支持无人机本体10直接识别手势和控制终端识别手势,通过雷达芯片发射和接收雷达信号来识别手势,无人机内部雷达芯片适用于短距离使用,直接识别手势;控制终端内部雷达芯片识别手势后通过无线通讯发送指令到无人机本体10中,实现远程手势驾驶控制无人机,摆脱遥控器摇杆操控,挥手即可驾驶无人机。
以上仅为本发明的具体实施例,并不以此限定本发明的保护范围;在不违反本发明构思的基础上所作的任何替换与改进,均属本发明的保护范围。
Claims (10)
1.一种基于手势识别的无人机控制方法,其特征在于,包括以下步骤:
(1)、预先设一手势识别遥控无人机,所述手势识别遥控无人机包括无人机本体、摄像头、手势识别控制机构,所述手势识别控制机、摄像头安装在无人机本体上,并与所述无人机本体电连接,所述手势识别控制机构包括第一雷达芯片;
(2)、所述手势识别控制机构利用第一雷达芯片实时的向一预设范围发射微波雷达信号,并接收经手部反射后的雷达回波信号,从而获得目标手势3D点云数据,所述手势3D点云数据包括各点的三维坐标(x,y,z);所述预设范围,即所述手势识别控制机构的监控范围;
(3)、根据采集到的手势3D点云数据重新生成目标手势图像;
(4)、将所述目标手势图像进行识别预处理;并提供所述目标手势图像的特征信息;
(5)、将所述特征信息进行识别,从而获得目标手势动作,所述目标手势动作包括无人机本体的飞行模式动作和摄像头的拍摄模式动作;
(6)、将获得的目标手势动作与采用训练学习的手势样本进行对比,从而识别出新的手势指令;
(7)、根据新的手势指令对无人机本体进行飞行动作控制或对摄像头进行拍摄动作控制。
2.如权利要求1所述基于手势识别的无人机控制方法,其特征在于,所述手势识别遥控无人机还包括手势识别控制终端,所述手势识别控制终端与所述手势识别控制机构无线通讯连接,所述手势识别控制终端包括显示屏,所述手势识别控制机构还包括GPS模块,该无人机驾驶控制方法还包括以下步骤:
(8)、所述手势识别控制机构通过所述GPS模块获得所述无人机本体的定位信息,以及通过摄像头拍摄采集的图片信息和视频信息,发送至所述手势识别控制终端的显示屏进行显示。
3.如权利要求2所述基于手势识别的无人机控制方法,其特征在于,所述手势识别控制终端还包括第二雷达芯片,所述步骤(2)还包括以下步骤:
(21)、若目标手势超过第一雷达芯片的监控范围或第一雷达芯片发射的微波雷达信号受障碍物阻挡时,手势识别控制终端利用第二雷达芯片实时的向目标手势发射微波雷达信号,并接收经手部反射后的雷达回波信号;从而通过第二雷达芯片获得目标手势3D点云数据。
4.如权利要求1至3任一项所述基于手势识别的无人机控制方法,其特征在于,所述无人机本体包括飞行控制器,所述无人机本体的飞行动作控制及摄像头的拍摄动作控制通过所述飞行控制器控制实施;所述步骤(6)的手势样本学习包括以下步骤:
(61)、利用第一雷达芯片对手势进行训练数据采集;
(62)、将采集到的训练数据进行识别预处理,并提取手势的特征信息;
(63)、将所述手势的特征信息进行识别,并对所述特征信息进行空间变换;
(64)、完成手势样本学习,并存储在所述手势识别控制机构的主机存储芯片中;其中,所述手势样本包括飞行动作、拍摄动作,所述飞行动作包括自检、起飞、降落、返航、悬停、前进、左转、右转,所述拍摄动作包括拍照以及拍摄视频,还用于处理、存储拍摄获取的图像或视频。
5.一种实施权利要求1至4任一项所述控制方法的手势识别遥控无人机,其特征在于,包括无人机本体、手势识别控制机构、主机电池、摄像头、三轴自稳云台,所述摄像头通过所述三轴自稳云台安装在所述无人机本体的底部,所述无人机本体包括机身,所述机身的内部中空形成设备安装空腔,所述手势识别控制机构、主机电池分别安装在所述设备安装空腔内,所述手势识别控制机构与所述无人机本体、摄像头、主机电池电性连接,所述手势识别控制机构包括主机PCB板、第一雷达芯片、主机主控芯片、陀螺仪传感器、气压传感器、加速度传感器、第一无线通信单元、GPS模块、主机存储芯片,所述第一雷达芯片、主机主控芯片、陀螺仪传感器、气压传感器、加速度传感器、第一无线通信单元、GPS模块、主机存储芯片分别安装在所述主机PCB板上,并与所述主机PCB板电性连接。
6.如权利要求5所述手势识别遥控无人机,其特征在于,所述无人机本体包括飞行控制器,所述飞行控制器安装在所述设备安装空腔内,所述无人机本体、摄像头通过所述飞行控制器与所述手势识别控制机构电连接,所述飞行控制器根据所述手势识别控制机构发送的控制指令选择无人机本体的飞行动作控制和摄像头的拍摄动作控制。
7.如权利要求5所述手势识别遥控无人机,其特征在于,所述无人机本体还包括四个脚架、四个连接臂、四个浆翼、四个驱动电机、四个LED灯,四个所述连接臂周向均布在所述机身的四周,各所述驱动电机分别设在各所述连接臂远端的上侧,各所述浆翼分别安装在各所述驱动电机的转轴上,各所述脚架分别活动安装在各所述连接臂近端的下侧上,各所述LED灯分别安装在各所述连接臂远端的下侧,所述驱动电机、LED灯分别通过所述飞行控制器与所述手势识别控制机构电连接。
8.如权利要求5至7任一项所述手势识别遥控无人机,其特征在于,所述手势识别控制机构还包括录音器,所述录音器与所述PCB板电性连接,所述录音器用于获取用户输入的语音,所述主控芯片根据所述语音产生对无人机本体或摄像头的控制指令。
9.如权利要求8所述手势识别遥控无人机,其特征在于,所述手势识别控制机构还包括内存卡槽/sim卡槽、type-c接口,所述内存卡槽/sim卡槽、type-c接口分别安装在所述设备安装空腔的侧面上,并分别与所述PCB板电连接。
10.如权利要求5至7任一项所述手势识别遥控无人机,其特征在于,还包括手势识别控制终端,所述手势识别控制终端包括壳体、显示屏、终端电池、终端控制主板、二个扬声器,所述显示屏安装在所述壳体的前侧面上,所述终端电池、终端控制主板分别安装在所述壳体内,二个所述扬声器分别安装在所述壳体的上侧面上,所述终端控制主板包括终端PCB板、第二雷达芯片、终端主控芯片、第二无线通信单元、终端存储芯片,所述第二雷达芯片、终端主控芯片、第二无线通信单元、终端存储芯片分别安装在所述终端PCB板上,所述第二雷达芯片、终端主控芯片、第二无线通信单元、终端存储芯片、扬声器、显示屏、终端电池分别与所述终端PCB板电性连接。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011144731.5A CN112181151A (zh) | 2020-10-23 | 2020-10-23 | 基于手势识别的无人机控制方法及手势识别遥控无人机 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011144731.5A CN112181151A (zh) | 2020-10-23 | 2020-10-23 | 基于手势识别的无人机控制方法及手势识别遥控无人机 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112181151A true CN112181151A (zh) | 2021-01-05 |
Family
ID=73923361
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011144731.5A Withdrawn CN112181151A (zh) | 2020-10-23 | 2020-10-23 | 基于手势识别的无人机控制方法及手势识别遥控无人机 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112181151A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113282109A (zh) * | 2021-07-23 | 2021-08-20 | 季华实验室 | 无人飞行器与人协同作业*** |
-
2020
- 2020-10-23 CN CN202011144731.5A patent/CN112181151A/zh not_active Withdrawn
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113282109A (zh) * | 2021-07-23 | 2021-08-20 | 季华实验室 | 无人飞行器与人协同作业*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110692027B (zh) | 用于提供无人机应用的易用的释放和自动定位的***和方法 | |
CN108292141B (zh) | 用于目标跟踪的方法和*** | |
EP3312088B1 (en) | Unmanned aerial vehicle and flying control method thereof | |
JP6729561B2 (ja) | 光照射装置および光照射システム | |
CN110891862B (zh) | 飞行***中用于避障的***和方法 | |
CN205540288U (zh) | 一种具有多功能地面站的无人机*** | |
CN204452931U (zh) | 一种跟随四轴飞行器 | |
CN111867932A (zh) | 包含全向深度感测和避障空中***的无人飞行器及其操作方法 | |
KR101896654B1 (ko) | 드론을 이용한 3d 영상 처리 시스템 및 방법 | |
JP2014030897A (ja) | 識別された投影表面に像を投影するためのプロジェクターを具備するロボット | |
CN108257145A (zh) | 一种基于ar技术的无人机智能侦察处理***及方法 | |
CN110498039B (zh) | 一种基于仿生扑翼飞行器的智能监控*** | |
CN110716579B (zh) | 目标跟踪方法及无人飞行器 | |
CN107341952B (zh) | 无人飞行器对频的方法、***、无人飞行器及遥控器 | |
CN112181151A (zh) | 基于手势识别的无人机控制方法及手势识别遥控无人机 | |
CN203567947U (zh) | 无人机自稳定云台 | |
CN108459617A (zh) | 一种基于投影手机的无人机飞行控制*** | |
CN111832379A (zh) | 基于卷积神经网络的无人机实时视频检测*** | |
WO2021251441A1 (ja) | 方法、システムおよびプログラム | |
CN208751479U (zh) | 一种同步空间扫描*** | |
CN110554380A (zh) | 一种用于雷达反制***的目标定高*** | |
CN209014737U (zh) | 具有光流混合式定位装置的飞行器 | |
CN113677412B (zh) | 信息处理装置、信息处理方法和程序 | |
US11435743B2 (en) | Throwable unmanned aerial vehicle and method of operation | |
CN213482829U (zh) | 一种手势识别遥控无人机 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20210105 |
|
WW01 | Invention patent application withdrawn after publication |