CN109960965A - 基于无人机识别动物行为的方法、装置和*** - Google Patents
基于无人机识别动物行为的方法、装置和*** Download PDFInfo
- Publication number
- CN109960965A CN109960965A CN201711342483.3A CN201711342483A CN109960965A CN 109960965 A CN109960965 A CN 109960965A CN 201711342483 A CN201711342483 A CN 201711342483A CN 109960965 A CN109960965 A CN 109960965A
- Authority
- CN
- China
- Prior art keywords
- animal
- unmanned plane
- target
- image
- target animal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了基于无人机识别动物行为的方法、装置和***。该方法包括:寻找和识别目标动物,并根据目标动物调整无人机位置;利用无人机的图像采集装置采集包含目标动物的图像;在图像中提取目标动物的行为特征数据;根据预存的动物行为模型,依据行为识别算法对行为特征数据进行识别以确定动物行为,动物行为模型是根据动物行为构建的动物行为模型。根据本发明实施例提供的基于无人机识别动物行为的方法、装置和***,可以实现无人机对动物行为的识别。
Description
技术领域
本发明涉及无人机技术领域,尤其涉及基于无人机识别动物行为的方法、装置和***。
背景技术
随着科技与经济的发展,畜牧业朝着规模化、集中化和智能化的方向发展。依靠传统的放牧方式,牧民无法同时看护所有的动物,也无法同时观察到动物的异常行为,需要投入极大的人力及精力。
放牧过程中,动物异常行为的发生具有突发性和复杂性,且动物群中动物的数量比较多,且相邻动物之间的距离比较小,如果无法准确发现动物的异常行为,极易引起动物群更大范围的行为异常。
放牧需要一个较大的区域,固定的图像采集装置并不能监测到该区域所有角落的动物行为,通过无线电遥控设备或机载计算机程序的控制,无人机可以由图像采集装置采集该区域的图像,但无法依据采集到的图像识别动物行为。
发明内容
本发明实施例提供基于无人机识别动物行为的方法、装置和***,可以对动物进行跟随拍摄的同时,识别动物行为。
本发明实施例提供一种基于无人机识别动物行为的方法,包括:
寻找和识别目标动物,并根据所述目标动物调整无人机位置;
利用无人机的图像采集装置采集包含所述目标动物的图像;
在所述图像中提取所述目标动物的行为特征数据;
根据预存的动物行为模型,依据行为识别算法对所述行为特征数据进行识别以确定动物行为,所述动物行为模型是根据动物行为构建的动物行为模型。
根据本发明实施例的一方面,所述寻找和识别目标动物,并根据所述目标动物调整无人机位置,包括:
上升到第一高度,采集第一图像;
利用模板匹配算法和预设的目标动物模板在采集的所述第一图像中搜寻所述目标动物,并确定所述目标动物的位置信息;
根据所述目标动物的位置信息飞行至所述目标动物的位置;
下降到第二高度;
其中,第一高度高于第二高度。
根据本发明实施例的一方面,所述在所述图像中提取所述目标动物的行为特征数据,包括:
根据预设的背景模板,利用背景减除法在所述图像中识别所述目标动物;
提取所述目标动物的整体特征数据,将所述目标动物的整体特征数据作为所述目标动物的行为特征数据。
根据本发明实施例的另一方面,所述在所述图像中提取目标动物的行为特征数据,包括:
在所述图像中检测局部时空特征点,所述局部时空特征点用于表征目标动物的行为特征数据;
基于描述算法描述所述局部时空特征点。
根据本发明实施例的一方面,所述在所述图像中提取目标动物的行为特征数据之后,还包括:
建立无人机的基准位置信息;
提取每帧所述图像所对应的无人机的当前时刻位置信息;
根据所述基准位置信息和所述当前时刻位置信息修正所述目标动物的行为特征数据。
根据本发明实施例的一方面,所述行为识别方法包括:模板匹配法、动态时间规划法、随机森林算法、词袋模型算法、语法模型算法或支持向量机算法。
本发明实施例提供一种基于无人机识别动物行为的装置,包括:
目标追寻模块,用于寻找和识别目标动物,并根据所述目标动物调整无人机位置;
图像采集模块,用于利用无人机的图像采集装置采集包含目标动物行为的图像;
图像处理模块,用于在所述图像中提取所述目标动物的行为特征数据;
行为识别模块,用于根据预存的动物行为模型,依据行为识别算法对所述行为特征数据进行识别以确定动物行为,所述动物行为模型是根据动物行为构建的动物行为模型。
根据本发明实施例的一方面,所述目标追寻模块包括:
高度控制子模块,用于控制无人机的飞行高度;
图像采集第一子模块,用于采集第一图像,所述第一图像为无人机在第一高度采集的图像;
目标寻找子模块,用于利用模板匹配算法和预设的目标动物模板在采集的所述第一图像中搜寻所述目标动物,并确定所述目标动物的位置信息;
定位子模块,根据所述目标动物的位置信息飞行至所述目标动物的位置。
根据本发明实施例的一方面,所述图像处理模块包括:
目标识别子模块,用于根据预设的背景模板,利用背景减除法在所述图像中识别所述目标动物;
数据提取子模块,用于提取所述目标动物的整体特征数据,将所述目标动物的整体特征数据作为所述目标动物的行为特征数据。
根据本发明实施例的另一方面,所述图像处理模块包括:
特征点检测子模块,用于在所述图像中检测局部时空特征点,所述局部时空特征点用于表征目标动物的行为特征数据;
特征点描述子模块,用于基于描述算法描述所述局部时空特征点。
根据本发明实施例的一方面,所述基于无人机识别动物行为的装置,还包括:
基准位置信息建立模块,用于建立无人机的基准位置信息;
位置信息提取模块,用于提取每帧所述图像所对应的无人机的当前时刻位置信息;
数据修正模块,用于根据所述基准位置信息和所述当前时刻位置信息修正所述目标动物的行为特征数据。
本发明实施例提供一种基于无人机识别动物行为的***,所述***包括:
存储器,用于存储程序;
处理器,用于运行所述存储器中存储的所述程序,以执行上述基于无人机识别动物行为的方法。
根据本发明实施例中基于无人机识别动物行为的方法、装置和***,整个放牧过程中无人机利用模板匹配算法可以确定目标动物的位置信息,进而实时跟随目标动物移动;无人机在图像采集装置采集的图像中能够提取目标动物的行为特征数据;无人机中可以预存多种类、高复杂性的动物行为模板,并基于目标动物的行为特征数据和行为识别算法确定动物行为;可以依据无人机当前时刻位置信息对目标动物的行为特征数据不断修正,避免无人机的移动对提取的目标动物的行为特征数据的影响。通过本发明实施例中基于无人机识别动物行为的方法、装置和***,可以适用于牧场智能放牧过程中的动物行为识别,且能够同时牧场所有范围内的多种类、高复杂性的动物行为的准确识别。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图作简单地介绍,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是示出根据本发明一实施例的基于无人机识别动物行为的方法的流程图;
图2是示出本发明一实施例的基于无人机识别动物行为的装置的结构示意图;
图3是示出本发明一实施例的基于无人机识别动物行为的***的示例性硬件架构的结构图。
具体实施方式
下面将详细描述本发明的各个方面的特征和示例性实施例,为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细描述。应理解,此处所描述的具体实施例仅被配置为解释本发明,并不被配置为限定本发明。对于本领域技术人员来说,本发明可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本发明的示例来提供对本发明更好的理解。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
为了更好的理解本发明,下面将结合附图,详细描述根据本发明实施例的基于无人机识别动物行为的方法、装置和***,应注意,这些实施例并不是用来限制本发明公开的范围。
无人机通过在机身正下方安装照相机、红外扫描仪或摄像机等图像采集装置,通过无线电遥控设备或机载计算机程控***控制无人机完成航拍、鸟瞰摄像、目标监控等操作。但是装有图像采集装置的无人机能够跟随拍摄动物却无法识别动作的行为。因此,需要一种基于无人机识别动物行为的方法。
图1是示出根据本发明实施例的基于无人机识别动物行为的方法的流程图。如图1所示,本实施例中的基于无人机识别动物行为的方法包括:
S110,寻找和识别目标动物,并根据目标动物调整无人机位置。
在一些应用场景中,动物的行为具有随机性和突发性等特点,随着时间的变化,动物的位置不断发生变化。因此无人机需要实时跟随动物进行图像采集。
在本发明的一个实施例中,无人机操控者通过无人机实体遥控器或手机应用程序实现对无人机飞行状态的控制。
在本发明的另一个实施例中,在基于无人机识别动物行为的过程中,无人机在采集的帧图像中搜寻到目标动物的具体的场景中。
首先,无人机在进行当前帧图像采集时,获取无人机当前位置信息和当前帧图像,其中无人机当前位置信息可以包括:无人机当前位置的经纬度信息、无人机当前位置的高度信息。
然后,无人机在采集到的当前帧图像中基于模板匹配算法判断出当前帧图像存在目标动物并获取目标动物的经纬度信息。
最后,无人机判断无人机当前位置的经纬度信息与目标动物的经纬度信息是否相同,若无人机当前位置的经纬度信息与目标动物的经纬度信息相同,则无人机的位置不发生改变;若无人机当前位置信息的经纬度信息与目标动物的经纬度信息相同,则将目标动物的经纬度信息设定成无人机飞行目的地的经纬度信息。
在本发明的又一个实施例中,在无人机接收到识别动物行为的工作指令后或无人机在采集到的前一帧图像中识别不到目标动物的应用场景中,S110的寻找和识别目标动物,并根据所述目标动物调整无人机位置还可以包括:
S111,上升到第一高度,采集第一图像。
其中,第一高度可以是一个能够拍摄到牧场所有区域的高度。
在本发明的一个实施例中,无人机上升到第一高度,利用无人机上的图像采集装置(高分辨率CCD数码相机、红外扫描仪、激光扫描仪、数码摄像机等)对牧场的全景进行拍摄。
根据本发明实施例提供的基于无人机识别动物行为的方法,无人机可以快速并准确的搜寻到目标动物,为后续识别动物行为提供了便利。
S112,利用模板匹配算法和预设的目标动物模板在采集的第一图像中搜寻所述目标动物,并确定目标动物的位置信息。
模板匹配,即根据一个预设的目标图片,在图像中搜索与预设的目标图片对应的目标,并确定其坐标位置。作为一个具体的示例,在基于无人机识别动物行为的场景中,可以把预设的目标图片具体为目标动物的图片,在无人机采集到的第一图像中搜索与目标动物的图片对应的目标动物,若搜寻到目标动物,则确定目标动物在图像中的坐标位置。需要说明的是,本发明实施例中,目标动物的位置信息指目标动物的经纬度信息;目标动物的坐标位置指目标动物在图像中对应的像素点的坐标位置信息。
在一些实施例中,模板匹配算法可以为基于引索表的算法、基于图像相关性的算法或基于序贯相似性的算法。
在本发明的一个实施例中,利用基于图像相关性的算法来搜寻目标动物并确认所述目标动物的位置信息具体包括:
首先,选取图像分辨率为m×n的目标动物的灰度值图像作为预设的目标图片,并将目标动物的灰度值图像转换为m×n模板矩阵,其中,m×n模板矩阵中任一矩阵元的值为目标动物的灰度值图像中相应位置像素点的灰度值;然后将无人机采集的图像分辨率为M×N的第一图像的灰度值图像转换为M×N待匹配图像矩阵,其中,M×N待匹配图像矩阵中任一矩阵元的值为第一图像的灰度值图像中相应位置像素点的灰度值,矩阵元的位置坐标为第一图像的灰度值图像中相应位置像素点的灰度值坐标。为了便于理解,本实施例中把像素点的灰度值作为矩阵元的值;像素点的灰度值坐标作为矩阵元的位置坐标。
根据待匹配图像矩阵构建待匹配图像引索表。作一个示例,待匹配图像引索表的构建方法为:将待匹配图像矩阵中像素点的灰度值按从小到大的顺序排成一列,其中,相同的灰度值只保留一个;在每一灰度值的右边,将与该灰度值对应的像素点的灰度值坐标排成一行。
在待匹配图像引索表中,筛选出与m×n模板矩阵中第一个像素点的灰度值的差小于阈值的灰度值。根据筛选出的灰度值对应的像素点灰度值坐标,在M×N待匹配图像矩阵中确定与m×n模板矩阵中第一个像素点的灰度值的差小于阈值的矩阵元位置。根据确定的矩阵元位置,在M×N待匹配图像矩阵中,筛选出m×n子待匹配图像矩阵,其中,确定的矩阵元为m×n子待匹配图像矩阵的第一个矩阵元。作一个简单的示例,2×2模板矩阵为[12 45;68 102];3×3待匹配图像矩阵为[15 0 212;4 9 38;212 63 99],设定的阈值为3。根据3×3待匹配图像矩阵构建待匹配图像索引表,其中,待匹配图像索引表第一列的值为(0,4,9,15,38,63,99,212)。根据2×2模板矩阵的第一个矩阵元15,在图像引索表中筛选出灰度值9和灰度值15,确定出灰度值9和灰度值15在3×3待匹配图像中的矩阵元位置,根据矩阵元位置,筛选出两个2×2子待匹配图像矩阵[15 0;4 9]和[9 38;63 99]。
最后,计算m×n子待匹配图像矩阵相对于m×n模板矩阵的惩罚数,选取惩罚数累加和最小的m×n子待匹配图像矩阵,m×n子待匹配图像矩阵在M×N待匹配图像矩阵中的坐标信息即为目标动物在第一图像中的坐标位置信息。其中,惩罚数为m×n子待匹配图像矩阵中每个像素点灰度值与m×n模板矩阵中相应位置的像素点灰度值作差,根据像素点灰度值的差值超出设定的阈值的范围,记录相应数字。作一个具体的示例,2×2模板矩阵为[1245;68 102],两个2×2子待匹配图像矩阵[15 0;4 9]和[9 38;63 99],设阈值为10,像素点灰度值的差值小于10,则惩罚数记0;像素点灰度值的差值在10-20的范围内,惩罚数记1;以此类推,像素点灰度值的差值在10n-10(n+1)的范围内,惩罚值记n。2×2子待匹配图像矩阵[15 0;4 9]的惩罚数为[0 4;6 9],惩罚数累加为19,2×2子待匹配图像矩阵[9 38;63 99]的惩罚数为[0 0;0 0],惩罚数累加为0。因此,2×2子待匹配图像矩阵[9 38;63 99]在3×3待匹配图像矩阵中的坐标信息即为目标动物的位置信息。其中,m、n、M和N都为正整数,且满足M>m,N>n。
在本发明的实施例中,利用模板匹配算法,可以在识别目标动物的同时,确定目标动物的坐标位置,进而获得目标动物的位置信息,为无人机确定并实时跟随目标动物提供了便利。
在一些实施例中,无人机根据获得的第一图像中目标动物的坐标位置信息,从预存的第一图像中各像素点对应的位置信息判断目标动物的位置信息,无人机根据目标动物的位置信息飞行至相应的位置。
S113,根据目标动物的位置信息飞行至目标动物的位置。
S114,下降到第二高度。
在本发明的一个实施例中,在一个具体的应用场景中,无人机在第一高度搜寻目标动物,可能会因为无人机的飞行位置过高导致目标动物在拍摄的第一图像中仅占据少量像素点,因此需要使无人机降低到一个合适的高度进行识别动物行为的工作。
在本发明的一个实施例中,第二高度表示一个能够观察到所有目标动物,并能够清晰观察到目标动物动作特征的高度。
无人机下降到第二高度后,无人机采集第二图像,由预设的目标动物模板,依据模板匹配算法,判断第二图像中是否存在目标动物,若判断出第二图像中不存在目标动物,则无人机再次上升至第一高度,并重复S111-S114;若判断出图像中存在目标动物,则无人机在第二高度进行后续的识别动物行为工作。
根据本发明实施例的基于无人机识别动物行为的方法,可以实现无人机实时跟随目标动物进行拍摄,适用于较大区域下的动物行为识别,在无人机智能放牧的具体场景中,可以实现牧场全部区域的动物行为识别。
S120,利用无人机的图像采集装置采集包含目标动物的图像。
无人机采集的所述包含所述目标动物的图像可以为利用拍照装置每隔一固定时间采集的图像;也可以为摄像装置拍摄的连续图像。
无人机利用携带的图像采集装置采集到包含目标动物的图像后,并无法直接识别目标动物的行为。因此需要无人机从采集到的包含目标动物的图像中提取出可以表征目标动物行为的目标动物的行为特征数据。
S130,在图像中提取目标动物的行为特征数据。
在一些实施例中,目标动物的行为特征数据可以是目标动物的整体特征数据。作一个示例,目标动物的整体特征数据可以为目标动物的形状特征数据、目标动物的纹理特征数据、目标动物的轮廓特征数据等。
在提取目标动物的整体特征数据的场景中,S130具体包括:
S131,根据预设的背景模板,利用背景减除法在图像中识别目标动物。
在本发明的一个实施例中,装有照相装置的无人机,每隔一固定时间对目标动物拍照,从采集到的单帧图像中提取目标动物的形状特征和无人机的位置信息。
首先根据无人机的位置信息提取对应的背景模板,利用无人机采集包含目标动物的图像的与背景模板对应的像素点的灰度差值来识别目标动物。
背景模板中像素点的灰度值可以用函数b(x,y)表示,无人机采集到的包含目标动物的图像用函数f(x,y)表示,则作差后得到的灰度值图像为δ(x,y),满足公式(1):
δ(x,y)=f(x,y)-b(x,y) (1)
其中(x,y)表示图像中像素点的坐标位置。灰度值图像δ(x,y)即为识别到的目标动物的函数。
S132,提取目标动物的整体特征数据,将目标动物的整体特征数据作为目标动物的行为特征数据。
在S132中,作一个示例,可以利用局部二值模式算法提取目标动物的纹理特征数据,可以利用霍夫变换算法或拉普拉斯高斯算法提取目标动物的形状特征数据,可以利用坎尼边缘检测算法提取目标动物的轮廓特征数据。作一个具体的示例,根据坎尼边缘检测算法提取目标轮廓,具体包括:
首先,利用二维高斯函数的导函数作为图像滤波器对灰度值图像δ(x,y)做图像平滑,得到平滑后的图像I(x,y),平滑后的图像I(x,y)满足公式(2):
其中,G(x,y)为二维高斯函数,为二维高斯函数的导函数,二维高斯函数G(x,y)满足公式(3):
G(x,y)=(1/2πσ2)exp[-(x2+y2)/2σ2] (3)
其中σ为高斯噪声的均平方。
其次,利用2×2邻域一阶偏导的有限差分计算平滑后的图像I(x,y)的梯度方向和梯度幅值,梯度幅值M[x,y]满足公式(4),梯度方向θ[x,y]满足公式(5):
θ[x,y]=arctan(Py[x,y]/Px[x,y]) (5)
其中,Px[x,y]为平滑后的图像I(x,y)在x方向的一阶偏导;Py[x,y]为平滑后的图像I(x,y)在y方向的一阶偏导。
然后,将每个点的梯度幅值分别与八邻域单一像素的梯度幅值比较,判断每个点的梯度幅值是否大于所有八邻域单一像素点的梯度幅值,若某个点的梯度幅值小于至少一个八邻域单一像素点的梯度幅值,则该点不是边缘点;若判断出某个点的梯度幅值大于或等于所有八邻域单一像素点的梯度幅值,则该点可能是边缘点。作一个具体的示例,某像素点的坐标为(x,y),则坐标位置为(x-1,y-1)、(x-1,y)、(x-1,y+1)、(x,y-1)、(x,y+1)、(x+1,y-1)、(x+1,y)和(x+1,y+1)的像素点即为坐标位置为(x,y)的像素点的八邻域单一像素点。
最后,设定第一阈值和第二阈值,筛选出边缘像素,其中,第一阈值大于第二阈值。筛选出梯度幅值大于第一阈值的像素点和梯度幅值介于第一阈值、第二阈值之间且八邻域像素点中至少一个像素点的梯度幅值大于高阈值的像素点为边缘像素。边缘像素表征了目标动物形状特征。
根据本发明实施例提供的基于无人机识别动物行为的方法,提取动物整体特征数据,可以在单帧图像中表征动物行为。
在一些应用场景中,随着动物做出如蹲下、摇头等行为时,动物身体的不同位置的变化幅度并不相同。作一个具体的示例,动物摇头时,动物的头部相较于动物的身体会较大幅度的运动,只需要根据动物头部的行为特征数据即可以判断出动物在摇头。因此,可以通过提取目标动物的局部特征数据来表述目标动物的动物行为。
在本发明的一个实施例中,目标动物的局部特征数据可以为目标动物的局部时空特征点数据、目标动物的光流特征数据等。作为一个示例,可以利用Harris3D检测器或Cubiod检测器检测目标动物的局部时空特征点,使用HOG3D描述子或SIFT3D描述子对目标动物的局部时空特征点进行描述。
在一些实施例中,S130的在图像中提取目标动物的行为特征数据,可以具体包括:
S131′,在图像中检测局部时空特征点,局部时空特征点用于表征目标动物的行为特征数据。
在一些实施例中,在利用装有摄像装置的无人机提取目标动物的局部时空特征点数据的具体场景中,利用Cubiod特征检测器对摄像装置拍摄到的目标动物行为检测局部时空特征点。
作一个示例,对拍摄到的视频帧图像在时间维度上采用一维Gabor滤波器进行滤波,在空间维度上采用二维Gaussion核函数进行高斯滤波,通过两个不同维度的滤波器实现对视频帧图像中局部时空特征点的提取,响应函数满足公式(6):
R(x,y,t;σ,τ)=(f(x,y,t)*g(x,y;σ)*hev(t;τ,ω))2+(f(x,y,t)*g(x,y;σ)*hod(t;τ,ω))2 (6)
其中,f(x,y,t)代表视频帧图像,σ代表空间尺度因子,τ代表时间尺度因子,ω=4/τ,g(x,y;σ)为空间域的高斯核函数,满足公式(7):
其中hev(t;τ,ω)与hod(t;τ,ω)为一对正交函数,分别满足公式(8)和公式(9):
公式(6)中响应函数取极大值所对应的像素点的位置(xs,ys,ts,σs,τs)即为局部时空特征点。
S132′,基于描述算法描述局部时空特征点。
在S132′中,作一个示例,利用S131′中检测到的局部时空特征点(xs,ys,ts,σs,τs),利用HOG3D描述子对检测到的局部时空特征点进行描述,具体包括:
对视频帧图像中任一时空特征点(xs,ys,ts,σs,τs),参数σs为特征点对应的空间尺度因子,τs为特征点对应的时间尺度因子,确定以局部时空特征点为中心的时空邻域块rs=(xs,ys,ts,ws,hs,ls),其中ws、hs和ls分别为时空邻域块的宽度、高度和长度,ws=hs=σ0σs,ls=τ0τs,σ0为空间尺度因子,τ0为时间尺度因子;将时空邻域块rs划分成M×M×N个子时间邻域块ci,计算每隔子时间邻域块ci的直方图向量di,将所有子时间邻域块ci的直方图向量拼接在一起,即可得到时空特征点(xs,ys,ts,σs,τs)的HOG3D特征ds=(d1,…,dM2N)T,其中1≤i≤M2N。
根据本发明实施例提供的基于无人机识别动物行为的方法,无人机提取目标动物的局部特征点数据,可以减少识别动物行为中图像处理的运算量。
S130可以提取到目标动物的行为特征数据。但是,由于整个过程中无人机需要跟随动物实时采集图像数据,无人机提取到的目标动物的行为特征数据中包含了无人机位置变化的数据。因此,需要对目标动物的行为特征数据进行修正,以减小无人机不断移动对目标动物的行为特征数据的影响。
在一些实施例中,S130的在图像中提取目标动物的行为特征数据还可以包括:
S133,建立无人机的基准位置信息。
在本发明的一个实施例中,无人机的基准位置信息为(X0,Y0,H0),其中,X0,Y0为任意设定的基准经纬度坐标,H0为构建行为模型时,无人机拍摄样本图像时的高度。
S134,提取每帧所述图像所对应的无人机的当前时刻位置信息。
在本发明的一个实施例中无人机的GPS定位模块提取每帧图像对应的无人机当前时刻的位置信息(Xc,Yc,Hc)。
S135,根据基准位置信息和当前时刻位置信息修正目标动物的行为特征数据。
在本发明的一个实施例中,若提取到的目标动物的行为特征数据在图像中的坐标为(xc,yc),修正特征数据的坐标信息为(x′c,y′c),满足公式(10):
(x′c,y′c)=(xc-Xc+X0,yc-Yc+Y0) (10)
S140,根据预存的动物行为模型,依据行为识别算法对行为特征数据进行识别确定动物行为,动物行为模型是根据动物行为构建的动物行为模型。
作为一个示例,动物行为模型可以为轮廓模型、纹理模型、跳跃模型、奔跑模型、行走模型、进食模型、睡觉模型、攻击模型、生育模型和嬉戏模板中的至少一种。
在本发明的一个实施例中,构建动物行为模型的方法可以为:
无人机在第三高度H0的位置跟随样本动物且始终在样本动物正上方位置拍摄,训练样本动物多次做出动物行为模型中的每一动物行为,采集的图像构成每一动物行为的大量动物行为样本图像,从每一动物行为的大量动物行为样本图像中提取共有的局部时空特征点p={p1,…,ps},并对共有的局部时空特征点使用HOG3D描述子进行特征描述,其中每个局部时空特征点pi对应的HOG3D特征Fi={f1,…,fm}。
采用K-Means聚类算法,对动物行为样本中的HOG3D特征Fi={f1,…,fm}进行聚类描述,将所有局部时空特征点形成一个视觉单词Wi={f1,…,fm},局部时空特征点组成的视觉单词集合为V={W1,…,Wp},聚类中心的个数为p。
作一个示例,无人机在样本动物的正上方位置对目标动物的摇头、跳跃等动物行为拍摄样本视频以构建动物行为模型。
作为一个具体的示例,无人机对摇头这一动物行为拍摄了大量的样本视频,一个样本视频中包含了大量的样本图像。从单个样本视频的多帧样本图像中可以提取出多个局部时空特征点。基于多个视频,提取出摇头这一动物行为的共有的局部时空特征点。对摇头这一行为的共有的局部时空特征点利用HOG3D描述子进行描述,并利用K-Means聚类算法把摇头这一行为聚类成一个视觉单词。
在一些实施例中,行为识别算法包括模板匹配法、动态时间规划法、随机森林算法、词袋模型算法、语法模型算法或支持向量机算法。
在本发明一个实施例中,利用支持向量机算法对采集到的动物行为数据进行识别确定动物行为:
首先,计算采集图像中提取所述目标动物的局部时空特征点与预设的动物行为模型中的视觉单词的欧式距离,***部时空特征点中视觉单词出现的频率,得到局部时空特征点的统计直方图H={h1,…,hp},hp表示第p个视觉单词出现的频率。
然后,利用动物行为模型内任一行为模型中每个视觉单词出现的频率求得不同行为动作之间的最优分类超平面,利用基于最优分类超平面的支持向量机分类函数识别并确定动物行为。其中,最优分类超平面用于在动物行为模型中区分不同的动物行为。作一个示例,点头和摇头两个动物行为的行为模型较为相似,因此无人机不能准确识别提取到的目标动物的动物行为。因此,构建动物行为模型时,需要利用基于最优分类超平面的支持向量机分类函数区分点头和摇头两个动物行为的行为模型。
根据本发明实施例提供的基于无人机识别动物行为的方法,无人机能够准确的识别目标动物的动物行为。
下面通过图2详细介绍根据本发明实施例的基于无人机识别动物行为的装置。图2是示出本发明一实施例的基于无人机识别动物行为的装置的结构示意图。如图2所示,基于无人机识别动物行为的装置200包括:
目标追寻模块210,用于寻找和识别目标动物,并根据目标动物调整无人机位置。
图像采集模块220,用于利用无人机的图像采集装置采集包含目标动物行为的图像。
图像处理模块230,用于在图像中提取目标动物的行为特征数据。
行为识别模块240,用于根据预存的动物行为模型,依据行为识别算法对行为特征数据进行识别以确定动物行为,动物行为模型是根据动物行为构建的动物行为模型。
在一些实施例中,目标追寻模块210包括:
高度控制子模块,用于控制无人机的飞行高度。
图像采集第一子模块,用于采集第一图像,第一图像为无人机在第一高度采集的图像。
目标寻找子模块,用于利用模板匹配算法和预设的目标动物模板在采集的第一图像中搜寻目标动物,并确定目标动物的位置信息。
定位子模块,根据目标动物的位置信息飞行至目标动物的位置。
作为可选的实施例,图像处理模块220包括:
目标识别子模块,用于根据预设的背景模板,利用背景减除法在图像中识别目标动物。
数据提取子模块,用于提取目标动物的整体特征数据,将目标动物的整体特征数据作为目标动物的行为特征数据。
作为可选的实施例,图像处理模块220包括:
特征点检测子模块,用于在图形中检测局部时空特征点,局部时空特征点用于表征目标动物的行为特征数据;
特征点描述子模块,用于基于描述算法描述局部时空特征点。
在一些实施例中,基于无人机识别动物行为的装置,还包括:
基准位置信息建立模块,用于建立无人机图像采集装置的基准位置信息。
位置信息提取模块。用于提取每帧图像所对应的无人机图像采集装置的当前时刻位置信息。
数据修正模块,用于根据基准位置信息和当前时刻位置信息修正目标动物的行为特征数据。
根据本发明实施例的基于无人机识别动物行为的装置,不仅可以实现无人机对动物的实时追踪,还可以减小无人机位置变化对提取的动物的行为特征数据的影响,从而实现对动物行为的准确识别。
结合图1、图2描述的根据本发明实施例的基于无人机识别动物行为的方法和装置可以由基于无人机识别动物行为的***实现。图3是示出本发明一实施例的基于无人机识别动物行为的***的示例性硬件架构的结构图。
如图3所示,无人机识别动物行为的***300包括输入设备301、输入接口302、处理器303、存储器304、输出接口305、以及输出设备306。其中,输入接口302、处理器303、存储器304、以及输出接口305通过总线310相互连接,输入设备301和输出设备306分别通过输入接口302和输出接口305与总线310连接,进而与计算设备300的其他组件连接。具体地,输入设备301接收来自外部的输入信息,并通过输入接口302将输入信息传送到处理器303;处理器303基于存储器304中存储的计算机可执行指令对输入信息进行处理以生成输出信息,将输出信息临时或者永久地存储在存储器304中,然后通过输出接口305将输出信息传送到输出设备306;输出设备306将输出信息输出到无人机识别动物行为的***300的外部供用户使用。
在一个实施例中,图3所示的基于无人机识别动物行为的***300可以被实现为包括:存储器304,被配置为存储程序;接收单元301,被配置为接收各网络设备的端口流量信息、简单网络管理协议自陷告警信息和端口描述信息;处理器303,被配置为运行存储器中存储的程序,以执行本发明实施例提供的基于无人机识别动物行为的方法。
通过本发明实施例的基于无人机识别动物行为的***,可以用多种方式实现对多种动物行为的准确识别。
需要明确的是,本发明并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见,这里省略了对已知方法的详细描述。在上述实施例中,描述和示出了若干具体的步骤作为示例。但是,本发明的方法过程并不限于所描述和示出的具体步骤,本领域的技术人员可以在领会本发明的精神后,作出各种改变、修改和添加,或者改变步骤之间的顺序。
以上所述的结构框图中所示的功能块可以实现为硬件、软件、固件或者它们的组合。当以硬件方式实现时,其可以例如是电子电路、专用集成电路(ASIC)、适当的固件、插件、功能卡等等。当以软件方式实现时,本发明的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中,或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RF)链路,等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
还需要说明的是,本发明中提及的示例性实施例,基于一系列的步骤或者装置描述一些方法或***。但是,本发明不局限于上述步骤的顺序,也就是说,可以按照实施例中提及的顺序执行步骤,也可以不同于实施例中的顺序,或者若干步骤同时执行。
以上所述,仅为本发明的具体实施方式,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的***、模块和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。应理解,本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。
Claims (12)
1.一种基于无人机识别动物行为的方法,其特征在于,所述方法包括:
寻找和识别目标动物,并根据所述目标动物调整无人机位置;
利用无人机的图像采集装置采集包含所述目标动物的图像;
在所述图像中提取所述目标动物的行为特征数据;
根据预存的动物行为模型,依据行为识别算法对所述行为特征数据进行识别以确定动物行为,所述动物行为模型是根据动物行为构建的动物行为模型。
2.根据权利要求1所述的无人机识别动物行为的方法,其特征在于,所述寻找和识别目标动物,并根据所述目标动物调整无人机位置,包括:
上升到第一高度,采集第一图像;
利用模板匹配算法和预设的目标动物模板在采集的所述第一图像中搜寻所述目标动物,并确定所述目标动物的位置信息;
根据所述目标动物的位置信息飞行至所述目标动物的位置;
下降到第二高度;
其中,第一高度高于第二高度。
3.根据权利要求1所述的基于无人机识别动物行为的方法,其特征在于,所述在所述图像中提取所述目标动物的行为特征数据,包括:
根据预设的背景模板,利用背景减除法在所述图像中识别所述目标动物;
提取所述目标动物的整体特征数据,将所述目标动物的整体特征数据作为所述目标动物的行为特征数据。
4.根据权利要求1所述的基于无人机识别动物行为的方法,其特征在于,所述在所述图像中提取目标动物的行为特征数据,包括:
在所述图像中检测局部时空特征点,所述局部时空特征点用于表征目标动物的行为特征数据;
基于描述算法描述所述局部时空特征点。
5.根据权利要求1所述的基于无人机识别动物行为的方法,其特征在于,所述在所述图像中提取目标动物的行为特征数据之后,还包括:
建立无人机的基准位置信息;
提取每帧所述图像所对应的无人机的当前时刻位置信息;
根据所述基准位置信息和所述当前时刻位置信息修正所述目标动物的行为特征数据。
6.根据权利要求1所述的基于无人机识别动物行为的方法,其特征在于,所述行为识别方法包括:模板匹配法、动态时间规划法、随机森林算法、词袋模型算法、语法模型算法或支持向量机算法。
7.一种基于无人机识别动物行为的装置,其特征在于,所述装置包括:
目标追寻模块,用于寻找和识别目标动物,并根据所述目标动物调整无人机位置;
图像采集模块,用于利用无人机的图像采集装置采集包含目标动物行为的图像;
图像处理模块,用于在所述图像中提取所述目标动物的行为特征数据;
行为识别模块,用于根据预存的动物行为模型,依据行为识别算法对所述行为特征数据进行识别以确定动物行为,所述动物行为模型是根据动物行为构建的动物行为模型。
8.根据权利要求7所述的基于无人机识别动物行为的装置,其特征在于,所述目标追寻模块包括:
高度控制子模块,用于控制无人机的飞行高度;
图像采集第一子模块,用于采集第一图像,所述第一图像为无人机在第一高度采集的图像;
目标寻找子模块,用于利用模板匹配算法和预设的目标动物模板在采集的所述第一图像中搜寻所述目标动物,并确定所述目标动物的位置信息;
定位子模块,用于根据所述目标动物的位置信息飞行至所述目标动物的位置。
9.根据权利要求7所述的基于无人机识别动物行为的装置,其特征在于,所述图像处理模块包括:
目标识别子模块,用于根据预设的背景模板,利用背景减除法在所述图像中识别所述目标动物;
数据提取子模块,用于提取所述目标动物的整体特征数据,将所述目标动物的整体特征数据作为所述目标动物的行为特征数据。
10.根据权利要求7所述的基于无人机识别动物行为的装置,其特征在于,所述图像处理模块包括:
特征点检测子模块,用于在所述图像中检测局部时空特征点,所述局部时空特征点用于表征目标动物的行为特征数据;
特征点描述子模块,用于基于描述算法描述所述局部时空特征点。
11.根据权利要求7所述的基于无人机识别动物行为的装置,其特征在于,所述基于无人机识别动物行为的装置,还包括:
基准位置信息建立模块,用于建立无人机的基准位置信息;
位置信息提取模块,用于提取每帧所述图像所对应的无人机的当前时刻位置信息;
数据修正模块,用于根据所述基准位置信息和所述当前时刻位置信息修正所述目标动物的行为特征数据。
12.一种基于无人机识别动物行为的***,其特征在于,所述***包括:
存储器,用于存储程序;
处理器,用于运行所述存储器中存储的所述程序,以执行以下如权利要求1-6任一权利要求所述的基于无人机识别动物行为的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711342483.3A CN109960965A (zh) | 2017-12-14 | 2017-12-14 | 基于无人机识别动物行为的方法、装置和*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711342483.3A CN109960965A (zh) | 2017-12-14 | 2017-12-14 | 基于无人机识别动物行为的方法、装置和*** |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109960965A true CN109960965A (zh) | 2019-07-02 |
Family
ID=67018372
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711342483.3A Pending CN109960965A (zh) | 2017-12-14 | 2017-12-14 | 基于无人机识别动物行为的方法、装置和*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109960965A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021003692A1 (zh) * | 2019-07-10 | 2021-01-14 | 深圳市大疆创新科技有限公司 | 算法配置方法、设备、***及可移动平台 |
CN112906452A (zh) * | 2020-12-10 | 2021-06-04 | 叶平 | 羚牛水鹿自动识别跟踪统计方法及*** |
CN116486116A (zh) * | 2023-06-16 | 2023-07-25 | 济宁大爱服装有限公司 | 一种基于机器视觉的服装加工用吊挂机异常检测方法 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101299065A (zh) * | 2008-06-19 | 2008-11-05 | 宇龙计算机通信科技(深圳)有限公司 | 一种移动终端的定位方法及*** |
CN102509305A (zh) * | 2011-09-26 | 2012-06-20 | 浙江工业大学 | 基于全方位视觉的动物行为检测装置 |
CN104298248A (zh) * | 2014-10-08 | 2015-01-21 | 南京航空航天大学 | 旋翼无人机精确视觉定位定向方法 |
CN104298974A (zh) * | 2014-10-10 | 2015-01-21 | 北京工业大学 | 一种基于深度视频序列的人体行为识别方法 |
CN105248308A (zh) * | 2015-11-18 | 2016-01-20 | 谭圆圆 | 基于无人飞行器的放牧***及其放牧方法 |
CN105912999A (zh) * | 2016-04-05 | 2016-08-31 | 中国民航大学 | 基于深度信息的人体行为识别方法 |
CN106023257A (zh) * | 2016-05-26 | 2016-10-12 | 南京航空航天大学 | 一种基于旋翼无人机平台的目标跟踪方法 |
CN107230220A (zh) * | 2017-05-26 | 2017-10-03 | 深圳大学 | 一种新的时空Harris角点检测方法及装置 |
CN107229289A (zh) * | 2017-07-31 | 2017-10-03 | 内蒙古智牧溯源技术开发有限公司 | 一种无人机放牧管理*** |
-
2017
- 2017-12-14 CN CN201711342483.3A patent/CN109960965A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101299065A (zh) * | 2008-06-19 | 2008-11-05 | 宇龙计算机通信科技(深圳)有限公司 | 一种移动终端的定位方法及*** |
CN102509305A (zh) * | 2011-09-26 | 2012-06-20 | 浙江工业大学 | 基于全方位视觉的动物行为检测装置 |
CN104298248A (zh) * | 2014-10-08 | 2015-01-21 | 南京航空航天大学 | 旋翼无人机精确视觉定位定向方法 |
CN104298974A (zh) * | 2014-10-10 | 2015-01-21 | 北京工业大学 | 一种基于深度视频序列的人体行为识别方法 |
CN105248308A (zh) * | 2015-11-18 | 2016-01-20 | 谭圆圆 | 基于无人飞行器的放牧***及其放牧方法 |
CN105912999A (zh) * | 2016-04-05 | 2016-08-31 | 中国民航大学 | 基于深度信息的人体行为识别方法 |
CN106023257A (zh) * | 2016-05-26 | 2016-10-12 | 南京航空航天大学 | 一种基于旋翼无人机平台的目标跟踪方法 |
CN107230220A (zh) * | 2017-05-26 | 2017-10-03 | 深圳大学 | 一种新的时空Harris角点检测方法及装置 |
CN107229289A (zh) * | 2017-07-31 | 2017-10-03 | 内蒙古智牧溯源技术开发有限公司 | 一种无人机放牧管理*** |
Non-Patent Citations (2)
Title |
---|
吴成茂等: "三种典型模板匹配算法性能比较", 《西安邮电大学学报》 * |
焦国力: "《目标就是你》", 31 January 2012, 少年儿童出版社 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021003692A1 (zh) * | 2019-07-10 | 2021-01-14 | 深圳市大疆创新科技有限公司 | 算法配置方法、设备、***及可移动平台 |
CN112906452A (zh) * | 2020-12-10 | 2021-06-04 | 叶平 | 羚牛水鹿自动识别跟踪统计方法及*** |
CN116486116A (zh) * | 2023-06-16 | 2023-07-25 | 济宁大爱服装有限公司 | 一种基于机器视觉的服装加工用吊挂机异常检测方法 |
CN116486116B (zh) * | 2023-06-16 | 2023-08-29 | 济宁大爱服装有限公司 | 一种基于机器视觉的服装加工用吊挂机异常检测方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103679674B (zh) | 一种无人飞行器实时图像拼接方法及*** | |
CN109284733B (zh) | 一种基于yolo和多任务卷积神经网络的导购消极行为监控方法 | |
JP5934653B2 (ja) | 画像分類装置、画像分類方法、プログラム、記録媒体、集積回路、モデル作成装置 | |
CN106577350B (zh) | 宠物类型识别的方法及装置 | |
CN109933083A (zh) | 基于无人机的放牧方法、装置和*** | |
CN108647557A (zh) | 信息处理设备、信息处理方法和存储介质 | |
CN112541395A (zh) | 一种目标检测和跟踪方法、装置、存储介质及电子装置 | |
KR101872811B1 (ko) | 행동 패턴 인식 장치, 행동 패턴 인식 방법 및 행동 패턴 분류기 생성 방법 | |
CN106534616A (zh) | 一种基于特征匹配与运动补偿的视频稳像方法及*** | |
CN109960965A (zh) | 基于无人机识别动物行为的方法、装置和*** | |
KR102297217B1 (ko) | 영상들 간에 객체와 객체 위치의 동일성을 식별하기 위한 방법 및 장치 | |
CN108898171A (zh) | 图像识别处理方法、***及计算机可读存储介质 | |
CN103426172A (zh) | 基于视觉的目标跟踪方法及装置 | |
CN111291646A (zh) | 一种人流量统计方法、装置、设备及存储介质 | |
CN110008919A (zh) | 基于视觉的四旋翼无人机人脸识别*** | |
KR20190025162A (ko) | 지리공간정보를 이용하는 실시간 감독 학습 방법 및 시스템 | |
JP2020064466A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2022100358A (ja) | 捜索支援システムにおける探索方法および装置 | |
CN109598240B (zh) | 视频目标快速重识别方法及*** | |
CN116307357A (zh) | 动物的监测方法、装置、终端设备及存储介质 | |
CN104063681A (zh) | 一种活动对象图像识别方法及装置 | |
CN114118271A (zh) | 图像确定方法、装置、存储介质及电子装置 | |
CN113177917A (zh) | 一种抓拍图像优选方法、***、设备及介质 | |
CN106845363A (zh) | 巡航拍摄跟踪的方法及装置 | |
US10553022B2 (en) | Method of processing full motion video data for photogrammetric reconstruction |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190702 |