CN111523452A - 用于检测图像中人***置的方法和装置 - Google Patents
用于检测图像中人***置的方法和装置 Download PDFInfo
- Publication number
- CN111523452A CN111523452A CN202010321816.XA CN202010321816A CN111523452A CN 111523452 A CN111523452 A CN 111523452A CN 202010321816 A CN202010321816 A CN 202010321816A CN 111523452 A CN111523452 A CN 111523452A
- Authority
- CN
- China
- Prior art keywords
- human body
- regression
- image
- body frame
- position coordinates
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了用于检测图像中人***置的方法和装置,涉及人工智能领域,具体实现方案为:从包括人体图像的待检测图像中,确定人体图像所对应的人体边框的位置坐标;基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合;对回归偏移参数组集合中的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组;基于最优的回归偏移参数组,生成最终的人体边框的位置坐标。该方案提升了人体边框位置坐标检测的精准度,进一步使人体图像的检测结果更加准确。
Description
技术领域
本申请的实施例涉及计算机技术领域,具体涉及人工智能领域,尤其涉及用于检测图像中人***置的方法和装置。
背景技术
随着互联网和人工智能技术的不断发展,越来越多的领域开始涉及自动化计算与分析,其中监控安防的人体检测功能是重要的场景之一。
常见的安防视频领域的人体检测得到的人体框结果有时候会与实际目标有一定偏移,虽然与实际目标有重合部分,但可能无法完整的涵盖整个人体。当使用这种不够准确的人体检测框用于后续任务(比如分类,跟踪)时,往往会引入更多的误差,所以检测框如果能更好的覆盖目标人体,能对整体服务的效果有极大的提升。
发明内容
本申请提出了一种用于检测图像中人***置的方法、装置、设备以及存储介质。
根据第一方面,本申请提供了一种用于检测图像中人***置的方法,该方法包括:从包括人体图像的待检测图像中,确定人体图像所对应的人体边框的位置坐标;基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合;对回归偏移参数组集合中的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组;基于最优的回归偏移参数组,生成最终的人体边框的位置坐标。
在一些实施例中,基于学习得到的评估阈值向量,对待检测图像中人体图像所对应的人体边框的位置坐标,利用边框回归损失函数进行级联回归计算,得到与评估阈值向量对应的回归偏移参数组集合,包括:基于学习得到的评估阈值向量中的各个评估阈值,对待检测图像中人体图像所对应的人体边框的位置坐标,利用边框回归损失函数分别进行级联回归计算,得到与评估阈值向量对应的回归偏移参数组集合,其中,评估阈值向量为表征图像重叠度IOU的评估阈值的有序数值集合,有序数值集合中的数值从前至后逐渐递增。
在一些实施例中,基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合,包括:基于学习得到的评估阈值向量,对待检测图像中人体图像所对应的人体边框的位置坐标,利用边框回归损失函数进行级联回归计算,得到与评估阈值向量对应的回归偏移参数组集合;其中,评估阈值向量用于表征级联回归计算所需的初始评估阈值和级联步长,级联回归计算中的每次回归计算基于上一次回归计算得到的回归偏移参数组而进行。
在一些实施例中,方法还包括:基于回归偏移参数组集合中的各组回归偏移参数,得到每组回归偏移参数对应的人体边框的位置坐标;将每组回归偏移参数对应的人体边框的位置坐标分别与预设人体框进行对比,确定最终的人体边框的位置坐标,其中,最终的人体边框的位置坐标为表征最接近预设人体框的位置坐标。
在一些实施例中,从包括人体图像的待检测图像中,确定人体图像所对应的人体边框的位置坐标,包括:利用训练得到的深度网络模型对待检测图像进行检测,得到待检测图像中人体图像所对应的人体边框的位置坐标,其中,深度网络模型通过改变边框回归损失函数中评估阈值向量中的评估阈值训练得到。
在一些实施例中,深度网络模型基于以下步骤训练得到:获取训练样本集,其中,训练样本集中的训练样本包括:各种类别的待检测图像;利用深度学习方法,将训练样本集中训练样本所包括的各种类别的待检测图像作为检测网络的输入,将输入的各种类别的待检测图像中人体图像的人体边框的位置坐标和学习得到的评估阈值向量输出,训练得到深度网络模型,其中,评估阈值向量的学习目标为使输出的人体边框的位置坐标逼近真实人体框的位置坐标。
第二方面,本申请提供了一种用于检测图像中人***置的装置,装置包括:人***置确定单元,被配置成从包括人体图像的待检测图像中,确定人体图像所对应的人体边框的位置坐标;回归偏移计算单元,被配置成基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合;偏移参数分析单元,被配置成对回归偏移参数组集合中的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组;第一位置生成单元,被配置成基于最优的回归偏移参数组,生成最终的人体边框的位置坐标。
在一些实施例中,回归偏移计算单元,包括:第一偏移计算模块,被配置成基于学习得到的评估阈值向量中的各个评估阈值,对待检测图像中人体图像所对应的人体边框的位置坐标,利用边框回归损失函数分别进行级联回归计算,得到与评估阈值向量对应的回归偏移参数组集合,其中,评估阈值向量为表征图像重叠度IOU的评估阈值的有序数值集合,有序数值集合中的数值从前至后逐渐递增。
在一些实施例中,回归偏移计算单元,包括:第二偏移计算模块,被配置成基于学习得到的评估阈值向量,对待检测图像中人体图像所对应的人体边框的位置坐标,利用边框回归损失函数进行级联回归计算,得到与评估阈值向量对应的回归偏移参数组集合;其中,评估阈值向量用于表征级联回归计算所需的初始评估阈值和级联步长,级联回归计算中的每次回归计算基于上一次回归计算得到的回归偏移参数组而进行。
在一些实施例中,装置还包括:人***置计算单元,被配置成基于回归偏移参数组集合中的各组回归偏移参数,得到每组回归偏移参数对应的人体边框的位置坐标;第二位置生成单元,被配置成将每组回归偏移参数对应的人体边框的位置坐标分别与预设人体框进行对比,确定最终的人体边框的位置坐标,其中,最终的人体边框的位置坐标为表征最接近预设人体框的位置坐标。
在一些实施例中,人***置确定单元,包括:人***置检测模块,被配置成利用训练得到的深度网络模型对待检测图像进行检测,得到待检测图像中人体图像所对应的人体边框的位置坐标,其中,深度网络模型通过改变边框回归损失函数中评估阈值向量中的评估阈值训练得到。
在一些实施例中,人***置检测模块的深度网络模型基于以下模块训练得到:样本获取模块,被配置成获取训练样本集,其中,训练样本集中的训练样本包括:各种类别的待检测图像;样本训练模块,被配置成利用深度学习方法,将训练样本集中训练样本所包括的各种类别的待检测图像作为检测网络的输入,将输入的各种类别的待检测图像中人体图像的人体边框的位置坐标和学习得到的评估阈值向量输出,训练得到深度网络模型,其中,评估阈值向量的学习目标为使输出的人体边框的位置坐标逼近真实人体框的位置坐标。
第三方面,本申请提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。
第四方面,本申请提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。
根据本申请的技术采用从包括人体图像的待检测图像中,确定人体图像所对应的人体边框的位置坐标,基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合,对回归偏移参数组集合中的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组,基于最优的回归偏移参数组,生成最终的人体边框的位置坐标,对人体检测算法进行了优化,解决了现有技术中边框回归损失函数仅进行一次回归计算导致人体边框的位置坐标预测不够精准的问题,提升了人体边框位置坐标检测的精准度,进一步使人体图像的检测结果更加准确。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。
图1是根据本申请的用于检测图像中人***置的方法的第一实施例的示意图;
图2是可以实现本申请实施例的用于检测图像中人***置的方法的场景图;
图3是与执行本申请的用于检测图像中人***置的方法的后台所对应的前台交互示意界面;
图4是根据本申请的用于检测图像中人***置的方法的第二实施例的示意图;
图5是根据本申请的用于检测图像中人***置的装置的一个实施例的结构示意图;
图6是用来实现本申请实施例的用于检测图像中人***置的方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了根据本申请的用于检测图像中人***置的方法的第一实施例的示意图100。该用于检测图像中人***置的方法,包括以下步骤:
步骤101,从包括人体图像的待检测图像中,确定人体图像所对应的人体边框的位置坐标。
在本实施例中,执行主体根据预设的边框位置算法,针对待检测图像的人体图像,确定与人体图像对应的人体边框的位置坐标。
步骤102,基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合。
在本实施例中,执行主体利用边框回归损失函数,根据学习得到的评估阈值向量中的各个评估阈值,依次对待检测图像中人体图像所对应的人体边框的位置坐标进行回归计算,得到由回归计算结果组成的回归偏移参数组集合。回归偏移参数组中的参数可以包括人体边框中心点坐标的偏移量和人体边框的缩放比。
步骤103,对回归偏移参数组集合中的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组。
在本实施例中,针对回归计算得到的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组。多维对比可以包括基于各组回归偏移参数与标准框的相应参数分别进行对比,或者基于不同组的回归偏移参数之间进行对比。
步骤104,基于最优的回归偏移参数组,生成最终的人体边框的位置坐标。
在本实施例中,将最优的回归偏移参数组所对应的人体边框的位置坐标,作为最终的人体边框的位置坐标。
需要说明的是,上述边框回归损失函数是目前广泛研究和应用的公知技术,在此不再赘述。
继续参见图2,本实施例的用于检测图像中人***置的方法200运行于电子设备201中。在监控安防领域,当用于监控的电子设备201从包括人体图像的待检测图像中,确定人体图像所对应的人体边框的位置坐标202后,基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合203,基于最优的回归偏移参数组,生成最终的人体边框的位置坐标204,基于最终的人体边框的位置坐标判定该人是否进入监控领域205,并将监控结果通过语音或文字的方式发送给被监控人员,该人员收到的信息如图3所示。
本申请的上述实施例提供的用于检测图像中人***置的方法,采用从包括人体图像的待检测图像中,确定人体图像所对应的人体边框的位置坐标,基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合,对回归偏移参数组集合中的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组,基于最优的回归偏移参数组,生成最终的人体边框的位置坐标,对人体检测算法进行了优化,解决了现有技术中边框回归损失函数仅进行一次回归计算导致人体边框的位置坐标预测不够精准的问题,提升了人体边框位置坐标检测的精准度,进一步使人体图像的检测结果更加准确。
进一步参考图4,其示出了用于检测图像中人***置的方法的第二实施例的示意图400。该方法的流程包括以下步骤:
步骤401,利用训练得到的深度网络模型对待检测图像进行检测,得到待检测图像中人体图像所对应的人体边框的位置坐标。
在本实施例中,基于深度网络模型,将待检测图像输入检测网络,得到待检测图像中人体图像所对应的人体边框的位置坐标,所述深度网络模型通过改变边框回归损失函数中评估阈值向量中的评估阈值训练得到。利用深度学习技术,对人体边框的位置坐标进行检测,使得检测结果更加准确。
在本实施例的一些可选的实现方式中,深度网络模型基于以下步骤训练得到:获取训练样本集,其中,训练样本集中的训练样本包括:各种类别的待检测图像;利用深度学习方法,将训练样本集中训练样本所包括的各种类别的待检测图像作为检测网络的输入,将输入的各种类别的待检测图像中人体图像的人体边框的位置坐标和学习得到的评估阈值向量输出,训练得到深度网络模型,其中,评估阈值向量的学习目标为使输出的人体边框的位置坐标逼近真实人体框的位置坐标。利用深度模型对评估阈值向量进行学习,避免了模型训练时,只基于评估阈值为0.5的标准来判断导致行人框位置坐标的预测出现错误的问题使评估阈值向量更加精准,进一步使人体边框的位置坐标的检测更加准确。
步骤402,基于学习得到的评估阈值向量中的各个评估阈值,对待检测图像中人体图像所对应的人体边框的位置坐标,利用边框回归损失函数分别进行级联回归计算,得到与评估阈值向量对应的回归偏移参数组集合。
在本实施例中,通过改变边框回归损失函数中评估阈值向量的评估阈值对待检测图像中人体图像所对应的人体边框的位置坐标进行级联回归计算,得到与评估阈值向量对应的回归偏移参数组集合。评估阈值向量为表征图像重叠度IOU的评估阈值的有序数值集合,有序数值集合中的数值从前至后逐渐递增。运用级联回归运算得到越来越接近真实人体框的位置坐标的回归偏移参数组,提高了回归运算效率。
在本实施例的一些可选的实现方式中,基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合,包括:基于学习得到的评估阈值向量,对待检测图像中人体图像所对应的人体边框的位置坐标,利用边框回归损失函数进行级联回归计算,得到与评估阈值向量对应的回归偏移参数组集合;其中,评估阈值向量用于表征级联回归计算所需的初始评估阈值和级联步长,级联回归计算中的每次回归计算基于上一次回归计算得到的回归偏移参数组而进行。运用级联回归运算得到越来越接近真实人体框的位置坐标的回归偏移参数组,提高了回归运算效率。
步骤403,基于回归偏移参数组集合中的各组回归偏移参数,得到每组回归偏移参数对应的人体边框的位置坐标。
在一些实施例中,基于回归偏移参数组集合中的各组回归偏移参数,得到每组回归偏移参数对应的人体边框的位置坐标,回归偏移参数组中的参数包括人体边框中心点坐标的偏移量和人体边框的缩放比。
步骤404,将每组回归偏移参数对应的人体边框的位置坐标分别与预设人体框进行对比,确定最终的人体边框的位置坐标。
在本实施例中,将每组回归偏移参数对应的人体边框的位置坐标分别与预设人体框进行对比,确定最终的人体边框的位置坐标,再次对级联回归计算进行验证。最终的人体边框的位置坐标为表征最接近预设人体框的位置坐标,预设人体框可以人为的基于真实人体框的位置坐标而设定。对级联回归计算进行验证,提高了人体边框的位置坐标的检测精度。
从图4中可以看出,与图1对应的实施例相比,本实施例中的用于检测图像中人***置的方法的示意图400采用利用深度模型对评估阈值向量进行学习,避免了模型训练时,只基于评估阈值为0.5的标准来判断导致行人框位置坐标的预测出现错误的问题使评估阈值向量更加精准,进一步使人体边框的位置坐标的检测更加准确;通过运算级联回归运算得到越来越接近真实人体框的位置坐标的回归偏移参数组,再对级联回归运算结果进行验证,提高了检测人体边框的位置坐标的准确性。
进一步参考图5,作为对上述各图所示方法的实现,本申请提供了一种用于检测图像中人***置的装置的一个实施例,该装置实施例与图1所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的用于检测图像中人***置的装置500包括:人***置确定单元501、回归偏移计算单元502、偏移参数分析单元503和第一位置生成单元504。其中,人***置确定单元,被配置成从包括人体图像的待检测图像中,确定人体图像所对应的人体边框的位置坐标;回归偏移计算单元,被配置成基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合;偏移参数分析单元,被配置成对回归偏移参数组集合中的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组;第一位置生成单元,被配置成基于最优的回归偏移参数组,生成最终的人体边框的位置坐标。
在本实施例中,用于检测图像中人***置的装置500的人***置确定单元501、回归偏移计算单元502、偏移参数分析单元503和第一位置生成单元504的具体处理及其所带来的技术效果可分别参考图1对应的实施例中的步骤101到步骤104的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,回归偏移计算单元,包括:第一偏移计算模块,被配置成基于学习得到的评估阈值向量中的各个评估阈值,对待检测图像中人体图像所对应的人体边框的位置坐标,利用边框回归损失函数分别进行级联回归计算,得到与评估阈值向量对应的回归偏移参数组集合,其中,评估阈值向量为表征图像重叠度IOU的评估阈值的有序数值集合,有序数值集合中的数值从前至后逐渐递增。
在本实施例的一些可选的实现方式中,回归偏移计算单元,包括:第二偏移计算模块,被配置成基于学习得到的评估阈值向量,对待检测图像中人体图像所对应的人体边框的位置坐标,利用边框回归损失函数进行级联回归计算,得到与评估阈值向量对应的回归偏移参数组集合;其中,评估阈值向量用于表征级联回归计算所需的初始评估阈值和级联步长,级联回归计算中的每次回归计算基于上一次回归计算得到的回归偏移参数组而进行。
在本实施例的一些可选的实现方式中,装置还包括:人***置计算单元,被配置成基于回归偏移参数组集合中的各组回归偏移参数,得到每组回归偏移参数对应的人体边框的位置坐标;第二位置生成单元,被配置成将每组回归偏移参数对应的人体边框的位置坐标分别与预设人体框进行对比,确定最终的人体边框的位置坐标,其中,最终的人体边框的位置坐标为表征最接近预设人体框的位置坐标。
在本实施例的一些可选的实现方式中,人***置确定单元,包括:人***置检测模块,被配置成利用训练得到的深度网络模型对待检测图像进行检测,得到待检测图像中人体图像所对应的人体边框的位置坐标,其中,深度网络模型通过改变边框回归损失函数中评估阈值向量中的评估阈值训练得到。
在本实施例的一些可选的实现方式中,人***置检测模块的深度网络模型基于以下模块训练得到:样本获取模块,被配置成获取训练样本集,其中,训练样本集中的训练样本包括:各种类别的待检测图像;样本训练模块,被配置成利用深度学习方法,将训练样本集中训练样本所包括的各种类别的待检测图像作为检测网络的输入,将输入的各种类别的待检测图像中人体图像的人体边框的位置坐标和学习得到的评估阈值向量输出,训练得到深度网络模型,其中,评估阈值向量的学习目标为使输出的人体边框的位置坐标逼近真实人体框的位置坐标。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图6所示,是根据本申请实施例的用于检测图像中人***置的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,该电子设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器***)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的用于检测图像中人***置的方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的用于检测图像中人***置的方法。
存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的用于检测图像中人***置的方法对应的程序指令/模块(例如,附图5所示的人***置确定单元501、回归偏移计算单元502、偏移参数分析单元503和第一位置生成单元504)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的用于检测图像中人***置的方法。
存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需要的应用程序;存储数据区可存储根据用于检测图像中人***置的电子设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至用于检测图像中人***置的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
用于检测图像中人***置的方法的电子设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息,以及产生与用于检测图像中人***置的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,采用从包括人体图像的待检测图像中,确定人体图像所对应的人体边框的位置坐标,基于学习得到的评估阈值向量,利用边框回归损失函数对待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与评估阈值向量对应的回归偏移参数组集合,对回归偏移参数组集合中的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组,基于最优的回归偏移参数组,生成最终的人体边框的位置坐标,对人体检测算法进行了优化,解决了现有技术中边框回归损失函数仅进行一次回归计算导致人体边框的位置坐标预测不够精准的问题,提升了人体边框位置坐标检测的精准度,进一步使人体图像的检测结果更加准确。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (14)
1.一种用于检测图像中人***置的方法,所述方法包括:
从包括人体图像的待检测图像中,确定所述人体图像所对应的人体边框的位置坐标;
基于学习得到的评估阈值向量,利用边框回归损失函数对所述待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与所述评估阈值向量对应的回归偏移参数组集合;
对所述回归偏移参数组集合中的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组;
基于最优的回归偏移参数组,生成最终的人体边框的位置坐标。
2.根据权利要求1所述的方法,其中,所述基于学习得到的评估阈值向量,对所述待检测图像中人体图像所对应的人体边框的位置坐标,利用所述边框回归损失函数进行级联回归计算,得到与所述评估阈值向量对应的回归偏移参数组集合,包括:
基于学习得到的评估阈值向量中的各个评估阈值,对所述待检测图像中人体图像所对应的人体边框的位置坐标,利用所述边框回归损失函数分别进行级联回归计算,得到与所述评估阈值向量对应的回归偏移参数组集合,其中,所述评估阈值向量为表征图像重叠度IOU的评估阈值的有序数值集合,所述有序数值集合中的数值从前至后逐渐递增。
3.根据权利要求1所述的方法,其中,所述基于学习得到的评估阈值向量,利用边框回归损失函数对所述待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与所述评估阈值向量对应的回归偏移参数组集合,包括:
基于学习得到的评估阈值向量,对所述待检测图像中人体图像所对应的人体边框的位置坐标,利用所述边框回归损失函数进行级联回归计算,得到与所述评估阈值向量对应的回归偏移参数组集合;
其中,所述评估阈值向量用于表征级联回归计算所需的初始评估阈值和级联步长,所述级联回归计算中的每次回归计算基于上一次回归计算得到的回归偏移参数组而进行。
4.根据权利要求1所述的方法,所述方法还包括:
基于所述回归偏移参数组集合中的各组回归偏移参数,得到每组回归偏移参数对应的人体边框的位置坐标;
将每组回归偏移参数对应的人体边框的位置坐标分别与预设人体框进行对比,确定最终的人体边框的位置坐标,其中,所述最终的人体边框的位置坐标为表征最接近所述预设人体框的位置坐标。
5.根据权利要求1所述的方法,其中,所述从包括人体图像的待检测图像中,确定所述人体图像所对应的人体边框的位置坐标,包括:
利用训练得到的深度网络模型对所述待检测图像进行检测,得到所述待检测图像中人体图像所对应的人体边框的位置坐标,其中,所述深度网络模型通过改变边框回归损失函数中评估阈值向量中的评估阈值训练得到。
6.根据权利要求5所述的方法,其中,所述深度网络模型基于以下步骤训练得到:
获取训练样本集,其中,所述训练样本集中的训练样本包括:各种类别的待检测图像;
利用深度学习方法,将训练样本集中训练样本所包括的各种类别的待检测图像作为检测网络的输入,将所述输入的各种类别的待检测图像中人体图像的人体边框的位置坐标和学习得到的所述评估阈值向量输出,训练得到深度网络模型,其中,所述评估阈值向量的学习目标为使输出的人体边框的位置坐标逼近真实人体框的位置坐标。
7.一种用于检测图像中人***置的装置,所述装置包括:
人***置确定单元,被配置成从包括人体图像的待检测图像中,确定所述人体图像所对应的人体边框的位置坐标;
回归偏移计算单元,被配置成基于学习得到的评估阈值向量,利用边框回归损失函数对所述待检测图像中人体图像所对应的人体边框的位置坐标进行多次回归计算,得到与所述评估阈值向量对应的回归偏移参数组集合;
偏移参数分析单元,被配置成对所述回归偏移参数组集合中的各组回归偏移参数进行多维对比分析,确定最优的回归偏移参数组;
第一位置生成单元,被配置成基于最优的回归偏移参数组,生成最终的人体边框的位置坐标。
8.根据权利要求7所述的装置,其中,所述回归偏移计算单元,包括:
第一偏移计算模块,被配置成基于学习得到的评估阈值向量中的各个评估阈值,对所述待检测图像中人体图像所对应的人体边框的位置坐标,利用所述边框回归损失函数分别进行级联回归计算,得到与所述评估阈值向量对应的回归偏移参数组集合,其中,所述评估阈值向量为表征图像重叠度IOU的评估阈值的有序数值集合,所述有序数值集合中的数值从前至后逐渐递增。
9.根据权利要求7所述的装置,其中,所述回归偏移计算单元,包括:
第二偏移计算模块,被配置成基于学习得到的评估阈值向量,对所述待检测图像中人体图像所对应的人体边框的位置坐标,利用所述边框回归损失函数进行级联回归计算,得到与所述评估阈值向量对应的回归偏移参数组集合;其中,所述评估阈值向量用于表征级联回归计算所需的初始评估阈值和级联步长,所述级联回归计算中的每次回归计算基于上一次回归计算得到的回归偏移参数组而进行。
10.根据权利要求7所述的装置,其中,所述装置还包括:
人***置计算单元,被配置成基于所述回归偏移参数组集合中的各组回归偏移参数,得到每组回归偏移参数对应的人体边框的位置坐标;
第二位置生成单元,被配置成将每组回归偏移参数对应的人体边框的位置坐标分别与预设人体框进行对比,确定最终的人体边框的位置坐标,其中,所述最终的人体边框的位置坐标为表征最接近所述预设人体框的位置坐标。
11.根据权利要求7所述的装置,其中,所述人***置确定单元,包括:
人***置检测模块,被配置成利用训练得到的深度网络模型对所述待检测图像进行检测,得到所述待检测图像中人体图像所对应的人体边框的位置坐标,其中,所述深度网络模型通过改变边框回归损失函数中评估阈值向量中的评估阈值训练得到。
12.根据权利要求11所述的装置,其中,所述人***置检测模块的所述深度网络模型基于以下模块训练得到:
样本获取模块,被配置成获取训练样本集,其中,所述训练样本集中的训练样本包括:各种类别的待检测图像;
样本训练模块,被配置成利用深度学习方法,将训练样本集中训练样本所包括的各种类别的待检测图像作为检测网络的输入,将所述输入的各种类别的待检测图像中人体图像的人体边框的位置坐标和学习得到的所述评估阈值向量输出,训练得到深度网络模型,,其中,所述评估阈值向量的学习目标为使输出的人体边框的位置坐标逼近真实人体框的位置坐标。
13.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010321816.XA CN111523452B (zh) | 2020-04-22 | 2020-04-22 | 用于检测图像中人***置的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010321816.XA CN111523452B (zh) | 2020-04-22 | 2020-04-22 | 用于检测图像中人***置的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111523452A true CN111523452A (zh) | 2020-08-11 |
CN111523452B CN111523452B (zh) | 2023-08-25 |
Family
ID=71910458
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010321816.XA Active CN111523452B (zh) | 2020-04-22 | 2020-04-22 | 用于检测图像中人***置的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111523452B (zh) |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150347831A1 (en) * | 2014-05-28 | 2015-12-03 | Denso Corporation | Detection device, detection program, detection method, vehicle equipped with detection device, parameter calculation device, parameter calculating parameters, parameter calculation program, and method of calculating parameters |
US20170344808A1 (en) * | 2016-05-28 | 2017-11-30 | Samsung Electronics Co., Ltd. | System and method for a unified architecture multi-task deep learning machine for object recognition |
CN107492067A (zh) * | 2017-09-07 | 2017-12-19 | 维沃移动通信有限公司 | 一种图像美化方法及移动终端 |
CN109003267A (zh) * | 2017-08-09 | 2018-12-14 | 深圳科亚医疗科技有限公司 | 从3d图像自动检测目标对象的计算机实现方法和*** |
CN109241914A (zh) * | 2018-09-11 | 2019-01-18 | 广州广电银通金融电子科技有限公司 | 一种针对复杂场景下的小目标行人检测方法 |
CN109815814A (zh) * | 2018-12-21 | 2019-05-28 | 天津大学 | 一种基于卷积神经网络的人脸检测方法 |
CN109858481A (zh) * | 2019-01-09 | 2019-06-07 | 杭州电子科技大学 | 一种基于级联位置敏感检测的舰船目标检测方法 |
CN109886286A (zh) * | 2019-01-03 | 2019-06-14 | 武汉精测电子集团股份有限公司 | 基于级联检测器的目标检测方法、目标检测模型及*** |
CN109961006A (zh) * | 2019-01-30 | 2019-07-02 | 东华大学 | 一种低像素多目标人脸检测和关键点定位方法以及对齐方法 |
CN110059667A (zh) * | 2019-04-28 | 2019-07-26 | 上海应用技术大学 | 行人计数方法 |
CN110298226A (zh) * | 2019-04-03 | 2019-10-01 | 复旦大学 | 一种毫米波图像人体携带物的级联检测方法 |
CN110490052A (zh) * | 2019-07-05 | 2019-11-22 | 山东大学 | 基于级联多任务学习的人脸检测及人脸属性分析方法及*** |
CN110580445A (zh) * | 2019-07-12 | 2019-12-17 | 西北工业大学 | 一种基于GIoU和加权NMS改进的人脸关键点检测方法 |
CN110705583A (zh) * | 2019-08-15 | 2020-01-17 | 平安科技(深圳)有限公司 | 细胞检测模型训练方法、装置、计算机设备及存储介质 |
CN110992311A (zh) * | 2019-11-13 | 2020-04-10 | 华南理工大学 | 一种基于特征融合的卷积神经网络瑕疵检测方法 |
CN111008576A (zh) * | 2019-11-22 | 2020-04-14 | 高创安邦(北京)技术有限公司 | 行人检测及其模型训练、更新方法、设备及可读存储介质 |
-
2020
- 2020-04-22 CN CN202010321816.XA patent/CN111523452B/zh active Active
Patent Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150347831A1 (en) * | 2014-05-28 | 2015-12-03 | Denso Corporation | Detection device, detection program, detection method, vehicle equipped with detection device, parameter calculation device, parameter calculating parameters, parameter calculation program, and method of calculating parameters |
US20170344808A1 (en) * | 2016-05-28 | 2017-11-30 | Samsung Electronics Co., Ltd. | System and method for a unified architecture multi-task deep learning machine for object recognition |
CN109003267A (zh) * | 2017-08-09 | 2018-12-14 | 深圳科亚医疗科技有限公司 | 从3d图像自动检测目标对象的计算机实现方法和*** |
CN107492067A (zh) * | 2017-09-07 | 2017-12-19 | 维沃移动通信有限公司 | 一种图像美化方法及移动终端 |
CN109241914A (zh) * | 2018-09-11 | 2019-01-18 | 广州广电银通金融电子科技有限公司 | 一种针对复杂场景下的小目标行人检测方法 |
CN109815814A (zh) * | 2018-12-21 | 2019-05-28 | 天津大学 | 一种基于卷积神经网络的人脸检测方法 |
CN109886286A (zh) * | 2019-01-03 | 2019-06-14 | 武汉精测电子集团股份有限公司 | 基于级联检测器的目标检测方法、目标检测模型及*** |
CN109858481A (zh) * | 2019-01-09 | 2019-06-07 | 杭州电子科技大学 | 一种基于级联位置敏感检测的舰船目标检测方法 |
CN109961006A (zh) * | 2019-01-30 | 2019-07-02 | 东华大学 | 一种低像素多目标人脸检测和关键点定位方法以及对齐方法 |
CN110298226A (zh) * | 2019-04-03 | 2019-10-01 | 复旦大学 | 一种毫米波图像人体携带物的级联检测方法 |
CN110059667A (zh) * | 2019-04-28 | 2019-07-26 | 上海应用技术大学 | 行人计数方法 |
CN110490052A (zh) * | 2019-07-05 | 2019-11-22 | 山东大学 | 基于级联多任务学习的人脸检测及人脸属性分析方法及*** |
CN110580445A (zh) * | 2019-07-12 | 2019-12-17 | 西北工业大学 | 一种基于GIoU和加权NMS改进的人脸关键点检测方法 |
CN110705583A (zh) * | 2019-08-15 | 2020-01-17 | 平安科技(深圳)有限公司 | 细胞检测模型训练方法、装置、计算机设备及存储介质 |
CN110992311A (zh) * | 2019-11-13 | 2020-04-10 | 华南理工大学 | 一种基于特征融合的卷积神经网络瑕疵检测方法 |
CN111008576A (zh) * | 2019-11-22 | 2020-04-14 | 高创安邦(北京)技术有限公司 | 行人检测及其模型训练、更新方法、设备及可读存储介质 |
Non-Patent Citations (6)
Title |
---|
NAOMI LYNN DICKERSON: "Refining Bounding-Box Regression for Object Localization", 《DISSERTATIONS AND THESES》 * |
NAOMI LYNN DICKERSON: "Refining Bounding-Box Regression for Object Localization", 《DISSERTATIONS AND THESES》, 28 September 2017 (2017-09-28), pages 1 - 56 * |
吴志洋等: "改进的多目标回归实时人脸检测算法", 《计算机工程与应用》, vol. 54, no. 11, 31 May 2018 (2018-05-31), pages 1 - 7 * |
吴志洋等: "改进的多目标回归实时人脸检测算法", 《计算机工程与应用》, vol. 54, no. 11, pages 1 - 7 * |
徐昕军等: "基于Cascade R⁃CNN的铁路路基翻浆冒泥病害智能识别方法", 《铁道建设》 * |
徐昕军等: "基于Cascade R⁃CNN的铁路路基翻浆冒泥病害智能识别方法", 《铁道建设》, vol. 59, no. 12, 31 December 2019 (2019-12-31), pages 99 - 104 * |
Also Published As
Publication number | Publication date |
---|---|
CN111523452B (zh) | 2023-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110659600B (zh) | 物体检测方法、装置及设备 | |
CN111539514A (zh) | 用于生成神经网络的结构的方法和装置 | |
CN110795569B (zh) | 知识图谱的向量表示生成方法、装置及设备 | |
CN112270399B (zh) | 基于深度学习的算子注册处理方法、装置及电子设备 | |
CN112966742A (zh) | 模型训练方法、目标检测方法、装置和电子设备 | |
CN111259671A (zh) | 文本实体的语义描述处理方法、装置及设备 | |
CN111598164A (zh) | 识别目标对象的属性的方法、装置、电子设备和存储介质 | |
CN110717933B (zh) | 针对运动物体漏检的后处理方法、装置、设备和介质 | |
CN111144108A (zh) | 情感倾向性分析模型的建模方法、装置和电子设备 | |
CN111709288B (zh) | 人脸关键点检测方法、装置以及电子设备 | |
CN111968203A (zh) | 动画驱动方法、装置、电子设备及存储介质 | |
CN111079945A (zh) | 端到端模型的训练方法及装置 | |
CN116228867B (zh) | 位姿确定方法、装置、电子设备、介质 | |
CN111783606A (zh) | 一种人脸识别网络的训练方法、装置、设备及存储介质 | |
CN111241838A (zh) | 文本实体的语义关系处理方法、装置及设备 | |
CN111626263A (zh) | 一种视频感兴趣区域检测方法、装置、设备及介质 | |
CN111666771A (zh) | 文书的语义标签抽取、装置、电子设备及可读存储介质 | |
CN114267375A (zh) | 音素检测方法及装置、训练方法及装置、设备和介质 | |
CN111563541B (zh) | 图像检测模型的训练方法和装置 | |
CN112561059A (zh) | 用于模型蒸馏的方法和装置 | |
CN112016523A (zh) | 跨模态人脸识别的方法、装置、设备和存储介质 | |
CN111767990A (zh) | 神经网络的处理方法和装置 | |
CN111680599A (zh) | 人脸识别模型处理方法、装置、设备和存储介质 | |
CN111738325A (zh) | 图像识别方法、装置、设备以及存储介质 | |
CN113128436B (zh) | 关键点的检测方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |