CN103839346A - 一种智能门窗防入侵装置以及***、智能门禁*** - Google Patents

一种智能门窗防入侵装置以及***、智能门禁*** Download PDF

Info

Publication number
CN103839346A
CN103839346A CN201410087867.5A CN201410087867A CN103839346A CN 103839346 A CN103839346 A CN 103839346A CN 201410087867 A CN201410087867 A CN 201410087867A CN 103839346 A CN103839346 A CN 103839346A
Authority
CN
China
Prior art keywords
module
intrusion
information
video
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410087867.5A
Other languages
English (en)
Other versions
CN103839346B (zh
Inventor
黄鹏宇
周建雄
何跃凯
彭元华
郭振中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
CHENGDU BESTVISION TECHNOLOGY Co Ltd
Original Assignee
CHENGDU BESTVISION TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CHENGDU BESTVISION TECHNOLOGY Co Ltd filed Critical CHENGDU BESTVISION TECHNOLOGY Co Ltd
Priority to CN201410087867.5A priority Critical patent/CN103839346B/zh
Publication of CN103839346A publication Critical patent/CN103839346A/zh
Application granted granted Critical
Publication of CN103839346B publication Critical patent/CN103839346B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19695Arrangements wherein non-video detectors start video recording or forwarding but do not generate an alarm themselves
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19617Surveillance camera constructional details
    • G08B13/19619Details of casing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Burglar Alarm Systems (AREA)

Abstract

一种智能门窗防入侵装置,所述防入侵装置包括照明模块、视频采集模块、综合信息采集模块、报警发送模块、信号处理模块、照明控制模块,其特征在于:所述照明模块为视频采集模块的视频采集提供照明光源;所述视频采集模块在照明模块开启时开始采集周围视频信息;所述综合信息采集模块实时采集周围信息,并实时提供给所述信号处理模块;所述照明控制模块决定照明模块的开启,其中,所述照明控制模块根据所述信号处理模块对所述周围信息的处理结果来决定所述开启;所述信号处理模块根据所述视频信息和所述周围信息来分辨入侵行为,从而决定是否启动报警发送模块,发出报警信号。本发明还提出了一种防入侵***和门禁***,本发明的防入侵装置和***,对信息具有综合分析能力,对入侵行为具有智能识别能力,显著降低了误报。

Description

一种智能门窗防入侵装置以及***、智能门禁***
技术领域
本发明涉及一种防非法入侵***,具体涉及一种智能门窗防入侵装置、防入侵***及智能门禁***。
背景技术
我们知道,为了防止盗窃,一般会在小区或者室外走廊等处安装摄像头之类的防盗装置,例如一种基于智能视频的室内人员闯入的监控和报警***,主要是通过对摄像头图像的智能分析,实现对室内场所移动目标的分析,对人员的非法闯入达到及时发现和报警,同时忽略没有危险的运动,降低虚警,还有一种家居智能防盗***,其至少由防盗门、机械式锁具、窗户、露天阳台及阳台门构成。通过安装在:(1)防盗门上的门网传感器、防盗门磁传感器,(2)安装在锁具上的锁舌传感器、钥匙***/拔出传感器、弹子跳动传感器,(3)安装在外侧把手组合件内的把手位置传感器,同时设置从露天阳台进入阳台门通道中的阳台路径探测区,从窗户进入居室的通道中的窗户路径探测区,实现自动识别居家中的主人与盗贼的智能家居防盗***。
现有的门窗防入侵***存在如下的缺点:
1.单一的防入侵检测技术存在各自的缺陷,在某些情况下无法正常工作,一旦无法正常工作,整个检测***处于瘫痪状态,***的稳定性差。如:智能视频分析检测可能会受到环境光线变化、镜面反射等无关运动的干扰,造成大量的误报;热释电红外检测易受温度、强光、环境复杂运动的干扰;振动检测易受到风等外力引起门窗振动产生的干扰;玻璃破碎检测易受到外界环境杂音的干扰;门磁检测需要门窗严格闭合,在室内需要通风的情况下将无法使用,如炎热的夏天,用户往往需要开窗通风。
2.传统的防入侵***无法对盗贼作案前的踩点行为进行预判的能力,***的预警能力差;
3.需要在盗贼入室后才能触发报警,而不能在实施作案的第一时间触发报警,降低了报警的及时性;
4.涉及大量的各式传感器,安装调试非常复杂,同时报警信息不直观,无法得知现场情况;
5.传统的报警***在切断外接电源的情况下无法工作,给非法入侵者以可乘之机。
发明内容
本发明的目的在于提供一种智能门窗防入侵***,解决了现有的防盗措施功能单一,误报率高,报警不及时以及容易停止工作的问题。
为解决上述的技术问题,本发明采用以下技术方案:
一种智能门窗防入侵装置,所述防入侵装置包括照明模块、视频采集模块、综合信息采集模块、报警发送模块、信号处理模块、照明控制模块,其特征在于:
所述照明模块为视频采集模块的视频采集提供照明光源;
所述视频采集模块在照明模块开启时开始采集周围视频信息;
所述综合信息采集模块实时采集周围信息,并实时提供给所述信号处理模块;
所述照明控制模块决定照明模块的开启,其中,所述照明控制模块根据所述信号处理模块对所述周围信息的处理结果来决定所述开启;
所述信号处理模块根据所述视频信息和所述周围信息来分辨入侵行为,从而决定是否启动报警发送模块,发出报警信号。
如上所述的防入侵装置,其特征在于:
还包括电源管理模块,对所述防入侵装置进行供电,所述电源管理模块连接外接电源和蓄电池;
当外接电源正常供电时,整个产品使用外接电源;
当外接电源被切断时,所述蓄电池自动启用为所述防入侵装置供电。
如上任一所述的防入侵装置,其特征在于:
所述综合信息采集模块包括音频采集模块、热释放红外线检测报警模块、振动检测模块、玻璃破碎检测模块、门磁检测模块中的一个或多个模块;
所述周围信息包括语音信息、红外信息、振动信息以及玻璃破碎声音信息、门磁信息。
如上所述的防入侵装置,其特征在于:
所述玻璃破碎检测模块利包括玻璃破碎入侵探测器,所述探测器对高频的玻璃破碎声音进行有效检测,而对低频的普通声音信号有较强的抑制作用。
如上任一所述的防入侵装置,其特征在于:
所述照明模块中的照明灯呈环状,所述热释放红外线检测报警模块、振动检测模块、视频采集模块、音频采集模块和报警发送模块分布安装在所述照明灯的外边缘,所述信号处理模块、电源管理模块以及开关控制模块安装在所述照明灯的内部。
如上任一所述的防入侵装置,其特征在于:
所述玻璃破碎检测模块、门磁检测模块分别通过有线或无线通信方式将检测到的信息转变成电压信号向所述信号处理模块输出。
如上任一所述的防入侵装置,其特征在于:
所述报警发送模块是采用有线或无线通信方式,将信号处理模块发出的报警信号发出。
如上所述的防入侵装置,其特征在于:
所述无线通信方式包括3G、WIFI、Zigbee、Bluetooth或者其它无线通信方式。
如上所述的防入侵装置,其特征在于:
所述信号处理模块收集所述热释放红外线检测报警模块、振动检测模块、玻璃破碎检测模块、门磁检测模块、视频采集模块和音频采集模块传输过来的信号,进行综合分析,从而完成所述分辨入侵行为,并通过所述报警发送模块发出报警信号。
如上任一所述的防入侵装置,其特征在于:
所述信号处理模块包括主处理芯片,所述主处理芯片采用主核处理器与从核处理器结合的双核架构模式。
如上所述的防入侵装置,其特征在于:
所述主核处理器接收视频采集模块和综合信息检测模块采集到的所述视频信息和所述周围信息;
所述视频信息和所述周围信息构成多源信号传送给从核处理器;
所述从核处理器分辨入侵行为,形成最终的决策信号。
如上所述的防入侵装置,其特征在于:
所述分辨入侵行为主要包括运行音视频智能分析算法,同时结合所述周围信息中的其他信息进行分辨。
本发明还提出了一种智能防入侵***,所述***包括存储模块和如上任一所述的防入侵装置;所述存储模块通过有线或无线通信的方式与所述防入侵装置建立通信连接,对所述防入侵装置采集的信息进行存储;
其特征在于:
所述分辨入侵行为包括对接近防入侵装置的人进行身份识别,所述身份识别是通过人脸识别或其他方式识别来完成;
在进行所述身份识别的同时,还对在人接近防入侵装置时所述综合信息采集模块采集到的所述周围信息进行分析;
所述信号处理模块基于所述身份识别和对所述周围信息进行分析,形成决策信号,分辨入侵行为是否成立。
如上所述的智能防入侵***,其特征在于:
所述其他方式识别包括通过随身携带的手机来进行身份识别,所述防入侵装置与手机进行通信来确定人的身份。
如上所述的防入侵***,其特征在于:
在进行所述人脸识别之前,还包括人脸注册以形成人脸数据库;
所述人脸识别中,采用HAAR特征结合adaboost算法进行人脸检测实现人脸定位;
采用两层人眼***,通过adaboost算法获得人眼定位,利用人脸定位结果通过图像旋转将双眼校正为水平实现人脸标准化;
通过二维Gabor滤波器进行特征提取,利用向量间的协方差距离作为匹配度量方式,通过最近邻分类法实现待识别的人脸图像与所述人脸数据库中的人脸图像进行匹配。
如上任一所述的***,其特征在于:
所述分辨入侵行为还包括对所述视频信息中的动作进行检测分析。
如上所述的***,其特征在于:
所述对动作进行检测分析包括背景建模及运动检测,目标确认,目标跟踪、行为分析;
所述背景建模及运动检测,是采用多帧图像求平均的方式得到背景均值,将背景的方差初始化为一个常数,通过公式
f ( x , y ) = 1 | f ( x , y ) - μ ( x , y ) | > N × σ ( x , y ) 0 else
通过前景检测将背景象素与前景象素分离,其中1表示前景象素,0表示背景象素,f(x,y)表示图像中(x,y)处象素的灰度值,μ(x,y)表示对应的背景均值,σ(x,y)表示对应背景的方差;
所述目标确认,通过目标尺寸滤波器根据设定的尺寸滤除不满足尺寸要求的前景区域;通过高亮目标滤波器根据设定阈值滤除高亮的前景区域;将前景区域同对应的背景做梯度差分,通过时域滤波器对运动连续性、运动显著性和面积变化连续性分别进行滤波;
所述目标跟踪,根据当前帧及之前目标的位置估计目标在下一帧的位置,通过公式
v t x = Σ n = 0 N - 2 ( x t - n - x t - n - 1 ) N - 1
v t y = Σ n = 0 N - 2 ( x t - n - x t - n - 1 ) N - 1
对估计目标速度实现目标位置预测,其中
Figure BDA0000475614990000034
Figure BDA0000475614990000035
分别表示t时刻目标在x方向和y方向的速度,N为时间窗口,xt-n和yt-n分别表示t-n时刻目标外界矩形框中心的横坐标和纵坐标,同理xt-n-1和yt-n-1分别表示t-n-1时刻目标外界矩形框中心的横坐标和纵坐标;
所述行为分析,通过用户设定报警区域及相应的规则实现特定行为的判断。
如上任一所述的***,其特征在于:
对所述周围信息进行分析包括对所述音频采集模块所采集到的语音信息进行检测分析,将对分辨入侵有帮助的语音信息作为前景信号从庞杂的作为背景信号的背景音频信息中提取出来。
如上所述的***,其特征在于:
对所述语音信息进行检测分析包括:
取得所述语音信息中的音频信号的功率谱密度,设音频信号X(t)的采样率为fs,将X(t)依次经过预加重,分帧和加窗处理,在信号处理前首先去除均值,采用经典谱估计中的周期图法,使用快速傅里叶变换FFT实现,最终得到归一化的功率谱X(t)(fn),其中n∈[1,N],N为采样点数,t表示采样时刻;
采用子带能量比率Ai(t)描述功率谱密度,利用公式
Figure BDA0000475614990000036
计算出子带能量比率Ai(t)定义为子带能量与总能量的比值,其中U(i)和L(i)表示子带i的上边界和下边界这里按照对数将频带划分为M个子带;
基于子带能量比率的混合高斯背景建模及声音检测,混合高斯背景建模假设信号变化的概率分布可以用K个高斯分布拟合,音频信号的概率分布表示为
prob ( x ) = Σ i = 1 K ω i η i ( x , μ i , σ i )
模型中每个高斯分布ηi(x,μi,σi)都赋予一个权重ωi,其中μi和σi分别表示高斯分布的均值和标准差,多个高斯分布通过线性组合得到信号的概率分布,将前B个高斯分布作为背景模型,剩余的高斯分布作为前景模型,其中 B = arg min b ( Σ n = 1 b ω n ( x ) > T )
将当前信号幅值与前B个高斯分布进行匹配,如果和其中的任何一个高斯分布匹配成功则该信号为背景信号,否则为前景信号。
如上任一所述的***,其特征在于:
所述***进行所述身份识别、对所述周围信息进行分析,形成决策信号,分辨入侵行为是否成立包括如下步骤:
第一步,通过所述视频采集模块收集数字视频信号,通过所述音频采集模块收集数字音频信号,通过热释放红外线检测报警模块收集外界热量温度变化信息并转变为电压信号,通过振动检测模块收集外界振动产生形变或受力转变的信息并转变为电压信号,通过玻璃破碎检测模块和门磁检测模块收集玻璃破碎和门磁变化信息并转变为电压信号;
第二步,所述信号处理模块接收到热释放红外线检测报警模块、振动检测模块、玻璃破碎检测模块和门磁检测模块的电压信号,并结合音视频智能分析、完成身份识别,基于识别的身份来综合判定入侵行为的发生,当存在入侵行为时,发出报警信号;
第三步,报警发送模块收到报警信号,并通过有线或无线的方式向外部发出报警信息。
如上所述的***,其特征在于:
报警发送模块收到报警信号向外部发出报警信息包括:
报警发送模块接收所述数字视频信号和所述数字音频信号,并将所述数字视频信号和所述数字音频信号连同警报信号一起发送。
本发明还提出了一种智能门禁***,所述智能门禁***包括如上任一所述的智能防入侵***,所述智能门禁***利用所述智能防入侵***来完成所述身份识别、对所述周围信息进行分析,识别是否为客人到访,并自动将到访客人到达的信息发送到移动或固定终端。
如上所述的智能门禁***,其特征在于:
所述识别是否为客人到访包括如下步骤:
第一步,通过所述视频采集模块收集数字视频信号,通过所述音频采集模块收集数字音频信号,通过热释放红外线检测报警模块收集外界热量温度变化信息并转变为电压信号,通过振动检测模块收集外界振动产生形变或受力转变的信息并转变为电压信号,通过玻璃破碎检测模块和门磁检测模块收集玻璃破碎和门磁变化信息并转变为电压信号;
第二步,信号处理模块接收到热释放红外线检测报警模块、振动检测模块、玻璃破碎检测模块和门磁检测模块的电压信号,并结合音视频智能分析判断是否为客人到访;
第三步,如果存在客人到访行为的发生,通过无线的方式将访客在门外的视频或照片信息自动发送到在家室内主人手机等移动或固定终端,并激活终端给出振铃、震动或语音提示。
与现有技术相比,本发明的有益效果是:本发明智能门窗防入侵***采用热释电红外检测、振动检测、音频检测、玻璃破碎检测和门磁检测技术,通过多维探测方式发现门窗区域可能存在的非法入侵行为,能准确的分辨出是非法入侵、客人到访还是户主正常的出入,将音视频或图片为载体的实时、直观报警信号通过有线或无线通信手段,第一时间送达诸如户主手机、小区监控计算机等报警接收及处理终端,也同时联动警灯,警号实现事发现场声光报警,或者联动其它关联设备;另外本***安装于室外,能够最大程度将非法入侵消灭于其实际发生之前;相比于传统的报警***,本发明还自带备用电源,在切断外接电源的情况下可以为自身供电2-24个小时,在敏感时间段仍然能够完成防入侵检测。
附图说明
图1为本发明智能门窗防入侵***一个实施例的连接示意图。
图2为本发明智能门窗防入侵***的硬件连接示意图。
图3为本发明明智能门窗防入侵***的软件结构图。
图4为本发明智能门窗防入侵***的信号处理模块中主处理器端流程示意图。
图5为本发明智能门窗防入侵***的信号处理模块中从处理器端流程示意图。
图6为本发明智能门窗防入侵***的人脸注册和人脸识别流程示意图。
图7为本发明智能门窗防入侵***的基于视频的运动目标检测与跟踪流程示意图。
图8为本发明智能门窗防入侵***的音频检测流程示意图。
图9为本发明智能门窗防入侵***的人脸标准化时对接取人脸图像分析示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
图1示出了本发明一种智能门窗防入侵***的一个实施例:一种智能门窗防入侵***,包括
视频采集模块,采用视频传感器采集视频流信号,完成图像信号的数字化,图像信号的预处理,得到满足信号处理模块要求的数字视频信号并向信号处理模块输出其具体的检测方式可以是区域方式或幕帘方式;
音频采集模块,完成语音信号的数模转换,语音信号的采样编码及滤波处理,得到满足信号处理模块要求的数字音频信号并向信号处理模块输出;
热释放红外线检测报警模块,感应移动物体与背景物体的温度的差异,当人体移动时热释红外能够感应到人体温度与背景温度的差异信息,转换成电压信号后向信号处理模块输出;
振动检测模块,将外界振动产生形变或受力信息转变为电压信号,向信号处理模块输出;
玻璃破碎检测模块和门磁检测模块,通过有线或无线通信方式将相应的信息转变成电压信号向信号处理模块输出;
信号处理模块,收集热释放红外线检测报警模块、振动检测模块、视频采集模块和音频采集模块传输过来的信号,进行综合分析,分辨非法入侵或客人到访,分别向报警发送模块发出报警信号或向在家主人发送访客的照片等信息;
报警发送模块,采用有线或无线通信方式,主要用于接收信号处理模块发出的报警信号及向户主手机或小区管理中心发送报警信息,可采用有线、3G、WIFI、Zigbee、Bluetooth或者其它无线通信方式之一;
电源管理模块,连接外接电源和蓄电池,当外接电源正常供电时,整个产品使用外接电源,当外界电源断电时,内部备用蓄电池自动启用,保证上述各模块在外接电源中断后继续正常工作,最好是保证摄像机在外接电源中断后继续工作2-24小时。
在图1中,可以看出,发明设置在环形灯具上,所述热释放红外线检测报警模块、振动检测模块、视频采集模块、音频采集模块和报警发送模块安装在环形灯具的外边缘,所述信号处理模块、电源管理模块以及筒型灯具本身的开关灯控制模块安装在筒型灯具的中部。所述开关灯控制模块可以结合振动,声音,红外等信号判断是否有人进入,如果有人进入,开启灯光照明,为后续视频采集提供环境光照。我们是将整个***制作成类似照明灯的样子,***和灯的相互集合,不仅能将本***很好的隐藏起来,防止不法分子对本智能门窗防入侵***进行破坏,还能对***中视频采集模块的摄像头进行补光,让采集的视频信息更加清晰,在环境照度不足时,给视频采集模块提供辅助光源,保证其在低照度的环境下仍然能够采集到有效的图像数据。
图2示出了本发明一种智能门窗防入侵***的一个优选实施例,信号处理模块,主处理芯片采用主核处理器与从核处理器结合的双核架构模式。主核处理器主要完成数字视频信号和数字音频信号的收集,音视频编码,收集热释放红外线检测报警模块输出的信号和振动检测模块输出的信号,接收玻璃破碎检测模块和门磁检测模块发送的信号,将多源信号连同音视频数据传送给从核处理器;从核处理器进行入侵行为的判断和户主身份验证,其中入侵行为判断主要包括运行音视频智能分析算法,通过视频和声音判断是否存在入侵行为,同时结合热释放红外线检测报警模块输出的信号、振动检测模块输出的信号、玻璃破碎检测模块和门磁检测模块发送的信号,形成最终的决策信号。
如图3所示,软件主要由信号采集,信号分析,报警发送和联动控制三部分组成。信号采集和报警发送运行在主核处理端,信号分析运行在从核处理端。信号采集接口包括了音视频采集模块,热释电红外报警信号采集模块,振动报警信号采集模块、玻璃破碎检测模块和门磁检测模块及无线报警信号采集模块。主核处理端完成开关量报警信号的采集及延时同步,连同音视频信号传送到从核处理端。从核处理端完成智能音视频分析,多源报警信息融合及决策,通过人脸识别方式或无线WIFI方式完成户主身份的确认,在检测到入侵行为时如果用户身份确认失败则向主核处理端发送报警/预警信号,主核处理端通过报警发送模块向外部终端发送报警和联动控制信息。
如图4所示,主核处理端软件流程:
***上电后,首先完成主芯片主核处理端的初始化,接下来完成***采集设备,通信设备初始化,启动主核处理程序。创建音视频采集线程、热释电红外检测线程、无线接收线程、通信线程、报警发送线程。
音视频采集线程:当接收到音视频数据后组合一帧多源数据,包括视频数据、音频数据、各种传感器报警强度及用户手机是否存在的标识,放入FrameBuffer中供通信线程调用,同时完成音视频的预录,以便提供报警信息。
报警信号采集线程:接收各种有线或无线接入的报警传感器的开关量报警信号Ai,其中Ai可以是热释电红外报警信号,振动报警信号,玻璃破碎报警信号,门磁报警信号等。
通信线程:接收从核处理器端发来的报警信号,通知报警发送线程。如果FrameBuffer中存在一帧多源数据,则将该数据发送到DSP端。
报警发送线程:接收到报警信号后,组织相关的报警信息,如预录的音视频,图片等,向外部终端发送。
如图5所示,从核处理器端软件流程:
首先主核处理器端启动后,将多任务内核及应用程序加载到从核处理器内存中,从核处理器完成一系列初始化,自动创建通信线程及人脸识别线程。通信线程首先判断是否需要发送报警/预警信号,如果是则向主处理端发送报警/预警信号,否则判断是否收到一帧多源信息,其中多源信息包括:音视频数据,各种传感器报警信号及用户手机是否存在的标识,将多源信息放入帧缓存FrameBuffer中,同时向主处理端发送接收确认信号,表明从处理端工作正常。人脸识别线程从FrameBuffer中取出视频数据完成人脸识别,如果人脸识别成功,则置位身份确认的标识。入侵检测线程从FrameBuffer中读取一帧数据,通过音频分析,振动信息,红外信息判断是否有人将要进入监控区域,如果是则开启照明,为接下来的视频分析提供环境光照,同时方便户主开门。开启照明后开始运动检测,由于只关心进门这一行为,所以需要进行运动方向判断,当判断为进门方向时,对目标进行跟踪。当目标存在时间大于设定时间时,说明为可疑人员,如果WIFI方式身份确认失败则***会通过语音提示主动配合进行人脸识别,如果身份验证失败则触发入侵行为报警,向ARM端发送报警/预警信号。
图6示出了本发明一种智能门窗防入侵***的另一个优选实施例,户主身份判断包括人脸识别或在用户手机安装WIFI通信软件,视频采集模块与用户手机通过WIFI通信进行身份确认,其中所述人脸识别的方法主要包括以下部分:
人脸注册,采集同一个人的不同角度的正面人脸照片,通过人脸定位找到人脸在图像中的位置,并标准化人脸尺寸,人脸角度和光照,提取标准化人脸图像的特征,录入注册用户数据库;
人脸识别,采用HAAR特征结合adaboost算法实现人脸检测实现人脸定位,采用了两层人眼***,都是通过adaboost算法获得人眼定位,利用人脸定位结果通过图像旋转将双眼校正为水平实现人脸标准化,通过二维Gabor滤波器进行特征提取,利用向量间的协方差距离作为匹配度量方式,通过最近邻分类法实现查询的人脸图像与数据库人脸图像的匹配。其中Adaboost算法将大量分类能力一般的弱分类器按照训练误差指数下降的方式组合为一个强分类器。而HAAR特征为adaboost算法提供了海量的弱分类特征,保证了adaboost算法总体找到性能优异的弱分类。在人脸检测实施过程中,积分直方图和级联分类器的使用在保证较高检测精度的同时大大降低了处理时间;人眼定位时一般分为两层定位,其中第一层为粗定位,定位区域选择了包括了眼睛眉毛在内的大部分眼部区域,第二层为精确定位,定位区域只包含眼部区域。粗***相比于精确***由于包含了更多了区域信息,因此定位的稳定性更高,基本不存在较大的位置偏差,而精确***能够实现人眼的精确定位,但是容易受到眉毛、眼角的干扰造成定位错误。在粗定位的基础上通过几何比例关系确定人眼的大致位置范围,在该范围内使用精确***实现人眼的精确定位。通过由粗到精的定位方式,减小了眉毛、眼角等对定位的影响,提高了定位的准确性;而人脸标准化是人脸识别中非常关键的一个步骤,标准化结果的好坏直接影响了人脸识别的精度。人脸标准化主要完成人脸图像的几何校正及亮度校正。利用上一步人眼定位的结果很容易实现人脸图像的几何校正,首先通过图像旋转将双眼校正为水平,通过双眼距离d对人脸图像进行截取。如图9所示,其中最后将图像缩放到80x80象素。
亮度校正主要是在一定程度上消除光照不均对后续识别的影响。主要包括光照面拟合,扣除光照面,直方图均衡及灰度值归一化到零均值,单位方差。这里假设光照面是一个平面。光照面上的点满足如下公式:IP(x,y)=ax+by+c写成矩阵形式即x=Np,其中x表示图像的象素点灰度值排成的列向量,N表示象素点对应的坐标,第一列表示横坐标,第二列表示纵坐标,第三列填充1,p=[a b c]T。平面参数a,b,c可以通过线性回归的方式求得,即p=(NTN)-1NTx。
可以选择了Gabor小波特征,Gabor变换在分析图像局部区域纹理方面具有优异的性能。二维Gabor滤波器
Figure BDA0000475614990000071
可以表示为:
ψ ( x → ) = | | k → | | σ 2 exp ( - | | k → | | 2 | | x → | | 2 2 σ 2 ) [ exp ( i k → x → ) - exp ( - σ 2 2 ) ]
Figure BDA0000475614990000073
其中
Figure BDA0000475614990000074
为图像坐标,为滤波器的中心频率,kx和ky分别表示
Figure BDA0000475614990000076
在横轴和纵轴的投影,
Figure BDA0000475614990000077
为滤波器的方向,u和v代表不同的取值,
Figure BDA0000475614990000078
为高斯包络,
Figure BDA0000475614990000079
为复数值平面波。二维Gabor滤波器通过二维高斯函数调制特定频率和方向的正弦波平面实现,通过改变正弦波平面的频率和方向实现不同尺度和不同方向图像纹理的分析。
通过人脸标准化得到了80x80大小的人脸图像,这里选择了5个滤波器尺度,8个滤波方向,得到40个不同方向和频率的Gabor滤波器,对一张人脸图像通过滤波器卷积后得到40张Gabor小波变换后的幅值图像,最后得到的Gabor特征维数为163840。这样一个高维的特征向量中会大大降低识别分类的速度,因此需要对特征向量进行降维。这里采用4x4均匀向下采样实现特征降维。
采用最近邻分类法实现查询的人脸图像与数据库人脸图像的匹配,采用向量间的协方差距离作为匹配度量方式,同时可以通过协方差距离衡量最终匹配的可信度。
根据本发明一种智能门窗防入侵***的另一个优选实施例,信号处理模块
连接有存储模块(Storage),针对不同的应用情况,会用到不同类型的存储介质,SD和TF卡通过SDIO来控制,此类型的存储介质方便更换;Nand通过Nandflash控制,此类型集成度高,但是不易于更换存储介质;SSD通过PCI-E或者SATA接口控制,此类型存储空间可以做到很大;
设置有以太网接口(RJ45);
通过电源管理模块(Power manager)连接有外接电源(DC IN)和电池(Battery);
连接有用于主控CPU运行的内存(DDR);
连接有用于存储***启动程序、配置参数、日志信息的闪存(Flash);
连接有无线模块(3G、WIFI),用于音视频数据以及远程控制信号的传输;
连接有无线模块(zigbee、Blue tooth或其他无线模块),用于接收分布式报警器发送的报警信号,如玻璃破碎信号和门磁打开信号,也可向其它设备发送控制信息。
连接有通过外接警灯,警号联动设备,实现本地声光报警,或控制其它关联设备的联动报警模块。
图7示出了本发明一种智能门窗防入侵***的另一个优选实施例,视频采集模块的检测方法主要分为背景建模及运动检测,目标确认,目标跟踪和行为分析四部分,其中
所述背景建模及运动检测,是采用了多帧图像求平均的方式得到背景均值,将背景的方差初始化为一个常数,通过公式
f ( x , y ) = 1 | f ( x , y ) - μ ( x , y ) | > N × σ ( x , y ) 0 else
将前景检测将背景象素与前景象素分离,其中1表示前景象素,0表示背景象素。f(x,y)表示图像中(x,y)处象素的灰度值,μ(x,y)表示对应的背景均值,σ(x,y)表示对应背景的方差,
如果检测到大面积前景象素则***认为场景可能发生了变化,这时关闭后续的分析,如果长时间都检测到大面积前景象素则***认为场景确实发生了变化,这时重新开始背景建模。
本***的背景的更新采用了基于目标层面和基于象素层面相结合的背景更新策略。当象素点被检测为背景点时,采用基于象素层面的背景更新,这里采用单高斯背景更新方法,包括背景均值的更新和背景方差的更新,如下公式所示:
μt(x,y)=(1-α)×μt-1(x,y)+ft(x,y)×α
σ t 2 ( x , y ) = max ( Δ , ( 1 - α ) × σ t - 1 2 ( x , y ) + ( f t ( x , y ) - μ t ( x , y ) ) 2 × α )
其中下标t表示t时刻,α为更新因子,一般是一个很小的值,如0.01。这里钳位了方差的最小值为Δ,防止模型过分收敛,导致模型抗噪声能力减弱,这里Δ的取值为36。
当象素点被检测为前景点时,如果通过目标分割判断象素点不是目标象素点则采用基于象素层面的背景更新,即如果该象素点在固定的时间内长时间检测为前景象素点则将象素点一次性更新到背景中;如果通过目标分割判断象素点是目标象素点则采用基于目标层面的背景更新方法,即只有判断目标在很长时间没有发生运动时,才会将目标所在的区域象素点一次性更新到背景中。
所述目标确认,通过目标尺寸滤波器根据设定的尺寸滤除不满足尺寸要求的前景区域,通过高亮目标滤波器根据设定阈值滤除高亮的前景区域,通过时域滤波器对运动连续性、运动显著性和面积变化连续性分别进行滤波。其中高亮目标滤波器:滤除高亮的前景区域,这些前景区域可能是光源或者反光介质等干扰。高亮前景区域的判断方法:如果前景区域中高亮象素的比例超过设定阈值,则认为该前景区域是高亮前景区域;时域滤波器:时域滤波是基于目标层面的滤波,需要借助目标跟踪技术。包括:运动连续性滤波,运动显著性滤波,面积变化连续性滤波。运动连续性滤波:假设目标在前后两帧的所占据区域是大面积重叠的,即目标的位置不会发生突变。运动显著性滤波:假设目标的运动是有一定的方向性的,即在一段时间内目标位移的矢量加和与目标位移的标量加和的比值应该大于一定的阈值。面积变化连续性滤波:假设目标的面积是相对稳定的,不会发生突变。
所述目标的跟踪,采用采用了基于运动检测的目标跟踪,在运动检测的基础上通过帧间的目标关联,形成目标的运动轨迹,为后续目标行为分析提供依据,根据当前帧及之前目标的位置估计目标在下一帧的位置,通过公式 v t x = Σ n = 0 N - 2 ( x t - n - x t - n - 1 ) N - 1 v t y = Σ n = 0 N - 2 ( x t - n - x t - n - 1 ) N - 1 对估计目标速度实现目标位置预测,其中
Figure BDA0000475614990000091
分别表示t时刻目标在x方向和y方向的速度,N为时间窗口,xt-n和yt-n分别表示t-n时刻目标外界矩形框中心的横坐标和纵坐标,同理xt-n-1和yt-n-1分别表t-n-1时刻目标外界矩形框中心的横坐标和纵坐标。特征选择方面这里选择了相对稳定可靠的目标面积S和目标外接矩形框的中心C两个特征,目标关联匹配就可以找到前一帧目标在当前帧的位置,实现目标的定位。根据相关跟踪原理,只要保证足够图像采样率的情况下,同一个目标在相邻两帧之间的位置变化不会太大,因此可以将目标的搜索范围限定在一个较小的距离范围,同时也大大降低了误匹配的风险。利用
Figure BDA0000475614990000093
公式,当前帧目标
Figure BDA0000475614990000094
与待匹配的目标
Figure BDA0000475614990000095
满足下式时才进行特征匹配,其中γ为搜索距离阈值,需要根据实际场景进行确定。
匹配的准则,如下公式所示:
arg min ( &omega; &times; ( dist ( O t j { C } , O t - 1 i { C } ) &gamma; ) + ( 1 - &omega; ) &times; | O t j { S } - O t - 1 i { S } | O t - 1 i { S } ) < T
其中ω为特征的权重因子,这里取0.5,这里设置了匹配的误差上限T,防止误匹配,这里取0.4。
目标特征的更新均采用一阶平滑的方式更新,如下公式所示:
O t i { F } = &alpha; &times; O t - 1 i { F } + ( 1 - &alpha; ) &times; O t i { F } , F = { S , C }
其中α为更新因子,这里取0.2。
所述行为分析,通过用户设定报警区域及相应的规则实现特定行为的判断。例如可以将报警区域设置为门所在区域,进入该区域的人如果停留时间超过设定值则认为是可能的入侵行为,触发报警。也可以将门所在的较大区域设置为徘徊检测区域,进入该区域的人如果停留时间超过设定值则认为是可能的踩点行为,触发预警。
图8示出了本发明一种智能门窗防入侵***的另一个优选实施例,音频采集模块的检测方法,
基于声音的入侵检测流程如下图所示,通过音频采集设备得到的音频信号,首先进行预处理,主要包括预加重,分帧和加窗,满足后续频谱分析及识别的需要,接下来采用混合高斯模型建立背景声音模型,建模完成后开始声音检测,当检测到场景中出现不同于背景声音的异常声响时,报警强度开始累加,如果报警强度大于设定阈值,说明存在入侵行为,触发报警,具体如下,
取得音频信号的功率谱密度,设音频信号X(t)的采样率为fs,(例如取48kHz),将X(t)依次经过预加重,分帧和加窗处理,(帧长为48K个采样点,帧移为24K个采样点,窗函数选择汉宁窗),在信号处理前首先去除均值,避免直流分量对ω=0处附近的谱线产生影响,采用经典谱估计中的周期图法,使用快速傅里叶变换FFT实现,最终得到归一化的功率谱X(t)(fn),其中n∈[1,N],N为采样点数,t表示采样时刻,(当采样率为fs=48kHz,N的取值为48000,对于后续分析来说计算量较大),采用子带能量比率
Figure BDA0000475614990000098
描述功率谱密度,利用公式计算出子带能量比率
Figure BDA00004756149900000910
定义为子带能量与总能量的比值,其中U(i)和L(i)表示子带i的上边界和下边界这里按照对数将频带划分为M个子带(当M=10,fs=48kHz时对应的子带边界为0.023kHz,0.046kHz,0.093kHz,0.187kHz,0.375kHz,0.750kHz,1.5kHz,3kHz,6kHz,12kHz和24kHz);
基于子带能量比率的混合高斯背景建模及声音检测,混合高斯背景建模假设信号变化的概率分布可以用K个高斯分布拟合,音频信号的概率分布表示为模型中每个高斯分布ηi(x,μii)都赋予一个权重ωi,其中μi和σi分别表示高斯分布的均值和标准差,多个高斯分布通过线性组合得到信号的概率分布,ωi体现了模型对于第i个高斯分布的重视程度,当一段时间内信号的幅值落在该高斯分布内时,ωi的值会逐渐增大,反之ωi会逐渐减小。σ反映了高斯分布的收敛性,对于一个趋于收敛的高斯分布来说,幅值围绕均值的波动应该较小,σ也较小,这样的高斯分布才适合描述背景的变化。K个高斯分布按照ω/σ的降序排列,排列靠前的高斯分布最能够代表背景的分布,将前B个高斯分布作为背景模型,剩余的高斯分布作为前景模型,其中
Figure BDA0000475614990000102
将当前信号幅值与前B个高斯分布进行匹配,如果和其中的任何一个高斯分布匹配成功则该信号为背景,否则为前景信号,利用|I(x,t)-μi(x,t-1)|<c×σi(x,t-1)进行匹配。
根据本发明一种智能门窗防入侵***的另一个实施例,智能门窗防入侵***的防入侵方法,步骤如下:
第一步,通过视频采集模块收集数字视频信号,通过音频采集模块收集数字音频信号,通过热释放红外线检测报警模块收集外界热量温度变化信息并转变为电压信号,通过振动检测模块收集外界振动产生形变或受力转变的信息并转变为电压信号,通过玻璃破碎检测模块和门磁检测模块收集玻璃破碎和门磁变化信息闭并转变为电压信号;
第二步,信号处理模块接收到热释放红外线检测报警模块、振动检测模块、玻璃破碎检测模块和门磁检测模块的电压信号,并结合音视频智能分析、主人身份识别验证,综合判定入侵行为的发生,当存在入侵行为时,发出报警信号;
第三步,报警发送模块收到报警信号,同时接收视频采集模块收集数字视频信号和通过音频采集模块收集数字音频信号,并通过有线或无线的方式传输到外部管理终端或手持终端。
根据本发明一种智能门窗防入侵***的另一个实施例,智能门窗防入侵***其用作可视门禁的方法如下:
第一步,通过视频采集模块收集数字视频信号,通过音频采集模块收集数字音频信号,通过热释放红外线检测报警模块收集外界热量温度变化信息并转变为电压信号,通过振动检测模块收集外界振动产生形变或受力转变的信息并转变为电压信号,通过玻璃破碎检测模块和门磁检测模块收集玻璃破碎和门磁变化信息闭并转变为电压信号;
第二步,信号处理模块接收到热释放红外线检测报警模块、振动检测模块、玻璃破碎检测模块和门磁检测模块的电压信号,并结合音视频智能分析判断是否为客人到访,如果存在客人到访行为的发生,则通过无线的方式将访客在门外的视频或照片信息自动发送到在家室内主人手机等移动或固定终端,并激活终端给出振铃、震动或语音提示。
在本发明中:
视频采集模块利用的智能视频分析技术,即采用计算机、嵌入式双核处理器等从视频中通过运算和分析,提取视频中有用信息的一项技术。该技术借助各种处理器强大的数据处理能力,对视频画面中的海量数据进行高速分析,过滤掉用户不关心的信息,仅仅为使用者提供有用的关键信息。
红外线检测报警模块利用的热释电红外检测技术,即被动红外探测的一种,感应移动物体与背景物体的温度的差异。监控区域内,无人体移动时,热释电红外感应器感应到的只是背景温度,当人体进入区域时,人体发射的红外线通过菲涅尔透镜增强后聚集到热释电红外感应器上,热释电红外中的热释电元件感应到人体温度与背景温度的差异,温度发生变化,失去电荷平衡,向外释放电荷,后续电路检测处理后产生报警信号。
振动检测模块利用的振动防盗报警技术:采用压电式陶瓷片作为传感器,将外界振动产生形变或受力转变为电压信号,通过后续辅助电路完成报警信号的发送和停止。
玻璃破碎检测检测模块所利用的玻璃破碎检测技术:利用压电陶瓷片的压电效应,可以制成玻璃破碎入侵探测器。对高频的玻璃破碎声音(10k~15kHZ)进行有效检测,而对10kHZ以下的声音信号(如说话、走路声)有较强的抑制作用。通常将将声控与震动探测两种技术组合在一起,只有同时探测到玻璃破碎时发出的高频声音信号和敲击玻璃引起的震动,才输出报警信号。
门磁检测模块利用的门磁检测技术:由两部分组成:永久磁铁和常开型的干簧管,永久磁铁用来产生恒定的磁场,当永磁体和干簧管靠得很近时,门磁传感器处于工作守候状态,当永磁体离开干簧管一定距离后,处于常开状态,触发报警。
本***工作流程是:
用户可以根据需要开启或关闭报警功能,检测的方式可以选择视频检测、音频检测、热释电红外检测,振动检测,玻璃破碎检测,门磁检测中的一种或几种,如窗户区域采用热释电红外检测、振动检测、玻璃破碎检测、门磁检测,门所在区域采用视频检测、音频检测、热释电红外检测、振动检测、门磁检测。报警信息可以是视频,音频或图片中的一种或几种。
(1)***上电或复位后,信号处理模块从FLASH中加载操作***和应用程序,完成对主处理芯片的初始化和***硬件的配置,接下来完成对各子***的初始化,最后进入正常工作状态。
(2)主处理芯片的主处理器端不断的采集监控现场的音视频信号及热释红外检测信号,同时通过无线接收模块接收其它分布式报警传感器的报警信号,将多源数据送入从处理器端进行分析,同时进行音视频预录。如果收到从处理器端的报警或预警信号,则将预录的音视频,连同抓拍的照片通过报警信号发送模块发送到小区监控中心或户主的手机上。
(3)主处理芯片的从处理器端运行智能音视频分析算法及入侵行为判断。通过音频分析,振动信息,红外信息判断是否有人将要进入监控区域,如果是则开启照明,为接下来的视频分析提供环境光照,同时方便户主开门。开启照明后开始运动检测,由于只关心进门这一行为,所以需要进行运动方向判断,当判断为进门方向时,对目标进行跟踪。当目标存在时间大于设定时间时,说明为可疑人员,如果WIFI方式身份确认失败则***会通过语音提示主动配合进行人脸识别,如果身份验证失败则触发入侵行为报警,向主处理器端发送报警/预警信号。
(4)监控中心和户主收到预警或报警后,可以通过传回来的报警信息进行确认,并采取应对措施。
实验:
本***的安装:吸顶安装,保证监控范围能够覆盖整个门所在区域及门前的部分过道区域,调整拍摄角度保证监控视野内能够得到近似正面的人像,照明条件良好,能够得到清晰的人脸图像,人脸象素面积大于80*80象素。
本发明判断进入行为发生的两个依据是:
监控区域出现了可疑人员:通过多种报警传感器相结合的方式实现可疑人员的
检测。
可疑人员身份验证失败:户主可以通过两种方式完成身份验证:视频人脸识
别方式和WIFI无线通信方式。视频人脸识别方式:用户进入区域后主动配合摄像机完成人脸识别,通过与注册的人脸库进行比对,完成身份的验证。WIFI无线通信方式:摄像机与用户手机通过WIFI通信完成身份验证。
因此将实验分为两部分:区域进入检测和身份验证。
区域进入检测实验
本发明首先通过音频分析,振动检测,红外检测对进入区域的行为进行预检,接下来通过视频运动检测进行复核的方式实现区域进入检测,为了验证产品的实际性能,进行了5次测试,每次测试为7*24小时,同时和单一传感器的性能进行了比较,对于单一检测方式来说只要触发了报警,则认为是发生了区域进入行为,测试结果如下:
Figure BDA0000475614990000121
通过实验证明了多种报警传感器的有效结合相比于单一的报警器无论在检测精度方面,还是在减小误报方面都有很大的提高。
身份验证实验
当检测到入侵行为时,***开启身份验证,设定验证超时时间为10秒,在10秒内如果没有确认用户身份,则认为是非法入侵。分别对人脸识别和WIFI通信这两种验证方式进行了测试,测试结果如下:
Figure BDA0000475614990000122
在实验中发现,人脸识别对人脸姿态,光照环境的要求都比较高,如果环境侧光严重或者人员姿态配合不默契会造成无法识别或错识别,而通过WIFI通信的方式无需用户配合,但是可能会受到其它WIFI设备的干扰造成连接不成功,通过实验说明,采用WIFI通信进行身份确认优于人脸识别实现身份确认,将两者结合可以进一步提高身份确认的准确率。
尽管这里参照本发明的多个解释性实施例对本发明进行了描述,但是,应该理解,本领域技术人员可以设计出很多其他的修改和实施方式,这些修改和实施方式将落在本申请公开的原则范围和精神之内。更具体地说,在本申请公开、附图和权利要求的范围内,可以对主题组合布局的组成部件和/或布局进行多种变型和改进。除了对组成部件和/或布局进行的变型和改进外,对于本领域技术人员来说,其他的用途也将是明显的。

Claims (10)

1.一种智能门窗防入侵装置,所述防入侵装置包括照明模块、视频采集模块、综合信息采集模块、报警发送模块、信号处理模块、照明控制模块,其特征在于:
所述照明模块为视频采集模块的视频采集提供照明光源;
所述视频采集模块在照明模块开启时开始采集周围视频信息;
所述综合信息采集模块实时采集周围信息,并实时提供给所述信号处理模块;
所述照明控制模块决定照明模块的开启,其中,所述照明控制模块根据所述信号处理模块对所述周围信息的处理结果来决定所述开启;
所述信号处理模块根据所述视频信息和所述周围信息来分辨入侵行为,从而决定是否启动报警发送模块,发出报警信号。
2.如权利要求1所述的防入侵装置,其特征在于:
还包括电源管理模块,对所述防入侵装置进行供电,所述电源管理模块连接外接电源和蓄电池;
当外接电源正常供电时,整个产品使用外接电源;
当外接电源被切断时,所述蓄电池自动启用为所述防入侵装置供电。
3.如权利要求1或2任一所述的防入侵装置,其特征在于:
所述综合信息采集模块包括音频采集模块、热释放红外线检测报警模块、振动检测模块、玻璃破碎检测模块、门磁检测模块中的一个或多个模块;
所述周围信息包括语音信息、红外信息、振动信息以及玻璃破碎声音信息、门磁信息。
4.如权利要求1-3任一所述的防入侵装置,其特征在于:
所述照明模块中的照明灯呈环状,所述热释放红外线检测报警模块、振动检测模块、视频采集模块、音频采集模块和报警发送模块分布安装在所述照明灯的外边缘,所述信号处理模块、电源管理模块以及开关控制模块安装在所述照明灯的内部。
5.如权利要求1-4任一所述的防入侵装置,其特征在于:
所述信号处理模块包括主处理芯片,所述主处理芯片采用主核处理器与从核处理器结合的双核架构模式。
6.一种智能防入侵***,所述***包括存储模块和如权利要求1-5任一所述的防入侵装置;所述存储模块通过有线或无线通信的方式与所述防入侵装置建立通信连接,对所述防入侵装置采集的信息进行存储;
其特征在于:
所述分辨入侵行为包括对接近防入侵装置的人进行身份识别,所述身份识别是通过人脸识别或其他方式识别来完成;
在进行所述身份识别的同时,还对在人接近防入侵装置时所述综合信息采集模块采集到的所述周围信息进行分析;
所述信号处理模块基于所述身份识别和对所述周围信息进行分析,形成决策信号,分辨入侵行为是否成立。
7.如权利要求6所述的防入侵***,其特征在于:
在进行所述人脸识别之前,还包括人脸注册以形成人脸数据库;
所述人脸识别中,采用HAAR特征结合adaboost算法进行人脸检测实现人脸定位;
采用两层人眼***,通过adaboost算法获得人眼定位,利用人脸定位结果通过图像旋转将双眼校正为水平实现人脸标准化;
通过二维Gabor滤波器进行特征提取,利用向量间的协方差距离作为匹配度量方式,通过最近邻分类法实现待识别的人脸图像与所述人脸数据库中的人脸图像进行匹配。
8.如权利要求6-7任一所述的***,其特征在于:
所述分辨入侵行为还包括对所述视频信息中的动作进行检测分析。
9.一种智能门禁***,所述智能门禁***包括如权利要求6-7任一所述的智能防入侵***,所述智能门禁***利用所述智能防入侵***来完成所述身份识别、对所述周围信息进行分析,识别是否为客人到访,并自动将到访客人到达的信息发送到移动或固定终端。
10.如权利要求9所述的智能门禁***,其特征在于:
所述识别是否为客人到访包括如下步骤:
第一步,通过所述视频采集模块收集数字视频信号,通过所述音频采集模块收集数字音频信号,通过热释放红外线检测报警模块收集外界热量温度变化信息并转变为电压信号,通过振动检测模块收集外界振动产生形变或受力转变的信息并转变为电压信号,通过玻璃破碎检测模块和门磁检测模块收集玻璃破碎和门磁变化信息并转变为电压信号;
第二步,信号处理模块接收到热释放红外线检测报警模块、振动检测模块、玻璃破碎检测模块和门磁检测模块的电压信号,并结合音视频智能分析判断是否为客人到访;
第三步,如果存在客人到访行为的发生,通过无线的方式将访客在门外的视频或照片信息自动发送到在家室内主人手机等移动或固定终端,并激活终端给出振铃、震动或语音提示。
CN201410087867.5A 2013-03-11 2014-03-11 一种智能门窗防入侵装置以及***、智能门禁*** Expired - Fee Related CN103839346B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410087867.5A CN103839346B (zh) 2013-03-11 2014-03-11 一种智能门窗防入侵装置以及***、智能门禁***

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
CN2013100759135A CN103198595A (zh) 2013-03-11 2013-03-11 智能门窗防入侵***
CN2013100759135 2013-03-11
CN201310075913.5 2013-03-11
CN201410087867.5A CN103839346B (zh) 2013-03-11 2014-03-11 一种智能门窗防入侵装置以及***、智能门禁***

Publications (2)

Publication Number Publication Date
CN103839346A true CN103839346A (zh) 2014-06-04
CN103839346B CN103839346B (zh) 2016-08-24

Family

ID=48721085

Family Applications (2)

Application Number Title Priority Date Filing Date
CN2013100759135A Pending CN103198595A (zh) 2013-03-11 2013-03-11 智能门窗防入侵***
CN201410087867.5A Expired - Fee Related CN103839346B (zh) 2013-03-11 2014-03-11 一种智能门窗防入侵装置以及***、智能门禁***

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN2013100759135A Pending CN103198595A (zh) 2013-03-11 2013-03-11 智能门窗防入侵***

Country Status (2)

Country Link
CN (2) CN103198595A (zh)
WO (1) WO2014139415A1 (zh)

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104122863A (zh) * 2014-07-17 2014-10-29 江苏惠居乐信息科技有限公司 面向家居装修的远程智能监控***及其控制方法
CN104240354A (zh) * 2014-09-26 2014-12-24 南昌大学 一种智能门户锁***
CN104269005A (zh) * 2014-09-20 2015-01-07 常州市武进南夏墅静电喷塑有限公司 智能家庭防盗***
CN104268963A (zh) * 2014-08-06 2015-01-07 成都百威讯科技有限责任公司 一种智能门锁***及智能门锁、智能报警门
CN104766395A (zh) * 2015-03-11 2015-07-08 张瞳 一种智能锁的安全控制方法
CN105139569A (zh) * 2015-08-20 2015-12-09 冯鹏程 一种智能门控设备与智能灯控设备的联动控制***
CN105155940A (zh) * 2015-08-27 2015-12-16 成都众山科技有限公司 智能门锁***
CN105178721A (zh) * 2015-08-27 2015-12-23 成都众山科技有限公司 节能安全门锁控制装置
CN105245822A (zh) * 2014-06-24 2016-01-13 陈凯柏 用影像辨识***控制的照明装置
CN105653037A (zh) * 2015-12-31 2016-06-08 张小花 一种基于行为分析的交互***及方法
CN105788119A (zh) * 2014-12-23 2016-07-20 张宇成 一种远程智能报警方法、报警器和***
CN106101631A (zh) * 2016-07-04 2016-11-09 安霸公司 云摄像机
CN106204837A (zh) * 2016-07-06 2016-12-07 苏州华安普电力科技股份有限公司 一种无人值守变电所安全门控***
CN106297120A (zh) * 2015-06-03 2017-01-04 天津维斯顿科技有限公司 一种智能型人体红外感测联动报警***
CN106530445A (zh) * 2015-09-09 2017-03-22 伟林电子股份有限公司 远端门禁管控***
CN107067524A (zh) * 2017-06-03 2017-08-18 合肥佳洋电子科技有限公司 一种智能小区安防***
CN107393073A (zh) * 2017-07-20 2017-11-24 克立司帝控制***(上海)有限公司 基于图像识别技术的门禁监控控制***及方法
CN107408316A (zh) * 2014-09-02 2017-11-28 鲁道夫·金 门和住宅安全***以及方法
CN108696726A (zh) * 2018-07-02 2018-10-23 天津煋鸟科技有限公司 一种无盲区监控***
CN108765832A (zh) * 2018-07-06 2018-11-06 厦门信通慧安科技有限公司 一种入侵检测方法及装置
CN108961634A (zh) * 2018-05-28 2018-12-07 马鞍山光标网络科技有限公司 一种智能城市用小区安防***
CN109785474A (zh) * 2018-11-13 2019-05-21 北京码牛科技有限公司 一种安全、节能的多功能智能锁***
CN110751771A (zh) * 2019-09-27 2020-02-04 深圳市大拿科技有限公司 门体异常告警方法及相关产品
CN111405390A (zh) * 2020-03-02 2020-07-10 浙江依圆节能科技有限公司 一种检测门、窗开关状态的无线无源发射装置
CN111553386A (zh) * 2020-04-07 2020-08-18 哈尔滨工程大学 一种基于AdaBoost和CNN的入侵检测方法
CN112183337A (zh) * 2020-09-28 2021-01-05 华北电力大学(保定) 一种输电线路防机械入侵的检测方法及装置

Families Citing this family (63)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103198595A (zh) * 2013-03-11 2013-07-10 成都百威讯科技有限责任公司 智能门窗防入侵***
CN103455147B (zh) * 2013-09-10 2016-08-31 惠州学院 一种光标控制方法
CN103487622B (zh) * 2013-09-25 2016-08-17 国网河南镇平县供电公司 一种防止盗电及具有监控功能的电表箱装置
CN104658007A (zh) * 2013-11-25 2015-05-27 华为技术有限公司 一种实际运动目标的识别方法及装置
CN103593927A (zh) * 2013-11-29 2014-02-19 赵智朋 一种家用防盗报警器
CN104754290A (zh) * 2013-12-30 2015-07-01 南京理工大学常熟研究院有限公司 一种网络视频监控装置
JP6592452B2 (ja) * 2014-03-27 2019-10-16 シグニファイ ホールディング ビー ヴィ 照明ユニットによる圧力波の検出及び通知
CN104166411A (zh) * 2014-07-21 2014-11-26 苏州昊枫环保科技有限公司 多室级联控制的感应对比监控***
CN104331684A (zh) * 2014-10-20 2015-02-04 西北工业大学 基于双机通信的高光谱图像目标检测***
CN104463174A (zh) * 2014-12-16 2015-03-25 广州南方电力集团科技发展有限公司 一种多角度动态人物识别及行为预测***
CN104574727A (zh) * 2014-12-25 2015-04-29 安徽泓光网络工程有限公司 一种家庭智能防盗***
CN104537811B (zh) * 2014-12-31 2017-06-23 上海青橙实业有限公司 一种智能报警方法及***
CN105989683A (zh) * 2015-02-12 2016-10-05 贝斯科技国际有限公司 增强型住宅安全***
CN104766428A (zh) * 2015-03-11 2015-07-08 苏州中德宏泰电子科技有限公司 一种家庭安防监控***
CN104852977B (zh) * 2015-04-30 2018-09-21 海尔优家智能科技(北京)有限公司 一种动态告警推送方法、***和通信设备
CN104978810A (zh) * 2015-06-23 2015-10-14 浙江生辉照明有限公司 玻璃破碎检测装置、方法及led照明装置
CN104966369A (zh) * 2015-06-26 2015-10-07 苏州昊枫环保科技有限公司 基于霍尔传感检测与实时信息传输的监控***
CN105185066B (zh) * 2015-10-15 2017-08-25 上海斐讯数据通信技术有限公司 一种家庭智能云防盗***及其使用方法
CN105303738B (zh) * 2015-10-22 2018-01-23 中国石油天然气股份有限公司 油井防盗油报警器
CN105279872A (zh) * 2015-10-30 2016-01-27 沈阳智汇万通科技发展有限公司 用于入户门的防盗监控装置及监控***
CN105336076A (zh) * 2015-11-02 2016-02-17 苏州美达瑞电子有限公司 基于门磁感应和图像分析的智能监控***
CN105336087A (zh) * 2015-12-01 2016-02-17 嘉兴职业技术学院 一种基于信息技术的安全监控***
CN105578134A (zh) * 2015-12-16 2016-05-11 武汉烽火众智数字技术有限责任公司 一种视频采集***及方法
CN105551211A (zh) * 2016-02-02 2016-05-04 苏州中恒普瑞能源互联网科技有限公司 一种基于wifi入侵报警器及入侵报警***
CN105809878A (zh) * 2016-04-25 2016-07-27 成都五方传奇物联网技术有限公司 带无线通信功能的环境温度及振动检测电路
CN105805894A (zh) * 2016-04-25 2016-07-27 成都五方传奇物联网技术有限公司 一种基于wifi联网设计的具有环境温度检测功能的报警器
CN105743931B (zh) * 2016-05-11 2019-10-29 百度在线网络技术(北京)有限公司 应用于智能家居平台的控制方法和装置
CN105957284A (zh) * 2016-06-21 2016-09-21 太仓市美斯门窗有限公司 一种智能防盗报警门窗
CN106056820A (zh) * 2016-07-15 2016-10-26 珠海格力电器股份有限公司 家庭安保装置及其控制方法、家庭安保***、空调器
CN106127985A (zh) * 2016-08-16 2016-11-16 汪景安 多功能感应监控报警***
CN106205378A (zh) * 2016-08-26 2016-12-07 吕跟来 智能多功能电子门牌***
CN106127986A (zh) * 2016-08-29 2016-11-16 龙元 一种app控制的窗户防盗远程及本地报警***
CN106251532A (zh) * 2016-10-12 2016-12-21 无锡派乐科技有限公司 一种带拍照拍摄传输的室内安全监控***
CN106447869A (zh) * 2016-10-26 2017-02-22 江苏金米智能科技有限责任公司 基于亮度调节的楼宇门禁自动化控制装置
FR3061392B1 (fr) * 2016-12-27 2019-08-30 Somfy Sas Procede de controle de presence et systeme de surveillance
CN106982325A (zh) * 2017-03-23 2017-07-25 移康智能科技(上海)股份有限公司 一种录像报警方法与装置
CN106934971A (zh) * 2017-03-30 2017-07-07 安徽森度科技有限公司 一种电网异常入侵预警方法
CN107168294B (zh) * 2017-06-26 2024-01-19 西安热工研究院有限公司 一种火电水***设备无人巡检监控方法
CN107204106B (zh) * 2017-07-11 2020-02-21 河北金锁安防工程股份有限公司 一种安防***中滤除虚假警情的报警方法及***
CN107564214A (zh) * 2017-07-19 2018-01-09 天盯科技(深圳)有限公司 门窗防盗方法、装置以及***
CN107481463A (zh) * 2017-08-31 2017-12-15 亚月(武汉)智能科技有限公司 一种具有识别功能的婴儿车
CN108062132A (zh) * 2017-12-25 2018-05-22 广东星鼎通信科技有限公司 一种基于自动化控制技术的通信控制室
US11735018B2 (en) 2018-03-11 2023-08-22 Intellivision Technologies Corp. Security system with face recognition
CN108573584A (zh) * 2018-04-23 2018-09-25 深圳市沃特沃德股份有限公司 智能音响和基于智能音响的监控***及方法
CN108447208B (zh) * 2018-05-17 2019-10-29 普联技术有限公司 灯光报警方法、设备、网络摄像机及存储介质
CN108564746A (zh) * 2018-05-21 2018-09-21 王连队 一种基于智能家居的门禁报警设备
CN109118688A (zh) * 2018-08-24 2019-01-01 郑素娟 防盗栅栏安全防护***
CN109271280A (zh) * 2018-08-30 2019-01-25 重庆富民银行股份有限公司 存储故障快速切换处理方法
CN109101370A (zh) * 2018-08-30 2018-12-28 重庆富民银行股份有限公司 主从双向同步的数据存储方法
CN109087471A (zh) * 2018-09-25 2018-12-25 广州小全银电子科技有限公司 一种智能红外报警安防短信装置
CN109649335B (zh) * 2018-12-19 2021-08-27 台州科技职业学院 一种汽车玻璃窗打破提醒方法
CN109920182B (zh) * 2018-12-29 2022-03-04 国网北京市电力公司 防护处理方法、装置、存储介质及电子装置
CN110107188A (zh) * 2019-06-12 2019-08-09 广东工业大学 一种智能窗***
CN111103807A (zh) * 2019-12-17 2020-05-05 青岛海信智慧家居***股份有限公司 一种家用终端设备的控制方法及装置
CN111369469B (zh) * 2020-03-10 2024-01-12 北京爱笔科技有限公司 图像处理方法、装置及电子设备
CN114078301A (zh) * 2020-08-17 2022-02-22 漳州立达信光电子科技有限公司 一种安防***、安全防范方法、装置及电子设备
CN112598862A (zh) * 2020-12-14 2021-04-02 合肥诺必达信息技术有限责任公司 一种智能家居用安防监控预警***
CN112274143B (zh) * 2020-12-29 2021-06-01 四川写正智能科技有限公司 一种人体存在状态的检测方法及检测装置
CN113362546B (zh) * 2021-06-23 2023-03-17 深圳市凯莱特科技股份有限公司 一种住宅用安全防御***及防御方法
CN113627570B (zh) * 2021-10-12 2021-12-24 北京创米智汇物联科技有限公司 一种区域入侵检测方法、装置、电子设备及存储介质
CN114697370A (zh) * 2022-03-29 2022-07-01 安徽景诺铝业有限公司 一种防盗用智能门窗***
CN114758305A (zh) * 2022-06-15 2022-07-15 成都西物信安智能***有限公司 一种构建入侵预警监控数据库的方法
CN118130074A (zh) * 2024-05-10 2024-06-04 四川名人居门窗有限公司 基于振动监测的门窗寿命预测及报警***和方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN200990672Y (zh) * 2006-12-26 2007-12-12 黄德胜 远距监控装置
CN101587630A (zh) * 2008-05-21 2009-11-25 上海新联纬讯科技发展有限公司 可过滤误报警的智能视频监控***
JP2010176177A (ja) * 2009-01-27 2010-08-12 Panasonic Electric Works Co Ltd 負荷制御システム
CN101848371A (zh) * 2010-03-17 2010-09-29 上海大亚科技有限公司 基于3g技术的智能视频、音频无线固话安防终端***
CN101933058A (zh) * 2008-01-31 2010-12-29 传感电子有限责任公司 具有目标和事件分类的视频传感器和警报***以及方法
CN201965714U (zh) * 2010-12-29 2011-09-07 羊恺 基于人脸识别的家用智能预警安防***
CN202261630U (zh) * 2011-09-16 2012-05-30 沈易宽 无线可移动红外线侦测视频监控装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7791477B2 (en) * 2006-08-16 2010-09-07 Tyco Safety Products Canada Ltd. Method and apparatus for analyzing video data of a security system based on infrared data
CN103198595A (zh) * 2013-03-11 2013-07-10 成都百威讯科技有限责任公司 智能门窗防入侵***

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN200990672Y (zh) * 2006-12-26 2007-12-12 黄德胜 远距监控装置
CN101933058A (zh) * 2008-01-31 2010-12-29 传感电子有限责任公司 具有目标和事件分类的视频传感器和警报***以及方法
CN101587630A (zh) * 2008-05-21 2009-11-25 上海新联纬讯科技发展有限公司 可过滤误报警的智能视频监控***
JP2010176177A (ja) * 2009-01-27 2010-08-12 Panasonic Electric Works Co Ltd 負荷制御システム
CN101848371A (zh) * 2010-03-17 2010-09-29 上海大亚科技有限公司 基于3g技术的智能视频、音频无线固话安防终端***
CN201965714U (zh) * 2010-12-29 2011-09-07 羊恺 基于人脸识别的家用智能预警安防***
CN202261630U (zh) * 2011-09-16 2012-05-30 沈易宽 无线可移动红外线侦测视频监控装置

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105245822A (zh) * 2014-06-24 2016-01-13 陈凯柏 用影像辨识***控制的照明装置
CN104122863A (zh) * 2014-07-17 2014-10-29 江苏惠居乐信息科技有限公司 面向家居装修的远程智能监控***及其控制方法
CN104268963A (zh) * 2014-08-06 2015-01-07 成都百威讯科技有限责任公司 一种智能门锁***及智能门锁、智能报警门
CN107408316A (zh) * 2014-09-02 2017-11-28 鲁道夫·金 门和住宅安全***以及方法
CN104269005A (zh) * 2014-09-20 2015-01-07 常州市武进南夏墅静电喷塑有限公司 智能家庭防盗***
CN104240354A (zh) * 2014-09-26 2014-12-24 南昌大学 一种智能门户锁***
CN105788119B (zh) * 2014-12-23 2018-02-02 张宇成 一种远程智能报警方法、报警器和***
CN105788119A (zh) * 2014-12-23 2016-07-20 张宇成 一种远程智能报警方法、报警器和***
CN104766395A (zh) * 2015-03-11 2015-07-08 张瞳 一种智能锁的安全控制方法
CN106297120A (zh) * 2015-06-03 2017-01-04 天津维斯顿科技有限公司 一种智能型人体红外感测联动报警***
CN105139569A (zh) * 2015-08-20 2015-12-09 冯鹏程 一种智能门控设备与智能灯控设备的联动控制***
CN105178721A (zh) * 2015-08-27 2015-12-23 成都众山科技有限公司 节能安全门锁控制装置
CN105155940A (zh) * 2015-08-27 2015-12-16 成都众山科技有限公司 智能门锁***
CN106530445A (zh) * 2015-09-09 2017-03-22 伟林电子股份有限公司 远端门禁管控***
CN105653037A (zh) * 2015-12-31 2016-06-08 张小花 一种基于行为分析的交互***及方法
CN106101631A (zh) * 2016-07-04 2016-11-09 安霸公司 云摄像机
CN106204837A (zh) * 2016-07-06 2016-12-07 苏州华安普电力科技股份有限公司 一种无人值守变电所安全门控***
CN107067524A (zh) * 2017-06-03 2017-08-18 合肥佳洋电子科技有限公司 一种智能小区安防***
CN107393073A (zh) * 2017-07-20 2017-11-24 克立司帝控制***(上海)有限公司 基于图像识别技术的门禁监控控制***及方法
CN108961634A (zh) * 2018-05-28 2018-12-07 马鞍山光标网络科技有限公司 一种智能城市用小区安防***
CN108696726A (zh) * 2018-07-02 2018-10-23 天津煋鸟科技有限公司 一种无盲区监控***
CN108765832A (zh) * 2018-07-06 2018-11-06 厦门信通慧安科技有限公司 一种入侵检测方法及装置
CN108765832B (zh) * 2018-07-06 2020-06-19 厦门信通慧安科技有限公司 一种入侵检测方法及装置
CN109785474A (zh) * 2018-11-13 2019-05-21 北京码牛科技有限公司 一种安全、节能的多功能智能锁***
CN110751771A (zh) * 2019-09-27 2020-02-04 深圳市大拿科技有限公司 门体异常告警方法及相关产品
CN111405390A (zh) * 2020-03-02 2020-07-10 浙江依圆节能科技有限公司 一种检测门、窗开关状态的无线无源发射装置
CN111553386A (zh) * 2020-04-07 2020-08-18 哈尔滨工程大学 一种基于AdaBoost和CNN的入侵检测方法
CN111553386B (zh) * 2020-04-07 2022-05-20 哈尔滨工程大学 一种基于AdaBoost和CNN的入侵检测方法
CN112183337A (zh) * 2020-09-28 2021-01-05 华北电力大学(保定) 一种输电线路防机械入侵的检测方法及装置

Also Published As

Publication number Publication date
CN103198595A (zh) 2013-07-10
WO2014139415A1 (zh) 2014-09-18
CN103839346B (zh) 2016-08-24

Similar Documents

Publication Publication Date Title
CN103839346A (zh) 一种智能门窗防入侵装置以及***、智能门禁***
CN103839373B (zh) 一种突发异常事件智能识别报警装置及报警***
CN109686109B (zh) 一种基于人工智能的停车场安全监控管理***及方法
US11196966B2 (en) Identifying and locating objects by associating video data of the objects with signals identifying wireless devices belonging to the objects
US10769914B2 (en) Informative image data generation using audio/video recording and communication devices
US11978256B2 (en) Face concealment detection
US11741766B2 (en) Garage security and convenience features
JP7241776B2 (ja) ビューアを有するオーディオ/ビデオデバイス
US11232685B1 (en) Security system with dual-mode event video and still image recording
US20190082149A1 (en) System and method for gate monitoring during departure or arrival of an autonomous vehicle
CN108540780A (zh) 基于扫地机器人设备的智能移动家庭监控***
US20180247504A1 (en) Identification of suspicious persons using audio/video recording and communication devices
US10593174B1 (en) Automatic setup mode after disconnect from a network
CN104268963A (zh) 一种智能门锁***及智能门锁、智能报警门
US11217076B1 (en) Camera tampering detection based on audio and video
CN103984315A (zh) 一种家用多功能智能机器人
US11341825B1 (en) Implementing deterrent protocols in response to detected security events
WO2009099511A1 (en) Video sensor and alarm system and method with object and event classification
US10713928B1 (en) Arming security systems based on communications among a network of security systems
US11501618B1 (en) Security device with user-configurable motion detection settings
US11164435B1 (en) Audio/video recording and communication doorbell devices with supercapacitors
US11349707B1 (en) Implementing security system devices as network nodes
US10943442B1 (en) Customized notifications based on device characteristics
CN111768580A (zh) 一种基于边缘网关的室内防盗***及防盗方法
CN209312052U (zh) 一种人脸识别随身警务***

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20160824

Termination date: 20180311