CN105989683A - 增强型住宅安全*** - Google Patents

增强型住宅安全*** Download PDF

Info

Publication number
CN105989683A
CN105989683A CN201510076693.7A CN201510076693A CN105989683A CN 105989683 A CN105989683 A CN 105989683A CN 201510076693 A CN201510076693 A CN 201510076693A CN 105989683 A CN105989683 A CN 105989683A
Authority
CN
China
Prior art keywords
monitoring area
parameter
computer
security
safety
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201510076693.7A
Other languages
English (en)
Inventor
葛亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bass Technology International Ltd
Original Assignee
Bass Technology International Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bass Technology International Ltd filed Critical Bass Technology International Ltd
Priority to CN201510076693.7A priority Critical patent/CN105989683A/zh
Priority to US14/662,053 priority patent/US20160239723A1/en
Publication of CN105989683A publication Critical patent/CN105989683A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19613Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion
    • G08B13/19615Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion wherein said pattern is defined by the user

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Alarm Systems (AREA)
  • Signal Processing (AREA)

Abstract

公开了增强型住宅安全***。提供一种通过预处理和后处理住宅安全监测数据以及通过使用经训练的安全模型来增强住宅安全监控的解决方案。安全控制器从策略性地安装在住宅中的运动传感器和数码相机接收运动数据,并预处理运动数据,以检测所检测到的运动的可能候选者。安全控制器与被安装用于监控住宅环境的各种安全传感器连接。每个安全传感器响应该安全传感器的状态改变向安全控制器发送事件信号。安全控制器分析状态改变,并响应于对安全妨害的检测生成安全警告。连接到安全控制器的安全服务器对安全监测视频数据进行后分析,以标识对所检测到的运动有责任的人类和动物,并训练安全模型以引导安全控制器的实时安全监控。

Description

增强型住宅安全***
技术领域
本公开总地涉及住宅(home)安全监控,并且具体涉及通过住宅安全事件信号的预处理和后处理进行的增强型住宅安全监控。
背景技术
诸如智能电话、平板电脑的日益流行的智能手持设备,诸如光电烟雾传感器、安全相机的居家电子产品,以及日益增加的网络带宽(针对有线及无线网络)为住宅安全和监控提供了更多的通信平台。住宅安全***一般允许用户基于由各种安全传感器所发送的或由安装在住宅的各个位置的室内和/或室外的安全相机所捕获的住宅安全事件信号来监控住宅的状况。例如,可以使用安装在门口、窗口或住宅的其它进入点处的运动传感器来检测闯入,并且光电烟雾传感器可以向用户警告住宅中火灾的发生。
现有的住宅安全产品可以分为三类:传统非智能产品、现代非智能产品和现代简单智能产品。传统非智能住宅安全产品通常要求例如窗口传感器、门口传感器、被动红外传感器(PIR)和警报控制的多种安全设备捆绑在一起,以便提供对住宅安全的全面了解。由于安装多种安全设备的困难性以及高虚警率,这种解决方案难以部署。现代非智能住宅安全产品通常包括通过由数码相机捕获住宅安全事件进行的视频监控。然而,由于这种解决方案在不区分运动视频内容与静止视频内容的情况下对所捕获的住宅安全视频进行分析,所以其可能会浪费诸如网络带宽和存储的计算资源。现代简单智能住宅安全产品包括设计为通过利用云计算分析安全事件信号来减少虚警率的许多先进的住宅安全电子产品,诸如具有电离和光电烟雾传感器二者的双传感器烟雾检测器。
然而,现有的解决方案具有诸如高虚警率、要求大量网络带宽和存储以及单一监测点的若干挑战。高虚警率通过不合理的大量的虚假安全事件来打扰用户并且降低用户体验。现有的解决方案通常浪费诸如网络带宽和存储空间的***资源来存储并传输低价值的数据,诸如来自部署在住宅各个区域的相机的7x24小时的静止视频数据。全面的住宅安全解决方案通常要求对各种住宅安全事件信号进行全面的但高效的分析。达到这样的预期对现有的单一监测点***来说是个挑战。
发明内容
本发明的实施例通过预处理和后处理住宅安全监测数据以及通过使用经训练的安全模型来增强住宅安全监控。增强型住宅安全***的安全控制器从策略性地安装在住宅中的运动传感器和数码相机接收运动数据,并预处理运动数据,以检测所检测到的运动的可能候选者。安全控制器从监测视频的每个视频帧中提取所有可能的移动候选者,并且在视频帧中检测人脸和/或动物。安全控制器将具有所检测到的人脸和/或动物的监测视频内容传输到安全服务器进行进一步分析。
安全控制器与被安装用于监控住宅环境的各种安全传感器连接。安全传感器的示例包括用于监控住宅的空气质量、温度、湿度、噪声水平、突然移动/地震以及环境光的传感器。每个安全传感器响应于安全传感器的状态改变向安全控制器发送事件信号。安全控制器分析状态改变,并响应于对安全妨害的检测生成安全警告。
连接到安全控制器的安全服务器对安全监测视频数据进行后分析,以标识对所检测到的运动有责任的人类和动物,并训练安全模型以引导安全控制器的实时安全监控。安全控制器使用安全模型来检测未经授权的移动行为,并实时地向住宅的经授权居住者发出安全警告。
本说明书中所描述的特征和优点并非包括全部的,并且特别是对于本领域普通技术人员来说,鉴于附图、说明书以及权利要求,许多附加的特征和优点将是显而易见的。此外,应当注意,本说明书中所使用的语言主要是为了可读性和教导性的目的而选择的,并且可以不被选择以划定或者限定所公开的主题。
附图说明
图1为根据一个实施例的、用于增强型住宅安全***的计算环境的框图。
图2为示出在一个实施例中的用于充当客户端、安全控制器和/或安全服务器的计算设备的示例的框图。
图3为根据一个实施例的、示出图1中的安全控制器的检测模块的计算机模块的框图。
图4为根据一个实施例的、示出图1中的安全控制器的预处理模块的计算机模块的框图。
图5为根据一个实施例的、示出图1中的安全服务器的后处理模块的计算机模块的框图。
图6为根据一个实施例的、示出图1中的安全服务器的建模模块的计算机模块的框图。
图7为根据一个实施例的、示出安全控制器的例示性操作的流程图。
具体实施方式
附图和以下描述仅以示例性的方式描述某些实施例。本领域技术人员将容易地从以下描述中认识到的是,可以采用本文所示出的结构与方法的替代性实施例,而不脱离本文所描述的原理。现将详细参考若干实施例,其示例示出在附图中。需要注意,在任何可行情况下可以在附图中使用相似或相同的参考标号来指示相似或相同的功能。
***概况
如本文所使用的,“住所(dwelling)”、“房屋(premises)”或“居住住所/房屋”指代的是由增强型住宅安全***所监控的区域。为简明起见以及为了描述一个实施例,被监控区域将被称为“住宅”,但该术语不意图对可被处理的区域的类型进行限制。因此,本文所描述的用于住宅安全监控的操作可以应用到任何类型的区域,包括商业、工业和其它适合类型的区域。
图1为根据一个实施例的、用于增强型住宅安全***的计算环境100的框图。计算环境100包括通过网络120连接的客户端110A和客户端110B、安全控制器130、安全服务器140、传感器150和相机160。为简化并阐明本描述,图1仅示出了两个客户端设备(110A和110B)、一个安全控制器130、一个安全服务器140、一个传感器150和一个相机160。计算环境100的实施例可以具有许多连接到网络120的客户端、安全控制器130、安全服务器140、传感器150和相机160。同样地,由图1的各个实体所实施的功能可能在不同的实施例中各不相同。
例如110A或110B的客户端的用户从安全控制器130接收住宅安全警告,并指示安全控制器130对安全警告和/或安全事件信号作出响应。在一个实施例中,例如110A或110B的客户端是由用户用来实施诸如以下功能的电子设备,即传送住宅安全指令、执行软件应用、在网络120上浏览由网络服务器托管的网站,以及与安全控制器130和/或安全服务器140进行交互。客户端可以是智能电话,或平板、笔记本、或台式电脑或专用游戏控制台。客户端包括显示设备和/或与显示设备接合,用户可以在所述显示设备上查看文本文件、视频文件和其它数字内容。
在一个实施例中,客户端提供用户界面(UI)模块(例如112A和112B),诸如实体的和/或屏幕上的按键,用户可以利用所述用户界面模块与客户端进行交互以实施诸如以下功能,即接收住宅安全警告、向安全控制器130发送关于如何响应该警告的指令、查看并选择数字内容、下载数字内容的样本、购买数字内容以及发送诸如电子邮件(电邮)和文本/视频消息的电子消息。下文将参考图2更详细地描述例示性客户端。
安全控制器130为从安装在住宅的各个位置的各种传感器和数码相机收集住宅安全监测数据并对所收集的安全监测数据进行预处理的电子设备,所述传感器例如传感器150,所述数码相机例如相机160。在一个实施例中,安全控制器130具有检测模块300和预处理模块400。安全控制器130的其它实施例可以具有除以下所描述的模块以外的附加模块和/或与以下所描述的模块不同的模块。
在一个实施例中,安全控制器130以有线或无线方式与部署在住宅各处的多个传感器连接。安装在诸如居住住宅的住所中的传感器150的示例包括:用于检测未经授权的移动的运动传感器,以及用于检测与住所相关联的各个环境参数的一个或多个传感器,所述环境参数诸如空气质量、温度、湿度、噪声、地震和住所的结构的异常震动以及光照。每个传感器向安全控制器130提供某些安全事件信号,该安全控制器130通过检测模块300分析事件信号并响应于对安全漏洞的检测生成安全警告。下文进一步参考图3描述检测模块300。
此外,安全控制器130的预处理模块400对安全视频数据进行分析,以检测对在视频中由相机160所捕获的移动做出贡献的可能实体,诸如人类或动物。响应于对人类和/或动物的检测,安全控制器130将经预处理的视频数据传输给安全服务器140用于进一步分析。下文进一步参考图4描述预处理模块400。
安全服务器140是促进住宅安全数据分析和监控的计算机服务器。在一个实施例中,安全服务器140具有后处理模块500和建模模块600。安全服务器140的其它实施例可以具有除以下所描述的模块以外的附加模块和/或与以下所描述的模块不同的模块。
后处理模块500处理由安全控制器130所预处理的安全数据,并识别引起在视频数据中所捕获的移动的所检测到的实体。安全服务器140的建模模块600基于安全数据库中的安全事件训练数据来离线训练安全模型,并且将经训练的安全模型提供给安全控制器130。安全控制器130使用经训练的安全模型来引导其实时事件信号分析。下文进一步参考图5描述后处理模块500并且下文进一步参考图6描述建模模块600。
网络120使能客户端110A、客户端110B、安全控制器130和安全服务器140之间的通信并且可以包括互联网以及无线通信网络。在一个实施例中,网络120使用标准通信技术和/或协议。因此,网络120可以包括使用诸如以下技术的链路,即以太网、802.11、全球互通微波存取(WiMAX)、4G、数字用户线路(DSL)、异步传输模式(ATM)、无限带宽(InfiniBand)、PCI Express高级交换等。类似地,在网络120上所使用的网络协议可以包括多协议标签交换(MPLS)、传输控制协议/互联网协议(TCP/IP)、用户数据报协议(UDP)、超文本传输协议(HTTP)、简单邮件传输协议(SMTP)、文件传输协议(FTP)等等。通过网络120所交换的数据可以使用包括超文本标记语言(HTML)、可扩展标记语言(XML)等的技术和/或格式来表示。此外,所有或一些链路可以使用常规加密技术进行加密,诸如安全套接层(SSL)、传输层安全(TLS)、虚拟专用网络(VPN)、互联网协议安全(IPsec)等。在另一个实施例中,网络120为云计算网络,并且网络120的实体可以使用自定义和/或专用数据通信技术取代或补充以上所描述的技术。
计算***架构
图1中示出的实体使用一个或多个计算机实现。图2为用于充当客户端(110A和110B)、安全控制器130和/或安全服务器140的计算机200的高级框图。所示出的为耦连到芯片组204的至少一个处理器202。计算机200的另一个实施例可以包括配置为根据视频处理方案接收并处理由相机160所捕获的视频数据和/或来自运动传感器的视频数据的视频处理器。同样耦连到芯片组204的是存储器206、存储设备208、键盘210、图形适配器212、定点设备214、以及网络适配器216。显示器218耦连到图形适配器212。在一个实施例中,芯片组204的功能由存储器控制器集线器220和I/O控制器集线器222提供。在另一个实施例中,存储器206直接耦连到处理器202而不是芯片组204。
存储设备208为非暂时性计算机可读存储介质,诸如硬盘驱动器、压缩磁盘只读存储器(CD-ROM)、DVD、或固态存储器设备。存储器206保存由处理器202所使用的指令和数据。定点设备214可以是鼠标、轨迹球、或其它类型的定点设备,并且与键盘210结合使用以将数据输入计算机***200。图形适配器212将图像和其它信息显示在显示器218上。网络适配器216将计算机***200耦连到网络120。
如本领域内所已知的那样,计算机200可以具有与图2所示出的部件不同的部件和/或其它部件。在一个实施例中,显示器218接收由处理器202所生成的视觉输入。例如,显示器218的触摸感应表面检测在触摸感应表面上或触摸感应表面附近的触摸操作,并且将该触摸操作传输给处理器202以确定触摸事件的类型。根据触摸事件的类型,处理器202向显示器218提供相应的视觉输出用于显示。
用作客户端110A或客户端110B的计算机200可以具有音频电路、扬声器和麦克风,以在用户和终端之间提供音频接口。客户端中可以包括WiFi模块,以向可以发送或接收电邮、浏览网页和访问流媒体的用户提供无线互联网访问。
另外,计算机200可以缺少某些示出的部件。例如,充当安全控制器130或安全服务器140的计算机可以由链接在一起成为一个或多个分布式***的多个刀片服务器形成,并缺少诸如键盘和显示器的部件。而且,存储设备208可以在计算机200的本地和/或远程(诸如具体化在存储区域网络(SAN)内)。
如本领域内所已知的,计算机200适于执行计算机程序模块用于提供本文所描述的功能。如本文所使用的,术语“模块”指代用于提供指定功能的计算机程序逻辑。因此,模块可以以硬件、固件、和/或软件来实现。在一个实施例中,程序模块存储在存储设备208上,加载到存储器206中,并由处理器202执行。
预处理住宅安全事件信号
安全控制器130从安装在住宅的各个位置的各种传感器和数码相机收集住宅安全监测数据,并对所收集的安全监测数据进行预处理。在一个实施例中,安全控制器130具有检测模块300,以从各个传感器和数码相机收集住宅安全监测数据。图3为根据一个实施例的、示出安全控制器130的检测模块300的计算机模块的框图。图3中所示出的实施例具有运动检测模块310、住宅环境模块320和接口模块330。
运动检测模块310从安装在住宅的各个区域中的一个或多个运动传感器和数码相机收集与住宅相关联的运动数据。在一个实施例中,运动检测模块310从策略性地安装在住宅的某些区域中的运动传感器收集运动数据,所述区域诸如门口、窗口或住宅的其它进入点。运动传感器可以是基于射频(RF)的和/或无线的并且包含光学、微波或声学传感器,用于检测在被监控区域内的移动目标。基于检测到被监控区域内的移动,运动传感器向运动检测模块310发送事件信号,其中事件信号指示运动传感器的状态的改变。运动检测模块310基于运动传感器的状态的改变来确定所检测的移动是否为经授权的。例如,安装在门口处的运动传感器检测门的打开和关闭。如果门的打开和关闭持续超过经许可的进入/退出延迟,则运动检测模块310生成用于可能的未经授权的进入/退出的安全警告。
在另一个实施例中,运动检测模块310从安装在住宅的某些区域中的数码相机收集运动数据。数码相机可以策略性地安装在住宅中以通过由数码相机所捕获的视频帧/图像来追踪门、窗口的改变以及在被监控区域内的移动实体的存在。在一个实施例中,运动检测模块310向预处理模块提供住宅监测视频,用于分析在被监控区域的移动实体的存在,所述移动实体诸如人体或动物。图4为根据一个实施例的、示出了用于检测在住宅的监测视频中所捕获的移动实体的存在的预处理模块400的计算机模块的框图。
在图4中所示的实施例中,预处理模块400具有提取模块410、分析模块420和通信模块430。预处理模块400从运动检测模块310接收住宅监测视频,并分析监测视频的视频帧,用于检测在监测视频中所捕获的人脸和动物。提取模块410从监测视频的每个视频帧中提取所有可能的移动候选者。在一个实施例中,提取模块410使用本领域普通技术人员已知的任何方案在视频帧中标识移动候选者,所述方案诸如基于目标模型的目标识别,其被称为先验和局部目标识别(也被称为分割(segmentation))。
在另一个实施例中,提取模块410分析住宅监测视频的一组在时间上顺序的图片并跨该组图片检测目标的运动。例如,提取模块410对该组图片应用运动估计过程以导出(derive)视频帧中的像素的运动向量。在另一个示例中,提取模块410可以对该组图片应用光流方案,其中运动向量与表示感兴趣的实体的、像素的所感知到的移动相对应。
预处理模块400的分析模块420分析由提取模块410所标识的移动候选者,以在移动候选者中检测人脸和动物。需要注意的是,人类和动物的正常活动通常是虚假安全警报的起因,所述人类尤其是诸如家庭成员的住宅的经授权居住者,所述动物诸如家庭宠物。通过检测人脸和动物,分析模块420帮助过滤虚假安全警报的可能起因并减少虚警率。
在一个实施例中,分析模块420具有人脸检测模块422和动物检测模块424。人脸检测模块422在移动候选者中检测人脸。在一个实施例中,人脸检测模块422将移动候选者与儿童、成人、女性及男性的预定义的已知人脸集进行比较。基于该比较,人脸检测模块422确定移动候选者是否为人类。人脸检测模块422可以为该确定指派分数,其中分数指示移动候选者为人类的可能性。
类似的,动物检测模块424通过将每个移动候选者与诸如常见的家庭的狗和猫的已知动物集进行比较来在移动候选者中检测动物。基于该比较,动物检测模块424确定移动候选者是否为动物。动物检测模块424可以为该确定指派分数,其中分数指示移动候选者为动物的可能性。
通信模块430从人脸检测模块422和动物检测模块424接收分析结果,并将分析结果传输给安全服务器140的后处理模块500用于进一步分析。在一个实施例中,通信模块430还配置为从安全服务器140接收经训练的安全模型。预处理模块400的分析模块420可以使用经训练的安全模型来引导其人脸和动物检测。例如,经训练的安全模型可以提供受信任的家庭成员和朋友的人脸集以及家庭宠物用于检测。
通过过滤由数码相机所捕获的监测视频内容,预处理模块400减少需要传输给安全服务器140并由安全服务器140进行分析的监测视频内容的量。预处理模块400对安全监测视频内容的预处理通过节约先前的网络带宽和存储空间来改进***性能,并且减少虚警率。
返回参考图3中的检测模块300,检测模块300具有住宅环境模块320,以从安装在住宅中的各个安全传感器、监控器和家用电器收集住宅安全数据。在一个实施例中,住宅环境模块320具有空气质量模块321、温度模块322、噪声监测模块323、震动监控模块324和环境光监控模块325。住宅环境模块320的其他实施例可以具有不同的和/或附加的模块,诸如湿度监控模块和水监控模块。
住宅环境模块320的各个模块监控与住宅相关联的各个环境参数。例如,空气质量模块321通过监控安装在住宅中的一个或多个空气质量传感器的状态改变来追踪污染水平并检测危险气体的泄露。需要注意的是一些诸如一氧化碳的危险气体是无色无味的。通过检测一氧化碳传感器的状态改变,空气质量模块321可以及时警告住宅的居住者,例如,通过将警告消息发送到居住者的智能电话。
温度模块321追踪住宅内的温度的改变,其可能对居住在被监控区域中的人类婴儿和家庭宠物是极其重要的。例如,温度改变可以由在被监控区域中的正在发展的火的热量引起。响应于被监控区域内的异常温度改变,温度模块321可以实时地生成安全警告。
噪声监测模块323追踪安装在住宅中的一个或多个麦克风的声压水平。例如,当入侵者闯入住宅时,可能有一些诸如打破门的声音、窗户碎裂声音以及宠物吠叫声音的异常声音,其高于正常可接受的声音水平。响应于对异常声音的检测,噪声监测模块323可以警告住宅的居住者。
类似地,震动监控模块324通过监控震动监控器的状态改变来追踪住宅的结构的突然移动,所述震动监控器诸如用于检测地震的三维(3D)加速计。环境光监控模块325检测被监控区域内的异常光源,诸如基于由入侵者所生成的热量的来自红外光传感器的事件信号。响应于对来自加速计和光传感器的状态改变的检测,震动监控模块324和环境光监控模块325分别生成安全警告。
接口模块330配置为向诸如住宅的居住者或法定官方(例如警察)的相关各方的客户端发送安全警告,所述客户端例如智能电话。在另一个实施例中,接口模块330还接收客户端的用户的有关如何对安全警告作出响应的指令,诸如响应于所检测到的异常温度而切断电力。
后处理住宅安全事件信号
除由安全控制器130预处理安全监测数据之外,安全服务器140提供对安全监测数据的全面且深入的分析,并训练安全模型,以引导安全控制器对安全监控的实时应用。在一个实施例中,安全服务器140具有用于进一步分析安全监测数据的后处理模块500,以及用于离线训练安全模型的建模模块600。安全模块140可以使用云计算技术实施该分析和训练用于快速的***性能和高吞吐量。安全服务器140的其他实施例可以具有不同的和/或附加的模块。同样地,由安全服务器140的各实体所实施的功能可能在不同实施例中各不相同。
图5为根据一个实施例的、示出安全服务器140的后处理模块500的计算机模块的框图。在图5示出的实施例中,后处理模块500具有受信任成员识别模块510、安全警告模块520和安全数据库530。后处理模块510接收由安全控制器130的预处理模块400所预处理的安全监测视频内容,并确定移动候选者的身份。在一个实施例中,受信任成员识别模块510基于存储在安全数据库530中的数据来识别与被监控区域相关联的受信任成员。受信任成员包括被监控区域的经授权的人类居住者,诸如家庭成员,和家庭成员的朋友/亲属。受信任成员识别模块510将人脸的移动候选者与存储在安全数据库530中的受信任成员的各个图像进行比较。基于该比较,受信任成员识别模块510确定移动候选者是否为受信任成员。
受信任成员还可以包括被监控区域的经授权的非人类居住者,诸如家庭宠物。受信任成员识别模块510将动物的移动候选者与存储在安全数据库530中的受信任动物成员的各个图像进行比较。基于该比较,受信任成员识别模块510确定移动候选者是否为受信任动物成员。
安全警告模块520配置为基于来自受信任成员识别模块510的识别结果生成安全警告。响应于确定为人类或动物的受信任成员的移动候选者,安全警告模块520不发出任何安全警告;相反,安全警告模块520可以基于安全监测数据向安全控制器130发送消息以指示没有妨害住宅安全。另一方面,安全警告模块520响应于在监测视频数据中检测到的不受信任的成员而发出各种安全警告。安全警告的类型可以取决于住宅安全的漏洞水平。例如,相比于爬进后院的不受信任的流浪猫,闯入打破的窗户的不受信任的人类将具有更严重的警告。
安全数据库530存储各种住宅安全相关数据,诸如用于每个客户端的用户简档(profile)和与每个客户端相关联的被监控区域。用户简档还可以包括各个与被监控区域相关联的家庭成员的图像,家庭成员的联系信息和人口统计信息。后处理模块500周期性地或基于客户端请求更新安全数据库。
除提供对住宅安全监测视频数据的后处理分析之外,安全服务器140还可以基于被监控区域的环境的学习以及与被监控区域相关联的预期活动来训练安全模型。需要注意的是,与被监控区域相关联的环境参数可以在诸如工作日、周末和假日的不同时间内不同。例如,被监控区域预期在工作日比在周末更安静,在周末时预期更多家庭成员会在家。与被监控区域相关联的环境参数还可以在一天中的不同时间段内不同。例如,在清晨和傍晚期间被监控区域预期具有更多移动候选者。此外,与被监控区域相关联的环境参数可以在一年中的不同季节内不同。例如,由于使用加热器和空调,在冬季住宅的温度预期高于夏季。在一个实施例中,安全服务器140具有建模模块600以学习与被监控区域相关联的环境参数和活动随时间的变化。
图6为根据一个实施例的、示出安全服务器140的建模模块600的计算机模块的框图。图6中的建模模块600的实施例具有住宅环境学习模块610、活动学习模块620和安全数据库630。建模模块600的其它实施例可以具有与以下所描述的模块不同的模块和/或除以下所描述的模块以外的附加模块。
安全数据库630存储有关安装在住宅中的各个安全传感器在学习阶段内的状态的统计数据,所述学习阶段持续预定义的时段,例如一年。在一个实施例中,有关各个安全传感器的状态的统计数据由安全控制器130收集。来自学习阶段的统计数据可以进一步分类为针对工作日、周末和假日的种类,或针对不同季节的种类。来自学习阶段的统计数据可以被加权,其中统计数据的不同种类可以在安全控制器130的实时应用中具有不同的权重。在一个实施例中,建模模块600的安全数据库630为用于建模模块600的单独实体。在另一个实施例中,建模模块600可以和安全服务器140的预处理模块500共享安全数据库。
住宅环境学习模块610配置为使用在学习阶段期间所学习到的统计数据来训练安全模型。在一个实施例中,住宅环境学习模块610使用一个或多个机器学习算法来训练安全模型,以分析各个安全传感器的所学习到的统计数据。机器学习技术和算法包括但不限于神经网络、朴素贝叶斯、支持向量机和在蜂巢(Hive)框架中所使用的机器学习。在一个实施例中,住宅环境学习模块610训练安全模型以分析与安装在被监控区域中的空气质量传感器、温度传感器和湿度传感器相关的统计数据。
经训练的安全模型可以用于引导由安全控制器130所实施的实时安全监控。例如,经训练的安全模型在例如工作日的相似时间范围中将实时监控中的安全传感器的状态改变与相同类型的已知安全传感器的经分类传感器状态统计数据进行比较。基于该分析,安全控制器130确定实时监控中的状态改变是否真正妨害住宅安全。
经训练的安全模型还通过其加权方案使能具有灵活性的实时应用。例如,住宅的温度可在某天气和季节下的白天和夜晚之间大幅改变。温度改变还与住宅的位置密切相关。经训练的安全模型允许安全控制器130通过将本地公共温度数据与来自安装在住宅中的温度传感器的实时温度数据一起考虑来计入本地环境的影响。经训练的安全模型允许安全控制器130向本地公共温度数据和实时温度数据指派不同的权重。
活动学***和环境光受到在被监控区域中所观测到的活动水平的密切影响。例如,噪声水平预期在较多家庭成员在家的周末高于较少家庭成员在家的工作日。活动学***和环境光的影响来训练安全模型。
经扩增的安全模型由安全控制器130用在实时监控中,以精确分析安装在住宅中的噪声监测传感器和环境光监测传感器的状态改变。例如,安全控制器130向在工作日所观测到的状态改变指派与在周末所观测到的状态改变不同的权重。
安全控制器的例示性操作
提供了通过预处理和后处理住宅安全监测数据以及通过使用经训练的安全模型来增强住宅安全监控的解决方案。图7为根据一个实施例的、示出安全控制器130的例示性操作的流程图。初始地,安全控制器130从策略性地安装在例如门口和窗口的、被监控区域的各个位置的运动传感器和/或数码相机接收运动数据702。安全控制器130确定在运动数据中是否检测到一个或多个实体的任何移动704。响应于在由数码相机所捕获的安全监测视频中的所检测到的移动,安全控制器130从监测视频的每个视频帧中提取所有可能的移动候选者718。安全控制器130的预处理模块400使用目标识别或其他适合的识别技术在移动候选者中检测一个或多个人脸720和动物722。响应于所检测到的目标为人类或动物,安全控制器130将所选择的监测视频数据提供给安全服务器140用于进一步分析。
安全控制器130还以有线或无线方式连接到被安装以监控被监控区域的住宅环境的各种安全传感器。每个安全传感器响应于该安全传感器的状态改变向安全控制器130发送事件信号。在一个实施例中,安全控制器130通过一个或多个空气质量传感器监控被监控区域的空气质量706。安全控制器130还通过温度传感器和湿度监控器监控被监控区域的温度或湿度708。由安全控制器130通过监控安装在被监控区域中的一个或多个麦克风的声压水平来观测被监控区域的噪声水平710。为了检测被监控区域的建筑结构的突然移动或地震,安全控制器130从加速计接收事件信号712。安全控制器130还监控被监控住宅的环境光714。
安全控制器130将所监控的安全数据提供给安全服务器140用于进一步分析和/或训练安全模型716。响应于由安全控制器基于安全数据的预处理所观测到的安全妨害,安全控制器130为被监控区域的居住者实时生成安全警告726。安全控制器130还使用由安全服务器140所训练的安全模型来引导其实时安全监控。
综述
前述对本发明实施例的描述已经出于示例目的加以呈现;并不意图穷举或将本发明限制为所公开的确切形式。相关领域的技术人员可以理解,鉴于上述公开,许多修改和变化是可能的。
本描述的某些部分关于针对信息的操作的算法和符号表示描述了本发明的实施例。数据处理领域的技术人员通常使用这些算法描述和表示来将其工作有效地传达给本领域的其他技术人员。当从功能上、从计算上、或从逻辑上加以描述时,这些操作被理解为由计算机程序或等效电路、微代码或类似物来实现。此外,将这些操作的布置称为模块也已被证明有时是便捷的,而不失一般性。所描述的操作及其相关联的模块可以以软件、固件、或其任何组合来具体化。
本文所描述的任何步骤、操作或过程可以利用一个或多个硬件或软件模块单独地或结合其他设备来实施或实现。在一个实施例中,软件模块利用包括计算机可读介质的计算机程序产品来实现,该计算机可读介质包含可以由计算机处理器执行用于实施任何或所有步骤、操作或过程的计算机程序代码。
本发明的实施例还可以与用于实施本文操作的装置相关。该装置可以为所需目的而特别构建,和/或可以包括由存储在计算机中的计算机程序选择性激活或重新配置的通用计算设备。这类计算机程序可以存储在有形的计算机可读存储介质或适于存储电子指令的任何类型的介质中,并耦连到计算机***总线。此外,本说明书中所涉及的任何计算***可以包括单一处理器,或者可以为采用设计为增加的计算能力的多个处理器的架构。
以上描述被包括以示出优选实施例的操作,而不意味着限制本发明的范围。本发明的范围将仅由下面的权利要求来限制。根据以上讨论,对相关领域的技术人员将显而易见的是许多变化也将纳入本发明的精神和范围。

Claims (20)

1.用于监控区域的安全的设备,包括:
计算机处理器,其用于执行计算机程序模块;以及
非暂时性计算机可读存储设备,其存储能够执行以实施包括以下项的步骤的计算机程序模块:
检测被监控区域内的运动,其中所述检测包括:
接收视频的多个数字视频帧,所述视频在预定义的时段内捕获所述被监控区域的状况;
从所述多个视频帧中提取数字视频帧的多个候选者,候选者表示在所述被监控区域内具有可能移动的视频帧;
分析所提取的候选者;以及
基于所述分析,检测一个或多个目标在所述被监控区域内的移动;
监控与所述被监控区域相关联的多个环境参数;以及
基于所检测到的运动和所监控的与所述被监控区域相关联的环境参数生成一个或多个安全警告。
2.根据权利要求1所述的设备,其中所述用于检测运动的计算机程序模块由所述计算机处理器进一步执行以实施以下步骤:
将所检测到的一个或多个目标的移动传输给计算机服务器,所述计算机服务器适于确定所述移动是否来自与所述被监控区域相关联的受信任成员;
从所述计算机服务器接收分析结果;以及
基于所述分析结果生成一个或多个安全警告。
3.根据权利要求1所述的设备,其中所述用于检测运动的计算机程序模块由所述计算机处理器进一步执行以实施以下步骤:
从计算机服务器接收分析结果;以及
基于所述分析结果生成一个或多个安全警告。
4.根据权利要求1所述的设备,其中所述用于监控与所述被监控区域相关联的多个环境参数的计算机模块由所述计算机处理器执行以实施以下步骤:
接收来自所述被监控区域内的多个传感器的事件信号,来自传感器的事件信号提供与所述被监控区域相关联的至少一个环境参数的信息。
5.根据权利要求1所述的设备,其中与所述被监控区域相关联的所述多个环境参数包括以下项中的至少一个:
描述所述被监控区域的空气质量的参数;
描述所述被监控区域的温度的参数;
描述所述被监控区域的湿度的参数;
描述所述被监控区域的建筑结构的突然移动的参数;
描述所述被监控区域的噪声水平的参数;以及
描述所述被监控区域的光照的参数。
6.根据权利要求1所述的设备,进一步包括能够执行以实施以下步骤的计算机模块:
从计算机服务器接收经训练的安全模型,所述经训练的安全模型提供与所述被监控区域相关联的受信任成员集以及有关在不同时段内的与所述被监控区域相关联的正常活动的信息;以及
使用所述经训练的安全模型分析所述所检测到的运动和与所述被监控区域相关联的所述多个环境参数。
7.根据权利要求6所述的设备,其中所述用于使用所述经训练的安全模型分析所述所检测到的运动和与所述被监控区域相关联的所述多个环境参数的计算机模块由所述计算机处理器进一步执行以实施以下步骤:
将从所述所检测到的运动所生成的多个候选者和与所述被监控区域相关联的所述受信任成员集进行比较;
响应于不是受信任成员的候选者,生成安全警告;
将所述环境参数和有关与所述被监控区域相关联的正常活动的信息进行比较;以及
响应于不与正常活动相关联的环境参数,生成安全警告。
8.用于监控区域的安全的方法,所述方法包括:
检测被监控区域内的运动,其中所述检测包括:
接收视频的多个数字视频帧,所述视频在预定义的时段内捕获所述被监控区域的状况;
从所述多个视频帧中提取数字视频帧的多个候选者,候选者表示在所述被监控区域内具有可能移动的视频帧;
分析所提取的候选者;以及
基于所述分析,检测一个或多个目标在所述被监控区域内的移动;
监控与所述被监控区域相关联的多个环境参数;以及
基于所检测到的运动和所监控的与所述被监控区域相关联的环境参数生成一个或多个安全警告。
9.根据权利要求8所述的方法,其中检测运动进一步包括:
将所检测到的一个或多个目标的移动传输给计算机服务器,所述计算机服务器适于确定所述移动是否来自与所述被监控区域相关联的受信任成员。
10.根据权利要求9所述的方法,进一步包括:
从所述计算机服务器接收分析结果;以及
基于所述分析结果生成一个或多个安全警告。
11.根据权利要求8所述的方法,其中监控与所述被监控区域相关联的多个环境参数包括接收来自所述被监控区域内的多个传感器的事件信号,来自传感器的事件信号提供与所述被监控区域相关联的至少一个环境参数的信息。
12.根据权利要求8所述的方法,其中与所述被监控区域相关联的所述多个环境参数包括以下项中的至少一个:
描述所述被监控区域的空气质量的参数;
描述所述被监控区域的温度的参数;
描述所述被监控区域的湿度的参数;
描述所述被监控区域的建筑结构的突然移动的参数;
描述所述被监控区域的噪声水平的参数;以及
描述所述被监控区域的光照的参数。
13.根据权利要求8所述的方法,进一步包括:
从计算机服务器接收经训练的安全模型,所述经训练的安全模型提供与所述被监控区域相关联的受信任成员集以及有关在不同时段内的与所述被监控区域相关联的正常活动的信息;以及
使用所述经训练的安全模型分析所述所检测到的运动和与所述被监控区域相关联的所述多个环境参数。
14.根据权利要求13所述的方法,其中使用所述经训练的安全模型分析所述所检测到的运动和与所述被监控区域相关联的所述多个环境参数包括:
将从所述所检测到的运动所生成的多个候选者和与所述被监控区域相关联的所述受信任成员集进行比较;
响应于不是受信任成员的候选者,生成安全警告;
将所述环境参数和有关与所述被监控区域相关联的正常活动的信息进行比较;以及
响应于不与正常活动相关联的环境参数,生成安全警告。
15.存储用于监控区域的安全的可执行计算机程序的非暂时性计算机可读存储介质,所述计算机程序指令包括当由计算机处理器执行时实施以下步骤的指令:
检测被监控区域内的运动,其中所述检测包括:
接收视频的多个数字视频帧,所述视频在预定义的时段内捕获所述被监控区域的状况;
从所述多个视频帧中提取视频帧的多个候选者,候选者表示在所述被监控区域内具有可能移动的视频帧;
分析所提取的候选者;以及
基于所述分析,检测一个或多个目标在所述被监控区域内的移动;
监控与所述被监控区域相关联的多个环境参数;以及
基于所检测到的运动和所监控的与所述被监控区域相关联的环境参数生成一个或多个安全警告。
16.根据权利要求15所述的计算机可读存储介质,其中所述用于检测运动的计算机程序指令进一步包括当由所述计算机处理器执行时实施以下步骤的指令:
将所检测到的一个或多个目标的移动传输给计算机服务器,所述计算机服务器适于确定所述移动是否来自与所述被监控区域相关联的受信任成员。
17.根据权利要求15所述的计算机可读存储介质,其中所述用于检测运动的计算机程序指令进一步包括当由所述计算机处理器执行时实施以下步骤的指令:
从所述计算机服务器接收分析结果;以及
基于所述分析结果生成一个或多个安全警告。
18.根据权利要求15所述的计算机可读存储介质,其中所述用于监控与所述被监控区域相关联的多个环境参数的计算机程序指令包括当由所述计算机处理器执行时实施以下步骤的指令:接收来自所述被监控区域内的多个传感器的事件信号,来自传感器的事件信号提供与所述被监控区域相关联的至少一个环境参数的信息。
19.根据权利要求15所述的计算机可读存储介质,其中与所述被监控区域相关联的所述多个环境参数包括以下项中的至少一个:
描述所述被监控区域的空气质量的参数;
描述所述被监控区域的温度的参数;
描述所述被监控区域的湿度的参数;
描述所述被监控区域的建筑结构的突然移动的参数;
描述所述被监控区域的噪声水平的参数;以及
描述所述被监控区域的光照的参数。
20.根据权利要求15所述的计算机可读存储介质,进一步包括当由所述计算机处理器执行时实施以下步骤的计算机程序指令:
从计算机服务器接收经训练的安全模型,所述经训练的安全模型提供与所述被监控区域相关联的受信任成员集以及有关在不同时段内的与所述被监控区域相关联的正常活动的信息;以及
使用所述经训练的安全模型分析所述所检测到的运动和与所述被监控区域相关联的所述多个环境参数。
CN201510076693.7A 2015-02-12 2015-02-12 增强型住宅安全*** Pending CN105989683A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201510076693.7A CN105989683A (zh) 2015-02-12 2015-02-12 增强型住宅安全***
US14/662,053 US20160239723A1 (en) 2015-02-12 2015-03-18 Enhanced home security system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510076693.7A CN105989683A (zh) 2015-02-12 2015-02-12 增强型住宅安全***

Publications (1)

Publication Number Publication Date
CN105989683A true CN105989683A (zh) 2016-10-05

Family

ID=56622396

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510076693.7A Pending CN105989683A (zh) 2015-02-12 2015-02-12 增强型住宅安全***

Country Status (2)

Country Link
US (1) US20160239723A1 (zh)
CN (1) CN105989683A (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106593534A (zh) * 2016-12-18 2017-04-26 河北科技大学 一种智能隧道施工安全监控***
CN108280780A (zh) * 2018-01-18 2018-07-13 深圳市麦斯杰网络有限公司 物业质量品控的优化方法及装置
JP2019192191A (ja) * 2018-04-20 2019-10-31 美和ロック株式会社 住宅管理装置、住宅管理方法およびプログラム
CN110933955A (zh) * 2017-06-02 2020-03-27 尼特莫公司 基于对来自摄像机图像的对象的检测的警报事件的改进生成
CN113012386A (zh) * 2020-12-25 2021-06-22 贵州北斗空间信息技术有限公司 一种安防报警多级联动快速推送的方法
CN114519917A (zh) * 2018-10-29 2022-05-20 赫克斯冈技术中心 移动监视***
TWI800074B (zh) * 2021-11-03 2023-04-21 國立勤益科技大學 基於物聯網之居家長照整合系統

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10305895B2 (en) 2015-04-14 2019-05-28 Blubox Security, Inc. Multi-factor and multi-mode biometric physical access control device
US10554758B2 (en) 2015-06-15 2020-02-04 Blub0X Security, Inc. Web-cloud hosted unified physical security system
CN107851347A (zh) * 2015-07-13 2018-03-27 开利公司 安全自动化***
US10083376B2 (en) * 2015-10-19 2018-09-25 Honeywell International Inc. Human presence detection in a home surveillance system
US10211999B2 (en) * 2016-02-09 2019-02-19 Bruce A Pelton Integrated building management sensor system
US20170264383A1 (en) * 2016-03-09 2017-09-14 Google Inc. Detection of anomaly related to information about location of mobile computing device
US10380429B2 (en) * 2016-07-11 2019-08-13 Google Llc Methods and systems for person detection in a video feed
US9972195B2 (en) * 2016-10-07 2018-05-15 Vivint, Inc. False alarm reduction
US10754964B2 (en) 2016-11-01 2020-08-25 Bruce A Pelton Integrated building management sensor system
US10679669B2 (en) * 2017-01-18 2020-06-09 Microsoft Technology Licensing, Llc Automatic narration of signal segment
CN106851211A (zh) * 2017-03-02 2017-06-13 广州绿森信息科技有限公司 智能监控***
CN108874830B (zh) * 2017-05-15 2022-04-29 富联精密电子(天津)有限公司 软件数据共享***
US11783010B2 (en) 2017-05-30 2023-10-10 Google Llc Systems and methods of person recognition in video streams
US11072966B1 (en) * 2017-08-25 2021-07-27 Objectvideo Labs, Llc Video analytic enhanced pet door
US10664688B2 (en) 2017-09-20 2020-05-26 Google Llc Systems and methods of detecting and responding to a visitor to a smart home environment
US11908307B2 (en) 2018-06-07 2024-02-20 William J. Hoofe, IV Security system
CN109714435B (zh) * 2019-01-22 2020-09-11 国网江苏省电力有限公司信息通信分公司 一种云平台视频收集和处理***及其方法
CN109947088B (zh) * 2019-04-17 2020-09-08 北京天泽智云科技有限公司 基于模型全生命周期管理的设备故障预警***
US11557142B1 (en) * 2019-04-23 2023-01-17 Alarm.Com Incorporated Home wildlife deterrence
US20240233515A1 (en) 2021-08-09 2024-07-11 William J. Hoofe, IV Security system
CN115412706B (zh) * 2022-08-16 2023-10-17 深圳市景创科技电子股份有限公司 基于眼球追踪和运动检测的监视器

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103198595A (zh) * 2013-03-11 2013-07-10 成都百威讯科技有限责任公司 智能门窗防入侵***

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103198595A (zh) * 2013-03-11 2013-07-10 成都百威讯科技有限责任公司 智能门窗防入侵***

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106593534A (zh) * 2016-12-18 2017-04-26 河北科技大学 一种智能隧道施工安全监控***
CN106593534B (zh) * 2016-12-18 2019-11-05 河北科技大学 一种智能隧道施工安全监控***
CN110933955A (zh) * 2017-06-02 2020-03-27 尼特莫公司 基于对来自摄像机图像的对象的检测的警报事件的改进生成
US11393210B2 (en) 2017-06-02 2022-07-19 Netatmo Generation of alert events based on a detection of objects from camera images
CN108280780A (zh) * 2018-01-18 2018-07-13 深圳市麦斯杰网络有限公司 物业质量品控的优化方法及装置
JP2019192191A (ja) * 2018-04-20 2019-10-31 美和ロック株式会社 住宅管理装置、住宅管理方法およびプログラム
CN114519917A (zh) * 2018-10-29 2022-05-20 赫克斯冈技术中心 移动监视***
CN113012386A (zh) * 2020-12-25 2021-06-22 贵州北斗空间信息技术有限公司 一种安防报警多级联动快速推送的方法
TWI800074B (zh) * 2021-11-03 2023-04-21 國立勤益科技大學 基於物聯網之居家長照整合系統

Also Published As

Publication number Publication date
US20160239723A1 (en) 2016-08-18

Similar Documents

Publication Publication Date Title
CN105989683A (zh) 增强型住宅安全***
US10614627B2 (en) Holographic technology implemented security solution
Lloret et al. A smart communication architecture for ambient assisted living
US9240111B2 (en) Inferring building metadata from distributed sensors
AU2019295856B2 (en) Object tracking using disparate monitoring systems
CN110287923A (zh) 人体姿态获取方法、装置、计算机设备及存储介质
US20170053504A1 (en) Motion detection system based on user feedback
CN111080968B (zh) 一种独居老人意外发生联动控制预警方法及***
CN107065586A (zh) 交互式智能家庭服务***及方法
CN108053627A (zh) 一种火灾报警方法、装置及设备
US11935297B2 (en) Item monitoring for doorbell cameras
CN110147762A (zh) 一种嵌入式消防误报消除***
CN109951363A (zh) 数据处理方法、装置及***
WO2019173404A1 (en) System and method for preventing false alarms due to display images
EP3188148A1 (en) Intrusion alarm system with learned and dynamic entry delays
CN114972727A (zh) 用于多模态神经符号场景理解的***和方法
CA3104823C (en) Network activity validation
Hang et al. Design and implementation of intelligent fire notification service using IP camera in smart home
Meliones et al. Privacy-preserving intelligent networked video surveillance for patient monitoring and alarm detection
Khaemba et al. Security and Privacy of IoT Devices for Aging in Place
Ozohu et al. Improved Hybrid Machine Learning User Behavioural Model for Secured Smart Homes
Cagnazzo et al. Monitoring energy consumption to derive the welfare of solitary seniors
Sood Occupancy Level Estimation in an Indoor Environment for Building Automation.
US20210109763A1 (en) Methods, apparatuses and systems for deploying connected devices for control systems
JP2024084685A (ja) ライフログの分析による単身世帯遠隔ケアサービス提供システム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20161005

WD01 Invention patent application deemed withdrawn after publication