CN109733978A - 自动门控制方法、装置、***和存储介质 - Google Patents

Abstract

本发明提供了一种自动门控制方法、装置、***和存储介质，所述方法包括：基于电梯内的图像进行行为识别，以获得电梯内乘客的行为模态；基于电梯外门口处的图像进行行为识别，以获得电梯外乘客的行为模态；以及根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关。本发明的自动门控制方法、装置、***和存储介质基于对电梯内和电梯外乘客行为的识别结果判断是否关闭自动门，从而能够避免自动门误夹乘客事故的发生、减少乘客等待关门的时间、无需人工按关门按钮，提高了电梯的运行效率，保障了电梯的运行安全，提高了用户对电梯的乘坐体验。

Description

自动门控制方法、装置、***和存储介质

技术领域

本发明涉及行为识别技术领域，更具体地涉及一种自动门控制方法、装置、***和存储介质。

背景技术

随着经济的发展和城市化脚步的不断加快，电梯的数量也呈逐年上升趋势。电梯作为建筑内通行的主要工具，其安全保护性能尤为重要。当前的电梯关门***都是基于等待固定时间自动关门或者乘客手动按关门按钮，电梯门误夹乘客的事故时有发生，所有乘客站定之后电梯门迟迟不关的情况更加普遍，而需要人工操作会降低用户体验。电梯关门没有智能化会导致安全隐患和客运效率的降低。

发明内容

本发明提出了一种基于行为识别的自动门控制方案，其基于对电梯内和电梯外乘客行为的识别结果判断是否关闭自动门，从而能够保障自动门的安全性、提高电梯关门效率。下面简要描述本发明提出的关于自动门控制的方案，更多细节将在后续结合附图在具体实施方式中加以描述。

根据本发明一方面，提供了一种自动门控制方法，所述方法包括：基于电梯内的图像进行行为识别，以获得电梯内乘客的行为模态；基于电梯外门口处的图像进行行为识别，以获得电梯外乘客的行为模态；以及根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关。

在一个实施例中，所述根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关，包括：当判断所述电梯内乘客的行为模态不属于第一类行为模态，并且判断所述电梯外乘客的行为模态不属于第二类行为模态时，控制所述自动门关闭。

在一个实施例中，所述第一类行为模态包括：电梯内任意区域内的走动行为、电梯内控制面板的按键行为、电梯内门口预设区域内的走动行为、和/或电梯内门口预设区域内物体的移动行为。

在一个实施例中，所述第二类行为模态包括：电梯外门口处任意区域内的走动行为、电梯外控制面板的按键行为、电梯外门口处预设区域内的走动行为、和/或电梯外门口处预设区域内物体的移动行为。

在一个实施例中，所述基于所述电梯内的图像进行行为识别包括：对每名乘客的单独行为进行识别或对所有乘客的群体行为进行识别。

在一个实施例中，所述基于所述电梯外门口处的图像进行行为识别包括：对每名乘客的单独行为进行识别或对所有乘客的群体行为进行识别。

在一个实施例中，所述方法还包括：采集针对电梯内的视频或电梯外门口处的视频，并分别从所述视频中提取连续的多帧待识别的图像，所述待识别的图像为所述电梯内的图像或所述电梯外门口处的图像；所述对每名乘客的单独行为进行识别包括：使用第一卷积神经网络检测出多帧待识别的图像中的每名乘客所在的区域；以及使用第二卷积神经网络针对多帧待识别的图像中所述每名乘客所在的区域分别进行行为识别，以获得所述每名乘客个体的行为模态。

在一个实施例中，所述方法还包括：采集针对电梯内的视频或电梯外门口处的视频，并分别从所述视频中提取连续的多帧待识别的图像，所述待识别的图像为所述电梯内的图像或所述电梯外门口处的图像；所述对所有乘客的群体行为进行识别包括：将所述多帧待识别的图像输入到第三卷积神经网络，并输出所述待识别的图像中全部乘客群体的行为模态。

根据本发明另一方面，提供了一种自动门控制装置，所述装置包括：电梯内行为识别模块，用于基于电梯内的图像进行行为识别，以获得电梯内乘客的行为模态；电梯外行为识别模块，用于基于电梯外门口处的图像进行行为识别，以获得电梯外乘客的行为模态；以及总控关门模块，用于根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关。

根据本发明又一方面，提供了一种自动门控制***，所述***包括存储装置和处理器，所述存储装置上存储有由所述处理器运行的计算机程序，所述计算机程序在被所述处理器运行时执行上述任一项所述的自动门控制方法。

根据本发明再一方面，提供了一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序在运行时执行上述任一项所述的自动门梯控制方法。

根据本发明实施例的自动门控制方法、装置、***和存储介质基于对电梯内和电梯外乘客行为的识别结果判断是否关闭自动门，从而能够避免自动门误夹乘客事故的发生、减少乘客等待关门的时间、无需人工按关门按钮，提高了电梯的运行效率，保障了电梯的运行安全，提高了用户对电梯的乘坐体验。

附图说明

通过结合附图对本发明实施例进行更详细的描述，本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解，并且构成说明书的一部分，与本发明实施例一起用于解释本发明，并不构成对本发明的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1示出用于实现根据本发明实施例的自动门控制方法、装置、***和存储介质的示例电子设备的示意性框图；

图2示出根据本发明实施例的自动门控制方法的示意性流程图；

图3示出根据本发明实施例的自动门控制装置的示意性框图；以及

图4示出根据本发明实施例的自动门控制***的示意性框图。

具体实施方式

为了使得本发明的目的、技术方案和优点更为明显，下面将参照附图详细描述根据本发明的示例实施例。显然，所描述的实施例仅仅是本发明的一部分实施例，而不是本发明的全部实施例，应理解，本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例，本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。

首先，参照图1来描述用于实现本发明实施例的自动门控制方法、装置、***和存储介质的示例电子设备100。

如图1所示，电子设备100包括一个或多个处理器102、一个或多个存储装置104、输入装置106、输出装置108以及图像传感器110，这些组件通过总线***112和/或其它形式的连接机构(未示出)互连。应当注意，图1所示的电子设备100的组件和结构只是示例性的，而非限制性的，根据需要，所述电子设备也可以具有其他组件和结构。

所述处理器102可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元，并且可以控制所述电子设备100中的其它组件以执行期望的功能。

所述存储装置104可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器102可以运行所述程序指令，以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据，例如所述应用程序使用和/或产生的各种数据等。

所述输入装置106可以是用户用来输入指令的装置，并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。

所述输出装置108可以向外部(例如用户)输出各种信息(例如图像或声音)，并且可以包括显示器、扬声器等中的一个或多个。

所述图像传感器110可以拍摄用户期望的图像(例如照片、视频等)，并且将所拍摄的图像存储在所述存储装置104中以供其它组件使用。

示例性地，用于实现根据本发明实施例的自动门控制方法和装置的示例电子设备可以被实现为诸如个人计算机或远程服务器等。

需要注意的是，图1所示的电子设备100的组件和结构只是示例性的，尽管图1示出的电子设备100包括多个不同的装置，但是根据需要，其中的一些装置可以不是必须的，其中的一些装置的数量可以更多等等，本发明对此不限定。

下面，将参考图2描述根据本发明实施例的自动门控制方法200。如图2所示，自动门控制方法200可以包括如下步骤：

在步骤S210，基于电梯内的图像进行行为识别，以获得电梯内乘客的行为模态；

在步骤S220，基于电梯外门口处的图像进行行为识别，以获得电梯外乘客的行为模态；以及

在步骤S230，根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关。

本发明实施例中，所述自动门控制方法用于电梯，所述电梯指垂直升降的电梯，而不涉及自动扶梯或自动人行道。

根据本发明实施例的自动门控制方法，基于对电梯内外乘客行为的识别结果判断是否关闭自动门，从而能够避免自动门误夹乘客事故的发生、减少乘客等待关门的时间、无需人工按关门按钮，提高了电梯的运行效率，保障了电梯的运行安全，提高了用户对电梯的乘坐体验。

在本发明实施例中，步骤S210和步骤S220的顺序不做限制。例如，在一个实施例中，步骤S210和步骤S220是同时进行的，或者，步骤S210和步骤S220也可以是先后进行的。示例性地，当电梯停在任意楼层，电梯的自动门开启后，图像采集装置分别获取电梯内和电梯外门口处的图像，并分别基于电梯内的图像和电梯外门口处的图像进行行为识别。

在一个实施例中，基于图像采集装置采集针对电梯内或电梯外门口处的视频。该视频可以是任何合适的针对电梯内区域和电梯外区域采集的视频图像。该视频可以是监控摄像头采集到的原始视频，也可以是对原始视频进行预处理之后获得的视频。

示例性地，电梯内的图像和/或电梯外门口处的图像可以来自普通的RGB摄像头，也可以来自能够采集深度信息的RGBD摄像头。其可以由客户端设备(诸如包括监控摄像头的安防设备)发送到电子设备100以由电子设备100的处理器102进行处理，也可以由电子设备100包括的图像采集装置110(例如摄像头)采集并传送到处理器102进行处理。

示例性地，用于采集电梯内图像的图像采集装置设置在电梯轿厢内部，倾斜向下俯视轿厢，以采集电梯轿厢内部的图像。示例性地，用于采集电梯外图像的图像采集装置设置在每层楼的电梯口处，以采集电梯外门口处的图像。一次性投入图像采集装置之后，即可以长期使用。

示例性地，在步骤S210中，所述基于电梯内的图像进行行为识别可以包括：对每名乘客的单独行为进行识别，或对所有乘客的群体行为进行识别。

示例性地，在步骤S220中，所述基于电梯外门口处的图像进行行为识别也可以包括：对每名乘客的单独行为进行识别，或对所有乘客的群体行为进行识别。

在一个实施例中，分别从针对电梯内的视频或电梯外门口处的视频中提取连续的多帧待识别的图像，并基于所述多帧待识别的图像对每名乘客的单独行为进行识别。所述对每名乘客的单独行为进行识别包括：使用第一卷积神经网络检测出多帧待识别的图像中的每名乘客所在的区域；以及使用第二卷积神经网络针对多帧待识别的图像中所述每名乘客所在的区域分别进行行为识别，以判断每名乘客的个体的行为模态。其中，所述连续是指具有时间先后顺序的连贯性，但不一定是无时间间隔的连续，可以在所述视频中每间隔预设帧数提取一帧所述待识别的图像。在步骤S210中，所述待识别的图像指的是电梯内的图像；在步骤S220中，所述待识别的图像指的是电梯外门口处的图像。

第一卷积神经网络可以采用任何现有的或将来可能实现的行人检测算法实现。行人检测算法是能够在图像中检测行人所在位置的算法。示例性地，第一卷积神经网络针对视频中提取的部分或全部连续的视频帧进行行人检测，以提取其中的行人轮廓。例如，对待检测的视频帧进行特征提取，将提取出的特征输入训练好的分类模型中判断是否存在行人。示例性地，可以人工标定出训练数据库中的行人作为正样本，从不包括行人的背景图像中取出同样大小的图像区域作为负样本，提取正负样本的特征输入分类器中训练出所述分类模型。

第二卷积神经网络可针对第一卷积神经网络检测出的行人进行行为识别，其利用所述连续的视频帧中乘客所在像素的连续信息识别出乘客的行为，给出每名乘客的个体的行为模态。作为示例，可以利用传统的基于检测的跟踪算法进行行人跟踪。简单来说，主要是针对每个行人，将在不同视频帧中检测出的与该行人相对应的行人框关联起来。

对于每一个检测到的行人，可以使用例如15个人体关键点来表示其姿态。所述的人体关键点可以是头部、左手、左肩、左手肘、左脚、左膝盖等部位。接着，通过多分类支持向量机对人体关键点进行识别分类，以确定是否存在事先定义好的行为，例如在电梯内走动、试图走出电梯或试图操作电梯控制面板等。

在一个实施例中，分别从针对电梯内的视频或电梯外门口处的视频中提取连续的多帧待识别的图像，并基于所述多帧待识别的图像对所有乘客的群体行为进行识别。所述对所有乘客的群体行为进行识别包括：将多帧待识别的图像输入到第三卷积神经网络，并输出所述待识别的图像中全部乘客的群体的行为模态。其中，所述连续是指具有时间先后顺序的连贯性，但不一定是无时间间隔的连续，可以在所述视频中每间隔预设帧数提取一帧所述待识别的图像。在步骤S210中，所述待识别的图像指的是电梯内的图像；在步骤S220中，所述待识别的图像指的是电梯外门口处的图像。示例性地，可将一段时间长度(例如0.2秒)的完整视频的部分或全部视频帧作为第三卷积神经网络的输入，并直接输出当前视频中全部乘客群体行为模态。

其中，所述第三卷积神经网络为用于进行群体行为识别的神经网络，将其命名为第三卷积神经网络，目的是与前述的第一卷积神经网络和第二卷积神经网络区分开来。

示例性地，可以首先利用背景差分法和帧间差分法等方法对视频中前景目标进行提取，基于Adaboost等分类算法利用前景目标的特征机器学习表述机制，对视频中的前景目标移动的路径轨迹、轨迹的周期性、动作的周期性、线性变化的形态特征、形态变化的周期性等作为视频前景目标的特征集进行机器学习，以得到用于进行群体行为识别的群体行为识别分类器。

在其他实施例中，也可采用其他的群体行为识别方法基于电梯内的图像或电梯外门口处的图像进行行为识别，以获得电梯内或电梯外乘客的行为模态，例如采用基于光流场的方法进行群体识别等。

在一个实施例中，步骤S210中用于基于电梯内的图像进行行为识别的卷积神经网络可以与步骤S220中用于基于电梯外门口处的图像进行行为识别的卷积神经网络相同。例如训练得到的卷积神经网络能够识别电梯内乘客的行为是否属于第一类行为模态，也能够识别电梯外乘客的行为模态是否属于第二类行为模态。在另一实施例中，在步骤S210中用于电梯内的图像进行行为识别的卷积神经网络可以与在步骤S220中用于对电梯外的图像进行行为识别的卷积神经网络不同，例如步骤S210中使用的卷积神经网络能够识别电梯内的乘客的行为是否属于第一类行为模态，步骤S220中使用的卷积神经网络能够识别电梯外乘客的行为是否属于第二类行为模态。

在步骤S230中，当判断所述电梯内乘客的行为模态不属于第一类行为模态，并且判断所述电梯外乘客的行为姿态模态不属于第二类行为模态时，控制所述自动门关闭。

其中，所述第一类行为模态包括而不限于电梯内任意区域内的走动行为(例如试图或正在走出电梯的行为)、电梯内控制面板的按键行为、电梯内门口预设区域内的走动行为、和/或电梯内门口预设区域内物体的移动行为。其中，由于通常乘客试图或正在走出电梯时，其携带的物品也会跟随移动，因此通过检测物体在电梯内门口预设区域内的移动行为，可以间接的检测乘客的行为模态。当获得第一类行为模态时，可以认为电梯内的乘客没有站定。所述第二类行为模态包括而不限于：电梯外门口处任意区域走动行为(例如试图或正在走进电梯的行为)、电梯外控制面板的按键行为、电梯外门口预设区域内的走动行为、和/或电梯外门口预设区域内物体的移动行为。其中，由于通常乘客试图或正在进入电梯时，其携带的物品也会跟随移动，因此通过检测物体在电梯内门口预设区域内的移动行为，可以间接的检测乘客的行为模态。当获得第二类行为模态时，可以认为电梯外有乘客试图进入电梯。因此，如果在步骤S210中判断电梯内的至少一名乘客的行为模态属于第一类行为模态，或在步骤S220中判断电梯外至少一名乘客的行为模态属于第二类行为模态，则保持自动门开启；若在步骤S210中判断电梯内乘客的行为模态均不属于第一类行为模态，并且在步骤S220中判断电梯外乘客的行为姿态模态均不属于第二类行为模态，则控制自动门关闭。

基于上面的描述，根据本发明实施例的自动门控制方法基于对电梯内和电梯外乘客行为的识别结果判断是否关闭自动门，从而能够避免自动门误夹乘客事故的发生、减少乘客等待关门的时间、无需人工按关门按钮，提高了电梯的运行效率，保障了电梯的运行安全，提高了用户对电梯的乘坐体验。

以上示例性地描述了根据本发明实施例的自动门控制方法。示例性地，根据本发明实施例的自动门控制方法可以在具有存储器和处理器的设备、装置或者***中实现。

下面结合图3描述本发明另一方面提供的自动门控制装置。图3示出了根据本发明实施例的自动门控制装置300的示意性框图。

如图3所示，根据本发明实施例的自动门控制装置300包括电梯内行为识别模块310、电梯外行为识别模块320以及控制模块330。所述各个模块可分别执行上文中结合图2描述的自动门控制方法的各个步骤/功能。以下仅对自动门控制装置300的各模块的主要功能进行描述，而省略以上已经描述过的细节内容。

电梯内行为识别模块310用于基于电梯内的图像进行行为识别，以获得电梯内乘客的行为模态；电梯外行为识别模块320用于基于电梯外的图像进行行为识别，以获得电梯外乘客的行为模态；以及

控制模块330用于根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关。

本发明实施例中，所述自动门控制装置用于电梯，所述电梯指垂直升降的电梯，而不涉及自动扶梯或自动人行道。

根据本发明实施例的自动门控制装置，基于对电梯内外乘客行为的识别结果判断是否关闭自动门，从而能够避免自动门误夹乘客事故的发生、减少乘客等待关门的时间、无需人工按关门按钮，提高了电梯的运行效率，保障了电梯的运行安全，提高了用户对电梯的乘坐体验。

在一个实施例中，基于图像采集装置采集针对电梯内或电梯外门口处的视频。该视频可以是任何合适的针对电梯内区域和电梯外区域采集的视频图像。该视频可以是监控摄像头采集到的原始视频，也可以是对原始视频进行预处理之后获得的视频。

示例性地，电梯内的图像和/或电梯外门口处的图像可以来自普通的RGB摄像头，也可以来自能够采集深度信息的RGBD摄像头。其可以由客户端设备(诸如包括监控摄像头的安防设备)发送到电子设备100以由电子设备100的处理器102进行处理，也可以由电子设备100包括的图像采集装置110(例如摄像头)采集并传送到处理器102进行处理。

示例性地，用于采集电梯内图像的图像采集装置设置在电梯轿厢内部，倾斜向下俯视轿厢，以采集电梯轿厢内部的图像。示例性地，用于采集电梯外图像的图像采集装置设置在每层楼的电梯口处，以采集电梯外门口处的图像。一次性投入图像采集装置之后，即可以长期使用。

示例性地，在电梯内行为识别模块310中，所述基于电梯内的图像进行行为识别可以包括：对每名乘客的单独行为进行识别，或对所有乘客的群体行为进行识别。

示例性地，在电梯外行为识别模块320中，所述基于电梯外门口处的图像进行行为识别也可以包括：对每名乘客的单独行为进行识别，或对所有乘客的群体行为进行识别。

在一个实施例中，分别从针对电梯内的视频或电梯外门口处的视频中提取连续的多帧待识别的图像，并基于所述多帧待识别的图像对每名乘客的单独行为进行识别。所述对每名乘客的单独行为进行识别包括：使用第一卷积神经网络检测出多帧待识别的图像中的每名乘客所在的区域；以及使用第二卷积神经网络针对多帧待识别的图像中所述每名乘客所在的区域分别进行行为识别，以判断每名乘客的个体的行为模态。其中，所述连续是指具有时间先后顺序的连贯性，但不一定是无时间间隔的连续，可以在所述视频中每间隔预设帧数提取一帧所述待识别的图像。在电梯内行为识别模块310中，所述待识别的图像指的是电梯内的图像；在电梯外行为识别模块320中，所述待识别的图像指的是电梯外门口处的图像。

第一卷积神经网络可以采用任何现有的或将来可能实现的行人检测算法实现。行人检测算法是能够在图像中检测行人所在位置的算法。示例性地，第一卷积神经网络针对视频中提取的部分或全部连续的视频帧进行行人检测，以提取其中的行人轮廓。例如，对待检测的视频帧进行特征提取，将提取出的特征输入训练好的分类模型中判断是否存在行人。示例性地，可以人工标定出训练数据库中的行人作为正样本，从不包括行人的背景图像中取出同样大小的图像区域作为负样本，提取正负样本的特征输入分类器中训练出所述分类模型。

第二卷积神经网络可针对第一卷积神经网络检测出的行人进行行为识别，其利用一段连续视频的多个所述连续的视频帧中乘客所在像素的连续信息识别出乘客的行为，给出每名乘客的个体的行为模态。作为示例，可以利用传统的基于检测的跟踪算法进行行人跟踪。简单来说，主要是针对每个行人，将在不同视频帧中检测出的与该行人相对应的行人框关联起来。

对于每一个检测到的行人，可以使用例如15个人体关键点来表示其姿态。所述的人体关键点可以是头部、左手、左肩、左手肘、左脚、左膝盖等部位。接着，通过多分类支持向量机对人体关键点进行识别分类，以确定是否存在事先定义好的行为，例如在电梯内走动、试图走出电梯或试图操作电梯控制面板等。

在一个实施例中，分别从针对电梯内的视频或电梯外门口处的视频中提取连续的多帧待识别的图像，并基于所述多帧待识别的图像对所有乘客的群体行为进行识别。所述对所有乘客的群体行为进行识别包括：将多帧待识别的图像输入到第三卷积神经网络，并输出所述待识别的图像中全部乘客的群体的行为模态。其中，所述连续是指具有时间先后顺序的连贯性，但不一定是无时间间隔的连续，可以在所述视频中每间隔预设帧数提取一帧所述待识别的图像。在电梯内行为识别模块310中，所述待识别的图像指的是电梯内的图像；在电梯外行为识别模块320中，所述待识别的图像指的是电梯外门口处的图像。示例性地，可将一段时间长度(例如0.2秒)的完整视频的部分或全部视频帧作为第三卷积神经网络的输入，并直接输出当前视频中全部乘客群体行为模态。

其中，所述第三卷积神经网络为用于进行群体行为识别的神经网络，将其命名为第三卷积神经网络，目的是与前述的第一卷积神经网络和第二卷积神经网络区分开来。

示例性地，可以首先利用背景差分法和帧间差分法等方法对视频中前景目标进行提取，基于Adaboost等分类算法利用前景目标的特征机器学习表述机制，对视频中的前景目标移动的路径轨迹、轨迹的周期性、动作的周期性、线性变化的形态特征、形态变化的周期性等作为视频前景目标的特征集进行机器学习，以得到用于进行群体行为识别的群体行为识别分类器。

在其他实施例中，也可采用其他的群体行为识别方法基于电梯内的图像或电梯外门口处的图像进行行为识别，以获得电梯内或电梯外乘客的行为模态，例如采用基于光流场的方法进行群体识别等。

在一个实施例中，电梯内行为识别模块310中用于基于电梯内的图像进行行为识别的卷积神经网络可以与电梯外行为识别模块320中用于基于电梯外门口处的图像进行行为识别的卷积神经网络相同。即训练得到的卷积神经网络能够识别电梯内乘客的行为是否属于第一类行为模态，也能够识别电梯外乘客的行为模态是否属于第二类行为模态。在另一实施例中，在电梯内行为识别模块310中用于电梯内的图像进行行为识别的卷积神经网络可以与在电梯外行为识别模块310中用于对电梯外的图像进行行为识别的卷积神经网络不同，即电梯内行为识别模块310中使用的卷积神经网络能够识别电梯内的乘客的行为是否属于第一类行为模态，电梯外行为识别模块310中使用的卷积神经网络能够识别电梯外乘客的行为是否属于第二类行为模态。

在控制模块330中，当判断所述电梯内乘客的行为模态不属于第一类行为模态，并且判断所述电梯外乘客的行为姿态模态不属于第二类行为模态时，控制所述自动门关闭。

其中，所述第一类行为模态包括而不限于电梯内任意区域内的走动行为(例如试图或正在走出电梯的行为)、电梯内控制面板的按键行为、电梯内门口预设区域内的走动行为、和/或电梯内门口预设区域内物体的移动行为。其中，由于通常乘客试图或正在走出电梯时，其携带的物品也会跟随移动，因此通过检测物体在电梯内门口预设区域内的移动行为，可以间接的检测乘客的行为模态。当获得第一类行为模态时，可以认为电梯内的乘客没有站定。所述第二类行为模态包括而不限于：电梯外门口处任意区域走动行为(例如试图或正在走进电梯的行为)、电梯外控制面板的按键行为、电梯外门口预设区域内的走动行为、和/或电梯外门口预设区域内物体的移动行为。其中，由于通常乘客试图或正在进入电梯时，其携带的物品也会跟随移动，因此通过检测物体在电梯内门口预设区域内的移动行为，可以间接的检测乘客的行为模态。当获得第二类行为模态时，可以认为电梯外有乘客试图进入电梯。因此，如果在电梯内行为识别模块310中判断电梯内的至少一名乘客的行为模态属于第一类行为模态，或在电梯外行为识别模块320中判断电梯外至少一名乘客的行为模态属于第二类行为模态，则保持自动门开启；若在电梯内行为识别模块310中判断电梯内乘客的行为模态均不属于第一类行为模态，并且在电梯外行为识别模块320中判断电梯外乘客的行为姿态模态均不属于第二类行为模态，则控制自动门关闭。

基于上面的描述，根据本发明实施例的自动门控制装置基于对电梯内和电梯外乘客行为的识别结果判断是否关闭自动门，从而能够避免自动门误夹乘客事故的发生、减少乘客等待关门的时间、无需人工按关门按钮，提高了电梯的运行效率，保障了电梯的运行安全，提高了用户对电梯的乘坐体验。

图4示出了根据本发明实施例的自动门控制***400的示意性框图。自动门控制***400包括存储装置410以及处理器420。

其中，存储装置410存储用于实现根据本发明实施例的自动门控制方法中的相应步骤的程序代码。处理器420用于运行存储装置410中存储的程序代码，以执行根据本发明实施例的自动门控制方法的相应步骤，并且用于实现根据本发明实施例的自动门控制装置中的相应模块。

在一个实施例中，在所述程序代码被处理器420运行时使得自动门控制***400执行以下步骤：

基于电梯内的图像进行行为识别，以获得电梯内乘客的行为模态；基于电梯外门口处的图像进行行为识别，以获得电梯外乘客的行为模态；以及根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关。

在一个实施例中，所述根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关，包括：当判断所述电梯内乘客的行为模态不属于第一类行为模态，并且判断所述电梯外乘客的行为模态不属于第二类行为模态时，控制所述自动门关闭。

在一个实施例中，所述第一类行为模态包括：电梯内任意区域内的走动行为、电梯内控制面板的按键行为、电梯内门口预设区域内的走动行为、和/或电梯内门口预设区域内物体的移动行为。

在一个实施例中，所述第二类行为模态包括：电梯外门口处任意区域内的走动行为、电梯外控制面板的按键行为、电梯外门口处预设区域内的走动行为、和/或电梯外门口处预设区域内物体的移动行为。

在一个实施例中，所述基于所述电梯内的图像进行行为识别包括：对每名乘客的单独行为进行识别或对所有乘客的群体行为进行识别。

在一个实施例中，所述基于所述电梯外门口处的图像进行行为识别包括：对每名乘客的单独行为进行识别或对所有乘客的群体行为进行识别。

在一个实施例中，在所述程序代码被处理器420运行时还使得自动门控制***400执行：采集针对电梯内的视频或电梯外门口处的视频，并分别从所述视频中提取连续的多帧待识别的图像，所述待识别的图像为所述电梯内的图像或所述电梯外门口处的图像；所述对每名乘客的单独行为进行识别包括：使用第一卷积神经网络检测出多帧待识别的图像中的每名乘客所在的区域；以及使用第二卷积神经网络针对多帧待识别的图像中所述每名乘客所在的区域分别进行行为识别，以获得所述每名乘客个体的行为模态。

在一个实施例中，在所述程序代码被处理器420运行时还使得自动门控制***400执行：采集针对电梯内的视频或电梯外门口处的视频，并分别从所述视频中提取连续的多帧待识别的图像，所述待识别的图像为所述电梯内的图像或所述电梯外门口处的图像；所述对所有乘客的群体行为进行识别包括：将所述多帧待识别的图像输入到第三卷积神经网络，并输出所述待识别的图像中全部乘客群体的行为模态。

此外，根据本发明实施例，还提供了一种存储介质，在所述存储介质上存储了程序指令，在所述程序指令被计算机或处理器运行时用于执行本发明实施例的自动门控制方法的相应步骤，并且用于实现根据本发明实施例的自动门控制装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。所述计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合。

在一个实施例中，所述计算机程序指令在被计算机运行时可以实现根据本发明实施例的自动门控制装置的各个功能模块，并且/或者可以执行根据本发明实施例的自动门控制方法。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤：基于电梯内的图像进行行为识别，以获得电梯内乘客的行为模态；基于电梯外门口处的图像进行行为识别，以获得电梯外乘客的行为模态；以及根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关。

在一个实施例中，所述根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关，包括：当判断所述电梯内乘客的行为模态不属于第一类行为模态，并且判断所述电梯外乘客的行为模态不属于第二类行为模态时，控制所述自动门关闭。

在一个实施例中，所述第一类行为模态包括：电梯内任意区域内的走动行为、电梯内控制面板的按键行为、电梯内门口预设区域内的走动行为、和/或电梯内门口预设区域内物体的移动行为。

在一个实施例中，所述第二类行为模态包括：电梯外门口处任意区域内的走动行为、电梯外控制面板的按键行为、电梯外门口处预设区域内的走动行为、和/或电梯外门口处预设区域内物体的移动行为。

在一个实施例中，所述基于所述电梯内的图像进行行为识别包括：对每名乘客的单独行为进行识别或对所有乘客的群体行为进行识别。

在一个实施例中，所述基于所述电梯外门口处的图像进行行为识别包括：对每名乘客的单独行为进行识别或对所有乘客的群体行为进行识别。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行：采集针对电梯内的视频或电梯外门口处的视频，并分别从所述视频中提取连续的多帧待识别的图像，所述待识别的图像为所述电梯内的图像或所述电梯外门口处的图像；所述对每名乘客的单独行为进行识别包括：使用第一卷积神经网络检测出多帧待识别的图像中的每名乘客所在的区域；以及使用第二卷积神经网络针对多帧待识别的图像中所述每名乘客所在的区域分别进行行为识别，以获得所述每名乘客个体的行为模态。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行：采集针对电梯内的视频或电梯外门口处的视频，并分别从所述视频中提取连续的多帧待识别的图像，所述待识别的图像为所述电梯内的图像或所述电梯外门口处的图像；所述对所有乘客的群体行为进行识别包括：将所述多帧待识别的图像输入到第三卷积神经网络，并输出所述待识别的图像中全部乘客群体的行为模态。

根据本发明实施例的自动门控制装置中的各模块可以通过根据本发明实施例的自动门控制的电子设备的处理器运行在存储器中存储的计算机程序指令来实现，或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。

根据本发明实施例的自动门控制方法、装置、***和存储介质基于对电梯内和电梯外乘客行为的识别结果判断是否关闭自动门，从而能够避免自动门误夹乘客事故的发生、减少乘客等待关门的时间、无需人工按关门按钮，提高了电梯的运行效率，保障了电梯的运行安全，提高了用户对电梯的乘坐体验。

尽管这里已经参考附图描述了示例实施例，应理解上述示例实施例仅仅是示例性的，并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改，而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个设备，或一些特征可以忽略，或不执行。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该本发明的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如相应的权利要求书所反映的那样，其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域的技术人员可以理解，除了特征之间相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

以上所述，仅为本发明的具体实施方式或对具体实施方式的说明，本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。

Claims (11)

1.一种自动门控制方法，用于电梯，其特征在于，所述方法包括：

基于电梯内的图像进行行为识别，以获得电梯内乘客的行为模态；

基于电梯外门口处的图像进行行为识别，以获得电梯外乘客的行为模态；以及

根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关。

2.根据权利要求1所述的方法，其特征在于，所述根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关，包括：

当判断所述电梯内乘客的行为模态不属于第一类行为模态，并且判断所述电梯外乘客的行为模态不属于第二类行为模态时，控制所述自动门关闭。

3.根据权利要求2所述的方法，其特征在于，所述第一类行为模态包括：电梯内任意区域内的走动行为、电梯内控制面板的按键行为、电梯内门口预设区域内的走动行为、和/或电梯内门口预设区域内物体的移动行为。

4.根据权利要求2所述的方法，其特征在于，所述第二类行为模态包括：电梯外门口处任意区域内的走动行为、电梯外控制面板的按键行为、电梯外门口处预设区域内的走动行为、和/或电梯外门口处预设区域内物体的移动行为。

5.根据权利要求1所述的方法，其特征在于，所述基于所述电梯内的图像进行行为识别包括：对每名乘客的单独行为进行识别或对所有乘客的群体行为进行识别。

6.根据权利要求1所述的方法，其特征在于，所述基于所述电梯外门口处的图像进行行为识别包括：对每名乘客的单独行为进行识别或对所有乘客的群体行为进行识别。

7.根据权利要求5或6所述的方法，其特征在于，所述方法还包括：

采集针对电梯内的视频或电梯外门口处的视频，并分别从所述视频中提取连续的多帧待识别的图像，所述待识别的图像为所述电梯内的图像或所述电梯外门口处的图像；

所述对每名乘客的单独行为进行识别包括：使用第一卷积神经网络检测出多帧待识别的图像中的每名乘客所在的区域；以及

使用第二卷积神经网络针对多帧待识别的图像中所述每名乘客所在的区域分别进行行为识别，以获得所述每名乘客个体的行为模态。

8.根据权利要求5或6所述的方法，其特征在于，所述方法还包括：

采集针对电梯内的视频或电梯外门口处的视频，并分别从所述视频中提取连续的多帧待识别的图像，所述待识别的图像为所述电梯内的图像或所述电梯外门口处的图像；

所述对所有乘客的群体行为进行识别包括：将所述多帧待识别的图像输入到第三卷积神经网络，并输出所述待识别的图像中全部乘客群体的行为模态。

9.一种自动门控制装置，用于电梯，其特征在于，所述装置包括：

电梯内行为识别模块，用于基于电梯内的图像进行行为识别，以获得电梯内乘客的行为模态；

电梯外行为识别模块，用于基于电梯外的图像进行行为识别，以以获得电梯外乘客的行为模态；以及

控制模块，用于根据所述电梯内乘客的行为模态和所述电梯外乘客的行为模态控制所述自动门的开关。

10.一种自动门控制***，用于电梯，其特征在于，所述***包括存储装置和处理器，所述存储装置上存储有由所述处理器运行的计算机程序，所述计算机程序在被所述处理器运行时执行如权利要求1-8中的任一项所述的自动门控制方法。

11.一种存储介质，其特征在于，所述存储介质上存储有计算机程序，所述计算机程序在运行时执行如权利要求1-8中的任一项所述的自动门控制方法。