CN113469080A - 一种个体、群体、场景交互协同感知方法、***及设备 - Google Patents

一种个体、群体、场景交互协同感知方法、***及设备 Download PDF

Info

Publication number
CN113469080A
CN113469080A CN202110771588.0A CN202110771588A CN113469080A CN 113469080 A CN113469080 A CN 113469080A CN 202110771588 A CN202110771588 A CN 202110771588A CN 113469080 A CN113469080 A CN 113469080A
Authority
CN
China
Prior art keywords
group
individual
information
behavior
features
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110771588.0A
Other languages
English (en)
Inventor
黄凯奇
陈晓棠
康运锋
张世渝
谢元涛
许伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institute of Automation of Chinese Academy of Science
Original Assignee
Institute of Automation of Chinese Academy of Science
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of Automation of Chinese Academy of Science filed Critical Institute of Automation of Chinese Academy of Science
Priority to CN202110771588.0A priority Critical patent/CN113469080A/zh
Publication of CN113469080A publication Critical patent/CN113469080A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明属于视觉数据处理领域，具体涉及一种个体、群体、场景交互协同感知方法、***及设备。该方法包括基于当前场景中的视频数据提取每个个体的运动信息、行为信息和身份信息；根据个体的运动信息以及预设流量估计算法计算得到当前场景的群体流量数据；根据个体的行为信息以及群体行为识别模型得到群体行为信息；根据个体的运动信息、个体行为信息、身份信息、群体流量数据和群体行为信息确定当前场景下的异常事件；提取异常事件中的个体特征和/或群体特征作为感兴趣目标特征；在其他场景的视频数据中查找与感兴趣目标特征相似的特征作为关联特征；根据关联特征对跨场景的异常事件预测。本发明实现不同层次信息的交互利用，使各层次信息充分整合。

Description

一种个体、群体、场景交互协同感知方法、***及设备
技术领域
本发明属于视觉数据处理技术领域，具体涉及了一种个体、 群体、场景交互协同感知方法、***及设备。
背景技术
近年来随着经济社会的发展，公共安全事件频发，对人们的 生命财产安全造成了巨大威胁。当前群体性的活动已经广泛的存在于各 类的商业展览、体育竞技比赛、交通运输、广场和市民中心等。各种突 发安全事件的发展过程，往往都有一定的演化特征，例如，人群的聚集 可能会增加踩踏、打架斗殴等危害性事件的发生概率。因此通过视频对 大范围场景下的个人行为、群体行为等进行监控和预警就显得尤为重要。
当前的智能视频监控技术，只能对个体、群体、场景层次的 感知信息分别进行智能化分析，缺乏对个体、群体、场景各层次之间感 知信息的协同，个体、群体、场景的感知计算分散，数据彼此孤立，导 致信息利用不足，计算冗余。
因此本申请提供一种个体、场景、群体交互协同感知方法、 ***及设备。
发明内容
为了解决现有技术中的上述问题，即个体、群体、场景的感 知计算分散，数据彼此孤立，导致信息利用不足，计算冗余的问题，本 发明提供了一种个体、场景、群体交互协同感知方法、***及设备。
第一方面，本发明提供一种个体、群体、场景交互协同感知 方法，所述方法包括：
基于当前场景中的视频数据提取每个个体的运动信息、行为 信息、属性信息和身份信息；
根据所述个体的运动信息以及预设流量估计算法计算得到 当前场景的群体流量数据；
根据所述个体的行为信息以及群体行为识别模型得到群体 行为信息；
根据所述个体的运动信息、行为信息、属性信息、身份信息、 所述群体流量数据和所述群体行为信息确定当前场景下的异常事件；
提取所述异常事件中的个体特征和/或群体特征作为感兴趣 目标特征；
在其他场景的视频数据中利用重识别技术查找与所述感兴 趣目标特征相似的特征，并作为关联特征；
根据所述关联特征对其他场景的异常事件进行预测。
可选地，基于当前场景中的视频数据提取每个个体的运动信 息、行为信息和身份信息包括：
提取视频数据中的若干帧视频图像；
对所述视频图像进行预处理；
将预处理后的视频图像分别输入到目标检测模型、目标跟踪 模型、身份识别模型、个体动作识别模型中得到个体运动信息、个体行 为信息和个体身份信息。
可选地，所述个体运动信息包括个***置、运动轨迹，所述 根据所述个体的运动信息以及预设流量估计算法得到当前场景的群体流 量数据包括：
根据个体相邻时刻的位置判断个体是否在行进状态；
若在行进状态，则获取个体的运动轨迹上相邻两个时刻的位 置坐标
Figure BDA0003153741340000031
根据
Figure BDA0003153741340000032
计算个体的当前速度向量估计值
Figure BDA0003153741340000033
Figure BDA0003153741340000034
判断相邻两个时刻的位置的连接线段Pt-ΔtPt是否与预设有向 拌线相交，其中，所述有向拌线与当前场景的出入口平行，且以进入场 景入口的垂直向量为参考，将该垂直向量逆时针方向旋转90°作为有向 拌线的方向；
若相交，则计算所述有向拌线沿顺时针方向旋转到
Figure BDA0003153741340000035
方向的 夹角d；
若0°＜α＜180°，则当前场景的进入次数增加1；
若180°＜α＜340°，则当前场景的出来次数增加1；
利用进入次数的累计数目减去出来次数的累计数目得到当 前场景的群体流量数据。
可选地，所述根据所述个体的运动信息、行为信息、属性信 息、身份信息、所述群体流量数据和所述群体行为信息确定当前场景下 的异常事件包括：
根据所述个体的运动信息和行为信息确定当前场景下的个 体行为异常事件；
根据所述个体的属性信息和身份信息确定当前场景下的个 体身份异常事件；
根据群体流量数据确定当前场景下的群体流量异常事件；
根据所述群体行为信息确定当前场景下的群体行为异常事 件。
可选地，所述群体行为信息包括群体行为类别和群体行为异 常置信度，所述根据所述群体行为信息确定当前场景下的群体行为异常 事件包括：
将所述群体行为异常置信度与预设置信度阈值进行比较；
若大于，则将该群体行为类别作为候选异常行为结果；
统计连续N个检测周期的候选异常行为结果；
将群体行为类别占比最大的结果作为群体异常事件。
可选地，所述在其他场景的视频数据中利用重识别技术查找 与所述感兴趣目标特征相似的特征，并作为关联特征包括：
将其他场景的摄像机视频数据中利用重识别技术提取与所 述感兴趣目标特征相似的特征，并得到特征相似度；
将所述特征相似度与预设相似度阈值进行比较；
若大于，则作为关联特征。
可选地，所述方法还包括：
获取感兴趣目标在各场景、各摄像头下的局部历史轨迹和时 间信息；
按照时间顺序对感兴趣目标的局部历史轨迹进行重建得到 感兴趣目标的跨场景历史轨迹，并对感兴趣目标的跨场景的未来轨迹进 行预测。
可选地，所述方法还包括：
在结构化数据库中检索关联特征对应的时空信息；
根据所述时空信息对感兴趣目标进行跨场景的定位。
第二方面，本发明提供一种个体、群体、场景交互协同感知 ***，所述***包括：
第一提取单元，用于基于当前场景中的视频数据提取每个个 体的运动信息、行为信息、属性信息和身份信息；
群体流量计算单元，用于根据所述个体的运动信息以及预设 流量估计算法计算得到当前场景的群体流量数据；
群体行为识别单元，用于根据所述个体的行为信息以及群体 行为识别模型得到群体行为信息；
异常事件确定单元，用于根据所述个体的运动信息、行为信 息、属性信息、身份信息、所述群体流量数据和所述群体行为信息确定 当前场景下的异常事件；
第二提取单元，用于提取所述异常事件中的个体特征和/或 群体特征作为感兴趣目标特征；
查找单元，用于在其他场景的视频数据中查找与所述感兴趣 目标特征相似的特征，并作为关联特征；
预测单元，用于根据所述关联特征对其他场景的异常事件进 行预测。
本发明的第三方面，提出了一种设备，包括：
至少一个处理器；以及
与至少一个所述处理器通信连接的存储器；其中，
所述存储器存储有可被所述处理器执行的指令，所述指令用 于被所述处理器执行以实现第一方面任一项所述的个体、群体、场景交 互协同感知方法。
本发明的第四方面，提出了一种计算机可读存储介质，所述 计算机可读存储介质存储有计算机指令，所述计算机指令用于被所述计 算机执行以实现第一方面任一项所述的个体、群体、场景交互协同感知 方法。
本发明的有益效果：本发明通过基于当前场景中的视频数据 提取每个个体的运动信息、行为信息和身份信息；根据个体的运动信息 以及预设流量估计算法计算得到当前场景的群体流量数据；根据个体的 行为信息以及群体行为识别模型得到群体行为信息；根据个体的运动信 息、个体行为信息、身份信息、群体流量数据和群体行为信息确定当前 场景下的异常事件；提取异常事件中的个体特征和/或群体特征作为感兴 趣目标特征；在其他场景的视频数据中利用重识别技术查找与感兴趣目 标特征相似的特征，并作为关联特征；根据关联特征对其他场景的异常 事件进行预测。本发明利用个体感知信息得到群体感知信息，利用个体 感知信息和群体感知信息得到场景感知信息，实现不同层次信息的交互利用，使各层次信息充分整合，提高大范围复杂场景视觉大数据信息的 处理效率，避免了冗余计算。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详 细描述，本申请的其它特征、目的和优点将会变得更明显：
图1是本申请实施例的一种个体、群体、场景交互协同感知 方法的流程示意图；
图2是本申请实施例的一种个体、群体、场景交互协同感知 方法的群体流量估计算法示意图；
图3是本申请实施例的一种个体、群体、场景交互协同感知 ***示意图；
图4是用于实现本申请方法、***、设备实施例的服务器的 计算机***的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以 理解的是，此处所描述的具体实施例仅用于解释相关发明，而非对该发 明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有 关发明相关的部分。
本发明提供一种个体、群体、场景交互协同感知方法，所述 方法包括：
基于当前场景中的视频数据提取每个个体的运动信息、行为 信息、属性信息和身份信息；
根据所述个体的运动信息以及预设流量估计算法计算得到 当前场景的群体流量数据；
根据所述个体的行为信息以及群体行为识别模型得到群体 行为信息；
根据所述个体的运动信息、行为信息、属性信息、身份信息、 所述群体流量数据和所述群体行为信息确定当前场景下的异常事件；
提取所述异常事件中的个体特征和/或群体特征作为感兴趣 目标特征；
在其他场景的视频数据中利用重识别技术查找与所述感兴 趣目标特征相似的特征，并作为关联特征；
根据所述关联特征对其他场景的异常事件进行预测。
需要说明的是，在不冲突的情况下，本申请中的实施例及实 施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明 本申请。
为了更清晰地对本发明的个体、群体、场景交互协同感知方 法进行说明，下面结合图1对本发明实施例中各步骤展开详述。
本发明第一实施例的个体、群体、场景交互协同感知方法， 包括步骤S101-步骤S107，各步骤详细描述如下：
步骤S101：基于当前场景中的视频数据提取每个个体的运动 信息、行为信息、属性信息和身份信息。
可选地，基于当前场景中的视频数据提取每个个体的运动信 息、行为信息和身份信息包括：
提取视频数据中的若干帧视频图像；
对所述视频图像进行预处理。该预处理可以包括去噪、归一 化等操作处理。
将预处理后的视频图像分别输入到目标检测模型、目标跟踪 模型、身份识别模型、个体动作识别模型中得到个体运动信息、个体行 为信息、属性信息和个体身份信息。并将该个体运动信息、个体行为信 息、属性信息和个体身份信息存储在结构化数据库中。
在该步骤中，将视频图像输入到目标检测模型中对视频图像 中的所有的个体目标通过检测框进行框定，并通过目标跟踪模型对同一 个体目标在当前场景的运动轨迹进行跟踪。
步骤S]02：根据所述个体的运动信息以及预设流量估计算法 计算得到当前场景的群体流量数据。
密度和流量是群体中最重要的描述指标，群体中个体的密度 分布状态和单位时间流量和群体的管理风险密切相关。在人群密度较高， 单位时间流量较大的区域，容易因拥挤、情绪恶化等原因造成潜在的安 全隐患。因此对群体流量的监测是非常重要的。
可选地，所述个体运动信息包括个***置、运动轨迹，所述 根据所述个体的运动信息以及预设流量估计算法得到当前场景的群体流 量数据包括：
根据个体相邻时刻的位置判断个体是否在行进状态。
如果两个相邻时刻的位置发生变化说明在行进状态，如果没 有发生变化说明没有在行进状态。
若在行进状态，则获取个体的运动轨迹上相邻两个时刻的位 置坐标
Figure BDA0003153741340000081
根据
Figure BDA0003153741340000082
计算个体的当前速度向量估计值
Figure BDA0003153741340000083
Figure BDA0003153741340000091
如图2所示，判断相邻两个时刻的位置的连接线段Pt-ΔtPt是否 与预设有向拌线相交，其中，所述有向拌线与当前场景的出入口平行， 且有向拌线的长度略大于出入口的长度，且以进入场景入口的垂直向量 为参考，将该垂直向量逆时针方向旋转90°作为有向拌线的方向；
若相交，则计算所述有向拌线沿顺时针方向旋转到
Figure BDA0003153741340000092
方向的 夹角α；
若0°＜α＜180°，则当前场景的进入次数增加1；
若180°＜α＜340°，则当前场景的出来次数增加1；
利用进入次数的累计数目减去出来次数的累计数目得到当 前场景的群体流量数据。
步骤S103：根据所述个体的行为信息以及群体行为识别模型 得到群体行为信息。
步骤S104：根据所述个体的运动信息、个体行为信息、身份 信息、所述群体流量数据和所述群体行为信息确定当前场景下的异常事 件。
可选地，所述根据所述个体的运动信息、行为信息、属性信 息、身份信息、所述群体流量数据和所述群体行为信息确定当前场景下 的异常事件包括：
根据所述个体的运动信息和个体行为信息确定当前场景下 的个体行为异常事件。
在一个示例中，可以将个体的运动信息和个体行为信息输入 到个体行为识别模型中输出个体行为的类别和置信度，将个体行为异常 置信度与预设置信度阈值进行比较；若大于，则将该个体行为类别作为 候选异常行为结果；统计连续N个检测周期的候选异常行为结果；将个体 行为类别占比最大的结果作为个体行为异常事件。
根据所述个体的属性信息和身份信息确定当前场景下的个 体身份异常事件。
在该步骤中，身份信息包括身份证号、人脸图像等，根据人 脸图像可以在黑名单人员数据库中判断个体目标是否为黑名单人员。在 无法捕获人脸或捕获的人脸不清晰的情况下可以根据个体的人体区域图 像和属性信息例如个体穿的衣服颜色、携带物等来辅助判断个体目标的 身份。如果判断为黑名单人员则可以确定为个体身份异常事件，并进行报警。
根据群体流量数据确定当前场景下的群体流量异常事件。
在该步骤中，将当前场景进出口统计的群体流量与预设阈值 进行比较，若超过预设阈值，则确定为群体流量异常事件，并进行报警。
根据所述群体行为信息确定当前场景下的群体行为异常事 件。
可选地，所述群体行为信息包括群体行为类别和群体行为异 常置信度，所述根据所述群体行为信息确定当前场景下的群体行为异常 事件包括：
将所述群体行为异常置信度与预设置信度阈值进行比较；
若大于，则将该群体行为类别作为候选异常行为结果；
统计连续N个检测周期的候选异常行为结果；
将群体行为类别占比最大的结果作为群体异常事件。并进行 报警
步骤S105：提取所述异常事件中的个体特征和/或群体特征 作为感兴趣目标特征。
步骤S106：在其他场景的视频数据中利用重识别技术查找与 所述感兴趣目标特征相似的特征，并作为关联特征。
可选地，所述在其他场景的视频数据中利用重识别技术查找 与所述感兴趣目标特征相似的特征，并作为关联特征包括：
将其他场景的摄像机视频数据中利用重识别技术提取与所 述感兴趣目标特征相似的特征，并得到特征相似度；
将所述特征相似度与预设相似度阈值进行比较；
若大于，则作为关联特征，并将关联特征对应的目标作为关 联目标，关联目标与感兴趣目标有一定概率为同一目标。
步骤S107：根据所述关联特征对其他场景的异常事件进行预 测。
具体地，在结构化数据库中检索关联特征对应场景中的个体 和/或群体异常事件，获取感兴趣目标的跨场景关联事件，对跨场景关联 事件进行预测其中，结构化数据库是用来存储各场景下的各摄像头获取 的个体结构化信息和群体结构化信息的，例如个体身份信息、个体行为 信息、个体运动信息、群体流量和群体行为信息等。
可选地，所述方法还包括：
获取感兴趣目标在各场景、各摄像头下的局部历史轨迹和时 间信息；
按照时间顺序对感兴趣目标的局部历史轨迹进行重建得到 感兴趣目标的跨场景历史轨迹，并对感兴趣目标的跨场景的未来轨迹进 行预测。在该步骤中，可以根据目标的历史跨场景运动轨迹来训练跨场 景轨迹预测模型，将关联特征输入到跨场景轨迹预测模型中得到预测的 跨场景运动轨迹。
其中，历史目标的跨场景运动轨迹获取两种方法。如果是有 重叠场景的摄像头网络，需要根据相机标定技术将摄像头之间有视野重 叠区域的位置融合为统一的世界坐标，从而对历史目标的跨场景运动轨 迹进行跟踪。如果是非重叠场景的摄像头网络，需要对摄像头之间相邻 时间段内出现的目标，利用行人重识别技术建立目标关联，从而对历史 目标的跨场景运动轨迹进行跟踪。
可选地，所述方法还包括：
在结构化数据库中检索关联特征对应的时空信息；
在该步骤中，时空信息包括时间和空间信息，即关联特征对 应的目标的空间位置信息和运动时间信息。
根据所述时空信息对感兴趣目标进行跨场景的定位。
基于同样的发明构思，本发明提供一种个体、群体、场景交 互协同感知***，如图3所示，所述***包括：
第一提取单元301，用于基于当前场景中的视频数据提取每 个个体的运动信息、行为信息和身份信息；
群体流量计算单元302，用于根据所述个体的运动信息以及 预设流量估计算法计算得到当前场景的群体流量数据；
群体行为识别单元303，用于根据所述个体的行为信息以及 群体行为识别模型得到群体行为信息；
异常事件确定单元304，用于根据所述个体的运动信息、个 体行为信息、身份信息、所述群体流量数据和所述群体行为信息确定当 前场景下的异常事件；
第二提取单元305，用于提取所述异常事件中的个体特征和/ 或群体特征作为感兴趣目标特征；
查找单元306，用于在其他场景的视频数据中查找与所述感 兴趣目标特征相似的特征，并作为关联特征；
预测单元307，用于根据所述关联特征对其他场景的异常事 件进行预测。
所属技术领域的技术人员可以清楚地了解到，为描述的方便 和简洁，上述描述的***的具体工作过程及有关说明，可以参考前述方 法实施例中的对应过程，在此不再赘述。
需要说明的是，上述实施例提供的个体、群体、场景交互协 同感知***，仅以上述各功能模块的划分进行举例说明，在实际应用中， 可以根据需要而将上述功能分配由不同的功能模块来完成，即将本发明 实施例中的模块或者步骤再分解或者组合，例如，上述实施例的模块可 以合并为一个模块，也可以进一步拆分成多个子模块，以完成以上描述 的全部或者部分功能。对于本发明实施例中涉及的模块、步骤的名称， 仅仅是为了区分各个模块或者步骤，不视为对本发明的不当限定。
本发明第三实施例的一种设备，包括：
至少一个处理器；以及
与至少一个所述处理器通信连接的存储器；其中，
所述存储器存储有可被所述处理器执行的指令，所述指令用 于被所述处理器执行以实现个体、群体、场景交互协同感知方法。
本发明第四实施例的一种计算机可读存储介质，所述计算机 可读存储介质存储有计算机指令，所述计算机指令用于被所述计算机执 行以实现个体、群体、场景交互协同感知方法。
所属技术领域的技术人员可以清楚地了解到，为描述的方便 和简洁，上述描述的存储装置、处理装置的具体工作过程及有关说明， 可以参考前述方法实施例中的对应过程，在此不再赘述。
下面参考图4，其示出了用于实现本申请方法、***、设备 实施例的服务器的计算机***的结构示意图。图4示出的服务器仅仅是 一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图4所示，计算机***包括中央处理单元(CPU， Central Processing Unit)401，其可以根据存储在只读存储器(ROM，Read Only Memory)402中的程序或者从存储部分408加载到随机访问 存储器(RAM，Random Access Memory)403中的程序而执行各种适当的动作和处理。在RAM 403中，还存储有***操作所需的各种程序和数 据。CPU 401、ROM402以及RAM 403通过总线404彼此相连。输入/ 输出(I/O，Input/Output)接口405也连接至总线404。
以下部件连接至I/O接口405：包括键盘、鼠标等的输入部 分406；包括诸如阴极射线管(CRT，Cathode Ray Tube)、液晶显示器 (LCD，Liquid Crystal Display)等以及扬声器等的输出部分407；包括 硬盘等的存储部分408；以及包括诸如LAN(局域网， Local AreaNetwork)卡、调制解调器等的网络接口卡的通信部分409。 通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据 需要连接至I/O接口405。可拆卸介质411，诸如磁盘、光盘、磁光盘、 半导体存储器等等，根据需要安装在驱动器410上，以便于从其上读出 的计算机程序根据需要被安装入存储部分408。
特别地，根据本公开的实施例，上文参考流程图描述的过程 可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机 程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程 序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该 计算机程序可以通过通信部分409从网络上被下载和安装，和/或从可拆 卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时， 执行本申请的方法中限定的上述功能。需要说明的是，本申请上述的计 算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者 是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于 ——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者 任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限 于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访 问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM 或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、 磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存 储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行 ***、装置或者器件使用或者与其结合使用。而在本申请中，计算机可 读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号， 其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种 形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算 机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读 介质，该计算机可读介质可以发送、传播或者传输用于由指令执行***、 装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的 程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光 缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行 本申请的操作的计算机程序代码，上述程序设计语言包括面向对象的程 序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计 语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用 户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包 执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程 计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以 通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用 户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来 通过因特网连接)。
附图中的流程图和框图，图示了按照本申请各种实施例的系 统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这 点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码 的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现 规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中， 方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如， 两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按 相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流 程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行 规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。
术语“第一”、“第二”等是用于区别类似的对象，而不 是用于描述或表示特定的顺序或先后次序。
术语“包括”或者任何其它类似用语旨在涵盖非排他性的包 含，从而使得包括一系列要素的过程、方法、物品或者设备/装置不仅包 括那些要素，而且还包括没有明确列出的其它要素，或者还包括这些过 程、方法、物品或者设备/装置所固有的要素。
至此，已经结合附图所示的优选实施方式描述了本发明的技 术方案，但是，本领域技术人员容易理解的是，本发明的保护范围显然 不局限于这些具体实施方式。在不偏离本发明的原理的前提下，本领域 技术人员可以对相关技术特征做出等同的更改或替换，这些更改或替换 之后的技术方案都将落入本发明的保护范围之内。

Claims (10)

1.一种个体、群体、场景交互协同感知方法，其特征在于，所述方法包括：
基于当前场景中的视频数据提取每个个体的运动信息、行为信息、属性信息和身份信息；
根据所述个体的运动信息以及预设流量估计算法计算得到当前场景的群体流量数据；
根据所述个体的行为信息以及群体行为识别模型得到群体行为信息；
根据所述个体的运动信息、行为信息、属性信息、身份信息、所述群体流量数据和所述群体行为信息确定当前场景下的异常事件；
提取所述异常事件中的个体特征和/或群体特征作为感兴趣目标特征；
在其他场景的视频数据中利用重识别技术查找与所述感兴趣目标特征相似的特征，并作为关联特征；
根据所述关联特征对其他场景的异常事件进行预测。
2.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述基于当前场景中的视频数据提取每个个体的运动信息、行为信息和身份信息包括：
提取视频数据中的若干帧视频图像；
对所述视频图像进行预处理；
将预处理后的视频图像分别输入到目标检测模型、目标跟踪模型、身份识别模型、个体动作识别模型中得到个体运动信息、个体行为信息和个体身份信息。
3.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述个体运动信息包括个***置、运动轨迹，所述根据所述个体的运动信息以及预设流量估计算法得到当前场景的群体流量数据包括：
根据个体相邻时刻的位置判断个体是否在行进状态；
若在行进状态，则获取个体的运动轨迹上相邻两个时刻的位置坐标
Figure FDA0003153741330000021
Figure FDA0003153741330000022
根据
Figure FDA0003153741330000023
计算个体的当前速度向量估计值
Figure FDA0003153741330000024
判断相邻两个时刻的位置的连接线段Pt-ΔtPt是否与预设有向拌线相交，其中，所述有向拌线与当前场景的出入口平行，且以进入场景入口的垂直向量为参考，将该垂直向量逆时针方向旋转90°作为有向拌线的方向；
若相交，则计算所述有向拌线沿顺时针方向旋转到
Figure FDA0003153741330000025
方向的夹角α；
若0°<α<180°，则当前场景的进入次数增加1；
若180°<α<340°，则当前场景的出来次数增加1；
利用进入次数的累计数目减去出来次数的累计数目得到当前场景的群体流量数据。
4.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述根据所述个体的运动信息、行为信息、属性信息、身份信息、所述群体流量数据和所述群体行为信息确定当前场景下的异常事件包括：
根据所述个体的运动信息和行为信息确定当前场景下的个体行为异常事件；
根据所述个体的属性信息和身份信息确定当前场景下的个体身份异常事件；
根据群体流量数据确定当前场景下的群体流量异常事件；
根据所述群体行为信息确定当前场景下的群体行为异常事件。
5.根据权利要求4所述的个体、群体、场景交互协同感知方法，其特征在于，所述群体行为信息包括群体行为类别和群体行为异常置信度，所述根据所述群体行为信息确定当前场景下的群体行为异常事件包括：
将所述群体行为异常置信度与预设置信度阈值进行比较；
若大于，则将该群体行为类别作为候选异常行为结果；
统计连续N个检测周期的候选异常行为结果；
将群体行为类别占比最大的结果作为群体异常事件。
6.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述在其他场景的视频数据中利用重识别技术查找与所述感兴趣目标特征相似的特征，并作为关联特征包括：
将其他场景的摄像机视频数据中利用重识别技术提取与所述感兴趣目标特征相似的特征，并得到特征相似度；
将所述特征相似度与预设相似度阈值进行比较；
若大于，则作为关联特征。
7.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述方法还包括：获取感兴趣目标在各场景、各摄像头下的局部历史轨迹和时间信息；
按照时间顺序对感兴趣目标的局部历史轨迹进行重建得到感兴趣目标的跨场景历史轨迹，并对感兴趣目标的跨场景的未来轨迹进行预测。
8.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述方法还包括：
在结构化数据库中检索关联特征对应的时空信息；
根据所述时空信息对感兴趣目标进行跨场景的定位。
9.一种个体、群体、场景交互协同感知***，其特征在于，所述***包括：
第一提取单元，用于基于当前场景中的视频数据提取每个个体的运动信息、行为信息、属性信息和身份信息；
群体流量计算单元，用于根据所述个体的运动信息以及预设流量估计算法计算得到当前场景的群体流量数据；
群体行为识别单元，用于根据所述个体的行为信息以及群体行为识别模型得到群体行为信息；
异常事件确定单元，用于根据所述个体的运动信息、行为信息、属性信息、身份信息、所述群体流量数据和所述群体行为信息确定当前场景下的异常事件；
第二提取单元，用于提取所述异常事件中的个体特征和/或群体特征作为感兴趣目标特征；
查找单元，用于在其他场景的视频数据中查找与所述感兴趣目标特征相似的特征，并作为关联特征；
预测单元，用于根据所述关联特征对其他场景的异常事件进行预测。
10.一种电子设备，其特征在于，包括：
至少一个处理器；以及
与至少一个所述处理器通信连接的存储器；其中，
所述存储器存储有可被所述处理器执行的指令，所述指令用于被所述处理器执行以实现权利要求1-8任一项所述的个体、群体、场景交互协同感知方法。
CN202110771588.0A 2021-07-08 2021-07-08 一种个体、群体、场景交互协同感知方法、***及设备 Pending CN113469080A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110771588.0A CN113469080A (zh) 2021-07-08 2021-07-08 一种个体、群体、场景交互协同感知方法、***及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110771588.0A CN113469080A (zh) 2021-07-08 2021-07-08 一种个体、群体、场景交互协同感知方法、***及设备

Publications (1)

Publication Number Publication Date
CN113469080A true CN113469080A (zh) 2021-10-01

Family

ID=77879010

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110771588.0A Pending CN113469080A (zh) 2021-07-08 2021-07-08 一种个体、群体、场景交互协同感知方法、***及设备

Country Status (1)

Country Link
CN (1) CN113469080A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114581858A (zh) * 2022-05-06 2022-06-03 中科智为科技(天津)有限公司 一种小股人群重识别方法及模型训练方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114581858A (zh) * 2022-05-06 2022-06-03 中科智为科技(天津)有限公司 一种小股人群重识别方法及模型训练方法
CN114581858B (zh) * 2022-05-06 2022-08-23 中科智为科技(天津)有限公司 一种小股人群重识别方法及模型训练方法

Similar Documents

Publication Publication Date Title
Pustokhina et al. An automated deep learning based anomaly detection in pedestrian walkways for vulnerable road users safety
CN109684916B (zh) 基于路径轨迹数据异常检测方法、***、设备及存储介质
Coşar et al. Toward abnormal trajectory and event detection in video surveillance
CN105574506A (zh) 基于深度学习和大规模集群的智能人脸追逃***及方法
CN113673459B (zh) 基于视频的生产施工场所安全巡检方法、***、设备
US10824935B2 (en) System and method for detecting anomalies in video using a similarity function trained by machine learning
CN111476183A (zh) 客流信息处理方法及装置
CN112434566B (zh) 客流统计方法、装置、电子设备及存储介质
CN102254394A (zh) 一种基于视频差异分析的输电线路杆塔防盗监控方法
Gong et al. Local distinguishability aggrandizing network for human anomaly detection
CN110956062B (zh) 轨迹路线生成方法、设备及计算机可读存储介质
Han et al. Dr. vic: Decomposition and reasoning for video individual counting
Li et al. PETS 2015: Datasets and challenge
CN113469080A (zh) 一种个体、群体、场景交互协同感知方法、***及设备
CN111191498A (zh) 行为识别方法和相关产品
Chauhan et al. Study of moving object detection and tracking for video surveillance
Pouyan et al. Propounding first artificial intelligence approach for predicting robbery behavior potential in an indoor security camera
Rajpurkar et al. Alert generation on detection of suspicious activity using transfer learning
CN113920585A (zh) 行为识别方法及装置、设备和存储介质
EP3244344A1 (en) Ground object tracking system
Wei et al. Target-tracking based early fire smoke detection in video
CN115346157A (zh) 入侵检测方法、***、设备及介质
CN115311591A (zh) 异常行为的预警方法、装置及智能摄像头
Masood et al. Identification of anomaly scenes in videos using graph neural networks
Srivastava et al. Anomaly Detection Approach for Human Detection in Crowd Based Locations

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination