CN110876092B - 视频摘要生成方法、装置、电子设备及可读存储介质 - Google Patents
视频摘要生成方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN110876092B CN110876092B CN201811025858.8A CN201811025858A CN110876092B CN 110876092 B CN110876092 B CN 110876092B CN 201811025858 A CN201811025858 A CN 201811025858A CN 110876092 B CN110876092 B CN 110876092B
- Authority
- CN
- China
- Prior art keywords
- target
- target picture
- information
- video
- picture information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
- H04N21/8549—Creating video summaries, e.g. movie trailer
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Computer Security & Cryptography (AREA)
- Television Signal Processing For Recording (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请提供一种视频摘要生成方法、装置、电子设备及可读存储介质,该方法包括:接收目标搜索请求;搜索与所述待搜索目标的特征信息匹配的第一目标图片信息;根据所述第一目标图片信息生成视频摘要。该方法可以提高在视频录像中定位目标的效率和准确性,在去除与待搜索目标不匹配的视频录像的基础上,保证目标视频跟踪的连贯性。
Description
技术领域
本申请涉及视频监控技术,尤其涉及一种视频摘要生成方法、装置、电子设备及可读存储介质。
背景技术
视频监控***作为社会安全管理的重要技术手段,在社会治安维护领域的应用和部署越来越广。随着所部署的监控设备数量的增加和范围的扩大,所存储视频录像数据的数据量也越来越大。若想从视频录像数据中查找出特定目标(人或车辆等)在哪些时间段、哪些地点出现过,往往需要人工对大量的视频录像数据进行回放查找,耗时较长且可能会疏忽遗漏,在录像定位、整合展示方面存在效率瓶颈和不完整风险。
发明内容
有鉴于此,本申请提供一种视频摘要生成方法及其装置。
具体地,本申请是通过如下技术方案实现的:
根据本申请实施例的第一方面,提供一种视频摘要生成方法,包括:
接收目标搜索请求,所述目标搜索请求中携带有待搜索目标的特征信息;
搜索与所述待搜索目标的特征信息匹配的第一目标图片信息;其中,所述第一目标图片信息包括第一目标图片和第一目标图片的采集时间;
根据所述第一目标图片信息生成视频摘要。
可选地,所述搜索与待搜索目标的特征信息匹配的第一目标图片信息之前,还包括:
获取视频源设备的视频数据中的目标图片信息,所述目标图片信息包括目标图片、目标图片的采集时间以及目标图片的属性信息;
将所述目标图片信息保存至图片信息库。
可选地,所述获取视频源设备的视频数据中的目标图片信息,包括:
接收所述视频源设备发送目标图片信息。
可选地,所述获取视频源设备的视频数据中的目标图片信息,包括:
接收所述视频源设备发送的目标图片及目标图片的采集时间;
对所述目标图片进行建模,并提取所述目标图片的属性信息。
可选地,所述获取视频源设备的视频数据中的目标图片信息,包括:
接收所述视频源设备发送的目标图片信息、目标图片的采集时间以及目标图片的第一属性信息;
对所述目标图片进行建模,并提取所述目标图片的第二属性信息;
根据所述目标图片的第一特征信息和所述目标图片的第二属性信息确定所述目标图片的属性信息。
可选地,所述获取视频源设备的视频数据中的目标图片信息,包括:
对所述视频源设备提供的视频数据进行目标检测,以得到所述视频数据中的目标图片及目标图片的采集时间;
对所述目标图片进行建模,并提取所述目标图片的属性信息。
可选地,所述将目标图片信息保存至图片信息库,包括:
对于任一视频数据通道的任一目标图片信息,判断所述图片信息库中是否保存有与该目标图片信息包含同一目标的其它目标图片信息;其中,该其它目标图片信息与该目标图片信息来自同一视频数据通道,且该其它目标图片信息包括的采集时间与该目标图片信息中包括的采集时间的差值小于预设时间阈值;
当所述图片信息库中未保存有与该目标图片信息包含同一目标的其它目标图片信息时,将该目标图片信息保存至所述图片信息库;
当所述图片信息库中保存有与该目标图片信息包含同一目标的其它目标图片信息时,拒绝将该目标图片信息保存至所述图片信息库。
可选地,所述待搜索目标的特征信息包括待搜索目标图片;
所述搜索与所述待搜索目标的特征信息匹配的第一目标图片信息,包括:
对所述待搜索目标图片进行建模,并提取所述待搜索目标图片的属性信息;
根据所述待搜索目标的属性信息在所述图片信息库中搜索匹配的第一目标图片信息。
可选地,所述待搜索目标的特征信息包括待搜索目标图片和待搜索目标图片的第一属性信息;
所述搜索与所述待搜索目标的特征信息匹配的第一目标图片信息,包括:
对所述待搜索目标图片进行建模,并提取所述待搜索目标图片的第二属性信息;
根据所述待搜索目标图片的第一属性信息和所述待搜索目标图片的第二属性信息,确定所述待搜索目标图片的属性信息;
根据所述待搜索目标图片的属性信息在所述图片信息库中搜索匹配的第一目标图片信息。
可选地,所述目标搜索请求中还携带有搜索时间段范围;
所述搜索与所述待搜索目标的特征信息匹配的第一目标图片信息,包括:
根据所述搜索时间段范围对所述图片信息库中的目标图片信息进行筛选,以得到采集时间在所述搜索时间段范围内的目标图片信息;
根据所述待搜索目标的特征信息从所述采集时间在所述搜索时间段范围内的目标图片信息中搜索匹配的第一目标图片信息。
可选地,所述目标搜索请求中还携带有搜索通道号,所述目标图片信息还包括有目标图片的通道号;
所述搜索与所述待搜索目标的特征信息匹配的第一目标图片信息,包括:
根据所述搜索通道号对所述图片信息库中的目标图片信息进行筛选,以得到通道号与所述搜索通道号一致的目标图片信息;
根据所述待搜索目标的特征信息从所述通道号与所述搜索通道号一致的目标图片信息中搜索匹配的第一目标图片信息。
可选地,所述根据所述第一目标图片信息生成视频摘要,包括:
根据按采集时间从早到晚的顺序排序后的所述第一目标图片,生成视频摘要。
可选地,所述根据所述第一目标图片信息生成视频摘要,包括:
对于任一第一目标图片信息,确定该第一目标图片信息对应的目标录像片段;其中,该目标录像片段为该第一目标图片的采集时间之前的第n秒以及该第一目标图片的采集时间之后的第m秒之间的录像数据;
根据各目标录像片段生成视频摘要。
可选地,所述对于任一第一目标图片信息,确定该第一目标图片信息对应的目标录像片段,包括:
当存在采集时间相同的多条第一目标图片信息时,对于该多条第一目标图片信息中的任一第一目标图片信息,确定该第一目标图片信息对应的录像片段的起始时间点和结束时间点;其中,该起始时间点为该第一目标图片的采集时间之前的第n秒,该结束时间点为该第一目标图片的采集时间之后的第m秒;
搜索该第一目标图片所属的视频数据通道的录像数据中是否存在该起始时间点的I帧,以及是否存在该结束时间的I帧;
若均存在,则丢弃该多条第一目标图片信息中的其余第一目标图片信息,并将该第一目标图片信息对应的录像片段确定为目标录像片段。
可选地,所述搜索该第一目标图片所属的视频数据通道的录像数据中是否存在该起始时间点的I帧,以及是否存在该结束时间的I帧之后,还包括:
若不存在该起始时间点的I帧,则将该第一目标图片对应的录像片段的起始时间点增加1秒,并重复上述搜索步骤,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该起始时间点的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同;
若不存在该结束时间点的I帧,则将该第一目标图片对应的录像片段的结束时间点减少1秒,并重复上述搜索步骤,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该结束时间点的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同;
确定该多条第一目标图片信息中对应的录像片段的时长最长的第一目标图片信息,将该第一目标图片信息对应的录像片段确定为目标录像片段,并丢弃该多条第一目标图片信息中的其余第一目标图片信息。
可选地,所述根据各目标录像片段生成视频摘要,包括:
根据各目标录像片段的起始时间点和结束时间点对目标录像片段进行过滤,以去除重复时间的录像数据;
根据过滤后的目标录像片段生成视频摘要。
可选地,所述根据各目标录像片段的起始时间点和结束时间点对目标录像片段进行过滤,包括:
按照各目标录像片段的起始时间点对各目标录像片段进行排序;
对于相邻的第一目标录像片段和第二目标录像片段,当所述第一目标录像片段的结束时间点大于等于所述第二目标录像片段的起始时间点时,
若所述第一目标录像片段和所述第二目标录像片段属于同一视频数据通道,则将所述第一目标录像片段和所述第二目标录像片段合并,合并后的录像片段的起始时间点为所述第一目标录像片段的起始时间点,结束时间点为所述第二目标录像片段的结束时间点;
若所述第一目标录像片段和所述第二目标录像片段属于不同视频数据通道,则以所述第一目标录像片段的结束时间点作为所述第二目标录像片段的起始时间点,或,以所述第二目标片段的起始时间点作为所述第一目标录像片段的结束时间点;
其中,所述第一目标录像片段的起始时间点小于所述第二目标录像片段的起始时间点。
根据本申请实施例的第二方面,提供一种视频摘要生成装置,包括:
接收单元,用于接收目标搜索请求,所述目标搜索请求中携带有待搜索目标的特征信息;
搜索单元,用于搜索与所述待搜索目标的特征信息匹配的第一目标图片信息;其中,所述第一目标图片信息包括第一目标图片和第一目标图片的采集时间;
处理单元,用于根据所述第一目标图片信息生成视频摘要。
可选地,所述装置还包括:
获取单元,用于获取视频源设备的视频数据中的目标图片信息,所述目标图片信息包括目标图片、目标图片的采集时间以及目标图片的属性信息;
存储单元,用于将所述目标图片信息保存至图片信息库。
可选地,所述获取单元,具体用于接收所述视频源设备发送目标图片信息。
可选地,所述获取单元,具体用于接收所述视频源设备发送的目标图片及目标图片的采集时间;对所述目标图片进行建模,并提取所述目标图片的属性信息。
可选地,所述获取单元,具体用于接收所述视频源设备发送的目标图片信息、目标图片的采集时间以及目标图片的第一属性信息;对所述目标图片进行建模,并提取所述目标图片的第二属性信息;根据所述目标图片的第一特征信息和所述目标图片的第二属性信息确定所述目标图片的属性信息。
可选地,所述获取单元,具体用于对所述视频源设备提供的视频数据进行目标检测,以得到所述视频数据中的目标图片及目标图片的采集时间;对所述目标图片进行建模,并提取所述目标图片的属性信息。
可选地,所述保存单元,具体用于对于任一视频数据通道的任一目标图片信息,判断所述图片信息库中是否保存有与该目标图片信息包含同一目标的其它目标图片信息;其中,该其它目标图片信息与该目标图片信息来自同一视频数据通道,且该其它目标图片信息包括的采集时间与该目标图片信息中包括的采集时间的差值小于预设时间阈值;
当所述图片信息库中未保存有与该目标图片信息包含同一目标的其它目标图片信息时,将该目标图片信息保存至所述图片信息库;
当所述图片信息库中保存有与该目标图片信息包含同一目标的其它目标图片信息时,拒绝将该目标图片信息保存至所述图片信息库。
可选地,所述待搜索目标的特征信息包括待搜索目标图片;
所述搜索单元,具体用于对所述待搜索目标图片进行建模,并提取所述待搜索目标图片的属性信息;根据所述待搜索目标的属性信息在所述图片信息库中搜索匹配的第一目标图片信息。
可选地,所述待搜索目标的特征信息包括待搜索目标图片和待搜索目标图片的第一属性信息;
所述搜索单元,具体用于对所述待搜索目标图片进行建模,并提取所述待搜索目标图片的第二属性信息;根据所述待搜索目标图片的第一属性信息和所述待搜索目标图片的第二属性信息,确定所述待搜索目标图片的属性信息;根据所述待搜索目标图片的属性信息在所述图片信息库中搜索匹配的第一目标图片信息。
可选地,所述目标搜索请求中还携带有搜索时间段范围;
所述搜索单元,具体用于根据所述搜索时间段范围对所述图片信息库中的目标图片信息进行筛选,以得到采集时间在所述搜索时间段范围内的目标图片信息;
根据所述待搜索目标的特征信息从所述采集时间在所述搜索时间段范围内的目标图片信息中搜索匹配的第一目标图片信息。
可选地,所述目标搜索请求中还携带有搜索通道号,所述目标图片信息还包括有目标图片的通道号;
所述搜索单元,具体用于根据所述搜索通道号对所述图片信息库中的目标图片信息进行筛选,以得到通道号与所述搜索通道号一致的目标图片信息;
根据所述待搜索目标的特征信息从所述通道号与所述搜索通道号一致的目标图片信息中搜索匹配的第一目标图片信息。
可选地,所述处理单元,具体用于根据按采集时间从早到晚的顺序排序后的所述第一目标图片,生成视频摘要。
可选地,所述处理单元,具体用于对于任一第一目标图片信息,确定该第一目标图片信息对应的目标录像片段;其中,该目标录像片段为该第一目标图片的采集时间之前的第n秒以及该第一目标图片的采集时间之后的第m秒之间的录像数据;根据各目标录像片段生成视频摘要。
可选地,所述处理单元,具体用于当存在采集时间相同的多条第一目标图片信息时,对于该多条第一目标图片信息中的任一第一目标图片信息,确定该第一目标图片信息对应的录像片段的起始时间点和结束时间点;其中,该起始时间点为该第一目标图片的采集时间之前的第n秒,该结束时间点为该第一目标图片的采集时间之后的第m秒;搜索该第一目标图片所属的视频数据通道的录像数据中是否存在该起始时间点的I帧,以及是否存在该结束时间的I帧;若均存在,则丢弃该多条第一目标图片信息中的其余第一目标图片信息,并将该第一目标图片信息对应的录像片段确定为目标录像片段。
可选地,所述处理单元,还用于若不存在该起始时间点的I帧,则将该第一目标图片对应的录像片段的起始时间点增加1秒,并重复上述搜索步骤,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该起始时间点的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同;若不存在该结束时间点的I帧,则将该第一目标图片对应的录像片段的结束时间点减少1秒,并重复上述搜索步骤,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该结束时间点的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同;确定该多条第一目标图片信息中对应的录像片段的时长最长的第一目标图片信息,将该第一目标图片信息对应的录像片段确定为目标录像片段,并丢弃该多条第一目标图片信息中的其余第一目标图片信息。
可选地,所述处理单元,具体用于根据各目标录像片段的起始时间点和结束时间点对目标录像片段进行过滤,以去除重复时间的录像数据;根据过滤后的目标录像片段生成视频摘要。
可选地,所述处理单元,具体用于按照各目标录像片段的起始时间点对各目标录像片段进行排序;
对于相邻的第一目标录像片段和第二目标录像片段,当所述第一目标录像片段的结束时间点大于等于所述第二目标录像片段的起始时间点时,
若所述第一目标录像片段和所述第二目标录像片段属于同一视频数据通道,则将所述第一目标录像片段和所述第二目标录像片段合并,合并后的录像片段的起始时间点为所述第一目标录像片段的起始时间点,结束时间点为所述第二目标录像片段的结束时间点;
若所述第一目标录像片段和所述第二目标录像片段属于不同视频数据通道,则以所述第一目标录像片段的结束时间点作为所述第二目标录像片段的起始时间点,或,以所述第二目标片段的起始时间点作为所述第一目标录像片段的结束时间点;
其中,所述第一目标录像片段的起始时间点小于所述第二目标录像片段的起始时间点。
根据本申请实施例的第三方面,提供一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述视频摘要生成方法步骤。
根据本申请实施例的第四方面,提供一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述视频摘要生成步骤。
本申请实施例的视频摘要生成方法,通过接收目标搜索请求,搜索与该目标搜索请求中携带的待搜索目标的特征信息匹配的第一目标图片信息,并根据各第一目标图片信息生成待搜索目标的视频摘要,提高了在视频录像中定位目标的效率和准确性,在去除与待搜索目标不匹配的视频录像的基础上,保证了目标视频跟踪的连贯性。
附图说明
图1是本申请一示例性实施例示出的一种视频摘要生成***的架构示意图;
图2是本申请一示例性实施例示出的一种视频摘要生成方法的流程示意图;
图3是本申请一示例性实施例示出的图片信息库生成的流程示意图;
图4是本申请一示例性实施例示出的一种重复图片过滤的流程示意图;
图5是本申请一示例性实施例示出的一种视频摘要生成装置的结构示意图;
图6是本申请又一示例性实施例示出的一种视频摘要生成装置的结构示意图;
图7是本申请一示例性实施例示出的一种电子设备的硬件结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。
为了使本领域技术人员更好地理解本申请实施例提供的技术方案,下面先对本申请实施例适用的***架构进行简单说明。
请参见图1,为本申请实施例提供的一种视频摘要生成***的架构示意图,如图1所示,该视频摘要生成***可以包括视频源设备以及搜索设备;其中:
视频源设备可以提供视频数据;其中,该视频数据可以包括实时视频数据或视频录像数据(本文中简称为录像数据)。
搜索设备可以接收目标搜索请求,并根据目标搜索请求中携带的待搜索目标的特征信息,搜索视频源设备的视频数据中存在的与待搜索目标的特征信息匹配的目标图片(本文中称为第一目标图片),并根据搜索到的第一目标图片,生成待搜索目标的视频摘要。
需要说明的是,在本申请实施例中,视频源设备可以为前端视频采集设备(如IPC(Internet Protocol Camera,网络摄像机))或视频录像存储设备(如NVR(Network VideoRecorder,网络硬盘录像机));搜索设备可以为NVR(具有目标搜索功能)或视频监控***中部署的专用于进行目标搜索的设备。
其中,当视频源设备为NVR时,视频源设备和搜索设备可以为同一设备。
此外,一个视频源设备可以为多个搜索设备提供视频数据,一个搜索设备也可以从多个视频源设备中获取视频数据(图中以一对一为例)。
其中,当视频源设备为IPC时,一个视频源设备可以对应一个视频数据通道;当视频源设备为NVR等视频录像存储设备时,一个视频源设备可以提供多个视频数据通道的视频数据(录像数据)。
为例使本申请实施例的上述目的、特征和优点能够更加明显易懂,下面结合附图对本申请实施例中技术方案作进一步详细的说明。
请参见图2,为本申请实施例提供的一种视频摘要生成方法的流程示意图,其中,该视频摘要生成方法可以应用于搜索设备(以NVR为例),如图2所示,该视频摘要生成方法可以包括以下步骤:
步骤S200、接收目标搜索请求,该目标搜索请求中携带有待搜索目标的特征信息。
本申请实施例中,目标可以包括但不限于人脸、车辆或车牌等。
其中,当待搜索目标为人脸时,待搜索目标的特征信息可以包括但不限于人脸图片、人脸的结构化信息(如是否微笑、是否戴眼镜、性别、年龄段等)等中的一个或多个;
当待搜索目标为车辆时,待搜索目标的特征信息可以但不限于车辆图片、车辆的特征信息(如颜色、类型、车标、品牌等)等中的一个或多个;
当待搜索目标为车牌时,待搜索目标的特征信息可以包括但不限于车牌图片、车牌的特征信息(如颜色、位置、车牌号等)等中的一个或多个。
步骤S210、搜索与待搜索目标的特征信息匹配的第一目标图片信息,该第一目标图片信息包括第一目标图片和第一目标图片的采集时间。
本申请实施例中,搜索设备接收到目标搜索请求时,可以根据待搜索目标的特征信息,搜索视频源设备的视频数据中存在的与该待搜索目标的特征信息匹配的第一目标图片,并将该第一目标图片以及该第一目标图片的采集时间作为与该待搜索目标的特征信息匹配的第一目标图片信息。
本申请实施例中,搜索设备搜索与待搜索目标的特征信息匹配的第一目标图片时,搜索结果可以为一张或多张第一目标图片,或者,搜索结果可以为空。
其中,当搜索结果为空时,即未搜索到与待搜索目标的特征信息匹配的第一目标图片时,搜索设备可以确定目标搜索失败,返回搜索失败响应消息。
本申请实施例中,目标图片的采集时间为前端视频采集设备采集(如抓拍)到该目标图片或该目标图片在前端视频采集设备采集到的视频图像中出现的时间。
需要说明的是,在本申请实施例中,目标图片的采集时间可以携带在目标图片中(例如,将目标图片的采集时间显示在目标图片中的特定位置(如左下角或右下角等)),或者,目标图片的采集时间可以独立于目标图片之外,其具体实现在此不做赘述。
步骤S220、根据第一目标图片信息生成视频摘要。
本申请实施例中,搜索设备确定了与待搜索目标的特征信息匹配的第一目标图片信息之后,可以根据该第一目标图片信息生成待搜索目标的视频摘要。
在本申请其中一个实施例中,上述根据第一目标图片信息生成视频摘要,包括:
根据按采集时间从早到晚的顺序排序后的第一目标图片,生成视频摘要。
在该实施例中,搜索设备可以直接根据按采集时间从早到晚的顺序排序后的第一目标图片,生成视频摘要。
例如,当搜索设备搜索到的第一目标图片的数量超过预设数量阈值(可以根据实际需求设定,如200张、500张等),且按采集时间从早到晚的顺序排序后相邻的第一目标图片的采集时间的差值不超过预设时间阈值(可以根据实际需求设定,如1秒、2秒等)时,搜索设备可以直接根据按采集时间从早到晚的顺序排序后的第一目标图片,生成视频摘要。
在本申请另一个实施例中,上述根据所述第一目标图片信息生成视频摘要,包括:
对于任一第一目标图片信息,确定该第一目标图片信息对应的目标录像片段;其中,该目标录像为该第一目标图片的采集时间之前的第n秒以及该第一目标图片的采集时间之后的第m秒之后的录像数据;
根据各目标录像片段生成视频摘要。
本申请实施例中,当搜索设备搜索到与待搜索目标的特征信息匹配的第一目标图片信息时,对于任一第一目标图片信息,搜索设备可以将该第一目标图片的采集时间之前的第n秒以及该第一目标图片的记录之间之后的第m秒之间的录像数据确定为第一目标图片对应的目标录像片段,以得到与待搜索目标的特征信息相匹配的视频录像。
其中,第一目标图片的采集时间为该第一目标图片在提取到该第一目标图片的视频数据中出现的时间(即视频采集设备采集到该第一目标图片的时间)。
本申请实施例中,第一目标图片信息对应的目标录像片段的起始时间点(第一目标图片的采集时间之前的第n秒)以及结束时间点(第一目标图片的采集时间之后的第m秒)可以预先配置在搜索设备中,也可以携带在目标搜索请求中(可以由用户根据实际设置或采用默认值)。
其中,n和m为非负数。
需要说明的是,当视频源设备为搜索设备提供的视频数据包括多个视频数据通道的视频数据时,搜索设备在确定第一目标图片信息对应的目标录像片段时,可以先确定第一目标图片所属的视频数据通道,并在该视频数据通道的录像数据中确定第一目标图片信息对应的目标录像片段,即将该视频数据通道的录像数据中,该第一目标图片的采集时间之前的第n秒以及之后的第m秒之前的录像数据确定为第一目标图片对应的目标录像片段。
相应地,在该情况下,第一目标图片信息还可以包括第一目标图片的通道号(即第一目标图片所属视频数据通道的通道号)。
在该实施例中,搜索设备确定了与待搜索目标的特征信息匹配的各第一目标图片信息对应的目标录像片段之后,搜索设备可以对各目标录像片段进行融合,即根据各目标录像片段的起始时间或/和结束时间对各目标录像片段进行排序和拼接,以生成待搜索目标的视频摘要。
可见,在该实施例中,通过搜索与目标搜索请求中携带的待搜索目标的特征信息匹配的第一目标图片信息,并将各第一目标图片的采集时间之前的第n秒以及之后第m秒之间的录像数据确定为第一目标图片信息对应的目标录像片段,进而,通过对各目标录像片段进行融合,得到待搜索目标的视频摘要,提高了在视频录像中定位目标的效率和准确性,在去除与待搜索目标不匹配的视频录像的基础上,保证了目标视频跟踪的连贯性。
进一步地,在本申请实施例中,考虑到若每次进行目标搜索,均从视频源设备提供的视频数据中提取匹配的第一目标图片,目标搜索的效率过低,因此,为了提高目标搜索的效率,可以预先从视频源设备提供的视频数据中提取出目标图片信息,并将目标图片信息保存至图片信息库,当需要进行目标搜索时,直接从图片信息库中搜索匹配的第一目标图片信息。
相应地,在本申请其中一个实施例中,搜索与待搜索目标的特征信息匹配的第一目标图片信息之前,还可以包括:
获取视频源设备的视频数据中的目标图片信息,该目标图片信息包括目标图片、目标图片的采集时间以及目标图片的属性信息;
将获取到的目标图片信息保存至图片信息库。
在该实施例中,搜索设备可以预先获取视频源设备的视频数据中的目标图片信息,并将获取到的目标图片信息保存至图片信息库,进而,当需要进行目标搜索时,可以直接根据待搜索目标的特征信息从图片信息库中搜索匹配的第一目标图片信息,以提高目标搜索效率。
其中,目标图片信息可以包括但不限于目标图片、目标图片的特征信息以及目标图片的采集时间等。
图片信息库可以为搜索设备中的指定存储空间,也可以为第三方数据库。
在本申请其中一个实施例中,上述获取视频源设备的视频数据中的目标图片信息,可以包括:
接收视频源设备发送的目标图片信息。
在该实施例中,当视频源设备具有目标图片获取功能(如目标图片抓拍功能或目标检测功能)以及目标图片分析功能时,视频源设备可以直接获取目标图片、目标图片的采集时间以及目标图片的属性信息等目标图片信息,并将目标图片信息发送给搜索设备。
搜索设备可以接收视频源设备发送的目标图片信息。
例如,假设视频源设备为具有目标图片抓拍功能及目标图片分析功能的IPC,则视频源设备可以抓拍目标图片(并记录目标图片抓拍时间(即采集时间)),并对所抓拍的目标图片进行目标图片分析,以提取目标图片的属性信息,进而,视频源设备可以将目标图片、目标图片的采集时间以及目标图片的属性信息等目标图片信息发送给搜索设备,如NVR,由搜索设备存储所接收到的目标图片、目标图片的采集时间以及目标图片的属性信息等目标图片信息。
在本申请另一个实施例中,上述获取视频源设备的视频数据中的目标图片信息,可以包括:
接收到视频源设备发送的目标图片及目标图片的采集时间;
对目标图片进行建模,并提取目标图片的属性信息。
在该实施例中,当视频源设备具有目标图片获取功能(如目标图片抓拍功能或目标检测功能)时,视频源设备可以获取目标图片以及目标图片的采集时间,并将目标图片以及目标图片的采集时间发送给搜索设备。
搜索设备接收到视频源设备发送的目标图片以及目标图片的采集时间时,可以对目标图片进行建模,并提取目标图片的属性信息,进而,搜索设备可以获取到视频源设备的视频数据中的目标图片、目标图片的采集时间以及目标图片的属性信息。
例如,假设视频源设备为具有目标图片抓拍功能的IPC,则视频源设备可以抓拍目标图片(并记录目标图片抓拍时间(即采集时间)),并将抓拍的目标图片以及目标图片的采集时间发送给搜索设备,如NVR;搜索设备接收到目标图片时,可以对目标图片进行建模,并提取目标图片的属性信息,进而,搜索设备可以存储目标图片、目标图片的采集时间以及目标图片的属性信息。
在本申请又一个实施例中,上述获取视频源设备的视频数据中的目标图片信息,可以包括:
接收视频源设备发送的目标图片信息、目标图片的采集时间以及目标图片的第一属性信息;
对目标图片进行建模,并提取目标图片的第二属性信息;
根据目标图片的第一属性信息和目标图片的第二属性信息确定目标图片的属性信息。
在该实施例中,当视频源设备具有目标图片获取功能(如目标图片抓拍功能或目标检测功能)以及目标图片分析功能时,视频源设备可以直接获取目标图片、目标图片的采集时间以及目标图片的属性信息(本文中称为目标图片的第一属性信息),并将目标图片、目标图片的采集时间以及目标图片的第一属性信息发送给搜索设备。
搜索设备接收到视频源设备发送的目标图片时,可以对所接收到的目标图片进行建模,并提取目标图片的属性信息(本文中称为目标图片的第二属性信息)。
对于任一目标图片,搜索设备可以比较目标图片的第一属性信息和目标图片的第二属性信息,对于第一属性信息中存在,但第二属性信息中不存在的属性信息,或第一属性信息中不存在,但第二属性信息中存在的属性信息,加入到该目标图片的属性信息;对于第一属性信息和第二属性信息中均存在的属性信息,将第二属性信息中的属性信息加入到该目标图片的属性信息,进而,得到该目标图片的属性信息。
需要说明的是,在该实施例中,搜索设备也可以直接将目标图片的第二属性信息作为目标图片的属性信息。
在本申请的又一实施例中,上述获取视频源设备的视频数据中的目标图片、目标图片的采集时间以及目标图片的属性信息,可以包括:
对视频源设备提供的视频数据进行目标检测,以得到视频数据中的目标图片及目标图片的采集时间;
对目标图片进行建模,并提取目标图片的属性信息。
在该实施例中,当视频源设备不具备目标图片获取功能,或视频源设备与搜索设备为同一设备(如NVR)时,搜索设备可以直接对视频源设备提供的视频数据进行目标检测,以得到视频数据中的目标图片及目标图片的采集时间;搜索设备得到视频数据中的目标图片之后,可以进一步地对目标图片进行建模,并提取目标图片的属性信息。
例如,假设视频源设备为不具有目标图片抓拍功能的IPC,视频源设备可以将获取到的视频数据发送给搜索设备,如NVR;搜索设备接收到视频源设备发送的视频数据时,可以对所接收到的视频数据进行目标检测,以得到视频数据中的目标图片及目标图片的采集时间(目标图片在视频数据中出现的时间),并对目标图片进行建模,提取目标图片的属性信息,进而,搜索设备可以存储目标图片、目标图片的采集时间以及目标图片的属性信息。
本申请实施例中,搜索设备获取到视频源设备的视频数据中的目标图片、目标图片的采集时间以及目标图片的属性信息之后,可以存储所获取到的目标图片、目标图片的采集时间以及目标图片的属性信息。
进一步地,在本申请实施例中,为了减少冗余图片信息存储,对于同一场景的视频数据中检测出的包括同一目标的多条目标图片信息,若该多条目标图片信息中的目标图片的采集时间相差较小,则可以仅将其中一条目标图片信息保存至图片信息库。
相应地,在本申请其中一个实施例中,上述将目标图片信息保存至图片信息库,可以包括:
对于任一视频数据通道的任一目标图片信息,判断图片信息库中是否保存有与该目标图片信息包含同一目标的其它目标图片;其中,该其它目标图片信息与该目标图片信息来自同一视频数据通道,且该其它目标图片信息包括的采集时间与该目标图片信息中包括的采集时间的差值小于预设时间阈值;
当图片信息库中未保存有与该目标图片信息包含同一目标的其它目标图片信息时,将该目标图片信息保存至图片信息库。
在该实施例中,考虑到一个视频数据通道中的视频数据(如一个IPC获取到的视频数据)通常为一个固定场景中的视频数据。
因此,对于任一视频数据通道的任一目标图片信息(包括搜索设备对视频源设备提供的视频数据进行目标检测得到,或,搜索设备接收到视频源设备发送的),搜索设备在将该目标图片信息保存至图片信息库之前,可以判断图片信息库中是否保存有满足以下条件的其它目标图片:
i)、与目标图片包括同一目标;
ii)、来自同一视频数据通道;
iii)、包括的采集时间与目标图片信息中包括的采集时间的差值小于预设阈值。
当搜索设备确定图片信息库中不存在满足上述条件的其它目标图片信息时,搜索设备可以将该目标图片信息保存至图片信息库;当搜索设备确定图片信息库中存在满足上述条件的其它目标图片信息时,拒绝将该目标图片信息保存至图片信息库,如直接丢弃该目标图片信息,以减少冗余图片存储,进而,可以减少在图片信息库中进行第一目标图片信息搜索的工作量,并提高搜索效率。
本申请实施例中,上述待搜索目标的特征信息可以包括待搜索目标图片和/或待搜索目标图片的属性信息。
在本申请其中一个实施例中,上述待搜索目标的特征信息包括待搜索目标图片;
相应地,上述搜索与待搜索目标的特征信息匹配的第一目标图片信息,包括:
对待搜索目标图片进行建模,并提取待搜索目标图片的属性信息;
根据待搜索目标的属性信息在图片信息库中搜索匹配的第一目标图片信息。
在该实施例中,搜索设备可以提供目标搜索功能,根据接收到的目标搜索请求中携带的待搜索目标图片,按照以图搜图的方式,搜索匹配的目标图片信息。
例如,搜索设备可以提供目标搜索请求界面,该目标搜索请求界面中可以包括待搜索目标图片输入或/和选择区域,由用户在该目标搜索请求界面中输入或/和选择待搜索目标图片,并提交目标搜索请求。
搜索设备接收到目标搜索请求时,对待搜索目标图片进行建模,并提取待搜索目标图片的属性信息,进而,搜索设备可以根据待搜索目标图片的属性信息查询所存储的目标图片信息,并将与待搜索目标图片的属性信息匹配的目标图片的属性信息对应的目标图片信息,确定为与该待搜索目标图片的属性信息匹配的目标图片信息(本文中称为第一目标图片信息)。
举例来说,假设目标为人脸,待搜索目标的特征信息为人脸图片,则搜索设备接收到目标搜索请求时,可以按照以图搜图的方式搜索匹配的第一目标人脸图片,即对目标搜索请求中携带的人脸图片进行建模,以得到该人脸图片的特征模型,进而,将视频源设备的视频数据中与该人脸图片的特征模型的相似度大于等于预设相似度阈值的人脸图片确定为第一目标人脸图片,并将该第一目标人脸图片和第一目标人脸图片的采集时间作为第一目标人脸图片信息。
其中,该相似度阈值可以预先配置在搜索设备中,也可以携带在目标搜索请求中(可以由用户根据实际设置或采用默认值)。
在本申请其中一个实施例中,上述待搜索目标的特征信息包括待搜索目标图片和待搜索目标图片的第一属性信息;
相应地,上述搜索与待搜索目标的特征信息匹配的第一目标图片信息,包括:
对待搜索目标图片进行建模,并提取待搜索目标图片的第二属性信息;
根据待搜索目标图片的第一属性信息和待搜索目标图片的第二属性信息,确定待搜索目标图片的属性信息;
根据待搜索目标图片的属性信息在图片信息库中搜索匹配的第一目标图片信息。
在该实施例中,当目标搜索过滤条件包括待搜索目标图片和待搜索目标图片的第一属性信息时,搜索设备可以对待搜索目标图片进行建模,并提取待搜索目标图片的属性信息(本文中称为待搜索目标图片的第二属性信息)。
搜索设备得到待搜索目标图片的第二属性信息之后,可以根据待搜索目标图片的第一属性信息和待搜索目标图片的第二属性信息,确定待搜索目标图片的属性信息。
例如,搜索设备可以比较待搜索目标图片的第一属性信息和待搜索目标图片的第二属性信息,对于第一属性信息中存在,但第二属性信息中不存在的属性信息,或第一属性信息中不存在,但第二属性信息中存在的属性信息,加入到该待搜索目标图片的属性信息;对于第一属性信息和第二属性信息中均存在的属性信息,将第二属性信息中的属性信息加入到该待搜索目标图片的属性信息,进而,得到该待搜索目标图片的属性信息。
搜索设备得到待搜索目标图片的属性信息时,可以根据待搜索目标图片的属性信息查询图片信息库中的目标图片信息,并将与待搜索目标图片的属性信息匹配的目标图片的属性信息对应的目标图片信息,确定为与该目标搜索过滤条件匹配的第一目标图片信息。
需要说明的是,在本申请实施例中,待搜索目标的特征信息也可以为待搜索目标图片的属性信息,搜索设备接收到目标搜索请求时,可以直接根据其中携带的待搜索目标图片的属性信息在图片信息库中搜索匹配的目标图片信息(即第一目标图片信息)。
进一步地,在本申请实施例中,为了进一步提高第一目标图片信息的搜索效率,进行目标搜索时,还可以携带特定的过滤属性,以指示搜索设备先根据该特定的过滤属性对图片信息库中的目标图片信息进行过滤后,再进一步进行第一目标图片信息搜索。
其中,该特定的过滤属性可以包括但不限于搜索时间段范围或/和搜索通道号等。
相应地,在本申请其中一个实施例中,目标搜索请求中还携带有搜索时间段范围;
上述搜索与待搜索目标的特征信息匹配的第一目标图片信息,可以包括:
根据搜索时间段范围对图片信息库中的目标图片信息进行筛选,以得到采集时间在搜索时间段范围内的目标图片信息;
根据待搜索目标的特征信息从采集时间在搜索时间段范围内的目标图片信息中搜索匹配的第一目标图片信息。
在该实施例中,当搜索设备接收到目标搜索请求时,搜索设备可以先根据目标搜索请求中携带的搜索时间段范围对图片信息库中的目标图片信息进行筛选,以得到采集时间在搜索时间段范围内的目标图片信息。
例如,假设搜索时间段范围为[t1,t2](t2>t1),则该搜索时间段段范围内的目标图片信息是指采集时间t满足t1≤t≤t2的目标图片信息。
在该实施例中,搜索设备得到了采集时间在搜索时间段范围内的目标图片信息时,可以根据待搜索目标特征信息从采集时间在搜索时间段范围内的目标图片信息中搜索匹配的第一目标图片信息。
在本申请另一个实施例中,目标搜索请求中还携带有搜索通道号,目标图片信息还包括有目标图片的通道号(即目标图片所属视频数据通道的通道号);
上述搜索与待搜索目标的特征信息匹配的第一目标图片信息,包括:
根据搜索通道号对图片信息库中的目标图片信息进行筛选,以得到通道号与搜索通道号一致的目标图片信息;
根据待搜索目标的特征信息从通道号与搜索通道号一致的目标图片信息中搜索匹配的第一目标图片信息。
在该实施例中,搜索设备在搜索第一目标图片信息之前,可以先根据搜索通道号以及图片信息库中各目标图片的通道号信息对图片信息库中的目标图片信息进行过滤,以得到通道号与搜索通道号一致的目标图片信息,进而,在该通道号与搜索通道号一致的目标图片信息中搜索第一目标图片信息。
进一步地,在本申请实施例中,考虑到当存在多个视频数据通道的视频数据,且多个视频数据通道覆盖的场景存在重叠(如多个IPC的监控视角范围内存在区域重叠)时,可能会出现同一时间点在多个视频数据通道的视频数据中出现同一目标的情况,此时,为了避免视频摘要中出现相似度过高的视频数据,可以对第一目标图片信息进行去重复处理。
相应地,在本申请其中一个实施例中,上述对于任一第一目标图片信息,确定该第一目标图片信息对应的目标录像片段,可以包括:
当存在采集时间相同的多条第一目标图片信息时,对于该多条第一目标图片信息中的任一第一目标图片信息,确定该第一目标图片信息对应的录像片段的起始时间点和结束时间点;其中,该起始时间点为该第一目标图片的采集时间之前的第n秒,该结束时间点为该第一目标图片的采集时间之后的第m秒;
搜索该第一目标图片所属的视频数据通道的录像数据中是否存在该起始时间点的I帧,以及是否存在该结束时间的I帧;
若均存在,则丢弃该多条第一目标图片信息中的其余第一目标图片信息,并将该第一目标图片信息对应的录像片段确定为目标录像片段。
在该实施例中,当存在采集时间相同的多条第一目标图片信息时,搜索设备可以按照预设策略确定该多条第一目标图片信息中的各第一目标图片对应的录像片段的起始时间点和结束时间点。
其中,对于该多条第一目标图片信息中的任一第一目标图片信息,该第一目标图片信息对应的录像片段的起始时间点为该第一目标图片的采集时间之前的第n秒,结束时间点为该第一目标图片的采集时间之后的第m秒。
搜索设备确定了起始时间点和结束时间点之后,可以搜索该第一目标图片所属的视频数据通道的录像数据中是否存在该起始时间点的I帧(即该视频数据通道中是否存在该起始时间点的录像数据),以及是否存在该结束时间点的I帧(即该视频数据通道中是否存在该结束时间点的录像数据)。
若均存在,则搜索设备可以直接将该第一目标图片信息对应的录像片段确定为目标录像片段,并丢弃该多条第一目标图片信息中的其余第一目标图片信息。
进一步地,在该实施例中,当该多条第一目标图片信息均不存在起始时间点(该第一图片信息的采集时间之前的第n秒)的I帧或/和结束时间点(该第一图片信息的采集时间之后的第m秒)的I帧时,对于该多个第一目标图片中的任一第一目标图片,若该第一目标图片所属的视频数据通道的录像数据中不存在该起始时间点的I帧,则搜索设备可以将第一目标图片对应的录像片段的起始时间点增加1秒,并搜索是否存在该起始时间点的I帧,若不存在,则再次将该第一目标图片对应的录像片段的起始时间点增加1秒,并搜索是否存在该起始时间点的I帧,重复该操作,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该起始时间点(更新后的起始时间点)的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同。
同理,若该第一目标图片所属的视频数据通道的录像数据中不存在该结束时间点的I帧,则搜索设备可以将第一目标图片对应的录像片段的结束时间点减少1秒,并搜索是否存在该结束时间点的I帧,若不存在,则再次将该第一目标图片对应的录像片段的结束时间点减少1秒,并搜索是否存在该结束时间点的I帧,重复该操作,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该结束时间点(更新后的结束时间点)的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同。
搜索设备按照上述方式确定了该多个第一目标图片对应的录像片段的起始时间点与结束时间点之后,可以确定该多条第一目标图片信息中对应的录像片段的时长最长(结束时间点与起始时间点的差值最大)的第一目标图片信息,将该第一目标图片信息对应的录像片段确定为目标录像片段,并丢弃该多条第一目标图片信息中的其余第一目标图片信息。
需要说明的是,在该实施例中,当该多条第一目标图片信息中对应的录像片段的时长最长的第一目标图片信息的数量大于1时,按照预设策略从其中选择一个第一目标图片信息,并将所选择的第一目标图片信息对应的录像片段确定为目标录像片段。
例如,可以选择起始时间点最早的第一目标图片信息、选择结束时间最晚的第一目标图片信息或随机选择。
此外,在本申请实施例中,当存在采集时间相同的多个第一目标图片信息,也可以通过手动的方式实现该多个第一目标图片信息的去重复处理。
例如,搜索设备可以将该多个第一目标图片信息展示在指定界面中,由用户选择需要保留的第一目标图片信息,并将其余采集时间相同的第一目标图片信息丢弃。
进一步地,在本申请实施例中,考虑到当存在多个第一目标图片时,各第一目标图片对应的目标录像片段的时间段可能会存在重叠,进而影响视频摘要的正常播放,因此,为了优化视频摘要的播放效果,可以对各目标录像片段进行去重复时间处理。
相应地,在本申请其中一个实施例中,上述根据各目标录像片段生成视频摘要,可以包括:
根据各目标录像片段的起始时间点和结束时间点对目标录像片段进行过滤,以去除重复时间的录像数据;
根据过滤后的目标录像片段生成视频摘要。
在该实施例中,搜索设备确定了各第一目标图片对应的目标录像片段之后,可以根据各目标录像片段的起始时间点和结束时间点对目标录像片段进行过滤,以去除重复时间的录像数据。
在一个示例中,上述根据各目标录像片段的起始时间点和结束时间点对目标录像片段进行过滤,包括:
按照各目标录像片段的起始时间点对各目标录像片段进行排序;
对于相邻的第一目标录像片段和第二目标录像片段,当第一目标录像片段的结束时间点大于等于第二目标录像片段的起始时间点时,
若第一目标录像片段和第二目标录像片段属于同一视频数据通道,则将第一目标录像片段和第二目标录像片段合并,合并后的录像片段的起始时间点为第一目标录像片段的起始时间点,结束时间点为第二目标录像片段的结束时间点;
若第一目标录像片段和第二目标录像片段属于不同视频数据通道,则以第一目标录像片段的结束时间点作为第二目标录像片段的起始时间点,或,以第二目标片段的起始时间点作为第一目标录像片段的结束时间点。
具体地,在该示例中,搜索设备可以按照各目标录像片段的起始时间点对各目标录像片段进行排序。
例如,搜索设备可以根据各目标录像片段的起始时间点,利用冒泡排序方式,将各目标录像片段进行排序。
对于相邻的两个目标录像片段(本文中称为第一目标录像片段和第二目标录像片段,第一目标录像片段的起始时间点小于第二目标录像片段的起始时间点),当第一目标录像片段的结束时间点大于等于第二目标录像片段的起始时间点时,
若第一目标录像片段和第二目标录像片段属于同一视频数据通道,则搜索设备可以将第一目标录像片段和第二目标录像片段合并;其中,合并后的录像片段的起始时间点为第一目标录像片段的起始时间点,结束时间为第二目标录像片段的结束时间点。
若第一目标录像片段和所述第二目标录像片段属于不同视频数据通道,则搜索设备可以以第一目标录像片段的结束时间点作为第二目标录像片段的起始时间点,或,搜索设备可以以第二目标片段的起始时间点作为第一目标录像片段的结束时间点,其具体实现将在下文中结合具体实例进行说明。
为了使本领域技术人员更好地理解本申请实施例提供的技术方案,下面结合具体实例对本申请实施例提供的技术方案进行说明。
在该实施例中,以搜索设备为NVR,视频源设备为IPC,目标为人脸,目标搜索为人脸图片搜索为例,视频摘要生成方案的具体实现流程如下:
1、人脸识别和图片存储
1)、若NVR接入普通IPC,NVR可以利用通过GPU(Graphics Processing Unit,图形处理单元)结构化视频分析技术对IPC传输的实时视频流进行人脸识别,以得到实时视频流中的人脸图片信息;
若NVR接入专业人脸抓拍IPC,则NVR可以从IPC端接收人脸图片信息;
其中,人脸图片信息可以包括但不限于人脸图片、人脸图片的结构化信息、人脸图片的采集时间、人脸图片的通道号以及人脸图片的通道名称(用于记录地址信息)等。
2)、NVR为IPC和NVR之间的每个视频数据通道(简称通道)维护一个缓冲区,用于存放3秒内收到的人脸图片信息;
其中,当人脸图片信息在该缓冲区中存放的时间达到3秒时,NVR将该人脸图片从该缓冲区中删除。
3)、对于任一通道,当NVR从该通道中获取到新的人脸图片信息(包括直接从IPC中接收到的人脸图片信息或通过人脸检测得到的人脸图片信息),将该人脸图片信息与该通道对应的缓冲区中的人脸图片信息进行比对,若该缓冲区中存在同一人脸的人脸图片信息,则将该新获取到的人脸图片信息丢弃,或者,可以将该人脸图片信息加入到缓冲区,并保存至图片信息库。
需要说明的是,若NVR获取到新的人脸图片信息,且确定缓冲区中不存在同一人脸的人脸图片信息,但该缓冲区中不存在空闲空间,则NVR可以将该新获取到的人脸图片信息覆盖最早存入缓冲区中的人脸图片信息,并将该新获取到的人脸图片信息保存至图片信息库。
其中,NVR进行人脸识别和图片存储的流程示意图可以如图3所示。
2、录像融合参数配置
可配置的录像融合参数可以包括但不限于:
1)、通道选择:若选择单通道,代表单通道人脸图片信息搜索以及录像融合;若勾选指定的多个通道,代表多个通道的人脸图片信息搜索以及多通道录像融合;
2)、搜索时间段范围:代表要搜索匹配哪个时间段范围内的人脸图片信息;
3)、相似度阈值:如阈值为90%,代表相似度结果为90%及以上才认为人脸图片匹配成功;
4)、录像融合时间段:即人脸图片的采集时间前n秒以及后m秒的范围参数,如配置前2(即n=2)秒、后3(即m=3)秒,代表需要截取该人脸图片的采集时间之前2秒以及该人脸图片的采集时间之后3s的时间范围内的录像片段;
5)、重复图片过滤模式:分为自动和手动两种模式,不同模式的处理方式在第3点中阐述。
3、重复图片过滤
1)、NVR接收人脸搜索请求,该人脸搜索请求中携带有目标人脸图片以及录像融合参数;
2)、以图搜图:NVR对目标人脸图片进行建模,对图片信息库中与人脸搜索请求中携带的通道号以及搜索时间段范围匹配的人脸图片信息进行搜索比对,计算相似度,列出与目标人脸图片相似度大于等于相似度阈值的人脸图片信息(下文中称为第一人脸图片信息),形成第一人脸图片信息列表;
3)、按各第一人脸图片信息中的采集时间从早到晚的顺序,对第一人脸图片信息列表中各第一人脸图片进行排序;
4)、若存在多个第一人脸图片信息中的采集时间一致(当多个IPC的视角范围有区域重叠时,可能会出现多个第一人脸图片的采集时间一致的情况),对该多个第一人脸图片信息进行重复图片过滤;
其中,对于该多个第一人脸图片信息中的任一第一人脸图片信息,将该第一人脸图片的采集时间减去n秒,得到该第一人脸图片信息对应的录像片段的起始时间点x,并将该第一人脸图片的采集时间加上m秒,得到该第一人脸图片信息对应的录像片段的结束时间点y;
NVR分别在该通道的视频录像中搜索x和y这两个时间点的I帧,若时间点x不存在I帧,或/和,时间点y不存在I帧,则令x=x+1,或/和,令y=y-1,并继续搜索时间点x或/和y这两个时间点的I帧,直至找到时间点x和时间点y的I帧,或,x=y。
其中,当x=y时,代表该第一人脸图片信息对应的录像片段的时长为1秒。
5)、重复图片过滤模式包括手动过滤模式或自动过滤模式,其中:
a)、手动过滤模式:在指定界面输出该多个第一人脸图片信息,由用户勾选确认要保留的第一人脸图片信息,其他相同采集时间的第一人脸图片信息丢弃;
b)、自动过滤模式:将该多个第一人脸图片信息中,对应的录像片段最长的第一人脸图片信息保留,其它相同采集时间的第一人脸图片信息丢弃;
其中,当该多个第一人脸图片信息中,对应的录像片段最长的第一人脸图片信息存在多条时,保留其中一条,其余丢弃。
6)、将重复图片过滤后的第一人脸图片信息形成最终的第一人脸图片信息列表。
其中,NVR生成最终的第一人脸图片信息列表的流程示意图可以如图4所示。
4、重复录像片段过滤
1)、基于最终的第一人脸图片信息列表,创建一个录像片段时间段元素集合,每一个元素包括如下信息:
第一人脸图片所属通道的通道号、第一人脸图片信息对应的录像片段的起始时间点(存在I帧的起始时间点)以及第一人脸图片信息对应的录像片段的结束时间点(存在I帧的结束时间点);
其中,各元素按照起始时间点从早到晚的顺序排序。
2)、重复录像片段过滤:
对于录像片段时间段元素集合相邻的两个元素(下文中分别称为第一元素和第二元素);
假设第一元素和第二元素的起始时间点和结束时间点分别为[A,B]和[C,D];其中,A<C;
a)、若第一元素和第二元素包括的通道号相同,且C≤B,则将第一元素和第二元素合并为1个元素,该元素的起始时间点为A,结束时间点为D;
b)、若第一元素和第二元素包括的通道号不同,且C≤B,则判断第二元素所属通道的视频录像中是否存在时间点B的I帧;
若存在,则将第二元素的起始时间点更新为B,即第一元素和第二元素的起始时间点和结束时间点分别为[A,B]和[B,D];
若不存在,则将第一元素的起始时间点更新为C,即第一元素和第二元素的起始时间点和结束时间点分别为[A,C]和[C,D]。
3)、遍历整个录像片段时间段元素集合,最终形成用于生成视频摘要的录像片段元素集合。
5、视频摘要生成
基于用于生成视频摘要的录像片段元素集合,从对应通道的视频录像中获取对应的录像数据,并根据所获取到的录像数据生成视频摘要。
其中,该视频摘要支持用户下载,且用户可以导出用于生成视频摘要的录像片段元素集合。
本申请实施例中,通过接收目标搜索请求,搜索与该目标搜索请求中携带的待搜索目标的特征信息匹配的第一目标图片信息,并根据各第一目标图片信息生成待搜索目标的视频摘要,提高了在视频录像中定位目标的效率和准确性,在去除与待搜索目标不匹配的视频录像的基础上,保证了目标视频跟踪的连贯性。
以上对本申请提供的方法进行了描述。下面对本申请提供的装置进行描述:
请参见图5,为本申请实施例提供的一种视频摘要生成装置的结构示意图,其中,该视频摘要生成装置可以应用于上述实施例中的搜索设备,如图5所示,该视频摘要生成装置可以包括:
接收单元510,用于接收目标搜索请求,所述目标搜索请求中携带有待搜索目标的特征信息;
搜索单元520,用于搜索与所述待搜索目标的特征信息匹配的第一目标图片信息;其中,所述第一目标图片信息包括第一目标图片和第一目标图片的采集时间;
处理单元530,用于根据所述第一目标图片信息生成视频摘要。
在一种可选的实施方式中,如图6所示,所述装置还包括:
获取单元540,用于获取视频源设备的视频数据中的目标图片信息,所述目标图片信息包括目标图片、目标图片的采集时间以及目标图片的属性信息;
保存单元550,用于将所述目标图片信息保存至图片信息库。
在一种可选的实施方式中,所述获取单元540,具体用于接收所述视频源设备发送目标图片信息。
在一种可选的实施方式中,所述获取单元540,具体用于接收所述视频源设备发送的目标图片及目标图片的采集时间;对所述目标图片进行建模,并提取所述目标图片的属性信息。
在一种可选的实施方式中,所述获取单元540,具体用于接收所述视频源设备发送的目标图片信息、目标图片的采集时间以及目标图片的第一属性信息;对所述目标图片进行建模,并提取所述目标图片的第二属性信息;根据所述目标图片的第一特征信息和所述目标图片的第二属性信息确定所述目标图片的属性信息。
在一种可选的实施方式中,所述获取单元540,具体用于对所述视频源设备提供的视频数据进行目标检测,以得到所述视频数据中的目标图片及目标图片的采集时间;对所述目标图片进行建模,并提取所述目标图片的属性信息。
在一种可选的实施方式中,所述保存单元550,具体用于对于任一视频数据通道的任一目标图片信息,判断所述图片信息库中是否保存有与该目标图片信息包含同一目标的其它目标图片信息;其中,该其它目标图片信息与该目标图片信息来自同一视频数据通道,且该其它目标图片信息包括的采集时间与该目标图片信息中包括的采集时间的差值小于预设时间阈值;
当所述图片信息库中未保存有与该目标图片信息包含同一目标的其它目标图片信息时,将该目标图片信息保存至所述图片信息库;
当所述图片信息库中保存有与该目标图片信息包含同一目标的其它目标图片信息时,拒绝将该目标图片信息保存至所述图片信息库。
在一种可选的实施方式中,所述待搜索目标的特征信息包括待搜索目标图片;
所述搜索单元520,具体用于对所述待搜索目标图片进行建模,并提取所述待搜索目标图片的属性信息;根据所述待搜索目标的属性信息在所述图片信息库中搜索匹配的第一目标图片信息。
在一种可选的实施方式中,所述待搜索目标的特征信息包括待搜索目标图片和待搜索目标图片的第一属性信息;
所述搜索单元520,具体用于对所述待搜索目标图片进行建模,并提取所述待搜索目标图片的第二属性信息;根据所述待搜索目标图片的第一属性信息和所述待搜索目标图片的第二属性信息,确定所述待搜索目标图片的属性信息;根据所述待搜索目标图片的属性信息在所述图片信息库中搜索匹配的第一目标图片信息。
在一种可选的实施方式中,所述目标搜索请求中还携带有搜索时间段范围;
所述搜索单元520,具体用于根据所述搜索时间段范围对所述图片信息库中的目标图片信息进行筛选,以得到采集时间在所述搜索时间段范围内的目标图片信息;
根据所述待搜索目标的特征信息从所述采集时间在所述搜索时间段范围内的目标图片信息中搜索匹配的第一目标图片信息。
在一种可选的实施方式中,所述目标搜索请求中还携带有搜索通道号,所述目标图片信息还包括有目标图片的通道号;
所述搜索单元520,具体用于根据所述搜索通道号对所述图片信息库中的目标图片信息进行筛选,以得到通道号与所述搜索通道号一致的目标图片信息;
根据所述待搜索目标的特征信息从所述通道号与所述搜索通道号一致的目标图片信息中搜索匹配的第一目标图片信息。
在一种可选的实施方式中,所述处理单元530,具体用于根据按采集时间从早到晚的顺序排序后的所述第一目标图片,生成视频摘要。
在一种可选的实施方式中,所述处理单元530,具体用于对于任一第一目标图片信息,确定该第一目标图片信息对应的目标录像片段;其中,该目标录像片段为该第一目标图片的采集时间之前的第n秒以及该第一目标图片的采集时间之后的第m秒之间的录像数据;根据各目标录像片段生成视频摘要。
在一种可选的实施方式中,所述处理单元530,具体用于当存在采集时间相同的多条第一目标图片信息时,对于该多条第一目标图片信息中的任一第一目标图片信息,确定该第一目标图片信息对应的录像片段的起始时间点和结束时间点;其中,该起始时间点为该第一目标图片的采集时间之前的第n秒,该结束时间点为该第一目标图片的采集时间之后的第m秒;搜索该第一目标图片所属的视频数据通道的录像数据中是否存在该起始时间点的I帧,以及是否存在该结束时间的I帧;若均存在,则丢弃该多条第一目标图片信息中的其余第一目标图片信息,并将该第一目标图片信息对应的录像片段确定为目标录像片段。
在一种可选的实施方式中,所述处理单元530,还用于若不存在该起始时间点的I帧,则将该第一目标图片对应的录像片段的起始时间点增加1秒,并重复上述搜索步骤,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该起始时间点的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同;若不存在该结束时间点的I帧,则将该第一目标图片对应的录像片段的结束时间点减少1秒,并重复上述搜索步骤,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该结束时间点的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同;确定该多条第一目标图片信息中对应的录像片段的时长最长的第一目标图片信息,将该第一目标图片信息对应的录像片段确定为目标录像片段,并丢弃该多条第一目标图片信息中的其余第一目标图片信息。
在一种可选的实施方式中,所述处理单元530,具体用于根据各目标录像片段的起始时间点和结束时间点对目标录像片段进行过滤,以去除重复时间的录像数据;根据过滤后的目标录像片段生成视频摘要。
在一种可选的实施方式中,所述处理单元530,具体用于按照各目标录像片段的起始时间点对各目标录像片段进行排序;
对于相邻的第一目标录像片段和第二目标录像片段,当所述第一目标录像片段的结束时间点大于等于所述第二目标录像片段的起始时间点时,
若所述第一目标录像片段和所述第二目标录像片段属于同一视频数据通道,则将所述第一目标录像片段和所述第二目标录像片段合并,合并后的录像片段的起始时间点为所述第一目标录像片段的起始时间点,结束时间点为所述第二目标录像片段的结束时间点;
若所述第一目标录像片段和所述第二目标录像片段属于不同视频数据通道,则以所述第一目标录像片段的结束时间点作为所述第二目标录像片段的起始时间点,或,以所述第二目标片段的起始时间点作为所述第一目标录像片段的结束时间点;
其中,所述第一目标录像片段的起始时间点小于所述第二目标录像片段的起始时间点
请参见图7,为本申请实施例提供的一种电子设备的硬件结构示意图。该电子设备可以包括处理器701、通信接口702、存储器703和通信总线704。处理器701、通信接口702以及存储器703通过通信总线704完成相互间的通信。其中,存储器703上存放有计算机程序;处理器701可以通过执行存储器703上所存放的程序,执行上文描述的视频摘要生成方法。
本文中提到的存储器703可以是任何电子、磁性、光学或其它物理存储装置,可以包含或存储信息,如可执行指令、数据,等等。例如,存储器702可以是:RAM(Radom AccessMemory,随机存取存储器)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、dvd等),或者类似的存储介质,或者它们的组合。
本申请实施例还提供了一种存储有计算机程序的机器可读存储介质,例如图7中的存储器703,所述计算机程序可由图7所示电子设备中的处理器701执行以实现上文描述的视频摘要生成方法。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅为本申请的较佳实施例而已,并不用以限制本申请,凡在本申请的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请保护的范围之内。
Claims (30)
1.一种视频摘要生成方法,其特征在于,包括:
接收目标搜索请求,所述目标搜索请求中携带有待搜索目标的特征信息;
搜索与所述待搜索目标的特征信息匹配的第一目标图片信息;其中,所述第一目标图片信息包括第一目标图片和第一目标图片的采集时间;
根据所述第一目标图片信息生成视频摘要;
其中,所述搜索与待搜索目标的特征信息匹配的第一目标图片信息之前,还包括:
获取视频源设备的视频数据中的目标图片信息,所述目标图片信息包括目标图片、目标图片的采集时间以及目标图片的属性信息;
将所述目标图片信息保存至图片信息库;
所述获取视频源设备的视频数据中的目标图片信息,包括:
接收所述视频源设备发送的目标图片信息、目标图片的采集时间以及目标图片的第一属性信息;
对所述目标图片进行建模,并提取所述目标图片的第二属性信息;
根据所述目标图片的第一属性信息和所述目标图片的第二属性信息确定所述目标图片的属性信息;
对于任一目标图片,比较该目标图片的第一属性信息和该目标图片的第二属性信息,对于第一属性信息中存在,但第二属性信息中不存在的属性信息,或第一属性信息中不存在,但第二属性信息中存在的属性信息,加入到该目标图片的属性信息;对于第一属性信息和第二属性信息中均存在的属性信息,将第二属性信息中的属性信息加入到该目标图片的属性信息;
其中,所述根据所述第一目标图片信息生成视频摘要包括:
当搜索到的第一车辆图片的数量超过预设数量阈值,且按时间从早到晚的顺序排序后相邻的第一车辆图片的采集时间的差值不超过预设时间阈值时,根据按采集时间从早到晚的顺序排序后的所述第一车辆图片,生成视频摘要。
2.根据权利要求1所述的方法,其特征在于,所述获取视频源设备的视频数据中的目标图片信息,包括:
接收所述视频源设备发送目标图片信息。
3.根据权利要求1所述的方法,其特征在于,所述获取视频源设备的视频数据中的目标图片信息,包括:
接收所述视频源设备发送的目标图片及目标图片的采集时间;
对所述目标图片进行建模,并提取所述目标图片的属性信息。
4.根据权利要求1所述的方法,其特征在于,所述获取视频源设备的视频数据中的目标图片信息,包括:
对所述视频源设备提供的视频数据进行目标检测,以得到所述视频数据中的目标图片及目标图片的采集时间;
对所述目标图片进行建模,并提取所述目标图片的属性信息。
5.根据权利要求1所述的方法,其特征在于,将 所述目标图片信息保存至图片信息库,包括:
对于任一视频数据通道的任一目标图片信息,判断所述图片信息库中是否保存有与该目标图片信息包含同一目标的其它目标图片信息;其中,该其它目标图片信息与该目标图片信息来自同一视频数据通道,且该其它目标图片信息包括的采集时间与该目标图片信息中包括的采集时间的差值小于预设时间阈值;
当所述图片信息库中未保存有与该目标图片信息包含同一目标的其它目标图片信息时,将该目标图片信息保存至所述图片信息库;
当所述图片信息库中保存有与该目标图片信息包含同一目标的其它目标图片信息时,拒绝将该目标图片信息保存至所述图片信息库。
6.根据权利要求1或5所述的方法,其特征在于,所述待搜索目标的特征信息包括待搜索目标图片;
所述搜索与所述待搜索目标的特征信息匹配的第一目标图片信息,包括:
对所述待搜索目标图片进行建模,并提取所述待搜索目标图片的属性信息;
根据所述待搜索目标的属性信息在所述图片信息库中搜索匹配的第一目标图片信息。
7.根据权利要求1或5所述的方法,其特征在于,所述待搜索目标的特征信息包括待搜索目标图片和待搜索目标图片的第一属性信息;
所述搜索与所述待搜索目标的特征信息匹配的第一目标图片信息,包括:
对所述待搜索目标图片进行建模,并提取所述待搜索目标图片的第二属性信息;
根据所述待搜索目标图片的第一属性信息和所述待搜索目标图片的第二属性信息,确定所述待搜索目标图片的属性信息;
根据所述待搜索目标图片的属性信息在所述图片信息库中搜索匹配的第一目标图片信息。
8.根据权利要求1或5所述的方法,其特征在于,所述目标搜索请求中还携带有搜索时间段范围;
所述搜索与所述待搜索目标的特征信息匹配的第一目标图片信息,包括:
根据所述搜索时间段范围对所述图片信息库中的目标图片信息进行筛选,以得到采集时间在所述搜索时间段范围内的目标图片信息;
根据所述待搜索目标的特征信息从所述采集时间在所述搜索时间段范围内的目标图片信息中搜索匹配的第一目标图片信息。
9.根据权利要求1或5所述的方法,其特征在于,所述目标搜索请求中还携带有搜索通道号,所述目标图片信息还包括有目标图片的通道号;
所述搜索与所述待搜索目标的特征信息匹配的第一目标图片信息,包括:
根据所述搜索通道号对所述图片信息库中的目标图片信息进行筛选,以得到通道号与所述搜索通道号一致的目标图片信息;
根据所述待搜索目标的特征信息从所述通道号与所述搜索通道号一致的目标图片信息中搜索匹配的第一目标图片信息。
10.根据权利要求1所述的方法,其特征在于,所述根据所述第一目标图片信息生成视频摘要,包括:
对于任一第一目标图片信息,确定该第一目标图片信息对应的目标录像片段;其中,该目标录像片段为该第一目标图片的采集时间之前的第n秒以及该第一目标图片的采集时间之后的第m秒之间的录像数据;
根据各目标录像片段生成视频摘要。
11.根据权利要求10所述的方法,其特征在于,所述对于任一第一目标图片信息,确定该第一目标图片信息对应的目标录像片段,包括:
当存在采集时间相同的多条第一目标图片信息时,对于该多条第一目标图片信息中的任一第一目标图片信息,确定该第一目标图片信息对应的录像片段的起始时间点和结束时间点;其中,该起始时间点为该第一目标图片的采集时间之前的第n秒,该结束时间点为该第一目标图片的采集时间之后的第m秒;
搜索该第一目标图片所属的视频数据通道的录像数据中是否存在该起始时间点的I帧,以及是否存在该结束时间的I帧;
若均存在,则丢弃该多条第一目标图片信息中的其余第一目标图片信息,并将该第一目标图片信息对应的录像片段确定为目标录像片段。
12.根据权利要求11所述的方法,其特征在于,所述搜索该第一目标图片所属的视频数据通道的录像数据中是否存在该起始时间点的I帧,以及是否存在该结束时间的I帧之后,还包括:
若不存在该起始时间点的I帧,则将该第一目标图片对应的录像片段的起始时间点增加1秒,并重复上述搜索步骤,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该起始时间点的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同;
若不存在该结束时间点的I帧,则将该第一目标图片对应的录像片段的结束时间点减少1秒,并重复上述搜索步骤,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该结束时间点的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同;
确定该多条第一目标图片信息中对应的录像片段的时长最长的第一目标图片信息,将该第一目标图片信息对应的录像片段确定为目标录像片段,并丢弃该多条第一目标图片信息中的其余第一目标图片信息。
13.根据权利要求10所述的方法,其特征在于,所述根据各目标录像片段生成视频摘要,包括:
根据各目标录像片段的起始时间点和结束时间点对目标录像片段进行过滤,以去除重复时间的录像数据;
根据过滤后的目标录像片段生成视频摘要。
14.根据权利要求13所述的方法,其特征在于,所述根据各目标录像片段的起始时间点和结束时间点对目标录像片段进行过滤,包括:
按照各目标录像片段的起始时间点对各目标录像片段进行排序;
对于相邻的第一目标录像片段和第二目标录像片段,当所述第一目标录像片段的结束时间点大于等于所述第二目标录像片段的起始时间点时,
若所述第一目标录像片段和所述第二目标录像片段属于同一视频数据通道,则将所述第一目标录像片段和所述第二目标录像片段合并,合并后的录像片段的起始时间点为所述第一目标录像片段的起始时间点,结束时间点为所述第二目标录像片段的结束时间点;
若所述第一目标录像片段和所述第二目标录像片段属于不同视频数据通道,则以所述第一目标录像片段的结束时间点作为所述第二目标录像片段的起始时间点,或,以所述第二目标片段的起始时间点作为所述第一目标录像片段的结束时间点;
其中,所述第一目标录像片段的起始时间点小于所述第二目标录像片段的起始时间点。
15.一种视频摘要生成装置,其特征在于,包括:
接收单元,用于接收目标搜索请求,所述目标搜索请求中携带有待搜索目标的特征信息;
搜索单元,用于搜索与所述待搜索目标的特征信息匹配的第一目标图片信息;其中,所述第一目标图片信息包括第一目标图片和第一目标图片的采集时间;
处理单元,用于根据所述第一目标图片信息生成视频摘要;
其中,所述装置还包括:
获取单元,用于获取视频源设备的视频数据中的目标图片信息,所述目标图片信息包括目标图片、目标图片的采集时间以及目标图片的属性信息;
保存单元,用于将所述目标图片信息保存至图片信息库;
所述获取单元,具体用于接收所述视频源设备发送的目标图片信息、目标图片的采集时间以及目标图片的第一属性信息;对所述目标图片进行建模,并提取所述目标图片的第二属性信息;根据所述目标图片的第一属性信息和所述目标图片的第二属性信息确定所述目标图片的属性信息;
其中,所述处理单元,具体用于当搜索到的第一车辆图片的数量超过预设数量阈值,且按时间从早到晚的顺序排序后相邻的第一车辆图片的采集时间的差值不超过预设时间阈值时,根据按采集时间从早到晚的顺序排序后的所述第一车辆图片,生成视频摘要。
16.根据权利要求15所述的装置,其特征在于,
所述获取单元,具体用于接收所述视频源设备发送目标图片信息。
17.根据权利要求15所述的装置,其特征在于,
所述获取单元,具体用于接收所述视频源设备发送的目标图片及目标图片的采集时间;对所述目标图片进行建模,并提取所述目标图片的属性信息。
18.根据权利要求15所述的装置,其特征在于,
所述获取单元,具体用于对所述视频源设备提供的视频数据进行目标检测,以得到所述视频数据中的目标图片及目标图片的采集时间;对所述目标图片进行建模,并提取所述目标图片的属性信息。
19.根据权利要求15所述的装置,其特征在于,
所述保存单元,具体用于对于任一视频数据通道的任一目标图片信息,判断所述图片信息库中是否保存有与该目标图片信息包含同一目标的其它目标图片信息;其中,该其它目标图片信息与该目标图片信息来自同一视频数据通道,且该其它目标图片信息包括的采集时间与该目标图片信息中包括的采集时间的差值小于预设时间阈值;
当所述图片信息库中未保存有与该目标图片信息包含同一目标的其它目标图片信息时,将该目标图片信息保存至所述图片信息库;
当所述图片信息库中保存有与该目标图片信息包含同一目标的其它目标图片信息时,拒绝将该目标图片信息保存至所述图片信息库。
20.根据权利要求15或19所述的装置,其特征在于,所述待搜索目标的特征信息包括待搜索目标图片;
所述搜索单元,具体用于对所述待搜索目标图片进行建模,并提取所述待搜索目标图片的属性信息;根据所述待搜索目标的属性信息在所述图片信息库中搜索匹配的第一目标图片信息。
21.根据权利要求15或19所述的装置,其特征在于,所述待搜索目标的特征信息包括待搜索目标图片和待搜索目标图片的第一属性信息;
所述搜索单元,具体用于对所述待搜索目标图片进行建模,并提取所述待搜索目标图片的第二属性信息;根据所述待搜索目标图片的第一属性信息和所述待搜索目标图片的第二属性信息,确定所述待搜索目标图片的属性信息;根据所述待搜索目标图片的属性信息在所述图片信息库中搜索匹配的第一目标图片信息。
22.根据权利要求15或19所述的装置,其特征在于,所述目标搜索请求中还携带有搜索时间段范围;
所述搜索单元,具体用于根据所述搜索时间段范围对所述图片信息库中的目标图片信息进行筛选,以得到采集时间在所述搜索时间段范围内的目标图片信息;
根据所述待搜索目标的特征信息从所述采集时间在所述搜索时间段范围内的目标图片信息中搜索匹配的第一目标图片信息。
23.根据权利要求15或19所述的装置,其特征在于,所述目标搜索请求中还携带有搜索通道号,所述目标图片信息还包括有目标图片的通道号;
所述搜索单元,具体用于根据所述搜索通道号对所述图片信息库中的目标图片信息进行筛选,以得到通道号与所述搜索通道号一致的目标图片信息;
根据所述待搜索目标的特征信息从所述通道号与所述搜索通道号一致的目标图片信息中搜索匹配的第一目标图片信息。
24.根据权利要求15所述的装置,其特征在于,
所述处理单元,具体用于对于任一第一目标图片信息,确定该第一目标图片信息对应的目标录像片段;其中,该目标录像片段为该第一目标图片的采集时间之前的第n秒以及该第一目标图片的采集时间之后的第m秒之间的录像数据;根据各目标录像片段生成视频摘要。
25.根据权利要求24所述的装置,其特征在于,
所述处理单元,具体用于当存在采集时间相同的多条第一目标图片信息时,对于该多条第一目标图片信息中的任一第一目标图片信息,确定该第一目标图片信息对应的录像片段的起始时间点和结束时间点;其中,该起始时间点为该第一目标图片的采集时间之前的第n秒,该结束时间点为该第一目标图片的采集时间之后的第m秒;搜索该第一目标图片所属的视频数据通道的录像数据中是否存在该起始时间点的I帧,以及是否存在该结束时间的I帧;若均存在,则丢弃该多条第一目标图片信息中的其余第一目标图片信息,并将该第一目标图片信息对应的录像片段确定为目标录像片段。
26.根据权利要求25所述的装置,其特征在于,
所述处理单元,还用于若不存在该起始时间点的I帧,则将该第一目标图片对应的录像片段的起始时间点增加1秒,并重复上述搜索步骤,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该起始时间点的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同;若不存在该结束时间点的I帧,则将该第一目标图片对应的录像片段的结束时间点减少1秒,并重复上述搜索步骤,直至在该第一目标图片所属的视频数据通道的录像数据中搜索到该结束时间点的I帧,或,该第一目标图片对应的录像片段的起始时间点与结束时间点相同;确定该多条第一目标图片信息中对应的录像片段的时长最长的第一目标图片信息,将该第一目标图片信息对应的录像片段确定为目标录像片段,并丢弃该多条第一目标图片信息中的其余第一目标图片信息。
27.根据权利要求25所述的装置,其特征在于,
所述处理单元,具体用于根据各目标录像片段的起始时间点和结束时间点对目标录像片段进行过滤,以去除重复时间的录像数据;根据过滤后的目标录像片段生成视频摘要。
28.根据权利要求27所述的装置,其特征在于,
所述处理单元,具体用于按照各目标录像片段的起始时间点对各目标录像片段进行排序;
对于相邻的第一目标录像片段和第二目标录像片段,当所述第一目标录像片段的结束时间点大于等于所述第二目标录像片段的起始时间点时,
若所述第一目标录像片段和所述第二目标录像片段属于同一视频数据通道,则将所述第一目标录像片段和所述第二目标录像片段合并,合并后的录像片段的起始时间点为所述第一目标录像片段的起始时间点,结束时间点为所述第二目标录像片段的结束时间点;
若所述第一目标录像片段和所述第二目标录像片段属于不同视频数据通道,则以所述第一目标录像片段的结束时间点作为所述第二目标录像片段的起始时间点,或,以所述第二目标片段的起始时间点作为所述第一目标录像片段的结束时间点;
其中,所述第一目标录像片段的起始时间点小于所述第二目标录像片段的起始时间点。
29.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现权利要求1-14任一项所述的方法步骤。
30.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-14任一项所述的方法步骤。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811025858.8A CN110876092B (zh) | 2018-09-04 | 2018-09-04 | 视频摘要生成方法、装置、电子设备及可读存储介质 |
PCT/CN2019/102073 WO2020048324A1 (zh) | 2018-09-04 | 2019-08-22 | 视频摘要生成方法、装置、电子设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811025858.8A CN110876092B (zh) | 2018-09-04 | 2018-09-04 | 视频摘要生成方法、装置、电子设备及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110876092A CN110876092A (zh) | 2020-03-10 |
CN110876092B true CN110876092B (zh) | 2021-08-24 |
Family
ID=69716028
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811025858.8A Active CN110876092B (zh) | 2018-09-04 | 2018-09-04 | 视频摘要生成方法、装置、电子设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110876092B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104239309A (zh) * | 2013-06-08 | 2014-12-24 | 华为技术有限公司 | 视频分析检索服务端、***及方法 |
CN104731944A (zh) * | 2015-03-31 | 2015-06-24 | 努比亚技术有限公司 | 视频搜索方法及装置 |
CN104796781A (zh) * | 2015-03-31 | 2015-07-22 | 小米科技有限责任公司 | 视频片段提取方法及装置 |
CN105335387A (zh) * | 2014-07-04 | 2016-02-17 | 杭州海康威视***技术有限公司 | 一种视频云存储***的检索方法 |
CN106127106A (zh) * | 2016-06-13 | 2016-11-16 | 东软集团股份有限公司 | 视频中目标人物查找方法和装置 |
CN107944371A (zh) * | 2017-11-17 | 2018-04-20 | 辽宁公安司法管理干部学院 | 一种基于数据挖掘的公安视频监控图像处理方法 |
CN108174132A (zh) * | 2016-12-07 | 2018-06-15 | 杭州海康威视数字技术股份有限公司 | 录像文件的回放方法及装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9436692B1 (en) * | 2013-06-25 | 2016-09-06 | Emc Corporation | Large scale video analytics architecture |
US20150019533A1 (en) * | 2013-07-15 | 2015-01-15 | Strawberry Media, Inc. | System, methods, & apparatuses for implementing an accident scene rescue, extraction and incident safety solution |
US10424341B2 (en) * | 2014-11-12 | 2019-09-24 | Massachusetts Institute Of Technology | Dynamic video summarization |
-
2018
- 2018-09-04 CN CN201811025858.8A patent/CN110876092B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104239309A (zh) * | 2013-06-08 | 2014-12-24 | 华为技术有限公司 | 视频分析检索服务端、***及方法 |
CN105335387A (zh) * | 2014-07-04 | 2016-02-17 | 杭州海康威视***技术有限公司 | 一种视频云存储***的检索方法 |
CN104731944A (zh) * | 2015-03-31 | 2015-06-24 | 努比亚技术有限公司 | 视频搜索方法及装置 |
CN104796781A (zh) * | 2015-03-31 | 2015-07-22 | 小米科技有限责任公司 | 视频片段提取方法及装置 |
CN106127106A (zh) * | 2016-06-13 | 2016-11-16 | 东软集团股份有限公司 | 视频中目标人物查找方法和装置 |
CN108174132A (zh) * | 2016-12-07 | 2018-06-15 | 杭州海康威视数字技术股份有限公司 | 录像文件的回放方法及装置 |
CN107944371A (zh) * | 2017-11-17 | 2018-04-20 | 辽宁公安司法管理干部学院 | 一种基于数据挖掘的公安视频监控图像处理方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110876092A (zh) | 2020-03-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5976237B2 (ja) | 映像検索システム及び映像検索方法 | |
JP6446971B2 (ja) | データ処理装置、データ処理方法、及び、コンピュータ・プログラム | |
US20210382933A1 (en) | Method and device for archive application, and storage medium | |
US20210357678A1 (en) | Information processing method and apparatus, and storage medium | |
CN111131902A (zh) | 确定目标对象信息的方法及视频播放设备 | |
JP2008165701A (ja) | 画像処理装置、電子機器、画像処理方法、及び、プログラム | |
CN111898581A (zh) | 动物检测方法、装置、电子设备及可读存储介质 | |
JP2008131330A (ja) | 画像表示装置および画像表示方法 | |
JP2008146191A (ja) | 画像出力装置および画像出力方法 | |
WO2022156234A1 (zh) | 一种目标重识别方法、装置及计算机可读存储介质 | |
CN110543584B (zh) | 一种建立人脸索引的方法、装置、处理服务器及存储介质 | |
CN112507860A (zh) | 一种视频标注方法、装置、设备及存储介质 | |
CN111881320A (zh) | 一种视频查询方法、装置、设备及可读存储介质 | |
CN108419112B (zh) | 基于测控航迹信息的流媒体视频编目方法、检索方法及装置 | |
CN105320703B (zh) | 相似车辆检索中的查询扩展方法及装置 | |
CN110876090B (zh) | 视频摘要回放方法、装置、电子设备及可读存储介质 | |
KR20090035798A (ko) | 차량 번호판의 영상 저장 시스템 및 그 방법 | |
CN110876092B (zh) | 视频摘要生成方法、装置、电子设备及可读存储介质 | |
WO2023165219A1 (zh) | 目标检索方法、装置及存储介质 | |
TWI589158B (zh) | 監控資料的原始畫面儲存系統及其儲存方法 | |
CN110876029B (zh) | 视频摘要回放方法、装置、电子设备及可读存储介质 | |
US9275140B2 (en) | Method of optimizing the search for a scene on the basis of a stream of images archived in a video database | |
WO2023273132A1 (zh) | 行为检测方法、装置、计算机设备、存储介质和程序 | |
CN110929095A (zh) | 视频摘要回放方法、装置、电子设备及可读存储介质 | |
CN111666786B (zh) | 图像处理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |