CN101398843A - 用于浏览视频概要描述数据的设备及方法 - Google Patents
用于浏览视频概要描述数据的设备及方法 Download PDFInfo
- Publication number
- CN101398843A CN101398843A CNA2008101619850A CN200810161985A CN101398843A CN 101398843 A CN101398843 A CN 101398843A CN A2008101619850 A CNA2008101619850 A CN A2008101619850A CN 200810161985 A CN200810161985 A CN 200810161985A CN 101398843 A CN101398843 A CN 101398843A
- Authority
- CN
- China
- Prior art keywords
- video
- highlight
- highlight section
- representative frame
- grade
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
- G06F16/73—Querying
- G06F16/738—Presentation of query results
- G06F16/739—Presentation of query results in form of a video summary, e.g. the video summary being a video sequence, a composite still image or having synthesized frames
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
- G06F16/74—Browsing; Visualisation therefor
- G06F16/745—Browsing; Visualisation therefor the internal structure of a single video sequence
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
本发明涉及一种通过元数据描述视频概要的视频概要描述方案。视频概要提供概览功能以及导航和浏览功能,这使得有效地搜索所需视频内容具有可行性。根据本发明,分级概要描述方案(DS)至少包括一个精彩场面级DS,并且选择性地包括概要主题列表DS。精彩场面级DS描述精彩场面级,并且可以包含零个或至少一个更低的精彩场面级DS。精彩场面级DS包括一个或多个用于描述组成该精彩场面级的视频概要的精彩场面段信息的精彩场面段DS。精彩场面段DS包括用于描述对应段区间的时间信息的视频段定位符DS。另外,精彩场面段DS可以包括用于描述对应段的代表性图像信息的图像定位符DS,用于描述代表性声音信息的声音定位符DS,和用于描述组成音频概要的音频段信息的音频段定位符DS。
Description
本申请是申请日为2000年9月29日、申请号为00814746.9、题为“用于有效概览和浏览的视频概要描述方案和生成视频概要描述数据的方法和***”的专利申请的分案申请。
技术领域
本发明涉及一种用于有效概览和浏览视频的视频概要描述方案,并且还涉及一种生成视频概要描述的方法和***,以根据视频概要描述方案描述视频概要。
本发明所涉及的技术领域为基于内容的视频索引和浏览/搜索,并且将视频概括为所基的内容,然后对它进行描述。
背景技术
概括视频的格式主要分为动态概要和静态概要。本发明的视频描述方案用于有效地将动态概要和静态概要描述为统一的描述方案。
一般来说,由于现有视频概要和描述方案简单地提供包含在视频概要中的视频区间信息,现有视频概要和描述方案受限于通过播放概要视频,传达全部视频内容。
然而,在很多情况下,需要通过概览全部内容标识和重新访问有关部分的浏览,而不仅仅是通过概要视频概览全部内容。
另外,现有视频概要仅仅提供根据由视频概要提供者确定的标准认为是重要的视频区间。因此,如果用户和视频提供者的标准相互不同,或者用户具有特殊标准,用户就不能获得他们所需的视频概要。
也就是,虽然现有概要视频通过提供若干级的概要视频,允许用户选择所需级的概要视频,但是它使用户的选择程度受限于用户不能通过概要视频内容来选择。
标题为“Method and apparatus for video browsing based on content andstructure(用于基于内容和结构的视频浏览的方法和装置)”的美国专利5,821,945以压缩的形式表示视频,并且通过该表示提供访问具有所需内容的视频的浏览功能。
然而,该专利采用基于代表性帧的静态概要,并且虽然通过使用视频镜头的代表性帧,概括出现有静态概要,但是该专利的代表性帧只提供代表镜头的视觉信息,该专利对于使用概要传达信息具有限制。
与该专利相比较,该视频描述方案和浏览方法使用基于视频段的动态概要。
ISO/IEC JTC1/SC29/WG11 MPEG-7输出文档号N2844在1999年7月所公布的MPEG-7描述方案(V 0.5)提出视频概要描述方案。由于该方案描述动态概要视频的每个视频段的区间信息,因此,尽管提供描述动态概要的基本功能,但是该方案具有如下方面的问题。
首先,一个缺点是它不能提供从组成概要视频的视频段对原始视频的访问。也就是,用户想要根据概要内容和通过概要视频的概览,访问原始视频,以了解更详细的信息。然而现有方案不能满足这一需要。
其次,现有方案不能提供足够的音频概要描述功能。
最后,一个缺点是在表示基于事件的概要的情况下,重复描述和搜索复杂性不可避免。
发明内容
本发明的一个目的是提供分级视频概要描述方案,它在包含在概要视频中的每个视频区间,包括代表性帧信息和代表性声音信息,并且使基于用户可定制事件的概要提供用户对概要视频内容的选择,和有效浏览具有可行性,和一种使用描述方案的视频概要描述数据生成方法和***。
为了实现该目的,根据本发明可执行示例的分级概要(HierarchicalSumm-ary)DS至少包括一个描述精彩场面级的精彩场面级(HighlightLevel)DS,并且精彩场面级DS至少包含描述组成该精彩场面级的概要视频的精彩场面段信息的精彩场面段(HighlightSegment)DS。
最好,精彩场面级DS包括至少一个更低级的精彩场面级DS。
更好,精彩场面段DS包括一个描述所述对应精彩场面段的时间信息或视频本身的视频段定位符(VideoSegmentLocator)DS。
最好,精彩场面段DS进一步包括描述所述对应精彩场面段的代表性帧的图像定位符(ImageLocator)DS。
更好,精彩场面段DS进一步包括描述所述对应精彩场面段的代表性声音信息的声音定位符(SoundLocator)DS。
最好,精彩场面段DS进一步包括描述所述对应精彩场面段的代表性帧的图像定位符DS和描述所述对应精彩场面段的代表性声音信息的声音定位符DS。
更好,图像定位符DS描述与所述对应精彩场面段对应的视频区间的代表性帧的时间信息或图像数据。
最好,精彩场面段DS进一步包括描述组成所述对应精彩场面段的音频概要的音频段信息的音频段定位符(AudioSegmentLocator)DS。
更好,音频段定位符DS描述所述对应精彩场面段的音频区间的时间信息或音频数据。
最好,分级概要DS包括描述并且列举包含在分级概要DS中的所有概要组件类型(SummaryComponentType)的概要组件列表(SummaryComponent-List)。
另外,最好,分级概要DS包括列举包含在概要中的事件或主题,并且描述ID的概要主题列表(SummaryThemeList)DS,然后描述基于事件的概要,并且允许用户通过在所述概要主题列表中描述的事件或主题浏览概要视频。
更好,概要主题列表DS包括任意数目的概要主题(SummaryTheme)作为元素,并且所述概要主题包括表示对应事件或主题的id属性,并且概要主题进一步包括描述上一级的事件或主题id的父ID(parentID)属性。
最好,如果组成对应精彩场面级的所有精彩场面段和精彩场面级具有共同的事件或主题,精彩场面级DS包括描述共同事件或主题所述id属性的主题id集(themeIds)属性。
更好,精彩场面段DS包括描述所述id属性的主题id集(themeIds)属性,并且描述对应精彩场面段的事件或主题。
另外,根据本发明,提供一种其中存储有分级概要DS的计算机可读记录介质。最好,分级概要DS至少包括一个描述精彩场面级的精彩场面级DS,并且精彩场面级DS至少包括一个描述组成那个精彩场面级的概要视频的精彩场面段信息的精彩场面段DS,并且精彩场面段DS包括描述所述对应精彩场面段的时间信息或视频本身的视频段定位符DS。
另外,根据本发明,提供一种用于通过输入原始视频根据视频概要描述方案生成视频概要描述数据的方法。该方法包括如下步骤:视频分析步骤,通过输入原始视频然后分析原始视频,产生视频分析结果;概要规则定义步骤,定义用于选择概要视频区间的概要规则;概要视频区间选择步骤,通过输入所述原始视频分析结果和所述概要规则,从原始视频选择能够概括视频内容的视频区间,组成概要视频区间信息;和视频概要描述步骤,通过输入由所述概要视频区间选择步骤输出的概要视频区间信息,根据分级概要DS产生视频概要描述数据。
最好,视频分析步骤包括:特征提取步骤,通过输入原始视频并且提取特征,输出这些特征类型和检测到这些特征的视频时间区间;事件检测步骤,通过输入所述特征类型和检测到这些特征的视频时间区间,检测包含在原始视频中的关键事件;和插曲检测步骤,通过根据所述检测到的事件将原始视频划分为情节流基本单元,检测插曲。
最好,概要规则定义步骤在将概要事件类型定义给所述视频概要描述步骤之后,提供作为选择概要视频区间基础的概要事件类型。
更好,该方法进一步包括代表性帧提取步骤,通过输入所述概要视频区间信息并且提取代表性帧,将该代表性帧提供给所述视频概要描述步骤。
更好,该方法进一步包括代表性声音提取步骤,通过输入所述概要视频区间信息并且提取代表性声音,将该代表性声音提供给所述视频概要描述步骤。
另外,根据本发明,提供一种其中存储有一个程序的计算机可读记录介质。该程序执行如下步骤:特征提取步骤,输出特征类型和检测到这些特征的视频时间区间;事件检测步骤,通过输入所述特征类型和检测到这些特征的所述视频时间区间,检测包含在原始视频中的关键事件;插曲检测步骤,通过根据所述检测到的关键事件将原始视频划分为情节流基本单元,检测插曲;概要规则定义步骤,定义用于选择概要视频区间的概要规则;概要视频区间选择步骤,通过输入所述检测到的插曲和所述概要规则,选择能够概括原始视频的视频内容的视频区间,组成概要视频区间信息;和视频概要描述步骤,通过输入由所述概要视频区间选择步骤输出的概要视频区间信息,使用分级概要DS生成视频概要描述数据。
另外,根据本发明,提供一种通过输入原始视频根据视频概要描述方案生成视频概要描述数据的***。该***包括:视频分析装置,用于通过输入原始视频并且分析原始视频,输出视频分析结果;概要规则定义装置,用于定义用来选择概要视频区间的概要规则;概要视频区间选择装置,用于通过输入所述原始视频分析结果和所述概要规则,选择能够概括原始视频的视频内容的视频区间,组成概要视频区间信息;和视频概要描述装置,用于通过输入由所述概要视频区间选择装置输出的概要视频区间信息,使用分级概要DS生成视频概要描述数据。
最好,分级概要DS至少包括一个描述精彩场面级的精彩场面级DS,精彩场面级DS至少包括一个描述组成该精彩场面级的概要视频的精彩场面段信息的精彩场面段DS,并且精彩场面段DS包括描述所述对应精彩场面段的时间信息或视频本身的视频段定位符DS。
最好,视频分析装置包括:特征提取装置,用于通过输入原始视频并且提取特征,输出这些特征类型和检测到这些特征的视频时间区间;事件检测装置,用于通过输入所述特征类型和检测到这些特征的视频时间区间,检测包含在原始视频中的关键事件;和插曲检测装置,用于通过根据所述检测到的事件将原始视频划分为情节流基本单元,检测插曲。
更好,概要规则定义装置在将概要事件类型定义给所述视频概要描述装置之后,提供作为选择概要视频区间基础的概要事件类型。
最好,该***进一步包括代表性帧提取装置,用于通过输入所述概要视频区间信息并且提取代表性帧,将该代表性帧提供给所述视频概要描述装置。
更好,该***进一步包括代表性声音提取装置,用于通过输入所述概要视频区间信息并且提取代表性声音,将该代表性声音提供给所述视频概要描述装置。
另外,根据本发明,提供一种其中存储有一个程序的计算机可读记录介质。该程序用于运行如下装置:特征提取装置,用于输出特征类型和检测到这些特征的视频时间区间;事件检测装置,用于通过输入所述特征类型和检测到这些特征的所述视频时间区间,检测包含在原始视频中的关键事件;插曲检测装置,用于通过根据所述检测到的关键事件将原始视频划分为情节流基本单元,检测插曲;概要规则定义装置,用于定义用来选择概要视频区间的概要规则;概要视频区间选择装置,用于通过输入所述检测到的插曲和所述概要规则,选择能够概括原始视频的视频内容的视频区间,组成概要视频区间信息;和视频概要描述装置,用于通过输入由所述概要视频区间选择装置输出的概要视频区间信息,使用分级概要DS生成视频概要描述数据。
另外,提供一种根据本发明的服务器/客户机环境下的视频浏览***。该***包括:服务器,装备有视频概要描述数据生成***,该***通过输入原始视频,根据分级概要DS,生成视频概要描述数据,并且链接所述原始视频和视频概要描述数据;和客户机,通过使用所述视频概要描述数据概览所述原始视频并且访问所述服务器的原始视频,对视频进行浏览和导航。
附图说明
将参照附图对本发明的实施例进行说明,其中:
图1是示出用于根据本发明的描述方案生成视频概要描述数据的***的的方框图;
图2是采用UML(Unified Modeling Language,统一建模语言)示出描述本发明的视频概要描述方案的分级概要DS的数据结构的图;
图3是用于播放和浏览输入用与图2相同的描述方案描述的视频概要描述数据的概要视频的工具的用户界面组合图;
图4是示出使用本发明概要视频的分级浏览的数据和控制流的组合图。
具体实施方式
将参照附图通过优选实施例对本发明进行详细描述,其中相同的参考号用来标识相同或类似的部分。
图1是示出用于根据本发明的描述方案生成视频概要描述数据的***的的方框图。
如图1所示,本发明的用于生成视频描述数据的装置包括特征提取部分101、事件检测部分102、插曲检测部分103、概要视频区间选择部分104、概要规则定义部分105、代表性帧提取部分106、代表性声音提取部分107和视频概要描述部分108。
特征提取部分101通过输入原始特征提取生成概要视频所需的特征。一般特征包括镜头边界、摄像机移动、字幕区域、正面区域等。
在提取特征步骤,通过提取特征,将这些特征类型和检测到这些特征的视频时间区间以(特征类型、特征序列号、时间区间)格式,输出到检测事件步骤。
例如,在摄像机移动的情况下,(摄像机移动,1,100~150)表示在100~150帧中检测到摄像机第一移动的信息。
事件检测部分102检测包含在原始视频中的关键事件。由于这些事件必须很好地代表原始视频内容,并且是用于生成概要视频的基准,因此一般根据原始视频种类对这些事件进行不同的定义。
这些事件可以表示更高意义层,或可以是能够直接推断更高意义的视觉特征。例如,在足球视频的情况下,进球、射门、字幕、回放等可以定义为事件。
事件检测部分102以(事件类型,事件序列号,时间区间)输出所检测事件的类型和时间区间。例如,以(射门,1,200~300)的格式输出表示发生在200到300帧之间的第一射门的事件信息。
插曲检测部分103,根据所检测的事件,将视频划分为基于情节流的比事件更大单位的插曲。在检测到关键事件之后,检测插曲,同时包括跟随关键事件的伴随事件。例如,在足球视频的情况下,进球和射门可以是关键事件,而教练席场景、观众场景、进球庆祝场景、进球回放场景等组成关键事件的伴随事件。
也就是,根据进球和射门检测插曲。
以(插曲号,时间区间,优先级、特征镜头、相关事件信息)格式输出插曲检测信息。在此,插曲号是插曲的序列号,并且时间区间表示以镜头为单位的插曲时间区间。优先级表示插曲的重要度。特征镜头表示包括组成插曲的镜头中最重要信息的镜头号,并且相关事件信息表示与插曲相关的事件的事件号。例如,在将插曲检测信息表示为(插曲1,4~6,1,5,进球1,字幕3)的情况下,该信息表示第一插曲包括第4~6镜头,优先级为最高(1),特征镜头为第五镜头,并且相关事件为第一进球和第三字幕。
概要视频区间选择部分104选择根据所检测的插曲选择能很好概括原始视频内容的视频区间。由概要规则定义部分105的预定概要规则执行选择区间的基准。
概要规则定义部分105定义用于选择概要区间的规则,并且输出用于选择概要区间的控制信号。概要规则定义部分105还将用作选择概要视频区间基础的概要事件类型,输出到视频概要描述部分108。
概要视频区间选择部分104以帧为单位输出所选概要视频区间的时间信息,并且输出与视频区间对应的事件类型。也就是,(100~200,进球),(500~700,射门)等格式表示选作概要视频区间的视频段为100~200帧,500~700帧等,并且两段的事件分别为进球和射门。另外,可以输出如文件名的信息,来帮助访问仅组成概要视频区间的附加视频。
如果完成概要视频区间选择,通过使用概要视频区间信息,分别从代表性帧提取部分106和代表性声音提取部分107提取代表性帧和代表性声音。
代表性帧提取部分106输出代表概要视频区间的图像帧号或输出图像数据。
代表性声音提取部分107输出代表概要视频区间的声音数据或输出声音时间区间。
视频概要描述部分108根据图2所示的本发明的分级概要描述方案描述相关信息,以使得有效概览和浏览功能具有可行性。
分级概要描述方案的主要信息包括概要视频的概要事件类型、描述每个概要视频区间的时间信息,代表性帧,代表性声音和每个区间的事件类型。
视频概要描述部分108根据图2所示的描述方案输出视频概要描述数据。
图2是采用UML(Unified Modeling Language,统一建模语言)示出本发明的描述视频概要描述方案的分级概要DS的数据结构的图。
分级概要DS 201描述由一个或多个精彩场面级DS 202和一个或零个概要主题列表DS 203组成的视频概要。
概要主题列表DS通过列举描述组成概要的主题或事件的信息,提供基于事件的概览和浏览的功能。精彩场面级DS 202由若干精彩场面段DS 204和零个或若干个精彩场面级DS组成,其中精彩场面段DS 204的数目为组成那个级的概要视频的视频区间数。
精彩场面段DS描述与每个概要视频区间对应的信息。精彩场面段DS由一个视频段定位符DS 205、零个或若干图像定位符DS 206、零个或若干声音定位符DS 207和音频段定位符208组成。
下面给出关于分级概要DS的更加详细的描述。
分级概要DS具有一个概要组件列表属性,该属性清楚地表示由分级概要DS包括的概要类型。
根据概要组件类型得到概要组件列表,并且通过列举所包括的所有概要组件类型描述该列表。
概要组件列表中存在如关键帧、关键视频片段、关键音频片段、关键事件和无约束这五种类型。
关键帧表示由代表性帧组成的关键帧概要。关键视频片断表示由关键视频区间集组成的关键视频片断概要。关键事件表示由对应于事件或主题的视频区间组成的概要。关键音频片断表示由代表性音频区间集组成的关键音频片断概要。并且,无约束表示除所述概要之外的由用户定义的概要类型。
另外,为了描述基于事件的概要,分级概要DS可能包括列举包含在概要中的事件(或主题)并且描述ID的概要主题列表DS。
概要主题列表包含任意数目的概要主题作为元素。概要主题具有一个ID类型的id属性,并且选择性地具有一个父id属性。
概要主题列表DS允许用户根据在概要主题列表中描述的每个事件或若干主题浏览概要视频。也就是,输入描述数据的应用工具通过分析概要主题列表DS并且将该信息提供给用户,使用户选择所需的主题。
此时,在将这些主题列举为简单格式的情况下,如果主题数目很大,可能就不容易找出用户所需的主题。
因此,通过将主题表示为类似于ToC(Table of Content,内容表)的树状结构,用户可以有效地在找出所需主题之后对各个主题进行浏览。
为此,本发明允许父id属性选择性地用在概要主题中。父id表示树状结构中的上层元素(上层主题)。
本发明的分级概要DS包括多个精彩场面级DS,并且每个精彩场面级DS包括一个或多个对应于组成概要视频的视频段(或区间)的精彩场面段DS。
精彩场面级DS具有IDREFS类型的主题id集属性。
主题id集描述共同于对应精彩场面级DS的孩子精彩场面级DS,或包含在该精彩场面级中的所有精彩场面段DS的主题和事件id,并且该id在所述概要主题列表DS中进行描述。
主题id集可以表示若干事件,并且当进行基于事件的概括时,通过让主题id集表示组成那个级的精彩场面段中共同的主题类型,解决相同id不必要地在组成那个级的所有段中重复这一问题。
精彩场面段DS包括一个视频段定位符DS和一个或多个图像定位符DS,零个或一个声音定位符DS和零个或一个音频段定位符DS。
在此,视频段定位符DS描述组成概要视频的视频段的时间信息或视频本身。图像定位符DS描述视频段的代表性帧的图像数据信息。声音定位符DS描述表示对应视频段区间的声音信息。音频段定位符DS描述组成音频概要的区间时间信息或音频信息本身。
精彩场面段DS具有主题id集属性。主题id集描述,使用定义在概要主题列表中的id,在所述概要主题列表DS中描述的哪个主题或事件与对应精彩场面段相关。
主题id集可以表示多个事件,并且它是本发明的一个有效技术,通过让一个精彩场面段具有多个主题,解决当对基于事件的概要使用现有方法时,描述每个事件(或主题)的视频段所导致的不可避免的描述重复这一问题。
当描述组成概要视频的精彩场面段时,采用不同于现有分级概要描述方案的方法,只描述精彩场面视频区间的时间信息,为了描述每个精彩场面段的视频区间信息、代表性帧信息、代表性声音信息,通过采用视频段定位符DS、图像段定位符DS和声音定位符DS,本发明通过引入用于描述组成概要视频的精彩场面段DS,使通过精彩场面段视频的概览和使用段的代表性帧和代表性声音的导航和浏览得以有效的使用。
通过采用能够描述对应于视频区间的代表性声音的声音定位符DS,在实际情况下通过能够代表视频区间的特征声音,例如,枪响声、喊叫声、足球中的主持人评论(例如,进球和射门)、戏剧中演员姓名、特定词等,通过在短时间内大致了解该区间是否为包含所需内容的重要区间,或者该区间内包含什么内容,进行有效的浏览,而不播放视频区间是可能的。
图3是用于播放和浏览输入用与图2相同的描述方案描述的视频概要描述数据的概要视频的工具的用户界面组合图。
视频播放部分301根据用户的控制播放原始视频或概要视频。原始视频代表性帧部分305显示原始视频镜头中的代表性帧。也就是,它由一系列尺寸缩小的图像组成。
不采用本发明的分级概要DS,而采用附加描述方案来描述原始视频镜头的代表性帧,并且可以在随同由本发明的分级概要DS描述的概要描述数据一起提供该描述数据时使用。
用户通过单击代表性帧,访问与代表性帧对应的原始视频镜头。
概要视频级0代表性帧部分和代表性声音部分307和概要视频级1代表性帧部分和代表性声音部分306分别显示代表概要视频级0和概要视频级1的每个视频区间的帧和声音信息。也就是,它由尺寸缩小的代表一系列图像和声音的图标图像组成。
如果用户单击概要视频代表性帧部分和代表性声音部分的代表性帧,用户访问对应于代表性帧的原始视频区间。在此,在单击与概要视频的代表性帧对应的代表性声音图标的情况下,播放该视频区间的代表性声音。
概要视频控制部分302输入用户选择控制来播放概要视频。在提供多级概要视频的情况下,用户通过级选择部分303选择所需级的概要,进行概览和浏览。事件选择部分304列举由概要主题列表提供的事件和主题,并且用户通过选择所需事件,进行概览和浏览。总而言之,这实现了用户定制类型的概要。
图4是示出使用本发明概要视频的分级浏览的数据和控制流的组合图。
通过使用图3的用户界面,采用图4的方法访问浏览数据来执行浏览。浏览数据是概要视频、概要视频的代表性帧、原始视频406和原始视频代表性帧405。
假定概要视频具有两个级。不用说,概要视频可以具有比两个更多的级。概要视频级0401是以比概要视频级1403更短的时间进行概括的。也就是,概要视频级1比概要视频级0包含更多的内容。概要视频级0代表性帧402是概要视频级0的代表性帧,并且概要视频级1代表性帧404是概要视频级1的代表性帧。
概要视频和原始视频通过图3的视频播放部分301进行播放。概要视频级0代表性帧在概要视频级0代表性帧和代表性声音部分306中显示。概要视频级1代表性帧在概要视频级1代表性帧和代表性声音部分307中显示,并且原始视频代表性帧在原始视频代表性帧部分305中显示。
图4所示的分级浏览方法可以具有各种类型的分级路径,如下面示例所示:
情况1:(1)-(2)
情况2:(1)-(3)-(5)
情况3:(1)-(3)-(4)-(6)
情况4:(7)-(5)
情况5:(7)-(4)-(6)
全面的浏览方案如下所示。
首先,通过观看原始视频的概要视频,了解原始视频的全面内容。在此,概要视频可以播放概要视频级0或概要视频级1。当在观看概要视频之后想要更详细的浏览时,通过概要视频代表性帧标识感兴趣的视频区间。如果正要查找的场景标识在概要视频代表性帧中,通过直接访问代表性帧所连接的原始视频的视频区间,对它进行播放。并且如果需要更详细的信息,用户通过了解下一级的代表性帧,或通过分级了解原始视频代表性帧的内容,可以访问所需的原始视频。
虽然这些分级浏览技术对正在播放原始视频时浏览访问所需内容,可能要花很长的时间,但是通过分级代表性帧直接访问原始视频的内容,可以大幅度地减低浏览时间。
现有的一般视频索引和浏览技术以镜头为单位划分原始视频,并且在构成代表每个镜头的代表性帧之后,通过从代表性帧观看所需的镜头,来访问镜头。
在这种情况下,由于原始视频的镜头数很大,在众多代表性帧中浏览所需内容需要花费大量的时间和精力。
在本发明中,通过使用概要视频代表性帧构成分级代表性帧,快速访问所需视频是可行的。
情况1:播放概要视频级0,并且从概要视频级0代表性帧直接访问原始视频。
情况2:播放概要视频级0,并且从概要视频级0代表性帧选择最感兴趣的代表性帧,并且在与该代表性帧的附近对应的概要视频级1代表性帧中标识所需场景,以在访问原始视频之前了解更详细的信息,然后访问原始视频。
情况3:在情况2难以从概要视频级1代表性帧访问原始视频的情况下,选择最感兴趣的代表性帧,以获得更详细信息,并且通过邻近该代表性帧的原始视频代表性帧,标识所需场景,然后使用原始帧的代表性帧访问原始视频。
情况4和5是以回放概要视频级1开始的情况,路径与上述情况类似。
当应用到服务器/客户机环境时,本发明可以提供其中多个客户机访问一个服务器,并且可以进行视频概览和浏览的***。原始视频输入到服务器,根据分级概要描述方案,产生视频概要描述数据,并且装备有链接所述原始视频和视频概要描述数据的概要视频描述数据生成***。客户机通过通信网络访问服务器,使用视频概要描述数据,对视频进行概览,并且通过访问原始视频,对视频进行浏览和导航。
尽管本发明是根据优先实施例来描述的,但这些实施例对本发明不起限制作用,而只起示例作用。另外,本领域的技术人员应该理解,在不脱离由所附权利要求限定的本发明的精神和范围的情况下,可以对在此的实施例进行修改和变化。
Claims (9)
1、一种用于浏览视频概要描述数据的设备,其中,所述视频概要描述数据具有用于描述视频概要的分级概要描述方案(DS),其中,所述分级概要DS包括:至少一个描述与相应于一个概要视频区间的精彩场面段有关的信息的精彩场面段DS,以及其中,所述精彩场面段DS包括用于描述精彩场面段的视频段定位符DS和用于描述所述精彩场面段的代表性帧的图像定位符DS。
2.如权利要求1所述的设备,其中,所述设备被配置成显示所述精彩场面段的代表性帧以及播放所述精彩场面段。
3.如权利要求1所述的设备,其中,所述视频段定位符DS描述所述精彩场面段的时间信息或视频本身。
4、一种用于浏览视频概要描述数据的方法,其中,所述视频概要描述数据具有用于描述视频概要的分级概要描述方案(DS),其中,所述分级概要DS包括:至少一个描述与相应于一个概要视频区间的精彩场面段有关的信息的精彩场面段DS,以及其中,所述精彩场面段DS包括用于描述精彩场面段的视频段定位符DS和用于描述所述精彩场面段的代表性帧的图像定位符DS。
5.如权利要求4所述的方法,其中,所述设备被配置成显示所述精彩场面段的代表性帧以及播放所述精彩场面段。
6.如权利要求4所述的方法,其中,所述视频段定位符DS描述所述精彩场面段的时间信息或视频本身。
7、一种用于浏览视频概要描述数据的方法,其中,所述视频概要描述数据具有用于描述视频概要的分级概要描述方案(DS),其中,所述分级概要DS包括:包含至少一个精彩场面段DS的精彩场面级DS,其中所述精彩场面段DS被配置成描述与相应于一个概要视频区间的精彩场面段有关的信息,所述精彩场面段DS包括用于描述所述精彩场面段的视频段定位符DS和用于描述所述精彩场面段的代表性帧的图像定位符DS。
8.如权利要求7所述的方法,其中,所述设备被配置成显示所述精彩场面段的代表性帧以及播放所述精彩场面段。
9.如权利要求7所述的方法,其中,所述视频段定位符DS描述所述精彩场面段的时间信息或视频本身。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1999/43712 | 1999-10-11 | ||
KR19990043712 | 1999-10-11 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB008147469A Division CN100485721C (zh) | 1999-10-11 | 2000-09-29 | 生成视频概要描述数据的方法、***及浏览该数据的设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101398843A true CN101398843A (zh) | 2009-04-01 |
CN101398843B CN101398843B (zh) | 2011-11-30 |
Family
ID=19614707
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2008101619850A Expired - Fee Related CN101398843B (zh) | 1999-10-11 | 2000-09-29 | 用于浏览视频概要描述数据的设备及方法 |
CNB008147469A Expired - Fee Related CN100485721C (zh) | 1999-10-11 | 2000-09-29 | 生成视频概要描述数据的方法、***及浏览该数据的设备 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB008147469A Expired - Fee Related CN100485721C (zh) | 1999-10-11 | 2000-09-29 | 生成视频概要描述数据的方法、***及浏览该数据的设备 |
Country Status (7)
Country | Link |
---|---|
EP (1) | EP1222634A4 (zh) |
JP (1) | JP4733328B2 (zh) |
KR (1) | KR100371813B1 (zh) |
CN (2) | CN101398843B (zh) |
AU (1) | AU7689200A (zh) |
CA (1) | CA2387404A1 (zh) |
WO (1) | WO2001027876A1 (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101127899A (zh) * | 2002-04-12 | 2008-02-20 | 三菱电机株式会社 | 提示信息描述方法 |
CN104391960A (zh) * | 2014-11-28 | 2015-03-04 | 北京奇艺世纪科技有限公司 | 一种视频标注方法及*** |
CN106576197A (zh) * | 2014-08-16 | 2017-04-19 | 索尼公司 | 用于认知受损者的逐场景的情节背景 |
CN108702551A (zh) * | 2016-02-19 | 2018-10-23 | 三星电子株式会社 | 用于提供视频的概要信息的方法和装置 |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7134074B2 (en) | 1998-12-25 | 2006-11-07 | Matsushita Electric Industrial Co., Ltd. | Data processing method and storage medium, and program for causing computer to execute the data processing method |
JP2001333353A (ja) * | 2000-03-16 | 2001-11-30 | Matsushita Electric Ind Co Ltd | データ処理方法および記録媒体、並びに該データ処理方法をコンピュータに実行させるためのプログラム |
US20020108112A1 (en) * | 2001-02-02 | 2002-08-08 | Ensequence, Inc. | System and method for thematically analyzing and annotating an audio-visual sequence |
US7432940B2 (en) | 2001-10-12 | 2008-10-07 | Canon Kabushiki Kaisha | Interactive animation of sprites in a video production |
KR100464076B1 (ko) * | 2001-12-29 | 2004-12-30 | 엘지전자 주식회사 | 동영상 비디오 브라우징 방법과 장치 |
JPWO2003088665A1 (ja) | 2002-04-12 | 2005-08-25 | 三菱電機株式会社 | メタデータ編集装置、メタデータ再生装置、メタデータ配信装置、メタデータ検索装置、メタデータ再生成条件設定装置、及びメタデータ配信方法 |
JP4228662B2 (ja) * | 2002-11-19 | 2009-02-25 | 日本電気株式会社 | 映像閲覧システムおよび方法 |
JP4218319B2 (ja) * | 2002-11-19 | 2009-02-04 | 日本電気株式会社 | 映像閲覧システムおよび方法 |
US8392834B2 (en) | 2003-04-09 | 2013-03-05 | Hewlett-Packard Development Company, L.P. | Systems and methods of authoring a multimedia file |
EP1538536A1 (en) | 2003-12-05 | 2005-06-08 | Sony International (Europe) GmbH | Visualization and control techniques for multimedia digital content |
TWI259719B (en) * | 2004-01-14 | 2006-08-01 | Mitsubishi Electric Corp | Apparatus and method for reproducing summary |
JP4525437B2 (ja) * | 2005-04-19 | 2010-08-18 | 株式会社日立製作所 | 動画処理装置 |
CN100455011C (zh) * | 2005-10-11 | 2009-01-21 | 华为技术有限公司 | 一种提供媒体资源预览信息的方法 |
US8301669B2 (en) | 2007-01-31 | 2012-10-30 | Hewlett-Packard Development Company, L.P. | Concurrent presentation of video segments enabling rapid video file comprehension |
JP5092469B2 (ja) * | 2007-03-15 | 2012-12-05 | ソニー株式会社 | 撮像装置、画像処理装置、および画像表示制御方法、並びにコンピュータ・プログラム |
US8238719B2 (en) | 2007-05-08 | 2012-08-07 | Cyberlink Corp. | Method for processing a sports video and apparatus thereof |
CN101753945B (zh) * | 2009-12-21 | 2013-02-06 | 无锡中星微电子有限公司 | 一种节目预览的方法和装置 |
US10679671B2 (en) * | 2014-06-09 | 2020-06-09 | Pelco, Inc. | Smart video digest system and method |
KR101640317B1 (ko) * | 2014-11-20 | 2016-07-19 | 소프트온넷(주) | 오디오 및 비디오 데이터를 포함하는 영상의 저장 및 검색 장치와 저장 및 검색 방법 |
KR102350917B1 (ko) * | 2015-06-15 | 2022-01-13 | 한화테크윈 주식회사 | 감시 시스템 |
US10409279B2 (en) * | 2017-01-31 | 2019-09-10 | GM Global Technology Operations LLC | Efficient situational awareness by event generation and episodic memory recall for autonomous driving systems |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3407840B2 (ja) * | 1996-02-13 | 2003-05-19 | 日本電信電話株式会社 | 映像要約方法 |
JPH1169281A (ja) * | 1997-08-15 | 1999-03-09 | Media Rinku Syst:Kk | 要約生成装置及び映像表示装置 |
JPH1188807A (ja) * | 1997-09-10 | 1999-03-30 | Media Rinku Syst:Kk | 映像ソフト再生方法、映像ソフト処理方法、映像ソフト再生プログラムを記録した媒体、映像ソフト処理プログラムを記録した媒体、映像ソフト再生装置、映像ソフト処理装置及び映像ソフト記録媒体 |
US5956026A (en) * | 1997-12-19 | 1999-09-21 | Sharp Laboratories Of America, Inc. | Method for hierarchical summarization and browsing of digital video |
AU2674499A (en) * | 1998-02-13 | 1999-08-30 | Fast Tv | Processing and delivery of audio-video information |
US6278446B1 (en) * | 1998-02-23 | 2001-08-21 | Siemens Corporate Research, Inc. | System for interactive organization and browsing of video |
-
2000
- 2000-09-22 KR KR10-2000-0055781A patent/KR100371813B1/ko not_active IP Right Cessation
- 2000-09-29 CN CN2008101619850A patent/CN101398843B/zh not_active Expired - Fee Related
- 2000-09-29 AU AU76892/00A patent/AU7689200A/en not_active Abandoned
- 2000-09-29 EP EP00966554A patent/EP1222634A4/en not_active Ceased
- 2000-09-29 CN CNB008147469A patent/CN100485721C/zh not_active Expired - Fee Related
- 2000-09-29 WO PCT/KR2000/001084 patent/WO2001027876A1/en not_active Application Discontinuation
- 2000-09-29 CA CA002387404A patent/CA2387404A1/en not_active Abandoned
- 2000-09-29 JP JP2001530817A patent/JP4733328B2/ja not_active Expired - Fee Related
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101127899A (zh) * | 2002-04-12 | 2008-02-20 | 三菱电机株式会社 | 提示信息描述方法 |
CN101127899B (zh) * | 2002-04-12 | 2015-04-01 | 三菱电机株式会社 | 提示信息描述方法 |
CN106576197A (zh) * | 2014-08-16 | 2017-04-19 | 索尼公司 | 用于认知受损者的逐场景的情节背景 |
CN104391960A (zh) * | 2014-11-28 | 2015-03-04 | 北京奇艺世纪科技有限公司 | 一种视频标注方法及*** |
CN108702551A (zh) * | 2016-02-19 | 2018-10-23 | 三星电子株式会社 | 用于提供视频的概要信息的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2001027876A1 (en) | 2001-04-19 |
KR100371813B1 (ko) | 2003-02-11 |
CN1382288A (zh) | 2002-11-27 |
EP1222634A1 (en) | 2002-07-17 |
EP1222634A4 (en) | 2006-07-05 |
JP4733328B2 (ja) | 2011-07-27 |
CA2387404A1 (en) | 2001-04-19 |
CN100485721C (zh) | 2009-05-06 |
CN101398843B (zh) | 2011-11-30 |
JP2003511801A (ja) | 2003-03-25 |
KR20010050596A (ko) | 2001-06-15 |
AU7689200A (en) | 2001-04-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101398843B (zh) | 用于浏览视频概要描述数据的设备及方法 | |
US7181757B1 (en) | Video summary description scheme and method and system of video summary description data generation for efficient overview and browsing | |
Dimitrova et al. | Applications of video-content analysis and retrieval | |
US10635709B2 (en) | Searching for segments based on an ontology | |
Money et al. | Video summarisation: A conceptual framework and survey of the state of the art | |
US8750681B2 (en) | Electronic apparatus, content recommendation method, and program therefor | |
US20010020981A1 (en) | Method of generating synthetic key frame and video browsing system using the same | |
KR100493674B1 (ko) | 멀티미디어 데이터 검색 및 브라우징 시스템 | |
CN101553814B (zh) | 用于产生视频数据流摘要的方法和设备 | |
US20070136755A1 (en) | Video content viewing support system and method | |
JP2001028722A (ja) | 動画像管理装置及び動画像管理システム | |
JP2006525537A (ja) | コンテンツ解析を用いて音楽ビデオを要約する方法及び装置 | |
CN102483742A (zh) | 用于管理因特网媒体内容的***和方法 | |
KR20010089605A (ko) | 오디오/데이터/시각 정보 선택을 위한 방법 및 장치 | |
US8931002B2 (en) | Explanatory-description adding apparatus, computer program product, and explanatory-description adding method | |
US20040181545A1 (en) | Generating and rendering annotated video files | |
CN101568968B (zh) | 用于创建已包括摘要和报道的视听文献的新摘要的方法以及可实现所述方法的接收器 | |
Barbieri et al. | Video summarization: methods and landscape | |
Dao et al. | A new spatio-temporal method for event detection and personalized retrieval of sports video | |
Hammoud | Introduction to interactive video | |
Manzato et al. | Multimedia content personalization based on peer-level annotation | |
US20140189769A1 (en) | Information management device, server, and control method | |
Li et al. | Bridging the semantic gap in sports | |
Smith et al. | Multimodal video characterization and summarization | |
Manzato et al. | Supporting multimedia recommender systems with peer-level annotations |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20111130 Termination date: 20140929 |
|
EXPY | Termination of patent right or utility model |