CN102216952B - 通过矩不变量的投影可靠地与媒体内容对应的媒体指纹 - Google Patents

通过矩不变量的投影可靠地与媒体内容对应的媒体指纹 Download PDF

Info

Publication number
CN102216952B
CN102216952B CN2009801453792A CN200980145379A CN102216952B CN 102216952 B CN102216952 B CN 102216952B CN 2009801453792 A CN2009801453792 A CN 2009801453792A CN 200980145379 A CN200980145379 A CN 200980145379A CN 102216952 B CN102216952 B CN 102216952B
Authority
CN
China
Prior art keywords
space
area
media
matrix
media content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2009801453792A
Other languages
English (en)
Other versions
CN102216952A (zh
Inventor
R·拉达克里希南
C·鲍尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dolby Laboratories Licensing Corp
Original Assignee
Dolby Laboratories Licensing Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dolby Laboratories Licensing Corp filed Critical Dolby Laboratories Licensing Corp
Publication of CN102216952A publication Critical patent/CN102216952A/zh
Application granted granted Critical
Publication of CN102216952B publication Critical patent/CN102216952B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/0028Adaptive watermarking, e.g. Human Visual System [HVS]-based watermarking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7847Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/005Robust watermarking, e.g. average attack or collusion attack resistant
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/435Computation of moments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Library & Information Science (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

媒体内容的一部分被访问。来自媒体内容的第一空间区域和各随后的空间区域的成分被采样。各空间区域具有未分割区。各随后的空间区域在其面积内包含作为其元素的那些区域,或者,空间区域可部分重叠。该区域可与区域之间的任何层级关系无关地重叠。从空间区域中的每一个的成分导出媒体指纹,该媒体指纹例如对于诸如旋转的几何攻击可靠地与媒体内容部分对应。

Description

通过矩不变量的投影可靠地与媒体内容对应的媒体指纹
相关申请的交叉引用
本申请要求在2008年11月17日提交的美国专利临时申请No.61/115442的优先权,在此引入其全部内容作为参考。
技术领域
本发明总体上涉及媒体。更具体而言,本发明的实施例涉及例如通过矩不变量的投影可靠地与媒体内容对应的媒体指纹。
背景技术
媒体内容是通过至少一种媒介被体现、存储、传送、接收、处理和使用的信息。例如,音频信息内容与音频媒体相关联,并且,视频信息内容与视频媒体相关联。视频媒体可具有相关联的音频信息内容以及视频信息内容,并由此至少有时可被视为音频/视觉(AV)媒体或所谓的多媒体、混合媒体、组合媒体等的例子。如文中使用的,术语“媒体内容”、“信息内容”和“内容”可以互换地使用。
媒体内容可与相应的表现(representation)相关联。媒体内容的一些表现可被从媒体内容的一部分内的信息或包含媒体内容的一部分的信息导出(例如,计算、提取)。媒体指纹体现或捕获相应媒体的信息内容的实质,并且可通过其被唯一地识别。有时称为媒体签名或媒体签名流的媒体指纹是媒体内容表现的一个例子。视频指纹是可从视频媒体内容导出的媒体指纹。音频(声学)指纹是可从音频媒体内容(包含在视频媒体内的音频媒体内容)导出的媒体指纹。如文中使用,术语媒体指纹可指的是可与它们相关联的或由其导出它们的媒体内容的低比特率表现。
在本部分中描述的方法是可寻求的方法,但未必是先前已被构想或寻求的方法。因此,除非另外指示,否则,不应当假定在本部分中描述的方法中的任一种仅由于被包含于本部分中而作为现有技术。类似地,除非另外指示,否则,关于一个或更多个方法被标识的事项不应基于本部分而被假定为在任何现有技术中被表示。
附图说明
在附图中作为例子而不是作为限制地示出本发明,并且在这些附图中,类似的附图标记指的是类似的元件,并且其中,
图1示出根据本发明的实施例的第一示例性过程;
图2A示出根据本发明的实施例的经剪裁(cropped)的帧的例子;
图2B示出根据本发明的实施例的示例性的经区域化(regionalized)的帧;
图2C示出根据本发明的实施例的另一示例性的经区域化的帧;
图3示出根据本发明的实施例的示例性矩阵矢量空间的基;
图4示出根据本发明的实施例的另一示例性过程;以及
图5示出可实现本发明的实施例的示例性计算机***平台。
具体实施方式
这里描述了与例如通过矩不变量的投影可靠地与媒体内容对应的媒体指纹有关的示例性实施例。在以下的描述中,出于解释的目的,阐述了大量的特定细节以便提供对于本发明的彻底理解。但是,很显然,可以在没有这些特定的细节的情况下实施本发明。在其它的情况下,为了避免不必要地使本发明变得模糊、混乱或不清楚,没有详尽无遗地描述公知的结构和器件。
描述了本发明的与例如通过矩不变量的投影可靠地与媒体内容对应的媒体指纹有关的示例性实施例。这里参照包含视频、图形和视听和其它多媒体的一种或多种示例性媒体来描述媒体指纹。可出于简洁的目的在本说明书中对示例性媒体进行选择,并且,除非相反地明确陈述,否则,不应将这种选择解释为将实施例限于特定的媒体。本发明的实施例很好地适于作用于视频、视听和其它多媒体、图形和其它媒体。而且,本发明的实施例很好地适于作用于可在两个或三个空间维度上被定向的显示视频和图形信息的视频媒体。
示例性实施例的概要
本概要给出本发明的实施例的一些方面的基本描述。应当注意,本概要不是实施例的各方面的广延或详尽的总结。并且,应当注意,本概要不应被理解为标识了实施例的任何特别重要的方面或要素,也不应被理解为特别地对于实施例的任何范围或总体上对于本发明进行划界。本概要仅以简洁的格式给出与示例性实施例有关的一些概念,并且仅应被理解为以下的对示例性实施例的更详细的描述的概念性序言。
媒体内容的一部分被访问。来自媒体内容的第一空间区域和各随后的空间区域的成分被采样。各空间区域具有未分割区。各随后的空间区域在其面积内包含作为其元素的那些区域,或者,空间区域可部分重叠。该区域可与可另外地或可构想地存在于空间区域之间的任何层级关系无关地重叠。从空间区域中的每一个的成分导出媒体指纹,该媒体指纹例如对于诸如旋转的几何攻击可靠地与媒体内容部分对应。
对于媒体内容序列中的内容部分的时间有关的组的媒体内容的一部分的初始表现,对于内容元素访问量化的能量值。在初始表现被划分成的区域的矩阵上访问量化的能量值。初始表现可被下采样到较低的分辨率并且可被从媒体内容部分剪裁。
根据本发明的实施例被计算(导出、提取)的媒体签名可靠地与由其导出它们的媒体内容部分对应。媒体指纹可由此被视为对于媒体内容的各种信号处理操作有适应力(resilient)的强健(robust)的内容部分标识符。根据实施例计算的媒体签名是可经受各种信号处理操作的媒体内容的基本上强健的标识符。一些这种信号处理操作可构成如媒体盗版中那样的可能被执行以在没有权利或授权的情况下访问内容的对媒体内容的攻击。信号处理也可以或者替代性地起因于各种合法的应用(例如,从其供工作室使用的视频片断制作电影预告以便推销电影)。信号处理功能可以一种或更多种方式改变媒体内容。
例如,媒体内容可通过经受诸如伸展、剪裁或旋转的几何畸变或干扰或诸如压缩、亮度缩放、空间缩放和诸如帧速率转换或慢速播出和/或再记录的时间操作的各种其它的信号处理操作。如文中使用的,术语媒体签名可指的是代表诸如视频或音频信号的时间离散分段(例如,组块(chunk))的内容部分的位流。示例性分段视频片断的实例可以各种状态存在。第一视频片断实例可相对于其原版实例具有天然的、基本上相同的、自然的或未处理的状态,并且可由此相对于它以基本上未压缩的格式存在。作为补充或者替代性地,相同的视频片断的第二实例可以相对于其原版实例为压缩状态,诸如来自基本与H.264/AVC-MPEG4或MPEG3编解码器相容的编码器的比特流。虽然表现内容和相关联的底层信号的实际比特流可对于未压缩和压缩的格式不同,但是,出于许多实际的目的,它们的相应的视频内容可被自然的、具有基本正常的精神视觉技能的人觉察为基本上相同。许多现代的音频编解码器也感知地起作用。
实施例用于从自身共享显著的类似性的相同媒体内容的未压缩的和压缩的格式或版本中的每一个计算(导出、提取)签名。由此计算的媒体签名可靠地捕获与它们对应的媒体内容的实质,并且对于可在内容数据上执行的各种信号处理操作基本上强健,这样从而保持和与它们相关联的内容的连续、强健的相关性。此外,根据实施例计算的签名对于诸如旋转和/或剪裁的几何攻击非常强健。
实施例可由此被使用以识别例如取得版权的视频片断的修改版本。例如,假定原版的取得版权的内容可能已被诸如压缩、亮度缩放、帧速率转换、几何畸变等的各种信号处理操作修改。但是,由其计算的签名和指纹在这样的处理操作中是强健的,因此,在其存在的情况下或者至少部分地响应它,强健地抵抗与从中导出该签名和指纹的内容的解相关。因此,实施例可以可靠地允许精确或准确地识别即使受到对于其的信号处理修改的原版的取得版权的内容。
例如,根据实施例导出、计算、提取或产生等的视频签名可用于可识别取得版权的视频片断的修改的版本的应用。取得版权的或另外被保护或保管的视频内容的原版实例可能已被诸如压缩、亮度缩放、帧速率转换、诸如旋转或剪裁的几何攻击等修改。根据实施例导出的签名对于在视频内容上执行的这种处理操作基本上强健。因此,即使在这种处理有关的修改之后,实施例仍允许可靠地识别原版的取得版权的内容。
示例性实施例通过将视频信号划分成可能重叠或可能不重叠的时间较小的组块对于输入视频信号起作用。对于视频数据组块中的每一个,特征被从其的底层内容导出并且代表其的底层内容。由其形成例如内容的相对低维度的比特流表现的签名。如文中使用的,与诸如视频组块的媒体内容部分有关的术语签名可指的是视频数据的组块的比特流表现。如文中使用的,术语视频指纹可指的是视频文件或其它内容部分的所有组块的所有签名的集合,并由此可相对于基本上整个输入视频信号应用。视频组块中的每一个的签名保持基本相似,即使可分别导出它们的内容部分实例经受到各种信号处理操作。因此,实施例至少部分地基于这样的相似性起作用,该相似性存在于从给定的媒体内容的各种实例导出(采样、提取、计算)的签名特征之间,而不管未压缩或被压缩。
常规的视频签名包含视频特征的提取以及由其的签名位的创建。初始地,单个视频帧典型地被分成诸如参照规格网格设置的矩形区域的区域。然后在各区域中的像素上计算统计量。但是,在原版视频帧和修改的视频帧之间可能存在例如对准偏移或其它变化的配准差异。配准偏移或变化可导致原版帧的区域内的内容和修改的帧的相应区域内的内容之间的差异。并且,从原版帧和修改的帧的各区域提取的特征可对于在表面上相应的区域中包含像素或从中排除像素敏感。
但是,本发明的实施例从诸如基本上同心的圆、椭圆或其它椭圆体区域的至少部分地重叠的帧区域提取诸如矩不变量的统计量。从中提取矩不变量或其它统计量的重叠帧区域提供了抵抗可在内容上或者针对内容执行的诸如旋转或剪裁的几何操作的强健性。例如,根据本发明的实施例导出的签名基本上捕获或表征跨越各帧区域或者在各帧区域上(例如从内部区域前进到外部区域(或者相反))诸如矩不变量的统计量如何改变。
命名、术语和示例性平台
如这里使用的那样,术语“媒体”(复数:“多个媒体”)可指的是用于数据和其它信息的存储或传送容器。如文中使用的,术语“多媒体”可以包含多种形式的信息的媒体。多媒体信息文件可例如包含音频、视频、图像、图形、文本、动画和/或其它信息以及它们的各种组合。如文中使用的,术语“关联信息”可指的是以一些方式与信息媒体内容相关的信息。关联信息可包含例如辅助内容。
如这里使用的那样,术语“导出”、“被导出”和“导出”等可指的是对媒体内容的信号成分采样和/或从采样计算其的独特的、相应的签名或指纹。诸如“提取”签名或指纹的术语因此也可指的是导出媒体指纹。
如文中使用的,术语“媒体指纹”可指的是媒体内容文件的表现,其是被从该媒体内容文件的特性成分导出的。媒体指纹被从与它们对应的媒体内容导出(例如,计算、提取、产生等)。如文中使用的,术语“视频指纹”可指的是以一定程度的特殊性与视频媒体相关联的媒体指纹(但是,视频指纹也可与其它的媒体相关联)。这里,在实施例中使用的媒体指纹可与视频、图像、图形、文本、动画视听和/或其它多媒体、其它媒体信息内容和/或它们的各种组合对应,并且,除了可以一定程度的特殊性与它们相关联的媒体以外,媒体指纹可涉及其它的媒体。媒体指纹也可与音频内容对应。如文中使用的,术语“音频指纹”或“听觉指纹”可指的是被从音频媒体内容的成分或特性导出的媒体指纹。
视频指纹可包含独特的数字视频文件,其成分被从视频内容的特性成分导出(例如,计算、产生、写、提取和/或压缩。可被压缩以形成与其对应的视频指纹的视频内容的被导出的特性成分可包含但不限于辉度或照度值、色度或色品值、运动估计、预测和补偿值等。
因此,虽然这里描述的媒体指纹表示从中导出该媒体指纹的媒体内容,但是,它们不包含可与媒体内容相关联的(例如,被添加的或者所具有的)元数据或其它的标签,并且(例如,出于这里的描述的目的并且在其上下文中)不与它们混淆。可以用比从中导出媒体指纹的媒体内容低的比特速率来传送媒体指纹。重要的是,如文中使用的,类似于“导出”、“产生”、“写”、“提取”和/或“压缩”的术语以及基本类似于“计算指纹”的短语因此可涉及从媒体内容部分获得媒体指纹,并且在本上下文中可被同义或互换地使用。
这些以及类似的术语因此可涉及媒体指纹与该媒体指纹的或和该媒体指纹相关联的源媒体内容的关系。在一个实施例中,媒体内容部分是媒体指纹的源,并且,媒体指纹基本上包含媒体内容的独特成分。例如,视频指纹可被从与视频内容的帧中的色度和/或辉度有关的值导出(例如,至少部分地包含该值)。视频指纹也可(或替代性地)包含诸如运动矢量和类似的运动相关描述符的与视频帧中的运动估计、预测或补偿有关的值。媒体指纹可由此用于唯一地表示、识别、参照或引用从中导出该媒体指纹的媒体内容部分。伴随地,文中的这些和类似的术语可被理解为强调媒体指纹与可出于标注或描述目的而被添加到内容中并且随后被从中提取的元数据、标签或其它描述符明显不同。在涉及衍生媒体内容的上下文中,术语“衍生”或“导出”可进一步涉及可表示可包含除媒体内容的原版实例以外的内容的媒体内容。
这里可关于示例性视频或其它图像相关媒体内容和与其相关联的视频指纹来描述示例性实施例。但是,本发明的实施例很好地适于作用于音频媒体和包含音频成分的多媒体以及与其相关联的音频(“声学”)指纹。音频指纹可被从音频媒体和包含音频的多媒体内容的成分或特性(诸如可与音频或多媒体内容相关联的音频谱)导出。涉及媒体和指纹识别的领域中的技术人员应理解,这里的描述虽然明确地陈述视频或其它的图像内容,但也适用于说明音频媒体和包含音频的多媒体。并且,媒体相关领域中的技术人员应清楚,这里与从视频帧成分导出媒体指纹有关的描述也适用于说明从音频媒体或包含音频的多媒体内容的音频谱或其它的成分或特性导出音频指纹。
示例性的媒体指纹的导出
本发明的实施例从诸如基本上同心的圆、椭圆或其它的椭圆体区域的至少部分地重叠的帧区域提取诸如矩不变量的统计量。从中提取矩不变量或其它的统计量的重叠帧区域提供了抵抗可在内容上或者针对内容执行的诸如旋转或剪裁的几何操作的强健性。例如,根据本发明的实施例导出的签名基本上捕获或表征跨越各种帧区域或者在各种帧区域上(例如,从内部区域前进到外部区域(或者相反))诸如矩不变量的统计量如何改变。
媒体序列内的内容可包含多个内容元素。视频媒体例如可包含多个视频帧。通过使用例如视频媒体,图1示出根据本发明的一个实施例的用于从媒体数据流提取内容特征的示例性过程100。在步骤101中,视频序列的帧随时间T流送,该时间T可被分成间隔Tint。一个或更多个间隔Tint可包含持续视频序列的一部分的持续时间的时间块Tchunk。各间隔Tint与包含运行间隔Tint的持续时间的视频内容的一部分的一组视频帧相关联。间隔Tint可例如从第一时刻j运行到第二时刻j+1。时刻j-1可在时刻j之前。因此,从时刻j-1到时刻j的间隔Tint可在从j到j+1的间隔Tint之前。
在步骤102中,在时间间隔Tint中的每一个上导出(例如,计算、提取)媒体指纹。可从最小帧速率转换因子导出间隔Tint,对于该最小帧速率转换因子媒体签名可期望可靠地与从中提取它们的原版媒体内容的帧对应。例如,在原视频序列的速率为30帧每秒(fps)并且其视频指纹期望对于下降到12fps的帧速率转换可靠地与原帧内容对应的情况下,视频指纹可每十二分之一秒被提取;因此,Tint=1/12秒。应当理解,实施例可基本无限制地作用于任何给定的媒体元素速率(例如,视频帧速率)或其范围。视频帧Fj表示对于时间步j最接近的视频帧。由此基于来自帧Fj(例如,其成分)的特征导出(计算、提取)时间步j的签名。
在步骤103中,帧Fj被下采样到基准空间分辨率。例如,帧Fj可被下采样到120*160的基准空间分辨率。下采样到基准空间分辨率用于允许实施例有效地处理可与视频内容的实例相关联的空间分辨率中的变化。在保持纵横比的情况下,原版视频和经空间缩放的视频的配准也被保持。
在步骤104中,执行输入帧Fj的信盒(letterbox)检测和去除,从中剪裁子图像。信盒检测可包含搜索帧以寻找相对强的水平边缘,以及帧的顶部(底部)中的具有大致或基本上恒定的强度(例如,照度,辉度)的帧区域。检测到的信盒被去除。剩余的帧的有效区域(例如,在信盒被去除之后)被上采样到选择的基准空间分辨率(例如,120*160)。并且,从被下采样的帧Fj图像剪裁出子图像。
图2A示出根据本发明的实施例的被从视频媒体内容的帧剪裁出的区域200的例子。剪裁出的子图像区域可被选择,以允许诸如文本的特征覆盖在原版图片的一部分中和/或图形、标识或符号置于帧的特定区域中(诸如接近帧的拐角部)。在选择的区域不包含新的图形内容的情况下,经处理的视频的指纹可靠性未受到显著影响。经处理的内容的帧被表示为Fc j。在步骤104中剪裁的区域200可实际上符合任何形状。在一个实施例中剪裁的区域可符合基本为椭圆体的或卵形的形状,例如圆形区域(或者例如椭圆形或卵形区域),以支持对于基于旋转的和/或其它的几何攻击的强健性。
在步骤105中,对帧Fc j的内容执行低通滤波操作。对帧Fc j低通滤波用于提高从中导出(提取、计算)的签名特征的强健性。对帧Fc j低通滤波的程度可使与签名相关联的强健性与处理和其它的计算成本以及与对内容的敏感性平衡。经低通滤波的图像帧由FL j表示。例如可通过使用当前(例如基准)像素的3*3(或大致类似尺寸或配置的)邻居的平均值实现相对简单的低通滤波。作为替代地或者附加地,可基于输入帧的分析选择低通滤波的程度。例如,可以使用少量的低通滤波,以在例如具有大量详细的、信息丰富的特征的明显复杂的帧中保留敏感性。相反,可以对于具有较不复杂或者较不详细的信息的帧使用较高程度的低通滤波。并且,参照步骤105描述的低通滤波可以是任选的或者在实施例中被省略。
经低通滤波的图像FL j捕获像素的空间配置(例如,当前视频帧中的图像对象或特征)。在步骤106中,可通过差值实例(例如差值图像Dj)捕获涉及与视频帧内容中的图像对象或特征相关联的运动有关的信息。可根据下式1计算差值图像Dj
D j ( k , l ) = Q j ( k , l ) - F j L ( k , l )
k=1,2...H;l=1,2...W;
                          (式1)
在上式1中,W表示经低通滤波的帧FLj的宽度并且H表示高度。在示例性(120*160)空间分辨率中,分别地,W与值160对应,H与值120对应。项Qj表示时间平均图像,该时间平均图像被从例如时间T到目前(例如,当前)时刻j的先前解码的帧的时间窗口进行平均,在步骤108中通过像素值计算出,该帧可在步骤107中被存储于帧缓冲器中。
可根据下式2计算与时间平均图像Qj对应的值。
Q j ( k , l ) = 1 T Σ i = j - T j F i L ( k , l )
k=1,2...H;l=1,2,,,W;
                           (式2)
通过将差值图像Dj计算为当前帧FLj和时间平均图像(Qj)之间的差值提供了对于帧速率转换的适应力(例如,强健性),通过该帧速率转换可攻击视频内容。使用时间平均图像Qj防止对于单个帧的依赖性。在步骤108中计算时间平均图像并在步骤106中计算差值图像时,产生两个解矩阵,从该解矩阵导出(例如,计算,提取)签名特征。第一矩阵FLj实质上捕获(例如,表示)当前解码的帧(FLj)的表观。第二矩阵Dj捕获与当前帧(Dj)相关的运动方面。在步骤109和110中,在当前解码的帧、与其对应的矩阵FL j中的值和运动映射的当前帧Dj中的每一个中产生多个区域。
在步骤109中,计算与矩阵FL j和Dj对应的未分割的、不完全地重叠的空间区域。未分割的、不完全重叠的空间区域可实际上符合或基本上符合任何配置或形状等。例如,未分割的、不完全重叠的空间区域可符合圆形或基本圆形、椭圆形或基本椭圆形、椭圆体或基本椭圆体、卵形或基本卵形的配置或形状等。
作为替代方案,或者在一些条件或在一些上下文中,未分割的、不完全重叠的空间区域可符合除圆形、椭圆形、椭圆体、卵形或基本圆形、椭圆形、椭圆体或卵形之外的配置或形状等。例如,未分割的、不完全重叠的空间区域可至少部分地符合或基本上符合矩形或其它的多边形配置。
未分割的、不完全重叠的空间区域可具有可实际上符合任何配置或取向的由外部圆周、轮廓或边界等为界的内部区。例如,外部圆周和其它的轮廓或边界中的至少一部分可弯曲。作为替代方案,或者,在某些条件或环境下,外部边界或轮廓可具有一个或更多个基本呈直线的边缘。
图2B示出根据本发明的实施例的经区域化的帧210的例子。经区域化的帧210实质上表示划分成多个未分割的区域的剪裁的帧区域200。未分割的区域至少部分地重叠。此外,未分割的区域可共享一个或更多个几何相似性、元素或关系。帧210可具有任意正整数‘N’个区域,第一区域R1为最内部区域,区域RN为最外部区域。在与图2B有关的示例性实施例中,N=5,并且帧210表示分成分别具有半径r1、r2、...、r5的五(5)个同心的、圆形或基本上圆形的、未分割的区域R1、R2、...、R5。未分割的区域中的每一个包含(例如,包括、包容)与其重叠的其它未分割的区域。实施例还可作用于符合除圆形配置之外的配置的区域。
如文中使用的,术语‘未分割’可指的是一致性、连续性、完整性、非分离性、区域同一性、分区单一性或空间均匀性等的质量或特性。例如,区域R1包含其内部没有划分或分区化的单个、单一区。类似地,区域R2~R5中的每一个包含在它们内部没有划分或分区化的单个、单一区。这里参照诸如区域R1~R5的区域或者在该区域的上下文中使用的术语“内部”可涉及存在于该区域的圆周、外部轮廓或外部边界内的空间质量或特性。
区域R5包含其内部没有划分或分区化的π(r5)2的未分割的面积。区域R5的半径r5比区域R4的半径r4大。并且,半径r4包含半径r5的成分。例如,r5=r4+(r5-r4)。区域R4不完全地覆盖区域R5并且包含区域R5的成分。因此,区域R5包含(例如,包括、包容)区域R4的全体。
区域R4包含其内部没有划分或分区化的π(r4)2的未分割的面积。区域R4的半径r4比区域R3的半径r3大。并且,半径r3可包含半径r4和r5两者的成分。例如,r4=r3+(r4-r3)和r5=[r3+(r4-r3)]+(r5-r4)。
区域R3包含其内部没有划分或分区化的π(r3)2的未分割的面积。区域R3不完全地覆盖区域R4,并由此还不完全地覆盖区域R5并且包含区域R4和区域R5两者的成分。因此,区域R4包含(例如,包括、包容)区域R3的全体,并且区域R5包含区域R4和区域R3两者的全体。
区域R2包含其内部没有划分或分区化的π(r2)2的未分割的面积。区域R3的半径r3比区域R2的半径r2大。并且,半径r2可包含半径r2、r4和r5的成分。例如,r3=r2+(r3-r2)和r5=[r2+(r3-r2)]+[r3+(r4-r3)]+[r4+(r5-r4)]。区域R2不完全地覆盖区域R3并由此也不完全地覆盖区域R4和区域R5的一部分,并且包含区域R3、R4和R5的成分。因此,区域R2包含区域2的全体,区域R4包含区域R2和R3的全体,并且,区域R5包含区域R2、R3和R4的全体。
区域R1包含其内部没有划分或分区化的π(r1)2的未分割的面积。区域R2的半径r2比区域R1的半径r1大。并且,半径r1包含半径r2、r3、r4和r5的成分。例如,r2=r1+(r2-r1)和r5=[r1+(r2-r1)]+[r2+(r3-r2)]+[r3+(r4-r3)]+[r4+(r5-r4)]。区域R1不完全地覆盖区域R2并由此也不完全地覆盖区域R3、R4和R5,并且包含区域R2、R3、R4和R5的成分。因此,区域R2包含区域1的全体,区域R3包含区域R1和R2的全体,区域R4包含区域R1、R2和R3的全体,并且,区域R5包含区域R1、R2、R3和R4的全体。
帧210可包含具有除圆形或基本圆形的配置以外的配置的未分割的区域。在一个实施例中,未分割的区域可基本上符合椭圆形、椭圆体、卵形或卵圆形配置。在一个实施例中,帧210的区域可符合除基本同心的配置以外的配置。在一个实施例中,帧210可包含具有符合除弯曲表面以外的表面的一个或更多个轮廓的一个或更多个区域。例如,一个或更多个轮廓可符合基本直的边缘。
图2C示出根据本发明的实施例的帧250的例子。帧250包含五(5)个未分割的区域R1′、R2′、R3′、R4′和R5′。帧250的区域中的每一个的轮廓基本上是直的。区域R1′与区域R2′水平相邻,并且与区域R3′垂直相邻。区域R2′与区域R1′水平相邻,并且与区域R4′垂直相邻。区域R3′与区域R4′水平相邻,并且与区域R1′垂直相邻。区域R4′与区域R3′水平相邻,并且与区域R2′垂直相邻。
区域R1′~R4′中的每一个的面积可基本上相等(但未必如此)。区域R5′覆盖区域R1′~R4′中的每一个的一部分。区域R1′~R4′中的每一个的由区域R5′覆盖的部分可基本上相等(但未必如此)。区域R5′的面积可与其它区域的面积一致。作为替代方案或者附加地(例如,根据各种上下文或条件),区域R5′的面积可与其它的区域不同。
在一个实施例中,虽然区域R1′、R2′、R3′、R4′和R5′中的每一个与该区域中的一个或更多个其它区域具有重叠关系,但是区域与层级关系无关地重叠,例如该区域可另外通过该层级关系被布置、排列、相关联以及相关。例如,区域R1′、R2′、R3′、R4′和R5′中的每一个可通过与区域中的一个或更多个其它区域的重叠但不分层级的关系实现。
虽然实施例可作用于图2B或图2C中所示的未分割的帧区域,但是这里示出的配置作为例子被给出。应当理解,实施例不限于在图2B和图2C中示出的配置。相反,本发明的实施例很好地适于作用于实际上任何配置的未分割的帧区域。例如,实施例可作用于如图2C所示的具有符合除弯曲表面以外的表面的轮廓的未分割的区域。
从具有弯曲轮廓(诸如图2B中的区域R1~R5的基本圆形轮廓)的未分割的帧区域导出的签名可在可在处理中发生的旋转和其它几何操作下基本上不变。因此,作用于具有弯曲轮廓的未分割的帧区域的实施例可计算这样的媒体指纹,该媒体指纹可靠地与媒体对应并且对于几何攻击具有显著的强健性和适应力。
重新参照图2B,也可根据下式3A~3B中所示的准则导出区域的半径。
πr 1 2 = π ( r 2 2 - r 1 2 )
πr 1 2 = π ( r 3 2 - r 2 2 )
πr 1 2 = π ( r 4 2 - r 3 2 )
πr 1 2 = π ( r 5 2 - r 4 2 )
(式3A、3B、3C、3D)
在式3A~3D中表示的准则允许在从区域R1向外前进至R5期间的面积增量保持等于第一区域R1的面积。例如,区域R5的面积为区域R1的面积的五(5)倍。类似地,区域R4、R3和R2的面积分别为区域R1的面积的四(4)倍、三(3)倍和二(2)倍。因此,一般在第n(‘n’为任意正整数)个区域的半径rn和第一区域R1的半径(r1)之间存在简单的关系,并可在下式(4)中表达该关系。
r n = n r 1
(式4)
任何区域RN包含其内部的所有区域,例如,内部区域RN-1、...、R2、R1。区域RN也具有等于区域R1的面积的面积增量。与存在于区域中的每一个内的视频图像或音频谱对应的媒体内容在任意量的旋转或其它的几何操作或变化上保持基本上不变。
在步骤110(重新参照图1)中,从与矩阵FL j和Dj相关联的未分割的、不完全重叠的空间区域的成分计算矩不变量。在一个实施例中,从‘N’个区域中的每一个提取‘M’个特征。从被指示为FM j的矩阵FL j的区域导出特征矩阵。特征矩阵FL j具有尺寸H×W,并且FM j具有尺寸N×M。关于这些尺寸,术语‘H’和‘W’分别表示或对应于经下采样的视频帧的高度和宽度,并且,术语‘N’和‘M’分别表示区域的数量和从各区域提取的特征的数量。类似地,还从矩阵Dj的‘N’个区域提取‘M’个特征,以产生特征矩阵Dj M。从矩阵导出的媒体指纹的强健性至少部分地基于从N个区域中的每一个提取的M个特征的强健性。例如,从矩阵计算的指纹的强健性可至少部分地依赖于被提取的特征对于旋转操作的适应力,这可包含对于媒体内容的几何攻击的特征。
在实施例中,从N(例如,5个)区域计算一组七个(或其它数量的)矩不变量作为特征。该组矩不变量包含对于平移、旋转和比例变化攻击强健的图像表面的实质上全局的量度。在一个实施例中,从N个区域中的每一个计算矩不变量。可根据下式5计算一组非中心矩(mpq)。
m pq = Σ x Σ y x p y q F j L ( x , y )
(式5)
例如,计算的一组非中心矩mpq可包含矩m00、m01、m10、m11、m02、m20、m12、m21、m03和m30。矩m00~m30包含具有例如小于等于三(3)的p+q的阶数的一组非中心矩。对于图像Fj L的区域RN内的所有x,y位置执行由上式5表示的计算。项Fj L(x,y)表示与区域RN内的(x,y)处的像素相关联的强度值。
可根据下式6从非中心矩mpq计算一组的中心化的矩μpq
μ pq = Σ x Σ y ( x - x ‾ ) p ( y - y ‾ ) q F j L ( x , y )
x ‾ = m 10 m 00
y ‾ = m 01 m 00
μ00=m00
μ10=μ01=0
μ 20 = m 20 - x ‾ m 10
μ 02 = m 02 - y ‾ m 01
μ 11 = m 11 - y ‾ m 10
μ 30 = m 30 - 3 x ‾ m 20 + 2 m 10 x ‾ 2
μ 03 = m 03 - 3 y ‾ m 02 + 2 m 01 y ‾ 2
μ 12 = m 12 - 2 y ‾ m 11 - x ‾ m 02 + 2 m 10 y ‾ 2
μ 21 = m 21 - 2 x ‾ m 11 - y ‾ m 20 + 2 m 01 x ‾ 2
(式6)
可根据下式7将中心化的矩μpq规格化。
η pq = μ pq μ 00 γ
γ = p + q 2 + 1 ; p + q = 2,3 . . .
(式7)
可从组合的规格化的中心矩ηpq计算矩不变量。例如,可根据下式8从规格化的中心矩ηpq的组合计算七个矩不变量Φ1、Φ2、...、Φ7
[在P.22处继续描述]
φ1=η2002
φ 2 = ( η 20 - η 02 ) 2 + 4 η 11 2
φ3=(η30-3η12)2+(3η2103)2
φ4=(η3012)2+(η2103)2
φ5=(η30-3η12)(η3012)
      [(η3012)2-3(η2103)2]
         +(3η2103)(η2103)
                 [3(η3012)2-(η2103)2]
φ6=(η0202)
            [(η3012)2-(η2103)2]
                      +4η112103)(η1230)
φ7=(3η2103)(η3012)
            [(η3012)2-3(η2103)2]
              +(3η1230)(η2103)
                       [3(η3012)2-(η2103)2]
                               (式8)
可从矩阵Fj M的行对于各区域计算矩不变量Φ1、Φ2、...、Φ7。在示例性实现中,H=120,W=160,N=5并且N=7:具有五(5)个未分割和不完全重叠的同心区域和七(7)个矩不变量的120*160帧。
步骤110类似地包含根据式5、式6、式7和式8对输入图像Dj进行计算以产生矩阵Dj M
例如根据上式6计算的区域RN的非中心矩mpq可以以递增的方式被计算。例如,由于已在先被计算,因此在区域RN内并不完全地覆盖RN的未分割区域RN-1的非中心矩可能是可用的。例如,如以上参照图2B描述的那样,区域RN包含区域RN-1的全体。因此,可通过根据下式9执行的计算来实现用于计算区域RN的矩mpq的上式6的函数。
m pq = Σ x Σ y x p y q F k L ( x , y ) + Σ k Σ l k p l q F j L ( k , l )
x,y∈RN-1
k,l∈RN
        (式9)
上式9中的第一项表示区域RN-1的非中心矩。因此,在计算最内部的未分割的区域R1的非中心矩之后,可根据上式9通过对于外部区域RN执行的计算以递增的方式计算区域R1外面的随后区域的矩。在实施例中,例如,对于重叠区域执行特征的递增计算,这允许对于特定区域执行的计算作为杠杆以用于计算该特定区域可能作为其的成分的如文中参照图2B描述的区域的统计量。
因此,可从N个区域中的每一个计算矩不变量作为M个特征。作为替代方案或者附加地,例如通过使用包含N个区域中的每一个内的‘M’个区段的颜色/强度直方图,实施例由具有色品(或色度)有关和照度(或辉度)有关值从每个区域计算特征。N×M颜色/强度直方图在诸如旋转的几何操作下也是不变的。因此,通过其计算的媒体指纹对于几何攻击也是强健的。一个实施例用于从各区域计算对于这样的处理操作不变的M个特征,在该处理操作下希望指纹强健。
在步骤112中,在矩阵Fj M和Dj M上计算变换。输入的矩阵Fj M和Dj M均表示从各区域提取的特征可如何随着采样或计算从最内部区域R1进行到最外面的区域RN而改变。在一个实施例中,矩阵Fj M和Dj M的列通过它们投影到一组基本矢量上被变换,以分别产生变换的矩阵Fj T和Dj T。该组基本矢量基本上直接捕获图像的特征可如何随着采样或计算从最内部区域R1进行到最外面的区域RN而改变。
在一个实施例中,通过包含数量‘J’个矩阵F1 M、F2 M、...、FJ M的训练组的集合计算基本矢量。计算具有N*J的尺寸的矩阵V。从训练组F1 M、F2 M、...、FJ M中的各矩阵的特定列(例如,第一列)导出矩阵V的列。计算矩阵V中的各列的均值。在矩阵V上计算的各列的均值被从相应的列的元素减去。计算矩阵V的列空间的基本矢量B1、B2、...、BJ。在实施例中,通过使用奇异值分解(SVD)或非负矩阵因子分解将矩阵V进行因子分解。
图3示出根据本发明的实施例的示例性矩阵矢量空间的基300。基400包含尺寸5*6000上的矩阵V的列空间的基,其中,N=5和J=6000。参照图2B,基400由此在训练组中的6000个例子上捕获从区域R1到区域R5的特征的变化。
基本矢量可捕获不同的图案。例如,基本矢量B1捕获特征的实质上单调增加的图案。因此,对于具有这种单调增加的图案的特征矩阵Fj M中的特征,投影到基本矢量B1上的值可能会超过其上面的其它特征的投影的值。因此,通过用基400变换矩阵Fj M和Dj M的列,可直接从R1到RN直接捕获特征变化的图案。实施例捕获特征可如何跨越不同的区域(不限于例如参照图2C描述的同心圆配置)改变。并且,捕获特征可如何跨越不同的区域改变与在区域中的每一个中正在提取什么特征无关。实施例使用矩阵矢量空间的基,每一个基包含与多个视频帧中的每一个对应的列值,这有效地捕获会随时间发生的特征变化。
在步骤113和114中,分别从矩阵Fj M和Dj M产生签名位。产生签名位可包含在矩阵Fj M和Dj M两者中的值上执行的相同的、基本上相同的或类似的变换计算。出于与简化、简洁和简要有关的目的,由此参照Fj M描述位提取。但是,与这里描述的示例性实施例有关的领域的技术人员应理解,该描述可同样地应用于在与矩阵Dj M相关的值上计算签名位。
实施例可通过创建可具有与矩阵Fj T相同的尺寸的K个伪随机矢量P1、P2、...、PK来产生签名位。根据下式10,矩阵Fj T可被投影到具有与矩阵Fj T相同的尺寸的一组K1矢量上。
H k = Σ i = 1 M 1 Σ j = 1 M 2 ( Q ( i , j ) * P k ( i , j ) )
(式10)
矩阵Q包含矩阵Fj T或矩阵Dj T中的一个或更多个。术语M1表示与每个区域的特征的群体数(population)对应的数量‘M’。术语M2表示这里使用的可表示内部未分割区域的数量的数量‘N’。可通过将对K1投影应用阈值来导出签名位。
在步骤115和步骤116中,分别从变换后的矩阵Fj M和矩阵Dj M创建散列位。图4示出用于基于伪随机矢量上的投影产生散列位的过程400,本发明的实施例可通过该过程起作用。基于一组K1个矢量P1、P2、...、PK1的投影可捕获矩阵Fj T的不同的方面。例如,如果K1个矢量中的任两个是类似的,那么K1个位中的两个位可以是相同的(或者基本上如此)。因此,可以使用K1个矢量的正交基组。作为替代方案或者附加地,在一些条件或环境下或者在某些上下文或使用中,可以使用一组K1个伪随机矢量。例如,假定K1个伪随机矢量P1、P2、...、PK1大致相互正交。可基于矩阵Q在K1个伪随机矢量P1、P2、...、PK1上的投影从Fj T创建K1个散列位。类似地,从Dj T位创建K2个散列位。该投影步骤减少了矩阵Fj T或矩阵Dj T的维度,并从该矩阵产生位。注意,伪随机矩阵不被低通滤波以使得它们平滑化,并且这有助于各Pi从输入的矩阵Q捕获独立的信息。也可通过使用训练数据组优化伪随机矩阵,以帮助拾取捕获独立的信息的一组伪随机矩阵。
可通过对K1个投影应用阈值来导出签名位。在一个实施例中,基于伪随机矢量上的投影产生散列位。基于一组K1个矢量P1、P2、...、PK1的投影可捕获矩阵D的不同的方面。例如,如果K1个矢量中的任两个是类似的,那么K1个位中的两个位是相同的。因此,可以使用K1矢量的正交基组。作为替代方案,可以使用一组K1个伪随机矢量,因为假定K1个伪随机矢量大致相互正交。
可基于K1个伪随机矢量上的Hadamard乘积投影H1、H2、...、HK1从Q产生K1个散列位。对于从1到K1的数i,如果Hi比H1、H2、...、HK1的中值大,那么第i个签名位可被设为值‘1’。但是,在Hi不比H1、H2、...、HK1的中值大的情况下,相应的签名位可被设为值‘0’。以基本上类似的方式,从Vr个位创建K2个散列位。
在例如为了比较或参照相应的原版视频内容的指纹而从修改的视频内容重新产生视频指纹时,诸如Tchunk、空间区域的数量、每个区域提取的特征的数量和/或伪随机矩阵的参数的值可基本上不变。
在步骤114中,创建媒体指纹。媒体指纹具有K1+K2位的长度,并且包含来自Fj M或Dj M的两组散列位的连结。用于产生K1个散列位的伪随机矩阵和用于产生K2个散列位的伪随机矩阵可不同。(在示例性实现中,K1和K2被设为值18。)
示例性实现平台
可通过计算机***、以电子电路和部件配置的***、集成电路(IC)器件(诸如可编程逻辑器件(PLD)、例如微控制器、场可编程门阵列(FPGA)或专用IC(ASIC))实现诸如过程100和400(分别地,图1、图4)的一部分的本发明的实施例。作为替代方案或者附加地,可通过包含这些***、器件或部件中的一个或更多个的装置实现本发明的实施例。在与其一起提交的其附录中的一个或更多个中描述可实施本发明的实施例的示例性平台,在此并入该附录作为参考。
图5示出可实施本发明的实施例的示例性计算机***平台500。计算机***500包含用于传送信息的总线502或其它的通信机构,以及与总线502耦合的用于处理信息的处理器504。计算机***500还包含与总线502耦合的用于存储要由处理器504执行的信息和指令的诸如随机存取存储器(RAM)或其它的动态存储器件的主存储器506。主存储器506还可被用于在要被处理器504执行的指令的执行中存储临时变量或其它的中间信息。计算机***500还包含与总线502耦合的用于存储用于处理器504的静态信息和指令的只读存储器(ROM)508或其它的静态存储器件。诸如磁盘或光盘的存储设备510被提供并与总线502耦合以用于存储信息和指令。
计算机***500可通过总线502与用于向计算机用户显示信息的诸如液晶显示器(LCD)、阴极射线管(CRT)或等离子显示器等的显示器512耦合。用于向处理器504传送信息和命令选择的包含文字数字和其它的键的输入设备514与总线502耦合。另一类型的用户输入设备是用于向处理器504传送方向信息和命令选择并用于控制显示器512上的光标移动的诸如鼠标、跟踪球或光标方向键的光标控制516。该输入设备典型地在两个轴、即第一轴(例如,x)和第二轴(例如,y)中具有两个自由度,允许设备指定平面内的位置。
本发明的实施例可涉及用于导出例如通过矩不变量的投影可靠地与媒体内容对应的媒体指纹的计算机***500的应用。根据本发明的实施例,响应于处理器504执行包含于主存储器506中的一个或更多个指令的一个或更多个序列,由计算机***500提供通过远程对象重写询问。这些指令可从诸如存储设备510的另一计算机可读媒体被读入主存储器506中。包含于主存储器506中的指令的序列的执行导致处理器504执行这里描述的处理步骤。也可使用多处理配置中的一个或更多个处理器以执行包含于主存储器506中的指令的序列。在替代性实施例中,作为软件指令的替代或者与其组合,可以使用硬接线电路以实现本发明。因此,本发明的实施例不限于硬件电路和软件的任何特定组合。
这里使用的术语“计算机可读介质”或“计算机可读存储介质”可涉及参与向处理器504提供用于执行的指令的任何介质。这种介质可采取任何形式,包括但不限于非易失性介质、易失性介质和传送介质。非易失性介质包含例如诸如存储设备510的光盘或磁盘。易失性介质包含诸如主存储器506的动态存储器。传送介质包含共轴线缆、铜线或其它的导体和光纤,包括包含总线502的导线。传送介质也可采取声波或光波的形式,诸如在无线电波和红外数据通信中产生的声波或光波。
一般形式的计算机可读介质包含例如软盘、柔性盘、硬盘、磁带或任何其它的磁性媒体、CD-ROM、任何其它的光媒体、穿孔卡片、纸带、任何其它的传统的或具有孔的图案的其它的物理媒体、RAM、PROM和EPROM、FLASH-EPROM、任何其它的存储器芯片或盒、后面描述的载波或计算机可读取的任何其它的媒体。
各种形式的计算机可读介质可涉及将一个或更多个指令的一个或更多个序列携带到处理器504以供执行。例如,可初始地在远程计算机的磁盘上承载指令。远程计算机可将指令加载到其动态存储器中并通过使用调制解调器在电话线上发送指令。计算机***500本地的调制解调器可在电话线上接收数据,并且使用红外传送器以将数据转换成红外信号。与总线502耦合的红外检测器可接收在红外信号中承载的数据并在总线502上放置数据。总线502将数据携带到主存储器506,处理器504从该主存储器506检索和执行指令。由主存储器506接收的指令可任选地在被处理器504执行之前或之后被存储于存储设备510上。
计算机***500还包含与总线502耦合的通信接口518。通信接口518向与局域网522连接的网络链接520提供双向数据通信耦合。例如,通信接口518可以是提供与相应类型的电话线的数据通信连接的综合业务数字网(ISDN)卡或数字用户线路(DSL)、电缆或其它的调制解调器。作为另一例子,通信接口518可以提供与兼容LAN的数据通信连接的局域网(LAN)。也可以实现无线链接。在任何这种实现中,通信接口518发送和接收承载代表各种类型的信息的数字数据流的电信号、电磁信号或光信号。
网络链路520典型地通过一个或更多个网络向其它的数据设备提供数据通信。例如,网络链路520可通过局域网络520向主机计算机524或向由因特网服务提供商(ISP)526操作的数据设备提供连接。ISP 526继而通过现在通常称为“因特网”528的世界信息包数据通信网络提供数据通信服务。局域网522和因特网528均使用承载数字数据流的电信号、电磁信号或光学信号。承载去往和来自计算机***500的数字数据的通过各种网络的信号以及网络链路520上的并且通过通信接口518上的信号是传送信息的载波的示例性形式。
计算机***500可通过网络、网络链路520和通信接口518发送消息并接收包含程序代码的数据。在因特网例子中,服务器530可通过因特网528、ISP 526、局域网522和通信接口518传送对于应用程序请求的代码。根据本发明,一种这种下载的应用提供这里描述的导出例如通过矩不变量的投影可靠地与媒体内容对应的媒体指纹。接收的代码可在被接收时被处理器504执行,并且/或者被存储在存储设备510或其它的非易失性存储器中以供以后的执行。这样,计算机***500可以以载波的形式获得应用代码。
等同物、扩展、替代方案和混合
因此,描述了涉及例如通过矩不变量的投影可靠地与媒体内容对应的媒体指纹的示例性实施例。在以上的说明书中,参照可因实现而改变的大量的具体细节描述了本发明的实施例。因此,什么是本发明以及申请人意图成为本发明的唯一且排他的指示是一组权利要求,该组权利要求以发布这样的权利要求的特定形式从本申请发布,包含任何随后的校正。这里对于包含于这些权利要求中的术语明确阐述的任何定义应主导在权利要求中使用的这些术语的意思。由此,在权利要求中没有明确陈述的限制、元素、性能、特征、优点或属性不应以任何的方式限制这些权利要求的范围。因此,说明书和附图应被视为解释性的而不是限制性的。
本发明的实施例可涉及下列的示例性实施例中的一个或更多个。
1.一种方法,包括以下的步骤:
访问媒体内容的一部分;
从媒体内容的第一空间区域采样一个或更多个成分,
其中,第一空间区域包含未分割区;
从媒体内容的第二空间区域采样一个或更多个成分,
其中,第二空间区域包含未分割区;
第一空间区域包含第二空间区域的元素;和
从第一和第二空间区域的成分导出媒体指纹,
其中,媒体指纹可靠地与媒体内容部分对应。
2.如列举的示例性实施例1描述的方法,还包括以下的步骤:
从媒体内容的第N个空间区域采样一个或更多个成分,
其中,第N个空间区域包含未分割区,并且,
第二空间区域包含第N个空间区域的元素;和
从第一、第二和第N个空间区域的成分导出媒体指纹。
3.如列举的示例性实施例2或列举的示例性实施例中的一个或更多个描述的方法,其中,N包含具有大于二(2)的值的整数。
4.如列举的示例性实施例3描述的方法,还包括以下的步骤:
从具有与具有值(N-1)的整数对应的序数身份的媒体内容空间区域采样一个或更多个成分,
其中,与整数(N-1)对应的空间区域包含未分割区,并且,
其中,与整数(N-1)对应的空间区域包含第N个空间区域的元素;以及
从第一、第二和第N个空间区域以及与整数(N-1)对应的空间区域的成分导出媒体指纹。
5.如列举的示例性实施例1描述的方法,其中,第一空间区域和第二空间区域均符合类似的配置。
6.如列举的示例性实施例5描述的方法,其中,类似的配置包含类似的几何形状。
7.如列举的示例性实施例6描述的方法,其中,第一空间区域不完全地覆盖第二空间区域。
8.如列举的示例性实施例6或7的一个或更多个描述的方法,其中,第一空间区域基本上相对于第二空间区域居中。
9.如列举的示例性实施例3描述的方法,其中,配置包含椭圆体或卵形体中的至少一种。
10.如列举的示例性实施例9描述的方法,其中,椭圆体符合圆形或椭圆形配置,并且,
圆形配置的第一空间区域;或
椭圆形配置的第一空间区域的长轴或短轴中的一个或更多个
的中心基本上与媒体内容部分的中心对准。
11.如列举的示例性实施例1~10中的一个或更多个描述的方法,其中,第二到第N个空间区域中的一个或更多个包含基本上在空间上与其叠合的第一空间区域的空间投影,其中,第一和第二到第N个空间区域基本上相互同心地取向。
12.如列举的示例性实施例1~11的一个或更多个描述的方法,其中,第一空间区域包含第二空间区域的空间元素,并且,
第二空间区域或与整数(N-1)对应的空间区域中的一个或更多个包含第N个空间区域的空间元素。
13.如列举的示例性实施例1~12中的一个或更多个描述的方法,其中,导出步骤包含以下的步骤:
计算与采样的空间区域成分中的每一个相关的一组统计量。
14.如列举的示例性实施例13描述的方法,其中,该组统计包含与采样的空间区域成分相关联的多个矩不变量。
15.如列举的示例性实施例1~14中的一个或更多个描述的方法,其中,媒体包含以下的媒体中的一个或更多个:
视频媒体,其中,媒体指纹包含关于在空间区域中的每一个上的视频媒体中的图像的特征的变化进行描述的视频指纹;
音频媒体,其中,媒体指纹包含关于在空间区域中的每一个上的与媒体内容部分相关联的声谱图的特性的变化进行描述的音频/声学指纹。
16.如列举的示例性实施例15描述的方法,还包括以下的步骤:
从视频图像或音频声谱图中的一个或更多个产生差值实例;
从差值实例中的一组区域计算多个矩不变量;和
描述与视频图像或音频谱图的特性中的一个或更多个相关联的运动在空间区域中的每一个上的变化。
17.如列举的示例性实施例13描述的方法,其中,计算一组统计量包含以下的步骤:
计算与从第一空间区域采样的成分相关的一组统计量;和
递增地计算与各随后的区域到第N个区域的成分相关的一组统计量。
18.如列举的示例性实施例17描述的方法,递增计算步骤包括以下的步骤:
以从较小面积的空间区域到其随后的面积增加的空间区域中的每一个的顺序计算空间区域中的每一个的一组统计量;
在对于空间区域中的每一个计算各组统计量时存储各组统计量中的每一个;
在随后空间区域中的每一个的成分的采样时,对于较小面积的空间区域中的每一个访问存储的各组统计量;和
在对于其随后的面积增加的空间区域中的每一个的计算一组统计的步骤中使用所访问的各组统计量。
19.如列举的示例性实施例13描述的方法,其中,成分包含视频图像的强度元素或颜色元素或音频媒体内容部分的强度元素或频率元素中的至少一个,
其中,计算一组统计量的步骤包含以下的步骤:
产生代表强度元素、频率元素或颜色元素的直方图;
在空间区域中的每一个上测量强度、频率或颜色代表性直方图;以及
描述空间区域中的每一个上的与直方图相关联的区段群体数的变化。
20.如列举的示例性实施例13描述的方法,其中,计算统计量的步骤还包括以下的步骤:
从媒体内容的帧的离线训练组,在媒体内容的帧的训练组的采样的空间区域成分中收集一组矩阵,其中,训练组具有群体数‘J’;
从J个矩阵计算矩阵‘V’,其中,矩阵V包含:
与空间区域的数量有关的第一尺寸‘N’;和
与训练组的群体数‘J’有关的第二尺寸;
其中,矩阵V的一个或更多个列中的多个值被从训练组的各矩阵的列中的一个导出;
计算一个或更多个矩阵V的列中的每一个的均值;
计算所述均值与列中的每一个的值中的每一个之间的差值;和
从计算的差值估计第一维度空间中的一组基本矢量。
21.如列举的示例性实施例20描述的方法,其中,估计步骤包括以下的步骤:
将矩阵V因子分解。
22.如列举的示例性实施例21描述的方法,其中,因子分解步骤包括以下的步骤中的至少一个:
对于矩阵V计算奇异值分解;或
对于矩阵V计算非负因子分解。
23.如列举的示例性实施例21描述的方法,还包括以下的步骤:
将与空间区域中的两个或更多个的特征或特性中的一个或更多个对应的多个值投影到所估计的基本矢量中的一个或更多个上;和
基于投影组变换该组矩阵;和
确定在空间区域上所述特征或特性中的一个或更多个的可变性。
24.如列举的示例性实施例13描述的方法,其中,计算统计量的步骤还包括以下的步骤:
从媒体内容的帧的离线训练组,在媒体内容的帧的训练组的采样的空间区域成分中收集一组矩阵,其中,训练组具有群体数‘J’;
从J个矩阵计算矩阵‘V’,其中,矩阵V包含:
与时间步的数量有关的第一尺寸‘N’;和
与训练组的群体数‘J’有关的第二尺寸;
其中,矩阵V的一个或更多个列中的多个值被从训练组的各矩阵的列中的一个导出;
计算一个或更多个矩阵V的列中的每一个的均值;
计算所述均值与列中的每一个的值中的每一个之间的差值;
从计算的差值估计第一维度空间中的一组基本矢量;以及
关于帧和与其相关联的帧速率,确定特征或特性随时间的可变性。
25.如列举的示例性实施例20或列举的示例性实施例24中的一个或更多个描述的方法,其中,导出指纹的步骤还包括以下的步骤:
计算均具有尺寸N和M的多个伪随机矢量;
将矩阵中的每一个投影到所述伪随机矢量中的每一个上,其中,多个标量值被导出,所述标量值中的每一个与被投影的矩阵中的一个相对应;
计算与所述多个标量值的中值对应的阈值;和
比较标量值和阈值,其中基于所述比较导出指纹。
26.如列举的示例性实施例1~12中的一个或更多个描述的方法,其中,导出步骤包括以下的步骤:
计算与采样的空间区域成分中的每一个有关的一组统计量,并且,
其中,该组统计量包含在媒体内容部分的任意一组区域上被采样的多个矩不变量。
27.一种方法,包括以下多个步骤:
计算与以下中的至少一个有关的一组统计量:
从媒体内容的一个或更多个帧采样的多个空间区域成分中的每一个,其中,媒体内容包含视频、音频或混合媒体内容中的一个或更多个;或
在媒体内容部分的任意一组区域上采样的多个矩不变量;以及
从空间区域成分导出媒体指纹,其中,媒体指纹可靠地与媒体内容部分对应。
28.如列举的示例性实施例27描述的方法,其中,计算统计量的步骤还包括以下的步骤:
从媒体内容的帧的离线训练组,在媒体内容的帧的训练组的采样的空间区域成分中收集一组矩阵,其中,训练组具有群体数‘J’;
从J个矩阵计算矩阵‘V’,其中,矩阵V包含:
与空间区域的数量有关的第一尺寸‘N’;和
与训练组的群体数‘J’有关的第二尺寸;
其中,矩阵V的一个或更多个列中的多个值被从训练组的各矩阵的列中的一个导出;
计算一个或更多个矩阵V的列中的每一个的均值;
计算所述均值与列中的每一个的值中的每一个之间的差值;和
从计算的差值估计第一维度空间中的一组基本矢量,其中,媒体内容部分的特征的空间变化是可通过其确定的。
29.如列举的示例性实施例28描述的方法,其中,估计步骤包括以下的步骤:
将矩阵V因子分解。
30.如列举的示例性实施例28描述的方法,其中,因子分解步骤包括以下的步骤中的至少一个:
对于矩阵V计算奇异值分解;或
对于矩阵V计算非负因子分解。
31.如列举的示例性实施例28描述的方法,还包括以下的步骤:
将与空间区域中的两个或更多个的特征或特性中的一个或更多个对应的多个值投影到所估计的基本矢量中的一个或更多个上;和
基于投影组变换该组矩阵;和
确定在空间区域上所述特征或特性中的一个或更多个的可变性。
32.一种方法,包括以下多个步骤:
计算与以下中的至少一个有关的一组统计量:
从媒体内容的一个或更多个帧采样的多个采样的空间区域成分中的每一个,其中,媒体内容包含视频、音频或混合媒体内容中的一个或更多个;或
在媒体内容部分的任意一组区域上采样的多个矩不变量;以及
从第一和第二空间区域的成分导出媒体指纹,其中,媒体指纹可靠地与媒体内容部分对应。
33.如列举的示例性实施例32描述的方法,其中,计算统计量的步骤还包括以下的步骤:
从媒体内容的帧的离线训练组,在媒体内容的帧的训练组的采样的空间区域成分中收集一组矩阵,其中,训练组具有群体数‘J’;
从J个矩阵计算矩阵‘V’,其中,矩阵V包含:
与时间步的数量有关的第一尺寸‘N’;和
与训练组的群体数‘J’有关的第二尺寸;
其中,矩阵V的一个或更多个列中的多个值被从训练组的各矩阵的列中的一个导出;
计算一个或更多个矩阵V的列中的每一个的均值;
计算所述均值与列中的每一个的值中的每一个之间的差值;
从计算的差值估计第一维度空间中的一组基本矢量;以及
关于帧和与其相关联的帧速率,确定特征或特性随时间的可变性。
34.如列举的示例性实施例33描述的方法,其中,导出指纹步骤还包括以下的步骤:
计算均具有尺寸N和M的多个伪随机矢量;
将矩阵中的每一个投影到所述伪随机矢量中的每一个上,其中,多个标量值被导出,所述标量值中的每一个与被投影的矩阵中的一个相对应;
计算与所述多个标量值的中值对应的阈值;和
比较标量值和阈值,其中基于所述比较导出指纹
35.如列举的示例性实施例1描述的方法,其中,第一空间区域与第一区域和第二区域之间的层级关系无关地在空间上与第二空间区域重叠。
36.如列举的示例性实施例1描述的方法,还包括以下的步骤:
从媒体内容的第N个空间区域采样一个或更多个成分,
其中,第N个空间区域包含未分割区,
第一空间区域、第二空间区域和第N个空间区域中的一个或更多个包含一个或更多个其它空间区域的元素;以及
从第一、第二和第N个空间区域的成分导出媒体指纹。
37.一种方法,包括以下的步骤:
访问媒体内容的一部分,其中,媒体内容包含音频、视频、混合或多媒体内容中的一个或更多个;
从媒体内容的第一空间区域采样一个或更多个成分,
其中,第一空间区域包含未分割区;
从媒体内容的第二空间区域采样一个或更多个成分,
其中,第二空间区域包含未分割区;
第一空间区域在空间上与第二空间区域部分地重叠,而与第一区域和第二区域之间的层级关系无关;以及
从第一和第二空间区域的成分导出媒体指纹,其中,媒体指纹可靠地与媒体内容部分对应。
38.一种方法,包括以下多个步骤:
a)对于媒体内容的序列中的内容部分的时间相关组的媒体内容的一部分的第一表现,访问所述第一表现被分割成的空间区域的矩阵上的内容元素的值;
b)从内容部分的离线训练组估计第一维度空间中的一组基本矢量,其中,该组基本矢量包含涉及被从媒体内容的一个或更多个帧采样的多个采样的空间区域成分中的每一个的统计量,其中,所述媒体内容包含视频、音频或混合媒体内容中的一个或更多个;以及
c)将所述第一表现变换成第二维度空间中的媒体内容部分的第二表现,其中所述第二表现包含基于估计的基本矢量的第一表现的投影,
其中,至少部分地基于所述第二表现导出媒体指纹。
39.如列举的示例性实施例38描述的方法,其中,计算统计步骤还包括以下的步骤:
从媒体内容的帧的离线训练组,在媒体内容的帧的训练组的多个采样的空间区域成分中收集一组矩阵,其中,训练组具有群体数‘J’;
从J个矩阵计算矩阵‘V’,其中,矩阵V包含:
与空间区域的数量或时间步的数量中的至少一个有关的第一尺寸‘N’;和
与训练组的群体数‘J’有关的第二尺寸;
其中,矩阵V的一个或更多个列中的多个值被从训练组的各矩阵的列中的一个导出;
计算一个或更多个矩阵V的列中的每一个的均值;
计算所述均值与列中的每一个的值中的每一个之间的差值;
其中,从计算的差值在第一维度空间中估计一组基本矢量;其中,媒体内容部分的特征中的空间变化或时间变化中的一个或更多个是可通过其确定的。
40.一种***,包括:
用于执行如列举的示例性实施例1~39中的一个或更多个所述的方法的步骤的装置。
41.一种装置或***,包括:
至少一个处理器;和
计算机可读介质,包含当被处理器执行时导致***执行如列举的示例性实施例1~39中的一个或更多个所述的方法的步骤的指令。
42.一种集成电路(IC)器件,被配置或编程用于执行如列举的示例性实施例1~39所述的方法中的一个或更多个的步骤,或体现、设置或支持如列举的示例性实施例40~41所述的***中的一个或更多个。
43.如列举的示例性实施例42描述的IC器件,其中,IC包含处理器、可编程逻辑器件(PLD)、微控制器、场可编程门阵列(FPGA)、数字信号处理器(DSP)或专用IC(ASIC)中的至少一个。
44.一种计算机***的应用,包括:
执行、控制或实施在列举的示例性实施例1~29中的一个或更多个个描述的方法。
45.一种计算机可读存储介质,包含当被一个或更多个处理器执行时导致一个或更多个处理器实现以下操作的经编码的指令:
执行如列举的示例性实施例1~29中的一个或更多个所述的方法的步骤;
配置或编码如列举的示例性实施例30~31中的一个或更多个所述的装置或***中的一个或更多个中的至少一个;
配置或编程如列举的示例性实施例32~33中的一个或更多个所述的IC器件中的一个或更多个;或
编程或控制如列举的示例性实施例34所述的计算机***。
等同物、扩展、替代方案和混合
因此,描述了涉及例如通过矩不变量的投影可靠地与媒体内容对应的媒体指纹的示例性实施例。在以上的说明书中,参照可因实现而改变的大量的具体细节描述了本发明的实施例。因此,什么是本发明以及申请人意图成为本发明的唯一且排他的指示是一组权利要求,该组权利要求以发布这样的权利要求的特定形式从本申请发布,包含任何随后的校正。这里对于包含于这些权利要求中的术语明确阐述的任何定义应主导在权利要求中使用的这些术语的意思。由此,在权利要求中没有明确陈述的限制、元素、性能、特征、优点或属性不应以任何的方式限制这些权利要求的范围。因此,说明书和附图应被视为解释性的而不是限制性的。

Claims (52)

1.一种媒体指纹导出方法,包括以下步骤:
访问媒体内容的一部分;
其中,所述媒体内容包含视频图像和音频声谱图中的一个或两者;
从所述媒体内容的第一空间区域采样一个或更多个成分,
从所述媒体内容的第二空间区域采样一个或更多个成分,
其中,所述第一空间区域与所述第二空间区域重叠;
基于矩不变量和/或基于色度相关值和辉度相关值从所述第一和第二空间区域的成分导出第一媒体指纹;
由视频图像和音频声谱图中的一个或两者通过比较其的当前版本与其的时间平均版本来产生差值实例;
从所述差值实例中的一组区域计算多个矩不变量;
基于多个计算的矩不变量导出第二媒体指纹;以及
连结第一媒体指纹和第二媒体指纹。
2.如权利要求1描述的方法,其中,所述第一媒体指纹与所述第一区域和第二区域中的特征有关,并且其中,所述第二媒体指纹与所述第一区域和第二区域中的所述特征的时间变化有关。
3.如权利要求1描述的方法,其中,所述第一空间区域和所述第二空间区域中的每一个是空间均匀的。
4.如权利要求1描述的方法,还包括以下步骤:
从所述媒体内容的第N个空间区域采样一个或更多个成分,
其中,所述第N个空间区域是空间均匀的;并且,
其中,所述第二空间区域包含所述第N个空间区域的元素;以及
从所述第一、第二和第N个空间区域的成分导出所述第一媒体指纹,
其中,N包含具有大于2的值的整数。
5.如权利要求4描述的方法,还包括以下步骤:
从第(N-1)个媒体内容空间区域采样一个或更多个成分,
其中,所述第(N-1)个空间区域是空间均匀的;并且,
其中,所述第(N-1)个空间区域包含所述第N个空间区域的元素;以及
从所述第一、第二、第(N-1)、以及第N个空间区域的成分导出所述第一媒体指纹。
6.如权利要求1描述的方法,其中,所述第一空间区域和所述第二空间区域均具有类似的几何形状。
7.如权利要求5描述的方法,其中,所述第一空间区域不完全地覆盖所述第二空间区域。
8.如权利要求6或7描述的方法,其中,所述第一空间区域相对于所述第二空间区域居中。
9.如权利要求6描述的方法,其中,所述形状为椭圆体或卵形体中的至少一种。
10.如权利要求9描述的方法,其中,椭圆体符合圆形或椭圆形配置,并且,
圆形配置的第一空间区域的中心或椭圆形配置的第一空间区域的长轴和短轴中的一个或两者的中心与媒体内容部分的中心对准。
11.如权利要求4-5或7中的任一个描述的方法,其中,第二到第N个空间区域中的一个或更多个包含在空间上与其叠合的第一空间区域的空间投影,其中,第一和第二到第N个空间区域基本上相互同心地被取向。
12.如权利要求4-5或7的任一个描述的方法,其中,第一空间区域包含第二空间区域的空间元素,并且,
第二空间区域和第(N-1)个空间区域中的一个或两者包含第N个空间区域的空间元素。
13.如权利要求1描述的方法,其中,在基于矩不变量导出第一媒体指纹的步骤中,使用与被采样的空间区域成分相关联的矩不变量。
14.如权利要求1描述的方法,其中,媒体指纹包含以下中的一个或两者:
视频指纹,所述视频指纹关于在空间区域中的每一个上的视频媒体中的图像的特征中的变化进行描述;以及
音频/声学指纹,所述音频/声学指纹关于在空间区域中的每一个上的与媒体内容部分相关联的声谱图的特性中的变化进行描述。
15.如权利要求14描述的方法,在用于计算矩不变量的步骤之后,所述方法进一步包括以下步骤:
描述在空间区域中的每一个上的与视频图像或音频声谱图的特性中的一个或更多个相关联的运动中的变化。
16.如权利要求4-5或7中任一个描述的方法,其中,导出第一媒体指纹的步骤包含以下的步骤:
计算与被从第一空间区域采样的成分相关的一组统计量;以及
进一步计算与从每个随后的区域到第N个区域被采样的成分相关的一组统计量,
其中,所述一组统计量包含在媒体内容部分的任意一组区域上被采样的多个矩不变量。
17.如权利要求16描述的方法,进一步计算的步骤包括以下的步骤:
以从较小面积的空间区域到其随后的面积增加的空间区域中的每一个的顺序计算空间区域中的每一个的一组统计量;
在对于空间区域中的每一个计算各组统计量时存储各组统计量中的每一组;
在进行随后空间区域中的每一个的成分的采样时,对于较小面积的空间区域中的每一个访问存储的各组统计量;和
在对于其随后的面积增加的空间区域中的每一个的计算一组统计量的步骤时使用访问的各组统计量。
18.如权利要求1描述的方法,其中,所述成分包含视频图像的强度元素或颜色元素或音频媒体内容部分的强度元素或频率元素中的至少一个,
其中,导出第一媒体指纹的步骤包含以下的步骤:
产生代表强度元素、频率元素或颜色元素的直方图;
在空间区域中的每一个上测量强度、频率或颜色代表性直方图;以及
描述在空间区域中的每一个上与直方图相关联的区段群体数的变化。
19.如权利要求1描述的方法,还包括以下的步骤:
从媒体内容的第N个空间区域采样一个或更多个成分,
其中,第N个空间区域是空间均匀的,其中N包含具有大于2的值的整数;
第一空间区域、第二空间区域和第N个空间区域中的一个或更多个包含一个或更多个其它空间区域中的元素;以及
从第一、第二和第N个空间区域的成分导出所述第一媒体指纹。
20.如权利要求1描述的方法,其中,所述导出步骤包括以下的步骤:
从媒体内容的帧的离线训练组,在媒体内容的帧的训练组的采样空间区域成分中收集一组矩阵,其中,训练组具有群体数J;
从J个矩阵计算矩阵V,其中,矩阵V包含:
与空间区域的数量有关的第一尺寸N;和
与训练组的群体数J有关的第二尺寸;
其中,矩阵V的一个或更多个列中的多个值被从训练组的各矩阵的列中的一个导出;
计算一个或更多个矩阵V的列中的每一个的均值;
计算所述均值与每一列中的每一个值之间的差值;和
从计算的差值估计第一维度空间中的一组基本矢量。
21.如权利要求20描述的方法,其中,估计步骤包括以下的步骤:
将矩阵V因子分解。
22.如权利要求21描述的方法,其中,因子分解步骤包括以下的步骤中的至少一个:
对于矩阵V计算奇异值分解;或
对于矩阵V计算非负因子分解。
23.如权利要求20描述的方法,还包括以下的步骤:
将与空间区域中的两个或更多个的特征或特性中的一个或更多个对应的多个值投影到所估计的基本矢量中的一个或更多个上;
基于投影的组变换该组矩阵;以及
确定所述特征或特性中的一个或更多个在空间区域上的可变性。
24.如权利要求20描述的方法,其中,导出第一指纹的步骤还包括以下的步骤:
计算均具有尺寸N或M的多个伪随机矢量;
将矩阵中的每一个投影到所述伪随机矢量中的每一个上,其中,多个标量值被导出,所述标量值中的每一个与被投影的矩阵中的一个相对应;
计算与所述多个标量值的中值对应的阈值;和
比较标量值和阈值,其中基于所述比较导出所述指纹。
25.如权利要求1描述的方法,其中,在基于矩不变量导出第一媒体指纹的步骤中,使用在媒体内容部分的任意一组区域上被采样的多个矩不变量。
26.一种媒体指纹导出***,包括:
用于访问媒体内容的一部分的装置;
其中,所述媒体内容包含视频图像和音频声谱图中的一个或两者;
用于从所述媒体内容的第一空间区域采样一个或更多个成分的装置,
用于从所述媒体内容的第二空间区域采样一个或更多个成分的装置,
其中,所述第一空间区域与所述第二空间区域重叠;
用于基于矩不变量和/或基于色度相关值和辉度相关值从所述第一和第二空间区域的成分导出第一媒体指纹的装置;
用于由视频图像和音频声谱图中的一个或两者通过比较其的当前版本与其的时间平均版本来产生差值实例的装置;
用于从所述差值实例中的一组区域计算多个矩不变量的装置;
用于基于多个计算的矩不变量导出第二媒体指纹的装置;以及
用于连结第一媒体指纹和第二媒体指纹的装置。
27.如权利要求26描述的***,其中,所述第一媒体指纹与所述第一区域和第二区域中的特征有关,并且其中,所述第二媒体指纹与所述第一区域和第二区域中的所述特征的时间变化有关。
28.如权利要求26描述的***,其中,所述第一空间区域和所述第二空间区域中的每一个是空间均匀的。
29.如权利要求26描述的***,还包括:
用于从所述媒体内容的第N个空间区域采样一个或更多个成分的装置,
其中,所述第N个空间区域是空间均匀的;并且,
其中,所述第二空间区域包含所述第N个空间区域的元素;以及
用于从所述第一、第二和第N个空间区域的成分导出所述第一媒体指纹的装置,
其中,N包含具有大于2的值的整数。
30.如权利要求29描述的***,还包括:
用于从第(N-1)个媒体内容空间区域采样一个或更多个成分的装置,
其中,所述第(N-1)个空间区域是空间均匀的;并且,
其中,所述第(N-1)个空间区域包含所述第N个空间区域的元素;以及
用于从所述第一、第二、第(N-1)、以及第N个空间区域的成分导出所述第一媒体指纹的装置。
31.如权利要求26描述的***,其中,所述第一空间区域和所述第二空间区域均具有类似的几何形状。
32.如权利要求30描述的***,其中,所述第一空间区域不完全地覆盖所述第二空间区域。
33.如权利要求31或32描述的***,其中,所述第一空间区域相对于所述第二空间区域居中。
34.如权利要求31描述的***,其中,所述形状为椭圆体或卵形体中的至少一种。
35.如权利要求34描述的***,其中,椭圆体符合圆形或椭圆形配置,并且,
圆形配置的第一空间区域的中心或椭圆形配置的第一空间区域的长轴和短轴中的一个或两者的中心与媒体内容部分的中心对准。
36.如权利要求28-30或32中的任一个描述的***,其中,第二到第N个空间区域中的一个或更多个包含在空间上与其叠合的第一空间区域的空间投影,其中,第一和第二到第N个空间区域基本上相互同心地被取向。
37.如权利要求28-30或32的任一个描述的***,其中,第一空间区域包含第二空间区域的空间元素,并且,
第二空间区域和第(N-1)个空间区域中的一个或两者包含第N个空间区域的空间元素。
38.如权利要求26描述的***,其中,在用于基于矩不变量导出第一媒体指纹的装置中,使用与被采样的空间区域成分相关联的矩不变量。
39.如权利要求26描述的***,其中,媒体指纹包含以下中的一个或两者:
视频指纹,所述视频指纹关于在空间区域中的每一个上的视频媒体中的图像的特征中的变化进行描述;以及
音频/声学指纹,所述音频/声学指纹关于在空间区域中的每一个上的与媒体内容部分相关联的声谱图的特性中的变化进行描述。
40.如权利要求39描述的***,进一步包括:
用于描述在空间区域中的每一个上的与视频图像或音频声谱图的特性中的一个或更多个相关联的运动中的变化的装置。
41.如权利要求29-30或32中任一个描述的***,其中,用于导出第一媒体指纹的装置包含:
用于计算与被从第一空间区域采样的成分相关的一组统计量的装置;以及
用于进一步计算与从每个随后的区域到第N个区域被采样的成分相关的一组统计量的装置,
其中,所述一组统计量包含在媒体内容部分的任意一组区域上被采样的多个矩不变量。
42.如权利要求41描述的***,用于进一步计算的装置包括:
用于以从较小面积的空间区域到其随后的面积增加的空间区域中的每一个的顺序计算空间区域中的每一个的一组统计量的装置;
用于在对于空间区域中的每一个计算各组统计量时存储各组统计量中的每一组的装置;
用于在进行随后空间区域中的每一个的成分的采样时,对于较小面积的空间区域中的每一个访问存储的各组统计量的装置;和
用于在对于其随后的面积增加的空间区域中的每一个的计算一组统计量时使用访问的各组统计量的装置。
43.如权利要求26描述的***,其中,所述成分包含视频图像的强度元素或颜色元素或音频媒体内容部分的强度元素或频率元素中的至少一个,
其中,用于导出第一媒体指纹的装置包含:
用于产生代表强度元素、频率元素或颜色元素的直方图的装置;
用于在空间区域中的每一个上测量强度、频率或颜色代表性直方图的装置;以及
用于描述在空间区域中的每一个上与直方图相关联的区段群体数的变化的装置。
44.如权利要求26描述的***,还包括:
用于从媒体内容的第N个空间区域采样一个或更多个成分的装置,
其中,第N个空间区域是空间均匀的,其中N包含具有大于2的值的整数;
第一空间区域、第二空间区域和第N个空间区域中的一个或更多个包含一个或更多个其它空间区域中的元素;以及
用于从第一、第二和第N个空间区域的成分导出所述第一媒体指纹的装置。
45.如权利要求26描述的***,其中所述导出装置还包括:
用于从媒体内容的帧的离线训练组,在媒体内容的帧的训练组的采样空间区域成分中收集一组矩阵的装置,其中,训练组具有群体数J;
用于从J个矩阵计算矩阵V的装置,其中,矩阵V包含:
与空间区域的数量有关的第一尺寸N;和
与训练组的群体数J有关的第二尺寸;
其中,矩阵V的一个或更多个列中的多个值被从训练组的各矩阵的列中的一个导出;
用于计算一个或更多个矩阵V的列中的每一个的均值的装置;
用于计算所述均值与每一列中的每一个值之间的差值的装置;和
用于从计算的差值估计第一维度空间中的一组基本矢量的装置。
46.如权利要求45描述的***,其中,用于估计的装置包括:
用于将矩阵V因子分解的装置。
47.如权利要求46描述的***,其中,用于因子分解的装置包括以下中的至少一个:
用于对于矩阵V计算奇异值分解的装置;或
用于对于矩阵V计算非负因子分解的装置。
48.如权利要求45描述的***,还包括:
用于将与空间区域中的两个或更多个的特征或特性中的一个或更多个对应的多个值投影到所估计的基本矢量中的一个或更多个上的装置;
用于基于投影的组变换该组矩阵的装置;以及
用于确定所述特征或特性中的一个或更多个在空间区域上的可变性的装置。
49.如权利要求45描述的***,其中,用于导出第一指纹的装置还包括:
用于计算均具有尺寸N和M的多个伪随机矢量的装置;
用于将矩阵中的每一个投影到所述伪随机矢量中的每一个上的装置,其中,多个标量值被导出,所述标量值中的每一个与被投影的矩阵中的一个相对应;
用于计算与所述多个标量值的中值对应的阈值的装置;和
用于比较标量值和阈值的装置,其中基于所述比较导出所述指纹。
50.如权利要求26描述的***,其中,在用于基于矩不变量导出第一媒体指纹的装置中,使用在媒体内容部分的任意一组区域上被采样的多个矩不变量。
51.一种集成电路器件,被配置或编程用于执行如权利要求1~25所述的方法中的一个或更多个的步骤,或体现、设置或支持如权利要求26所述的***中的一个或更多个。
52.如权利要求51描述的集成电路器件,其中,集成电路包含处理器、可编程逻辑器件、微控制器、场可编程门阵列、或专用集成电路中的至少一个。
CN2009801453792A 2008-11-17 2009-11-17 通过矩不变量的投影可靠地与媒体内容对应的媒体指纹 Expired - Fee Related CN102216952B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US11544208P 2008-11-17 2008-11-17
US61/115,442 2008-11-17
PCT/US2009/064760 WO2010057171A1 (en) 2008-11-17 2009-11-17 Media fingerprints that reliably correspond to media content with projection of moment invariants

Publications (2)

Publication Number Publication Date
CN102216952A CN102216952A (zh) 2011-10-12
CN102216952B true CN102216952B (zh) 2013-06-05

Family

ID=41716674

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009801453792A Expired - Fee Related CN102216952B (zh) 2008-11-17 2009-11-17 通过矩不变量的投影可靠地与媒体内容对应的媒体指纹

Country Status (4)

Country Link
US (1) US8891813B2 (zh)
EP (1) EP2366170B1 (zh)
CN (1) CN102216952B (zh)
WO (1) WO2010057171A1 (zh)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI442773B (zh) 2006-11-30 2014-06-21 Dolby Lab Licensing Corp 抽取視訊與音訊信號內容之特徵以提供此等信號之可靠識別的技術
CN102460470B (zh) 2009-06-11 2014-12-03 杜比实验室特许公司 基于指纹的内容识别趋势分析
WO2011087648A1 (en) 2009-12-22 2011-07-21 Dolby Laboratories Licensing Corporation Method to dynamically design and configure multimedia fingerprint databases
TWI416432B (zh) * 2010-09-08 2013-11-21 Univ Nat Kaohsiung Applied Sci 利用奇異值分解於指紋影像之增強及切割方法及其系統
CN104126307B (zh) 2012-02-29 2018-02-06 杜比实验室特许公司 用于改善的图像处理和内容传递的图像元数据创建处理器及方法
US9275427B1 (en) * 2013-09-05 2016-03-01 Google Inc. Multi-channel audio video fingerprinting
SG11201601328PA (en) * 2013-09-11 2016-03-30 See Out Pty Ltd Image searching method and apparatus
US9330171B1 (en) * 2013-10-17 2016-05-03 Google Inc. Video annotation using deep network architectures
US9639761B2 (en) * 2014-03-10 2017-05-02 Mitsubishi Electric Research Laboratories, Inc. Method for extracting low-rank descriptors from images and videos for querying, classification, and object detection
EP3175773A4 (en) * 2014-07-30 2018-10-10 Olympus Corporation Image processing device
US9544621B2 (en) 2014-09-17 2017-01-10 Google Inc. Identification of captured videos
CN105791906A (zh) * 2014-12-15 2016-07-20 深圳Tcl数字技术有限公司 信息推送的方法和***
CN107276923B (zh) * 2016-04-07 2020-07-28 富士通株式会社 抗混叠的信道估计装置、方法以及接收机
US10616631B2 (en) 2016-08-01 2020-04-07 Samsung Electronics Co., Ltd. Electronic apparatus and method of operating the same
CN110267073A (zh) * 2019-07-24 2019-09-20 深圳市颍创科技有限公司 一种投屏画面显示及投屏画面旋转方法
US11417099B1 (en) * 2021-11-08 2022-08-16 9219-1568 Quebec Inc. System and method for digital fingerprinting of media content

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5870754A (en) * 1996-04-25 1999-02-09 Philips Electronics North America Corporation Video retrieval of MPEG compressed sequences using DC and motion signatures
CN1799049A (zh) * 2003-05-30 2006-07-05 皇家飞利浦电子股份有限公司 媒体指纹的搜索与存储

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6996273B2 (en) 2001-04-24 2006-02-07 Microsoft Corporation Robust recognizer of perceptually similar content
US7142699B2 (en) * 2001-12-14 2006-11-28 Siemens Corporate Research, Inc. Fingerprint matching using ridge feature maps
TWI442773B (zh) 2006-11-30 2014-06-21 Dolby Lab Licensing Corp 抽取視訊與音訊信號內容之特徵以提供此等信號之可靠識別的技術
ATE494587T1 (de) 2007-05-17 2011-01-15 Dolby Lab Licensing Corp Ableitung von gegen bildbearbeitung und rahmenratenumwandlung unempfindlichen videosignaturen
CN101681381B (zh) * 2007-06-06 2012-11-07 杜比实验室特许公司 使用多搜索组合改善音频/视频指纹搜索精确度
US20090063277A1 (en) 2007-08-31 2009-03-05 Dolby Laboratiories Licensing Corp. Associating information with a portion of media content
US8351643B2 (en) 2007-10-05 2013-01-08 Dolby Laboratories Licensing Corporation Media fingerprints that reliably correspond to media content
US20110035382A1 (en) 2008-02-05 2011-02-10 Dolby Laboratories Licensing Corporation Associating Information with Media Content
US7755349B2 (en) * 2008-03-03 2010-07-13 Memsic, Inc. Correcting offset in magneto-resistive devices
WO2009124002A1 (en) 2008-03-31 2009-10-08 Dolby Laboratories Licensing Corporation Distributed media fingerprint repositories
US8644622B2 (en) * 2009-07-30 2014-02-04 Xerox Corporation Compact signature for unordered vector sets with application to image retrieval
US9070002B2 (en) * 2011-10-18 2015-06-30 King Fahd University Of Petroleum And Minerals Method of performing fingerprint matching

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5870754A (en) * 1996-04-25 1999-02-09 Philips Electronics North America Corporation Video retrieval of MPEG compressed sequences using DC and motion signatures
CN1799049A (zh) * 2003-05-30 2006-07-05 皇家飞利浦电子股份有限公司 媒体指纹的搜索与存储

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
A wavelet based multiresolution algorithm for rotation invariant feature extraction;Ch.S. Sastry等;《Pattern Recognition Letters》;20040916;第25卷;第1845-1855页 *
Babak Mahdian等.Detection of copy–move forgery using a method based on blur moment invariants.《Forensic Science International》.2006,第171卷第180-189页.
Ch.S. Sastry等.A wavelet based multiresolution algorithm for rotation invariant feature extraction.《Pattern Recognition Letters》.2004,第25卷第1845–1855页.
Detection of copy–move forgery using a method based on blur moment invariants;Babak Mahdian等;《Forensic Science International》;20061211;第171卷;第180-189页 *

Also Published As

Publication number Publication date
WO2010057171A1 (en) 2010-05-20
US20110216937A1 (en) 2011-09-08
US8891813B2 (en) 2014-11-18
CN102216952A (zh) 2011-10-12
EP2366170B1 (en) 2013-01-02
EP2366170A1 (en) 2011-09-21

Similar Documents

Publication Publication Date Title
CN102216952B (zh) 通过矩不变量的投影可靠地与媒体内容对应的媒体指纹
Mohanarathinam et al. Digital watermarking techniques for image security: a review
CN101855635B (zh) 可靠地与媒体内容对应的媒体指纹
CN101036150B (zh) 用来处理视频数据的装置和方法
Zhou et al. Movie genre classification via scene categorization
Sadek et al. Robust video steganography algorithm using adaptive skin-tone detection
CN112789650B (zh) 检测半透明图像水印
Bourouis et al. Recent advances in digital multimedia tampering detection for forensics analysis
Shi et al. A fast and robust key frame extraction method for video copyright protection
CN102917227A (zh) 基于压缩感知的自适应视频信息隐藏方法
CN105975939A (zh) 视频检测方法和装置
Nathalie Diane et al. A survey of partition‐based techniques for copy‐move forgery detection
Xie et al. Bag-of-words feature representation for blind image quality assessment with local quantized pattern
Su et al. Robust video fingerprinting based on visual attention regions
Wary et al. A review on robust video copy detection
Zhang et al. Reversible data hiding for 3D mesh models with hybrid prediction and multilayer strategy
Zhang et al. Multi-scale segmentation strategies in PRNU-based image tampering localization
Kerbiche et al. A robust video watermarking based on feature regions and crowdsourcing
CN105141974B (zh) 一种视频剪辑方法和装置
Mehta et al. Near-duplicate detection for LCD screen acquired images using edge histogram descriptor
Rocha et al. Progressive randomization: Seeing the unseen
CN106131373A (zh) 基于小波和Radon变换的视频零水印实现方法及***
Wang et al. A robust content based image watermarking using local invariant histogram
CN110414471B (zh) 基于双模型的视频识别方法及***
Wary et al. Ring decomposition based video copy detection using global ordinal measure features and local features

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20130605

Termination date: 20161117