CN1498501A - 视频数据压缩和解压缩的方法 - Google Patents
视频数据压缩和解压缩的方法 Download PDFInfo
- Publication number
- CN1498501A CN1498501A CNA028069617A CN02806961A CN1498501A CN 1498501 A CN1498501 A CN 1498501A CN A028069617 A CNA028069617 A CN A028069617A CN 02806961 A CN02806961 A CN 02806961A CN 1498501 A CN1498501 A CN 1498501A
- Authority
- CN
- China
- Prior art keywords
- pixel
- pixel groups
- priority
- value
- groups
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
- H04N19/14—Coding unit complexity, e.g. amount of activity or edge presence estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
- H04N19/39—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability involving multiple description coding [MDC], i.e. with separate layers being structured as independently decodable descriptions of input picture data
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
- H04N19/436—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Color Television Systems (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
本发明涉及对由单个像点(像素)的矩阵构成的视频数据进行压缩和解压缩的方法,其中每个像素具有一个随时间变化的像素值,它描述了像素的颜色或亮度信息。根据本发明每个像素被分配了一个优先级,像素根据其优先级***到一个优先级矩阵中。在每个时间点,该矩阵包含根据优先级分类的像素值。根据优先级,这些像素以及为计算优先级所使用的像素值被传输或存储。与相邻像素差别很大的像素获得了高优先级。为了进行重建,在显示屏上分别表示了当时的像素值。还没有传输的像素由已经传输的像素计算得到。
Description
本发明涉及一种对视频数据进行压缩和解压缩的方法
视频会产生很大的数据量。为了高效地传输并存储这些数据量,对其进行压缩是很有意义的。
根据目前的现有技术,视频信号被摄制为快速的单幅图像序列,并被重现。对于电视(PAL标准),每秒钟为25幅图像,或者50幅半图。对于数字摄像,每秒钟达到大约30幅图像。每幅图像被拆分为行,然后被串行传输。
目前为止的压缩方法基本上是建立在降低清晰度、色深、以及减少每秒钟图像数目的基础上的。在数字压缩,例如MPEG方法中,基本上是传输差分图像,即各个像点(像素)与先前的图像进行比较得到的差,而不是传输整幅图像。最新的视频编码标准是MPEG 4。
MPEG是“运动图像专家组(Motion Pictures ExpertGroup)”的缩写。由这个专家组确定了对高质量的视频或多媒体数据(视频、图像和语音数据)进行节省空间的压缩和存储的文件格式和方法。MPEG标准分为MPEG-1、MPEG-2、MPEG-3和MPEG-4,其中MPEG-3标准集成在MPEG-2当中。
为了可以使用“常规”的计算机来处理和传输电影的大量数据量,只存储前面图像的改变之处。MPEG格式按照规定存储为一定间隔(通常为12幅图像)的所谓内部帧(Intra-Frame);它就是经过JPEG压缩的单幅图像。这些帧间图像尽可能不完整地***。更确切地说,MPEG存储那些人们可以通过对前面或后面的图像部分进行延迟而重新获得的图像。为此还采用了有预见性的“预测帧”和“B帧”(双向帧)。因为尽管图像没有完整地再现,每幅图像仍然以JPEG编码方式附带地存储所保留的偏差。通过这种方法,视频电影的数据量大约减少了99%。可能的压缩率达到了200∶1。
MPEG-1是为运动的视频再现而设计的。MPEG-1的压缩和解压缩方法原本是一种与硬件相关的方法。然而由于高速处理器的出现,它也可以实现为软件压缩。MPEG-1和MPEG-2的主要区别在于,MPEG-2可以更好地适用于电视中所采用的隔行扫描方式(Interlace)。MPEG-2的秘密在于在最高的质量级上压缩,这样影片素材被处理为近似于1比1的摄影质量,并可以进行编辑。MPEG-2逐渐成为了一种标准。在纯粹的帧间编码中,尽管只在部分操作中采用了MPEG-2,但仍对其进行了定义。MPEG-3是为高清晰度电视(HDTV)而提供的,它的一部分应用到MPEG-2标准当中。
MPEG-4是MPEG-2格式的改进,并且自1996年之后得到了发展。尽管MPEG-4原本是为音频可视数据所设计的低比特率编码标准,但是它已发展出了除仅仅用于互联网和无线应用的线性媒体数据流之外的更多应用目的。例如MPEG-4为压缩和分配交互媒体内容提供了高效的机制。此外,MPEG-4提供了3D应用的潜力,以在未来表现出智能化的可视应用或优势,例如在视频会议领域内。MPEG-4的压缩率比MPEG-2要高,其中 “子画面(Sprites)”可以被更好地压缩,因为为这种编码机制提供了更多的时间。尽管此时可能会转换为微激波(Wavelets)。描述语言可以比相同操作的数字压缩格式更快地实现几个字节的操作,如“延迟”。借助于这种“子画面”,任意构造的静态图像在运动的图像之上被推移。
本发明的任务在于提供一种压缩视频数据的方法,该方法允许简单、灵活地适配于不同的传输速率或传输带宽、图像清晰度和显示屏大小。
该任务通过权利要求1的技术特征来解决。
本发明的具有优点的实施例和改进型在从属权利要求中给出。
具有优点地,视频记录芯片中的视频信息实现了同步处理。这种同步处理首先是为了确定最少的像素,并将这些像素按照优先级***到一个优先级矩阵中。在每个时间点,这个矩阵包含了根据优先级进行分类的像素值。根据优先级,这些像素以及为计算优先级所使用的像素值被传输或存储。当一个像素与其相邻的像素之间的差别很大时,该像素获得高优先级。
为了进行重现,在显示屏上分别显示当前的像素值。还没有传输的像素由已经传输的像素计算得出。
与运算效率、传输带宽和显示屏大小相适应,可以采用不同的方法来计算还没有传输的像素。如果所提供的带宽很大,则可以通过简单的线性内插来实现。如果仅提供了很小的带宽,则可以考虑传输优先像素。
通过已传输像素的历史变化过程,可以对目标进行识别,并由此实现目标的运动估算。
该方法的基本思想是基于优先像素存储和传输。在存储和视频传输中,必须还要考虑到单个像素或共同组成像素组的像素在时间上和位置上(在图像矩阵之内)的关联。
为了得到特别高的数据压缩率,分别传输具有最高优先级、并且目前还没有被传输的像素组,而已经传输的像素组之间的面积,即像素值,从已经传输的像素组中计算得出,例如通过内插法。在更高的清晰度(更大的图像矩阵)下,可达到的压缩系数增大,因为在自然摄像的情况下,更大的面积大多具有良好的、可预见的(均匀的)颜色特性,例如蓝天。
还应注意分别传输精确的像素值。如果需要的话,该方法允许进行无损的视频信息传输。
视频数据的重新生成或重建涉及到类似于人类视觉关系的估算。人受到刺激,而人类对图像所获知的解释首先出现在人的大脑中。这种刺激对应于所传输的像素组,而这种解释对应于对还没有传输的像素组之间面积的填充。
为了实现这种方法,可以***附加的矩阵。在另一方面,该矩阵包含了下列信息:由哪些像素组来确定当前位置上的像素值。其他的信息可以是:何时计算该值、由哪些像素组来计算或者传输。关于值的精确度的评估(例如由直接相邻的像素来计算,计算所基于的像素的微小改变)可以作为附加的信息被分析。
所述的方法允许视频数据流非常简单地适配于不同的显示屏大小和图像清晰度。
另外一个优点在于,上述类型的视频编码没有自行确定必须以哪种算法来进行视频解码。因此生产商可以开发出由低成本到高成本的终端设备,并且通过采用不同的算法在竞争中领先。
为了力求达到大量的同步视频数据处理,在一个专门为此开发的芯片中,允许采用极低的时钟频率,它十分适宜于对数据流的需求起作用。通过划分优先级,可以以更高的优先级和更好的清晰度来传输视频的特定区域(例如信息发言人的嘴唇部分)。
该方法允许从视频数据流中为不同的终端设备过滤出优化的部分数据流,而不必在视频摄像时考虑这个问题。
借助于附图更详细地说明本发明的实施例。由附图及其说明中得到了本发明的其他特征、优点和应用。如图所示:
图1表示了20×21个像素的图像矩阵;
图2表示了像素组的不同形状;
图3表示在时间点t1时运动目标的图像矩阵;
图4表示在时间点t2时运动目标的图像矩阵;
图5表示在时间点t3时运动目标的图像矩阵;
图6表示在图像边角内***的像素组所新生成的图像矩阵;
图7表示填充已***的像素组之间的面积;
图8表示***其他的像素组,并填充位于中间的面积。
下面借助于解释性的例子来说明视频信号的压缩和解压缩。
采用了下列方法:
采用目前常用的视频信号作为视频源(例如PAL或NTSC)。视频信息可由商业中常见的电子装置(例如帧记录卡)读出。为了说明该方法,下面使用了宽度为20个像素、高度为21个像素的最小图像矩阵(图1)。矩阵中的每个像素以32位值(像素值)来表示。32位被划分为四个值(透明、红、绿、蓝),每个值有8位。像素的位置通过一个整数来确定。在图1所示的方式中,图像矩阵被换算为0至419。每个框内的数字与相应像素的位置相符。在源(Quelle)与汇点(Senke)之间设置了一个UDP(用户数据报协议)连接。通过这个连接来发送经过压缩的视频数据。
视频数据的压缩在下列步骤中实现:
在该方法中持续地为视频信号的各个像素分配优先级,其中像素根据其优先级***到矩阵中。在每个时间点,该矩阵包含根据优先级分类的当时的像素值。当一个像素与其相邻像素之间的差别很大时,该像素获得一个高优先级。该像素与为计算而采用的相邻像素一起,共同组成了一个像素组。这个像素组根据其优先级被传输或存储。
像素矩阵的读入
在每个时间点,帧记录卡在其图像矩阵中分别具有当时的实际图像,如在图1所示的例子中,它可以是一个20×21像素大小的图像矩阵。每个像素通过其位置(0至419)和像素值(颜色或亮度值)来定义。
像素组的确定
首先需要确认哪些相邻像素构成了一个像素组。此时用p0来表示一个像素,该像素限定了像素组的位置,并为该像素计算优先级。像素组中的其余像素,例如p1-p4,相对于参考像素p0的相对位置由所采用的像素组类型(形状)得到。图2中作为示例表示了一些可能的像素组形状。既可以形成与参考像素p0对称的像素组,也可以形成非对称的像素组。采用哪种类型的像素组与图像素材和希望达到的压缩率有关。通常,一个像素组包含的像素越多,所达到的压缩系数越大。为了进行编码和解码,即进行视频图像的压缩和解压缩,必须采用相同形状的像素组。
优先值的确定
对于一个像素组中的每个像素p0,现在关于其像素组来计算优先级。此时图像中的每个像素0-419都一次变为参考像素p0。根据本发明,此时像素优先值的计算尽可能在同步数据处理中实现。最好是图像中所有像素的优先级计算都同时完成。如果是涉及视频信号,则所有像素的优先值持续地重新计算,因为图像内容是连续变化的。但是许多像素组,尤其是具有低优先级的像素组,很可能是不发生变化的。
为了计算优先级,可以给出各种不同的计算方法。例如这里采用了线性方法。为此,一个像素组中的各个像素值P0、P1、P2、P3和P4被划分成红、绿、蓝的颜色部分。每个颜色值用8位来表示。现在对于P1-P4中每个像素的每种颜色值,确定相对于P0的颜色差值,例如P0红-P1红,P0红-P2红,…,P0蓝-P4蓝。颜色差值的绝对值被相加,并用颜色数和所考虑的像素的数目来除。所得到的结果就是对于所考虑的像素组的优先值。像素组中各个像素的颜色值的差越大,这个优先值越高。
确定优先值的其他方法是使用蓝色值或一种颜色的颜色差的最大值。因为此后优先值本身不会被传输或存储,因此确定优先值的方法对解码没有直接的影响。
通过这种优先级划分,具有很大颜色变化或对比度变化的图像区域,例如边,得到了高优先级,而相对保持不变的图像内容,例如蓝天,得到了低优先级。
优先值分类
在这一步骤中,优先级按其大小进行递减来分类。这种分类在每次确定新的优先值之后进行。在每个时间点,人们得到一个根据优先级来归类的像素组的表,该表递减分类。人们希望能够开发出相应的图像记录器(CCD芯片),它能直接提供这种根据优先级归类的表。如果由CCD摄像机或扫描仪直接获取需要压缩的图像,原理上存在这种可能:由摄像机/扫描仪中现有的图像处理微芯片直接得到根据优先级分类的矩阵。由此在压缩过程中省去了一个需要大量计算的部分。
优先值的实时化
与静态图像(例如照片)相反,在视频信息中像素组的优先级不断变化,例如当摄像机摇动或者在目标运动的情况下。为了表明这一点,图3至图5表示了不同时间点t1至t3的视频图像矩阵,其中目标从右向左移动。
根据图2,在时间点t1,图像包含了一个目标,它填充了像素156、157、176、177、191-197、211-217、231-237、256、257、276、277。为了计算图像中像素(0-419)的优先级,使用了在图2中以黑边圈出的像素组形状(左下方)。得到了像素的优先级分布,如对于时间点t1,在表1中作为示例所表示的对该方法的进一步说明中所阐明的。该表分别仅包含一个像素组的参考像素(p0)的编号。在位于目标边缘区域的像素组中,各个参考像素(p0)与像素组中的其余像素有着很大的不同,这样的像素组获得最高的优先级A。参考像素与像素组中其余像素之间的差别很小的像素组获得当中的优先级B。而参考像素与像素组中其余像素之间完全没有差别的像素组具有最低的优先级C。
优先级A | 优先级B | 优先级C | |
时间点t1 | 175,255,231,191156,157,277,276 | 177,197,217,237,257,176,256,211,192,… | 0,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,… |
时间点t2 | 189,173,154,155,274,275,253,229 | 175,195,215,235,255,190,191,192,193,… | 0,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,… |
时间点t3 | 187,171,227,251,152,153,272,273 | 173,193,213,233,253,188,189,190,191,… | 0,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,… |
… | … | … | … |
表1
在进行压缩时,首先传输或存储具有优先级A的像素组,然后是具有优先级B的像素组,最后是具有优先级C的像素组。由于目标在不同时间点之间运动,相对于图3,在图4和图5中到达了另一个位置,各个像素组的优先级也随之改变。优先级表被实时化处理,并随着当时具有最高优先级的像素组的传输而继续下去。
在时间点t2(图4)和t3(图5)重新计算的像素组优先级表示在表1中。
由此,根据表1,可以在下列步骤中看到一种可能的经过压缩的视频信号传输:
时间点t1:传输具有最高优先级A的像素组:
175,255,231,191,156,157,277,276,177,197,217
在时间点t2得到了新的优先级。其他的像素组获得了最高优先级A。随着新的优先级A的传输继续下去:
189,173,154,155,274,275,253,229
在此之后传输具有优先级B的像素组:
175,195,215,235,255,190,191,192,193,…
在时间点t3再次得到新的优先级。其他的像素组获得了最高优先级A。随着新的优先级A的传输继续下去:
187,171,227,251,152,153,272,273
在一个附加的矩阵中检验哪些像素组已经被传输。如果一个像素组已经被传输,只要它的优先级在时间点中间没有发生改变,它就不需要再被传输第二次。特定的图像区域(例如人脸)被识别,并被优先传输。附带地,也可以由接收端请求特定的像素组(例如通过纠错CRC校验识别传输误差时)。被请求的像素组可以获得高优先级,这样它可以被立即传输。
像素组的存储/传输
“存储”和“传输”的概念在下面将作为同义词使用。首先存储或传输视频图像的一些特征量。例如作为示例:
-图像宽度(以像素为单位)
-图像高度(以像素为单位)
-所使用的像素组的形状(当作为标准只有一种形状时,该特征量不是必需的)
接着,各个像素组分别根据其优先级被存储或传输,即具有高优先级的像素组首先被存储(并在这之后首先被读出)。
为此首先存储像素组的参考像素p0的位置值。然后存储像素值P0、P1、P2、P3、P4。
例子:
位置值P0,像素值P0、P1、P2、P3、P4;接下来是位置值P0(具有相同的或较低的优先级),像素值P0、P1、P2、P3、P4…,接下来是位置值P0(具有最低的优先级),像素值P0、P1、P2、P3、P4。
存储可以通过不同的方法来优化,这里仅以示例的方式作以说明。可以采用像素组的行程编码(Lauflngencodierung)。例如当图像区域中没有红色分量时,可以不传输8位(红色),而是例如仅传输2位,或者可以充分利用所引入的零的数目。此外也可以采用通用的压缩方法,例如Zip格式。
通过确定优先级的临界值,可以保证特定的质量。例如,可以为像素差值确定一个临界值,在该临界值之下,相应的像素组始终获得最低的优先级。如果首先传输顶点的四个像素组,则人们用很少的像素组就计算出了尽可能大的面积。
视频图像的重建(解压缩)
生成新的图像矩阵
在重建压缩视频数据时,首先生成一个可以与图1中的图形进行比较的图像矩阵。为此,读入图像的特征数据,并对其进行分析。作为示例,这些特征数据为用于压缩的像素组的图像宽度、图像高度和形状。如果原始图像与现在希望得到的图形之间的图像高度和图像宽度不一致时(例如受到限制的PDA显示屏或高清晰度显示屏),必须进行相应的缩放。为此首先要确定换算因数(图像宽度原始/图像宽度显示屏,以及图像高度原始/图像高度显示屏)。这些因数可以用于将原始图像的位置值换算成新的显示屏的位置值。
***像素组
如图6中所示,现在根据像素组的优先级顺序读入像素组。例如,具有最高优先级的头四个像素组被***到像素矩阵中。在图6中是图像四个角处的像素组。各个像素组中参考像素p0的位置通过黑底的区域21、38、381和398来确定。这个位置值(p0)在所存储的文件中设置为整数值。接下来,可以将各个像素组所属的、以深灰色做底的像素值(p1-p4)***到新的图像矩阵中。位于它们之间的、以亮灰色标识的像素值可以从深灰色和黑色标识出来的区域计算出来。为了进行计算,首先已知的像素值被划分成红、绿、蓝的组成部分。接着计算每种颜色的平均值,例如
Pixel(22)=(Pixel(2)+Pixel(21)+Pixel(42))/3)。
面积填充
现在已有的像素组通过线条来相互连接。如图7中所示。这样得到了一个三角形,它的角由相应的像素组来限定。作为示例,可以用像素位置2和像素位置17之间的线来进行说明。线的颜色变化借助于像素2和像素17的颜色值计算出来。首先得到这两个位置之间的像素数目,在本例中为14。接着对于每种颜色(红、绿、蓝)确定颜色差,例如位置2处的颜色值=2;位置17处的颜色值=30,则所得到的颜色差为28。然后每个像素的颜色值增长量(从像素2到像素17)用颜色差除以数目计算出来(在本例中28/14=2)。
剩下来的面积通过绘制水平线来填充,例如从位置63到位置74,从位置82到位置93等等。如上所述,这里还计算点之间的暂时颜色变化。
如图8所示,每一个另外***的像素组得到了另外的三角形,这些三角形可以相应地被填充。在此之后,首先整个面积通过使用四个顶点(21,38,398,381)来填充,现在可以通过每个另外***的像素组来细化清晰度。像素组87的***形成了带有参考点(21,38,87),(21,87,381),(381,87,398),(398,78,38)的四个三角形。现在如果在每个这样的三角形内,例如三角形87、381、398内,***了另一个像素组(247),则形成了三个新的三角形(247,381,398),(247,87,381)和(247,87,398)。这样每个新的像素组都形成了三个新的三角形,这些三角形可以被填充。***的像素组越多,即形成的三角形越多,则计算出的颜色变化越接近于图像的实际颜色变化。因为从现在开始始终只形成新的三角形,所以可以采用优化方法来进行计算。此外,三个新形成的三角形可以分别同时计算出来,以提高处理速度。当新的像素组被***到图像的不同区域中时,出现了另外一种同时处理的可能性。
上面所述的方法步骤的前提在于,图像内容在时间点之间不发生变化。如果图像内容发生了变化,则各个像素组的优先级将被重新分配,并传输当前具有最高优先级的像素组。只有刚刚被传输的、并***图像中的像素组的顺序发生改变。然而,在上面所述的原理中,图像的重建不发生改变。
为了计算图像内容随时间的变化,可以生成附加的矩阵(具有图像矩阵的大小)。这些矩阵可以包含关于以下信息的指示:
-时间,即上一次何时计算或传输像素值
-计算的基础。使用哪些已传输的像素来计算像素值
-概率/精确度。是否传输或计算像素值;如果计算像素值的话,从中计算新值的像素组的变化有多大?
-已经计算出的像素值与被传输的像素值之间的偏差
由这些量可以确定经常会发生像素组改变的图像区域。相邻的像素组,或者也可能是整个区域,在各方面都发生相似的变化,例如亮度改变、颜色改变。通过分析这种改变,可以在各方面确定目标及其动态关系,例如在录像中运动的情况。关于整个图像矩阵的均匀变化例如可能是由于摄像机的摇动所引起的。如果这类信息例如借助于有学习功能的神经网络来进行分析,则可以从还没有传输的像素组中很容易地估算出像素值。这种估算可以识别出对目标的改变有特别影响的像素组。如果源向这些像素组发出了更新请求,则可以仅利用很少的像素组精确地确定并预测目标的移动。实际上,这意味着尽管只提供了很低的带宽,出现的延迟时间要比基于帧的方法少得多。对于在接收端附加生成的矩阵的分析还允许进行很好的目标识别。
与所提供的资源相关地,除了通过相邻像素的颜色值进行纯粹的优先级划分之外,还可以考虑划分了优先级的像素组的位置的相关性。
在一种应用中表明了这种情况。当人们在海上观察地平线的时候,地平线看起来如同一条水平的直线。人们希望,每个像素组的优先值沿着这条地平线都是大致相同的。在这种情况下,在水平线上彼此相距最远的点具有最大的分辨力。通过传输地平线上最左边和最右边的像素组,可以再次对其进行重建。
优先级划分的另外一种可能性在于对特定图像区域给予较高的评估。这样的图像区域例如可能是人脸。尽管假目录像中的人脸仅仅偶尔占据了整个图像中很小比例的区域,但人脸往往是人们观察的中心。这种人类视觉关系可以通过对这样的图像区域(人脸区域)的像素组进行相应的优先级划分来进行考虑。同样,在录像中央部分的像素组可以获得相应较高的优先级。
另外一种可能的优化在于,相邻的像素组相互重叠。通过适当选择像素组,可以避免相邻像素组的重叠像素值被重复传输。
用于解码的开销可以自由地缩放。很显然,对于较小的显示屏(例如手机),比在高清晰度大显示屏上进行重现的必要运算开销要小,尽管这两者采用了由经过优先级划分的像素组构成的相同源数据流。这种灵活的缩放允许终端设备生产商在其设备中进行特别的优化,例如目标的数量、图像变化的历史。对于生产商而言,可以使自己领先于其他竞争者,而不会妨害视频传输的兼容性。
Claims (14)
1.压缩视频数据的方法,所述的视频数据由单个像点(像素)的矩阵组成,其中每个像素(0-419)具有一个随时间变化的像素值,该像素值描述了像素的颜色或亮度信息,其特征在于以下步骤:
a)通过分别计算像素的当前像素值与相邻像素中的一个先前已确定了的像素组的当前像素值之间的像素差值,为矩阵中的每个像素确定一个优先值;
b)用于计算优先值所采用的像素共同组成一个像素组(P0-P4);
c)根据像素组的优先值对像素组进行分类,并将其***到一个优先级矩阵中;并且
d)根据像素组在优先级矩阵中的优先级存储和/或传输像素组,
其中,步骤a)至d)持续重复进行,其中像素组的优先值始终被重新确定,并且在每个时间点,优先级矩阵包含有根据当时的优先级被分类的像素组。
2.如权利要求1所述的方法,其特征在于,由所考虑的像素的像素值与像素组中所考虑的每个相邻像素的像素值之间的差得到像素差值。
3.如权利要求1所述的方法,其特征在于,在开始时存储和/或传输视频图像的特征量,如以像素为单位的图像宽度、以像素为单位的图像高度、以及所采用的像素组的形状。
4.如以上权利要求中任一项所述的方法,其特征在于,对于每个像素组,参考像素(P0)的位置、参考像素的像素值、以及该像素组中其余像素(P1-P4)的像素值被存储或传输。
5.如以上权利要求中任一项所述的方法,其特征在于,为特定的像素区域中的像素组分配了较高的优先级。
6.以上权利要求中任一项所述的方法,其特征在于,通过行程编码或其他压缩方法对像素组的像素值进行进一步压缩。
7.如以上权利要求中任一项所述的方法,其特征在于,根据优先级被分类的像素组的连续确定和输出已通过所使用的图像记录***,例如扫描仪、CCD摄像机来实现。
8.如以上权利要求中任一项所述的方法,其特征在于,可以采用帧记录卡(或者软件解决方案),用以将现有的视频素材转换成不同的格式(例如AVI、MPEG-1、MPEG-2、MPEG-4,…)。
9.用于重建视频数据的方法,所述的视频数据以权利要求1至8所述的方法被压缩,其特征在于,分别读入的像素值被表示为图像矩阵的形式,其中还没有传输的像素由已经传输的像素计算得到。
10.如权利要求9所述的方法,其特征在于,
a)生成一个由读入的、经压缩的视频图像的特征量组成的空的图像矩阵,
b)继续读入所存储的或所传输的像素组,并***到矩阵中,
c)通过至少一条线连接三个分别直接相邻的像素组,以形成一个三角形,
d)用由形成三角形的像素组计算得到的颜色和/或亮度变化来填充形成三角形的像素的面积,并且
e)重复进行步骤b)至e)。
11.如权利要求9或10所述的方法,其特征在于,三角形的大小可以缩放,并且可以适配于不同的图像清晰度。
12.如权利要求9至11中任一项所述的方法,其特征在于,可以形成附加的矩阵,这些矩阵包含关于下列信息的指示:
-时间,即上一次何时计算或传输像素值,
-计算的基础,即使用哪些已传输的像素来计算像素值,
-概率/精确度,即是否传输或计算一个像素值;如果计算像素值的话,从中计算出新值的像素的变化有多大,
-已经计算出的像素值与所传输的像素值之间的偏差。
13.如权利要求9至12中任一项所述的方法,其特征在于,借助于根据权利要求12所生成的矩阵,可以识别简单类型的运动情况和目标。
14.如权利要求13所述的方法,其特征在于,通过分析运动情况和目标,即使在传输速率很低的情况下,也可以实现等待时间特别少的连续运动。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE10113880A DE10113880B4 (de) | 2001-03-21 | 2001-03-21 | Verfahren zur Komprimierung und Dekomprimierung von Videodaten |
DE10113880.6 | 2001-03-21 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1498501A true CN1498501A (zh) | 2004-05-19 |
CN1278563C CN1278563C (zh) | 2006-10-04 |
Family
ID=7678464
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB028069617A Expired - Fee Related CN1278563C (zh) | 2001-03-21 | 2002-03-19 | 视频数据压缩和解压缩的方法 |
Country Status (13)
Country | Link |
---|---|
US (1) | US7130347B2 (zh) |
EP (1) | EP1371229B1 (zh) |
JP (1) | JP4102197B2 (zh) |
CN (1) | CN1278563C (zh) |
AT (1) | ATE327638T1 (zh) |
CA (1) | CA2441473C (zh) |
CZ (1) | CZ20032875A3 (zh) |
DE (2) | DE10113880B4 (zh) |
ES (1) | ES2265504T3 (zh) |
PL (1) | PL206719B1 (zh) |
PT (1) | PT1371229E (zh) |
RU (1) | RU2276470C2 (zh) |
WO (1) | WO2002078352A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102833534A (zh) * | 2011-06-16 | 2012-12-19 | 索尼公司 | 视频发送设备、视频接收设备及视频发送方法 |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE10229706A1 (de) | 2002-07-02 | 2004-12-09 | T-Mobile Deutschland Gmbh | Verfahren zur Speicherplatzverwaltung in einem Speichrmedium eines digitalen Endgeräts bei einer Datenspeicherung nach dem Verfahren der priorisierten Pixelübertragung |
DE10229976B4 (de) * | 2002-07-03 | 2007-06-28 | T-Mobile Deutschland Gmbh | Verfahren zur Ver- und Entschlüsselung von nach dem Verfahren der priorisierten Pixelübertragung übertragenen oder gespeicherten digitalen Daten |
DE10230812B4 (de) | 2002-07-08 | 2004-11-25 | T-Mobile Deutschland Gmbh | Verfahren zur Übertragung von zusätzlichen Informationen bei Verwendung eines Verfahrens zur Komprimierung von Daten mittels einer priorisierenden Pixelübertragung |
DE10230809B4 (de) * | 2002-07-08 | 2008-09-11 | T-Mobile Deutschland Gmbh | Verfahren zur Übertragung von Audiosignalen nach dem Verfahren der priorisierenden Pixelübertragung |
DE10231286B4 (de) | 2002-07-10 | 2004-05-19 | T-Mobile Deutschland Gmbh | Verfahren zur Übertragung von zusätzlichen Daten innerhalb einer Videodatenübertragung |
WO2004077838A1 (de) * | 2003-02-27 | 2004-09-10 | T-Mobile Deutschland Gmbh | Verfahren zur komprimierten übertragung von bilddaten für eine 3-dimensionale darstellung von szenen und objekten |
US7375347B2 (en) | 2004-04-26 | 2008-05-20 | Sensors For Medicine And Science, Inc. | Systems and methods for extending the useful life of optical sensors |
DE102007052622A1 (de) * | 2007-11-05 | 2009-05-07 | T-Mobile International Ag | Verfahren zur Bildanalyse, insbesondere für ein Mobilfunkgerät |
DE102007059273A1 (de) * | 2007-12-08 | 2009-06-18 | T-Mobile Internationale Ag | Virtuelle Tastatur eines mobilen Endgerätes |
FI127117B (fi) * | 2009-06-17 | 2017-11-30 | Gurulogic Microsystems Oy | Kuvaprosessoija ja tietokoneohjelma |
DE102010047770B4 (de) * | 2010-10-08 | 2015-05-13 | Airbus Operations Gmbh | Analysetool für Bussysteme |
CN102186067B (zh) * | 2011-03-31 | 2013-10-09 | 深圳超多维光电子有限公司 | 一种图像帧的传输方法和装置、显示方法和*** |
MX2014000159A (es) * | 2011-07-02 | 2014-02-19 | Samsung Electronics Co Ltd | Metodo y aparato para la codificacion de video, y metodo y aparato para la decodificacion de video acompañada por inter prediccion utilizando imagen co-localizada. |
US9921300B2 (en) | 2014-05-19 | 2018-03-20 | Rockwell Automation Technologies, Inc. | Waveform reconstruction in a time-of-flight sensor |
US9696424B2 (en) | 2014-05-19 | 2017-07-04 | Rockwell Automation Technologies, Inc. | Optical area monitoring with spot matrix illumination |
US11243294B2 (en) | 2014-05-19 | 2022-02-08 | Rockwell Automation Technologies, Inc. | Waveform reconstruction in a time-of-flight sensor |
US20150334371A1 (en) * | 2014-05-19 | 2015-11-19 | Rockwell Automation Technologies, Inc. | Optical safety monitoring with selective pixel array analysis |
CN105245888A (zh) * | 2014-06-11 | 2016-01-13 | 富士通株式会社 | 图像压缩方法和图像压缩装置 |
US9625108B2 (en) | 2014-10-08 | 2017-04-18 | Rockwell Automation Technologies, Inc. | Auxiliary light source associated with an industrial application |
US11044466B2 (en) | 2018-01-26 | 2021-06-22 | Samsung Electronics Co., Ltd. | Image processing device |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE6922682U (de) | 1969-06-06 | 1970-02-12 | Blaupunkt Werke Gmbh | Drahtwiderstand |
JP3276985B2 (ja) * | 1991-06-27 | 2002-04-22 | ゼロックス・コーポレーション | イメージピクセル処理方法 |
JPH05244435A (ja) * | 1992-02-28 | 1993-09-21 | Fujitsu Ltd | 画像の階層符号化方法および画像符号化装置 |
GB2270811B (en) * | 1992-09-17 | 1996-02-07 | Sony Broadcast & Communication | Video data compression |
KR0155784B1 (ko) * | 1993-12-16 | 1998-12-15 | 김광호 | 영상데이타의 적응형 가변장 부호화/복호화방법 |
JP2797959B2 (ja) * | 1994-03-12 | 1998-09-17 | 日本ビクター株式会社 | 多次元画像圧縮伸張方法 |
EP0705027B1 (en) * | 1994-09-30 | 2000-11-22 | SANYO ELECTRIC Co., Ltd. | Image communication system and method for data compression of colour images using colour tables and region-based processing |
KR100249028B1 (ko) * | 1995-03-20 | 2000-03-15 | 전주범 | 정지영상을 가진 영상신호를 부호화/복호화하기 위한 부호화/복호화시스템 |
DE69610987T2 (de) * | 1995-08-14 | 2001-05-23 | Barkfort Ltd., Malahide | Verfahren und vorrichtung zur kompression von digitalen bilddaten |
DE19541457C1 (de) * | 1995-11-07 | 1997-07-03 | Siemens Ag | Verfahren zur Codierung eines Videodatenstroms einer aus Bildblöcken bestehenden Videosequenz |
-
2001
- 2001-03-21 DE DE10113880A patent/DE10113880B4/de not_active Expired - Fee Related
-
2002
- 2002-03-19 EP EP02729802A patent/EP1371229B1/de not_active Expired - Lifetime
- 2002-03-19 WO PCT/DE2002/000987 patent/WO2002078352A1/de active IP Right Grant
- 2002-03-19 RU RU2003130965/09A patent/RU2276470C2/ru not_active IP Right Cessation
- 2002-03-19 CA CA2441473A patent/CA2441473C/en not_active Expired - Fee Related
- 2002-03-19 CN CNB028069617A patent/CN1278563C/zh not_active Expired - Fee Related
- 2002-03-19 AT AT02729802T patent/ATE327638T1/de active
- 2002-03-19 ES ES02729802T patent/ES2265504T3/es not_active Expired - Lifetime
- 2002-03-19 PL PL368828A patent/PL206719B1/pl unknown
- 2002-03-19 JP JP2002576445A patent/JP4102197B2/ja not_active Expired - Fee Related
- 2002-03-19 US US10/472,539 patent/US7130347B2/en not_active Expired - Lifetime
- 2002-03-19 DE DE50206894T patent/DE50206894D1/de not_active Expired - Lifetime
- 2002-03-19 PT PT02729802T patent/PT1371229E/pt unknown
- 2002-03-19 CZ CZ20032875A patent/CZ20032875A3/cs unknown
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102833534A (zh) * | 2011-06-16 | 2012-12-19 | 索尼公司 | 视频发送设备、视频接收设备及视频发送方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2004534434A (ja) | 2004-11-11 |
DE50206894D1 (de) | 2006-06-29 |
EP1371229A1 (de) | 2003-12-17 |
PL206719B1 (pl) | 2010-09-30 |
DE10113880A1 (de) | 2002-10-17 |
CZ20032875A3 (cs) | 2004-01-14 |
PT1371229E (pt) | 2006-09-29 |
US7130347B2 (en) | 2006-10-31 |
DE10113880B4 (de) | 2004-04-29 |
ES2265504T3 (es) | 2007-02-16 |
RU2276470C2 (ru) | 2006-05-10 |
CN1278563C (zh) | 2006-10-04 |
WO2002078352A1 (de) | 2002-10-03 |
US20040095996A1 (en) | 2004-05-20 |
CA2441473C (en) | 2012-07-17 |
JP4102197B2 (ja) | 2008-06-18 |
EP1371229B1 (de) | 2006-05-24 |
PL368828A1 (en) | 2005-04-04 |
CA2441473A1 (en) | 2002-10-03 |
RU2003130965A (ru) | 2005-04-27 |
ATE327638T1 (de) | 2006-06-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1278563C (zh) | 视频数据压缩和解压缩的方法 | |
US11138688B2 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
US11922665B2 (en) | Point cloud compression | |
EP4075804A1 (en) | Point cloud data transmission device, transmission method, processing device and processing method | |
US11830212B2 (en) | Point cloud data transmission apparatus, point cloud data transmission method, point cloud data reception apparatus, and point cloud data reception method | |
CN114503571A (zh) | 点云数据发送装置和方法、点云数据接收装置和方法 | |
JP2022539188A (ja) | ポイントクラウドデータ処理方法及び装置 | |
US20230239501A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
US11483363B2 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
US20220383552A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
JP7307260B2 (ja) | ポイントクラウドデータ送信装置、ポイントクラウドデータ送信方法、ポイントクラウドデータ受信装置及びポイントクラウドデータ受信方法。 | |
US11601675B2 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
US20230260163A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
CN115918092A (zh) | 点云数据发送装置、点云数据发送方法、点云数据接收装置和点云数据接收方法 | |
US20230154052A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device and point cloud data reception method | |
CN103716643A (zh) | 用于使用内容信息改进视频编码的***和方法 | |
US20230290006A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
EP4243413A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
CN114402624B (zh) | 点云数据处理设备和方法 | |
JP2022538857A (ja) | ポイントクラウドデータ処理装置及び方法 | |
CN1498493A (zh) | 图像数据压缩和解压缩的方法 | |
EP4199516A1 (en) | Reduction of redundant data in immersive video coding | |
EP4240014A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
US20240276013A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device and point cloud data reception method | |
CN117730539A (zh) | 点云数据发送设备和方法以及点云数据接收设备和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20061004 Termination date: 20170319 |