CN102972033B - 用于立体三维视频信息的通信的方法和*** - Google Patents
用于立体三维视频信息的通信的方法和*** Download PDFInfo
- Publication number
- CN102972033B CN102972033B CN201180033399.8A CN201180033399A CN102972033B CN 102972033 B CN102972033 B CN 102972033B CN 201180033399 A CN201180033399 A CN 201180033399A CN 102972033 B CN102972033 B CN 102972033B
- Authority
- CN
- China
- Prior art keywords
- view
- information
- unpressed
- pixel
- video frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/139—Format conversion, e.g. of frame-rate or size
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/194—Transmission of image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
立体三维(3D)视频信息的通信。一个实施例包括从发送无线站到接收无线站的立体3D视频信息的无线通信,所述立体3D视频信息包括未压缩的第一眼视图视频帧和对应的立体的未压缩的第二眼视图视频帧。在一个实施例中,通过无线通信介质发送未压缩的第一眼视图视频帧中的像素集合。减小未压缩的第二眼视图视频帧中与第一眼视图像素集合对应的像素集合中的像素信息,以产生减小的像素集合。通过所述无线通信介质发送减小的像素集合。在接收无线站,基于所述第一眼视图像素集合和所述减小的像素集合来重构未压缩的第二眼视图视频像素集合。
Description
技术领域
本发明涉及网络,具体地讲,涉及通信网络中的视频信息的通信。
背景技术
用于对表示三维(3D)视频内容(3D视频)的视频信息进行处理的技术(诸如3D电视(TV)技术)的出现增强了用户观看体验。然而,满足对3D视频的传输带宽要求具有挑战性,尤其是通过无线介质。
发明内容
问题的解决方案
本发明的实施例提供一种用于立体3D视频的通信的方法和***。
本发明的有益效果
本发明的实施例通过在解构(deconstruct)视频帧时利用驻留在立体3D视频格式的L帧和R帧中的冗余信息来降低无线通信速率要求。
附图说明
图1A显示根据本发明的实施例的用于立体3D视频信息的无线通信的无线通信***的框图。
图1B示出二维(2D)视频帧和3D视频帧。
图2显示根据本发明的实施例的用于立体3D视频信息的通信的过程的流程图。
图3显示根据本发明的另一实施例的用于立体3D视频信息的通信的过程的流程图。
图4显示根据本发明的实施例的用于立体3D视频信息的无线通信的无线局域网的框图。
图5显示高层次框图,该高层次框图显示包括用于实现本发明的实施例的计算机***的信息处理***。
具体实施方式
最优模式
本发明的实施例提供一种用于立体3D视频的通信的方法和***。一个实施例包括从发送无线站到接收无线站的3D立体视频信息的无线通信,所述3D立体视频信息包括未压缩的第一眼视图视频帧和对应的立体的未压缩的第二眼视图视频帧。在一个实施例中,通过无线通信介质发送未压缩的第一眼视图视频帧中的像素集合。减小未压缩的第二眼视图视频帧中与所述第一眼视图像素集合对应的像素集合中的像素信息,以产生减小的像素集合。通过所述无线通信介质发送所述减小的像素集合。在接收无线站,基于所述第一眼视图像素集合和所述减小的像素集合来重构未压缩的第二眼视图像素集合。
参照以下描述、权利要求和附图,本发明的这些特征、方面和优点以及其它特征、方面和优点将变得被理解。
发明模式
本发明的实施例提供一种用于在无线通信网络中的立体3D视频信息的无线通信的方法和***。一个实施例包括一种实现通过解构第一眼视图视频帧和对应的第二眼视图视频帧的3D立体视频信息的无线通信的方法的***。通过无线通信介质从发送无线站发送未压缩的第一眼视图视频帧中的像素集合。减小第二眼视图像素集合中的像素信息,并通过所述无线通信介质从发送无线站发送减小的像素集合。在接收无线站,基于所接收的未压缩第一眼视图像素集合与所接收的减小的对应的第二眼视图像素集合来重构未压缩的第二眼视图视频像素集合。
在本发明的可替换实施例中,通过通信介质发送视频信息。所述通信介质可以是在其中信息被从信息发送器移到信息接收器的无线介质、有线介质或者一些其它介质。
参照附图,本发明的一种实现包括一种通过减小用于未压缩的立体3D视频流的发送负荷的处理而构造的无线通信***。图1A显示视频流传输无线通信***10,该视频流传输无线通信***10包括:包括用作发送站(发送器)12的收发器的无线站和包括用作接收站(接收器)13的收发器的无线站。在一个示例中,根据本发明的实施例,无线通信***10包括无线网络(诸如毫米波(mmW)无线局域网/个人区域网)。
根据本发明的实施例,无线***10被构造用于通过无线通信介质11(比如,射频(RF))(诸如60GHz无线介质)的从发送无线站12到接收无线站13的3D视频的无线通信。在这个示例中,3D视频包括未压缩的数字3D视频信息。在一个实施例中,根据本发明的实施例,发送无线站12包括无线收发器12A、处理器12B、存储器12C以及视频通信和处理逻辑12D。以下进一步描述根据本发明的实施例的用于在发送站12解构视频帧的处理逻辑12D。根据本发明的实施例,接收无线站13包括无线收发器13A、处理器13B、存储器13C以及视频通信和处理逻辑13D。以下进一步描述根据本发明的实施例的用于在接收站13重构视频帧的处理逻辑13D。
图1B显示2D视频和3D立体视频(3D视频)的比较。在一个示例中,3D视频信息包括至少两个视频流:第一眼视图流和对应的第二眼视图流。在本文所述的实施例中,第一眼视图流包括左眼视图流(L),第二眼视图流包括右眼视图流(R)。本领域技术人员将认识到,在第一眼视图流包括右眼视图流、第二眼视图流包括左眼视图流的情况下,本发明同样适用。这样的3D视频通过分别对观众的左眼和右眼呈现两幅偏移的2D图像(即,L视频帧和R视频帧)来提供图像中的深度错觉。偏移的2D图像(即,L视频帧和R视频帧)被组合,并提供图像中的3D深度的感知。在一个示例中,光源将图像定向地划分到观众的眼睛中。
本发明的实施例通过在解构视频帧时利用驻留在立体3D视频格式的L帧和R帧中的冗余信息来降低无线通信速率要求。例如,冗余信息可包括R帧中的也驻留在对应的L帧中的相同/类似的空间位置上的信息。R帧中的这样的冗余信息无需被发送,或者这样的冗余信息的子集可被发送。
本发明的一个实施例提供一种用于3D完全未压缩的L帧视频和具有差值的减小的R帧的无线通信的处理。本发明的另一个实施例提供一种用于无线地传送3D完全未压缩的L帧和具有估计的差值的减小的R帧的无线通信的处理。本发明的另一个实施例提供一种用于3D完全未压缩的L帧和压缩的R帧的无线通信的处理。本发明的另一个实施例提供以下帧的交替通信:对于偶数视频帧,完全未压缩的L帧和减小的或压缩的R帧;对于奇数视频帧,减小的或压缩的L帧和完全未压缩的R帧,反之亦然。这帮助使在接收无线站对两个3D视频帧的视觉效果平均。
用于3D完全未压缩的L帧和具有差值的减小的R帧的无线通信处理
对于未压缩的视频帧,可根据可用的发送器和/或接收器缓冲器大小以及预期的视频服务质量(QoS)来降低无线通信开销。根据本发明的实施例,假设接收器存储缓冲器大小为至少一个未压缩的视频帧,并且存在不同的发送器存储缓冲器大小。根据本发明的实施例的通信处理利用L帧与R帧中的对应像素集合(即,一个或多个视频像素行)之间的空间相关性来解构视频帧。
根据本发明的实施例,给定接收器存储缓冲器大小为至少一个未压缩帧,并且发送器缓冲器大小为至少一个未压缩帧加上一个附加行,可通过考虑L帧与R帧(最初由两个稍微错位的照相机产生)中的对应行之间的相关性(或者利用该相关性的性质)来减小R帧的发送。
图2显示根据本发明的实施例的用于发送完全未压缩的L帧和具有差值的对应的减小的R帧并在接收站重构R视频帧的通信处理20的流程图。R帧的减小是基于L帧与R帧中的对应视频像素单元(比如,数字像素行)之间的空间相关性。图2示出示例性处理,该示例性处理包括逐个单元地(比如,逐行地、宏块、像素、像素集合或其它视频信息单元)将完全未压缩的L帧发送到接收站,将整个L帧存储在发送缓冲存储器中,发送减小的对应的R帧,并在接收器重构R帧。处理20包括以下处理块:
块21:逐个单元地将完全未压缩的L帧发送到接收器,并将整个L帧存储在发送缓冲器中。
块22:设置索引i=1。
块23:获得未压缩的R帧的行i,并对所存储的L帧的至少行i进行信号处理以确定立体L帧与R帧之间的向右或向左的预期位移Di(就像素数量而言)。
块24:通过确定的位移及其移位方向(Di,+/-)对R帧的行i进行移位,其中,“+”指示右移位,“-”指示左移位。
块25:从L帧中的对应行减去移位的行。
块26:对差值进行编码(比如,使用熵编码、行程编码(RLC)或霍夫曼编码等)。
块27:将R帧的编码的差值以及位移值及其移位方向值(Di,+/-)发送到接收器。
块28:在接收器,对所述差值进行解码,并使用L帧、R帧的所述行的差值以及值(Di,+/-)来重构R帧中的所述行。接收器具有至少一个未压缩帧加上活动空间(active-space)行加上一个附加行的缓冲存储器。在活动空间行期间,信源发送恒定的像素值,并且不管该值如何,信宿都忽略在活动空间行期间接收的所有数据。
块29:将索引i加1。
块30:如果R帧的最后行,则进行块31,否则进行块23以对R帧中的其它行重复块23-29。
块31:对视频流中的后面的3DL视频帧和R视频帧重复块21-29。
处理块23-26提供减小R帧的大小的处理的示例。因为被用户的左眼和右眼捕捉的图像的位置可具有微小的移位,所以处理块对这样的移位的值进行估计。调整后的R帧的移位是计算R帧与L帧之间的像素的差值。差值被编码以减小R帧的大小。处理20可应用于发送具有差值的减小的L帧和完全未压缩的R帧。
在一个实施例中,不是对每行i确定预期位移Di,而是可确定行i的每个像素的预期位移Di。此外,不是确定每行i的预期位移Di,而是可将帧分割为宏块,并可确定每个宏块的预期位移。
在一个实施例中,预期位移Di可具有一个像素的分辨率。预期位移Di可具有子像素分辨率。预期位移Di的分辨率可大于一个像素。
预期位移Di可以沿着单个维度。所述单个维度可以沿着水平轴。所述单个维度可以沿着从水平线歪斜的单个轴。
根据本发明的实施例,不是单行,而是可使用2维像素集合(需要2行或更多行)来估计位移。
本发明的实施例还提供以下帧的交替传输:对于偶数视频帧,完全未压缩的L帧和具有差值的减小的R帧;对于奇数视频帧,具有差值的减小的L帧和完全未压缩的R帧,反之亦然。另外,如果获悉用户的左眼对视频/图像比右眼更敏感,则可将所述传输改变为完全未压缩的L帧和具有差值的减小的R帧多于具有差值的减小的L帧和完全未压缩的R帧的模式,反之亦然。
用于3D完全未压缩的L帧和具有估计的差值的减小的R帧的无线通信处理
根据本发明的实施例,在接收器缓冲器大小为至少一个未压缩帧、发送器缓冲器大小为几个未压缩视频行(比如,B个视频行集合),并且传输带宽可适合于完全未压缩的L帧和部分未压缩的R帧的情况下,可通过估计R帧相对于对应的L帧的位移来减小关于R帧的信息的传输。图3显示示例通信处理40,其中,发送器缓冲器的大小是B个视频行,其中,处理40包括以下处理块:
块41:逐个单元地(比如,逐行地)将完全未压缩的L帧发送到接收器。并将L帧的第一像素集合(B个视频行)存储在发送器缓冲器中。
块42:设置索引i=1。
块43:获得对应的未压缩的R帧的行i,并对L帧的被存储行的至少行i进行一些信号处理,以确定立体L帧与R帧之间的向右或向左的预期位移Di(就像素数量而言)。
块44:通过确定的位移及其移位方向(Di,+/-)对R帧的行i进行移动。
块45:从L帧中的对应行减去R帧的移位行。
块46:对差值进行编码(比如,熵编码、行程编码(RLC)或霍夫曼编码等)。
块47:将R帧的第一行的编码的差值以及位移值及其移位方向值(Di,+/-)从发送器发送到接收器。
块48:在接收器,对所述差值进行解码,并基于L帧、位移和移位方向(Di,+/-)以及R帧中的行i的差值来重构R帧中的行i。
块49:将索引i加1。
块50:如果i大于所设置的大小B,则进行块51,否则进行块43,以对所述B个视频行集合中的其它行重复块43-49。
块51:重构R帧中的其余行。这样的重构的示例包括:(a)通过使用所确定的估计位移(Di,+/-)来移动L帧的行,并将来自L帧的对应行的相同行差值与所得的行值相加;或者(b)通过使用所确定的估计位移(根据需要,具有校正)来移动L帧的行。当左眼和右眼没有在空间中的完全相同的位置上捕捉到两幅图像时,可能不能总是直接从L帧重构R帧的右边缘,并且在L帧和R帧的边缘处都需要一些校正。
以上示例显示了这样的情况,即,发送缓冲器大小为B个视频行,并且仅R帧的根据处理块43-48进行信号处理的B行被发送到接收器(而R帧的其余行不被发送到接收器)。通过首先使用所述估计的位移值和差值重构R帧的B行集合来在接收器执行R帧的重构。在接收器,所述位移值和差值可用于L帧的其余行(超过所述B个视频行集合),以在接收器上重构R帧的其余视频行。
根据本发明的实施例,不是单行,而是可使用2维像素集合(需要2行或更多行)来估计位移。
处理40对于可存储在发送缓冲器中的L帧的行数(比如,像素集合)是可伸缩的。如果所设置的大小等于L帧中的行数,则处理40类似于以上处理20。
处理40可容易地被修改为发送具有估计的差值的减小的L帧和完全未压缩的R帧。对于偶数视频帧,3D视频信息的交替传输可包括完全未压缩的L帧和具有估计的差值的减小的R帧。在一个实施例中,根据处理块43-49来实现减小帧的步骤。对于奇数视频帧,3D视频信息的交替传输还可包括具有估计的差值的减小的L帧和完全未压缩的R帧。3D视频信息的交替传输可帮助缓和两个帧的用户视觉感知的平均。另外,如果获悉用户的左眼对于视频/图像比右眼更敏感,则可将所述传输改变为完全未压缩的L帧和具有估计的差值的减小的R帧多于具有估计的差值的减小的L帧和完全未压缩的R帧的模式,反之亦然。
用于3D完全未压缩的L帧和压缩的R帧的无线通信处理
在本发明的另一个实施例中,假设发送器和接收器的每一个的视频缓冲器大小均为视频像素的未压缩帧中的至少一个像素集合(比如,B个视频行)。编解码(压缩/解压缩)操作被应用于L帧或R帧之一。在接收器缓冲器大小小于一个像素集合的情况下,仅发送完全未压缩的L帧和完全未压缩的R帧。
在另一个实施例中,当接收器和发送器缓冲器大小是未压缩帧中的一个像素集合(比如,B个视频行)的大小,并且传输带宽仅可适合于完全未压缩的L帧和编码的(即,压缩的)R帧时,通过用帧内编解码技术(诸如MPEG或H.264)进行压缩来减小R帧。这样,未压缩的L帧和压缩的R帧被发送。在接收器,使用接收器上的视频解码器来重构R帧。这假设编解码器被实现在无线***中。对于未压缩的视频帧的视频压缩可使用各种标准(诸如H.264、MPEG2、JPEG2000等)中所指定的帧内视频压缩模式。
在一个示例中,发送器无线站和接收器无线站形成无线局域网,该无线局域网实现用于数据的无线通信的帧结构。该帧结构利用媒体访问控制(MAC)层和物理(PHY)层中的包通信。
每个无线站包括MAC层和PHY层。MAC层接收包括净荷数据的数据包,并将MAC头附到该数据包,以便构造MAC协议数据单元(MPDU)。MAC头包括诸如源地址(SA)和目的地址(DA)的信息。MPDU是PHY服务数据单元(PSDU)的一部分,并被传递到AP中的PHY层以将PHY头(即,PHY前导码)附到该MPDU,从而构造PHY协议数据单元(PPDU)。PHY头包括用于确定包括编码/调制方案的通信方案的参数。
发送器无线站的MAC层包括发送视频逻辑模块(比如,图1A中的逻辑12D),该发送视频逻辑模块实现如本文所述的根据本发明的实施例的3D视频处理和通信模块。类似地,接收器的MAC层包括接收视频逻辑模块(比如,图1A中的逻辑13D),该接收视频逻辑模块实现如本文所述的根据本发明的实施例的3D视频处理和通信模块。根据本发明的实施例,示例发送器无线站和接收器无线站能够例如通过天线训练和波束成形来执行定向通信。
图4显示根据本发明的实施例的实现3D视频通信的示例无线通信***200的框图。根据本发明的实施例,***200包括用作发送器的无线站202和用作接收器的无线站204。发送器202包括图1A中的发送器12的示例实现,接收器204包括图1A中的接收器13的示例实现。***200还可包括诸如在基础设施模式下便于视频传输的协调器模块235。协调器235可包括这样的逻辑模块,该逻辑模块可被实现为独立装置或者发送器202或接收器204的一部分。
发送器202包括PHY层206、MAC层208和应用层210。PHY层206包括RF通信模块207,该RF通信模块207在基带处理模块230的控制下通过RF信道经由多个无线路径201发送/接收信号。基带模块230允许控制信息和视频信息的无线通信。
应用层210包括用于提供3D视频帧流的音频/视频(AV)预处理模块211。3D视频流然后被MAC层208转换为MAC包。
在一个实施例中,根据本发明的实施例(诸如关于图2-3所述的实施例),预处理模块211执行发送器端3D视频通信,该发送器端3D视频通信包括通过拆解输入的视频帧来对视频进行解构并选择性地减小这些帧以用于传输。在另一个实施例中,根据本发明的实施例,MAC层208执行发送器端3D视频通信。在另一个实施例中,根据本发明的实施例,预处理模块211和MAC层208合作执行发送器端视频通信。
应用层210还包括AV/C控制模块212,该AV/C控制模块212发送流传输请求和为通过无线信道的包的传输预留信道时间块的控制命令。
接收器204包括PHY层214、MAC层216和应用层218。PHY层214包括RF通信模块213,该RF通信模块213在基带处理模块213的控制下发送/接收信号。
MAC层216将MAC包中所接收的视频信息提供给应用层218。应用层218包括A/V后处理模块219,该A/V后处理模块219用于将所接收的视频帧处理为用于消费(比如,显示在显示屏幕上以供用户观看)的视频流。
在一个实施例中,根据本发明的实施例(诸如以上关于图2-3所述的实施例),MAC层216还实现包括3D视频重构的接收器端3D视频通信。在另一个实施例中,根据本发明的实施例,A/V后处理模块219还实现包括3D视频重构的接收器端3D视频通信。在另一个实施例中,根据本发明的实施例,MAC层216和A/V后处理模块219合作实现包括3D视频重构的接收器端3D视频通信。
应用层218还包括AV/C控制模块220,该AV/C控制模块220处理流控制和信道接入。可通过多个RF信道执行发送器202与接收器204之间的波束成形通信。MAC/PHY层可根据需要根据已知技术执行天线训练和射束切换控制。
本发明的实施例可应用于无线装置和***,诸如实现用于通过射频信道的音频/视频(A/V)信息的通信的毫米波通信的无线***。例如,本发明的实施例可应用于WiGig和WirelessHD(WiHD)无线网络,诸如WiGig3DA/V支持。WiGig是由无线吉比特联盟对在60GHz频谱上工作的多吉比特速度无线通信技术推广的标准。WiHD是定义关于用于消费者电子产品的无线高清晰度信号通信的下一代无线数字网络接口的规范。
在本发明的一种实现中,可分配供应商指定编解码器ID,其中,发送器(发送者)在A/V能力请求帧(A/VCapabilityRequestframe)中向接收器通知其供应商指定编解码器的支持及其视频缓冲器大小。发送器类似地通过来自接收器的A/V能力响应帧(A/VCapabilityResponseframe)来确定接收器(信宿)支持哪些供应商指定编解码器以及接收器视频缓冲器大小。如果接收器支持发送器的编解码器处理,则发送器和接收器可利用供应商指定编解码器选择请求和响应帧(VendorSpecificCodecSelectRequestandResponseframes)来基于它们的能力选择通信处理的适当配置、通过无线信道执行A/V连接设置、并实现根据本发明的实施例的A/V通信。在一个示例中,供应商指定A/V内容的净荷可包括:未压缩的L帧、位移(Di,+/-)和R帧的编码的像素差值,这些可被依次放置在净荷(比如,包)中。
如本领域技术人员意识到的,本发明的实施例可被修改为发送压缩的L帧和完全未压缩的R帧。以下帧的交替传输可帮助平均两个帧的用户视觉感知:对于偶数视频帧,完全未压缩的L帧和压缩的R帧;对于奇数视频帧,压缩的L帧和完全未压缩的R帧,反之亦然。另外,如果用户的左眼对视频/图像比右眼更敏感,则可将所述传输改变为完全未压缩的L帧和完全压缩的R帧多于压缩的L帧和完全未压缩的R帧的模式,反之亦然。
如本领域技术人员已知的,根据本发明,以上所述的前述示例架构可以以许多方式来实现,所述许多方式诸如在无线装置中、在无线发送器/接收器中、在无线网络中等的用于供处理器执行的程序指令、软件模块、微码、计算机可读介质上的计算机程序产品、逻辑电路、专用集成电路、固件、消费者电子装置等等。此外,本发明的实施例可采取完全硬件实施例、完全软件实施例或者既包含硬件元件、又包含软件元件的实施例。
图5显示高层次框图,该高层次框图显示包括用于实现本发明的实施例的计算机***100的信息处理***。计算机***100包括一个或多个处理器101,并且还可包括电子显示装置102(用于显示图形、文本和其它数据)、主存储器103(比如,随机存取存储器(RAM))、存储装置104(比如,硬盘驱动器)、可移除存储装置105(比如,可移除存储驱动器、可移除存储器模块、磁带驱动器、光学盘驱动器、其上存储有计算机软件和/或数据的计算机可读介质)、用户接口装置106(比如,键盘、触摸屏、键板、定点装置)以及通信接口107(比如,调制解调器、网络接口(诸如以太网卡)、通信端口或PCMCIA插槽和卡)。通信接口107允许软件和数据在计算机***与外部装置之间传递。***100还包括前述装置/模块101至107连接到的通信基础设施108(比如,通信总线、交叉杆(cross-overbar)或网络)。
通过通信接口107传递的信息可以是能够通过通信链路被通信接口107接收的诸如电子信号、电磁信号、光学信号或其它信号的信号形式,所述通信链路携带信号,并可使用导线或电缆、光纤、电话线、蜂窝电话链路、射频(RF)链路和/或其它通信信道来实现。
表示本文的框图和/或流程图的计算机程序指令可被加载到计算机、可编程数据处理设备或处理装置中,以使在其上执行的一系列操作产生计算机实现的处理。
已参照根据本发明的实施例的方法、设备(***)和计算机程序产品的流程图和/或框图描述了本发明的实施例。这样的图示/示图或者它们的组合的每个块可用计算机程序指令来实现。计算机程序指令在被提供给处理器时生成机器指令,以使得通过处理器执行的指令创建用于实现流程图和/或框图中所指定的功能/操作的手段。流程图/框图中的每个块可表示实现本发明的实施例的硬件和/或软件模块或逻辑。在可替换实现中,块中所指出的功能可以按与图中所指出的顺序颠倒的顺序、同时地、等等方式发生。
术语“计算机程序介质”、“计算机可用介质”、“计算机可读介质”和“计算机程序产品”被用于泛指诸如主存储器、辅助存储器、可移除存储驱动器和安装在硬盘驱动器中的硬盘的介质。这些计算机程序产品是用于将软件提供给计算机***的装置。计算机可读介质使得计算机***允许从计算机可读介质读取数据、指令、消息或消息包和其它计算机可读信息。计算机可读介质例如可包括非易失性存储器(诸如软盘、ROM、闪存、盘驱动器存储器、CD-ROM和其它永久储存器)。它对于例如在计算机***之间传输信息(诸如数据和计算机指令)是有用的。计算机程序指令可被存储在计算机可读介质中,所述计算机程序指令可指导计算机、其它可编程数据处理设备或其它装置以特定方式运作,以使得存储在计算机可读介质中的指令生成制品,所述制品包括实现流程图和/或一个框图块或多个框图块中所指定的功能/动作的指令。
计算机程序(即,计算机控制逻辑)被存储在主存储器和/或辅助存储器中。计算机程序还可通过通信接口来接收。这样的计算机程序在被执行时使得计算机***能够执行如本文所讨论的本发明的特征。具体地讲,计算机程序在被执行时使得处理器或多核处理器能够执行计算机***的特征。这样的计算机程序代表计算机***的控制器。
已参照本发明的某些版本描述了本发明;然而,其它版本是可能的。因此,权利要求的精神和范围不应限于本文所包含的优选版本的描述。
Claims (32)
1.一种通信立体三维(3D)视频信息的方法,所述立体3D视频信息包括未压缩的第一眼视图视频帧和对应的未压缩的第二眼视图视频帧,所述方法包括:
发送未压缩的第一眼视图视频帧中的像素集合;
通过使用未压缩的第一眼视图视频帧与未压缩的第二眼视图视频帧之间的差信息来减小未压缩的第二眼视图视频帧中的像素集合中的像素信息;和
发送作为减小的像素集合的所述差信息。
2.根据权利要求1所述的方法,还包括:
基于第一眼视图像素集合中的像素与第二眼视图像素集合中的对应像素之间的空间相关性来确定所述差信息;
其中,所述差信息还包括未压缩的第一眼视图视频帧与未压缩的第二眼视图视频帧之间的确定的位移、用于位移的移位方向信息。
3.根据权利要求2所述的方法,其中:
所述差信息包括水平差信息,使得不通过通信介质发送垂直差信息。
4.根据权利要求2所述的方法,其中:
所述差信息包括未压缩的第一眼视图视频帧的像素集合中的像素与未压缩的第二眼视图视频帧的像素集合中的对应像素之间的差的估计。
5.根据权利要求2所述的方法,其中:
发送未压缩的第一眼视图视频帧中的所述像素集合的步骤包括通过毫米波射频无线信道将未压缩的第一眼视图视频帧中的所述像素集合从发送无线站发送到接收无线站。
6.根据权利要求2所述的方法,还包括基于以下方面来重构未压缩的第二眼视图视频像素集合:未压缩的第一眼视图视频帧中的所述像素集合、所述位移和所述移位方向信息以及所述差信息。
7.根据权利要求1所述的方法,其中:
发送所述差信息的步骤包括通过无线通信介质将所述差信息从发送无线站发送到接收无线站。
8.根据权利要求6所述的方法,还包括在接收站基于未压缩的第一眼视图视频帧中的所述像素集合、所述位移和所述移位方向信息以及所述差信息来重构未压缩的第二眼视图视频像素集合。
9.根据权利要求2所述的方法,其中,所述差信息具有子像素分辨率。
10.根据权利要求1所述的方法,其中:
所述第一眼视图包括左眼视图,所述第二眼视图包括右眼视图。
11.根据权利要求1所述的方法,其中:
减小未压缩的第二眼视图视频帧中的像素集合中的像素信息的步骤包括基于驻留在立体3D视频格式的第一眼视图帧和第二眼视图帧中的冗余信息来减少所述像素集合中的像素信息。
12.根据权利要求1所述的方法,还包括:
交替地发送包括两对视频帧的3D立体视频信息,每对视频帧包括未压缩的第一眼视图视频帧和对应的立体的未压缩的第二眼视图视频帧;
其中,交替地发送的步骤包括对于第一对视频帧:
发送未压缩的第一眼视图视频帧中的像素集合;
通过使用差信息、位移信息和移位信息而不是使用未压缩的第二眼视图视频帧中的像素集合来减小未压缩的第二眼视图视频帧中的像素集合中的像素信息,以产生减小的像素集合;和
发送所述减小的像素集合;并且
对于随后的第二对视频帧:
发送未压缩的第二眼视图视频帧中的像素集合;
减小未压缩的第一眼视图视频帧中与第二眼视图像素集合对应的像素集合中的像素信息,以产生减小的像素集合;和
发送所述减小的像素集合。
13.根据权利要求6所述的方法,其中,所述重构由接收无线站执行。
14.一种用于通信立体三维(3D)视频信息的通信站,所述立体3D视频信息包括未压缩的第一眼视图视频帧和对应的未压缩的第二眼视图视频帧,所述通信站包括:
视频处理器,其使用未压缩的第一眼视图视频帧中的像素集合与未压缩的第二眼视图视频帧中的像素集合之间的差信息来减小未压缩的第二眼视图视频帧中与未压缩的第一眼视图视频帧中的像素集合对应的像素集合中的像素信息作为用于第二眼视图视频帧的信息;和
通信模块,发送用于第二眼视图视频帧的信息和所述未压缩的第一眼视图视频帧中的所述像素集合。
15.根据权利要求14所述的通信站,其中:
所述视频处理器基于第一眼视图像素集合中的像素与第二眼视图像素集合中的对应像素之间的空间相关性来确定所述差信息,并使用所述差信息、位移信息和移位方向信息来产生用于第二眼视图视频帧的信息;并且
所述通信模块通过通信介质针对用于第二眼视图视频帧的信息发送所述差信息、所述位移信息和所述移位方向信息。
16.根据权利要求15所述的通信站,其中:
所述差信息包括第一眼视图像素集合中的像素与第二眼视图像素集合中的对应像素之间的差值。
17.根据权利要求15所述的通信站,其中:
所述差信息包括水平差信息,使得不通过所述通信介质发送垂直差信息。
18.根据权利要求15所述的通信站,其中:
所述差信息包括第一眼视图像素集合中的像素与第二眼视图像素集合中的对应像素之间的差的估计。
19.根据权利要求15所述的通信站,其中,所述差信息具有子像素分辨率。
20.根据权利要求14所述的通信站,其中:
所述通信站包括无线发送站,使得所述通信模块通过无线通信介质发送到无线接收站。
21.根据权利要求14所述的通信站,其中:
所述第一眼视图包括左眼视图,所述第二眼视图包括右眼视图。
22.根据权利要求14所述的通信站,其中:
所述视频处理器通过基于驻留在立体3D视频格式的第一眼视图帧和第二眼视图帧中的冗余信息减小所述像素集合中的像素信息来减小未压缩的第二眼视图视频帧中的像素集合中的像素信息。
23.根据权利要求14所述的通信站,其中:
所述通信模块交替地发送包括两对视频帧的3D立体视频信息,每对视频帧包括未压缩的第一眼视图视频帧和对应的未压缩的第二眼视图视频帧,使得:
对于第一对视频帧:
所述通信模块发送未压缩的第一眼视图视频帧中的像素集合;
所述视频处理器使用差信息而不是使用未压缩的第二眼视图视频帧中的像素集合来减小未压缩的第二眼视图视频帧中的像素集合中的像素信息,以产生减小的像素集合;并且
所述通信模块发送所述减小的像素集合;并且
对于随后的第二对视频帧:
所述通信模块发送未压缩的第二眼视图视频帧中的像素集合;
所述视频处理器减小未压缩的第一眼视图视频帧中与第二眼视图像素集合对应的像素集合中的像素信息,以产生减小的像素集合;并且
所述通信模块发送所述减小的像素集合。
24.一种用于通信立体三维(3D)视频信息的接收通信站,所述立体3D视频信息包括未压缩的第一眼视图视频帧和对应的未压缩的第二眼视图视频帧,所述接收通信站包括:
通信模块,接收未压缩的第一眼视图视频帧中的像素集合和未压缩的第一眼视图视频帧中的像素集合与未压缩的第二眼视图视频帧中的像素集合之间的差信息;和
视频处理器,基于所述第一眼视图像素集合和所述差信息来重构未压缩的第二眼视图视频帧中的像素集合。
25.根据权利要求24所述的通信站,其中:
所述差信息基于第一眼视图像素集合中的像素与第二眼视图像素集合中的对应像素之间的空间相关性,并通过使用所述差信息而不是使用未压缩的第二眼视图视频帧中的像素集合来减小像素信息;并且
所述视频处理器基于以下方面来重构未压缩的第二眼视图视频帧:所述差信息、第一眼视图视频帧与第二眼视图视频帧之间的位移信息。
26.根据权利要求25所述的通信站,其中:
在所述接收站,所述视频处理器基于所接收的第一眼视图像素集合、所述差信息和所述位移信息来重构未压缩的第二眼视图视频帧中的像素集合。
27.根据权利要求25所述的通信站,其中:
所述差信息包括第一眼视图像素集合中的像素与第二眼视图像素集合中的对应像素之间的差值。
28.根据权利要求25所述的通信站,其中:
所述差信息包括水平差信息,使得不通过通信介质发送垂直差信息。
29.根据权利要求25所述的通信站,其中:
所述差信息包括第一眼视图像素集合中的像素与第二眼视图像素集合中的对应像素之间的差的估计。
30.根据权利要求25所述的通信站,其中,所述差信息具有子像素分辨率。
31.根据权利要求24所述的通信站,其中:
所述通信站包括接收无线站,使得所述通信模块通过无线通信介质从无线发送站接收传输。
32.根据权利要求24所述的通信站,其中:
所述第一眼视图包括左眼视图,所述第二眼视图包括右眼视图。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US33167410P | 2010-05-05 | 2010-05-05 | |
US61/331,674 | 2010-05-05 | ||
US13/095,775 | 2011-04-27 | ||
US13/095,775 US8963996B2 (en) | 2010-05-05 | 2011-04-27 | Communication of stereoscopic three-dimensional (3D) video information including an uncompressed eye view video frames |
PCT/KR2011/003262 WO2011139060A2 (en) | 2010-05-05 | 2011-05-02 | Method and system for communication of stereoscopic three dimensional video information |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102972033A CN102972033A (zh) | 2013-03-13 |
CN102972033B true CN102972033B (zh) | 2016-03-16 |
Family
ID=44901686
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180033399.8A Expired - Fee Related CN102972033B (zh) | 2010-05-05 | 2011-05-02 | 用于立体三维视频信息的通信的方法和*** |
Country Status (4)
Country | Link |
---|---|
US (1) | US8963996B2 (zh) |
KR (1) | KR101832407B1 (zh) |
CN (1) | CN102972033B (zh) |
WO (1) | WO2011139060A2 (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102959963A (zh) * | 2010-09-20 | 2013-03-06 | 联发科技(新加坡)私人有限公司 | 执行关于3d视频流的播放管理的方法以及相关视频播放*** |
KR101283244B1 (ko) * | 2011-08-03 | 2013-07-11 | 엘지이노텍 주식회사 | 무선 이더넷을 위한 네트워크 접속 장치 및 시스템 |
CN109429054A (zh) * | 2017-08-18 | 2019-03-05 | 北京传送科技有限公司 | Vr图像压缩方法及其装置 |
US10916041B2 (en) * | 2018-03-30 | 2021-02-09 | Samsung Electronics Co., Ltd. | Method for depth image di coding |
WO2022056662A1 (en) * | 2020-09-15 | 2022-03-24 | Qualcomm Incorporated | Methods and apparatus for vr/ar in nr-dc |
US11663300B2 (en) * | 2020-10-09 | 2023-05-30 | Capital One Services, Llc | Systems and methods for localized file transfer with file degradation |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5384861A (en) * | 1991-06-24 | 1995-01-24 | Picker International, Inc. | Multi-parameter image display with real time interpolation |
US7181050B1 (en) * | 1998-01-09 | 2007-02-20 | Sharp Laboratories Of America, Inc. | Method for adapting quantization in video coding using face detection and visual eccentricity weighting |
CN101536329A (zh) * | 2005-10-21 | 2009-09-16 | 阿密蒙有限公司 | 用于视频的未压缩无线传输的装置和方法 |
WO2010011556A1 (en) * | 2008-07-20 | 2010-01-28 | Dolby Laboratories Licensing Corporation | Compatible stereoscopic video delivery |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08205198A (ja) | 1995-01-26 | 1996-08-09 | Sony Corp | 撮像装置 |
JPH08214336A (ja) | 1995-02-01 | 1996-08-20 | Nippon Columbia Co Ltd | 立体画像のデータ処理装置 |
US6031564A (en) * | 1997-07-07 | 2000-02-29 | Reveo, Inc. | Method and apparatus for monoscopic to stereoscopic image conversion |
JP2001285895A (ja) | 2000-03-30 | 2001-10-12 | Sanyo Electric Co Ltd | 画像データ符号化装置及びその方法 |
JP2002077945A (ja) | 2000-06-07 | 2002-03-15 | Canon Inc | 録画装置、撮像装置、撮像システム、信号処理方法、記録制御方法及び記憶媒体 |
US6950469B2 (en) * | 2001-09-17 | 2005-09-27 | Nokia Corporation | Method for sub-pixel value interpolation |
WO2004006005A1 (en) * | 2002-07-08 | 2004-01-15 | Koninklijke Philips Electronics N.V. | Reflective stereoscopic display |
US8559525B2 (en) * | 2005-10-21 | 2013-10-15 | Amimon Ltd. | Apparatus and method for uncompressed, wireless transmission of video |
US7868879B2 (en) * | 2006-05-12 | 2011-01-11 | Doremi Labs, Inc. | Method and apparatus for serving audiovisual content |
US8571340B2 (en) * | 2006-06-26 | 2013-10-29 | Qualcomm Incorporated | Efficient fixed-point approximations of forward and inverse discrete cosine transforms |
JP5321011B2 (ja) * | 2008-11-25 | 2013-10-23 | ソニー株式会社 | 画像信号処理装置、画像信号処理方法および画像投射装置 |
-
2011
- 2011-04-27 US US13/095,775 patent/US8963996B2/en not_active Expired - Fee Related
- 2011-05-02 WO PCT/KR2011/003262 patent/WO2011139060A2/en active Application Filing
- 2011-05-02 KR KR1020127029039A patent/KR101832407B1/ko active IP Right Grant
- 2011-05-02 CN CN201180033399.8A patent/CN102972033B/zh not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5384861A (en) * | 1991-06-24 | 1995-01-24 | Picker International, Inc. | Multi-parameter image display with real time interpolation |
US7181050B1 (en) * | 1998-01-09 | 2007-02-20 | Sharp Laboratories Of America, Inc. | Method for adapting quantization in video coding using face detection and visual eccentricity weighting |
CN101536329A (zh) * | 2005-10-21 | 2009-09-16 | 阿密蒙有限公司 | 用于视频的未压缩无线传输的装置和方法 |
WO2010011556A1 (en) * | 2008-07-20 | 2010-01-28 | Dolby Laboratories Licensing Corporation | Compatible stereoscopic video delivery |
Also Published As
Publication number | Publication date |
---|---|
CN102972033A (zh) | 2013-03-13 |
WO2011139060A2 (en) | 2011-11-10 |
US8963996B2 (en) | 2015-02-24 |
US20110273533A1 (en) | 2011-11-10 |
WO2011139060A3 (en) | 2012-03-01 |
KR20130098147A (ko) | 2013-09-04 |
KR101832407B1 (ko) | 2018-02-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102972033B (zh) | 用于立体三维视频信息的通信的方法和*** | |
US10869069B2 (en) | Information processing device and information processing method | |
CN104604203B (zh) | 在场景改变之后的图像中的编码和发射参数的调适 | |
US10547897B2 (en) | Information processing device and information processing method to communicate based on capability information | |
CN111492660A (zh) | 用于有损无线链路的视频编解码器数据恢复技术 | |
CN101123730A (zh) | 使用蓝牙传输运动图像流的装置和方法 | |
US10165250B2 (en) | Method and apparatus for coding and transmitting 3D video sequences in a wireless communication system | |
US20200195944A1 (en) | Slice size map control of foveated coding | |
KR20130095280A (ko) | 무선 디스플레이에 대한 파이프라인 슬라이스를 위한 방법 및 장치 | |
WO2014077307A1 (ja) | サーバ装置、端末、シンクライアントシステム、画面送信方法およびプログラム | |
Le et al. | Computing offloading over mmWave for mobile VR: Make 360 video streaming alive | |
CN108933917A (zh) | 一种视频回传方法及装置 | |
US20120007951A1 (en) | System and format for encoding data and three-dimensional rendering | |
US10033789B2 (en) | Connectionless wireless media broadcast | |
CN102045580B (zh) | 用于处理视频的方法和*** | |
US10582376B2 (en) | Information processing apparatus, information processing method, and source apparatus | |
WO2016119386A1 (zh) | 一种视频信号处理方法、装置和计算机存储介质 | |
KR20210138781A (ko) | 무선 av 시스템에서 적응적으로 rf 전송전력을 제어하는 장치 및 방법 | |
CN103856784A (zh) | 数据发送、接收方法以及电子设备 | |
US10972752B2 (en) | Stereoscopic interleaved compression | |
KR102681654B1 (ko) | 무선 av 시스템에서 영상 데이터의 처리 및 전송을 수행하는 장치 및 방법 | |
CN103248883A (zh) | 传输方法和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20160316 Termination date: 20190502 |