CN102210156A - 进行立体视再生的再生装置、再生方法、程序 - Google Patents
进行立体视再生的再生装置、再生方法、程序 Download PDFInfo
- Publication number
- CN102210156A CN102210156A CN2009801449706A CN200980144970A CN102210156A CN 102210156 A CN102210156 A CN 102210156A CN 2009801449706 A CN2009801449706 A CN 2009801449706A CN 200980144970 A CN200980144970 A CN 200980144970A CN 102210156 A CN102210156 A CN 102210156A
- Authority
- CN
- China
- Prior art keywords
- plane
- video
- convergent
- frame
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 45
- 238000006073 displacement reaction Methods 0.000 claims description 204
- 230000014509 gene expression Effects 0.000 claims description 126
- 230000001172 regenerating effect Effects 0.000 claims description 124
- 230000015654 memory Effects 0.000 claims description 119
- 230000008929 regeneration Effects 0.000 claims description 100
- 238000011069 regeneration method Methods 0.000 claims description 100
- 230000033001 locomotion Effects 0.000 claims description 26
- 230000015572 biosynthetic process Effects 0.000 claims description 16
- 238000005755 formation reaction Methods 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 13
- 241001269238 Data Species 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 6
- 238000012423 maintenance Methods 0.000 claims description 2
- 238000009418 renovation Methods 0.000 claims description 2
- 238000003786 synthesis reaction Methods 0.000 claims 2
- 230000008859 change Effects 0.000 abstract description 37
- 230000000007 visual effect Effects 0.000 description 275
- 230000002452 interceptive effect Effects 0.000 description 218
- 238000012545 processing Methods 0.000 description 169
- 238000004321 preservation Methods 0.000 description 79
- 238000003860 storage Methods 0.000 description 72
- 230000006870 function Effects 0.000 description 30
- 230000000694 effects Effects 0.000 description 28
- 238000007726 management method Methods 0.000 description 28
- 239000004973 liquid crystal related substance Substances 0.000 description 27
- 239000011521 glass Substances 0.000 description 26
- 238000006243 chemical reaction Methods 0.000 description 24
- 230000033228 biological regulation Effects 0.000 description 23
- 230000009471 action Effects 0.000 description 22
- 239000004065 semiconductor Substances 0.000 description 19
- 238000009434 installation Methods 0.000 description 13
- 230000001360 synchronised effect Effects 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 9
- 230000001105 regulatory effect Effects 0.000 description 9
- 230000007246 mechanism Effects 0.000 description 8
- 238000009826 distribution Methods 0.000 description 7
- 230000003068 static effect Effects 0.000 description 7
- 230000003321 amplification Effects 0.000 description 5
- 238000013461 design Methods 0.000 description 5
- 238000003199 nucleic acid amplification method Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000011549 displacement method Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 210000003128 head Anatomy 0.000 description 4
- 239000007787 solid Substances 0.000 description 4
- 239000000758 substrate Substances 0.000 description 4
- 230000009182 swimming Effects 0.000 description 4
- 235000003140 Panax quinquefolius Nutrition 0.000 description 3
- 240000005373 Panax quinquefolius Species 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 238000005520 cutting process Methods 0.000 description 3
- 238000005538 encapsulation Methods 0.000 description 3
- 230000009191 jumping Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012856 packing Methods 0.000 description 3
- 230000003252 repetitive effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000008676 import Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000002203 pretreatment Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 238000013468 resource allocation Methods 0.000 description 2
- 239000000243 solution Substances 0.000 description 2
- 230000004083 survival effect Effects 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 239000003855 balanced salt solution Substances 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 210000002858 crystal cell Anatomy 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000003292 diminished effect Effects 0.000 description 1
- 229940053083 eye stream Drugs 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 239000012467 final product Substances 0.000 description 1
- 230000037433 frameshift Effects 0.000 description 1
- 125000000524 functional group Chemical group 0.000 description 1
- 239000007943 implant Substances 0.000 description 1
- 238000002513 implantation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- NUHSROFQTUXZQQ-UHFFFAOYSA-N isopentenyl diphosphate Chemical compound CC(=C)CCO[P@](O)(=O)OP(O)(O)=O NUHSROFQTUXZQQ-UHFFFAOYSA-N 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- GOLXNESZZPUPJE-UHFFFAOYSA-N spiromesifen Chemical compound CC1=CC(C)=CC(C)=C1C(C(O1)=O)=C(OC(=O)CC(C)(C)C)C11CCCC1 GOLXNESZZPUPJE-UHFFFAOYSA-N 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000010189 synthetic method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000009452 underexpressoin Effects 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/139—Format conversion, e.g. of frame-rate or size
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/156—Mixing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/172—Processing image signals image signals comprising non-image signal components, e.g. headers or format information
- H04N13/183—On-screen display [OSD] information, e.g. subtitles or menus
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Television Signal Processing For Recording (AREA)
- Processing Or Creating Images (AREA)
- Controls And Circuits For Display Device (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
Abstract
偏移设定部(21)保持偏移,该偏移利用像素数,表示在实现立体视时,为了实现立体视应使像素的坐标向右方向或左方向移动多少。平面移位引擎(20)在实现立体视的情况下,使图形平面中的像素数据各自的坐标向右方向及左方向中的某一方向移动偏移所示的像素数。在由基本图形平面(15)变更了作为立体视的对象的视频数据的大小的情况下,平面移位引擎(20)进行的像素坐标的移动量基于对上述偏移乘以水平方向的变更后的缩放倍率而得到的像素数。
Description
技术领域
本发明是属于立体视再生的技术领域的发明。
背景技术
所谓立体视再生技术,是指导入使人在左眼和右眼中看到不同的画面的机制并利用其两眼间的视差从而虚拟地形成立体的影像的技术。
目前,立体视再生技术的应用中,在剧场等的应用是主流,但通过家庭设置用的显示器及再生装置欣赏立体视再生的利用方式也被期待在今后迅速普及。
用来使用户视听立体视图像的显示器(立体视显示器)有各种方式。例如,作为经常使用的方式之一,有使用开闭器眼镜的方式。在该方式中,将视听者的左眼和右眼的视野通过眼镜交替地高速地挡住,与该眼镜的动作同步,将显示器的显示图像也高速地更新为左眼用、右眼用。通过这样,结果,通过开闭器眼镜,由显示器显示的左眼用的图像仅左眼能看到,反之右眼用的图像仅右眼能看到。
如果想要以与通常的平面的影像同样的帧速率使视听者观看立体化的影像,则在再生装置侧,必须将能够分别由右眼、左眼观看的两个运动图像再生,在显示器侧需要通常的2倍的响应性能。例如,为了显示一秒60帧的视频,最低必须进行1秒120帧的切换。在家庭设置用再生装置的先行技术中,有在以下的专利文献1中记载的技术,在立体视再生的先行技术中,有在以下的专利文献2中记载的技术。
先行技术文献
专利文献
专利文献1:国际公开第2005/119675号公报
专利文献2:国际公开第2008/0192067号公报
发明的概要
发明要解决的课题
在考虑到将能够立体视的电影作品记录到光盘等记录媒体中而发行的情况下,讨论怎样实现在运动图像中合成字幕、GUI等的图形那样的合成影像的立体视。
第1个方法为以下方法:准备左眼用、右眼用的视频流,分别准备对应的左眼用字幕和右眼用字幕,并各自重叠显示。
第2个方法为以下方法:如专利文献2那样,由一个视频流以及与其对应的Depth信息给视频带来立体效果,并在其上叠合字幕对象。在该专利文献2中,通过将字幕与视频重叠的部分的进深以Zero(零)视差、即消除进深而显示,使用户不会感到字幕与视频的进深感的差异。
第3个方法为以下方法:对预先准备的左眼用和右眼用视频流,准备一个字幕对象,叠加根据Depth(深度)信息通过平面移位带来立体效果的对象。
在第1个方法中,不仅是视频流,字幕·GUI用的图形流也必须制作左右两者,所以编辑的负担变得很大。相对于此,在第2个方法中,不需要制作用于字幕显示的左右的图形流,能够使编辑的负担减轻,但关于字幕与流重叠的部分,由于丧失了进深感,所以观看效果无法称道。
在第3个通过平面移位的方法中,对于字幕·GUI用的图形流,不需要制作左右两者,此外,关于字幕·GUI与运动图像重叠的部分也不会丧失进深感,所以为最理想的方法。但是,在执行将显示中的画面放大或缩小的缩放功能时,平面移位产生弊端。
在通过将应从左视野看到的运动图像、以及应从右视野看到的运动图像再生从而实现了视频流的立体视的情况下,即使实施了缩放,也不过是将应从左视野看到的运动图像、以及应从右视野看到的运动图像放大或缩小,所以在立体视再生中不会出现障碍。
但是,图形在左眼用和右眼用中共用,所以虽然通过缩放将字符缩小,但字符的位置是与缩放前同样的,字幕字符的进深被保持。这样,发生虽然视频的进深减小但字幕仍为原状的状态,在缩放时视频与字幕·GUI的立体感的差异变得强烈。
在缩放前后,如果在维持左视野的字幕与右视野的字幕的间隔的状态下仅视频的进深变化,则运动图像的跃出状况与字幕的跃出状况相同,即与缩放前相比,在缩放后字幕相对于视频平面大幅地移位。这样,运动图像与字幕的立体感的差异变得强烈,有可能变得不能看清。对于视听者而言,眼睛的疲劳显著增加,有从保护消费者的观点看不优选的问题。
但是,在采用平面移位的再生装置中,只要禁止在合成了字幕的状态下的缩放,就不会发生上述那样的问题。但是,目前的再生装置在例如全画面的运动图像的再生中进行了菜单调用的操作时,执行显示全画面的菜单、在其上显示进行了缩小缩放的视频的处理。这是因为,通过该处理,能够不妨碍视频的视听而扩大菜单的视野。伴随着视频的缩放的GUI处理扩大了菜单的视野并保持了用户的方便性,因此,如果说为了立体视的实现而省略伴随着缩放的GUI处理,则意味着从目前的光盘再生装置的方便性退步,对于产业界而言决不是有益的想法。
发明内容
本发明的目的是提供一种能够在实现伴随着视频的缩放的GUI处理的同时实现临场感的减小并遵守消费者保护的再生装置。
用于解决课题的手段
为了解决上述问题,作为本发明的一个实施方式的再生装置,是实现立体视再生的再生装置,其特征在于,具备:
视频解码器,将视频流解码而得到视频帧;
平面存储器,保存由包括规定的纵像素数×横像素数的多个像素数据构成的图形数据;
偏移保持部,保持偏移,该偏移表示在实现立体视时应使像素的坐标向右方向及左方向分别移动多少的基准;
移位引擎,使构成平面存储器中的图形数据的像素数据各自的坐标沿水平方向移动与偏移相应的像素数;以及
合成部,将像素数据的坐标被移动后的图形数据与视频帧合成;
在变更了上述视频帧的大小的情况下,上述移位引擎进行的像素数据的坐标的移动量基于对上述偏移乘以缩放倍率而得到的值。
发明效果
通过上述结构,在有关本发明的立体视视频再生装置中,通过在带有字幕的视频的缩放时调节字幕的移位量,从而在进行伴随着缩放的GUI处理时,视频和字幕的画面结构被保持,能够防止立体感的差异变强。由此,能够减轻眼睛的疲劳,并且进行更自然的显示,所以能够实现消费者保护的周全。
虽然是任意的,但通过对上述问题解决手段实施以下这样的变更,能够起到更好的效果。
也可以使用表进行的运算的表格化来实现从平面偏移向坐标值的变换。通过这样,在设备资源较少的终端中也能够变更缩放时的字幕的进深。
进而,在带有字幕的视频的缩放时,也可以调节视频平面的移位量。通过视频平面的移位,能够防止立体感的差异变得剧烈,能够减轻眼睛的疲劳并且进行更自然的显示。
进而,在带有字幕的视频的缩放时,也可以以帧为单位一点点调节字幕的移位量。由此,能够防止立体感的差异变得剧烈,减轻眼睛的疲劳,并且进行更自然的显示。
进而,也可以在带有字幕的视频的缩放时使字幕的显示在一定时间中无效,并在经过一定时间后的时刻进行显示。由此,在用户的眼睛习惯了立体感的差异的状态下显示字幕,能够防止立体感的差异变得剧烈,减轻眼睛的疲劳,并且进行更自然的显示。
附图说明
图1是表示关于记录媒体、再生装置的使用行为的方式的一例的图。
图2是表示BD-ROM100的内部结构的一例的图。
图3是表示BD-J对象的内部结构的一例的图。
图4是表示再生装置的内部结构的一例的图。
图5是表示2D显示模式、3D显示模式的切换的一例的图。
图6是表示在3D显示模式中、各平面的立体模式全部是开启的情况以及立体模式全部是关闭的情况下的合成处理的一例的图。
图7是表示在全部平面是立体模式ON的情况下使背景平面11、视频平面、图像平面8、交互图形平面10叠加的一例的图。
图8是表示在全部平面是立体模式OFF的情况下使背景平面11、视频平面、图像平面8、交互图形平面10叠加的一例的图。
图9是表示各平面的合成结果的一例的图。
图10是表示用3D用显示器观察全部平面是立体模式ON时的影像输出的情况下的一例的图。
图11是表示用液晶眼镜500观察视频平面是立体模式ON而其以外的平面全部为立体模式OFF的情况下的影像输出的情况下呈现的立体视影像的一例的图。
图12是表示向右方向移位后的Shifted Left(移位左)图形平面、向左方向移位后Shifted Left(移位左)图形平面的一例的图。
图13是用来说明平面偏移的符号是正(将左视野用的图形图像向右方向错移、将右视野用的图形图像向左方向错移)的情况下看起来处于比显示画面靠近侧的原理的图。
图14是是用来说明平面偏移的符号是负(将左视野用的图形图像向左方向错移、将右视野用的图形图像向右方向错移)的情况下看起来处于比显示画面靠里侧的原理的图。
图15是表示正和负的平面偏移的观看效果的差异的一例的图。
图16中,(a)是用来说明步骤S704b的具体的处理的一例的图,(b)是用来说明步骤S706b的具体的处理的一例的图。
图17是表示在对运动图像进行了缩放的情况下由用户视听的立体视图像的一例的图。
图18表示在对运动图像进行了缩放的情况下怎样设定平面移位中的平面偏移为佳。
图19是表示将在与缩放前的运动图像的合成中使用的平面偏移用于图像平面的平面移位的情况下显示的立体视图像的一例的图。
图20是表示将在与缩放前的运动图像的合成中使用的平面偏移用于图像平面的平面移位的情况下显示的立体视图像的一例的图。
图21是表示有关本实施方式1的再生装置200的平面移位引擎20的内部结构的一例的图。
图22是表示1/1、1/2、1/4这3个缩放倍率以及采用了各缩放倍率的情况下的包括字幕·GUI的图形的合成图像的一例的图。
图23中,(a)是用来说明步骤S806b的具体的处理的一例的图,(b)是用来说明步骤S808b的具体的处理的一例的图。
图24是表示1/1、1/2、1/4这3个缩放倍率以及采用了各缩放倍率的情况下的字幕图形的合成图像的一例的图。
图25中,(a)是用来说明步骤S706a的具体的处理的一例的图,(b)是用来说明步骤S808a的具体的处理的一例的图。。
图26是表示图像平面8的内部结构的一例的图。
图27是表示进行了右方向的移位、左方向的移位后的前景区域的像素数据及背景区域的像素数据的一例的图。
图28是表示交互图形平面10的内部结构的一例的图。
图29是表示进行了右方向的移位、左方向的移位后的前景区域的像素数据及背景区域的像素数据的一例的图。
图30是表示图像平面8中的平面移位的处理顺序的一例的图。
图31是表示交互图形平面10中的平面移位的处理顺序的一例的图。
图32是表示保存在图形平面中的像素数据的一例的图。
图33是表示进行了移位后的图形平面的保存内容的一例的图。
图34是表示BD-J平台部的内部结构的一例的图。
图35是表示显示模式存储部29中的存储内容的一例的图。
图36是表示标题切换时的显示模式设定的处理顺序的一例的流程图。
图37是表示标题内显示模式设定的处理顺序的一例的流程图。
图38是表示BD-J模式下的播放列表再生的主要的顺序的一例的流程图。
图39是表示基于播放项目信息的再生顺序的一例的流程图。
图40是表示3DAV流的3D显示的处理顺序的一例的流程图。
图41是表示3D显示模式时的左眼用处理的顺序的一例的流程图。
图42是表示右眼用处理的处理顺序的一例的流程图。
图43中,(a)是用来说明步骤S702、步骤S804a的具体的处理的一例的图,(b)是用来说明步骤S804b的具体的处理的一例的图。
图44中,(a)是用来说明步骤S704a的具体的处理的一例的图,(b)是用来说明步骤S806a的具体的处理的一例的图。
图45是用来说明实施方式2的步骤S804b的具体的处理的一例的图。
图46表示第2实施方式的再生装置的平面移位引擎20的内部结构的一例的模块图。
图47中,(a)是用来说明实施方式2的步骤S702的具体的处理的一例的图,(b)是用来说明步骤S804a的具体的处理的一例的图。
图48是表示想要使进行了缩放的运动图像及图形的坐标移动规定的像素数的状况的一例的图。
图49是表示第3实施方式的再生装置的平面移位引擎20的内部结构的一例的模块图。
图50是表示3DAV流的3D显示的处理顺序的一例的流程图。
图51是表示图像平面的平面移位的处理顺序的一例的流程图。
图52是表示在已更新帧i被更新为“1”、“2”、“3”的情况下平面偏移怎样变化的一例的图。
图53是表示关于平面偏移的设定的部分的结构的一例的图。
图54是表示再生装置的硬件结构的一例的图。
具体实施方式
参照附图,对具备上述实施方式的记录媒体以及再生装置的实施方式进行说明。
图1是表示关于记录媒体、再生装置的使用行为的方式的一例的图。如本图所示,作为记录媒体的一例的BD-ROM100、再生装置200与遥控器300、电视机400、液晶眼镜500一起构成家庭影院***,供用户使用。
BD-ROM100对上述家庭影院***提供例如电影作品。
再生装置200与电视机400连接,将BD-ROM100再生。在这样被再生的再生影像中,存在2D影像、3D影像。所谓2D影像,是例如将包括显示装置的显示画面的平面设为X-Y平面、并用位于该X-Y平面上的显示画面的显示位置的像素表现的图像,也称作平面视图像。
对照地看,所谓3D影像,是在以与设为上述X-Y平面的平面正交的直线为轴(在本实施方式中将垂直于X-Y平面的直线定义为轴(Z轴)),并通过对显示装置的显示画面的X-Y平面上的像素采用在本实施方式中说明的结构来使人的眼睛中看起来为立体、或者看起来比显示画面靠近侧或里侧的影像。
3D影像例如将与应由左眼视听的左视野影像以及应由右眼视听的右视野影像对应的数据(流数据)记录到能够经由后述的图4中记载的虚拟文件***读出的记录媒体(例如,BD-ROM100或后述的图4所示的本地存储装置1c,这里,为了使说明变得简单而以BD-ROM100为例进行说明)中,在应由左眼视听的左视野影像以及应由右眼视听的右视野影像是观看效果以两眼的视差的程度而不同的影像的情况下,如果重复使左视野影像仅由左眼看到、使右视野影像仅由右眼看到的动作,则能够在人的眼睛中作为有进深的立体的影像使用户看到。但是,在仅将左视野影像和右视野影像中的其一用于再生的情况下,在人的眼睛中只能作为平面的影像看到。例如,如果使左视野的影像在左眼和右眼中都看到,则左视野的影像在人的眼睛中仅作为平面的影像看到。
遥控器300是从用户受理对层级化的GUI的操作的设备,为了该操作受理,遥控器100具备调出构成GUI的菜单的菜单键、使构成菜单的GUI零件的焦点移动的箭头键、对构成菜单的GUI零件进行确定操作的决定键、用来使层级化的菜单回到更上位的菜单的返回键、数值键。
电视机400通过显示电影作品的再生影像或显示菜单等,对用户提供对话性的操作环境。本图中的电视机400的显示画面表示将视频缩放而使GUI全画面化的显示例。该电视机400的画面中的右半部显示由电影作品的导演记述的导演评论cm1。
电视机400的画面中的下半部包括受理跳到下一个、跳到前一个的按钮部件bn1、受理菜单调用的按钮部件bn2、受理返回操作的按钮部件bn3、受理网络连接的按钮部件bn4,包括用来显示当前标题的号码及当前章节的号码的指示器ir1。对于这些按钮部件,能够通过遥控器300进行操作。
液晶眼镜500由液晶开闭器和控制部构成,利用用户的两眼的视差实现立体视。液晶眼镜500的液晶开闭器是使用具有通过改变施加电压而光的透过率变化的性质的液晶透镜的开闭器。液晶眼镜500的控制部接受从再生装置发送的右视野用的图像和左视野用的图像的输出的切换的同步信号,按照该同步信号进行第1状态、第2状态的切换。
所谓第1状态,是调节施加电压以使对应于右视野的液晶透镜不透过光且调节施加电压以使对应于左视野的液晶透镜透过光的状态,在该状态下,为对左眼提供左视野用的图像用于视听而对右眼不提供左视野用的图像用于视听的状态。
所谓第2状态,是调节施加电压以使对应于右视野的液晶透镜透过光且调节施加电压以使对应于左视野的液晶透镜不透过光的状态,在该状态下,为对右眼提供右视野用的图像用于视听而对左眼不提供右视野用的图像用于视听的状态。
一般而言,右视野用的图像和左视野用的图像是因其摄影位置的差异而在从右视野看到的像和从左视野看到的像中在观看效果上存在一些差异的图像。
通过使该像的观看效果的差异的程度为从人的左眼/右眼分别看到的像的差异的程度(即视差的程度),利用它能够将从人的眼睛看到的像辨识为立体。所以,液晶眼镜500如果使以上那样的第1状态、第2状态的切换同步于右视野用的图像和左视野用的图像的输出的切换定时,则用户将平面的显示错觉为立体观看。接着,对显示右视野影像、左视野影像时的时间间隔进行说明。
具体而言,在平面显示的图像中,在右视野用的图像和左视野用的图像中,存在与相当于人的视差的观看效果的差异对应的程度的差异,通过将这些图像以较短的时间间隔切换显示,看起来宛如进行了立体的显示。
该较短的时间间隔只要是通过上述的切换显示使人错觉为立体观看的程度的时间即可。
以上是对家庭影院***的说明。
接着,对再生装置200作为再生的对象的记录媒体进行说明。由再生装置200再生的是BD-ROM100。图2是表示BD-ROM100的内部结构的一例的图。
在本图的第4段表示作为记录媒体的一例的BD-ROM100,在第3段表示BD-ROM100上的轨道。本图的轨道将从BD-ROM100的内周到外周以螺旋状形成的轨道沿横向伸展而描绘。该轨道由导入区域、卷区域以及导出区域构成。此外,在导入的内侧,有称作BCA(Burst Cutting Area)的仅能够由驱动器读出的特别的区域。该区域由于不能够从应用读出,所以经常被用于例如著作权保护技术等。
本图的卷区域具有文件***层、应用层的层模型,在文件***层中,以文件***信息为开头记录有影像数据等应用数据。所谓文件***,是UDF或ISO9660等,与通常的PC同样,能够将记录的逻辑数据使用目录、文件构造读出,能够读出255字符的文件名、目录名。如果使用目录构造表现BD-ROM的应用层格式(应用格式),则成为图中的第1段那样。在该第1段中,在BD-ROM中,在Root目录下有CERTIFICATE目录及BDMV目录。
在CERTIFICATE目录的属下,存在盘的根证书的文件(app.discroot.cert)。app.discroot.cert是当执行使用Java(注册商标)虚拟机进行动态脚本控制的Java(注册商标)应用的程序时、在进行应用是否没有被篡改以及应用的身份确认的过程(以下称作签名验证)中使用的数字证书。
BDMV目录是记录有由BD-ROM100处理的AV内容及管理信息等数据的目录,在BDMV目录的属下,存在称作PLAYLIST目录、CLIPINF目录、STREAM目录、BDJO目录、JAR目录、META目录的6个子目录,配置有INDEX.BDMV和MovieObject.bdmv的两种文件。
STREAM目录是保存有作为所谓传输流主体的文件的目录,存在被赋予了扩展名m2ts的文件(00001.m2ts)。
在PLAYLIST目录中,存在被赋予了扩展名mpls的文件(00001.mpls)。
在CLIPINF目录中,存在被赋予了扩展名clpi的文件(00001.clpi)。
在BDJO目录中,存在被赋予了扩展名bdjo的文件(XXXXX.bdjo)。
在JAR目录中,存在被赋予了扩展名jar的文件(YYYYY.jar)。
在META目录中,存在XML文件(ZZZZZ.xml)。
以下,对这些文件进行说明。
<m2ts文件>
首先,对被赋予了扩展名m2ts;的文件进行说明。被赋予了扩展名m2ts;的文件是MPEG-TS(TransportStream)形式的数字AV流,通过将视频流、1个以上的音频流、图形流多路复用而得到。视频流表示电影的运动图像部分,音频流表示电影的声音部分。将仅包含2D用的流的传输流称作“2D流”,将包含3D用的流的传输流称作“3D流”。
在3D流的情况下,既可以在m2ts之中放入左眼用和右眼用的两者的数据,也可以为左眼用和右眼用分别准备m2ts。为了减小在流中使用的容量,优选的是使用左视野视频流和右视野视频流相互进行参照那样的编解码器(例如MPEG-4AVC MVC)。将由这样的编解码器压缩编码的视频流称作MVC视频流。
<播放列表信息>
被赋予了扩展名“mpls”的文件是保存有PlayList(PL)信息的文件。播放列表信息是参照AV片断定义播放列表的信息。
在BD-ROM100上,存在识别再生对象的流是2D用还是3D用的维度识别标志,在本实施方式中,在播放列表(PL)信息中植入了维度识别标志。
在本实施方式中,能够根据BD-ROM100上的播放列表(PL)的构成格式确定在再生对象的流中是否存在3D用的流。
播放列表信息包括MainPath信息、Subpath信息、PlayListMark信息。
1)MainPath信息是通过将AV流的再生时间轴中的作为In_Time的时刻和作为Out_Time的时刻的组定义1个以上来定义逻辑的再生区间的信息,具有规定许可多路复用在AV流中的基本流中的哪个的再生、不许可哪个的再生的流号码表(STN_table)。
2)PlayListMark信息包括由In_Time信息及Out_Time信息的组指定的AV流的一部分中的、作为章节的时刻的指定。
3)Subpath信息由1个以上的SubPlayItem信息构成,SubPlayItem信息包括应与上述AV流同步再生的基本流的指定以及该基本流的再生时间轴上的In_Time信息及Out_Time信息的组。用于再生控制的Java(TM)应用通过对Java(TM)虚拟机命令将该播放列表信息再生的JMF播放器例程的生成,能够开始AV再生。所谓JMF(Java Media Frame work)播放器例程,是基于JMF播放器类在虚拟机的堆存储器上生成的实际的数据。
进而,作为用语定义,2D播放列表是仅包括2D再生用的流的播放列表,在3D播放列表中除了2D流以外还包括3D立体视用的流。
被赋予了扩展名“clpi”的文件是与AV片断分别一一对应的Clip信息。因为是管理信息,Clip信息具有AV片断中的流的编码形式、帧速率、位速率、分辨率等信息、表示GOP的开头位置的EP_map。以上的Clip信息及播放列表信息被分类为“静态脚本”。
<BD-J对象>
接着,对赋予了扩展名BDJO的文件进行说明。赋予了扩展名BDJO的文件是保存有BD-J对象的文件。BD-J对象通过由播放列表信息定义的AV片断列与应用的关联建立来定义标题的信息。BD-J对象表示“应用管理表”以及“对播放列表信息的参照值”。“对播放列表信息的参照值”表示在该标题的开始时应同时再生的播放列表信息。应用管理表是将指定以该标题为生存区间的应用的信息罗列的表。
在应用管理表中,作为应用详细信息,按照应用而保存有表示应用的名称的字符串以及指示与应用建立对应的图标的位置的图标***。图标***通过地址指示包含在Java(注册商标)档案文件内的图标。
对应于该Java(注册商标)应用的实体的是保存在图2的BDMV目录属下的JAR目录中的Java(注册商标)档案文件(YYYYY.jar)。
应用例如是Java(注册商标)应用,由装载在虚拟机的堆区域(也称作工作存储器)中的1个以上的xlet程序构成。由于按照BD-J对象内的应用管理表进行应用信令、管理生存区间,所以称作BD-J应用。BD-J应用以交互性的提高为目的,为了使BD-J应用动作,在再生装置的平台中定义了能够发出以缩放的尺寸(以下称作缩放倍率(factor))为输入信息的缩放命令的API。除此以外,用户也可以通过直接装入在设备内的常驻应用发出缩放命令。缩放命令的发出的定时是自由的,既有在视频流的再生中发出的情况,也有以其以外的定时发出的情况。
在保存在META目录中的元文件(ZZZZZ.xml)中,保存有关于装入在盘中的影像作品的各种信息。作为保存在元文件中的信息,有盘的盘名及图像、盘由谁制作的信息、关于各标题的标题名等。以上是关于BD-ROM100的说明。元文件不是必须的文件,也有没有保存该文件的BD-ROM。
以上是对BD-ROM的说明。接着,对BD-J对象进行说明。图3是表示BD-J对象的内部结构的一例的图。如本图所示,BD-J对象由“应用管理表”、“GUI管理表”、“播放列表管理表”构成。
以下,对这些构成要素进行说明。
“应用管理表(AMT)”是用来使再生装置进行以标题为生存区间的应用指令的表。引出线bj1将应用管理表的内部结构特写表示。如该引出线所示,应用管理表包括确定当对应于BD-J对象的标题为当前标题时应动作的应用的“应用标识符”和“控制代码”。控制代码在被设定为AutoRun(自动运行)的情况下,表示在将该应用装载到堆存储器中之后自动启动,在被设定为Present(现行)的情况下,表示在将该应用装载到堆存储器中后应等待来自其他应用的调用而启动。
“GUI管理表(GMT)”是动作中的应用进行GUI时的管理表,包括执行GUI显示时的分辨率、在GUI中使用的字体数据以及在由用户进行了对GUI的菜单调用、标题调用的情况下规定是否将这些调用屏蔽的屏蔽标志。引出线bj2将GUI管理表的内部结构特写表示。如该引出线bj2所示,GUI管理表可以设定为HD3D_1920×1080、HD3D_1280×720、HD_1920×1080、HD_1280×720、QHD960×540、SD、SD_50HZ_720×576、SD_60HZ_720×480的某种。
“播放列表管理表(PLMT)”包括当对应于BD-J对象的标题为当前标题时应自动再生的播放列表的指定。引出线bj4将自动再生播放列表的内部结构特写表示。如引出线bj4所示,作为指定自动再生播放列表的信息,能够进行3D播放列表1920×1080、3D播放列表1280×720、2D播放列表1920×1080、2D播放列表1280×720、2D播放列表720×576、2D播放列表720×480的指定。
详细地说明再生装置的构成要素。图4是表示再生装置的内部结构的构成的一例的图。如本图所示,在再生装置中,由BD驱动器1a、本地存储装置1b、网络接口1b、本地存储装置1c、读缓冲器2a、2b、虚拟文件***3、多路分离器4、视频解码器5a、5b、视频平面6、图像解码器7a、7b、图像存储器7c、7d、图像平面8、音频解码器9、交互图形平面10、背景平面11、寄存器组12、静态脚本存储器13、再生控制引擎14、缩放引擎15、合成部16、HDMI收发部17、显示功能标志保持部18、左右处理存储部19、平面移位引擎20、偏移设定部21、BD-J平台22、绘制引擎22a、动态脚本存储器23、模式管理模组24、HDMV模组25、UO检测模组26、静止图像存储器27a、静止图像解码器27b、显示模式设定初始显示设定部28、显示模式存储部29构成。
在本实施方式中,在BD-ROM100中,保存有图2所示那样的文件构造的数据,从后述的虚拟的BD-ROM(虚拟包)将左眼用的视频流、右眼用的视频流、字幕流、图形流经由后述的图4中记载的虚拟文件***3读出。这里,为了使说明变得简单,以左眼用的视频流、右眼用的视频流记录在BD-ROM100中为例进行说明。
此外,关于字幕流、图形流,既可以将左眼用/右眼用的流分别记录在BD-ROM100中,也可以是左右共用1个的字幕流、图形流的结构。在此情况下,通过如后述那样赋予偏移,经由液晶眼镜500看到的字幕、图形虽然是平面的像,但看起来在从显示画面跃出的位置,或看起来位于比显示画面靠里侧。
将记录在该BD-ROM100中的左眼用的视频流、右眼用的视频流分别输入到再生装置200中而再生的影像是观看效果(例如看到的角度)以人的视差的程度而不同的影像,用来将这样的影像再生的数据作为视频流预先记录在BD-ROM100中。
在本实施方式中,优选的是预先在一个流文件中植入右眼用的视频流和左眼用的视频流、字幕流、图形流的方式。这是为了尽量抑制存储器或图形的设备资源缺乏的设备(例如CE设备)所需的运算量。
(BD驱动器1a)
BD驱动器1a具备例如半导体激光器(未图示)、准直透镜(未图示)、束分离器(未图示)、物镜(未图示)、聚光透镜(未图示)、具有光检测器(未图示)的光学头(未图示)。半导体激光器射出的光束通过准直透镜、束分离器、物镜被聚光在光盘的信息面上。聚光的光束在光盘上被反射/衍射,通过物镜、束分离器、聚光透镜被聚光在光检测器上。根据由光检测器聚光的光的光量生成的信号对应于从BD-ROM读出的数据。
(网络接口1b)
网络接口1b用来与再生装置的外部进行通信,能够访问能够用因特网访问的服务器、或访问用本地网络连接的服务器。例如,通过用于公开到因特网上的BD-ROM追加内容的下载、或与内容指定的因特网上的服务器之间进行数据通信,能够进行利用网络功能的内容的再生。所谓BD-ROM追加内容,是在装填于BD驱动器1a中的原始的BD-ROM100中没有的内容,例如是追加的副声音、字幕、特别影像、应用等。能够从BD-J平台控制网络接口1b,能够将公开在因特网上的追加内容下载到本地存储装置1c中。
(本地存储装置1c)
本地存储装置1c具备内建媒体、可移除媒体,用于保存下载来的追加内容及应用使用的数据等。追加内容的保存区域被按照BD-ROM划分,此外应用能够在数据的保持中使用的区域被按照应用划分。此外,将下载的追加内容怎样与装填在BD驱动器1a中的BD-ROM上的数据合并的合并规则被记载的合并管理信息也保存在该内建媒体、可移除媒体中。
所谓内建媒体,例如是内置在再生装置中的硬盘驱动器、存储器等可写入的记录媒体。
所谓可移除媒体,例如是具有可移动性的记录媒体,优选的是SD卡等具有可移动性的半导体存储卡。
如果以使可移除媒体为半导体存储卡时为例进行说明,则在再生装置中具备用来安装可移除媒体的插槽(未图示)及用来读取安装在插槽中的可移除媒体的接口(例如存储卡I/F),如果将半导体存储器安装在插槽中,则将可移除媒体与再生装置电连接,能够利用接口(例如存储卡I/F)将记录在半导体存储器中的数据变换为电信号而读出。
(读缓冲器2a)
读缓冲器2a是用来将构成从BD驱动器1a读出的构成左视野流的区段的源包临时保存并调节转送速度后向多路分离器4转送的缓冲器。
(读缓冲器2b)
读缓冲器2b用来将从BD驱动器1a读出的构成的右视野流的区段的源包暂时保存并调节转送速度后向多路分离器4转送的缓冲器。
(虚拟文件***3)
虚拟文件***3基于与例如追加内容一起下载到本地存储装置1c中的合并管理信息,构建将保存在本地存储装置中的追加内容与装填的BD-ROM上的内容合并后的、虚拟的BD-ROM(虚拟包)。为了虚拟包的构建,虚拟文件***3具有用来生成及更新应用关联信息的应用数据关联模组。所谓应用数据关联信息,是基于BD-ROM盘上的信息以及应用设定的属性信息来将本地存储装置的信息与应用建立关联的信息。
从作为HDMV模式的动作主体的命令解释器或作为BD-J模式的动作主体的BD-J平台能够无区别地参照虚拟包和原始BD-ROM。在虚拟包再生中,再生装置使用BD-ROM上的数据和本地存储装置上的数据的两者进行再生控制。
(多路分离器4)
多路分离器4例如由源包解包器、PID过滤器构成,受理对应于应再生的流(流包含在构建的虚拟包(装填的BD-ROM及对应于装填的BD-ROM的本地存储装置上的数据)中)的包标识符的指示,执行基于该包标识符的包过滤。在包过滤时,基于左右处理存储部19的标志,将左视野视频流、右视野视频流中的对应于显示方式标志的视频流抽出,向视频解码器5a、视频解码器5b转送。多路分离器3从流的头信息进行左眼用视频帧和右眼用视频帧的分配。
在从再生对象的流分离的流是字幕流的情况下,多路分离器4将分离的字幕流写入到图像存储器中。例如在3D字幕流(左视野用的字幕流、右视野用的字幕流)包含在流中的情况下,将左视野用的字幕流写入到图像存储器7c中,将右视野用的字幕流写入到图像存储器7d中。
此外,例如在字幕流为2D的字幕流(为了平面显示而使用的字幕流)包含在流中的情况下,将2D的字幕流写入到图像存储器7c中。
(视频解码器5a)
视频解码器5a将从多路分离器4输出的TS包解码,将非压缩形式的图片写入到左视野视频平面6(图4的视频平面6中用符号(L)表示)中。
(视频解码器5b)
视频解码器5b将从多路分离器4输出的右视野视频流解码,将TS包解码,将非压缩形式的图片写入到右视野视频平面6(图4的视频平面6中用符号(R)表示)中。
(视频平面6)
视频平面6例如是能够保存对应于1920×2160(1280×1440)等分辨率的图片数据的平面存储器,包括具有1920×1080(1280×720)的分辨率的左眼用平面(图4的视频平面6中用符号(L)表示)、具有1920×1080(1280×720)的分辨率的右眼用平面(图4的视频平面6中用符号(R)表示)。
(图像解码器7a、7b)
图像解码器7a、7b将从多路分离器4输出并构成写入到图像存储器7c、7d中的字幕流的TS包解码,将非压缩形式的图形字幕写入到图形平面8a中。由图像解码器7a、7b解码的“字幕流”是表示通过游程长编码压缩的字幕的数据,通过表示Y值、Cr值、Cb值、α值的像素代码以及该像素代码的游程长定义。
(图像平面8)
图像平面8是能够通过例如1920×1080(1280×720)等分辨率保存通过将字幕流解码而得到的图形数据(例如字幕数据)的图形平面,具备具有能够保存例如具有1920×1080(1280×720)的分辨率的数据的存储区域的左眼用平面(图4所示的图像平面8中用符号(L)表示)、具有能够保存具有1920×1080(1280×720)的分辨率的数据的存储区域的右眼用平面(图4所示的图像平面8中用符号(R)表示)。
(音频解码器9)
音频解码器9将从多路分离器4输出的音频帧解码,将非压缩形式的音频数据输出。
(交互图形平面10)
交互图形平面10是具有能够通过例如1920×1080(1280×720)等分辨率保存BD-J应用利用绘制引擎22a描绘的图形数据的存储区域的图形平面,具备具有能够保存具有例如1920×1080(1280×720)的分辨率的数据的存储区域的左眼用平面(在图4的交互图形平面10中附加符号(L))以及具有能够保存具有1920×1080(1280×720)的分辨率的数据的存储区域的右眼用平面(在图4的交互图形平面10中附加符号(R))。
保存在交互图形平面10中的“图形数据”是各个像素由R值、G值、B值、α值定义的图形。写入到交互图形平面10中的图形是具有主要为了构成GUI而使用的目的的图像或零件。虽然在表示像素的数据中存在差异,但将图像数据及图形数据用图形数据的表现包括。在本申请作为对象的图形平面中,有图像平面8、交互图形平面10的两种,在单称作“图形平面”的情况下,指示图像平面8、交互图形平面10两者或某一个。
(背景平面11)
背景平面11是能够通过例如1920×1080(1280×720)的分辨率保存应作为背景图像的静止图像数据的平面存储器,具体而言,具备具有1920×1080(1280×720)的分辨率的左眼用平面(图4所示的背景平面11中附加符号(L))以及具有1920×1080(1280×720)的分辨率的右眼用平面(图4所示的背景平面11中附加符号(R))。
(寄存器组12)
寄存器组12是包括保存播放列表的再生状态的再生状态寄存器、保存表示再生装置的配置的配置信息的再生设定寄存器以及能够保存内容利用的任意的信息的通用寄存器的寄存器的集合。所谓播放列表的再生状态,表示利用记载在播放列表中的各种AV数据信息之中的哪个AV数据、将播放列表的哪个位置(时刻)再生等的状态。
当播放列表的再生状态变化时,再生控制引擎14对PSR组12保存其内容。此外,能够通过来自作为HDMV模式的动作主体的命令解释器或作为BD-J模式的动作主体的Java平台执行的应用的指示而保存应用指定的值、或将所保存的值传递给应用。
(静态脚本存储器13)
静态脚本存储器13是用来保存当前播放列表信息或当前片断信息的存储器。所谓当前播放列表信息,是指能够从BD-ROM或内建媒体驱动器、可移除媒体驱动器访问的多个播放列表信息中的目前作为处理对象的播放列表信息。所谓当前片断信息,是指能够从BD-ROM或内建媒体驱动器、可移除媒体驱动器访问的多个片断信息中的目前作为处理对象的片断信息。
(再生控制引擎14)
再生控制引擎14根据来自作为HDMV模式的动作主体的命令解释器、作为BD-J模式的动作主体的Java平台的函数调用,执行AV再生功能、播放列表的再生功能。所谓AV再生功能,是从DVD播放器、CD播放器沿袭的功能群,是再生开始、再生停止、暂停、暂停的解除、静止图像功能的解除、用直接值指定再生速度的快进、用直接值指定再生速度的回退、声音切换、副影像切换、角度切换等的处理。所谓播放列表再生功能,是指将该AV再生功能中的再生开始及再生停止按照构成当前播放列表的当前播放列表信息、当前片断信息进行。
在发生了盘(例如BD-ROM100)的***的事件的情况下,作为再生控制引擎12的再生处理的对象的播放列表及AV流是记载在BD-ROM上的当前脚本中的自动再生播放列表(AutoStartPlaylist)。AV流再生既有以用户操作(例如再生按钮)为触发而开始的情况,也有以终端内的某种事件为触发而自动开始的情况。
(缩放引擎15)
缩放引擎15能够进行处于图像平面8及视频平面5中的影像的缩小、放大及等倍的控制。缩放引擎15如果在进行图像数据、图片数据的解码的时刻在平面移位引擎20内设定有值,则看作发生缩放,在将解码后的视频数据保存到视频平面中之前将解码后的图形保存到图像平面中之前,通过缩放引擎15进行缩放。
缩放倍率例如是水平像素数的倍率及/或垂直像素数的倍率,举例来说,在对作为基本的分辨率是1920×1080像素的图形数据指定了“1/2”的缩放倍率的情况下,图形数据的分辨率被缩小为(1920×0.5)×(1080×0.5)像素、即960×540像素。缩放倍率不仅如1/2那样是1以下的值,也可以设定1以上的值,在此情况下实施放大处理。
(合成部16)
合成部16将交互图形平面10、图像平面8、视频平面6、背景平面11的保存内容合成。
交互图形平面10、图像平面8、视频平面6和背景平面11为分别的层结构,必定从下方起以背景平面11、视频平面6、图像平面8、交互图形平面的顺序进行保存的数据的合成(叠加)。在设想作为图像平面的数据的字幕、作为交互图形平面10的数据显示POP-UP(弹出)菜单(图形)、GUI图形的数据这样的内容的再生的情况下,合成部必定将图像平面8的数据(字幕)叠加在视频平面6的数据(视频)上,将交互图形平面10的数据叠加在图像平面8之上。即,即使视频平面是立体视的内容,在没有进深的字幕或POP-UP菜单、GUI重叠在立体视视频上的情况下也必须优先显示图像(字幕、POP-UP菜单、GUI等图像)。这在进行缩放时也是同样的。
(HDMI收发部17)
HDMI收发部17包括例如依据HDMI规格(HDMI:High Definition Multimedia Interface)的接口,与和再生装置HDMI连接的装置(在该例中是电视机400)依据HDMI规格而进行收发,将保存在视频中的图片数据以及由音频解码器9解码后的非压缩的音频数据经由HDMI收发部16传送给电视机400。电视机400保持有例如关于是否对应于立体视显示的信息、关于能够进行平面显示的分辨率的信息、关于能够进行立体显示的分辨率的信息,如果从再生装置经由HDMI收发部16有请求,则电视机400将被请求的需要的信息(例如关于是否对应于立体视显示的信息、关于能够进行平面显示的分辨率的信息、关于能够进行立体显示的分辨率的信息)向再生装置返回。这样,通过经由HDMI收发部16,能够从电视机400取得电视机400是否对应于立体视显示的信息。
(显示功能标志保存部18)
显示功能标志保存部18保存有表示再生装置是否能够进行3D的显示的区别的3D显示功能标志。
(左右处理存储部19)
左右处理存储部19存储当前的输出处理是左视野用的输出还是右视野用的输出。左右处理存储部19的标志表示对与图1所示的再生装置连接的显示设备(在图1的例子中是电视机)的输出是左视野输出还是右视野输出。在进行左视野输出的期间中,左右处理存储部19的标志被设定为表示左视野输出的标志。此外,在进行右视野输出的期间中,左右处理存储部19的标志被设定为表示右视野输出的标志。
(平面移位引擎20)
平面移位引擎20兼具备保存平面偏移的区域,在左右处理存储部19中判断当前的处理对象是左眼影像还是右眼影像后,使用保存的平面偏移计算图像平面的横轴的移位量(表示将显示在显示画面上的像向显示画面的水平方向从作为基准的位置错移怎样的程度的量)并移位。通过调节显示的字幕(图形)的移位量,能够使经由液晶眼镜500看到的平面的字幕(图形)看起来显示在比显示画面的位置靠近侧/里侧。所谓移位量,是用来调节看起来从显示画面的位置以何种程度位于近侧或位于里侧的量。
即,通过变更字幕/图形的横轴的错移幅度而进深变更。例如,可以得到将左眼用字幕和右眼用字幕显示为使其越向一定方向远离则越位于近侧,并显示为越向反方向远离越位于里侧的视觉效果。
根据移位量、根据显示器的分辨率和尺寸,有时图像平面的变位过大,看不清楚而发生图像看起来重影的现象。在此情况下,基于记载在平面偏移中的值,组合显示器的分辨率和尺寸的信息进行调节,以使字幕、图形不会过于显示到近侧。例如,在再生装置200兼具备能够设定平面偏移的值的设定(setup)功能的情况下,平面移位引擎20保存使用设定功能所设定的值。
(偏移设定部21)
偏移设定部21在有偏移的更新请求的情况下将应更新的偏移设定到后述的平面移位引擎20的偏移值保存部41中。
具体而言,通过(a)将存储在后述的显示模式存储部29中的图像平面设定的偏移值、交互图形平面设定的偏移值读入并设定;(b)由多路分离器4取得保持在输入到多路分离器4中的流的头区域中的图像平面的偏移值、交互图形平面的偏移值,设定从多路分离器4得到的上述偏移的值;(c)将从UO检测模组26传送来的图像平面的偏移值、交互图形平面的偏移值读入而设定;(d)将包含在当前播放列表信息中的图像平面的偏移值、交互图形平面的偏移值读入并设定等动作来进行设定。
本模组是当有来自用户或应用的平面的偏移的更新请求时临时保存该值的模组。平面偏移为例如将进深用-63~63表现的整数,(63是最近侧,-63是最里侧),将其变换为表示最终的移位的幅度的像素坐标。
(BD-J平台22)
BD-J平台22是作为BD-J模式的动作主体的Java平台,完全安装有Java2Micro_Edition(J2ME)Personal Basis Profile(PBP 1.0)以及Globally Executable MHP specification(GEM1.0.2)for package media targets,从存在于JAR档案文件中的类文件读出字节码,保存在堆存储器中,从而启动BD-J应用。并且,将构成BD-J应用的字节码、构成***应用的字节码变换为本机码,使MPU执行。BD-J平台22当被从BD-J应用请求了缩放时,将作为自变量给出的缩放倍率保存到后述的图21所示的缩放引擎20的缩放倍率保存部42中。
(绘制引擎22a)
绘制引擎22a具备Java2D、OPEN-GL等基础软件,在BD-J模式中,按照来自BD-J平台22的指示,将图形或字符串写入到交互图形平面10中。此外,在HDMV模式中,绘制引擎22a绘制从对应于字幕的流(字幕流)以外的图形流中提取的图形数据(例如对应于输入按钮的图形数据),写入到交互图形平面10中。
(动态脚本存储器23)
动态脚本存储器23是保存有当前动态脚本并对作为HDMV模式的动作主体的HDMV模组、作为BD-J模式的动作主体的Java平台的处理提供的存储器。所谓当前动态脚本,是指记录在BD-ROM或内建媒体、可移除媒体中的Index.bdmv、BD-J对象、电影对象中的作为当前执行对象的脚本。
(模式管理模组24)
模式管理模组24保持从BD-ROM100或本地存储装置1c(在图4的例子中是内建媒体驱动器、可移除媒体驱动器)读出的Index.bdmv,进行模式管理及分支控制。所谓模式管理模组24的模式管理,是指使BD-J平台22、HDMV模组25中的哪个执行动态脚本的模组的分配。
(HDMV模组25)
HDMV模组25是作为HDMV模式的动作主体的DVD虚拟播放器,为HDMV模式的执行主体。本模组具备命令解释器,通过将构成电影对象的导航命令解读并执行,执行HDMV模式的控制。导航命令由于用与DVD-Video相似的句法记述,所以通过执行该导航命令,能够实现类似DVD-Video的再生控制。
(UO检测模组26)
UO检测模组26受理对GUI的用户操作。在由该GUI受理的用户操作中,有选择记录在BD-ROM中的标题中的哪个的标题选择、字幕选择、声音选择。特别是,作为立体视再生特有的用户操作,有受理立体视影像的进深感的水平的操作。例如,既有受理进深感远、普通、近等3个水平的情况,也有进深感如几cm、几mm那样通过数值输入受理进深感的水平的情况。
此外,在UO检测模组26通过遥控器或附属于设备的按钮等的操作受理了变更图像平面的缩放的命令的情况下,设备内的模组直接发出缩放命令。
(静止图像存储器27a)
静止图像存储器27a保存从BD-ROM、或构建的虚拟包取出的作为背景图像的静止图像数据。
(静止图像解码器27b)
静止图像解码器27b将读入到静止图像存储器27a中的静止图像数据解码,将非压缩的背景图像数据写入到背景平面11中。
(显示模式设定初始显示设定部28)
显示模式设定初始显示设定部28基于对BD-J平台部提供的当前标题的BD-J对象,进行显示模式、分辨率的设定。
(显示模式存储部29)
显示模式存储部29存储显示模式是2D或3D的哪种、以及立体模式是ON或OFF的哪种。在再生装置作为3D显示功能标志而设定了能够进行3D显示的情况下,作为保存在显示模式存储部29中的终端设定的显示模式能够切换为2D、3D的某种。以下,将显示模式表示“3D”的状态称作“3D显示模式”,将显示模式表示“2D”的状态称作“2D显示模式”。
对该显示模式是怎样的模式进行说明。在再生装置是3D显示模式的情况下,各平面取立体模式ON的状态、立体模式OFF的状态的某个状态。立体模式的ON与OFF的差异也可以是平面的合成方法的差异。
如果以视频流为例进行说明,则所谓“立体模式ON”,是再生装置分别使用观看效果(例如观看角度)不同的两个影像(例如看到的角度以视差的程度差异的左视野用的影像和右视野用的影像)进行显示那样的合成的3D显示模式。
所谓“立体模式OFF”,是再生装置使用1个影像(例如是左视野用的影像和右视野用的影像的某一方的影像,这里说明使用左视野用的影像的例子)进行提供给左眼/右眼那样的合成的3D显示模式。即,在用两眼视听的情况下为没有立体感的影像(平面影像)。
但是,例如在图形平面8中,通过由平面偏移向水平方向的移位,能够使保存在图形平面中而显示的平面性的图形数据(字幕数据)看起来位于比显示画面靠近侧或里侧。在存储于视频平面中的视频数据、存储于交互图形平面中的交互图形数据、存储在背景平面11中的背景图像数据中,如果在“立体模式OFF”的情况下调节偏移,则也可以说与此相同。
如以上说明,在“3D显示模式”中,有“立体模式ON”和“立体模式OFF”的两种,在“3D显示模式”的“立体模式ON”中,是左视野用的数据和右视野用的数据(例如从左眼看到的像和从右眼看到的像为观看的角度不同的像),将它们分别保存到左视野用的平面和右视野用的平面中,通过将所保存的像按照同步信号显示,能够显示有立体感的像。
此外,在“3D显示模式”的“立体模式OFF”中,仅使用左视野用的数据和右视野用的数据中的某一方的数据(在本实施方式中例如是左视野用的数据),将其分别保存到左视野用的平面和右视野用的平面中,通过调节平面偏移,能够将平面像显示为比显示画面靠近侧或里侧。
在本实施方式中,构成为:“立体模式ON”、“立体模式OFF”能够按照平面(即,按照视频平面6、图形平面8、交互图形平面10、背景平面11)设定。
此外,所谓“2D显示模式”,是通常的显示,即显示对应于显示画面的位置的像。在此情况下,构成为:预先决定默认使用的解码器、平面,使用该解码器、平面显示合成图像。
例如,在“2D显示模式”的情况下,构成为,将视频解码器5a写入到左眼用视频平面(图4所示的视频平面6中用符号(L)表示)中的2D视频数据、图像解码器7a写入到左眼用平面(图4所示的图像平面8中用符号(L)表示)中的2D图形数据(字幕数据)、BD-J应用利用绘制引擎22a写入到左眼用平面(在图4的交互图形平面10中附加符号(L))中的2D交互图形、静止图像解码器27b写入到左眼用平面(图4所示的背景平面11中附加符号(L))中的2D的静止图像数据合成。
此时,合成的顺序是从下方起以2D静止图像数据、2D视频数据、2D图形数据(字幕数据)、2D交互图形的顺序合成。
显示模式设定初始显示设定部28基于对BD-J平台部提供的当前标题中的BD-J对象,进行显示模式、分辨率的设定。
说明根据该显示模式的设定,向各平面存储器的写入怎样变化。
(向视频平面6的写入)
首先,对视频平面6进行说明。在视频数据的显示模式是3D显示模式、并且立体模式是开启的情况下,视频解码器5a将左视野用的视频流解码,写入到左眼用平面(图5所示的视频平面6中用符号(L)表示)中,并且视频解码器5b将右视野用的视频流解码,写入到右眼用平面(图5所示的视频平面6中用符号(R)表示)中。
此外,在视频数据的显示模式是3D显示模式、并且立体模式是关闭的情况下,视频解码器5a将例如左视野用的视频流解码,写入到左眼用平面(图5所示的视频平面6中用符号(L)表示)及右眼用平面(图5所示的视频平面6中用符号(R)表示)中。
此外,在视频数据的显示模式是2D显示模式的情况下,例如构成为,多路分离器4将2D视频流向视频解码器5a传送,视频解码器5a将解码后的2D视频数据写入到左眼用视频平面(图5所示的视频平面6中用符号(L)表示)中。
以上是对视频平面6的说明。
接着,对图像平面8的详细情况进行说明。
(向图像平面8的写入)
例如在字幕数据的显示模式是3D显示模式、并且立体模式是开启的情况下,图像解码器7a将存储在图像存储器7c中的左视野用的字幕流解码,写入到左眼用平面(图5所示的图像平面8中用符号(L)表示)中,并且图像解码器7b将存储在图像存储器7d中的右视野用的字幕流解码,写入到右眼用平面(图5所示的图像平面8中用符号(R)表示)中。
此外,在字幕数据的显示模式是3D显示模式、并且立体模式是关闭的情况下,图像解码器7a将存储在图像存储器7c中的左视野用的字幕流解码,写入到左眼用平面(图5所示的图像平面8中用符号(L)表示)及右眼用平面(图5所示的图像平面8中用符号(R)表示)中。
在上述例子中,在字幕数据的显示模式是3D显示模式、并且立体模式是关闭的情况下,将左视野用的字幕流解码,写入到左眼用平面及右眼用平面中,但在记录在记录媒体中的字幕流是左右共用相同的字幕流的结构的情况下,只要将该共用的字幕流读入、写入到左眼用图像平面及右眼用图像平面中就可以。
此外,在字幕数据的显示模式是2D显示模式的情况下,多路分离器4构成为,将2D字幕流保存到图像存储器7c中,图像解码器7a构成为,将存储在图像存储器7c中的2D字幕流解码,写入到左眼用平面(图5所示的图像平面8中用符号(L)表示)中。
以上是对图像平面8的说明。接着,对交互图形平面10的保存内容进行说明。
(向交互图形平面10的写入)
在交互图形的显示模式是例如3D显示模式、并且立体模式是开启的情况下,意味着描绘从左眼看到的交互图形(左眼用交互图形)、从右眼看到其与左眼用交互图形不同的交互图形(右眼用交互图形)的程序装入在BD-J应用中。
由该描绘程序描绘的左眼用交互图形及右眼用交互图形是观看的角度相互不同以使得能够看起来为立体的图形那样的图形。
将左眼用交互图形及右眼用交互图形提供给显示的情况下,BD-J应用利用绘制引擎22a将左视野用交互图形写入到左眼用平面(在图4的交互图形平面10中附加符号(L))中,将右视野用交互图形写入到右眼用平面(在图4的交互图形平面10中附加符号(R))中。
此外,在交互图形的显示模式例如是3D显示模式、并且立体模式是关闭的情况下,BD-J应用利用绘制引擎22a将左视野用的交互图形分别写入到交互图形平面10中附加符号(L)、符号(R)的平面中。
在交互图形的显示模式是2D显示模式的情况下,BD-J应用构成为,利用绘制引擎22a将2D交互图形写入到交互图形平面10(更具体地讲是交互图形平面10中附加符号(L)的平面)中。
以上是对交互图形平面10的说明。接着,对对应于显示模式的背景平面11的保存内容进行说明。
(向背景平面11的写入)
在背景图像的显示模式是例如3D显示模式、并且立体模式是开启的情况下,静止图像解码器27b将保存在静止图像存储器27a中的左视野用的静止图像数据、右视野用的静止图像数据解码,分别将左视野用的静止图像数据写入到左眼用平面(图4所示的背景平面11中附加符号(L))、将右视野用的静止图像数据写入到右眼用平面(图4所示的背景平面11中附加符号(R))中。
在背景图像的显示模式是例如3D显示模式、并且立体模式是关闭的情况下,静止图像解码器27b将保存在静止图像存储器27a中的3D背景图像(左视野用的静止图像数据、右视野用的静止图像数据)中的左视野用的静止图像数据解码,写入到左眼用平面(图4所示的背景平面11中附加符号(L))及右眼用平面(图4所示的背景平面11中附加符号(R))中。在背景图像的显示模式是例如2D显示模式的情况下,静止图像解码器27b将保存在静止图像存储器27a中的2D的静止图像数据解码,写入到左眼用平面(图4所示的背景平面11中附加符号(L))中。
以上是对与显示模式对应的背景平面11的保存内容的说明。
接着,对本实施方式的2D显示模式、3D显示模式的切换的详细情况进行说明。
图5是表示2D显示模式、3D显示模式的切换的图。在本图的左侧表示2D显示模式时的输出模型。在左侧的平面结构中,由各一个视频平面6、图像平面8(图中的“字幕(Subtitle)”)、交互图形平面10、背景平面11、及输出构成。
由此,在2D显示模式时,左视野和右视野使用共通的数据,结果看到完全相同的输出。
在本图的右侧显示有3D显示模式时的输出模型。在再生装置是3D显示模式的情况下,视频平面6、图像平面8(图中的“字幕(Subtitle)”)、交互图形平面10分别被分为左视野用和右视野用,在它们中保存应再生的图片数据、图形数据。
由此,在3D显示模式时分别存在左视野和右视野输出,能够对左眼和右眼提供不同的图像,通过该视差能够带来宛如画面内的立体物跃出到近侧那样的3D的效果。
图6是表示在3D显示模式中、各平面的立体模式全部为开启的情况以及立体模式全部为关闭的情况下的合成处理的一例的图。
在图6中表示各平面使立体模式统一的情况下的例子,但能够按照平面变更立体模式的ON/OFF。
左侧表示在3D显示模式中、各平面的立体模式全部是开启的情况下的平面结构,右侧表示在3D显示模式中、各平面的立体模式全部是关闭的情况下的平面结构。
第1段表示背景平面11和其合成前的输出。
第2段表示视频流、视频平面6以及其合成前的输出。
第3段表示图像平面8和其合成前的输出。
第4段表示交互图形平面10和其合成前的输出。
在立体模式是ON的情况下,背景平面的由附加(L)的区域表示的左眼用背景平面被用于左视野用的背景数据的写入、由附加(R)的区域表示的右眼用背景平面被写入右视野用的背景数据,分别在左眼用/右眼用的合成时使用。在背景平面11的立体模式是OFF的情况下,通过应用将左视野用的背景数据分别写入到背景平面的附加(L)、(R)的区域中,所以右视野用的背景数据对显示没有影响。
在立体模式是ON的情况下,将视频流中的左眼用的视频的图片数据保存到左视野用的视频平面中。此外,将视频流中的右眼用的视频的图片数据保存到右视野用的视频平面中。在视频平面的立体模式是OFF的情况下,将左眼用的视频的图片数据保存到左视野用的视频平面和右视野用的视频平面的两者中。
在立体模式是ON的情况下,图像平面在由附加(L)的区域表示的左眼用图像平面中被写入左视野用的图像数据,由附加(R)的区域表示的右眼用图像平面被写入右视野用的图像数据,分别在左眼用/右眼用的合成时使用。
在图像平面8的立体模式是OFF的情况下,对应于右视野用的图像数据的字幕图形对显示没有影响。此外,在立体模式是OFF的情况下,图像平面8的内容成为向右方向或左方向移位后的内容(图中的移位左(Shifed Left))。
在立体模式是ON的情况下,交互图形平面10在由附加(L)的区域表示的左眼用交互图形平面中被写入左视野用的交互图形,在由附加(R)的区域表示的右眼用交互图形平面中被写入右视野用的交互图形,分别在左眼用/右眼用的合成时使用。
在交互图形平面10的立体模式是OFF的情况下,应用进行的右视野用的交互图形对显示没有影响。此外,在立体模式是OFF的情况下,交互图形平面10的内容为向右方向或左方向移位后的内容(图中的移位左(Shifed Left))。
图7是表示在显示模式为3D且全部平面为立体模式ON的情况下将背景平面11、视频平面、图像平面8、交互图形平面10怎样叠加。在立体模式中,可知作为左视野,将左视野背景平面u4、从视频流读出的左视野视频u3、图像平面8的左视野图形u2、交互图形平面10的左视野图形u1依次合成。
此外,可知作为右视野,将右视野背景平面u8、从视频流读出的右视野视频u7、图像平面8的右视野图形u6、交互图形平面10的右视野图形u5依次合成。
图8表示在显示模式为3D且全部平面为立体模式OFF的情况下将背景平面11、视频平面、图像平面8、交互图形平面10怎样叠加。在立体模式OFF时,可知作为左视野,将左视野背景平面r4、从视频流读出的左视野视频r2、将图像平面8的左视野图形向一定的水平方向(在图中为右)移位后的ShiftedLeft(移位左)图形r3、将交互图形平面10的左视野图形向一定的水平方向(在图中为右)移位后的Shifted Left(移位左)图形r1依次合成。
此外,可知作为右视野,将右视野背景平面r8、从视频流读出的左视野视频r6、将图像平面8的左视野图形向与左视野相反的方向(在图中为左)移位后的ShiftedLeft(移位左)图形r7、将交互图形平面10的左视野图形向与左视野相反的方向(在图中为左)移位后的ShiftedLeft(移位左)图形r5依次合成。
接着,对本实施方式的立体模式的切换的详细情况进行说明。
图9表示各平面的合成结果。
6L、6R表示视频平面的一例。根据女性的脸的朝向的差异,可以观察到左视野用的流和右视野的流是从不同的角度拍摄的。另外,图9中的人物的脸的朝向及位置的错移是示意性的,并不是表示用来实现立体视再生的正确的脸的朝向及位置。在没有佩戴液晶眼镜500而用裸眼观看电视机400的显示画面的情况下,从该差异的角度摄影的影像看起来宛如被重合显示。
图像平面8中的“I love you”的文字是将字幕数据通过图像解码器解码后的图像。
交互图形平面10中受理前后跳过的操作的GUI零件是BD-J应用描绘在交互图形平面10中的图形图像。
6LL是合成后的输出左视野,6RR是在合成后输出的输出右视野。在6LL的左视野用影像中,可知“I love you”的字幕被向右错移而合成。此外,在6RR的右视野影像中,可知“I love you”的字幕被向左错移而合成。
图10是用3D用显示器观看全部平面为立体模式ON时的影像输出的情况下的一例。
右视野和左视野用的影像通过例如液晶眼镜500被过滤,在左右的眼睛中分别映出不同的影像。这里应注意的是,不仅视频流影像将左右的图像重叠而立体化,“I love you”的字幕及受理前后跳过的操作的GUI零件也在左眼和右眼中不同。这样,可知通过在预先准备了左眼用和右眼用的两者的内容的情况下将立体模式设为ON,自然成为视频、字幕及GUI零件全部保持进深的结构。
图11表示在用液晶眼镜500观看视频平面为立体模式ON、其以外的平面全部为立体模式OFF的情况下的影像输出的情况下呈现的立体视影像的一例。关于没有准备左眼用和右眼用两者的字幕及GUI的盘(在2D前提下制作的过去的内容、盘的容量不足而不得不这样的盘等),不得不使图形平面的立体模式为OFF。图11由于视频平面为立体模式ON,所以由左视野用的流和右视野的流分别再生的像可看到是将摄影对象相同而从不同的角度拍摄的像再生的影像。另一方面,图像平面8及交互图形平面10为立体模式OFF,将相同的字幕流、相同的GUI图像向右方向及左方向移位后的图像合成到视频平面中,即使仅存在单眼用的字幕·GUI也能够显示在立体视频的近侧,能够减轻带来的视听者的眼睛的疲劳的程度。
(用来实现立体视效果的控制)
对为了实现立体视效果而将图形平面错移的方向进行说明。
平面移位引擎20进行移位的方向根据带来使图形平面位于比显示画面靠里侧那样的立体感、还是位于比显示画面靠近侧那样的立体感而不同。
在本实施方式中,以将左视野用影像向右方向错移、即带来从画面跃出的立体感为前提。
将原来的像素数据的坐标、与向右方向或左方向移位后的情况下的各像素数据的坐标的差称作“移位量”或“移位数”。该移位量应该根据在立体视中将写入在图像平面8中的字幕或写入在交互图形平面10中的图形图像显示为使其比显示画面以怎样的程度位于近侧或里侧的进深值计算。此外,在立体视再生中,能够根据能够作为两眼的视差采用的某些参数来导出。
此外,将用来使图形平面内的像素数据向左右移动上述那样的移位量的参数称作“平面偏移”。移位量是标量,相对于此,平面偏移是具有正负的极性和大小的矢量,指示从通常的状态(即看起来显示在显示画面上的状态)使像素数据的坐标向显示画面的水平方向(例如右方向及左方向)的哪个方向移动多少。在以后的说明中,假设平面移位被按照该平面偏移执行。在平面偏移中,既有对移位量赋予正负的符号的形式,也有在实施某些函数式的计算后能够作为移位量采用的形式。
接着,对平面偏移的正负的意义进行说明。
图形平面的平面偏移表示将保存在右视野的图形平面中的像素数据的坐标、以及保存在左视野用的图形平面中的像素数据的坐标错移多少像素的像素数。
在想要带来图形平面的影像从画面跃出的效果的情况下,在平面的合成之前,将左视野用的图形平面向右侧移位由平面偏移表示的移位量的量。并且,将右视野的图形平面向左侧移位由平面偏移表示的移位量的量。在本实施方式中,假设在平面偏移的符号是“正的符号”的情况下带来跃出的效果。
在想要带来将图形平面的影像显示在画面的里侧的效果的情况下,在平面的合成之前,将左视野用的图形平面向左移位由平面偏移表示的移位量的量。并且,将右视野的图形平面向右移位由平面偏移表示的移位量的量。在本实施方式中,假设在平面偏移的符号是“负的符号”的情况下带来显示在里侧的效果。
在平面偏移是“0”的情况下,意味着不进行图形平面的移位,即以通常的状态进行显示(看起来显示在显示画面上的状态)。
图12是表示在显示模式为3D且各平面的立体模式为OFF的情况下当保存在背景平面中的背景图像的平面偏移是“0”、保存在视频平面中的视频的平面偏移是“0”、图像平面的平面偏移是与“0”不同的值、交互图形平面的平面偏移是与“0”不同的值时的向右方向移位的ShiftedLeft(移位左)左视野图形平面、向左方向移位的Shifted Left(移位左)右视野图形平面的图。
如图12(a)所示,在图像平面8中,右方向移位后的图形平面被在左侧追加透明区域,右侧的端部被切掉。同样,在交互图形平面10中,右方向移位后的图形平面被在左侧追加透明区域,右侧的端部被切掉。
同样如图12(b)所示,在图像平面8中,左方向移位后的图形平面被在右侧追加透明区域,左侧的端部被切掉。同样,在交互图形平面10中,左方向移位后的图形平面被在右侧追加透明区域,左侧的端部被切掉。
在立体模式是OFF的情况下执行的平面移位产生使图像平面或交互图形平面内的图形看起来位于比显示画面靠近侧、或看起来位于比显示画面靠里侧的视觉效果。对该平面移位作为前提的原理进行说明。
(平面移位带来立体视的原理)
图13是用来说明在平面偏移的符号是正(将左视野用的图形图像向右方向错移、将右视野用的图形图像向左方向错移)的情况下看起来处于比显示画面靠近侧的原理的图。
在本图中,用圆表示的是显示在显示画面上的像。
首先,在没有平面偏移的情况下,在右眼中看到的像和在左眼中看到的像都是相同的位置,所以使用两眼观看该像时的焦点位置位于显示画面上(图13(a))。结果,显示的像位于显示画面上。
另一方面,3D显示模式的立体模式是OFF的情况下,在左眼中看到的像移位显示,以使其与平面偏移是0的情况相比看起来在右侧的位置。此时,在右眼中通过液晶眼镜500使其什么也看不到。另一方面,在右眼中看到的像移位显示,以使其与平面偏移是0的情况相比看起来在左侧的位置。此时,在左眼中通过液晶眼镜500使其什么也看不到(图13(b))。
人使用两眼对焦,识别为像处于其焦点位置。因而,如果通过液晶眼镜500以很短的时间间隔交替切换在左眼中看到像的状态以及在右眼中看到像的状态,则人的两眼将焦点位置对在比显示画面靠近侧的位置,结果发生错觉,好像像处在位于比显示画面靠近侧的焦点位置(图13(c))。
图14是用来说明在平面偏移的符号是负(将左视野用的图形图像向左方向错移、将右视野用的图形图像向右方向错移)的情况下、像看起来处于比显示画面靠里侧的原理的图。
在图14中,用圆表示的是显示在显示画面上的像。首先,在没有平面偏移的情况下,在右眼中看到的像也是与在左眼中看到的像相同的位置,所以使用两眼观看该像时的焦点位置位于显示画面上(图14(a))。结果显示的像位于显示画面上。
另一方面,在3D显示模式的立体模式是关闭的情况下,在左眼中看到的像与平面偏移是0的情况相比看起来在左侧的位置上。此时,通过液晶眼镜500,使得在右眼中什么也看不到。另一方面,在右眼中看到的像与平面偏移是0的情况相比看起来在右侧的位置上。此时,通过液晶眼镜500,使得在左眼中什么也看不到(图14(b))。
如果通过液晶眼镜500以很短的时间间隔相互切换在左眼中看到像的状态以及在右眼中看到像的状态,则人的两眼将焦点位置对在比显示画面靠里侧的位置上,结果发生错觉,好像像处在比显示画面靠里侧的位置(图14(c))。
以上的说明对写入在图形平面中的图形图像进行了说明,但如果对交互图形平面、视频平面、背景平面采用上述偏移的概念,则当然可以说是同样的。
(跃出程度/进深的产生方式)
图15是表示正和负的平面偏移的观看效果的差异的一例的图。
在图15(a)、(b)中,近侧者表示使用在右视野输出时移位的移位后的图形平面输出的右视野用的图形图像。里侧者表示使用在左视野输出时移位的移位后的图形平面输出的左视野用的图形图像。
图15(a)表示平面偏移的符号是正(将左视野用的图形图像向右方向错移、将右视野用的图形图像向左方向错移)的情况。如果平面偏移是正的值,则如图13所示,左视野输出时的字幕看起来在比右视野输出时的字幕靠右的位置。即,合焦点(焦点位置)来到比屏幕靠近侧,所以字幕也看起来在近侧。
图15(b)表示平面偏移的符号是负的情况。如果是负的值,则如图14所示,左视野输出时的字幕看起来在比右视野的输出时的字幕靠左的位置。即,由于合焦点(焦点位置)进到比屏幕靠里侧,所以字幕也看起来在里侧。
以上,结束关于通过平面偏移的正和负的切换而字幕变化为比显示画面的位置跃出或进到里侧的方法的说明。
根据以上的说明可知,通过平面移位中的平面偏移,平面图像看起来如显示在比显示画面靠近侧或显示在里侧那样。但是,作为平面移位的对象的字幕图形的大小并不是固定的,一般为了提高对话性,随着运动图像的放大缩小等处理而变动。
在通常的再生中,使运动图像为全尺寸,将字幕图形以对应于全尺寸的运动图像的尺寸显示,相对于此,在切换为菜单画面的情况下,将运动图像缩小而显示,并将字幕图形变更为对应于缩小的运动图像的大小的尺寸而显示,并且需要显示菜单画面所需的GUI。对在这样对运动图像进行了用于实现对话性的缩放的情况下、怎样决定平面移位中的平面偏移进行说明。图17表示在对运动图像进行了缩放的情况下由用户视听的立体视图像。
在显示模式为3D、视频平面的立体模式是ON的情况下,可知如果对运动图像进行了缩放倍率“1/2”的缩放,则横宽、纵宽成为1/2,最终将具有1/4的面积的运动图像立体显示。
此时,在显示模式是3D、视频平面的立体模式是ON的情况下,由左视野用的视频流和右视野用的视频流再生的像分别是观看角度不同的像,所以如果通过缩放倍率进行了缩放,则立体显示的跃出状况也对应于缩放倍率而动态变化。
但是,在显示模式是3D、图像平面的立体模式是OFF的情况下,在通过缩放倍率进行了图像平面的字幕的缩放的情况下,如果在图像平面中将平面偏移设定为不是“0”的值,则该平面偏移不随着缩放而动态变化,所以在合成图像中,字幕跃出感变强,视听者感到不适。
这一点在显示模式是3D、交互图形平面的立体模式是OFF的情况下也可以说是同样的。
使用简单的例子进行说明。
图18是用来说明在显示模式是3D且视频平面的立体模式是ON、显示模式是3D且图像平面的立体模式是OFF的情况下,如果不使图像平面的平面偏移对应于视频的缩放则发生什么状况的图。
在图中,用圆形表示通过左视野用的视频流和右视野用的视频流再生而从X-Z平面观察在人的眼睛中看到的虚拟的立体像时的一例,在该例中,立体的像显示在比显示画面靠近侧。
此外,假设字幕被虚拟地看到的位置是调节了图像平面的偏移以使其在比虚拟的立体的像靠近侧看到的位置。
图18(a)表示进行了全屏幕显示时的情况,图18(b)表示将视频缩小显示时的情况。将视频缩小显示的情况下的视频的跃出的程度对应于缩小的程度而动态变化。但是,字幕被虚拟地看到的位置是通过图像平面的偏移给出的固定的值,偏移不会因缩小处理而变化,所以如果图像平面的偏移不对应于缩放而改变,则字幕的位置看起来会奇怪地跃出。
图19示意地表示图18所示的跃出程度的一例。
有关本实施方式的再生装置是着眼于该技术问题而提供解决方案的结构。
具体而言,有关本实施方式的再生装置的特征在于,对应于视频的缩放而动态调节图像平面的偏移。具体而言,在如图18(c)所示那样将视频缩小显示的情况下,通过调节图像平面的偏移(在该例中是减小),使字幕被虚拟地看到的位置向显示画面侧接近。
图19表示在没有进行本实施方式的处理的情况下、即在运动图像的缩小时将从内容或者用户指定的缩放前的平面偏移原样应用到平面移位中的情况下显示的立体视图像。
对照地看,如果将对在与缩放前的运动图像的合成中使用的平面偏移D乘以缩放倍率后的平面偏移E应用到图像平面的平面移位中,则由于具有作为图像平面中的像素的跃出程度的意义的平面偏移D乘以缩放倍率,所以跃出程度变小。这样,能够将字幕拉近到进行了缩放的人物像的附近。通过这样,字幕存在于进行了缩放的人物像的附近,消除了人物像与字幕的跃出状况的不平衡感。
图20表示在进行了本实施方式的处理的情况下、即将乘以了缩放倍率的平面偏移应用到图像平面的平面移位中的情况下显示的立体视图像。
图20与图19不同,字幕存在于进行了缩放的人物像的附近,消除了人物像与字幕的跃出状况的不平衡感。
如以上这样,为了消除不平衡感,需要在平面移位引擎20内设置考虑缩放倍率而计算最优的平面偏移的机构。这样装入了考虑缩放倍率而计算最优的平面偏移的机构的是图21的平面移位引擎20。以下,参照图21对平面移位引擎20进行说明。
图21是表示有关本实施方式的再生装置200的平面移位引擎20的内部结构的一例的图。如本图所示,平面移位引擎20由偏移值保存部41、缩放倍率保存部42、平面偏移运算部43、移位部44构成。
(偏移值保存部41)
偏移值保存部41保存从偏移设定部21由内容或者用户指定的偏移值。
(缩放倍率保存部42)
缩放倍率保存部42保存相对于缩放前的倍率信息。例如,在没有缩放的情况下保持“1”、在一半的情况下保持1/2、在放大为2倍的情况下保持“2”等的值。
(平面偏移运算部43)
平面偏移运算部43基于保存在偏移值保存部41中的偏移值,考虑缩放及画面尺寸,执行将移位部44进行的移位的移位量变换为像素单位的计算。用具体的安装例来讲,在将缩放倍率指定为“1/2”的情况下,将对保存在偏移值保存部41中的偏移值乘以保存在缩放倍率保存部42中的缩放倍率而得到的值取为新的“平面偏移E”。
(运算结果的处理)
接着,对运算结果中的小数点以下的处理进行说明。平面偏移运算部43进行的运算是伴随着与缩放倍率的相乘的运算,在此情况下,小数点以下的数值的处理成为问题。这是因为,由于移位量以对应于像素数的数量移位,所以移位量必须是整数。当平面偏移运算部43进行运算时,在运算结果中出现了小数点以下的数值的情况下,将该小数点以下的数值进位为下个整数。例如,在平面偏移运算部43的运算结果是“3.2”的情况下,意味着使运算结果为“4”。
将这样将运算结果中的小数点以下的部分进位为下个整数的运算称作“Ceil运算”。在本实施方式中,在执行伴随着与缩放倍率的相乘的运算的情况下,对其运算结果执行Ceil(计算大于指定数的最小整数)运算,将运算结果中的小数点以下的部分进位为下个整数。
(维持分辨率的请求带来的影响)
接着,对来自应用的分辨率维持的请求带来的影响进行说明。平面偏移运算部43在缩放时的KEEP_RESOLUTION设定时也执行对应于缩放倍率的移位量的计算。所谓KEEP_RESOLUTION设定,是在缩放命令时不进行交互图形平面的放大/缩小、而进行仅视频平面的放大/缩小的功能。通过这样,在KEEP_REOLUTION时也能够进行与视频的进深同步的字幕的进深的变更。
(移位部44)
移位部44基于平面偏移运算部43计算的值进行向图像平面的横轴的移位。
图22是表示1/1、1/2、1/4的3个缩放倍率以及采用各缩放倍率的情况下的包括字幕·GUI的图形的合成图像的图。
近侧表示缩放倍率=1/1的L图像、R图像的组,中间表示缩放倍率=1/2的L图像、R图像的组,最后面表示缩放倍率=1/4的L图像、R图像的组。
例如,表示在设为缩放倍率=1/2、1/4的情况下、在显示画面的左上的位置上显示进行了缩放的合成图像时的例子。
在缩放倍率=1/2下,纵像素数及横像素数成为1/2,可知较小地显示在画面的左端。在缩放倍率=1/4下,纵像素数及横像素数成为1/4,可知较小地显示在画面的左端。
在图22中,合成了字幕·GUI的运动图像为缩放的对象,但在伴随着缩放的GUI处理中,GUI被提供给通过全画面显示的显示,在GUI的全画面显示中的左上区域中配置合成图像。GUI构成为:在主要描绘在显示有显示在左上区域中的字幕·运动图像的合成图像的部分以外的部分中的情况下,将GUI从缩放的对象中除外,仅将字幕和视频合成的合成图像成为缩放的对象。
此外,作为BD-J应用描绘GUI的交互图形数据的一例进行了说明,但BD-J应用描绘的交互图形数据在GUI以外还包括与运动图像联动的动画等图形图像。
在这样的情况下,BD-J应用描绘的交互图形数据如果与字幕、运动图像同样作为缩放的对象,则也可以构成为,使其对应于字幕·运动图像的缩小而联动地缩小。在此情况下,在图22的黑色的部分中显示保存在背景平面中的背景数据。
在图22的右眼图像、左眼图像中,与缩放前的合成结构相比,可以理解为在缩放后对应于视频平面的尺寸调节字幕的移位量。由此,能够防止立体感的差异变大,减轻眼睛的疲劳,并且进行更自然的显示。
图24是表示1/1、1/2、1/4的3个缩放倍率以及采用各缩放倍率的情况下的视频与字幕图形的合成图像的图。
可知在缩放倍率是1/1的情况下不存在GUI,但如果是缩放倍率=1/2则显示有GUI。电视机400的画面中的右半部表示由电影作品的导演记述的导演评论cm1,电视机400的画面中的下半部包括受理跳到下一个、跳到前一个的按钮部件bn1、受理菜单调用的按钮部件bn2、受理返回操作的按钮部件bn3、受理网络连接的按钮部件bn4。它们与图1所示的结构是相同的。
如果缩放的对象是合成了字幕图形的运动图像,则平面移位的对象仅为图像平面,平面偏移E的计算对象也仅为图像平面中的平面偏移E。
以上是对平面移位引擎20的说明。接着,对作为平面移位的对象的图像平面的详细情况进行说明。首先,使用图26说明图像平面的一般结构,接着,对在该图像平面中怎样进行像素的移动进行说明。
图26表示图像平面8的内部结构的一例。在分辨率被设定为1920×1080的情况下,如图26(a)所示,图像平面8由横1920×纵1080的、8位长的存储元件构成。这意味着能够以1920×1080的分辨率保存每1个像素8位的像素代码的存储器分配。将存储在存储元件中的8位的像素代码通过使用颜色查找表的颜色变换,变换为Y值、Cr值、Cb值。该颜色查找表中的、像素代码与Y值、Cr值、Cb值的对应关系由字幕数据内的调色板定义段规定。
图26(b)表示保存在图像平面8中的像素数据。如本图所示,保存在图像平面8中的图形数据由对应于前景部分(构成字幕“I love”的部分)的像素数据、对应于背景部分的像素数据构成。这里,在对应于背景部分的存储元件中,保存有表示透明色的像素代码,在该部分中,在与视频平面的合成时,视频平面中的运动图像看起来透明。另一方面,在对应于前景部分的存储元件中,保存有表示透明色以外的像素代码,通过该透明色以外的Y、Cr、Cb值描绘字幕。在由合成部15进行的平面合成时,在对应于透明像素的部分中,能够透视而看到位于字幕以下的保存在背景平面中的背景图像或保存在视频平面中的视频的内容,通过该透明部分的存在而能够进行平面合成。
图27表示进行了右方向的移位、左方向的移位后的前景区域的像素数据及背景区域的像素数据。(a)是移位前的像素数据,(b)是右方向的移位后的像素数据。这里,如果移位量是15像素,则可知字幕字符“I loveyou”的“y”移动而变得从画面看不到。(c)是进行了左方向的移位后的像素数据。这里,如果移位量是15像素,则可知后续于字幕字符“I love”的字幕字符“you”中的“o”的字符出现。
以上是图像平面8的内部结构以及其移位前后的像素数据的配置的说明。接着,对交互图形平面10的内部结构以及其移位前后的像素数据的配置进行说明。
图28表示交互图形平面10的内部结构。在分辨率被设定为1920×1080的情况下,如(a)所示,交互图形平面10由横1920×纵1080的32位长的存储元件构成。交互图形平面10具有能够以1920×1080的分辨率保存每1个像素32位的R、G、B、α值的存储器分配。存储在存储元件中的32位的R、G、B、α值由8位的R值、8位的G值、8位的B值、8位的透明度α构成。
(b)表示保存在交互图形平面10中的像素数据。如本图所示,保存在交互图形平面10中的图形数据由对应于前景部分(受理向前后章节的跳过操作的GUI)的像素数据、对应于背景部分的像素数据构成。这里,在对应于背景部分的存储元件中,保存有表示透明色的α值,在该部分中,在与视频平面的合成时,能够透视而看到图像平面的字幕及视频平面中的运动图像。另一方面,在对应于前景部分的存储元件中,保存有表示透明色以外的R、G、B值,通过该透明色以外的R、G、B值描绘图形。
在由合成部15进行的平面合成时,在对应于透明像素的部分中,能够透视而看到背景图形平面、视频平面、图像平面8的内容,通过该透明部分的存在,能够进行平面合成。
以上,结束对进行了右方向的移位、左方向的移位后的前景区域的像素数据及背景区域的像素数据的说明。
图29表示进行了右方向的移位、左方向的移位后的前景区域的像素数据及背景区域的像素数据。图29(a)是移位前的像素数据,图29(b)是右方向的移位后的像素数据。在此情况下,可知受理向前后章节的跳过操作的GUI向右方向移动了。图29(c)是进行了左方向的移位后的像素数据。可知受理向前后章节的跳过操作的GUI向左方向移动了。
图30是表示图像平面8的平面移位的处理顺序的图。
(a)表示从图像平面8生成的、左方向移位后的图形平面以及右方向移位后的图形平面。
(b)表示右方向的移位。如本图所示,向水平方向的右方向的移位方法如以下的(1-1)、(1-2)、(1-3)那样进行。(1-1)、将图像平面8的右端区域切掉。(1-2)、将存在于图像平面8中的像素数据的位置如上述那样向右沿水平方向错移平面偏移E所示的移位量。(1-3)、在图像平面8的最左端追加透明区域。
(c)表示左方向的移位。如本图所示,向水平方向的左方向的移位方法如以下的(2-1)、(2-2)、(2-3)那样进行。(2-1)、将图像平面8的左端区域切掉。(2-2)、将图像平面8中的各像素数据的位置向左沿水平方向错移平面偏移E所示的移位量。(2-3)、在图像平面8的右端追加透明区域。
接着,对平面偏移的正负的意义进行说明。
在3D显示模式中、并且图像平面8的立体模式是OFF的情况下,再生装置在基于平面偏移E所示的移位量将平面如以下这样处理后进行合成。
在平面偏移E被设定为正的符号的情况下,在平面的合成之前,将左视野用的图像平面8向右移位平面偏移E所示的移位量的量。并且,将右视野用的图像平面8向左移位平面偏移E所示的移位量的量。
在平面偏移E被设定为负的符号的情况下,在平面的合成之前,将左视野用的图像平面8向左移位平面偏移E所示的移位量的量。并且,将右视野用的图像平面8向右移位平面偏移E所示的移位量的量。
图31是表示交互图形平面10中的平面移位的处理顺序的图。
(a)表示由交互图形平面10生成的、左方向移位后的图形平面和右方向移位后的图形平面。
(b)表示右方向的移位。如本图所示,向水平方向的右方向的移位方法如以下的(1-1)、(1-2)、(1-3)那样进行。(1-1)、将交互图形平面的右端区域切掉。(1-2)、将存在于交互图形平面中的像素数据的位置如上述那样向右沿水平方向错移平面偏移E所示的移位量。(1-3)、在交互图形平面的最左端追加透明区域。
图31(c)表示左方向的移位。如本图所示,向水平方向的左方向的移位方法如以下的(2-1)、(2-2)、(2-3)那样进行。(2-1)、将交互图形平面的左端区域切掉。
(2-2)、将交互图形平面中的各像素数据的位置向左沿水平方向错移平面偏移E的移位量。(2-3)、在交互图形平面的右端追加透明区域。
对在平面移位时从右端或左端切掉的区域、对右端或左端追加的区域的大小进行说明。上述那样的移位中的平面偏移是对应于右眼与左眼的视差的值。这是说,从图形平面的端部切掉的区域、对图形平面的端部追加的透明区域的横像素数必须是相当于平面偏移E的像素数。
由此,从图形平面的端部切掉的区域的横像素数为对应于平面偏移E的移位量的像素数。此外,透明区域的纵像素数为表示图形平面的高度的像素数。
同样,对图形平面的端部追加的透明区域的横像素数为对应于平面偏移E的移位量的像素数。该透明区域的纵像素数为表示图形平面的高度的像素数。
以上,结束对图像平面8、交互图形平面10中的平面移位的处理顺序的说明。接着,对平面偏移具有的符号的正负的意义进行说明。
在显示模式是3D的情况下、并且在图形平面的立体模式是OFF的情况下,再生装置基于平面偏移将平面如以下这样处理后进行合成。
在平面偏移E被设定正的符号的情况下,在平面的合成之前,将左视野用的图形平面向右移位平面偏移E的移位量的量。并且,将右视野的图形平面向左移位平面偏移E的移位量的量。
在平面偏移E被设定负的符号的情况下,在平面的合成之前,将左视野用的图形平面向左移位平面偏移E的移位量的量。并且,将右视野的图形平面向右移位平面偏移E的移位量的量。
(图形平面的存储元件中的像素数据的移动)
表示通过上述那样的移位、图形平面的存储元件中的像素数据怎样移动。图形数据由1920×1080、1280×720等分辨率的像素数据构成。
图32是表示保存在图形平面中的像素数据的图。在本图中,四方框是存储32位或8位的信息的存储元件,0001、0002、0003、0004、07A5、07A6、07A7、07A8、07A9、07AA、07AB等16进制数的数值是在MPU的存储器空间中对这些存储元件连续分配的地址。此外,存储元件中的(0,0)、(1,0)、(2,0)、(3,0)、(1916,0)、(1917,0)、(1918,0)、(1919,0)等数值表示在存储元件内保存有哪个坐标的像素数据。
这里,存在于坐标(0,0)的像素数据保存在地址0001的存储元件中,存在于坐标(1,0)的像素数据保存在地址0002的存储元件中,存在于坐标(1919,0)的像素数据保存在地址07A8的存储元件中,存在于坐标(0,1)的像素数据保存在地址07A9的存储元件中。即,可以将图形数据保存为,使构成图形的多个行为连续地址。通过这样,通过对被赋予了这些连续地址的存储元件依次进行DMA转送,能够将这些像素数据分段读出。
图33表示进行了移位后的图形平面的保存内容。
图33(a)表示平面偏移E被设定为“3”而被向右方向移位后的图形平面。由于平面偏移E是“3”,所以可知在地址0004的存储元件中保存有图形平面坐标系的坐标(0,0)的像素数据,在地址0005的存储元件中保存有图形平面坐标系的坐标(1,0)的像素数据,在地址0006的存储元件中保存有图形平面坐标系的坐标(2,0)的像素数据。
此外,可知在地址07AC的存储元件中保存有图形平面坐标系的坐标(0,1)的像素数据,在地址07AD的存储元件中保存有图形平面坐标系的坐标(1,1)的像素数据,在地址07AE的存储元件中保存有图形平面坐标系的坐标(2,1)的像素数据。
图33(b)表示平面偏移E被设定为“3”而被向左方向移位后的图形平面。由于平面偏移E是“3”,所以可知在地址0001的存储元件中保存有图形平面坐标系的坐标(3,0)的像素数据,在地址0002的存储元件中保存有图形平面坐标系的坐标(4,0)的像素数据,在地址0003的存储元件中保存有图形平面坐标系的坐标(5,0)的像素数据。
此外,可知在地址07A9的存储元件中保存有图形平面坐标系的坐标(3,1)的像素数据,在地址07AA的存储元件中保存有图形平面坐标系的坐标(4,1)的像素数据,在地址07AB的存储元件中保存有图形平面坐标系的坐标(5,1)的像素数据。
通过以上,可知在移位后的图形平面中,图形平面的各像素数据的坐标从本来的坐标向右方向、左方向错移了平面偏移E所示的像素数。
通过使配置构成图形数据的各像素数据的存储元件的地址变化规定的地址,能够实现图形平面的移位。当然,实际上即使不使配置像素数据的存储元件的地址变化,也只要是与其等价的处理,就能够实现图形平面的移位。
以上,结束对进行了移位后的图形平面的保存内容的说明。
如上所述,平面移位在存储器中通过使像素的坐标怎样移动的控制来实现,就是说,通过再生装置的装入软件实现。与其对照,被从BD-ROM提供且用于再生控制的程序是用上述那样的Java语言记述的字节码应用,所以该字节码应用的执行主体存在于再生装置200中。以下,对作为执行字节码应用的主体的、BD-J平台部22的内部结构进行说明。
图34是表示BD-J平台部的内部结构的图。如本图所示,BD-J平台22由堆存储器31、字节码解释器32、中间件33、类装载器34、应用管理器35构成。
(堆存储器31)
堆存储器31是配置***应用的字节码、BD-J应用的字节码、***应用利用的***参数、BD-J应用利用的应用参数的堆栈区域。
(字节码解释器32)
字节码解释器32将保存在堆存储器31中的构成BD-J应用的字节码、构成***应用的字节码变换为本机码,使MPU执行。
(中间件33)
中间件33是用于装入软件的操作***,由核心、设备驱动器构成。核心根据来自BD-J应用的应用编程接口(API)的调用,对BD-J应用提供再生装置特有的功能。此外,实现通过中断信号启动中断控制部等的硬件控制。
(类装载器34)
类装载器34是***应用之一,通过从存在于JAR档案文件中的类文件读出字节码并保存到堆存储器31中,进行BD-J应用的装载。
(应用管理器35)
应用管理器35是***应用之一,基于BD-J对象内的应用管理表启动BD-J应用或结束BD-J应用等,进行BD-J应用的应用指令。
以上,结束对BD-J平台部的内部结构的说明。
在上述层模型中,显示模式设定初始显示设定部28存在于平台部的下位的层中,基于对BD-J平台部提供的当前标题中的BD-J对象,进行显示模式、分辨率的设定。
(显示模式存储部29的内部结构)
显示模式存储部29为能够从以上的层模型参照的构造,所以显示模式存储部29成为能够通过API参照、并且能够使背景图形平面11、视频平面6、图像平面8、交互图形平面10的各状态及设定变得清楚的结构。以下,参照图35对显示模式存储部29的结构进行说明。
图35表示显示模式存储部29的存储内容。
在本图中,显示模式存储部29除了表示再生装置是2D模式还是3D模式的显示模式的状态的信息以外,还保存背景平面11设定、视频平面设定、图像平面设定、交互图形平面设定。作为各平面的设定项目,保存有“分辨率(图中的YY×ZZ)”、立体模式(图中的开启或关闭)、THREE_D(3D)的设定(图中的开启或关闭)。关于图像平面8设定及交互图形平面10设定,除了以上的设定项目以外,还能够在从“-63”到“+63”的范围内设定平面偏移。
如本图所示,如果将图像平面设定中的平面偏移以及交互图形平面设定中的平面偏移设定为不同的值,则字幕图形和GUI看起来被显示的Z轴上的位置为不同的位置。在此情况下,图21的偏移值保存部成为保存图像平面设定中的平面偏移和交互图形平面设定中的平面偏移两者的结构。
对由显示模式存储部29支持的分辨率进行说明。
在再生装置是2D显示模式的情况下,作为初始显示设定,背景平面11、视频平面6、图像平面8、交互图形平面10支持1920×1080、1280×720、720×576、720×480像素的分辨率。
以上,结束对显示模式存储部29的存储内容的说明。
(显示模式设定初始显示设定部28的安装)
对显示模式设定初始显示设定部28的安装进行说明。有时,即使在选择了一个标题、在对应于该标题的BD-J对象在再生装置中为有效的期间中,动作中的应用也通过根据用户操作调用JMF播放器例程而开始新的播放列表的再生。如果这样开始新的播放列表的再生,则需要在标题内重新设定显示模式。
作为显示模式设定初始显示设定部28的功能,必须支持标题变化时的标题间显示模式设定、在标题内播放列表变化时的显示模式设定以及应用明示地调用API而设定的情况下的显示模式设定,具体而言,可以通过制作使MPU执行以下的流程图所示的处理顺序的程序来装入到再生装置中而安装。
图36是表示标题切换时的显示模式设定的处理顺序的一例的流程图。本流程图根据步骤S21、步骤S22、步骤S23、步骤S26的判断结果,有选择地执行步骤S24、步骤S25、步骤S27的处理。
步骤S21是是否存在自动再生播放列表的判断,步骤S22是之前的显示模式是否是3D的判断。步骤S23是所选择的标题的自动再生播放列表是1920×1080的3D播放列表还是1280×720的3D播放列表的判断。
在不存在自动再生播放列表的情况下,在步骤S26中,判断BD-J对象的默认分辨率是否是HD3D_1920×1080、HD3D_1280×720,如果为是,则在步骤S25中,将显示模式设定为3D,对应于BD-J对象的默认分辨率而设定为1920×1080或1280×720。如果为否,则在步骤S27中将显示模式设定为2D,将分辨率设定为BD-J对象的默认分辨率。
在不存在自动再生播放列表的情况下,在步骤S22中,判断之前的显示模式是否是2D、或者在步骤S23中判断是否是播放列表为3D播放列表且其分辨率为1920×1080、1280×720。如果步骤S22、步骤S23的某个是否,则在步骤S24中将显示模式设定为2D,将分辨率设定为自动再生播放列表的分辨率。
在判断步骤S22为是、步骤S23也为是的情况下,在步骤S25中,将显示模式设定为3D,将分辨率对应于自动再生播放列表的分辨率设定为1920×1080或1280×720。
以上,结束对标题间显示模式设定的处理顺序的说明。
图37是表示标题内显示模式设定的处理顺序的流程图。本流程图将步骤S31、步骤S32的两个步骤直连而成。首先,标题内显示模式设定从播放列表的再生请求起开始。在受理了播放列表再生请求的时刻,步骤S31进行当前的状态是否是3D的判断,如果是2D,则在步骤S34中将显示模式设定为2D。步骤S32判断有再生请求的播放列表是否是3D播放列表,如果是3D播放列表,则转移到步骤S33,将显示模式设为3D,如果是2D播放列表,则转移到步骤S34,将显示模式设为2D。
以上,结束对标题内显示模式设定的处理顺序的说明。
(再生控制引擎14的安装)
再生控制引擎14在因某种原因而选择了当前播放列表时进行该当前播放列表的再生,具体而言,必须实现将对应于当前播放列表的播放列表信息读出到静态脚本存储器13中并将由该播放列表信息的播放项目信息参照的3D流、2D流提供给再生的处理,具体而言,需要制作执行以下的流程图所示的处理顺序的程序来装入到再生装置中并使MPU执行。
图38是表示BD-J模式中的播放列表再生的主要的顺序的流程图。
步骤S40判断通过与所选择的标题关联的BD-J对象所示的自动再生播放列表的设定或JMF播放器例程的生成是否设定当前播放列表号码,如果设定了,则在步骤S41中,将由当前播放列表号码指示的播放列表信息文件装载到脚本存储器中,在步骤S42中,如果在播放列表信息中存在平面偏移,如果存在平面偏移,则偏移设定部设定为平面移位引擎19的平面偏移值。并且,在步骤S43中进行标题内显示模式设定。
在步骤S44中,将装载的播放列表信息中的最开始的播放项目号码设定为当前播放项目号码。在步骤S45中,从在当前播放列表信息中被许可再生的PES流之中选择当前流。
在步骤S46中,基于播放项目信息决定使用哪个流号码。
在步骤S47中,进行在步骤S43中判断的显示模式是2D还是3D的判断。如果是3D,则在步骤S49中执行3D显示模式时的3D视频流的再生。如果是2D,则转移到步骤S48。
步骤S48是由当前流号码指示的视频流及字幕流是2D还是3D的判断。在步骤S48中判断为2D的情况下,在步骤S51中执行2D显示模式下的2DAV流的再生。在判断为3D的情况下,在步骤S50中执行2D显示模式的3D视频流的再生。最后,在到达了本图的“结束”的时刻进行播放列表的再生开始。
图39是表示基于播放项目信息的再生顺序的流程图。
在步骤S60中,将装入在视频流中的平面偏移D设定在平面移位引擎20中,在步骤S61中,使用对应于左视野流的包ID的入口映射表,将当前PlayItem.In_Time及当前PlayItem.Out_Time变换为Start_SPN[i]及End_SPN[i]。
将使用对应于右视野流的包ID[j]的入口映射表[j]确定的SubPlayItemIn_Time、SubPlayItemOut_Time变换为Start_SPN[j]、End_SPN[j](步骤S62)。
确定属于用来将包ID[i]的TS包[i]从Start_SPN[i]到End_SPN[i]进行读出的读出范围[i]的区段(步骤S63),确定属于用来将包ID[j]的TS包[j]从Start_SPN[j]到End_SPN[j]进行读出的读出范围的区段(步骤S64)。并且,在步骤S65中,将属于读出范围[i]、[j]的区段以地址的升序排序,在步骤S66中,对驱动器指示,以使其使用排序后的地址将属于读出范围[i]、[j]的区段连续地读出。
以上,结束对再生控制引擎14的说明。
图40是表示3DAV流的3D显示的处理顺序的流程图。本流程图是执行由步骤S602~步骤S606构成的循环的流程图。该循环是将依次执行左眼用处理(步骤S602)、右眼用处理(步骤S603)的处理持续进行直到帧输出终止(步骤S606中否)的流程图。
另外,从当前播放列表信息中提取平面偏移D、保存到平面移位引擎中的处理在图38的步骤S42中已经被执行。
在本循环中,步骤S604是平面偏移D是否设定在偏移值保存部41中的判断,如果没有设定,则将步骤S605跳过,如果设定,则执行步骤S605。步骤S605是使用保存在偏移值保存部41中的平面偏移D、在平面移位引擎20中通过图21所示的偏移运算部43进行偏移运算、将平面偏移E更新的处理。
(显示模式是3D的情况下的3D视频流的处理顺序)
在当前的显示模式是3D显示模式且再生对象是3D播放列表及3D流的情况下,执行图41~图42的处理顺序。
图41是例如图40所示的步骤S602(左眼用处理)的具体的一例,详细地讲,是表示显示模式是3D时的左眼用处理的顺序的流程图。
图41中的步骤S701~步骤S707是左眼用处理。
首先,在步骤S701中,合成部16取得写入在用于左视野的左视野背景平面11(图4所示的附加“(L)”的符号的区域)中的背景数据。在左视野背景平面中,保存有通过BD-J应用的描绘命令通过静止图像解码器27b描绘的背景数据。
接着,使用视频解码器5a将左视野用的视频流解码,写入到视频平面6(图4中附加(L))中之后,合成部15取得写入在上述视频平面6(图4所示的附加(L)的符号的区域)中的左视野用的视频数据(步骤S702)。
并且,在步骤S703中,合成部15确认处于显示模式存储部29中的图像平面设定的立体模式是ON还是OFF(以下,将确认立体模式是ON还是OFF称作确认立体模式的标志)。在立体模式是OFF的情况下,将由图像解码器7a解码的左视野图像写入到图像平面8(图4所示的附加符号(L)的区域)中之后,由平面移位引擎20实施左眼用的移位处理(步骤S704a)。
在立体模式是ON的情况下,将图像解码器7a解码后的左视野图像写入到图像平面8(图4所示的附加符号(L)的区域)中,对写入在图像平面8(图4所示的附加符号(L)的区域)中的左视野图像不实施左眼用的移位处理。这是因为,在立体模式是ON的情况下,观看角度与左视野图像不同的右视野图像被经由图像解码器7b写入到图像平面(图4所示的附加符号(R)的区域)中(步骤S704b)。
在由步骤S704a或步骤S704b赋予了图像平面8的符号(L)的区域中,保存有保存在图像存储器7中的左眼用的图像数据且由图像解码器7a解码后的数据。
接着,在步骤S705中,合成部15确认处于显示模式存储部29中的、交互图形平面设定的立体模式的标志。在立体模式是OFF的情况下,BD-J应用利用绘制引擎22a,将左视野用交互图形写入到左眼用平面(在图4的交互图形平面10中附加符号(L))中,从左眼用平面(在图4的交互图形平面10中附加符号(L))取得左视野用交互图形,对所取得的左视野用交互图形,平面移位引擎20实施左眼用的移位处理(步骤S706a)。
在立体模式是ON的情况下,BD-J应用利用绘制引擎22a将左视野用交互图形写入到左眼用平面(在图4的交互图形平面10中附加符号(L))中。然后,为了显示而从左眼用平面(在图4的交互图形平面10中附加符号(L))取得左视野用交互图形,但对于左视野用交互图形不实施左眼用的移位处理(步骤S706b)。
在步骤S706a、步骤S706b中取得了左视野交互图形的左视野交互图形平面中,在BD-J模式时保存有通过BD-J应用的描绘命令经由绘制引擎22a描绘的数据。
此外,在HDMV模式时,在左视野交互图形平面中,保存从字幕流以外的图形流中提取的图形数据的解码结果。
在步骤S707中,将步骤S701的写入在背景平面11的附加(L)的符号一方中的背景数据、步骤S702的写入在视频平面的(L)的附加(L)的符号一方中的视频数据、步骤S704的写入在图像平面的附加(L)的符号一方中的字幕数据、步骤S706的写入在交互图形平面的(L)的附加(L)的符号一方中的GUI数据依次合成,作为左视野向显示器输出。
在步骤S703、S705中,在判断为立体模式是OFF的情况下,在对应的平面中实施了移位处理的数据成为合成的对象。并且,在显示器的输出的定时转换左右处理存储部的标志。另外,S701~S707的各处理实施了左眼用的处理,但当前的处理是否是左眼用的处理通过参照左右处理存储部来判断。
接着,在完成S701~S707的左眼用的处理后,进行右眼用的处理。
图42是例如图40所示的步骤S603(右眼用处理)的具体的一例,详细地讲,是表示显示模式为3D时的右眼用处理的处理顺序的一例的流程图。图42中的步骤S801~步骤S809是右眼用处理。在步骤S801中,合成部15确认处于显示模式存储部29中的背景平面设定的立体模式的标志。在立体模式是OFF的情况下,将左视野用的背景数据写入到背景平面11的附加(R)一方中,从背景平面11的附加(R)一方中取得背景数据(步骤S802a)。在立体模式是ON的情况下,将右视野用的背景数据写入到背景平面11的附加(R)一方中,从背景平面11的附加(R)一方中取得右视野用的背景数据(步骤S802b)。
接着,在步骤S803中,合成部15确认处于显示模式存储部29中的视频平面设定的立体模式的标志。在立体模式是OFF的情况下,将左视野用的视频流使用视频解码器5a解码,从视频平面6(图4的附加(R)一方)中之后,合成部15从上述视频平面6(图4的附加(R)一方)中取得左视野用的视频数据(步骤S804a)。在立体模式是ON的情况下,使用视频解码器5b将右视野用的视频流解码,写入到视频平面6(图4的附加(R)一方)中之后,合成部15从上述视频平面6(图4的附加(R)一方)中取得右视野用的视频数据(步骤S804b)。
并且,在步骤S805中,合成部15确认处于显示模式存储部29中的图像平面设定的立体模式的标志。在立体模式是OFF的情况下,将图像解码器7a解码后的左视野图像写入到图像平面8(附加符号(R)一方)中。然后,对写入在图像平面8的附加符号(R)一方中的左视野图像,平面移位引擎20实施右眼用的移位处理(步骤S806a)。在立体模式是ON的情况下,将图像解码器7b解码后的右视野图像写入到图像平面8(图4所示的附加符号(R)的区域)中,不实施移位处理。这是因为,在立体模式是ON的情况下,观看的角度与左视野图像不同的右视野图像被经由图像解码器7b写入到图像平面8(图4所示的附加符号(R)的区域)中(步骤S806b)。
在步骤S806a、步骤S806b中取得的图像平面中,保存有是保存在图像存储器7中的字幕数据且由图像解码器7(图4的图像解码器7a或7b)解码后的数据。
接着,在步骤S807中,合成部15确认处于显示模式存储部29中的交互图形平面设定的立体模式的标志。在立体模式是OFF的情况下,BD-J应用利用绘制引擎22a,将左视野用交互图形写入到右眼用平面(在图4的交互图形平面10中附加符号(R)的区域)中。并且,对写入在右眼用平面(在图4的交互图形平面10中附加符号(R)的区域)中的左视野用交互图形,平面移位引擎20实施右眼用的移位处理(步骤S808a)。
在立体模式是ON的情况下,BD-J应用利用绘制引擎22a,将右视野用交互图形写入到右眼用平面(在图4的交互图形平面10中附加符号(R)的区域)中,但平面移位引擎20对写入在右眼用平面(在图4的交互图形平面10中附加符号(R)的区域)中的右视野用交互图形不实施移位处理(步骤S808b)。
在步骤S809中,将步骤S802的写入在背景平面11(附加符号(R)一方)中的背景数据、步骤S804的写入在视频平面6(附加符号(R)一方)中的视频数据、步骤S806的写入在图像平面8(附加符号(R)一方)中的图像数据、步骤S808的写入在交互图形平面中的GUI数据依次合成。
在步骤S805、S807中,在立体模式是OFF的情况下,在对应的平面中进行了移位处理的数据成为合成的对象。并且,在步骤S806b、步骤S808b中,将合成结果作为右视野向显示器输出。最后,在步骤S809中,在显示器的输出的定时转换左右处理存储部的标志。另外,步骤S801~S809的各处理实施右眼用的处理,但当前的处理是否是右眼用的处理的判断通过参照左右处理存储部19来进行。
只要帧输入继续,重复图40所示的S602、S603、S604、S605(在S604中为是的情况下)的处理(步骤S606)。
以上,结束对显示模式是3D时的流处理的说明。
另外,再生装置从AV流的头区域取得平面偏移D的方法、并且进行了每帧更新的安装的情况下,在步骤S810的时刻需要通过偏移设定部21将平面移位引擎20的偏移更新为与下个帧对应的值。
图43(a)是用来说明图41所示的步骤S702、图42所示的步骤S804a的具体的一例的流程图。
首先,使用视频解码器5a将左视野用的视频流解码而输出视频数据(步骤S201)。
接着,判断缩放倍率是否是“1”(步骤S202)。
该判断通过参照例如从BD-J平台22指定的缩放倍率并基于参照的值判断来实现。
在本实施方式中,只要参照保存在平面移位引擎20内的缩放倍率保存部42中的缩放倍率值就可以,但并不需要限定于此,也可以构成为,使得在缩放引擎15内具备保存从BD-J平台22指定的缩放倍率的缩放倍率保存部(未图示),也可以是,在平面移位引擎20内将缩放倍率保存部42设在再生装置内、并且平面移位引擎20的外侧,缩放引擎15、平面移位引擎20能够参照保存在设在再生装置内且平面移位引擎20的外侧的缩放倍率保存部42中的缩放倍率。
接着,在步骤S202中,在判断缩放倍率不是“1”的情况下(在步骤S202中判断为“是”的情况下),将解码后的视频数据中的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将变换后的水平像素数、垂直像素数的视频数据写入到视频平面6中,以使其显示在显示画面的规定的位置上(步骤S203)。
这里,在步骤S702的具体的处理中,步骤S203写入到视频平面6的附加符号(L)的区域中,相对于此,在步骤S804a的具体的处理中,步骤S203写入到视频平面6的附加符号(R)的区域中,在这一点上不同。
例如在缩放倍率是1/2的情况下,意味着写入到视频平面中、以使得例如如图22所示那样在显示画面的左上显示视频数据,在缩放倍率是1/4的情况下,意味着写入到视频平面中、以使得例如如图22所示那样在显示画面的左上显示视频数据。此外,在上述的说明中,变换为垂直像素数,将变换后的水平像素数、垂直像素数的视频数据写入到视频平面中以显示在显示画面的规定的位置上,但也可以按照来自BD-J应用的指定决定显示位置。
此外,在上述的处理中,放大/缩小的处理只要采用公知的技术就可以。
在步骤S202中,在判断为缩放倍率是“1”的情况下(在步骤S202中判断为“否”的情况下),将使用视频解码器5a将左视野用的视频流解码后的视频数据写入到视频平面6中(S204)。
这里,在步骤S702的具体的处理中,步骤S204写入到视频平面6的附加符号(L)的区域中,相对于此,在步骤S804a的具体的处理中,步骤S204写入到视频平面6的附加符号(R)的区域中,在这一点上不同。
步骤S204例如是缩放倍率为1/1的情况,意味着写入到视频平面中,以使得例如如图22所示那样在显示画面上将视频数据全画面显示。
图43(b)是表示图42的步骤S804b的具体的一例的流程图。
首先,使用视频解码器5b将右视野用的视频流解码,将视频数据输出(步骤S201b)。
接着,判断缩放倍率是否是“1”(步骤S202)。
在步骤S202中,在判断为缩放倍率不是“1”的情况下(在步骤S202中判断为“是”的情况下),将解码后的视频数据中的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将变换后的水平像素数、垂直像素数的视频数据写入到视频平面6(附加符号(R)的区域)中,以使其显示在显示画面的规定的位置上(步骤S203b)。
在步骤S202中,在判断为缩放倍率是“1”的情况下(在步骤S202中判断为“否”的情况下),将使用视频解码器5b将右视野用的视频流解码后的视频数据写入到视频平面6(附加符号(R)的区域)中(S204b)。
图16(a)是用来说明图41所示的步骤S704b的具体的一例的流程图。在图中,首先,使用图像解码器7a将左视野用的字幕流解码(步骤S201c)。
接着,判断缩放倍率是否不是“1”(步骤S202)。
接着,在步骤S202中,在判断为缩放倍率不是“1”的情况下(在步骤S202中判断为“是”的情况下),将解码后的图像数据的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将变换后的水平像素数、垂直像素数的图像数据写入到图像平面8(图4的附加(L)的区域)中,以使其显示在显示画面的规定的位置上(步骤S203c)。
例如在缩放倍率是1/2的情况下,例如在如图22(b)的左侧图那样使视频数据靠近显示画面的左上时,将字幕数据写入到图像平面中,以将字幕以对应的大小显示。在缩放倍率是1/4的情况下,例如在如图22(a)的左侧图那样使视频数据靠近显示画面的左上时,将字幕数据写入到图像平面中,以将字幕以对应的大小显示。此外,在上述的说明中,变换为垂直像素数,将变换后的水平像素数、垂直像素数的视频数据写入到图像平面中、以使其显示在显示画面的规定的位置上,但也可以按照来自BD-J应用的指定来决定字幕数据的显示位置。
除此以外,在上述的处理中,放大/缩小的处理也可以采用公知的技术。
在步骤S202中,在判断缩放倍率是“1”的情况下(在步骤S202中判断为“否”的情况下),将使用图像解码器7a将左视野用的字幕流解码后的字幕数据写入到图像平面8(图4的附加(L)的区域)中(S204c)。
例如是缩放倍率为1/1的情况,在例如如图22(c)的左侧图,在显示画面上全画面显示视频数据时,将对应的大小的字幕数据写入到图像平面8中。
图23(a)是用来说明图42所示的步骤S806b的具体的一例的流程图。在图中,首先,使用图像解码器7b将右视野用的字幕流解码(步骤S201e)。
接着,判断缩放倍率是否不是“1”(步骤S202)。
在步骤S202中,在判断为缩放倍率不是“1”的情况下(在步骤S202中判断为“是”的情况下),将解码后的图像数据的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将进行了变换后的水平像素数、垂直像素数的图像数据写入到图像平面8(图4的附加(R)的区域)中,以使其显示在显示画面的规定的位置上(步骤S203e)。
例如在缩放倍率是1/2的情况下,例如在如图22(b)右侧图那样使视频数据靠近显示画面的左上时,将字幕数据写入到图像平面中,以使字幕以对应的大小显示。在缩放倍率是1/4的情况下,例如在如图22(a)右侧图那样使视频数据靠近显示画面的左上时,将字幕数据写入到图像平面中,以使字幕以对应的大小显示。
此外,在上述的说明中,变换为垂直像素数,将变换后的水平像素数、垂直像素数的视频数据写入到图像平面中,以使其显示在显示画面的规定的位置上,但也可以按照来自BD-J应用的指定来决定字幕数据的显示位置。
在上述的处理中,放大/缩小的处理只要采用公知的技术就可以。
接着,在步骤S202中,在判断为缩放倍率是“1”的情况下(在步骤S202中判断为“否”的情况下),使用图像解码器7b将右视野用的字幕流解码后的字幕数据写入到图像平面8(图4的附加(R)的区域)中(S204e)。
例如是缩放倍率为1/1的情况,意味着例如在如图22(c)的右侧所示,在显示画面上全画面显示视频数据时将对应的大小的字幕数据写入到图像平面8中。
图16(b)是用来说明图41所示的步骤S706b的具体的一例的流程图。在图中,首先,生成左视野用的交互图形数据(步骤S201d)。
左视野用的交互图形数据的生成只要按照包含在例如BD-J应用中的描绘程序生成就可以。更详细地讲,既可以按照程序代码通过计算来计算出各像素的值,也可以是将对应的左视野用的JPEG图形图像数据预先记录到能够经由虚拟文件***读取的虚拟的BD-ROM(BD-ROM100或本地存储装置1c)中并由BD-J应用读取该左视野用的JPEG图形图像数据的结构。此时,在将左视野用的JPEG图形图像数据编码并记录的情况下,只要在通过未图示的解码器或图像解码器7a解码后进行读取就可以。
接着,判断交互图形平面的缩放倍率是否不是“1”(步骤S202)。
接着,在步骤S202中,在判断为缩放倍率不是“1”的情况下(在步骤S202中判断为“是”的情况下),将所生成的交互图形数据的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将交互图形数据写入到交互图形平面10(图4的附加(L)的区域)中,以使变换后的水平像素数、垂直像素数的交互图形数据显示在显示画面的规定的位置上(步骤S203d)。
例如在缩放倍率是1/2的情况下,将对应于GUI零件的图形数据缩小到1/2而写入到交互图形平面中以进行显示,在缩放倍率是1/4将对应于GUI零件的图形数据缩小到1/4而写入到交互图形平面中以进行显示。
此外,在上述的说明中,既可以变换为垂直像素数,将变换后的水平像素数、垂直像素数的视频数据按照来自BD-J应用的指定决定交互图形数据的显示位置,也可以根据规定的缩小率来预先决定交互图形数据的显示位置。
此外,在上述的处理中,放大/缩小的处理只要采用公知的技术就可以。
此外,接着,在步骤S202中,在判断为缩放倍率是“1”的情况下(在步骤S202中判断为“否”的情况下),将生成的左视野用的交互图形数据写入到交互图形平面10(图4的附加(L)的区域)中(步骤S204d)。
例如作为缩放倍率为1/1的情况,对应于例如通过全画面显示显示交互图形数据的情况。
但是,如果是不考虑交互图形平面的缩放倍率(即,将交互图形平面的缩放倍率总设为1)的,则只要在步骤S201d之后进行步骤S204d,而将步骤S202、步骤S203d删除就可以,例如,在交互图形图像是对应于GUI零件的图形图像的情况下,在步骤S203d的处理中,也可以构成为,将交互图形数据写入到交互图形平面10(附加符号(L)的区域)中,以使得在显示画面中除了显示缩小的视频、字幕的合成图像的部分以外进行对应于GUI零件的交互图形图像的全画面显示。
具体而言,在图24(b)中,在缩放倍率为1/1、且字幕与视频合成图像显示为从左眼看到的图像的状态(图24(b)的左侧)下,如果受理了例如切换为菜单画面的输入,则如图24(b)所示,视频和字幕的合成图像的缩放倍率为1/2,显示在显示画面左上,并且对应于图形图像的GUI图像、导演评论等被写入到交互图形平面(附加符号(L)的区域)中,将写入在该交互图形平面(附加符号(L)的区域)中的图像再合成,成为左眼用的合成图像(参照图24(a)的左侧的图)。
图23(b)是用来说明图42所示的步骤S808b的具体的一例的流程图。在图中,首先,生成右视野用的交互图形数据(步骤S201f)。
右视野用的交互图形数据的生成只要按照例如包含在BD-J应用中的描绘程序生成就可以。更详细地讲,既可以按照程序代码通过计算来计算出各像素的值,也可以是将对应的右视野用的JPEG图形图像数据预先记录到能够经由虚拟文件***读取的虚拟的BD-ROM(BD-ROM100或本地存储装置1c)中并由BD-J应用读取该右视野用的JPEG图形图像数据的结构。此时,在将右视野用的JPEG图形图像数据编码而记录的情况下,只要在通过未图示的解码器或图像解码器7b解码后读取就可以。
接着,判断缩放倍率是否不是“1”(步骤S202)。在步骤S202中,在判断为缩放倍率不是“1”的情况下(在步骤S202中判断为“是”的情况下),将生成的交互图形数据的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将变换后的水平像素数、垂直像素数的交互图形数据写入到交互图形平面10(图4的附加(R)的区域)中,以显示在显示画面的规定的位置上(步骤S203f)。
例如在缩放倍率是1/2的情况下,将对应于GUI零件的图形数据缩小为1/2而写入到交互图形平面中以进行显示,在缩放倍率是1/4的情况下,将对应于GUI零件的图形数据缩小为1/4而写入到交互图形平面中以进行显示。
此外,在上述的说明中,既可以变换为垂直像素数、将变换后的水平像素数、垂直像素数的视频数据按照来自BD-J应用的指定来决定交互图形数据的显示位置,也可以根据规定的缩小率来预先决定交互图形数据的显示位置。
此外,在上述的处理中,放大/缩小的处理只要采用公知的技术就可以。
接着,在步骤S202中,在判断为缩放倍率是“1”的情况下(在步骤S202中判断为“否”的情况下),将生成的右视野用的交互图形数据写入到交互图形平面10(图4的附加(R)的区域)中(步骤S204f)。
例如作为缩放倍率为1/1的情况,例如对应于通过全画面显示显示交互图形数据的情况。
但是,如果是不考虑交互图形平面的缩放倍率(即,将交互图形平面的缩放倍率总设为1)的,则只要在步骤S201f之后进行步骤S204f,而将步骤S202、步骤S203f删除就可以。
例如,在交互图形图像是对应于GUI零件的图形图像的情况下,在步骤S203f的处理中,可以采用以下结构:将交互图形数据写入到交互图形平面10(附加符号(R)的区域)中,以使得在显示画面中除了显示缩小的视频、字幕的合成图像的部分以外,将对应于GUI零件的交互图形图像全画面显示。
具体而言,在图24(b)中,在缩放倍率为1/1、且字幕与视频合成图像显示为从右眼看到的图像的状态(图24(b)的右侧所示的图)下,如果受理了例如切换为菜单画面的输入,则如图24(b)所示,视频和字幕的合成图像的缩放倍率为1/2,显示在显示画面左上,并且对应于图形图像的GUI图像、导演评论等被写入到交互图形平面(附加符号(R)的区域)中,将写入在该交互图形平面(附加符号(R)的区域)中的图像再合成,成为右眼用的合成图像(参照图24(a)的右侧的图)。
图44(a)是用来说明图41所示的步骤S704a的具体的一例的流程图。
首先,使用图像解码器7a将左视野用的字幕流解码,输出字幕数据(步骤S406)。
在步骤S406中,说明了将左视野用的字幕流解码的结构,但在是作为字幕流而在左右的显示中共用相同的字幕流的结构的情况下,只要将在左右的显示中共用的字幕流读入就可以。
判断缩放倍率是否不是“1”(步骤S407)。该判断通过参照例如从BD-J平台22指定的缩放倍率并基于参照的值判断来实现。
在本实施方式中,只要参照在平面移位引擎20内保存在缩放倍率保存部42中的缩放倍率值就可以,但并不需要限定于此,也可以构成为,使得在缩放引擎15内具备保存从BD-J平台22指定的缩放倍率的缩放倍率保存部(未图示),也可以是,在平面移位引擎20内将缩放倍率保存部42设在再生装置内且平面移位引擎20的外侧,缩放引擎15、平面移位引擎20能够参照保存在设在再生装置内且平面移位引擎20的外侧的缩放倍率保存部42中的缩放倍率。
在步骤S407中判断为缩放倍率不是“1”的情况下(在步骤S407中判断为“是”的情况下),将解码后的字幕数据的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将变换后的水平像素数、垂直像素数的图像数据写入到图像平面8(图4的附加(L)的区域)中,以使其显示在显示画面的规定的位置上(步骤S408)。
例如在缩放倍率是1/2的情况下,在例如如图22(b)的左侧图那样使视频数据靠近显示画面的左上时,将字幕数据写入到图像平面中,以使字幕以对应的大小显示,在缩放倍率是1/4的情况下,在例如如图22(a)的左侧图那样使视频数据靠近显示画面的左上时,将字幕数据写入到图像平面中,以使字幕以对应的大小显示。此外,在上述的说明中,变换为垂直像素数,将变换后的水平像素数、垂直像素数的字幕数据写入到图像平面中以显示在显示画面的规定的位置上,但也可以按照来自BD-J应用的指定来决定字幕数据的显示位置。
此外,在上述的处理中,放大/缩小的处理只要采用公知的技术就可以。
接着,参照保存在平面移位引擎20的偏移值保存部41中的偏移值,参照在步骤S408中参照的缩放倍率,对保存在图像平面8(具体而言,在图4中附加(L)的区域)中的字幕数据进行左眼用的移位处理。这相当于使用与进行了运算(偏移保存部的值(偏移值)×缩放倍率)的结果(将小数点以下进位)相当的量的偏移值进行移位处理(步骤S409)。
接着,在步骤S407中,在判断为缩放倍率是“1”的情况下(在步骤S407中判断为“否”的情况下),将使用图像解码器7a将左视野用的字幕流解码后的字幕数据写入到图像平面8(图4的附加(L)的区域)中(步骤S410)。
例如是缩放倍率为1/1的情况,当如图22(c)的左侧所示那样在显示画面上将视频数据全画面显示时,将对应的大小的字幕数据写入到图像平面8(图4的附加(L)的区域)中。
接着,参照保存在平面移位引擎20的偏移值保存部41中的偏移值,对保存在图像平面8(具体而言,在图4中附加(L)的区域)中的字幕数据进行左眼用的移位处理。这因为缩放倍率是1,所以意味着在步骤S409的运算(偏移保存部的值(偏移值)×缩放倍率)中移位相当于缩放倍率的值是1的情况下的运算、即相当于偏移值的量(步骤S411)。
图44(b)是用来说明图42所示的步骤S806a的具体的一例的流程图。
首先,使用图像解码器7a将左视野用的字幕流解码,输出字幕数据(步骤S406)。
接着,判断缩放倍率是否不是“1”(步骤S407b)。
该判断通过参照例如从BD-J平台22指定的缩放倍率并基于参照的值判断来实现。
在本实施方式中,只要参照在平面移位引擎20内保存在缩放倍率保存部42中的缩放倍率值就可以,但并不需要限定于此,也可以构成为,在缩放引擎15内具备保存从BD-J平台22指定的缩放倍率的缩放倍率保存部(未图示),也可以是,在平面移位引擎20内将缩放倍率保存部42设在再生装置内且平面移位引擎20的外侧,缩放引擎15、平面移位引擎20能够参照保存在设在再生装置内且平面移位引擎20的外侧的缩放倍率保存部42中的缩放倍率。
在步骤S407b中,在判断为缩放倍率不是“1”的情况下(在步骤S407b中判断为“是”的情况下),将解码后的字幕数据的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将变换后的水平像素数、垂直像素数的图像数据写入到图像平面8(图4的附加(R)的区域)中,以使其显示在显示画面的规定的位置上(步骤S408b)。
例如在缩放倍率是1/2的情况下,例如在如图22(b)的右侧图那样将视频数据靠近显示画面的左上而显示时,将字幕数据写入到图像平面中,以用相同的大小显示字幕,在缩放倍率是1/4的情况下,例如在如图22(a)的右侧图那样将视频数据靠近显示画面的左上而显示时,将字幕数据写入到图像平面中,以用相同的大小显示字幕。此外,在上述的说明中,变换为垂直像素数,将变换后的水平像素数、垂直像素数的视频数据写入到图像平面中,以使其显示在显示画面的规定的位置上,但也可以按照来自BD-J应用的指定来决定字幕数据的显示位置。
此外,在上述的处理中,放大/缩小的处理只要采用公知的技术就可以。
接着,参照保存在平面移位引擎20的偏移值保存部41中的偏移值、在步骤S408b中参照的缩放倍率,对保存在图像平面8(具体而言,在图4中附加(R)的区域)中的字幕数据进行右眼用的移位处理。这相当于使用与进行了运算(偏移保存部的值(偏移值)×缩放倍率)的结果(将小数点以下进位)相当的量的偏移值进行移位处理(步骤S409b)。
此外,在步骤S407b中,在判断为缩放倍率是“1”的情况下(在步骤S407b中判断为“否”的情况下),将使用图像解码器7a将左视野用的字幕流解码后的字幕数据写入到图像平面8(图4的附加(R)的区域)中(步骤S410)。
例如在缩放倍率是1/1的情况下,在如图22(c)的右侧那样在显示画面上将视频数据全画面显示时,将对应的大小的字幕数据写入到图像平面8中。
接着,参照保存在平面移位引擎20的偏移值保存部41中的偏移值,对保存在图像平面8(具体而言,在图4中附加(R)的区域)中的字幕数据进行移位处理。这由于缩放倍率是1,所以相当于在步骤S409的运算(偏移保存部的值(偏移值)×缩放倍率)中缩放倍率的值是1的情况下的运算(步骤S411b)。
图25(a)是用来说明图41所示的步骤S706a的具体的一例的流程图。在图中,首先,生成左视野用的交互图形数据(步骤S421c)。左视野用的交互图形数据的生成在关于步骤S201d的说明中已经进行了说明,所以整理省略详细的说明。
但是,由于立体模式是OFF的状态,所以如果构成为:预先在对应于GUI零件的左视野用的JPEG图形图像数据以外,将对应于GUI零件的相同的JPEG图形图像数据共用为左视野用/右视野用的JPEG图形图像数据,则步骤S421成为将该共用的JPEG图形图像数据读入。
接着,判断缩放倍率是否不是“1”(步骤S422)。作为判断的具体例,在步骤S202的说明中已经进行了说明,所以这里省略详细的说明。
接着,在步骤S422中,在判断为缩放倍率不是“1”的情况下(在步骤S422中判断为“是”的情况下),将所生成的交互图形数据的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将变换后的水平像素数、垂直像素数的交互图形数据写入到交互图形平面10(图4的附加(L)的区域)中,以使其显示在显示画面的规定的位置上(步骤S423c)。
作为其具体例,在步骤S203d的说明中已经进行了说明,所以这里省略详细的说明。
参照保存在平面移位引擎20的偏移值保存部41中的偏移值、在步骤S423c中参照的缩放倍率,对保存在交互图形平面10(具体而言,在图4中附加(L)的区域)中的交互图形数据进行左眼用的移位处理。这相当于使用与进行了运算(偏移保存部的值(偏移值)×缩放倍率)的结果(将小数点以下进位)相当的量的偏移值进行移位处理(步骤S424c)。
接着,在步骤S422中,在判断为缩放倍率是“1”的情况下(在步骤S422中判断为“否”的情况下),将所生成的左视野用的交互图形数据写入到交互图形平面10(图4的附加(L)的区域)中(步骤S425c)。
参照保存在平面移位引擎20的偏移值保存部41中的偏移值,对保存在交互图形平面10(具体而言,在图4中附加(L)的区域)中的交互图形数据进行左眼用的移位处理。这由于缩放倍率是1,所以进行在步骤S424c的运算(偏移保存部的值(偏移值)×缩放倍率)中相当于缩放倍率的值是1的情况下的运算、即与偏移相应值的值的移位处理(步骤S426c)。
但是,如果是不考虑交互图形平面的缩放倍率(即,将交互图形平面的缩放倍率总设为1)的,则只要在步骤S421dc后进行步骤S425c,然后进行步骤S426c,而将步骤S422c、步骤S423c、步骤S424c删除就可以。
例如,在交互图形图像是对应于GUI零件的图形图像的情况下,可以采用以下结构:在步骤S203d的处理中,将交互图形数据写入到交互图形平面10(附加符号(L)的区域)中,以在显示画面中在显示缩小的视频、字幕的合成图像的部分以外,进行对应于GUI零件的交互图形图像的全画面显示。
具体而言,在图24(b)中,如果在缩放倍率是1/1、且字幕和视频合成图像显示为从左眼看到的图像的状态(图24(b)的左侧)下受理例如切换为菜单画面的输入,则如图24(b)的左侧所示,视频与字幕的合成图像的缩放倍率成为1/2,被显示在显示画面左上,并且对应于图形图像的GUI图像、导演评论等被写入到交互图形平面(附加符号(L)的区域)中,将写入在该交互图形平面(附加符号(L)的区域)中的图像再合成,成为左眼用的合成图像(参照图24(a)的左侧的图)。
图25(b)是用来说明图42中的步骤S808a的具体的处理的一例的流程图。在图中,与在用于步骤S706a的具体的动作的一例的说明的图中赋予的标号相同的标号是相同或相当的部分,所以这里省略详细的说明。即,S421c、步骤422的说明在这里省略。
接着,在步骤S422中,在判断为缩放倍率不是“1”的情况下(在步骤S422中判断为“是”的情况下),将所生成的交互图形数据的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将变换后的水平像素数、垂直像素数的交互图形数据写入到交互图形平面10(图4的附加(R)的区域)中,以使其显示在显示画面的规定的位置上(步骤S423d)。
接着,参照保存在平面移位引擎20的偏移值保存部41中的偏移值、在步骤S408中参照的缩放倍率,对保存在交互图形平面10(具体而言,在图4中附加(R)的区域)中的交互图形数据进行右眼用的移位处理。这相当于使用与进行了运算(偏移保存部的值(偏移值)×缩放倍率)的结果(将小数点以下进位)相当的量的偏移值进行移位处理(步骤S424d)。
此外,接着在步骤S422中,在判断为缩放倍率是“1”的情况下(在步骤S422中判断为“否”的情况下),将所生成的左视野用的交互图形数据写入到交互图形平面10(图4的附加(R)的区域)中(步骤S425d)。
接着,参照保存在平面移位引擎20的偏移值保存部41中的偏移值,对保存在交互图形平面10(具体而言,在图4中附加(R)的区域)中的交互图形数据进行右眼用的移位处理。这由于缩放倍率是1,所以相当于使用相当于在步骤S424c的运算(偏移保存部的值(偏移值)×缩放倍率)中缩放倍率的值是1的情况下的运算,即相当于进行相当于偏移值的量的移位处理(步骤S426d)。
以上的流程图中,每当显示时进行移动量的计算,但在通过应用进行了缩放的情况下,在其调用时,将平面偏移E更新并将偏移值保存部中的平面偏移替换为新的值,这能够减少用于移位量计算的计算次数,是更合理的。
为了能够进行这样的处理,需要在再生装置的BD-J平台22中具备缩放API。缩放API例如通过从应用指定自变量而被调用,作为自变量而例如指定缩放倍率。
如果从应用以缩放倍率为自变量调用缩放API,则BD-J平台22例如将保存在缩放倍率保存部中的缩放倍率更新。
此外,通过进行上述那样的安装,即使在输出处理的过程中缩放命令到来,也不立即进行基于缩放倍率的更新的处理,能够保障右眼和左眼的错移幅度必定同步。
(第2实施方式)
在本实施方式中,说明以下变形例,即:不是如第1实施方式那样使字幕数据、交互图形数据的流追随于视频流的进深,而是通过使视频流追随于字幕·GUI的进深,从而减轻带有字幕的视频的缩放时的带来的视听者的眼睛的疲劳度。
在缩放中,为了使得字幕或图形与运动图像的位置关系不会变得奇怪,在执行视频平面的平面移位时,必须考虑图形平面的平面偏移是怎样的值而计算用于视频平面的平面偏移。
为了实现这样的结构,在本实施方式中,例如设为能够将存储在显示模式存储部29中的图像平面设定的偏移值读入并将该偏移值用于视频的偏移的结构,以及设为平面移位引擎20利用保存在视频平面6中的视频数据进行右眼用的移位处理、左眼用的移位处理。
进而,在图4中,需要对平面移位引擎20追加计算该视频平面用的平面偏移的构成要素。在图46中表示追加了该构成要素的平面移位引擎20的内部结构。
在第1实施方式中,将保存在偏移保存部中的平面偏移称作“平面偏移D”,将为了缩放而计算的平面偏移称作平面偏移E,在本实施方式中,将为了视频平面的平面移位而使用的实参数称作“平面偏移V”。
图46是表示第2实施方式的再生装置的平面移位引擎20的内部结构的模块图。可知第1实施方式所示的图24的平面移位引擎20的内部结构中追加了视频平面偏移运算部45。
视频平面偏移运算部45是计算带有字幕的视频的缩放时的视频平面的平面偏移V的模组。
第1实施方式中的平面移位仅是对图形平面的移位,在本实施方式中,视频平面也成为平面移位的对象,所以需要用于视频平面的平面移位的处理顺序。并且,图47的流程图表示考虑到图像平面的平面偏移的、视频平面的平面偏移的处理顺序。
图47(a)是用来说明图41所示的步骤S702的具体的一例的流程图。
在图中,赋予了与对图43(a)赋予的标号相同的标号的部分是相同或相当的部分,所以这里省略重复的说明。
在步骤S202中,在判断为缩放倍率不是“1”的情况下(在步骤S202中判断为“是”的情况下),进行步骤S203。
接着,使用图像平面用的平面偏移D执行以下的数式的计算,计算出视频平面用的像素的平面偏移V。
(数式)
视频平面用的像素的平面偏移V=Ceil(D-(缩放倍率×D))
并且,基于通过上述数式得到的视频平面的平面偏移V,进行左眼用的视频的移位处理(步骤S205e)。
关于移位处理,在使用图30或图31的说明中将交互图形平面或图像平面替换为视频平面,并将偏移E替换为偏移V就可以。
此外,接着在步骤S202中判断为缩放倍率是“1”的情况下(在步骤S202中判断为“否”的情况下),进行步骤S204。
由于缩放倍率是“1”,所以在上述数式中,如果在缩放倍率中代入“1”,则偏移V是0,所以在缩放倍率是“1”的情况下不进行视频的偏移处理。
图47(b)是用来说明图42所示的步骤S804a的具体的一例的流程图。
在图中,赋予了对图43(a)、图47(a)赋予的标号相同的标号的部分是相同或相当的部分,所以这里省略重复的说明。
在步骤S202中判断为缩放倍率不是“1”的情况下(在步骤S202中判断为“是”的情况下),将解码后的视频数据的水平像素数(显示画面的水平方向的像素数)及垂直像素数(显示画面的垂直方向的像素数)变换为对应于缩放倍率的水平像素数、垂直像素数(即放大/缩小处理),将变换后的水平像素数、垂直像素数的视频数据写入到视频平面6(附加符号(R)的区域)中,以使其显示在显示画面的规定的位置上(步骤S203f)。
接着,使用图像平面用的平面偏移D执行以下的数式的计算,计算出视频平面用的平面偏移V。
(数式)
视频平面用的平面偏移V=Ceil(D-(缩放倍率×D))
并且,基于通过上述数式得到的视频平面的平面偏移V,进行右眼用的视频的移位处理(步骤S205f)。
此外,接着在步骤S202中判断为缩放倍率是“1”的情况下(在步骤S202中判断为“否”的情况下),将使用视频解码器5a将左视野用的视频流解码后的视频数据写入到视频平面6(附加符号(R)的区域)中(S204f)。
图45是说明步骤图42所示的步骤S804b的一例的流程图。在图中,与对图43(b)赋予的标号相同的标号的部分是相同或相当的部分,所以这里省略重复的说明。
在图中,在步骤S202b中判断为缩放倍率不是“1”的情况下(在步骤S202b中判断为“是”的情况下),执行步骤203b。
接着,使用图像平面用的平面偏移D执行以下的数式的计算,计算出视频平面用的平面偏移V。
(数式)
视频平面用的平面偏移V=Ceil(D-(缩放倍率×D))
并且,基于通过上述数式得到的视频平面的平面偏移V,进行右眼用的视频的移位处理(步骤S205g)。
此外,接着在步骤S202b中判断为缩放倍率是“1”的情况下(在步骤S202b中判断为“否”的情况下),执行步骤S204b。
通过这样在右眼用处理、左眼用处理中对视频平面赋予偏移,即使不一定进行图像平面、交互图形平面的移位处理也可以,所以即使不对应于视频的缩放而改变图像平面、交互图形平面的偏移,也能够改变视频的偏移,所以能够使视频流追随于字幕·GUI的进深,能够减轻带有字幕的视频的缩放时带来的视听者的眼睛的疲劳度。
上述的处理并不是指在右眼用处理、左眼用处理中在对视频平面赋予偏移时不进行图像平面、交互图形平面的移位处理。
在上述那样的流程图中,由于计算平面偏移用于视频平面,所以在本实施方式中,在视频平面及图像平面的两者中执行平面移位。这里,对于在对图形平面执行了平面移位的情况以及对视频平面及图形平面执行了平面移位的情况下字幕和运动图像的两者的位置关系怎样变化,参照图48具体地说明。
对采用视频平面及图形平面的双方移位的状况进行说明。
图48(a)表示意在使进行了缩放的运动图像及图形中的图形的坐标移动规定的像素数的状况。这表示不进行本实施方式而进行了缩放的情况下的输出画面。在本图中,由于平面偏移被设定为-40,所以可知各像素的坐标在左视野时如9RR所示那样向右方向移动40像素、在右视野时如9LL所示那样向左方向移动40像素。
如果在实施了缩放的视频之上将具有与缩放前同样的移位幅度(40像素)的字幕合成到运动图像中,则在与缩放前的影像比较的情况下,字幕的位置大幅地偏差,不能保持视频与字幕的结构。这样有可能因立体感的差异变大而看不清楚。
所以,平面偏移运算部43进行上述的计算,计算视频平面的移位量。
假设具体的平面偏移是-40像素、缩放倍率是1/2。如果将它们应用到上述数式中而计算视频平面的移位量,则通过以下的计算,计算出视频平面的平面偏移为“-20”。
V=D-(缩放倍率×D)=-40-(1/2×-40)=-20
对于视频平面,计算出作为用于视频平面的实参数的平面偏移V为-20,所以视频平面的各像素的坐标在左视野时向右方向移动20像素,在右视野时向左方向移动20像素。在对运动图像及图形实施了缩放的情况下,将实施了缩放的视频移位20像素,在其上合成移位了40像素的字幕。
视频平面与图形平面的相对的变化量在左视野的情况下为向右方向20像素,在右视野的情况下为向左方向20像素,所以与图48(a)相比,将视频平面与图形平面的坐标的变化量抑制得较小。
通过这样,在图48(b)中,可知缩放后的输出影像的14LL和14RR保持缩放前的视频与字幕的结构比率。由此,防止立体感的差异变大,减轻眼睛的疲劳,并且能够进行更自然的显示。
以上,根据本实施方式,能够通过平面移位防止随着视频被缩小而左眼与右眼的视差自然收缩造成的进深感的减轻。
(第3实施方式)
本实施方式是第1实施方式的扩展例。在进行了缩放的情况下,如果放大/缩小率较高,则进深的变更也在缩放前后剧烈地不同。在第1实施方式中,在进行了缩放时,在缩放请求后的下个帧中反映对应于缩放倍率的进深变更。如果影像的进深突然剧烈地不同,则带来用户的眼睛的疲劳。在本实施方式中,说明以下变形,即:在有缩放请求时不是在下个帧中一次将进深也变更,而是通过使进深一点点变更,以减轻用户的眼睛的疲劳为目的。
为了使进深一点点变更,需要将初始的平面偏移和最终的平面偏移的两者作为平面偏移保存在平面移位引擎20内,需要在进深变更处理的途中再计算中途阶段的平面偏移。如果施加了这些变更,则平面移位引擎20的内部结构成为图49所示那样。
图49是表示第3实施方式的再生装置的平面移位引擎20的内部结构的模块图。公开了在第1实施方式所示的图4的平面移位引擎20的内部结构的基础上还在平面偏移值保存部41中包括前信息保存部41a和后信息保存部41b的结构。此外,还追加了帧计数部46,在帧计数部46中,追加了帧更新跨度保存部46a和已更新帧数保存部46b。以下,对在本实施方式中新追加的构成要素进行说明。
(前信息保存部41a)
前信息保存部41a将从偏移设定部21指示的平面偏移D作为缩放前的平面偏移保存。
(后信息保存部41b)
后信息保存部41b保持缩放完成后的平面偏移E、即对平面偏移D乘以缩放倍率而得到的值。此外,在偏移值保存部中更新了对平面偏移D乘以缩放倍率的值的情况下,将更新后的偏移保存到后信息保存部41b中。
在发出了缩放命令(例如从BD-J应用通过缩放命令将视频、字幕缩小显示的情况下等)时,将缩放倍率保存部42的值更新后,作为上述更新的定时。
(平面偏移运算部43)
平面偏移运算部43将由保存在前信息保存部41a中的平面偏移表示的平面偏移D以及保存在后信息保存部41b中的平面偏移E分别变换为像素坐标。并且,计算这两个像素坐标的差,得到在缩放时需要的平面偏移,用已更新帧数保存部46b的值除以帧更新跨度保存部46a的值。
并且,用已更新帧数保存部46b的已更新帧数除以帧更新跨度保存部46a的帧更新跨度,对除后的值最终乘以上述运算的平面偏移。
在第1实施方式中,将从偏移设定部21提供的平面偏移称作“平面偏移D”,将根据缩放计算出的平面偏移称作“平面偏移E”,但在本实施方式中,将在帧i经过的时刻为了图像平面的移位而使用的平面偏移称作平面偏移P(i)。
在帧(i)的平面偏移P(i)的计算中,使用以下这样的数式。
(数式)
“平面偏移P(i)=(缩放完成前的平面偏移D-缩放完成后的平面偏移)×(已更新帧数i÷帧更新跨度)”。
此外,在平面偏移P(i)为小数点以下的数字的情况下,设为将小数点第1位的值进位而得到的整数值。
(移位部44)
移位部44在进行右眼用的处理的情况下,在向画面的近侧跃出的情况下向左移位,在向里侧拉入的情况下向右移位。在进行左眼用的处理的情况下,在向画面的近侧跃出的情况下向右移位,在向里侧拉入的情况下向左移位。
(帧计数部46)
帧计数部46兼具备在缩放请求后从以帧为单位保存在前信息保存部41a中的值接近后信息保存部41b的功能。
具体而言,帧计数部46具备保持有表示使用多少帧从保存在前信息保存部41a中的值接近后信息保存部41b的帧更新跨度的帧更新跨度保存部46a以及保存在缩放请求后进行了几次帧处理的已更新帧数保存部46b。
帧更新跨度保存部46a的值是由再生装置的制造商设定在再生装置中的值,不会被更新。
在已更新帧数保存部46b比帧更新跨度保存部46a的值低的情况下,将已更新帧数保存部46b的值增加1。
以上是对平面移位引擎的内部结构的说明。接着,对有关第3实施方式的平面移位引擎的内部结构进行说明。
已更新帧数随着作为再生对象的视频帧的变化而被更新,所以为了将本实施方式的处理安装到再生装置中,必须对第1实施方式所示的3DAV流的再生处理的处理顺序追加关于已更新帧数的处理。在这样的关于已更新帧数的处理中,有将已更新帧数复位的处理、将已更新帧数增加的处理。如果追加了这些关于已更新帧数的处理,则3DAV流的3D显示的处理顺序为图50那样。
图50是表示3DAV流的3D显示的处理顺序的流程图。
在图50中,作为相对于图40的变更点,请关注追加了步骤S611到步骤S614。
本图的赋予了与对图40赋予的标号相同的标号的部分是与图40相同或相当的部分。
本流程图是执行包括步骤S602、S603、S613、S614、S615、S616、S617及S606的步骤的流程图。
在上述的步骤中,将依次执行左眼用处理(步骤S602)、右眼用处理(步骤S603)的处理持续进行直到帧输出终止(步骤S606中否)。在本循环的左眼用处理中,使图像平面的各像素的坐标移动对应于帧i的像素的移位量P(i)。此外,在右眼用处理中,使图像平面中的各像素的坐标移动对应于帧i的像素的移位量P(i)。此时,对应于左眼用处理的移位量P(i)以及对应于右眼用处理的移位量P(i)的大小相同,但移位的方向相互不同。
首先,将已更新帧数i设置为0(步骤S617)。
接着,进行左眼用处理(步骤S602)。
此时,在左眼用处理中,在图像平面偏移(移位量)的计算中,采用使用后述的缩放前的平面偏移D、缩放完成后的平面偏移E、已更新帧数的数i、更新跨度计算出的P(i)。
接着,进行右眼用处理(步骤S603)
此时,在右眼用处理中,在图像平面偏移(移位量)的计算中使用上述的P(i)。
步骤S613判断已更新帧数i是否比帧更新跨度小,如果小,则在步骤S614中将已更新帧i增加。如果相等或大(即在步骤S613中判断为否的情况下)。
前进至步骤S606。
在步骤S606中,判断是否有下一帧。
在没有下一帧的情况下,即在步骤S606中,在判断为否的情况下,结束3DAV流的3D显示的处理。
在没有下一帧的情况下,即在步骤S606中判断为是的情况下,在步骤S602、S603的处理中,使用已更新帧数再次计算P(i)。
已更新帧数i在达到更新跨度以前,每当步骤S613的判断时增加1,在达到更新跨度以后不执行步骤S614,所以在已更新帧数i达到更新跨度以后,其值成为一定。
已更新帧i随着视频流的再生进行而被更新,随之平面偏移E也被更新,所以本实施方式的平面移位需要每当已更新帧数被更新时执行。图51的流程图表示随着该已更新帧数的更新而重新进行平面偏移的计算,并且基于再计算的平面偏移执行平台的顺序。
图51是表示图像平面的平面移位的处理顺序的流程图。
在图51中,图像平面的平面移位的处理顺序由于左眼用的移位处理、右眼用的移位处理相互共通的部分较多,所以使用共通的流程图进行说明。但是,在进行左眼用的移位处理的情况下,保存在图像平面的附加符号(L)的区域中的字幕数据为移位处理的对象,在进行右眼用的移位处理的情况下,保存在图像平面的附加符号(R)的区域中的字幕数据为移位处理的对象。
取得图像平面,将解码后的图像写入到图像平面中(步骤S901)。
并且,通过以下的计算,计算帧i的平面偏移P(i)。
平面偏移P(i)为
平面偏移P(i)=(缩放完成前的平面偏移D-缩放完成后的平面偏移E)×(已更新帧i÷帧更新跨度)
基于这样计算出的平面偏移P(i),将图像平面的像素坐标移位(步骤S904)。但是,步骤S904在进行左眼用的移位处理时移位的方向、与进行右眼用的移位处理时移位的方向为相互反向。
每当执行一次图51的循环,就在步骤S809中增加已更新帧i,基于该已更新帧i计算平面偏移P(i),所以可知已更新帧i越大、平面偏移P(i)越大地变化。并且,可知如果已更新帧i到达帧更新跨度,则已更新帧i复位为“0”。
如上所述,可知已更新帧i随着视频流的再生进行而被更新,随之平面偏移P(i)也被更新。图52表示该已更新帧数及平面偏移P(i)的时间的变动。以下,一边结合图52的具体例,一边对平面偏移P(i)的时间的变位进行说明。
图52表示在已更新帧i被更新为“1”、“2”、“3”的情况下平面偏移P(i)怎样变化。在本图中,沿右斜向描绘时间轴,在该时间轴上记述有帧0、1、2、3。并且,该帧0、1、2、3的图像平面的内容描绘在该时间轴上。
各帧上的数式表示当用来识别帧0、1、2、3的已更新帧i取“1”、“2”、“3”的值时平面偏移P(i)为怎样的值。
在该具体例中,假设-40和-20的值保存在前信息保存部和后信息保存部中。-40是平面偏移D,-20是施加了平面偏移的像素变更运算后的平面偏移P(i)。在本例中,为跨3帧来逐渐变更进深的设定,在帧更新跨度保存部46a中保存有“3”的值。在已更新帧数保存部46b中保存有“1”。表示在缩放命令后正在进行第1帧的处理。该保存值随着帧的经过而被增加为“2”、“3”。并且,由于从缩放命令有缩放倍率是“1/2”的请求,所以在缩放倍率保存部41中设定有1/2的值。
在该具体例中,根据平面移位引擎的信息、前信息保存部与后信息保存部的差可知,需要用3帧移动-20像素。
(帧1)
在帧1中,如果将已更新帧i=“1”应用到上述数式中,则已更新帧i÷帧更新跨度为“1/3”,帧P(i)的像素平面偏移P(1)通过(-40-(1/2×-40)×1/3)的计算,计算为“-7”。因而,在帧1中,在左视野时,图像平面向右方向移位7像素,在右视野时图像平面向左方向移位7像素。
(帧2)
在帧2中,如果将已更新帧i=“2”应用到上述数式中,则已更新帧i÷帧更新跨度为“2/3”,帧P(i)的平面偏移P(2)通过(-40-(1/2×-40)×2/3)的计算,计算为“-14”。因而,在帧2中,在左视野时图像平面向右方向移位14像素,在右视野时图像平面向左方向移位14像素。
(帧3)
在帧3中,如果将已更新帧i=“3”应用到上述数式中,则已更新帧i÷帧更新跨度为“3/3”,帧P(i)的平面偏移P(3)通过(-40-(1/2×-40)×3/3)的计算,计算为“-20”。因而,在帧3中,在左视野时图像平面向右方向移位20像素,在右视野时图像平面向左方向移位20像素。
在该具体例中,在各帧中移动对应于-20像素的1/3的移位数(7像素),在第3帧中进行-20像素移位,在第4帧以后维持第3帧的移位数,而状态持续。该持续被维持,直到在步骤S606中判断为没有下一帧。
以上,根据本实施方式,不是急剧地改变缩放时的字幕的进深变换,而使进深一点点变更,由此能够减轻用户的眼睛的疲劳。
(第4实施方式)
平面移位引擎20进行平面移位时的移位量需要基于用于立体视的某些参数来计算。为了计算该移位量,优选在参数中采用装入在MVC(Multi View Codec)视频流中的立体视用的平面偏移。但是,并不限定于此,优选内容提供商能够通过经由BD-ROM对再生装置提供的各种信息要素,向平面移位引擎20提供。
参照图53对平面偏移的设定处理进行说明。
图53表示关于平面偏移的设定的部分的结构。
在平面偏移的提供方式中,有以下的(AA)~(FF)的变形。
(AA)BD-J应用可以通过setOffsetValue的方法调用,将显示模式存储部29内的平面设定的平面偏移更新。
上述平面偏移可以通过BD-J应用由getOffsetValue方法取得。
在BD-J应用调用API而装入平面偏移的情况下,自由度较高,实时性较差。在平面移位引擎利用由BD-J应用指定的偏移的情况下,将从BD-J应用指定的平面偏移保存到显示模式存储部29(例如图像平面设定中的平面偏移、交互图形平面设定中的平面偏移)中,由偏移设定部21读出,设定在平面移位引擎20内的偏移值保存部41中。由平面移位引擎进行的向水平方向的移位根据平面偏移在合成时自动地进行。
对设定的时期进行说明。
变更图像平面8及交互图形平面10的进深的API如果是应用启动后,则什么时候都能够从启动的应用调用,除此以外也有可能在例如视频的停止中调用。但是,通过控制将显示模式存储部29内的平面偏移保存到平面移位引擎20中的定时,能够保障图形平面的错移幅度必定同步。
具体而言,BD-J应用不是在调用setOffset()的定时将平面移位引擎20的平面偏移更新,而在1帧量的左视野和右视野的两者的输出完成的时刻确认显示模式存储部29内的平面偏移是否被更新,随之将平面移位引擎20的偏移更新。通过这样,能够保障图形平面的错移幅度必定同步。不言而喻,在左视野及右视野的错移幅度没有同步的情况下,成为内容制作者不想要的显示,给视听者带来不愉快的输出影像。
(BB)在装载了BD-ROM时,或者在装载BD-ROM或构建了虚拟包时,从保存在由BD-ROM或虚拟包确定的META目录中的元文件(ZZZZZ.xml)中读出平面偏移,并将平面移位引擎20的平面偏移更新。
(CC)当开始MVC视频流的读出及解码时,将装入在构成MVC视频流的各PES包的头区域中的平面偏移作为平面移位引擎20的平面偏移设定在读缓冲器28内。优选的是,在1帧量的左视野和右视野两者的输出完成的时刻,将与当前处理中的帧对应的偏移作为平面移位引擎20的平面偏移设定在读缓冲器28内。
在将平面偏移装入到MVC视频流中的情况下,能够根据流方便地错移,所以实时性较高,但编辑时的工作量较大。
(DD)当开始传输流的读出及解码时,将装入在传输流包的头区域中的偏移更新为平面移位引擎20的平面偏移。优选的是,在1帧的左视野和右视野的两者的输出完成的时刻,将与当前处理中的帧对应的平面偏移作为平面移位引擎20的平面偏移设定到读缓冲器28内。
在装入到流内的情况下,能够根据流方便地错移,所以实时性较高,但编辑时的工作量较大。
(EE)当决定当前播放列表并装载了播放列表信息时,将该播放列表信息的偏移作为平面偏移设定到平面移位引擎20内。在使用播放列表信息的情况下,编辑中的自由较高,但与在流中植入偏移的情况相比,不能使从一次设定偏移到再次更新偏移的偏移更新的时间间隔非常短,实时性稍差。
(FF)UO检测模组26在通过遥控器或附属于设备的按钮等的操作受理了变更图像平面8及交互图形平面的进深的水平的用户操作的情况下,即在受理了进深感为“远”、“普通”、“近”等3个水平的情况下、或如进深感为“几cm”、“几mm”那样通过数值输入受理了进深感的水平的情况下,能够使用这些将平面移位引擎20的平面偏移更新。通过该更新,能够对应于遥控器的右箭头键的按下而使平面偏移变大、或对应于左箭头键使平面偏移变小。通过这样,能够通过右箭头键、左箭头键的按下次数来使图形看起来在近侧或看起来在里侧,操作性提高。
图像平面8及交互图形平面10的移位量可以通过经过以上的过程,基于平面移位引擎20的平面偏移进行计算处理来得到。
在MVC视频流内装入有平面偏移的情况下,平面偏移运算部43在与1帧对应的左视野用的输出和右视野用的输出完成的时刻,基于保存在平面移位引擎20内的平面偏移计算图形平面的移位量。这是因为,在平面偏移保存在MVC视频流中的情况下,也有可能有按照帧而平面偏移变化。
以上是对设定平面偏移的各种情况的说明。接着,对通过用户操作或应用提供的值进行说明。
有时,由用户操作或应用提供的值也有不是移位量本身,而例如给出相对于设定在现状平面移位引擎20中的值的调整值的情况。在此情况下,执行平面偏移计算。例如,如果将右箭头键按下3次、或输入数值键的“3”的值,则对设定在装置内的平面偏移加上该值,平面移位引擎20基于相加后的值计算平面偏移。可以考虑,如果是“+”的值,则例如缩小错移幅度,使其看起来更靠里侧,如果是“-”的值,则例如增加错移幅度,使其看起来更靠近侧。
接着,对进深的变更进行说明。
如上所述,在将字幕、GUI等的图形沿横轴移位时,通过变更字幕、GUI等的图形的横轴的错移幅度,进深变更。例如,越使左视野字幕和右视野字幕沿一定方向接近,越接近于画面进行显示,越向反方向离开,越能够得到远离画面的视觉效果。但是,平面偏移与跃出程度的相关性受电视机的英寸数、3D眼镜的液晶的特性影响较大,所以在该视觉效果的实现时,预先在终端内设定系数,将对平面偏移乘以该系数而得到的值用于移位。通过这样乘以系数,能够基于电视机及再生装置、3D眼镜的特性来调节立体视影像的跃出程度。
(第5实施方式)
在本实施方式中,说明将在到目前为止的实施方式中叙述的再生装置使用怎样的硬件构成。
图54是表示再生装置的内部结构的图。在本图中构成再生装置的主要的零件是前端部101、***LSI102、存储器设备103、后端部104、非易失性存储器105、微型计算机106、网络I/F107。
前端部101是数据输入源。前端部101包括例如前图所示的BD驱动器1a、本地存储装置1c。
***LSI102由逻辑元件构成,形成再生装置核心。至少多路分离器4、视频解码器5a、5b、图像解码器7a、7b、音频解码器9、再生状态/设定寄存器(PSR)组12、再生控制引擎14、合成部15、平面移位引擎20等构成要素装入在该***LSI的内部。
存储器设备103由SDRAM等的存储器元件的阵列构成。存储器设备107包括例如读缓冲器2a、读缓冲器2b、动态脚本存储器23、静态脚本存储器13、图形平面6、8、视频平面10、背景平面11。
后端部104是再生装置内部与其他装置的连接接口,包括HDMI收发部17。
非易失性存储器105是可读写的记录媒体,是即使不提供电源也能够保持记录内容的媒体,用于存储在后述的显示模式存储部29中的显示模式的备份。在该非易失性存储器105中,可以使用例如闪存、FeRAM等。
微型计算机106是由ROM、RAM、CPU构成的微型计算机***,在ROM中记录有控制再生装置的程序,ROM内的程序被CPU读入,程序与硬件资源协同,从而实现HDMV模组24、BD-J平台22、模式管理模组24、UO检测模组26、再生控制引擎14的功能。
以下,对***LSI进行说明。所谓***LSI,是指在高密度基板上安装裸芯片并封装的集成电路。通过将多个裸芯片安装到高密度基板上并封装,使多个裸芯片具有宛如1个LSI那样的外形构造的结构也包含在***LSI中(这样的***LSI称作多芯片模组)。
这里,着眼于封装的种类,则在***LSI中,有QFP(方型扁平式阵列)、PGA(引脚网格阵列)的种类。QFP是在封装的四侧面安装有引脚的***LSI。PGA是底面整体上安装有许多引脚的***LSI。
这些引脚担负着作为与其他电路的接口的作用。在***LSI的引脚中,存在这样的接口的作用,所以通过在***LSI的这些引脚上连接其他电路,***LSI起到作为再生装置200的核心的作用。
该***LSI不仅能够装入到再生装置200,而且能够装入到TV或游戏机、个人计算机、单波段便携设备等处理影像再生的各种设备中,能够大幅地扩大本发明的用途。
***LSI的架构优选的是依据Uniphier架构。
依据Uniphier架构的***LSI由以下的电路模块构成。
·数据并行处理器DPP
它是多个要素处理器进行相同动作的SIMD型处理器,通过使内置在各要素处理器中的运算器在1个命令下同时动作,实现对构成图片的多个像素的解码处理的并行化。
·命令并行处理器IPP
它通过由命令RAM、命令高速缓冲器、数据RAM、数据高速缓冲器构成的“Local Memory Controller(本地存储器控制器)”、由命令取出部、解码器、执行单元、寄存器文件构成的“Processing Unit(处理单元)部”以及使Processing Unit部进行应用的并行执行的“Virtual Multi Processor Unit(虚拟多处理单元)部”构成。
·MPU模块
它由ARM核心、外部总线接口(Bus Control Unit:BCU)、DMA控制器、定时器、矢量中断控制器等周边电路、UART、GPIO(General Purpose Input Output)、同步串行接口等的周边接口构成。
·流I/O模块
它与经由USB接口或ATA Packet接口连接在外部总线上的驱动器装置、硬盘驱动器装置、SD存储器卡驱动器装置进行数据输入输出。
·AVI/O模块
它由音频I/O、视频I/O、OSD控制器构成,进行与电视机、AV放大器的数据输入输出。
·存储器控制模块
它是实现经由外部总线连接的SD-RAM的读写的模块,由控制各模块间的内部连接的内部总线连接部、进行与连接在***LSI外部的SD-RAM的数据转送的访问控制部、调节来自各模块的SD-RAM的访问请求的访问调度部构成。
具体的生产顺序的详细情况如下。首先,基于在各实施方式中表示的结构图,制作应作为***LSI的部分的电路图,使用电路元件及IC、LSI具体实现结构图中的构成要素。
如果这样将各构成要素具体实现,则规定将电路元件及IC、LSI间连接的总线及其周边电路、与外部的接口等。进而,也预先规定连接线、电源线、地线、时钟信号线等。在该规定时,考虑LSI的规格而调节各构成要素的动作定时,或对各构成要素施加保证需要的带宽等的调节而完成电路图。
如果电路图完成,则进行安装设计。所谓安装设计,是决定将通过电路设计制作的电路图上的零件(电路元件或IC、LSI)向基板上的哪里配置、或者将电路图上的连接线怎样配线到基板上的基板布局的形成作业。
如果这样进行安装设计并确定了基板上的布局,则将安装设计结果变换为CAM数据,输出给NC工作机械等的设备。NC工作机械基于该CAM数据进行SoC安装及SiP安装。所谓SoC(System on chip)安装,是将多个电路烧焊在1个芯片上的技术。所谓SiP(System in Package)安装,是将多个芯片用树脂等做成1个封装的技术。经过以上的过程,有关本发明的***LSI可以基于各实施方式所示的再生装置200的内部结构图制造。
另外,如上述那样生成的集成电路根据集成度的差异,也有称作IC、LSI、超级LSI、超大规模LSI的情况。
在使用FPGA实现***LSI的情况下,将许多逻辑元件以栅格状配置,通过基于记载在LUT(Look Up Table:查找表)中的输入输出的组合连接纵、横的配线,能够实现各实施方式所示的硬件结构。LUT存储在SRAM中,该SRAM的内容通过电源断开而消失,所以在该FPGA的利用时,需要将通过配置信息的定义来实现各实施方式所示的硬件结构的LUT写入到SRAM中。
本实施方式通过中间件和对应于***LSI的硬件、***LSI以外的硬件、对中间件的接口的部分、中间件与***LSI的接口的部分、向中间件和***LSI以外的需要的硬件的接口的部分、用户界面的部分实现,在装入它们而构成再生装置时,通过分别协同动作,提供特有的功能。
通过适当地定义对中间件的接口、以及中间件与***LSI的接口,能够分别独立地并行开发再生装置的用户界面部分、中间件部分、***LSI部分,能够更高效率低进行开发。另外,作为各个接口的形成方式,存在各种形成方式。
(备注)
以上,对在本申请的申请时刻、申请人能够知道的优选的实施方式进行了说明,但关于以下所示的技术课题能够加以进一步的改良及变更实施。需要注意的是,是如各实施方式所示那样实施、还是实施它们的改良、变更都是任意的,取决于实施的人的主观。
(维度识别标志的植入方式)
BD-ROM上存在识别再生对象的流是2D用还是3D用的维度识别标志,在第1实施方式中,在播放列表(PL)信息中植入了维度识别标志,但并不限定于此,只要是作为能够确定流主体和该流是2D用还是3D用的信息记录的信息,也可以以其他形式记录在BD-ROM上。
(视频平面6的物理的方式)
图4所示的视频平面6中包括的左眼用平面、右眼用平面例示了在物理上分离的存储器,但并不需要限定于此,例如也可以是在1个存储器内设置左眼用平面的区域、右眼用平面的区域并写入与该区域中对应的视频数据那样的结构。
(图像平面8的物理的方式)
图4所示的图像平面8中包括的左眼用平面、右眼用平面例示了在物理上分离的存储器,但并不需要限定于此,例如也可以是在1个存储器内设置左眼用平面的区域、右眼用平面的区域并写入与该区域对应的图像数据那样的结构。
(交互图形平面10的物理的方式)
在图4中,表示了交互图形平面10将左眼用的区域(附加符号(L)一方)和右眼用的区域(附加符号(R)一方)预先设置在1个平面存储器内的例子,但并不需要限定于此,例如也可以采用将交互图形平面10的左眼用的区域(附加符号(L)一方)、右眼用的区域(附加符号(R)一方)在物理上分离的结构。
(偏移调节的方法)
使用图7~8的说明以在立体模式是关闭的状态下不调节背景和视频的偏移(即偏移是0,更具体地讲是显示在显示画面的位置上)的例子为题材。这是为了使上述的说明变得简单。因而,不需要限定于上述的说明,例如也可以调节偏移而显示,以使得视频位于比图形图像(字幕)靠里侧、并且背景数据位于比视频靠里侧。
(背景平面11、图像平面8、交互图形平面应支持的分辨率)
在再生装置是3D显示模式的情况下,背景平面11、图像平面8、交互图形平面也可以除了2D显示模式的分辨率以外还支持1920×2160及1280×1440像素的分辨率。在此情况下,1920×2160或1280×1440像素的纵横比为16/18的纵横比,将上半部用于左眼用的区域,将下半部用于右眼用区域。
(设定平面偏移的对象)
平面偏移例如也可以具有图像平面用和交互图形平面用的两个移位量,根据进行平面移位的对象而区分使用这两个移位量。在再生装置不兼具备设定功能的情况下,默认指定“0”。在此情况下,将字幕、GUI等的图形显示在显示画面的位置上,没有从显示画面跃出那样的效果。
(从合成部进行的合成中排除)
在以2D静止图像数据、2D视频数据、2D图形数据(字幕数据)、2D交互图形的顺序合成时,如果视频数据是全画面显示,则2D静止图像数据也可以从合成处理中排除。
(显示模式存储部29中标志保持的变形)
显示模式存储部29的表示是2D显示模式还是3D显示模式的标志既可以由再生状态寄存器12保存,也可以由显示模式存储部29和再生状态寄存器12的两者保存。
(运算的表格化)
从平面偏移向像素坐标的变换算法可以考虑多种,但优选地使用依存于显示对象的显示器的尺寸及分辨率、或者显示对象的视频的尺寸的算法。
此外,设备资源缺乏的再生装置也可以不是通过变换算法的运算,而具有缩放对应表,根据该表从平面偏移向像素坐标变换。具体而言,将缩放倍率的倍率限定为几种模式,预先持有记述有对应于各缩放倍率的像素坐标的表。当被指定缩放倍率时,只要将对应的像素坐标返回给移位部28-D就可以。
作为平面偏移的具体的值,也可以设为50像素、30像素、25像素的3个等级的值。并且,关于缩放倍率,也可以设为2倍、1/2倍、1/4倍的3个等级的值。通过将平面偏移及缩放倍率限制在这些值中,运算算法变得简单,通过上述运算的表格化,能够使平面偏移运算部43的安装简单化。
(双重化)
在图的结构图中各具有一个视频解码器、视频平面、图像平面加法器,但也可以使各部分各具有两个而将左眼用的影像和右眼用的影像平行地处理。
(再利用)
在保存有实施了解码和缩放的图像平面的情况下,也可以将其再利用。但是,在再利用的情况下,需要将移位后的图像平面复原。
(2D的像素)
进而,在将2D视频流和该2D视频流的各帧的各画面像素的进深作为输入的方式的情况下,也可以从各帧的各画面像素的进深中提取最近侧的像素的进深而作为平面偏移使用。
(同步)
为了使左眼和右眼同步,也可以另外设置标志,仅在实施了左眼用的缩放处理的情况下进行右眼用的缩放处理。
(倍率的变形)
作为缩放倍率,也可以具体地指定缩放完成后的像素坐标。例如,也可以如横向的长度为1000、纵向的长度为250那样直接指定。
在缩放倍率是具体的Pixel(像素)数的情况下,优选的是计算缩放前与缩放后的横轴的比率,通过将其乘以图像偏移而得到新的图像偏移。
(显示的时期)
在本实施方式的结构中,也可以在接收到缩放命令后一点点变更进深,但也可以使字幕的显示成为无效,在经过一定的帧后一次用根据后信息保存部的值计算出的移位像素坐标显示。该方法不是计算对应于帧的错移幅度,而在已更新帧数保存部的值达到帧更新跨度保存部的值的时刻,移位能够由后信息保存部计算的像素移位幅度而显示。通过这样,由于在用户看惯了缩放后的视频流的进深变更的状态下显示字幕,所以进一步吸收了立体感的差异,带来减轻用户的眼睛的疲劳的效果。
(流的记录方式)
配置在BD-ROM上的流既可以分别记录右眼用流、左眼用流,也可以植入在一个流文件中。
(立体视方式)
在第1实施方式中作为说明的前提的视差图像方式为了使左右的影像在时间轴方向上交替显示,例如如果是通常的2维的电影则1秒显示24张影像,相对于此,左右的影像合计需要1秒显示48张影像。因而,在该方式中,在每个画面的改写较快的显示装置中是适合的。使用该视差图像的立体视已经在游乐园的游乐设施等中普遍使用,在技术上也已经确立,所以可以说最接近于家庭中的实用化。使用视差图像的用于立体视的方法除了这些以外还提出了双色分离方式等各种技术。在本实施方式中使用继时分离方式或偏光眼镜方式为例进行了说明,但只要使用视差图像就可以,并不限定于这两个方式。
关于显示装置300,也不仅是双凸透镜,也可以使用具有同样的功能的设备、例如液晶元件。此外,也可以在左眼用的像素中设置纵偏光的过滤器、在右眼用的像素设置横偏光的过滤器,视听者通过使用为左眼用而设置了纵偏光、为右眼用而设置了横偏光的过滤器的偏光眼镜观看显示装置的画面来实现立体视。
(图像数据)
在各实施方式中表示的图像数据优选的是Presentation Graphics(展示图形)流。
Presentation Graphics流(PG流)是表示电影的字幕等、应与图片细致地同步的图形的图形流,如英语、日语、法语那样存在关于多种语言的流。
PG流由PCS(Presentation Control Segment)、PDS(Pallet Define Segment)、WDS(Window Define Segment)、ODS(Object Define Segment)的一系列的功能段构成。ODS(Object DefineSegment)是定义使用像素代码和其游程长进行游程长压缩后的图形对象的功能段。PDS(Palette Difinition Segment)是规定各个像素代码与亮度(Y)、红色差(Cr)、蓝色差(Cb)、透明度(α值)的对应关系的功能段。PCS(Presentation Control Segment)是规定图形流的显示单位(显示集)的详细情况、并且规定使用图形对象的画面结构的功能段。在该画面结构中,有Cut-In/Out、Fade-In/Out、Color Change、Scroll、Wipe-In/Out等,通过伴随着PCS的画面结构,能够实现一边将某个字幕逐渐消除、一边显示下个字幕的显示效果。
在图形流的再生中,图形解码器通过同时执行将属于显示单位(显示集)的ODS解码而将图形对象写入到对象缓冲器中的处理以及通过将属于先行的显示单位(显示集)的ODS解码而得到的图形对象从对象缓冲器写入到平面存储器中的处理的流水线,实现上述那样的细致的同步。通过由流水线进行的解码动作的实现,实现与运动图像的细致的同步,所以Presentation Graphics流的用途并不限定于字幕那样的字符再生。如果是显示电影作品的吉祥物角色并使其一边与运动图像同步一边动作等需要细致的同步的图形再生,都能够作为PresentationGraphics流的再生对象采用。
作为不多路复用在传输流文件中但表示字幕的流,除了PG流以外还有文本字幕(textST)流。textST流是将字幕的内容用字符代码表示的流。该PG流与textST流的组在BD-ROM规格中称作“PGTextST流”。文本字幕(textST)流没有多路复用在AV流中,在其再生时,需要将文本字幕流主体以及用于文本的展开的字体在再生之前预装载到存储器中。此外,此外,在BD-ROM再生装置中,将能够将文本字幕流中的哪个语言正常显示设定为按照语言代码设定的能力标志。另一方面,在PresentationGraphics流的字幕再生中,不需要参照能力标志。这是因为,PresentationGraphics流的字幕只要将游程长压缩的字幕展开就足够。
Presentation Graphics流的再生对象也可以是根据装置侧的语言设定选择的字幕图形。由此,在现状的DVD中,能够根据装置侧的语言设定显示的字幕图形实现用运动图像主体表现的使用字符的显示效果,所以实用上的价值较大。
Preentation Graphics流的再生对象也可以是根据装置侧的显示器设定而选择的字幕图形。即,在BD-ROM中记录有宽屏模式、切除适应模式、信箱模式用等各种显示模式用的图形,装置侧根据连接在自身上的电视机的设定选择它们的某些而显示。在此情况下,对这样显示的字幕图形实施基于PresentationGraphics流的显示效果,所以美观性变好。由此,能够通过对应于装置侧的显示设定显示的字幕实现用运动图像主体表现那样的使用字符的显示效果,所以实用上的价值较大。此外,PresentationGraphics流也可以实现卡拉OK,并且,在此情况下,Presentation Graphics流也可以根据歌的进行而实施改变字幕的颜色的显示效果。
(程序的实施方式)
各实施方式所示的应用程序可以如以下这样制作。首先,软件开发者使用编程语言记述实现各流程图及功能性的构成要素那样的源程序。在该记述时,软件开发者按照编程语言的句法,使用类构造体及变量、数组变量、外部函数的调用,记述具体实现各流程图及功能性的构成要素的源程序。
将记述的源程序作为文件交给编译器。编译器将这些源程序翻译而生成对象程序。
编译器的翻译由句法解析、优化、资源分配、代码生成等过程构成。在句法解析中,进行源程序的字句解析、句法解析及意义解析,将源程序变换为中间程序。在优化中,对中间程序进行基本模块化、控制流解析、数据流解析的作业。在资源分配中,为了实现向作为目标的处理器的命令集的适合,将中间程序中的变量分配给作为目标的处理器的处理器具有的寄存器或存储器。在代码生成中,将中间程序内的各中间命令变换为程序代码,得到对象程序。
这里生成的对象程序由使计算机执行各实施方式所示的流程图的各步骤、及功能性的构成要素的各个顺序那样的1个以上的程序代码构成。这里,程序代码如处理器的本机码、JAVA字节码那样有各种种类。在通过程序代码的各步骤的实现中有各种方式。在能够使用外部函数实现各步骤的情况下,调用该外部函数的调用语句为程序代码。此外,也有实现1个步骤那样的程序代码归属于不同的对象程序的情况。在命令种类受到限制的RISC处理器中,也可以通过将算术运算命令及逻辑运算命令、分支命令等组合来实现流程图的各步骤。
如果生成对象程序,则编程者对它们启动链接器。链接器将这些对象程序及关联的库程序分配给存储器空间,将它们结合为1个,生成装载模组。这样生成的装载模组是以计算机的读取为前提的,是使计算机执行各流程图所示的处理顺序及功能性的构成要素的处理顺序的。也可以将该程序记录到计算机可读取的记录媒体中而对用户提供。
(记录媒体的变形)
各实施方式的记录媒体包括光盘、半导体存储卡等、包媒体的全部。本实施方式的记录媒体以预先记录有需要的数据的光盘(例如BD-ROM、DVD-ROM等的已有的可读取的光盘)为例进行说明,但并不限定于此,例如如果将经由广播或网络分发的包含本发明的实施所需要的数据的3D内容利用具有向光盘写入的功能的终端装置(例如左述的功能既可以装入到再生装置中,也可以是与再生装置不同的装置)记录到可写入的光盘(例如BD-RE、DVD-RAM等的已有的可写入的光盘)中、将该记录的光盘应用到本发明的再生装置中,也能够进行本发明的实施。
(视频解码器的结构)
在各实施方式中,说明了视频解码器分别存在左眼用的视频解码器5a、右眼用的视频解码器5b,但也可以将它们做成一体。
(半导体存储器卡记录装置及再生装置的实施方式)
对将在各实施方式中进行了说明的数据构造记录到半导体存储器中的记录装置及进行再生的再生装置的实施方式进行说明。
首先,作为前提的技术,对记录在BD-ROM中的数据的著作权保护的机制进行说明。
在记录在BD-ROM中的数据中,从例如著作权的保护、数据的隐秘性的提高的观点出发,有将数据的一部分根据需要而加密的情况。
例如,记录在BD-ROM中的数据中的加密的数据例如是对应于视频流的数据、对应于音频流的数据、或对应于包括它们的流的数据。
以下,对记录在BD-ROM中的数据中的、加密的数据的解读进行说明。
在半导体存储器卡再生装置中,预先在再生装置中存储有与为了将BD-ROM内的加密的数据解读而需要的密钥对应的数据(例如设备密钥)。
另一方面,在BD-ROM中,记录有与为了将加密的数据解读而需要的密钥对应的数据(例如与上述的设备密钥对应的MKB(媒体密钥模块))、将用来解读加密的数据的密钥自身加密的数据(例如与上述的设备密钥及MKB对应的加密标题密钥)。这里,设备密钥、MKB及加密标题密钥成对,进而,与写入在BD-ROM上的通常不能复制的区域(称作BCA的区域)中的标识符(例如卷ID)也建立了对应。如果该组合不正确就不能进行加密的解读。仅在组合正确的情况下,能够导出加密解读所需要的密钥(例如基于上述的设备密钥、MKB及卷ID、将加密标题密钥解密而得到的标题密钥),能够使用该加密解读所需要的密钥进行加密的数据的解读。
在将装填的BD-ROM在再生装置中再生的情况下,例如如果在再生装置内没有与BD-ROM内的加密标题密钥、MKB成对(或对应)的设备密钥,则不能将加密的数据再生。这是因为,加密的数据的解读所需要的密钥(标题密钥)的密钥自身被加密(加密标题密钥)而记录在BD-ROM上,如果MKB和设备密钥的组合不正确,则不能导出加密的解读所需要的密钥。
相反,再生装置构成为,如果加密标题密钥、MKB、设备密钥及卷ID的组合正确,则使用例如上述的加密解读所需要的密钥(基于设备密钥、MKB及卷ID将加密标题密钥解密而得到的标题密钥),将视频流通过解码器解码,将音频流通过音频解码器解码。
以上是记录在BD-ROM中的数据的著作权保护的机制,但该机制并不一定限定于BD-ROM,例如在应用于可读写的导体存储器(例如SD卡等的具有移动性的半导体存储卡)中的情况下也能够实施。
对半导体存储卡再生装置的再生顺序进行说明。在光盘中,例如构成为,经由光盘驱动器将数据读出,相对于此,在使用半导体存储卡的情况下,只要构成为,经由用来读出半导体存储卡内的数据的I/F将数据读出就可以。
更详细地讲,如果在再生装置的插槽(未图示)中***半导体存储卡,则经由半导体存储卡I/F将再生装置和半导体存储卡电气地连接。只要构成为、将记录在半导体存储卡中的数据经由半导体存储卡I/F读出就可以。
工业实用性
本发明在将立体视视频流再生的再生设备中,在立体视视频流上叠加显示字幕及图形的设备中,能够适用于将字幕叠加在立体视视频流上的状态下进行缩放的立体视视频再生装置。
标号说明
100BD-ROM
200再生装置
300遥控器
400电视机
500液晶眼镜
1a BD驱动器
1b本地存储装置
1c网络接口
2a、2b读缓冲器
3虚拟文件***
4多路分离器
5a、b视频解码器
6视频平面
7a、b图像解码器
7c、d图像存储器
8图像平面
9音频解码器
10交互图形平面
11背景平面
12寄存器组
13静态脚本存储器
14再生控制引擎
15缩放引擎
16合成部
17HDMI收发部
18显示功能标志保持部
19左右处理存储部
20平面移位引擎
21偏移设定部
22BD-J平台
22a绘制引擎
23动态脚本存储器
24模式管理模组
25HDMV模组
26UO检测模组
27a静止图像存储器
27b静止图像解码器
28显示模式设定初始显示设定部
29显示模式存储部
Claims (14)
1.一种再生装置,实现立体视再生,其特征在于,具备:
视频解码器,将视频流解码而得到视频帧;
平面存储器,保存由规定的纵像素数×横像素数的多个像素数据构成的图形数据;
偏移保持部,保持偏移,该偏移表示在实现立体视时应使像素的坐标向右方向及左方向分别移动多少的基准;
移位引擎,使构成平面存储器中的图形数据的像素数据各自的坐标沿水平方向移动与偏移相应的像素数;以及
合成部,将像素数据的坐标被移动后的图形数据与视频帧合成;
在变更了上述视频帧的大小的情况下,由上述移位引擎进行的像素数据的坐标的移动量基于对上述偏移乘以缩放倍率而得到的值。
2.如权利要求1所述的再生装置,其特征在于,
在上述缩放倍率小于1的情况下,
上述像素的移动量为:将上述偏移与水平方向的缩放倍率相乘的结果中的小数点以下的数值进位而得到的像素数。
3.如权利要求1所述的再生装置,其特征在于,
写入在上述平面存储器中的图形是由应用写入的图形;
上述缩放倍率被由应用指定。
4.如权利要求1所述的再生装置,其特征在于,
写入在上述平面存储器中的图形是构成受理用户操作的图形用户界面的图形;
上述缩放倍率被由用户操作指定。
5.如权利要求1所述的再生装置,其特征在于,
即使请求了保持上述平面存储器的图形数据的分辨率的保持分辨率模式,也执行用于计算像素的移动量的相乘。
6.如权利要求1所述的再生装置,其特征在于,
上述移位引擎具有将多个移动量分别与由应用请求的缩放倍率建立对应而表示的映射表;
通过将记载在映射表中的多个移动量之中的、与由应用指定的缩放倍率对应的移动量读出,来进行移动量的相乘。
7.如权利要求1所述的再生装置,其特征在于,
上述移位引擎具备:
前信息保存部,将缩放前的偏移保存为前信息;
后信息保存部,将缩放完成后的像素的移动量、即对偏移乘以缩放倍率而得到的像素数保存为后信息;以及
帧计数器,随着帧处理的进行,对表示从发生缩放请求起经过了几帧的已更新帧i进行更新;
通过上述相乘求出的图形数据中的像素数据的移动量是从发生缩放命令后经过了帧N的时刻的移动量D(N);
使用前信息、后信息、通过上述相乘得到的移动量D(N)以及由帧计数器更新的帧数i,计算从缩放请求的发生时刻起经过了帧i的时刻的像素的移动量D(i),其中i≤N。
8.如权利要求7所述的再生装置,其特征在于,
上述帧计数器具备帧更新跨度保持部,该帧更新跨度保持部保持表示用几帧进行移位的帧更新跨度;
已更新帧i越接近于保存在上述帧更新跨度保持部中的帧更新跨度,像素的移动量P(i)越联动地也发生变更。
9.如权利要求7所述的再生装置,其特征在于,
上述帧计数器具备帧更新跨度保持部,该帧更新跨度保持部保持表示用几帧进行移位的帧更新跨度;
在帧i达到保存在上述帧更新跨度保持部中的帧更新跨度之前仅输出视频平面,在已更新帧i达到帧更新跨度的时刻,使图像数据的坐标移动移动量D(N),并使平面存储器中的像素与构成视频帧的各像素合成。
10.如权利要求1所述的再生装置,其特征在于,
通过上述相乘求出的图形数据的像素的移动量是从发生缩放命令后经过了帧N的时刻的移动量D(N);
从发生缩放命令起经过了帧i的时刻的像素的移动量D(i)基于以下的数式计算,其中i≤N:
像素的移动量D(i)=(Offset-(Factor×Offset))×(i/N)
Offset:偏移所示的像素数,Factor:缩放倍率。
11.如权利要求1所述的再生装置,其特征在于,
上述平面存储器是保存图形数据的图形平面;
上述再生装置还具备视频平面,该视频平面是保存由解码器得到的视频帧的平面存储器;
在对视频平面中的视频帧实施缩放的情况下,上述移位引擎不仅能够使由图形平面保持的图形数据移动,而且能够使构成视频帧的像素数据的坐标移动;
在上述平面移位引擎移动视频平面中的视频帧的像素数据的情况下,视频平面中的像素数据的移动量与图形平面中的像素数据的移动量的相对值为:基于对上述偏移乘以水平方向的变更后的缩放倍率而得到的像素数的值。
12.如权利要求11所述的再生装置,其特征在于,
上述视频平面中的图像数据的坐标的平面偏移V基于以下的数式计算:
坐标平面偏移V=D-(Factor×D)
D:图形平面中的偏移
Factor:缩放倍率。
13.一种再生方法,在计算机上实现立体视再生,其特征在于,具有:
解码步骤,将视频流解码而得到视频帧;
写入步骤,将由规定的纵像素数×横像素数的多个像素数据构成的图形数据写入到计算机的平面存储器中;
取得步骤,取得偏移,该偏移表示在实现立体视时应使像素的坐标向右方向及左方向分别移动多少的基准;
移位步骤,使构成平面存储器中的图形数据的像素数据各自的坐标分别向右方向及左方向移动与偏移相应的像素数;以及
合成步骤,将像素数据的坐标被移动后的图形数据与通过解码得到的视频帧合成;
在变更了上述视频帧的大小的情况下,由上述移位步骤进行的像素数据的坐标的移动量基于对上述偏移乘以水平方向的变更后的缩放倍率而得到的值。
14.一种程序,使计算机实现立体视再生,其特征在于,使计算机执行:
解码步骤,将视频流解码而得到视频帧;
写入步骤,将由规定的纵像素数×横像素数的多个像素数据构成的图形数据写入到计算机的平面存储器中;
取得步骤,取得偏移,该偏移表示在实现立体视时应使像素的坐标向右方向及左方向分别移动多少的基准;
移位步骤,使构成平面存储器中的图形数据的像素数据各自的坐标在水平方向移动与偏移相应的像素数;
合成步骤,将像素数据的坐标被移动后的图形数据与通过解码得到的视频帧合成;
在变更了上述视频帧的大小的情况下,由上述移位步骤进行的像素数据的坐标的移动量基于对上述偏移乘以缩放倍率而得到的值。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008294500 | 2008-11-18 | ||
JP2008-294500 | 2008-11-18 | ||
PCT/JP2009/006115 WO2010058546A1 (ja) | 2008-11-18 | 2009-11-16 | 立体視再生を行う再生装置、再生方法、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102210156A true CN102210156A (zh) | 2011-10-05 |
CN102210156B CN102210156B (zh) | 2013-12-18 |
Family
ID=42197989
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2009801449706A Expired - Fee Related CN102210156B (zh) | 2008-11-18 | 2009-11-16 | 进行立体视觉再生的再生装置、再生方法 |
Country Status (9)
Country | Link |
---|---|
US (2) | US8301013B2 (zh) |
EP (1) | EP2348746B1 (zh) |
JP (2) | JP4772163B2 (zh) |
CN (1) | CN102210156B (zh) |
BR (1) | BRPI0922046A2 (zh) |
ES (1) | ES2537073T3 (zh) |
RU (1) | RU2512135C2 (zh) |
TW (2) | TW201032577A (zh) |
WO (1) | WO2010058546A1 (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102905143A (zh) * | 2011-07-28 | 2013-01-30 | 瑞昱半导体股份有限公司 | 2d转3d图像转换装置及其方法 |
CN103210423A (zh) * | 2011-11-15 | 2013-07-17 | 联发科技(新加坡)私人有限公司 | 立体图像处理装置及其相关方法 |
CN105874775A (zh) * | 2014-02-03 | 2016-08-17 | 来特荣国际有限公司 | 面向simd型超级并行计算处理装置的超分辨率处理方法、装置、程序及存储介质 |
CN108900904A (zh) * | 2018-07-27 | 2018-11-27 | 北京市商汤科技开发有限公司 | 视频处理方法及装置、电子设备和存储介质 |
CN109561263A (zh) * | 2018-11-23 | 2019-04-02 | 重庆爱奇艺智能科技有限公司 | 在vr设备的3d视频中实现3d字幕效果 |
CN111193919A (zh) * | 2018-11-15 | 2020-05-22 | 中兴通讯股份有限公司 | 一种3d显示方法、装置、设备及计算机可读介质 |
CN111369940A (zh) * | 2018-12-26 | 2020-07-03 | 乐金显示有限公司 | 有机发光二极管显示装置 |
CN111512357A (zh) * | 2017-12-20 | 2020-08-07 | 三星电子株式会社 | 基于显示驱动电路中存储的坐标信息移动内容显示位置的电子装置和方法 |
CN117009016A (zh) * | 2023-07-12 | 2023-11-07 | 江西科骏实业有限公司 | 显示模式切换方法、***、终端设备以及存储介质 |
Families Citing this family (45)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8301013B2 (en) * | 2008-11-18 | 2012-10-30 | Panasonic Corporation | Reproduction device, reproduction method, and program for stereoscopic reproduction |
US8335425B2 (en) * | 2008-11-18 | 2012-12-18 | Panasonic Corporation | Playback apparatus, playback method, and program for performing stereoscopic playback |
JP4998650B2 (ja) * | 2009-04-03 | 2012-08-15 | ソニー株式会社 | 情報処理装置、情報処理方法、及び、プログラム |
JP4915458B2 (ja) | 2009-04-03 | 2012-04-11 | ソニー株式会社 | 情報処理装置、情報処理方法、及び、プログラム |
JP4985807B2 (ja) | 2009-04-15 | 2012-07-25 | ソニー株式会社 | 再生装置および再生方法 |
DE102010009291A1 (de) | 2010-02-25 | 2011-08-25 | Expert Treuhand GmbH, 20459 | Verfahren und Vorrichtung für ein anatomie-adaptiertes pseudoholographisches Display |
WO2011118215A1 (ja) * | 2010-03-24 | 2011-09-29 | パナソニック株式会社 | 映像処理装置 |
JP4787369B1 (ja) * | 2010-03-30 | 2011-10-05 | 富士フイルム株式会社 | 画像処理装置および方法並びにプログラム |
JP2011216937A (ja) * | 2010-03-31 | 2011-10-27 | Hitachi Consumer Electronics Co Ltd | 立体画像表示装置 |
US8982151B2 (en) * | 2010-06-14 | 2015-03-17 | Microsoft Technology Licensing, Llc | Independently processing planes of display data |
JP5505637B2 (ja) * | 2010-06-24 | 2014-05-28 | ソニー株式会社 | 立体表示装置および立体表示装置の表示方法 |
US20110316972A1 (en) * | 2010-06-29 | 2011-12-29 | Broadcom Corporation | Displaying graphics with three dimensional video |
JP2012023648A (ja) * | 2010-07-16 | 2012-02-02 | Sony Corp | 再生装置、再生方法、およびプログラム |
US10194132B2 (en) * | 2010-08-03 | 2019-01-29 | Sony Corporation | Establishing z-axis location of graphics plane in 3D video display |
US8605136B2 (en) * | 2010-08-10 | 2013-12-10 | Sony Corporation | 2D to 3D user interface content data conversion |
JP5450330B2 (ja) * | 2010-09-16 | 2014-03-26 | 株式会社ジャパンディスプレイ | 画像処理装置および方法、ならびに立体画像表示装置 |
WO2012044128A2 (ko) * | 2010-10-01 | 2012-04-05 | 삼성전자 주식회사 | 디스플레이 장치 및 신호 처리 장치와, 그 방법들 |
KR101817171B1 (ko) * | 2010-10-14 | 2018-01-11 | 톰슨 라이센싱 | 3d 비디오 시스템을 위한 원격 제어 디바이스 |
US8537201B2 (en) * | 2010-10-18 | 2013-09-17 | Silicon Image, Inc. | Combining video data streams of differing dimensionality for concurrent display |
TWI540896B (zh) | 2010-11-15 | 2016-07-01 | 國立研究開發法人科學技術振興機構 | 印刷有視錯覺影像的媒體及記錄有電腦可讀取的影像資料之記錄媒體 |
CN103262547B (zh) * | 2010-12-03 | 2016-01-20 | 皇家飞利浦电子股份有限公司 | 3d图像数据的转移 |
CN103262552A (zh) * | 2010-12-10 | 2013-08-21 | 富士通株式会社 | 立体动态图像生成装置、立体动态图像生成方法以及立体动态图像生成程序 |
WO2012117729A1 (ja) | 2011-03-03 | 2012-09-07 | パナソニック株式会社 | 追体験映像を提供することができる映像提供装置、映像提供方法、映像提供プログラム |
JP2012186652A (ja) * | 2011-03-04 | 2012-09-27 | Toshiba Corp | 電子機器、画像処理方法及び画像処理プログラム |
TWI492610B (zh) * | 2011-03-10 | 2015-07-11 | Realtek Semiconductor Corp | 影像控制裝置 |
TWI482484B (zh) * | 2011-06-17 | 2015-04-21 | Wistron Corp | 立體顯示系統及其方法 |
PL2727381T3 (pl) * | 2011-07-01 | 2022-05-02 | Dolby Laboratories Licensing Corporation | Sposób i urządzenie do renderowania obiektów audio |
EP2544152A3 (en) * | 2011-07-07 | 2013-02-20 | HTC Corporation | Management of multiple interface display layers |
TWI489418B (zh) * | 2011-12-30 | 2015-06-21 | Nat Univ Chung Cheng | Parallax Estimation Depth Generation |
JP5319796B2 (ja) * | 2012-01-12 | 2013-10-16 | 株式会社東芝 | 情報処理装置および表示制御方法 |
JP6307213B2 (ja) * | 2012-05-14 | 2018-04-04 | サターン ライセンシング エルエルシーSaturn Licensing LLC | 画像処理装置、画像処理方法およびプログラム |
TWI555400B (zh) * | 2012-05-17 | 2016-10-21 | 晨星半導體股份有限公司 | 應用於顯示裝置的字幕控制方法與元件 |
EP2887653A4 (en) * | 2012-08-17 | 2016-03-30 | Nec Corp | PORTABLE TERMINAL DEVICE AND PROGRAM |
TWI559255B (zh) * | 2012-09-28 | 2016-11-21 | Japan Science & Tech Agency | Visual illusion analysis device, visual illusion adding image generating device, visual illusion analysis method, visual illusion adding image generation method, and program |
KR101946455B1 (ko) * | 2013-03-14 | 2019-02-11 | 삼성전자주식회사 | 시스템 온-칩 및 이의 동작 방법 |
KR20140120000A (ko) * | 2013-04-01 | 2014-10-13 | 한국전자통신연구원 | 3차원공간의 분석을 통한 입체영상 자막 생성 장치 및 방법 |
WO2014186346A1 (en) * | 2013-05-13 | 2014-11-20 | Mango Languages | Method and system for motion picture assisted foreign language learning |
US20140347350A1 (en) * | 2013-05-23 | 2014-11-27 | Htc Corporation | Image Processing Method and Image Processing System for Generating 3D Images |
WO2015019656A1 (ja) * | 2013-08-06 | 2015-02-12 | 株式会社ソニー・コンピュータエンタテインメント | 3次元画像生成装置、3次元画像生成方法、プログラム及び情報記憶媒体 |
CN104038827B (zh) | 2014-06-06 | 2018-02-02 | 小米科技有限责任公司 | 多媒体播放方法及装置 |
AU2016308731A1 (en) | 2015-08-18 | 2018-03-15 | Magic Leap, Inc. | Virtual and augmented reality systems and methods |
WO2018003669A1 (ja) | 2016-06-27 | 2018-01-04 | ローム株式会社 | タイミングコントローラ、それを用いた電子機器、車載用ディスプレイ装置、医療用ディスプレイ装置 |
US10958890B2 (en) * | 2017-03-31 | 2021-03-23 | Samsung Electronics Co., Ltd. | Method and apparatus for rendering timed text and graphics in virtual reality video |
US10735649B2 (en) | 2018-02-22 | 2020-08-04 | Magic Leap, Inc. | Virtual and augmented reality systems and methods using display system control information embedded in image data |
JP7105210B2 (ja) | 2019-03-26 | 2022-07-22 | 富士フイルム株式会社 | 画像処理方法、プログラム、及び画像処理システム |
Family Cites Families (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2100324C (en) * | 1992-08-06 | 2004-09-28 | Christoph Eisenbarth | Method and apparatus for determining mis-registration |
JPH08249493A (ja) | 1995-03-09 | 1996-09-27 | Sony Corp | 立体映像装置 |
US5784097A (en) * | 1995-03-29 | 1998-07-21 | Sanyo Electric Co., Ltd. | Three-dimensional image display device |
US6175575B1 (en) * | 1997-09-26 | 2001-01-16 | Lucent Technologies Inc. | Internet service via ISDN |
JPH11113028A (ja) * | 1997-09-30 | 1999-04-23 | Toshiba Corp | 3次元映像表示装置 |
JP3639108B2 (ja) * | 1998-03-31 | 2005-04-20 | 株式会社ソニー・コンピュータエンタテインメント | 描画装置および描画方法、並びに提供媒体 |
JP4006105B2 (ja) | 1998-08-25 | 2007-11-14 | キヤノン株式会社 | 画像処理装置およびその方法 |
US20030043918A1 (en) | 1999-12-20 | 2003-03-06 | Jiang Hong H. | Method and apparatus for performing video image decoding |
KR100641848B1 (ko) * | 2000-11-02 | 2006-11-02 | 유겐가이샤 후지야마 | 디지탈 영상 콘텐츠의 배신 시스템 및 재생 방법 및 그 재생 프로그램을 기록한 기록 매체 |
JP3826039B2 (ja) * | 2002-01-22 | 2006-09-27 | キヤノン株式会社 | 信号処理装置 |
RU2225593C2 (ru) * | 2002-04-10 | 2004-03-10 | Федеральное государственное унитарное предприятие "Научно-производственное предприятие "Рубин" | Фотограмметрическое рабочее место |
US7804995B2 (en) * | 2002-07-02 | 2010-09-28 | Reald Inc. | Stereoscopic format converter |
CN1703915A (zh) * | 2002-09-27 | 2005-11-30 | 夏普株式会社 | 3-d图像显示单元,3-d图像记录装置和3-d图像记录方法 |
AU2002355052A1 (en) * | 2002-11-28 | 2004-06-18 | Seijiro Tomita | Three-dimensional image signal producing circuit and three-dimensional image display apparatus |
EP1578142B1 (en) * | 2002-12-16 | 2014-10-08 | Sanyo Electric Co., Ltd. | Stereoscopic video creating device and stereoscopic video distributing method |
JP2004248212A (ja) | 2003-02-17 | 2004-09-02 | Kazunari Era | 立体視画像表示装置 |
JP2004274125A (ja) * | 2003-03-05 | 2004-09-30 | Sony Corp | 画像処理装置および方法 |
US7417664B2 (en) * | 2003-03-20 | 2008-08-26 | Seijiro Tomita | Stereoscopic image picking up and display system based upon optical axes cross-point information |
US20040213542A1 (en) * | 2003-04-22 | 2004-10-28 | Hiroshi Hamasaka | Apparatus and method to reproduce multimedia content for a multitude of resolution displays |
JP2005004341A (ja) | 2003-06-10 | 2005-01-06 | Sanyo Electric Co Ltd | 画像表示装置およびコンピュータに画像表示機能を付与するプログラム |
WO2004107764A1 (ja) * | 2003-05-27 | 2004-12-09 | Sanyo Electric Co., Ltd. | 画像表示装置及びプログラム |
JP2005073049A (ja) * | 2003-08-26 | 2005-03-17 | Sharp Corp | 立体映像再生装置および立体映像再生方法 |
CN1938774B (zh) * | 2004-06-03 | 2010-04-21 | 松下电器产业株式会社 | 再现设备及方法 |
EP1875440B1 (en) | 2005-04-19 | 2008-12-03 | Koninklijke Philips Electronics N.V. | Depth perception |
JP4491035B2 (ja) * | 2006-03-24 | 2010-06-30 | パナソニック株式会社 | 再生装置、デバッグ装置、システムlsi、プログラム |
US20090284584A1 (en) * | 2006-04-07 | 2009-11-19 | Sharp Kabushiki Kaisha | Image processing device |
US8358332B2 (en) * | 2007-07-23 | 2013-01-22 | Disney Enterprises, Inc. | Generation of three-dimensional movies with improved depth control |
JP2009135686A (ja) * | 2007-11-29 | 2009-06-18 | Mitsubishi Electric Corp | 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置 |
GB0806183D0 (en) * | 2008-04-04 | 2008-05-14 | Picsel Res Ltd | Presentation of objects in 3D displays |
CN102150434A (zh) * | 2008-09-18 | 2011-08-10 | 松下电器产业株式会社 | 立体视觉再现影像内容的再现装置、再现方法及再现程序 |
EP2326101B1 (en) * | 2008-09-18 | 2015-02-25 | Panasonic Corporation | Stereoscopic video reproduction device and stereoscopic video display device |
WO2010052857A1 (ja) * | 2008-11-06 | 2010-05-14 | パナソニック株式会社 | 再生装置、再生方法、再生プログラム、及び集積回路 |
US8301013B2 (en) * | 2008-11-18 | 2012-10-30 | Panasonic Corporation | Reproduction device, reproduction method, and program for stereoscopic reproduction |
US8335425B2 (en) * | 2008-11-18 | 2012-12-18 | Panasonic Corporation | Playback apparatus, playback method, and program for performing stereoscopic playback |
MX2011008609A (es) * | 2009-02-17 | 2011-09-09 | Koninklije Philips Electronics N V | Combinar datos de imagen tridimensional y graficos. |
JP4919122B2 (ja) * | 2009-04-03 | 2012-04-18 | ソニー株式会社 | 情報処理装置、情報処理方法、及び、プログラム |
WO2010143439A1 (ja) * | 2009-06-12 | 2010-12-16 | パナソニック株式会社 | 再生装置、集積回路、記録媒体 |
US8164619B2 (en) * | 2009-09-25 | 2012-04-24 | Panasonic Corporation | Recording medium, playback device, and integrated circuit |
US20110080462A1 (en) * | 2009-10-02 | 2011-04-07 | Panasonic Corporation | Playback device, integrated circuit, playback method, and program for stereoscopic video playback |
US9066076B2 (en) * | 2009-10-30 | 2015-06-23 | Mitsubishi Electric Corporation | Video display control method and apparatus |
US9030533B2 (en) * | 2009-11-06 | 2015-05-12 | Sony Corporation | Stereoscopic overlay offset creation and editing |
-
2009
- 2009-11-16 US US13/119,729 patent/US8301013B2/en not_active Expired - Fee Related
- 2009-11-16 WO PCT/JP2009/006115 patent/WO2010058546A1/ja active Application Filing
- 2009-11-16 CN CN2009801449706A patent/CN102210156B/zh not_active Expired - Fee Related
- 2009-11-16 RU RU2011118876/08A patent/RU2512135C2/ru not_active IP Right Cessation
- 2009-11-16 JP JP2010539134A patent/JP4772163B2/ja active Active
- 2009-11-16 BR BRPI0922046A patent/BRPI0922046A2/pt not_active IP Right Cessation
- 2009-11-16 ES ES09827327.9T patent/ES2537073T3/es active Active
- 2009-11-16 EP EP09827327.9A patent/EP2348746B1/en active Active
- 2009-11-17 TW TW098138975A patent/TW201032577A/zh unknown
- 2009-11-17 TW TW100125613A patent/TW201145979A/zh unknown
-
2011
- 2011-04-15 JP JP2011090909A patent/JP5341946B2/ja not_active Expired - Fee Related
-
2012
- 2012-09-24 US US13/625,429 patent/US20130021435A1/en not_active Abandoned
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102905143A (zh) * | 2011-07-28 | 2013-01-30 | 瑞昱半导体股份有限公司 | 2d转3d图像转换装置及其方法 |
CN102905143B (zh) * | 2011-07-28 | 2015-04-15 | 瑞昱半导体股份有限公司 | 2d转3d图像转换装置及其方法 |
CN103210423A (zh) * | 2011-11-15 | 2013-07-17 | 联发科技(新加坡)私人有限公司 | 立体图像处理装置及其相关方法 |
CN105874775B (zh) * | 2014-02-03 | 2019-05-17 | 来特荣国际有限公司 | 面向simd型超级并行计算处理装置的超分辨率处理方法、装置、程序及存储介质 |
CN105874775A (zh) * | 2014-02-03 | 2016-08-17 | 来特荣国际有限公司 | 面向simd型超级并行计算处理装置的超分辨率处理方法、装置、程序及存储介质 |
CN111512357A (zh) * | 2017-12-20 | 2020-08-07 | 三星电子株式会社 | 基于显示驱动电路中存储的坐标信息移动内容显示位置的电子装置和方法 |
CN108900904A (zh) * | 2018-07-27 | 2018-11-27 | 北京市商汤科技开发有限公司 | 视频处理方法及装置、电子设备和存储介质 |
CN111193919A (zh) * | 2018-11-15 | 2020-05-22 | 中兴通讯股份有限公司 | 一种3d显示方法、装置、设备及计算机可读介质 |
CN111193919B (zh) * | 2018-11-15 | 2023-01-13 | 中兴通讯股份有限公司 | 一种3d显示方法、装置、设备及计算机可读介质 |
CN109561263A (zh) * | 2018-11-23 | 2019-04-02 | 重庆爱奇艺智能科技有限公司 | 在vr设备的3d视频中实现3d字幕效果 |
CN111369940A (zh) * | 2018-12-26 | 2020-07-03 | 乐金显示有限公司 | 有机发光二极管显示装置 |
CN111369940B (zh) * | 2018-12-26 | 2022-07-01 | 乐金显示有限公司 | 有机发光二极管显示装置 |
CN117009016A (zh) * | 2023-07-12 | 2023-11-07 | 江西科骏实业有限公司 | 显示模式切换方法、***、终端设备以及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
TW201145979A (en) | 2011-12-16 |
JP4772163B2 (ja) | 2011-09-14 |
JPWO2010058546A1 (ja) | 2012-04-19 |
ES2537073T3 (es) | 2015-06-02 |
WO2010058546A1 (ja) | 2010-05-27 |
EP2348746A1 (en) | 2011-07-27 |
US20130021435A1 (en) | 2013-01-24 |
JP2011239373A (ja) | 2011-11-24 |
RU2512135C2 (ru) | 2014-04-10 |
EP2348746B1 (en) | 2015-03-11 |
EP2348746A4 (en) | 2013-03-06 |
TWI361614B (zh) | 2012-04-01 |
JP5341946B2 (ja) | 2013-11-13 |
BRPI0922046A2 (pt) | 2019-09-24 |
US8301013B2 (en) | 2012-10-30 |
CN102210156B (zh) | 2013-12-18 |
TW201032577A (en) | 2010-09-01 |
US20110211815A1 (en) | 2011-09-01 |
RU2011118876A (ru) | 2012-12-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102210156B (zh) | 进行立体视觉再生的再生装置、再生方法 | |
CN102100076B (zh) | 能够进行立体视觉再生的再生装置、再生方法 | |
CN102833573B (zh) | 接收装置 | |
CN102027749B (zh) | 考虑特殊再现的再现装置、集成电路、再现方法 | |
CN102547359B (zh) | 再现装置、集成电路 | |
CN102308589B (zh) | 再现装置和再现方法 | |
CN102172033B (zh) | 再生装置、记录方法、记录介质再生*** | |
CN101828229B (zh) | 记录有3d影像的记录介质、再现3d影像的再现装置及***lsi | |
CN102577409B (zh) | 能再现立体视觉影像的再现装置、集成电路、再现方法 | |
CN102067591A (zh) | 记录介质、再现装置、记录装置、再现方法、记录方法、程序 | |
EP2326102A1 (en) | Reproduction device, reproduction method, and reproduction program for stereoscopically reproducing video content |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20131218 Termination date: 20191116 |