CN102790902B - 接收装置 - Google Patents
接收装置 Download PDFInfo
- Publication number
- CN102790902B CN102790902B CN201210264225.9A CN201210264225A CN102790902B CN 102790902 B CN102790902 B CN 102790902B CN 201210264225 A CN201210264225 A CN 201210264225A CN 102790902 B CN102790902 B CN 102790902B
- Authority
- CN
- China
- Prior art keywords
- stream
- depending
- file
- mentioned
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000015654 memory Effects 0.000 claims abstract description 209
- 230000004438 eyesight Effects 0.000 claims description 178
- 230000015572 biosynthetic process Effects 0.000 claims description 89
- 230000033228 biological regulation Effects 0.000 claims description 34
- 230000001419 dependent effect Effects 0.000 abstract description 4
- 230000008929 regeneration Effects 0.000 description 341
- 238000011069 regeneration method Methods 0.000 description 341
- 230000001172 regenerating effect Effects 0.000 description 308
- 238000012545 processing Methods 0.000 description 123
- 239000000872 buffer Substances 0.000 description 119
- 238000000034 method Methods 0.000 description 106
- 238000006073 displacement reaction Methods 0.000 description 73
- 238000000926 separation method Methods 0.000 description 67
- 239000004065 semiconductor Substances 0.000 description 53
- 230000008569 process Effects 0.000 description 50
- 230000008859 change Effects 0.000 description 47
- 238000013507 mapping Methods 0.000 description 47
- 238000007726 management method Methods 0.000 description 46
- 230000006870 function Effects 0.000 description 42
- 238000003860 storage Methods 0.000 description 36
- 238000009826 distribution Methods 0.000 description 33
- 230000009471 action Effects 0.000 description 29
- 230000014509 gene expression Effects 0.000 description 28
- 230000033001 locomotion Effects 0.000 description 25
- 239000000203 mixture Substances 0.000 description 24
- 102100029074 Exostosin-2 Human genes 0.000 description 23
- 101000918275 Homo sapiens Exostosin-2 Proteins 0.000 description 23
- 230000000694 effects Effects 0.000 description 23
- 238000004321 preservation Methods 0.000 description 23
- 102100029055 Exostosin-1 Human genes 0.000 description 22
- 101000918311 Homo sapiens Exostosin-1 Proteins 0.000 description 22
- 230000002452 interceptive effect Effects 0.000 description 21
- 230000005540 biological transmission Effects 0.000 description 20
- 239000011521 glass Substances 0.000 description 20
- 238000004519 manufacturing process Methods 0.000 description 18
- 238000011084 recovery Methods 0.000 description 18
- 238000006243 chemical reaction Methods 0.000 description 17
- 241000086550 Dinosauria Species 0.000 description 16
- 238000012546 transfer Methods 0.000 description 15
- 238000005516 engineering process Methods 0.000 description 13
- 210000003128 head Anatomy 0.000 description 12
- 238000013138 pruning Methods 0.000 description 12
- 230000000007 visual effect Effects 0.000 description 12
- 238000000638 solvent extraction Methods 0.000 description 11
- 230000001360 synchronised effect Effects 0.000 description 11
- 238000007906 compression Methods 0.000 description 10
- 230000006835 compression Effects 0.000 description 10
- 230000003139 buffering effect Effects 0.000 description 9
- 230000012010 growth Effects 0.000 description 9
- 238000007689 inspection Methods 0.000 description 9
- 230000001276 controlling effect Effects 0.000 description 8
- 238000005520 cutting process Methods 0.000 description 8
- 238000013500 data storage Methods 0.000 description 8
- 230000009191 jumping Effects 0.000 description 8
- 230000009466 transformation Effects 0.000 description 8
- 230000007704 transition Effects 0.000 description 8
- 239000008186 active pharmaceutical agent Substances 0.000 description 7
- 102100022523 Acetoacetyl-CoA synthetase Human genes 0.000 description 6
- 101000678027 Homo sapiens Acetoacetyl-CoA synthetase Proteins 0.000 description 6
- 239000000284 extract Substances 0.000 description 6
- 239000004973 liquid crystal related substance Substances 0.000 description 6
- 239000003550 marker Substances 0.000 description 6
- 239000000178 monomer Substances 0.000 description 6
- 238000007789 sealing Methods 0.000 description 6
- 241001269238 Data Species 0.000 description 5
- MHABMANUFPZXEB-UHFFFAOYSA-N O-demethyl-aloesaponarin I Natural products O=C1C2=CC=CC(O)=C2C(=O)C2=C1C=C(O)C(C(O)=O)=C2C MHABMANUFPZXEB-UHFFFAOYSA-N 0.000 description 5
- 210000000988 bone and bone Anatomy 0.000 description 5
- 238000011049 filling Methods 0.000 description 5
- 238000009434 installation Methods 0.000 description 5
- 230000014759 maintenance of location Effects 0.000 description 5
- 230000032258 transport Effects 0.000 description 5
- 244000141353 Prunus domestica Species 0.000 description 4
- 230000004075 alteration Effects 0.000 description 4
- 230000006399 behavior Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 238000011068 loading method Methods 0.000 description 4
- 239000000463 material Substances 0.000 description 4
- 238000012856 packing Methods 0.000 description 4
- 238000013517 stratification Methods 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 230000009977 dual effect Effects 0.000 description 3
- 239000012634 fragment Substances 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 229920002120 photoresistant polymer Polymers 0.000 description 3
- 230000001105 regulatory effect Effects 0.000 description 3
- 230000011218 segmentation Effects 0.000 description 3
- 102100027617 DNA/RNA-binding protein KIN17 Human genes 0.000 description 2
- 101001008941 Homo sapiens DNA/RNA-binding protein KIN17 Proteins 0.000 description 2
- 240000007711 Peperomia pellucida Species 0.000 description 2
- 235000012364 Peperomia pellucida Nutrition 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 230000000739 chaotic effect Effects 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 125000004122 cyclic group Chemical group 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 230000001934 delay Effects 0.000 description 2
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000005538 encapsulation Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000003760 hair shine Effects 0.000 description 2
- 238000002513 implantation Methods 0.000 description 2
- 238000012886 linear function Methods 0.000 description 2
- 238000002156 mixing Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000002203 pretreatment Methods 0.000 description 2
- 238000007639 printing Methods 0.000 description 2
- 238000011946 reduction process Methods 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 238000000518 rheometry Methods 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 210000000162 simple eye Anatomy 0.000 description 2
- 230000004083 survival effect Effects 0.000 description 2
- 230000001052 transient effect Effects 0.000 description 2
- 102100027674 CTD small phosphatase-like protein Human genes 0.000 description 1
- 102100027667 Carboxy-terminal domain RNA polymerase II polypeptide A small phosphatase 2 Human genes 0.000 description 1
- 208000027877 Disorders of Sex Development Diseases 0.000 description 1
- 206010016326 Feeling cold Diseases 0.000 description 1
- 101000725950 Homo sapiens CTD small phosphatase-like protein Proteins 0.000 description 1
- 101000725947 Homo sapiens Carboxy-terminal domain RNA polymerase II polypeptide A small phosphatase 2 Proteins 0.000 description 1
- 101100137868 Solanum lycopersicum PAD1 gene Proteins 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000001154 acute effect Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 210000002858 crystal cell Anatomy 0.000 description 1
- 238000012888 cubic function Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000013501 data transformation Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000002224 dissection Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 125000000524 functional group Chemical group 0.000 description 1
- 239000007943 implant Substances 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 238000003698 laser cutting Methods 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 230000035515 penetration Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000012887 quadratic function Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 238000012384 transportation and delivery Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
- H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
- H04N9/8233—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being a character code signal
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/02—Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
- G11B27/031—Electronic editing of digitised analogue information signals, e.g. audio or video signals
- G11B27/034—Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/10—Indexing; Addressing; Timing or synchronising; Measuring tape travel
- G11B27/102—Programmed access in sequence to addressed parts of tracks of operating record carriers
- G11B27/105—Programmed access in sequence to addressed parts of tracks of operating record carriers of operating discs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/172—Processing image signals image signals comprising non-image signal components, e.g. headers or format information
- H04N13/178—Metadata, e.g. disparity information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/172—Processing image signals image signals comprising non-image signal components, e.g. headers or format information
- H04N13/183—On-screen display [OSD] information, e.g. subtitles or menus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/189—Recording image signals; Reproducing recorded image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/356—Image reproducers having separate monoscopic and stereoscopic modes
- H04N13/359—Switching between monoscopic and stereoscopic modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234327—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/2365—Multiplexing of several video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/426—Internal components of the client ; Characteristics thereof
- H04N21/42646—Internal components of the client ; Characteristics thereof for reading from or writing on a non-volatile solid state storage medium, e.g. DVD, CD-ROM
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/432—Content retrieval operation from a local storage medium, e.g. hard-disk
- H04N21/4325—Content retrieval operation from a local storage medium, e.g. hard-disk by playing back content from the storage medium
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
- H04N21/4347—Demultiplexing of several video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/4508—Management of client data or end-user data
- H04N21/4532—Management of client data or end-user data involving end-user characteristics, e.g. viewer profile, preferences
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/488—Data services, e.g. news ticker
- H04N21/4884—Data services, e.g. news ticker for displaying subtitles
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/804—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
- H04N9/8042—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
- H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
- H04N9/8227—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being at least another television signal
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B2220/00—Record carriers by type
- G11B2220/20—Disc-shaped record carriers
- G11B2220/25—Disc-shaped record carriers characterised in that the disc is based on a specific recording technology
- G11B2220/2537—Optical discs
- G11B2220/2541—Blu-ray discs; Blue laser DVR discs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/84—Television signal recording using optical recording
- H04N5/85—Television signal recording using optical recording on discs or drums
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Human Computer Interaction (AREA)
- Library & Information Science (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Television Signal Processing For Recording (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Management Or Editing Of Information On Record Carriers (AREA)
Abstract
本发明提供一种接收装置,接收经由广播或网络发送的数据,所述数据包括主视视频流、副视视频流、图形流和元数据;上述主视视频流包括构成立体视觉影像的主视的图片数据;上述副视视频流包括构成立体视觉影像的副视的图片数据;上述图形流包括图形数据;上述元数据是规定偏移控制的控制信息,该偏移控制对上述图形数据赋予水平坐标的右方向及左方向的偏移并分别与构成上述主视的图片数据及构成上述副视的图片数据合成;上述控制信息按画面的每个分割区域定义。
Description
本申请是2010年2月15日提交的,中国专利申请号为201080001476.7(国际申请号PCT/JP2010/000913),发明名称为“记录介质、再生装置、集成电路”的专利申请的分案申请。
技术领域
本发明是属于3D影像及2D影像的再生技术的技术领域的发明。
背景技术
所谓2D影像,是将显示装置的显示画面作为X-Y平面把握、用该X-Y平面上的像素来表现的图像,也称作平面视觉图像。
对照地看,所谓3D影像,是对显示装置的画面中的X-Y平面上的像素添加了Z轴方向的进深的图像。3D影像将应由左眼视听的左视图像与应由右眼视听的右视图像一起再生,通过用这些左视影像、右视影像发挥立体视觉效果,由此供用户的视听。用户将3D影像的像素中的、具有正的Z轴坐标的像素感知为处于比显示装置的画面靠跟前,将具有负的Z轴坐标的像素感知为存在于比画面靠里侧。
在将3D影像保存到光盘中的情况下,要求与仅能够再生保存有2D影像的光盘的再生装置(以下称作“2D再生装置”)的再生兼容性。在2D再生装置不能将3D影像作为2D影像而将保存有3D影像的光盘再生的情况下,需要将相同的内容制作3D用盘和2D用盘这两种,成本变高。由此,要求保存有3D影像的光盘在2D再生装置中能够作为2D影像再生、在能够再生2D影像和3D影像的再生装置(以下称作“2D/3D再生装置”)中能够作为2D影像或3D影像再生。
作为确保保存有3D影像的光盘中的再生兼容性的技术的先行技术,有以下的专利文献1中记载的技术。
专利文献1:日本特许第3935507号公报
用于立体视觉的左视、右视的影像是通过用3D摄像机(camera)摄影而得到的。该3D摄像机隔开对应于人的两眼视差的间隔而存在两个透镜。将通过该透镜摄影的左视影像及右视影像交替再生,由此能够形成人的两眼视差。
但是,字幕及菜单并不是通过3D摄像机的摄影行为制作的,而是在摄影结束后的编辑的过程中制作的,它们是一边观察立体视觉影像一边以后附的方式制作的。此时,一边考虑在立体视觉再生时字幕及菜单看起来怎样、一边对左视、右视分别制作字幕及菜单的操作对于编辑人员而言是庞大的劳动,在带有字幕/菜单的立体视觉内容的制作中,希望使其制作作业高效率化。此外,运动图像看起来在跟前多少在各帧期间中时时刻刻变化,所以如果将字幕及菜单的进深固定化,则字幕及菜单很有可能与影像中的人物像在位置上重叠。可以想到在严重时菜单的矩形框等看起来会突刺到人物中而遭到用户的嘲笑,所以为了避免再生出这样的奇怪的立体视觉影像还是不能节约编辑的工作量。
发明内容
本发明的目的是提供一种能够不增大编辑的工作量而再生品质高的立体视觉影像的接收装置。
能够解决上述问题的接收装置,接收经由广播或网络发送的数据,其特征在于,所述数据包括主视视频流、副视视频流和图形流;元数据被包括在上述副视视频流或上述图形流中;上述主视视频流包括构成立体视觉影像的主视的图片数据;上述副视视频流包括构成立体视觉影像的副视的图片数据;上述图形流包括图形数据;上述元数据是规定偏移控制的控制信息,该偏移控制对平面存储器中的上述图形数据赋予水平坐标的右方向及左方向的偏移并分别与平面存储器中的构成上述主视的图片数据及平面存储器中的构成上述副视的图片数据合成;上述控制信息按画面的每个分割区域定义,包括用像素数表示平面存储器中的上述图形数据的偏移值的信息;该接收装置具备:视频解码器,通过将上述主视视频流及上述副视视频流解码,得到构成主视的图片数据及构成副视的图片数据;图形解码器,通过将上述图形流解码,得到图形数据;以及合成部,将平面存储器中的构成上述主视的图片数据及平面存储器中的构成上述副视的图片数据与平面存储器中的上述图形数据合成;上述合成部基于上述控制信息,对平面存储器中的上述图形数据赋予水平坐标的右方向及左方向的偏移并分 别与平面存储器中的构成上述主视的图片数据及平面存储器中的构成上述副视的图片数据合成。
发明效果
存在于与副视视频流相同的数据中的控制信息规定接收装置以单平面动作的情况下的偏移控制,所以即使没有左右的字幕或菜单,只要有1个字幕或菜单就能够进行立体视觉的再生。不仅能够减轻对于主视、副视分别制作字幕及菜单的工作量,而且即使接收装置的用于平面存储器的存储器规模是单平面,也能够实现立体视觉再生,所以能够实现编辑的高效化、以及接收装置的低成本化的兼顾。
附图说明
图1表示关于记录介质、再生装置、显示装置、眼镜的使用行为的形态。
图2表示将用户的脸描绘在左侧,从左眼观察右侧作为对象物的恐龙的骨骼的情况的例子、以及从右眼观察作为对象物的恐龙的骨骼的情况的例子。
图3表示用于立体视觉的左视视频流、以及右视视频流的内部结构的一例。
图4表示在1plane+Offset模式中、对平面存储器的层模型进行怎样的偏移控制。
图5表示通过图4的偏移控制再生出怎样的立体视觉影像。
图6表示1plane+Offset模式的立体视觉的实现方式。
图7表示具备用于1plane+Offset模式的控制信息的从属视流的内部结构。
图8是表示用户数据保持部的内部结构的图。
图9表示用来记述偏移元数据的句法。
图10是表示正和负的平面偏移的看到的样子的差异的一例的图。
图11是使横轴为时间轴、使纵轴为Plane_offset_value[j]的曲线图。
图12是使横轴为时间轴、使纵轴为Plane_offset_value[j]的曲线图。
图13表示通过offset_sequence_id=1、2、3、4的偏移序列定义怎样的进深的一例。
图14表示有关第1实施方式的记录介质的内部结构。
图15更详细地表示在PES包列中怎样保存视频流。
图16是示意地表示将主TS怎样多路复用的图。
图17表示主TS及副TS的内部结构。
图18表示播放列表信息的内部结构。
图19表示基本流选择表的一例。
图20表示扩展流选择表的内部结构。
图21表示扩展流选择表的流登录列。
图22表示通过基本流选择表、扩展流选择表从主TS、副TS中多路分离怎样的ES。
图23表示在进行图22那样的多路分离的情况下、怎样参照基本流选择表、扩展流选择表的流登录列。
图24表示模式中的流号码的分配变化。
图25表示用来使用面向对象型编译器语言记述扩展流选择表的句法。
图26表示再生装置的内部结构。
图27表示通过结合流登录列将怎样的包标识符输出给多路分离部。
图28表示通过结合流登录列将怎样的包标识符输出给多路分离部。
图29表示再生装置被设定为B-D演示模式、存在B-D能力的情况下的包标识符的参照及包输出。
图30表示再生装置被设定为1plane+Offset模式的情况下的包标识符的参照及包输出。
图31表示再生装置被设定为2D演示模式的情况下的包标识符的参照及包输出。
图32表示在再生装置中存在B-D演示模式的能力的情况下的包标识符的参照及包输出。
图33表示播放列表再生顺序。
图34表示流选择过程(procedure)的处理顺序。
图35表示对应于流号码的包标识符的输出处理的顺序。
图36是表示PG平面位移的处理顺序的流程图。
图37是表示文本字幕流是再生对象的情况下的PG平面位移的处理顺 序的流程图。
图38是表示IG平面的平面位移的流程图。
图39是表示STN_table_SS的Fixed_offset_during_Popup是开启的情况下的IG平面的平面位移的处理顺序的流程图。
图40表示区段(extent)与文件2D/文件基础、文件从属的对应建立。
图41表示立体视觉交错流文件与文件2D/文件基础的关系。
图42表示立体视觉交错流文件、文件2D、文件基础的相互关系。
图43表示2D播放列表、3D播放列表。
图44表示对图43的3D播放列表添加了另一个副路径的播放列表。
图45表示基础视指示器。
图46表示通过播放列表信息进行的流文件的读入顺序。
图47是表示片断信息文件的内部结构的图。
图48表示区段开始点信息的句法。
图49表示片断信息文件中的入口映射表。
图50表示程序信息中的流属性信息。
图51表示通过入口映射进行的入口点的登录。
图52表示怎样从立体视觉交错流文件构成的数据块复原ATC序列。
图53是表示ATC序列的复原的图。
图54表示ATC序列的复原顺序。
图55表示多路分离部及视频解码器的内部结构。
图56表示PG流的图形解码器的内部结构。
图57表示文本字幕解码器的内部结构。
图58表示IG解码器的解码器模型。
图59表示用来将解码器模型的输出合成、以3D-LR方式输出的电路结构。
图60表示用来将解码器模型的输出合成、以1plane+Offset模式方式输出的电路结构。
图61表示多层化的光盘的内部结构。
图62表示以文件***为前提的光盘的应用格式。
图63表示记录介质的记录方法。
图64是表示编辑过程的处理顺序的流程图。
图65表示AV文件写入工序的处理顺序。
图66表示记录装置的内部结构。
图67表示2D/3D再生装置的结构。
图68表示***目标解码器4及平面存储器组5a的内部结构。
图69是描绘了寄存器组10的内部结构和再生控制引擎7b的图。
图70表示输出模式的选择模型的状态变迁。
图71表示Initialization(初始化)的处理顺序。
图72表示Procedure when playback condition is changed(再生条件变化时的过程)的处理顺序。
图73表示用于3D再生模式实现的播放器设定寄存器的位分配。
图74表示宏块的进深与用于位移控制的参数的关系。
图75是表示与视频流的编码并行执行的、偏移序列的定义顺序的流程图。
图76是表示字幕流的窗口定义段、控制信息的图。
图77是表示DS中的PCS的记述例的图。
图78表示在实施了使用conposition_object内的3d_graphics_offset的插补的情况以及不实施插补的情况下、偏移在时间上怎样变化。
图79表示由画面的各分割区域的偏移构成的偏移序列。
图80表示画面内的物体的进深与偏移的关系。
图81表示再生装置中的视频解码器、基础视视频平面、从属视视频平面存储器、PG/IG平面。
图82表示图形平面的内容与偏移的关联性。
图83表示深度视方式的一例。
图84表示在3D-Depth模式下生成的立体视觉图像。
图85表示用来实现3D-Depth模式的记录介质的结构例。
图86表示通过目录名和文件扩展名来区别在2D和3D的情况下再生的流文件的构造、还有区别以LR形式和Depth形式再生的流文件的构造。
图87表示包括基本缓冲器的尺寸信息的播放项目信息。
图88表示追加了进深信息的3D元数据。
图89是使用集成电路实现2D/3D再生装置的结构例。
图90是表示流处理部的代表性的结构的功能模块图。
图91是切换部为DMAC的情况下的切换部653周边的概念图。
图92是表示AV输出部的代表性的结构的功能模块图。
图93是详细地表示AV输出部或再生装置的数据输出部分的结构例。
图94是表示图像重叠处理中的、存储器与各平面的关系的图。
图95是图像重叠部的图像重叠处理的概念图。
图96是图像重叠部的图像重叠处理的概念图。
图97是图像重叠部的图像重叠处理的概念图。
图98是图像重叠部的图像重叠处理的概念图。
图99是表示集成电路中的控制总线及数据总线的配置的图。
图100是表示集成电路中的控制总线及数据总线的配置的图。
图101是简单地表示再生装置的动作顺序的流程图。
图102是详细地表示再生装置的动作顺序的流程图。
图103表示基础视视频流的片断信息中的区段开始点信息的一例、以及从属视流的片断信息中的从属开始点信息的一例。
图104是用来说明ATC序列1、2中的任意的数据块的源包号码的图。
具体实施方式
参照附图,对具备上述发明内容的记录介质及再生装置的实施方式进行说明。首先,对立体视觉的原理简单地叙述。
一般,在右眼和左眼中,因为其位置的差异,对于从右眼看到的像和从左眼看到的像,在看到的样子中存在一些差异。利用该差异,人能够将眼睛中看到的像识别为立体。在进行立体显示的情况下,利用人的视差,使平面的图像看起来宛如是立体。
具体而言,在平面显示的图像中,在右眼用的图像和左眼用的图像中有相当于看到的样子之差的程度的差,该看到的样子之差相当于人的视差,通过以较短的时间间隔切换显示这些图像,看起来宛如进行了立体的显示。
该较短的时间间隔只要是通过上述切换显示使人错觉为看起来是立体的程度的时间就可以。作为立体视觉的实现方法,有使用全息技术的方法、 以及使用视差图像的方式。
首先,作为第1项全息技术的特征,虽然能够与人识别通常物体完全相同地将物体作为立体再现,但关于运动图像生成,虽然建立了技术性的理论,但需要与实时生成全息用运动图像的庞大的运算量相应的计算机、以及具有在1mm间引几千条线的解析度的显示装置,目前的技术下的实现非常困难,几乎没有作为商用而实用化的例子。
第2项是使用视差图像的方式。该方式的优点是仅通过至多准备右眼用和左眼用的两个视点的影像就能够实现立体视觉,在技术上,从如何能够使对应的眼睛仅看到对应于左右各眼睛的画的观点看,以继时分离方式为代表的一些技术已实用化。
所谓继时分离方式,是使左眼用影像及右眼用影像在时间轴方向上交错地显示而通过眼睛的残像反应而使左右的场景在脑内重合来识别为立体影像的方法。
在上述哪种方式中,立体视觉影像都由至少两个视点影像构成。所谓视点影像,是具有某种偏向性的影像,至少两个视点影像由主视影像和副视影像构成。并且,主视、副视分别被从记录介质通过视频流供给的情况下,在记录介质中记录作为供给主视的视频流的主视视频流、以及作为供给副视的视频流的副视视频流。在以后的说明中出现的记录介质是用来适当地记录这些主视视频流和副视视频流的记录介质。
此外,本说明书中的再生装置是为了将上述主视视频流、副视视频流再生而具备2D再生模式、3D再生模式的两个再生模式,并能够进行它们的相互切换的2D/3D再生装置(播放器)。
图1表示关于记录介质、再生装置、显示装置、眼镜的使用行为的形态。如图1(a)所示,作为记录介质的一例的记录介质100、再生装置200、电视机300、3D眼镜400、遥控器500一起构成家庭影院***,供用户使用。
记录介质100对上述家庭影院***供给例如电影作品。
再生装置200与显示装置300连接,将记录介质100再生。
显示装置300是电视机,通过显示电影作品的再生影像、或显示菜单等,对用户提供互动性的操作环境。本实施方式的显示装置300是通过用 户佩戴3D眼镜400而实现立体视觉的,但如果显示装置300是柱状透镜方式的,则不需要3D眼镜400。柱状透镜方式的显示装置300通过沿画面中的纵向同时交错排列左眼用的图片和右眼用的图片并在显示装置的画面表面上经由称作柱状透镜的半圆锥上的透镜使构成左眼用的图片的像素仅成像在左眼中、构成右眼用的图片的像素仅成像在右眼中,从而使左右的眼睛看到有视差的图片,实现立体视觉。
3D眼镜400具备液晶开闭器,使用户视听继时分离方式或偏光眼镜方式的视差图像。所谓视差图像,是由进入到右眼中的影像、以及进入到左眼中的影像构成的一组影像,使得仅对应于各个眼睛的图片进入到用户的眼睛中而进行立体视觉。图1(b)表示左眼用影像的显示时。在画面上正显示左眼用影像的瞬间,上述3D眼镜400使对应于左眼的液晶开闭器为透过而对应于右眼的液晶开闭器遮光。图1(c)表示右眼用影像的显示时。在画面上正显示右眼用影像的瞬间,与刚才相反,使对应于右眼的液晶开闭器透光,将对应于左眼的液晶开闭器遮光。
遥控器500是用来受理用于AV再生的操作项目的设备。此外,遥控器500是从用户受理对层级化的GUI的操作的设备,为了受理该操作,遥控器500具备调用构成GUI的菜单的菜单键、使构成菜单的GUI部件的焦点移动的箭头键、对构成菜单的GUI部件进行确定操作的决定键、用于使层级化的菜单回到更上层的菜单的返回键、数值键。
在图1的家庭影院***中,将使显示装置300进行3D再生模式下的图像显示的再生装置的输出模式称作“3D输出模式”。将使显示装置300进行2D再生模式下的图像显示的再生装置的输出模式称作“2D输出模式”。
以上是关于记录介质及再生装置的使用形态的说明。
(第1实施方式)
第1实施方式的特征是,当将用来实现立体视觉再生的主视视频流、副视视频流的组记录到记录介质100中而对再生装置200供给时,在副视视频流内的元数据中装入规定偏移控制的控制信息这一点。
这里的偏移控制,是指对图形平面的水平坐标的右方向及左方向赋予偏移、将描绘有构成主视的图片数据的主视视频平面及描绘有构成副视的图片数据的副视视频平面合成。
进而,用于上述位移控制的控制信息作为将表示上述偏移值的信息及规定上述偏移方向的信息与多个帧中的各帧建立对应而规定的参数序列发挥功能。
在以后的说明中,假设主视及副视实现视差图像方式。视差图像方式(称作3D-LR模式)是分别准备进入到右眼中的影像、以及进入到左眼中的影像、使得各个眼睛中仅进入对应的图片而进行立体视觉的方法。图2表示将用户的脸描绘在左侧、从左眼观察右侧作为对象物的恐龙的骨骼的情况的例子、以及从右眼观察作为对象物的恐龙的骨骼的情况的例子。如果从右眼及左眼的透光、遮光起反复进行,则在用户的脑内,通过眼睛的残像反映而进行左右场景的重合,能够识别为立体影像存在于脸的中央的延长线上。
将视差图像中的、进入到左眼中的图像称作左眼图像(L图像),将进入到右眼中的图像称作右眼图像(R图像)。并且,将各个图片为L图像的运动图像称作左视视频,将各个图片为R图像的运动图像称作右视视频。并且,将通过将左视视频、右视视频数字化来压缩编码而得到的视频流称作左视视频流、右视视频流。
这些左视视频流、右视视频流除了利用时间方向的相关特性的帧间预测编码以外,还通过利用视点间的相关特性的帧间预测编码压缩。右视视频流的图片参照左视视频流的相同显示时刻的图片压缩。作为利用视点间的相关特性的视频压缩的方法,有Multiview Video Coding(MVC)的MPEG-4 AVC/H.264的修正规格。作为ISO/IEC MPEG和ITU-T VCEG的共通项目的Joint Video Team(JVT)于2008年7月完成了称作Multiview Video Coding(MVC)的MPEG-4 AVC/H.264的修正规格的制订。MVC是将多个视点的影像汇总编码的规格,通过不仅将影像的时间方向的类似性、还将视点间的类似性也用于预测编码,从而与多个视点的独立的压缩相比提高了压缩效率。
并且,将通过MVC压缩编码的左视视频流及右视视频流中的、能够以单体解码的视视频流称作“基础视视频流”。将左视视频流及右视视频流的哪个指定为基础视视频流由后述的基础视指示器决定。此外,将左视视频流及右视视频流中的、被基于与构成基础视视频流的各个图片数据的帧间 相关特性压缩编码而能够在将基础视视频流解码后进行解码的视频流称作“从属视视频流”。
将作为被基于视点间相关性压缩编码的左视视频流及右视视频流且能够以单体解码的视频流称作“基础视视频流”。将左视视频流及右视视频流的哪个指定为基础视视频流由播放对象信息内的基础视指示器决定。
在现状下的立体视觉影像的编码中,该MVC方式的编码被认为是最好的,所以在以后的说明中,设“主视视频流”是“基础视视频流”、“副视视频流”是“从属视视频流”而进行说明。
对作为MVC视频流的基础的MPEG4-AVC形式的视频流进行说明。
MVC视频流具有GOP构造,由封闭GOP和开放GOP构成。封闭GOP由IDR图片、接着该IDR图片的B图片、以及P图片构成。开放GOP由Non-IDR I图片、接着Non-IDR I图片的B图片、以及P图片构成。
Non-IDR I图片、P图片、B图片被基于与其他图片的帧相关性而压缩编码。所谓B图片,是指由Bidirectional predictive(B)形式的切片数据构成的图片,所谓P图片,是指由Predictive(P)形式的切片数据构成的图片。在B图片中,有refrenceB(Br)图片和nonrefrenceB(B)图片。
封闭GOP中IDR图片配置在开头。在显示顺序中IDR图片不为开头,但IDR图片以外的其他图片(B图片、P图片)不能与存在于比封闭GOP靠前的GOP中的图片具有依存关系。这样,封闭GOP具有使依存关系完结的作用。
接着,对GOP的内部结构进行说明。开放GOP、封闭GOP中的各个图片数据具有H.264编码方式的视频访问单元构造。
视频访问单元与图片的关系是1视频访问单元=1图片。此外,在BD-ROM中,限制为1PES包=1帧。即,如果运动图像是帧构造,则1PES包=1图片,在是场构造的情况下,为1PES包=2图片。因为这些,PES包将图片以1对1的比率保存。
图3表示用于立体视觉的左视视频流、右视视频流的内部结构的一例。
本图的第2段表示左视视频流的内部结构。在该流中,包括图片数据I1、P2、Br3、Br4、P5、Br6、Br7、P9这些图片数据。将这些图片数据按照Decode Time Stamp(DTS)解码。第1段表示左眼图像。通过将这样解 码的图片数据I1、P2、Br3、Br4、P5、Br6、Br7、P9按照PTS、以I1、Br3、Br4、P2、Br6、Br7、P5、的顺序再生,从而再生左眼图像。
第4段表示右视视频流的内部结构。该右视视频流包括P1、P2、B3、B4、P5、B6、B7、P8的图片数据。将这些图片数据按照DTS解码。第3段表示右眼图像。通过将这样解码后的图片数据P1、P2、B3、B4、P5、B6、B7、P8按照PTS、以P1、B3、B4、P2、B6、B7、P5的顺序再生,从而再生右眼图像。
第5段表示使3D眼镜400的状态怎样变化。如该第5段所示,可知在左眼图像的视听时将右眼的开闭器关闭、在右眼图像的视听时将左眼的开闭器关闭。
在本图中,例如右视视频流的开头P图片参照左视视频流的I图片,右视视频流的B图片参照左视视频流的Br图片,右视视频流的第二个P图片参照左视视频流的P图片。将使基础视视频流的视频帧与从属视视频流的视频帧在1/48秒的显示周期中如“B”-“D”-“B”-“D”那样交替输出的模式称作“B-D演示模式”。
将不是使基础视视频流的视频帧和从属视视频流的视频帧交替地输出、而是进行在将再生模式维持为3D模式的状态下将相同的视频帧重复输出两次以上的处理的再生类型称作B-B演示模式。在B-B演示模式中,仅将可单独再生的基础视视频流的视频帧如“B”-“B”-“B”-“B”那样重复输出。
以上的B-D演示模式、B-B演示模式为再生装置的再生模式的基本,但除了这些模式以外,在再生装置中还存在1plane+Offset模式这样的再生模式。
1plane+Offset模式(也称作3D-Offset模式)是在平面存储器的后段中装入位移部、通过使位移部发挥功能来实现立体视觉的再生模式。平面偏移部通过在左视期间及右视期间中分别使平面存储器中的行单位的像素的坐标向左方向或右方向位移并使右眼视线及左眼视线的成像点向近前方向或进深方向变位,由此使进深感变化。具体而言,如果使像素坐标在左视期间中向左方向、在右视期间中向右方向变化,则两眼的视线的成像点成为近前,如果使像素坐标在左视期间中向右方向、在右视期间中向左方 向变化,则两眼的视线的成像点成为近前。
在该平面位移中,由于用于立体视觉的平面存储器为1个平面就足够,所以最适于简单地形成立体视觉影像。在该平面位移中,由于不过是产生平面的影像来到近前、或去到深处等的立体视觉影像,所以虽然适合于菜单及字幕的立体视觉效果,但对于人物角色及物体的立体视觉效果的实现稍有不足。这是因为不能再生人物角色的脸的凹陷或凹凸等。
在支持1plane+Offset模式的情况下,再生装置的结构如下。为了图形的再生,在再生装置中存在平面存储器和CLUT部、合成部,在该CLUT部、合成部之间装入了平面位移部。并且,位移部使用组装在从属视视频流的访问单元构造中的偏移序列中的偏移来实现上述那样的像素的坐标变化。通过这样,在1plane+Offset模式中的像素的跳出程度与MVC视频流严密地同步。在该1plane+Offset模式之中,有1plane+Zero offset模式。1plane+Zero offset模式是在弹出菜单是开启的情况下使偏移值为零、仅对弹出菜单带来立体视觉效果的显示模式。
成为基于偏移序列的位移控制的对象的平面存储器是构成规定的层模型的多个平面存储器。平面存储器是用来将解码ES得到的一个画面量的像素数据以行单位保存并遵循水平同步信号、垂直同步信号输出这些像素数据的存储器。各个平面存储器保存通过视频解码器、PG解码器、IG解码器的解码得到的1个画面量的像素数据。
规定的层模型由基础视视频平面及从属视视频平面的层级、PG平面的层级、IG/BD-J平面的层级构成,是希望将各层级的平面存储器的保存内容以基础视视频平面→PG平面→IG/BD-J平面的顺序进行层合成的结构。
上述层合成通过在平面存储器的层模型中对层模型的两个层级的全部的组合执行使保存在两个层级的平面存储器中的像素数据的像素值重叠的处理来进行。以下,对各层级的平面存储器进行叙述。
基础视视频平面是能够保存通过将构成基础视视频流的视成分解码得到的一画面量的像素数据的平面存储器。从属视视频平面是能够保存通过将构成从属视视频流的视成分解码得到的一个画面量的像素数据的平面存储器。
演示图形(PG)平面,是用于保存通过以流水线(pipeline)方式动作 的图形解码器进行解码处理而得到的图形的平面存储器。IG/BD-J平面是在某个动作模式中作为IG平面发挥功能、在别的动作模式中作为BD-J平面发挥功能的平面存储器。交互图形(IG)平面是用于保存通过以互动性的处理为前提而动作的图形解码器进行解码而得到的图形的平面存储器。BD-J平面是能够用于保存通过面向对象编程语言的应用进行描绘处理而得到的描绘图像图形的平面存储器。IG平面和BD-J平面是排他性的,在使用任意其一的情况下不使用另一个,所以IG平面和BD-J平面兼用1个平面存储器。
在上述层模型中,关于视频平面,存在基础视用视频平面、以及从属视用视频平面,但关于IG/BD-J平面、PG平面,并不是对于基础视用和从属视用分别存在平面存储器。由此,IG/BD-J平面、PG平面成为位移控制的对象。
图4表示在1plane+Offset模式中、对平面存储器的层模型进行怎样的偏移控制。本图中的平面存储器的层模型由IG平面、PG平面、视频平面、背景背面构成。
如图4(a)所示,在基础视期间中,将PG平面及IG平面向左方向位移。此时,左方向位移后的PG平面被向右侧追加透明区域,左侧的端部被切掉。同样,左方向位移后的IG平面被向右侧追加透明区域,左侧的端部被切掉。
如图4(b)所示,在从属视期间中,将PG平面及IG平面向右方向位移。此时,右方向位移后的PG平面被向左侧追加透明区域,右侧的端部被切掉。同样,右方向位移后的IG平面被向左侧追加透明区域,右侧的端部被切掉。
图5表示通过图4的偏移控制再生出怎样的立体视觉影像。在IG平面的保存内容是受理向前一章的跳跃、以及向下一章的跳跃的GUI部件、PG平面的保存内容是表示“Dinos”的标题的字幕字符的情况下,通过上述那样的1plane+Offset模式时的偏移控制,PG平面、IG平面的保存内容成为图5(a)、图5(b)的内容。
图5(a)表示左位移时的IG平面的保存内容、以及右位移时的IG平面的保存内容。图5(b)表示左位移时的IG平面的保存内容、以及右位移 时的IG平面的保存内容。如果这样进行偏移控制,则成为再生图5(c)那样的立体视觉影像。在该图5(c)的立体视觉影像中,由于对图2所示的恐龙合成了GUI和字幕,所以能够将在现状的BD-ROM内容中进行的伴随着字幕、GUI的电影内容作为立体视觉影像再生。
图6表示1plane+Offset模式的立体视觉的实现方式。
在1plane+Offset模式中,在输出左视视频的情况下,将保存在称作PG平面的平面存储器中的图像数据的坐标向X轴的正方向错移+偏移值。并且,在将平面存储器修剪以使其不从左视视频伸出之后,供与其他平面合成(参照图6(a)上段)。
在输出右视视频的情况下,将平面存储器向X轴的负方向错移偏移值,将平面存储器修剪以使其不从右视视频伸出之后,供与其他平面合成(参照图6(c)下段)。
图6(b)是示意地表示在使用偏移值修剪并重叠后怎样显示给用户的图。如果使用偏移值将平面错移并修剪,则能够为左眼和右眼用制作视差图像,所以能够对平面的图像带来深度。如果存在这样的深度,则用户能够看到平面图像从显示装置的画面浮起那样的表现(参照图6(d))。
图7表示具备用于1plane+Offset模式的控制信息的从属视流的内部结构。第1段是多个GOP,第2段表示构成GOP的多个视频访问单元。这些视频访问单元对应于视成分,在GOP的各个显示帧(图中的Frame(1)~Frame(number_of_displayed_frames_in_GOP))中显示。
第3段表示视频访问单元的内部结构。视频访问单元通过将视频访问单元分界符、序列参数集、图片参数集、MVC可扩展嵌套SEI消息、第一屏部件、序列终端代码、流终端代码排列而构成。并且,在该MVC可扩展嵌套SEI消息之中,存在用户数据保持部。
图8是表示用户数据保持部的内部结构的图。
图8(a)表示用户数据保持部的内部结构。用户数据保持部是未注册用户数据(未登录用户数据),有封闭字幕信息、GOP构造映射、以及偏移元数据的3种。这些种类在保持部中的type_indeicator中明示。
图8(b)表示偏移元数据。偏移元数据是用于PG平面、IG平面、BD-J平面的序列列表,在立体视觉再生模式中用于将演示图形_文本字幕、 IG/BD-J平面在1plane+Offset模式下再生的期间中的偏移设定。具体而言,表示将应与图片数据合成的图形在1plane+Offset模式下再生的情况下的对于PG平面、IG平面、BD-J平面的偏移控制。
元数据必须保存在从属视访问单元的编码顺序中的各GOP的开头的视频部件的MVC可扩展嵌套SEI消息中。包括MVC可扩展嵌套SEI消息的NAL单元不能包含元数据的用户数据保持部以外的其他数据。
图8(b)表示偏移元数据(Offset_metadata)的内部结构。
帧速率(frame_rate)记述有包括偏移元数据的访问单元的帧速率。
演示时间戳(PTS)以90KHz记述GOP的最初的帧速率。
偏移序列号码(number_of_offset_sequence)在0到32的范围中记述序列数。
GOP中的显示帧号码(number_of_displayed_frames_in_GOP)表示包括元数据的GOP中的显示帧数。
number_of_sequence个的偏移序列(offset_sequence[1]~offset_sequence[number_of_sequence])是与视频流中的各个GOP对应的偏移序列的集合。
图8(c)表示偏移序列的内部结构。偏移序列是按照图片组的帧期间表示将上述图形与属于图片群的各图片合成的情况下的控制参数的参数序列,由用number_of_displayed_frames_in_GOP表示的个数的控制参数构成。该控制参数由平面偏移方向信息和平面偏移值构成。
平面偏移方向信息(Plane_offset_direction)指示平面的偏移方向。用值“0”表示前设定,即平面存储器存在于TV与视听者之间,在左视期间中平面被向右方向、在右视期间中平面被向左方向位移。
用值=1表示后设定,即平面存储器存在于TV或屏幕的背后,在左视期间中平面被向左方向、在右视期间中平面被向右方向位移。在平面偏移方向信息表示前设定的情况下,3维坐标系中的控制参数的Z轴坐标为正坐标。在平面偏移方向信息表示后设定的情况下,3维坐标系中的控制参数的Z轴坐标为负坐标。
平面偏移值(Plane_offset_value)是构成图形的像素的水平方向的变位量的指定,以像素单位指示平面的偏移值。
图9表示用来记述偏移元数据的句法。以offset_sequence_id为控制变量的for语句定义number_of_offset_sequence个offset_sequence。
以i为控制变量的for语句定义了number_of_displayed_frames_in_GOP个Plane_offset_direction与Plane_offset_value的组。通过使用这样的for语句,定义了上述那样的偏移序列。
图10是表示正和负的平面偏移的看到的样子的差异的一例的图。在图10(a)、图10(b)中,靠前的一方表示在右视输出时使用位移后的位移后图形平面输出的右视用的图形图像。靠里的一方表示在左视输出时使用位移后的位移后图形平面输出的左视用的图形图像。
图10(a)表示平面偏移的符号是正(将左视用的图形图像向右方向错移、将右视用的图形图像向左方向错移)的情况。如果平面偏移是正值,则左视输出时的字幕看起来位于比右视输出时的字幕靠右。即,由于汇集点(焦点位置)来到比屏幕靠前,所以字幕也看起来靠跟前。
图10(b)表示平面偏移的符号是负的情况。如果是负值,则如图14所示,左视输出时的字幕看起来在比右视输出时的字幕靠左的位置。即,汇集点(焦点位置)比屏幕更靠里侧,所以字幕也看起来靠里。
以上,结束了通过平面偏移的正和负的切换来使字幕进行变化显示画面的位置跳出或进到里侧的方法的说明。
<偏移序列的技术意义>
偏移序列通过具备上述数据构造,能够按照视频流时间轴上的各帧定义图形的进深,所以能够定义通过使用某一个偏移序列、根据任意的帧时间t导出对应于该帧时间的进深z的函数Z(t)。该函数Z(t)如果是使进深相对于帧时刻t线性变化的函数,则再生装置通过将对应于该函数Z(t)的偏移序列用在1plane+Offset模式中,能够随着再生进行而使图形的进深线性地变化。此外,如果函数Z(t)是使进深相对于帧时刻t指数性变化的函数,则再生装置通过将对应于该函数Z(t)的偏移序列用在1plane+Offset模式中,能够随着再生进行而使图形的进深指数性变化。由于能够随着视频流时间轴上的再生时刻的前进而实时地使进深变化,所以能够实现富有现实感的图形的立体视觉再生。
图11是使横轴为时间轴、使纵轴为Plane_offset_value[j]的曲线图。横 轴的时间轴中,构成从属视访问单元的各个GOP为一个时间单位。纵轴中的正方向表示Plane_offset_direction[j]是0的情况下的Plane_offset_value[j],纵轴中的负方向表示Plane_offset_direction[j]是1的情况下的Plane_offset_value[j]。并且,曲线图中的曲线、直线表示基于offset_sequence_id=1、2、3、4的偏移序列的Plane_offset_direction[j]的时间性位移。它们中的offset_sequence_id=1、4的偏移序列是定义相对于时间轴线性变化的进深的线性函数的偏移序列,offset_sequence_id=2、3的偏移序列是定义相对于时间轴以抛物线状变化的进深的抛物线函数的偏移序列。
图12是使横轴为时间轴、使纵轴为Plane_offset_value[j]的曲线图。横轴的时间轴中,从属视访问单元的GOP的各个帧为一个时间单位。由此,可知如果将图11所示的offset_sequence_id=1、2、3的偏移序列以帧的时间精度表现,则在各帧期间中为离散的值。各偏移序列能够定义每1秒24个离散的进深,所以能够以每1秒24次的时间精度使各偏移序列的进深变化。由此,与正篇的基于运动图像的立体视觉影像相比并不逊色。通过现实感较高的进深变化,能够使3维坐标系中的图形的Z坐标变化。
此外,由于元数据能够保存多个偏移序列,所以通过使用多个偏移序列1、2、3、4、……、n,能够定义进深的时间性变化相互不同的多个进深函数Z1(t)、Z2(t)、Z3(t)、Z4(t)、……Zn(t)。这里,如果使用多个偏移序列1、2、3、4、……n,以使进深函数Z1(t)是使进深对应于变量t变化的1次函数、Z2(t)是二次函数、Z3(t)是三次函数、Z4(t)是四次函数、Zn(t)是n次函数,则能够定义进深与帧时间的相关性不同的多个进深函数。
在再生装置的动作时,如果进行选择多个偏移序列1、2、3、4、……n的某一个的动作,则能够根据再生装置的状态变化及来自用户的请求,从多个进深函数Z1(t)、Z2(t)、Z3(t)、Z4(t)、……Zn(t)中选择最佳的函数,用在1plane+Offset模式中。通过这样,能够使1plane+Offset模式中的图形的进深的变化方式具有各种变化。
在本实施方式中定义的多个偏移序列分别规定进深的时间性变化不同的显示位置,所以通过在再生装置中执行规定的流选择过程,选择多个偏移序列中的最佳的序列,由此能够使图形配置在适当的位置上。
以上是关于第1技术意义的说明。接着,对第2技术意义的详细情况进行说明。
作为第2技术意义,是能够定义与画面中的移动体上的各个部位对应的进深这一点。在图2所示的恐龙的骨骼中,在头、躯干、脚、尾各个部位处其进深与其自身不同。进而,在运动图像中,这些头、躯干、脚、尾的各个部位的进深随时间而变迁,所以在元数据中具有能够将偏移序列定义多个的数据构造,以便能够将表示这些头、躯干、脚、尾的各个部位的刚好跟前的位置的进深的控制参数按照GOP的各帧明示。
图13表示通过offset_sequence_id=1、2、3、4的偏移序列定义怎样的进深的一例。
这里,offset_sequence_id=1、2的偏移序列指定用来将字幕/菜单配置到用户与恐龙之间的适当的进深,offset_sequence_id=3、4的偏移序列是指定用来将字幕/菜单配置到恐龙的后方的适当的进深的。并且,它们中的offset_sequence_id=1的偏移序列将进深定义在用户的附近,offset_sequence_id=2的偏移序列定义恐龙的近前的进深。offset_sequence_id=3的偏移序列定义沿着恐龙的脚下的进深,offset_sequence_id=4的偏移序列指定用来将字幕/菜单配置到比恐龙远靠后的适当的进深。
由于能够定义表示立体物的头、躯干、脚、尾的各个部位的刚好近前的位置的进深的控制参数、并且能够按照GOP的各帧定义该控制参数的时间性变位,所以如果使用用图9的句法定义的数据构造,则能够实现细致且高精度的1plane+Offset模式下的位移控制。
图中的恐龙是在画面内活动的物体,在字幕/菜单的适当的进深时时刻刻变化的情况下,也能够通过指定偏移序列的某个来将字幕/菜单配置到恐龙的适当的位置上。
以上是关于第2技术特征的说明。
图14表示有关第1实施方式的记录介质的内部结构。如图14(a)所示,在有关第1实施方式的记录介质中,记录有“索引表文件”、“动作模式对象的程序文件”、“播放列表信息文件”、“流信息文件”、“流文件”。
<索引表文件>
索引表文件是关于记录介质整体的管理信息,通过在向再生装置***记录介质后、将索引表文件最先读出,在再生装置中唯一地识别记录介质。
索引表文件规定能够保存在再生装置的标题号码寄存器中的多个标题号码、与规定动作模式的动作模式对象之间的对应建立。所谓记录在记录介质中的标题,是指由标题号码确定的动作模式对象与从该动作模式对象再生的播放列表的组。电影作品与标题的关系是电影作品与其多个版本的关系。即,仅有1个版本的电影作品为“电影作品=标题”的关系。在电影作品中有剧场公开版、导演剪辑版、TV放映版等多个版本的情况下,电影作品的各个版本为1个标题。
这里,标题号码寄存器中的标题号码有0、1~999、不定值(0xFFFF)的号码。标题号码0是顶层菜单标题的标题号码。所谓顶层菜单标题,是能够通过用户的菜单调用操作而调用的标题。不定值(0xFFFF)的标题号码是第一播放标题的标题号码。所谓第一播放标题,是在记录介质刚装填之后、进行向视听者的警告或内容提供商的标志显示等的标题。
索引表具有分别对应于各标题号码的入口(索引表入口),通过在各个索引表入口中记述规定动作模式的动作模式对象,详细地规定各个标题以怎样的动作模式动作。索引表入口用以下的共通的数据构造定义。该共通的数据构造包括“对象类型”、“电影对象参照”、以及“对象文件名信息”。“对象类型”表示与对应的标题建立了关联的动作模式对象是Movie对象还是BD-J对象。“对象文件名信息”表示与标题建立了关联的BD-J对象的文件名。“电影对象参照”表示与标题建立了关联的电影对象的标识符。
在再生装置中,标题号码寄存器的值在记录介质的装填后以不定值0xFFFF→1~999→0那样变化。该标题号码的变化是在记录介质的装填时开始第一播放标题的再生、在第一播放标题的再生后进行由1到999的标题号码寄存器的标题号码指示的标题的再生、如果由标题号码指示的标题的再生结束、则将顶层菜单标题再生而进行用户的选择等待的变化。具有1~999的标题号码的标题中的、具有与保存在标题号码寄存器中的标题号码相同的标题号码者,为当前的再生对象、即当前标题。对标题号码寄存器设定怎样的号码,通过对顶层菜单的用户操作、以及程序进行的标题号码寄存器的设定来决定。
<动作模式对象的程序文件>
动作模式对象的程序文件保存有作为规定再生装置的动作模式的程序的动作模式对象。在动作模式对象中,有通过命令记述的对象、以及通过面向对象的编译器语言记述的对象。前者的动作模式对象在基于命令的动作模式中将多个导航命令作为批处理任务供给到再生装置中、基于这些导航命令使再生装置动作。将该基于命令的动作模式称作“HDMV模式”。
后者的动作模式对象在基于面向对象型的编译器语言的动作模式中,将类构造体的例程供给到再生装置中,基于该例程使再生装置动作。在类构造体的例程中,可以使用Java(TM)应用。将基于面向对象型的编译器语言的动作模式称作“BD-J模式”。
<播放列表信息文件>
播放列表信息文件是保存有用来使再生装置再生播放列表的信息的文件。所谓“播放列表”,是在传输流(TS)的时间轴上规定再生区间、并且通过在逻辑上指定该再生区间彼此的再生顺序而规定的再生路径,具有规定在TS中将哪个再生哪个部分、以怎样的顺序进行场景展开的作用,播放列表信息定义该播放列表的“类型”。由播放列表信息定义的再生路径是所谓的“多路径”。所谓多路径,是集合了对作为主导的TS定义的再生路径(主路径)、以及对作为从属的流定义的再生路径(副路径)的路径。主路径是1条,相对于此,副路径可以定义多条,这些多个副路径通过称作副路径ID的标识符识别。在该多路径的再生时间轴上定义章节位置。通过使再生装置参照该章节位置,能够使再生装置实现对于多路径的时间轴的对于任意的时刻的随机的访问。在BD-J模式中,通过用于再生控制的Java(TM)应用对Java(TM)虚拟机命令将该播放列表信息再生的JMF播放器例程的生成,能够开始多路径的AV再生。所谓JMF(JavaMedia Frame work)播放器例程,是基于JMV播放器类在虚拟机的堆存储器上生成的实际的数据。在HDMV模式中,通过使再生装置执行命令基于播放列表的再生的导航命令,能够开始再生。在再生装置中,包括保存当前的播放列表信息的号码的播放列表号码寄存器,多个播放列表信息中的、保存在该播放列表号码寄存器中的信息为当前的再生对象。
<流信息文件>
流信息文件是与各个流文件以一对一的比例存在的片断信息文件,表示存在于流文件内的源包列构成怎样的ATC序列、在这些ATC序列内组装有怎样的STC序列、ATC序列是怎样的TS。
流信息文件是使流文件的内容清晰化的文件,在想要将流文件内的TS再生的情况下,需要将对应于该流文件的流信息文件预先读出到存储器中。即,在流文件再生时,采用预先将流信息文件读出到存储器中的前置方案。采用这样的前置方案基于以下的理由。保存在流文件中的TS为与欧洲数字广播规格有兼容性的数据构造,但由于用来作为广播节目处理的PMT、PCR、PAT等信息存在于流内,所以每当再生时将它们取出并不明智。这是因为,每当将流再生时,需要访问低速的记录介质而将构成TS的包读出、将该TS包的有效载荷解析的处理。所以,以与保存有TS的流文件一对一的比率设置流信息文件,在流再生之前将流信息文件读出到存储器中,以便能够不解析构成TS的有效载荷的内容而掌握TS的各要素。
<流文件>
流文件保存有1个或多个源包列。所谓源包,是附加了由2位的复制许可指示器、以及30位的ATS(到达时刻:Arrival Time Stamp)构成的4字节的TP_Extra_Header的TS包,TP_Extra_header的ATS是指进行实际时间传送、确保了等时性的状态下的传送中的到达时刻。
在这些源包列中的、由在到达时间时钟(ATC)时间轴上时间戳连续的多个源包构成的源包列称作“ATC序列”。所谓“ATC序列”,是源包的排列,是指在其Arrival_Time_Stamp参照的Arrival_Time_Clock中不存在不连续点(no arrival time-base discontinuity)的排列。换言之,将在其Arrival_Time_Stamp参照的Arrival_Time_Clock中存在连续性的源包列称作“ATC序列”。由于ATC序列是ATC的时间戳连续的源包列,所以在将再生装置的到达时间时钟计时的时钟计时器进行计时的期间中,构成ATC序列的各源包被提供给连续的源包解包处理、以及连续的包过滤处理。
相对于ATC序列是源包的排列,将STC时间轴上的时间戳连续的TS包的排列称作STC序列。所谓“STC序列”,是TS包的排列,是指不具有作为TS的***基准时刻的STC(System Time Clock)的不连续点(system time-base discontinuity)的排列。所谓STC的不连续点,是运送解码器为了 得到STC而参照的PCR(Program Clock Reference)的PCR包的不连续信息(discontinuity_indicator)是ON(开启)的点。由于STC序列是STC的时间戳连续的TS包列,所以在计时再生装置的***时间时钟的时钟计时器进行计时的期间中,将构成STC序列的各TS包提供给存在于再生装置内的解码器的连续的解码处理。
流文件中的主TS、副TS由对应于流文件的流信息文件内的片断信息作为1个“AV流的切割端”、即“AV片断”管理。
此外,保存在流文件中的包列作为用来管理、控制多个种类的PES流的信息而具备由欧洲数字广播规格规定的包管理信息(PCR、PMT、PAT)。
PCR(Program_Clock_Reference)为了取作为ATS的时间轴的ATC(Arrival Time Clock)与作为PTS-DTS的时间轴的STC(System Time Clock)的同步而具有与该PCR包被传送给解码器的ATS对应的STC时间的信息。
PMT(Program_map_table)具有包含在流文件中的影像、声音、图形等各流的PID和对应于各PID的流的属性信息,还具有关于TS的各种描述符。在描述符中,有指示许可/不许可流文件的复制的复制控制信息等。
PAT(ProgramAssociation Table)表示在TS中利用的PMT的PID是什么,以PAT自身的PID排列登录。
这些PCR、PMT、PAT在欧洲数字广播规格中具有规定构成一个广播节目(Program)的部分TS的作用,再生装置如在欧洲数字广播规格中处理构成一个广播节目的部分TS那样,能够将TS提供给解码器的处理。这是想要实现欧洲数字广播规格的终端装置与记录介质再生装置的兼容性。将TS中的、作为多路径的基轴的TS称作“主TS”。此外,将作为副路径的基轴的TS称作“副TS”。
图14(b)表示主TS的内部结构,图14(c)表示副TS的内部结构。如图14(b)所示,假设主TS包括1个基础视视频流、32个基础视PG流、32个基础视IG流、32个音频流。如图14(c)所示,假设副TS包括1个从属视视频流、32个从属视PG流、32个从属视IG流。
接着,对TS的内部结构进行说明。
图15更详细地表示在PES包列中怎样保存视频流。图15(a)的第1段表示视频流的视频帧列。第2段表示PES包列。第3段表示通过将这些 PES包列变换得到的TS包列。如本图的箭头yy1、yy2、yy3、yy4所示,视频流中的作为多个Video Presentation Unit(视频演示单元)的I图片、B图片、P图片被按照图片分割,保存在PES包的有效载荷中。各PES包具有PES头,在PES头中,保存有作为图片的显示时刻的PTS(Presentation Time-Stamp)及作为图片的解码时刻的DTS(Decoding Time-Stamp)。
<TS包列>
图15(b)表示构成TS的TS包的形式。第1段表示TS包列,第2段表示源包列。
如第1段所示,TS包是分为具有识别流的PID等信息的4Byte的“TS头”和保存数据的184Byte的“TS有效载荷”的固定长的包,上述说明的PES包被分割而保存在TS有效载荷中。
根据第2段,对于TS包赋予了4Byte的TP_Extra_Header,在变换为192Byte的源包的状态下构成TS。在TP_Extra_Header中记载有ATS(Arrival_Time_Stamp)等信息。ATS表示该TS包的向PID过滤器的传送开始时刻。在TS中,如第3段所示那样排列有源包,将从TS的开头起增加的号码称作SPN(源包号码)。
<TS中的多路复用>
图16是示意地表示将主TS怎样多路复用的图。首先,将左视视频流及音频流(第1段)分别变换为PES包列(第2段)、变换为源包列(第3段)。同样,将左视PG流及左视交互图形(第7段)分别变换为PES包列(第6段),再变换为源包列(第5段)。将这样得到的构成视频、音频、图形的源包以该ATS的顺序排列。这是因为,源包应当按照该ATS读入到读取缓冲器中。这样,如果按照ATS排列源包,则能够得到主TS。
·多路复用到TS中的基本流
多路复用在这些TS中的基本流(ES)有视频流、音频流、演示图形流、交互图形流。
·视频流
作为基础视的视频流构成画中画应用的主要视频流。画中画应用除了该主要视频流以外,还由次要视频流构成。所谓主要视频流,是由在画中画应用中作为母画面的图片数据构成的视频流。对照地看,所谓次要视频 流,是由在画中画中作为子画面嵌入到母画面的一部分中的图片数据构成的视频流。
构成主要视频流的图片数据和构成次要视频流的图片数据在解码后被保存到各自的平面存储器中。在保存构成次要视频流的图片数据的平面存储器的前段,存在进行构成副视频流的图片数据的范围变更及显示坐标的定位的构成要素(Scalling&Positioning)。
·音频流
在音频流中,有主要音频流、次要音频流的两种。主要音频流是在进行混合再生的情况下应作为主声音的音频流,次要音频流是在进行混合再生的情况下应作为副声音的音频流。副音频流存在用于为了该混合的下降采样的信息、用于增益控制的信息。
·演示图形流(PG流)
PG流是通过在解码器中采用流水线、能够实现与影像的精密的同步、适合于字幕显示的图形流,有2DPG流和立体视觉PG流的两种。在立体视觉PG流中,有左视PG流及右视PG流的两种。左视PG流及右视PG流中的、由基础视指示器指定者为基础视PG流,没有由基础视指示器指定者为从属视PG流。
除了2DPG流以外还设置立体视觉PG流是因为,在PG流表示字幕字符的情况下,需要使用2D显示的从正面观察的字幕字符、在3D-LR模式中为左眼用显示的图形、以及为右眼用显示的字幕字符不同。因此,在2D再生的情况下将从正面观察的图形流显示1个、为3D-LR模式用而显示左视PG流、右视PG流的共计两个。同样,在使用深度信息的3D-Depth模式的情况下,将从正面观察的影像和表示深度信息的灰度流再生。2D+offset(2D兼容流)和3D-LR流不能混杂。
2DPG流最大可以定义为32个,基础视PG流最大可以定义32个,从属视PG流也最大可以定义32个。对于这些PG流分别赋予各个包标识符,通过对多路分离部指示应再生的包标识符,将这些PG流中的希望的PG流为再生提供。
左视PG流、右视PG流相互使语言属性一致,即使用户切换显示方式,也显示相同内容的字幕。作为前提,2D字幕和3D字幕一对一地对应,必 须设置只能在2D中的字幕、以及只能在3D中的字幕。这是为了防止切换时的用户混乱。通过这样,通过一个流号码选择对应于2D/3D各自的显示模式的流。在此情况下,通过1个流号码,语言属性等也相同,2D和LR的字幕的内容变为相同。
通过流水线的解码动作的实现,实现与运动图像的精密的同步,所以PG流的用途并不限定于字幕那样的字符再生。如果是显示电影作品的吉祥物角色、使其与运动图像同步动作等,只要是需要精密的同步的图形再生,怎样的内容都可以作为PG流的再生对象采用。
虽然没有多路复用到流文件中,但在呈现字幕的流中,除了PG流以外,还有文本流(textST)流。textST流是将字幕的内容用字符码表现的流。
PG流、文本字幕流不区别它们的种类而作为相同的流种类,将这些PG流及文本字幕流登录在相同的流登录列中。并且,在执行流选择的过程时,按照流登录列中的流登录的顺序,决定应再生的PG流或文本字幕流。由于PG流、文本字幕流不区别流种类而提供给流选择的过程,所以将这些PG流及文本字幕流用1个流种类、即称作“PG_文本字幕流(也有简称作字幕流的情况)”的种类处理。
将2D用的PG_文本字幕流在1plane+Offset模式下再生。在以后的说明中,设2DPG_文本字幕流为1plane+OffsetPG_文本字幕流而进行说明。
·交互图形(IG)流
IG流是通过具备对话操作的信息,从而能够随着视频流的再生进行而显示菜单、或按照用户操作显示弹出菜单的图形流。
IG流也与PG流同样,有2DIG流和立体视觉IG流的两种。在立体视觉IG流中,有左视IG流及右视IG流的两种。左视图形流及右视图形流中的、由基础视指示器指定者为基础视IG流,没有由基础视指示器指定者为从属视IG流。2DIG流最大可以定义为32个,IG流最大可以定义32个,从属视IG流也最大可以定义32个。对于这些IG流分别赋予各个包标识符,通过对多路分离部指示应再生的包标识符,将这些IG流中的希望的IG流为再生提供。
IG流的控制信息(称作对话控制段)具有规定用户接口模型的信息(User_interface_model),编辑者通过设定该用户接口模型信息,能够指定 是随着视频流的再生进行而显示菜单(称作总是开启)、还是按照用户操作显示弹出菜单(弹出菜单开启)。
IG流具有对话操作的信息的意义如下。在Java(注册商标)虚拟机根据来自应用的请求而对作为再生控制的主体的再生控制引擎指示播放列表再生的开始的情况下,Java虚拟机在对再生控制引擎命令再生之后,对应用返回表示已开始播放列表再生的应答。即,在再生控制引擎的播放列表再生持续的期间中,Java虚拟机不会成为执行结束等待。这是因为,Java虚拟机是所谓的事件驱动型的动作主体,即使在再生控制引擎进行播放列表再生的期间中也能够进行动作。
另一方面,在HDMV模式中,在命令指示器对再生控制引擎命令播放列表再生的情况下,成为该播放列表再生的执行结束等待,直到播放列表再生结束。在再生控制引擎的再生持续的期间中,命令执行部不能执行互动性的处理。代替该命令指示器,图形解码器进行互动性的动作。为了使图形解码器进行互动性的动作,在IG流中装入了规定使用按钮部件的互动性的操作的控制信息。
·在各流种类中容许的显示模式
容许3D显示模式的哪个根据流种类而不同。在主要视频流的3D显示模式中,容许B-D演示模式、B-B演示模式的两个再生模式。在主要视频流中容许B-B演示模式的只是弹出菜单为开启的情况。将在B-D演示模式下再生的情况下的主要视频流的类型称作“立体视觉B-D再生类型”。将在B-B演示模式下再生的情况下的主要视频流的类型称作“立体视觉B-B再生类型”。
在PG流的3D显示模式中,容许B-D演示模式、1plane+Offset模式、1plane+Zero offset模式的3个再生模式。在PG流中容许1plane+Zero offset模式的只是弹出菜单为开启的情况。将在B-D演示模式下再生的情况下的PG流的类型称作“立体视觉再生类型”。将在1plane+Offset模式下再生的情况下的PG流、PG_文本字幕流的类型称作1plane+Offset类型。将在1plane+Zero offset模式下再生的情况下的PG流、PG_文本字幕流的类型称作1plane+Zero offset类型。
在文本字幕流的3D显示模式中,有1plane+Offset模式、1plane+Zero offset模式的两个再生模式。在文本字幕流中容许1plane+Zero offset模式的只是弹出菜单为开启的情况。
在IG流的3D显示模式中,容许B-D演示模式、1plane+Offset模式、1plane+Zero offset模式的3个再生模式。在IG流中容许1plane+Zero offset模式的只是弹出菜单为开启的情况。在以后的说明中,只要没有特别说明,就假设在3D再生模式执行时不能使用画中画。这是因为,画中画及3D再生模式都需要两个用来保存非压缩的图片数据的视频平面。此外,只要没有特别说明,就假设在3D再生模式中也不能使用声音混合。
接着,对主TS及副TS的内部结构进行说明。图17表示主TS及副TS的内部结构。
图17(a)表示主TS的内部结构。主TS由以下的源包构成。
具有0x0100的包ID的源包构成Program_Map_Table,具有0x1001的包ID的TS包构成PCR。
具有0x1011的包ID的源包列构成主要视频流。
到具有0x1200到0x121F的包ID的源包列为止构成32个2DPG流。
到具有0x1400到0x141F的包ID的源包列为止构成32个2DIG流。
从具有0x1100的包标识符的源包列到具有0x111F的包标识符的源包列构成主要音频流。
通过将这些源包的包标识符指示给多路分离部,能够将多路复用在主TS中的多个ES中的希望的ES分离而提供给解码器。
图17(b)表示副TS的内部结构。副TS由以下的源包构成。
具有0x1012的包标识符的源包列构成从属视视频流。
从具有0x1220的包标识符的源包列到具有0x123F的包ID的源包列构成32个基础视PG流。
从具有0x1240的包标识符的源包列到具有0x125F的包标识符的源包列构成32个从属视PG流。
从具有0x1420的包标识符的源包列到具有0x143F的包ID的源包列构成32个基础视IG流。
从具有0x1440的包标识符的源包列到具有0x145F的包标识符的源包列构成32个从属视IG流。
以上是关于流文件的说明。接着,对播放列表信息的详细情况进行说明。
由于定义上述那样的多路径,所以具有图18那样的内部结构。本图表示播放列表信息的内部结构。如图18(a)所示,播放列表信息包括“主路径信息”、“副路径信息”、“播放列表标记信息”、“扩展数据”。以下,对这些构成要素进行说明。
1)主路径信息由1个以上的主要的再生区间信息构成。图18(b)是表示主路径信息及副路径信息的内部结构的图,如该图所示,主路径信息由1个以上的主要的再生区间信息构成。副路径信息由1个以上的从属的再生区间信息构成。
将主要的再生区间信息称作播放项目信息,是通过将TS的再生时间轴中的、作为In_Time的时刻、以及作为Out_Time的时刻的组定义1个以上、定义逻辑的再生区间的信息。在再生装置中包括保存当前的播放项目的号码的播放项目号码寄存器,多个播放列表信息中的、保存在该播放项目号码寄存器中的播放列表信息为当前的再生对象。
图18(c)表示播放项目信息的内部结构。如该图所示,包括“流参照信息”、“进入时间退出时间信息”、“连接状态信息”、“基本流选择表”。
流参照信息包括表示将构成播放项目的传输流作为“AV片断”管理的片断信息文件的“片断信息文件名信息(clip_information_fle_name)”、表示该TS的编码方式的“片断编码方式标识符(Clip_codec_indentifier)”、以及在该TS的STC序列中表示设定了进入时间及退出时间的STC序列是哪个的“STC识别参照(STC_ID_referrence)”。
作为再生区间的播放项目具有播放项目信息-片断信息-AV片断的层级构造,关于AV片断及片断信息的组与播放项目信息的比率为1对多的关系,能够从多个播放项目信息多重参照1个AV片断。由此,通过采用为某个标题制作的AV片断作为库文件(bank file)并从多个播放项目信息参照它,能够高效率地制作电影作品的变形(另外,所谓库文件,是电影业界的用语,是在多个场景中普遍使用的影像内容)。
如果从许多播放项目信息参照作为库文件的AV片断,则出现了想要按照进行参照的播放项目信息而使库文件中的、应再生的区间变化的要求。 出于按照进行参照的播放项目信息使库文件的应再生的区间变化的目的,在播放项目信息中存在上述In_Time、Out_Time,能够将流再生时间轴的任意的时刻作为再生区间的开始点、结束点使用。
此外,如果从许多播放项目信息参照作为库文件的AV片断,则出现了想要按照进行参照的播放项目信息使使用的声音、字幕、菜单变化的要求。这样,出于按照进行参照的播放项目信息使使用的声音、字幕、菜单变化的目的,在播放项目信息中存在上述流选择表。如果使用该流选择表,则能够仅许可从多路复用在作为主路径的播放项目信息参照的AV片断中的基本流、从多路复用在作为副路径的副播放项目信息参照的AV片断中的基本流中的、对于库场景的引用目标最适当的基本流的再生。
以上是关于播放项目信息的说明。
2)从属的再生区间信息称作副路径信息,由多个副播放项目信息构成。图18(d)表示副播放项目的内部结构。如该图所示,副播放项目信息是通过在STC序列的时间轴上规定进入时间与退出时间的组来定义构成副路径的再生区间的信息,包括“流参照信息”、“进入时间退出时间信息”、“同步播放项目参照”、“同步开始时刻信息”。
“流参照信息”与播放项目信息同样,包括“片断信息文件名信息”、“片断编码方式标识符”、“STC标识符参照”。
“进入时间退出时间信息(SubPlayItem_In_Time,SubPlayItem_Out_Time)”表示STC序列时间轴上的、副播放项目的起点以及STC序列时间轴上的、副播放项目的终点。
“同步播放项目参照(Sync_PlayItem_Id)是唯一指定播放项目中的、本副播放项目应同步的播放项目的信息。副播放项目进入时间存在于由该同步播放项目参照符指定的播放项目的再生时间轴上。
“同步开始时刻信息(Sync_Start_PTS_of_PlayItem)”表示在由同步播放项目参照符指定的播放项目的STC序列的时间轴中、由副播放项目进入时间指定的副播放项目的起点被映射到哪个时刻。
3)播放列表标记信息是定义再生区间固有的标记点的信息,包括表示再生区间的参照符、表示在数字流的时间轴上标记点处于何处的时间戳、以及表示标记点的属性的属性信息。
上述属性信息表示由播放列表标记信息定义的标记点是链接点还是入口标记。
链接点是虽然能够进行通过链接命令的链接、但不会成为由用户进行了章节跳跃操作的情况下的选择对象的标记点。
入口标记是能够进行通过链接命令的链接、并且成为由用户进行了章节跳跃操作的情况下的选择对象的标记点。
装入在IG流的按钮信息内的链接命令以经由播放列表标记信息的间接参照的形式指定开头位置。
<基本流选择表(STreamNumber_table)>
上述基本流选择表是当构成播放列表的多个播放项目中的、包含有该基本流选择表的播放项目为当前播放项目时,按照多个流种类规定在多路复用在由多路径的主路径参照的AV片断中的ES、以及多路复用在由多路径的副路径参照的AV片断中的ES中许可哪个的再生的表。这里的流种类,是指画中画的主要视频流、画中画的次要视频流、声音混合中的主要音频流、声音混合中的次要音频流、PG_文本字幕流、交互图形流等种类,基本流选择表能够按照这些流种类登录应许可再生的流。具体而言,基本流选择表由流登录的排列构成。这里,所谓流登录,与该流号码建立对应而表示当基本流选择表归属的播放项目为当前播放项目时、应许可再生的ES是怎样的流,流登录为将流入口及流属性的组合与逻辑的流号码建立对应的数据构造。
流登录中的流号码用1、2、3那样的整数值表现,流号码的最大数为对应的流种类的流个数。
在再生装置中,按照该流种类而存在流号码寄存器,由保存在这里的流号码指示的ES为作为当前再生对象的ES、即当前流。
在该流入口内,记述有应再生的ES的包标识符。由于在流入口内能够记述应再生的ES的包标识符,所以将流登录中的流号码保存到再生装置的流号码寄存器中,基于流登录的流入口内的包标识符使再生装置的PID过滤器执行包过滤。通过这样,将在基本流选择表中被许可了再生的ES的TS包输出给解码器,进行ES的再生。
基本流选择表中的这些流登录按照流号码的顺序排列,基于流号码的 顺序的流登录的次序在存在多个满足“再生装置能够再生”、“流的语言属性与再生装置的语言设定一致”的条件的流的情况下,通过流登录列中的流号码的次序来决定作为选择对象的流。
通过这样,在基本流选择表的流登录之中存在再生装置不能再生的流的情况下,将该流从再生中排除,此外,在满足“再生装置能够再生”、“流的语言属性与再生装置的语言设定一致”的条件的流存在多个的情况下,编辑者可以将应优先地选择它们中的哪个的方针传达给再生装置。
将是否存在满足“再生装置能够再生”、“流的语言属性与再生装置的语言设定一致”的条件的流的判断、选择满足“再生装置能够再生”、“流的语言属性与再生装置的语言设定一致”的条件的流中的哪个的选择顺序称作流选择过程。流选择过程在当前播放项目切换为新的项目时、或从用户请求了流切换时执行。
将在当前播放列表切换为新的项目等发生了再生装置的状态变化时进行上述那样的判断及选择并对再生装置的流号码寄存器设定流号码的一系列的顺序称作“应在状态变化时执行的过程”。因为流号码寄存器按照流种类而存在,所以按照流种类执行上述过程。
将在由用户进行了流切换请求的情况下进行上述那样的判断及选择并对再生装置的流号码寄存器设定流号码的一系列的顺序称作“被要求了流变化时的过程”。
将在装填了BD-ROM时、将流号码寄存器设定为流登录列中的初始值的步骤称作“初始化”。
由于基本流选择表中的流登录列对由副播放项目信息指定的流、以及由播放项目信息指定的流一律地赋予优先顺序,所以即使是没有与视频流多路复用的流,只要通过副播放项目信息指定了,也就成为应与视频流同步再生的流的选择时的选择对象。
并且,在再生装置能够再生由副播放项目信息指定的流、并且由副播放项目信息指定的流的优先顺序比与视频流多路复用的图形流的优先顺序高的情况下,可以代替与视频流多路复用的流而将由副播放项目信息指定的流为再生提供。
图19表示基本流选择表的一例。图19(a)在流种类中存在主要视频 流、次要视频流、PG流、IG流、次要视频流、次要音频流等种类的情况下,表示设在基本流选择表中的多个流登录列。图19(b)通过基本流选择表表示从主TS、副TS中分离了怎样的ES。该图左侧表示主TS、副TS,正中间表示基本流选择表和多路分离部。右侧表示基于基本流选择表分离的主要视频流、主要音频流、PG流、IG流、次要视频流、次要音频流。
接着,对扩展数据的详细情况进行说明。
在播放列表构成画中画应用的情况下,画中画元数据必须保存在播放列表文件中的扩展数据的数据块中。在播放列表信息参照MVC视频流的情况下,扩展流选择表必须保存在播放列表信息文件中的扩展数据的数据块中。
在播放列表信息参照盘上的MVC视频流、立体视觉IG流再生菜单的MVC视频流的情况下,副路径信息的扩展信息(副路径块扩展)必须保存在播放列表信息文件中的扩展数据的数据块中。
播放列表信息的扩展数据的其他目的被保留。
2D再生装置在遇到播放列表文件中的扩展数据时,必须将未知的扩展数据忽视。
<扩展流选择表(STreamNumber_table_StereoScopic(SS)>
上述扩展流选择表是仅在立体视觉再生模式中与流选择表一起使用的流选择表,定义在播放项目的再生、或将与其关联的副路径再生时能够选择的ES。
上述扩展流选择表表示仅在立体视觉再生模式中应许可再生的ES,包括流登录列。流登录列的各个流登录信息包括流号码、对应于该流号码的流入口、以及流属性。扩展流选择表意味着立体视觉再生模式固有的扩展,所以把将扩展流选择表(STN_table_SS)与各播放项目信息建立了关联的播放列表称作“3D播放列表”。
扩展流选择表中的流入口表示在再生装置被设定为立体视觉再生模式的情况下、当对应的流号码设置在再生装置的流号码寄存器中时、再生装置应用于多路分离的包标识符。这里,与基本流选择表的差异是扩展流选择表中的流登录列不作为流选择过程的对象这一点。即,基本流选择表的流登录列中的流登录信息被解释为各个ES的优先顺序,将某个流登录信息 内的流号码写入在流号码寄存器中。但是,扩展流选择表中的流登录列不作为流选择过程的对象,扩展流选择表中的流登录信息仅当某个流号码保存在流号码寄存器中时、用于取出对应于该流号码的流入口及流属性的目的。
当再生模式从2D再生模式向3D再生模式切换时,作为对象的流选择表从基本流选择表切换为了扩展流选择表,所以如果执行了流选择过程,则不能维持流号码的相同性,甚至有可能也丧失语言属性的相同性。
在从2D再生模式向3D再生模式的切换时,为了维持以语言属性为代表的流属性的相同性,将扩展流选择表的用途也仅限于上述用途。
上述扩展流选择表由从属视视频流的流登录列、PG流的流登录列、IG流的流登录列构成。
扩展流选择表中的流登录列被结合到流选择表的相同的流种类的流登录列中。该结合是通过对流选择表中的主要视频流的流登录列结合扩展流选择表中的从属视视频流的流登录列、在流选择表中的PG流的流登录列上结合扩展流选择表中的PG流的流登录列、在IG流的流登录列上结合扩展流选择表中的IG流的流登录列来进行。
如果进行了上述结合,则对结合后的流选择表中的、基本流选择表的流登录列执行上述过程(procedure)。
图20表示扩展流选择表的内部结构。扩展流选择表由扩展流选择表的整体长(length)、弹出期间固定偏移(Fixed_offset_during_Popup)、以及对应于各播放项目的各自的流种类的流登录列构成。
这里,在存在播放项目#1~#N的N个播放项目的情况下,分别对应于播放项目#1~#N的流登录列设在扩展流选择表中。对应于各播放项目的流登录列是从属视流登录列、PG流登录列、IG流登录列。
“Fixed_offset_during_Popup”是弹出期间固定偏移,在IG流的弹出菜单设定为开启的情况下控制视频及PG_文本字幕流的再生类型。该“Fixed_offset_during_Popup”场在IG流的user_interface_model场设定为开启、即弹出菜单的用户接口设定为开启的情况下设定为开启。在IG流的user_interface_model场设定为关闭、即在设定为总是开启的用户接口的情况下设定为关闭。
在弹出期间固定偏移为“=0”、即在IG流的用户接口中弹出菜单设定为关闭的情况下,视频流成为B-D演示模式。立体视觉PG流成为立体视觉再生类型。在1plane+Offset模式的再生时,PG_文本字幕流成为1plane+Offset模式。
在弹出期间固定偏移为“1”、即在IG流的弹出菜单为开启的情况下,视频流成为B-B演示模式。立体视觉PG流成为1plane+Offset模式模式,1plane+Offset模式用的PG流被作为1plane+Zero offset再生类型再生。
在1plane+Offset模式中,PG_文本字幕流成为1plane+Zero offset。
“偏移序列个数信息(图中的number_of_offset_sequnce)表示从属视流中的偏移序列的个数。
扩展流选择表中的该值与包含在从属视流中的偏移序列的个数相同。
图21表示扩展流选择表的流登录列。
图21(a)表示从属视视频流的流登录列的内部结构。从属视流的流登录列由v(x)个SS_dependent_view_block构成。这里,所谓v(x),是在播放项目信息#x的基本流选择表中许可再生的主要视频流的个数。图中的引出线将从属视流的流登录列的内部结构特写表示。如引出线所示,SS_dependent_view_block由流号码、流入口、流属性、以及number_of_offset_sequence构成。
流入口包括指定从属视视频流的再生路径归属的副路径的副路径标识符参照(ref_to_Subpath_id)、指定保存有从属视视频流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的从属视视频流的包标识符(ref_to_stream_PID_subclip)。
“流属性”包括从属视视频流的语言属性。
“number_of_offset_sequence”表示存在于从属视视频流内的偏移的个数。
在图21(a)中,从属视视频流的流登录列在数据构造上为设有关于多个从属视视频流的流登录信息的构造。通常基础视视频流的个数是1个,所以从属视视频流的流登录信息的个数也唯一。
图21(b)表示PG流的流登录列的内部结构。PG流的流登录列由P(x)个流登录信息构成。这里,所谓P(x),是在播放项目信息#x的基本 流选择表中许可再生的PG流的个数。
图中的引出线将流登录列的共通的内部结构特写表示。
“PGtextST_offset_sequence_id_ref”是PG_文本字幕流偏移序列参照信息,指示关于1plane+Offset模式的PG_文本字幕流的偏移序列。
偏移元数据由从属视视频流的访问单元供给。再生装置必须将由该场提供的偏移应用到1plane+Offset模式类型的演示图形(PG)平面中。
在该场是不定值(FF)的情况下,再生装置不将该偏移应用到PG流平面存储器中。
“is_SS_PG”是指示PG流中的基础视IG的流入口、从属视IG的流入口、流属性的有效性、存在的立体视觉演示图形存在与否标志。在不存在立体视觉PG流的构造的情况下,该场必须设定为0。在存在立体视觉PG流的构造的情况下,该场必须设定为1。
“stream_entry_for_base_view”包括指定基础视PG流的再生路径所归属的副路径的副路径标识符参照(ref_to_Subpath_id)、指定保存有基础视PG流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的基础视PG流的包标识符(ref_to_stream_PID_subclip)。
“stream_entry_for_depentdent_view”包括指定从属视PG流的再生路径所归属的副路径的副路径标识符参照(ref_to_Subpath_id)、指定保存有从属视PG流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的从属视PG流的包标识符(ref_to_stream_PID_subclip)。在由扩展流选择表的流登录信息中的stream_entry_for_depentdent_view参照的流文件与由基本流选择表的流入口参照的流文件不同的情况下,必须将保存有从属视PG流的流文件重新读出。
“stream_attribute”包括基础视PG流及从属PG流的语言属性。
“SS_PG_textST_offset_sequence_id_ref”是用来参照PG_文本字幕流用的偏移序列的参照信息,是指示用于PG_文本字幕流的偏移序列。再生装置必须将由该场提供的偏移应用到PG平面中。
在该场是不定值(FF)的情况下,再生装置不将该偏移应用到PG流平面存储器中。
图21(c)表示IG流的流登录列的内部结构。IG流的流登录列由I(x) 个流登录信息构成。这里,I(x)是在播放项目信息#x的基本流选择表中许可再生的IG流的个数。图中的引出线将流登录列的共通的内部结构特写表示。
“IG_offset_sequence_id_ref”是交互图形偏移序列参照,是1plane+Offset模式的IG流的序列ID的参照。该值指示对偏移序列定义的偏移序列ID。如上所述,将偏移元数据通过从属视视频流供给。再生装置必须将由该场提供的偏移应用到1plane+Offset模式类型的IG流中。
在该场是不定值(FF)的情况下,再生装置不将该偏移应用到交互图形平面中。
“IG_Plane_offset_direction_during_BB_video”是在B-B演示模式中弹出菜单的用户接口,在将IG流再生的期间中,指示1plane+Offset模式中的交互图形(IG)平面的偏移方向。
由值“0”进行前设定,即平面存储器存在于TV与视听者之间,在左视期间中,将平面向右方向位移,在右视期间中,将平面向左方向位移。
以值=1进行后设定,即平面存储器存在于TV或屏幕的背后,将左平面向左方向、将右平面向右方向位移。
“IG_Plane_offset_value_during_BB_video”在以B-B演示模式通过弹出菜单的用户接口将IG流再生的期间中,以像素单位指示1plane+Offset模式中的IG平面的偏移值。
“is_SS_IG”是立体视觉交互图形存在与否标志,指示IG流的基础视IG的流入口、从属视IG的流入口、流属性的有效性和存在。在不存在立体视觉IG流的数据构造的情况下,必须将该场设定为值0。在许可再生的IG流是立体视觉IG流的情况下,必须将该场设定为值1。
“stream_entry_for_base_view”包括指定基础视IG流的再生路径所归属的副路径的副路径标识符参照(ref_to_Subpath_id)、指定保存有基础视IG流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的基础视IG流的包标识符(ref_to_stream_PID_subclip)。
“stream_entry_for_depentdent_view”包括指定从属视IG流的再生路径所归属的副路径的副路径标识符参照(ref_to_Subpath_id)、指定保存有从属视IG流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件 中的从属视IG流的包标识符(ref_to_stream_PID_subclip)。在由扩展流选择表的流登录信息的stream_entry_for_depentdent_view参照的流文件与由基本流选择表的流入口参照的流文件不同的情况下,必须将保存有从属视IG流的流文件重新读出。
“stream_attribute”包括基础视IG流及从属视IG流的语言属性。
“SS_IG_offset_sequence_id_ref”是用于立体视觉类型的IG流的偏移序列ID的参照,指示从属视视频流的偏移元数据中的偏移序列。再生装置必须将由该场提供的偏移应用到立体视觉类型的IG平面中。
在该场是不定值(FF)的情况下,再生装置不将该偏移应用于IG平面。
PG_文本字幕流用的偏移序列的参照信息及IG流用的偏移序列的参照信息与流号码建立对应而记载在流登录信息中,所以在装置状态的变化时或流变更请求的发生时执行流选择过程,在对应于装置侧的语言设定的流号码设定在流号码寄存器中的情况下,将由对应于该新的流号码的参照指示的偏移序列从视频解码器供给到位移部中。通过这样,将对应于再生装置的语言设定的、适当的偏移序列供给到位移部中,所以能够使1plane+Offset模式中的图形的进深设为对应于再生装置的语言设定的最佳的进深。
对扩展流选择表中的限制进行说明。
立体视觉从属视块中的流入口在播放列表中不能变化。
如果立体视觉从属视块中的流入口的类型是由副路径使用的ES类型(流类型=2),则副路径ID参照、以及副片断入口ID参照(ref_to_subclip_entry_id)在播放列表中不变化。
被许可作为流入口、用于基础视的流入口、用于从属视的流入口的类型的ES的类型只是由播放项目使用的AV片断内的ES(流类型=1)、由副路径使用的AV片断内的ES(流类型=2)的两个类型。
立体视觉从属视块中的流属性的流编码方式设定为“0x20”。
图22表示通过基本流选择表、扩展流选择表从主TS、副TS中多路分离怎样的ES。
在本图的正中间表示多路分离部,在其上侧表示基本流选择表与扩展流选择表的组。在左侧表示主TS、副TS,在右侧表示被多路分离的基础视视频流、从属视视频流、基础视PG流、从属视PG流、基础视IG流、从 属视IG流、主要音频流。
图23表示在进行图22那样的多路分离的情况下、怎样参照基本流选择表、扩展流选择表的流登录列。在本图的正中间表示基本流选择表和扩展流选择表。
基本流选择表的左侧表示在再生装置中保存当前流的流号码的流号码寄存器。基本流选择表的右侧表示再生装置中的语言设定。扩展流选择表的下侧表示多路分离部。箭头h1示意地表示PG流的语言设定与基本流选择表中的PG流的流登录信息X的与语言属性的一致。箭头h2示意地表示向PG流的流号码寄存器的、流号码X的设定。
箭头h3示意地表示IG流的语言设定、与基本流选择表中的IG流的流登录信息Y中的语言属性的一致。箭头h4示意地表示向IG流的流号码寄存器的、流号码Y的设定。
本图的流号码的设定象征性地表示根据对基本流选择表的流选择过程的结果而决定对多路分离提供的PG流、IG流。
箭头PD1示意地表示扩展流选择表内的SS_dependent_view_block中的流入口中记述的包标识符的输出。通过该输出进行多路分离部中的多路分离,输出从属视视频流。
箭头PD2示意地表示扩展流选择表中的PG流的流登录信息的流入口中的、对应于流号码X的流入口的包标识符的输出。箭头X1表示箭头PD1的包标识符输出与对流号码寄存器的当前流号码X的设定联动。
箭头PD3示意地表示扩展流选择表中的IG流的流登录信息的流入口中的、对应于流号码Y的流入口的包标识符的输出。箭头Y1表示箭头PD3的包标识符输出与对流号码寄存器的当前流号码Y的设定联动。
这里的联动,是指记载在扩展流选择表中的包标识符的输出与记述在基本流选择表的PG、IG流的流登录列中的流号码中的、流号码X、Y被作为当前的PG、IG流号码设定在流号码寄存器中的动作联动。
通过该输出,进行多路分离部中的多路分离,输出PG、IG流。
图24表示模式中的流号码的分配变化。
纵栏表示视频流#1的流号码、音频流#1、#2的流号码、PG流#1、#2的流号码。
仅被左侧的虚线框包围的ES是仅在2D再生模式中作为多路分离的对象的ES。
仅被右侧的虚线框包围的ES表示在3D再生模式中作为多路分离的对象的ES。
被左侧的及右侧的虚线框两者包围的ES表示在3D再生模式中作为多路分离的对象的ES。
如果仅着眼于视频流#1的流号码,则2D视频流被左右两个虚线框包围,所以可知在2D再生模式及3D再生模式两者中作为再生对象。该2D视频流是左视视频流。但是,由于右视视频流仅被右侧的虚线框包围,所以可知仅在3D再生模式下被再生。
如果着眼于音频流#1、音频流#2的流号码,则由于音频流被左右两个虚线框包围,所以可知在2D再生模式及3D再生模式两者中作为再生对象。
如果着眼于PG流#1、PG流#2的流号码,则由于2DPG流仅被左侧的虚线框包围,所以可知仅在2D再生模式中作为再生对象。由于基础视PG流、从属视PG流仅被右侧的虚线框包围,所以可知仅在3D再生模式中被再生。IG流也是同样的。
根据以上,可知在3D再生模式中,在视频流的流种类中,作为再生对象添加了从属视视频流。
此外,在3D再生模式中,在PG流的流种类中,可知再生对象从2DPG流替换为了基础视PG流及从属视PG流。
上述扩展流选择表可以通过使用面向对象型编译器语言进行图19那样的记述并提供给编译来制作。图25表示用来使用面向对象型编译器语言记述扩展流选择表的句法。
以PlayItem_id为控制变量的for语句构成将Fixed_offset_during_Popup、从属视流的流登录列、PG_文本字幕流的流登录列、IG流的流登录列的记述重复播放项目的个数的循环。
以primary_video_stream_id为控制变量的for语句是定义从属视流的流登录列的语句,从属视流的流登录列通过将由stream_entry、stream_attribute、number_of_offset_sequence构成的SS_dependent_view_block记述number_of_primary_video_stream_entries个来定义。
以PG_textST_stream_id为控制变量的for语句定义PG_文本字幕流的流登录列,为将PG_text_offset_sequence_id_ref、is_SS_PG的记述重复number_of_PG_textST_stream_number_entries次的循环。存在于循环中的、以is_SS_PG为控制变量的if语句是如果is_SS_PG是1b、则定义stream_entry_for_base_biew()、stream_entry_for_dependent_biew()、steam_attribute的语句,通过该if语句,stream_entry_for_base_biew()、stream_entry_for_dependent_biew()、steam_attribute仅在is_SS_PG是1b的情况下被追加到流登录列中。如果is_SS_PG是0b,则不追加stream_entry_for_base_biew()、stream_entry_for_dependent_biew()、steam_attribute。
以IG_stream_id为控制变量的for语句定义IG流的流登录列,为将IG_offset_sequence_id_ref、IG_plane_offset_direction_during_BB_video、IG_plane_offset_value_during_BB_video、is_SS_IG的记述重复number_of_IG_stream_entries次的循环。存在于循环中的、以is_SS_IG为控制变量的if语句是如果is_SS_IG是1b、则定义stream_entry_for_base_biew()、stream_entry_for_dependent_biew()、steam_attribute的语句,通过该if语句,仅在is_SS_IG是1b的情况下将stream_entry_for_base_biew()、stream_entry_for_dependent_biew()、steam_attribute追加到流登录列中。如果is_SS_IG是0b,则不追加stream_entry_for_base_biew()、stream_entry_for_dependent_biew()、steam_atribute。
以上是对记录介质的说明。接着,对再生装置的详细情况进行说明。
图26表示再生装置的内部结构。如本图所示,再生装置由偏移设定部201、存储器202、播放器号码寄存器203、解码器204、多路分离部205、平面存储器组206、位移部207、层合成部208、收发部209、再生控制部210、输出模式寄存器211、配置存储器212构成。本图的内部结构只不过是记述了用来实施具备发明内容的再生装置的所需最低限度的构成要素的结构。关于更详细的内部结构,将说明放到后段的实施方式中。
读出部201从记录介质中读出索引表、动作模式对象的程序文件、播放列表信息文件、流信息文件、流文件。
存储器202保存通过将包含在播放列表信息中的基本流选择表与扩展 流选择表结合得到的结合列表登录列。
各流种类的播放器号码寄存器203包括保存视频流的流号码的视频流号码寄存器、保存PG流的流号码的PG流号码寄存器、保存IG流的流号码的IG流号码寄存器、保存音频流号码的音频流号码寄存器。
各流种类的解码器204由视频解码器、PG解码器、IG解码器、音频解码器构成。
多路分离部205具备执行包过滤的PID过滤器,将从记录介质读出的多个源包内的TS包中的、由记载在结合流登录列中的包标识符指示的TS包分离,输出给各解码器。
平面存储器组206由多个平面存储器构成。
这些平面存储器构成层模型,将各自的平面存储器的保存内容为层合成提供。
位移部207执行像素的坐标的位移。
层合成部208进行多个平面存储器中的层合成。
收发部209在与家庭影院***中的其他设备经由接口连接时,经过相互认证阶段、协商阶段转移到数据传送阶段,进行数据传送。
该协商阶段是掌握对方设备的能力(包括解码能力、再生能力、显示频率)并设定到播放器设定寄存器中来决定用于以后的传送的传送方式的阶段。经过这些相互认证阶段、协商阶段,将进行了层合成的图片数据中的一行的非压缩·平文形式的像素数据按照显示装置的水平同步期间以较高的传送速率传送给显示装置。另一方面,在显示装置的水平回描线期间及垂直回描线期间中,对与再生装置连接的其他装置(不仅是显示装置,还包括放大器、扬声器)传送非压缩·平文形式的音频数据。通过这样,显示装置、放大器、扬声器等设备能够接受非压缩·平文形式的图片数据、非压缩·平文形式的音频数据,能够实现再生输出。此外,在对方侧设备中存在解码能力的情况下,能够进行视频流、音频流的透传(pass through)传送。在透传传送中,能够将视频流、音频流以压缩·加密形式的原状传送。
再生控制部210控制读出部201,将来自记录介质的索引表、动作模式对象、播放列表信息、片断信息、流文件从记录介质读出,并且执行基于 从记录介质读出的播放列表信息、片断信息的再生控制。在流文件的读出时,能够实现将对应于时间轴的任意的时刻的源包从流文件读出的随机访问。
输出模式寄存器211存储有再生模式。
配置存储器212是存储各平面存储器的模式能力、以及当前模式的非易失性存储器,通过再生装置的制造主体设定其存储内容。所谓模式能力,表示视频平面、PG平面、IG平面等多个平面存储器各自是否能够分别处理上述那样的再生模式。是否能够处理再生模式根据对应于平面存储器的流种类是什么、还有在再生装置中是否存在用来处理该再生模式的硬件结构来决定。
当前模式表示多个平面存储器分别设定在多个再生模式中的哪个中。
以上是关于再生装置的说明。接着,对有关本实施方式的再生装置进行的多路分离处理的详细情况进行说明。
图27表示通过结合流登录列将怎样的包标识符输出给多路分离部。
图27(a)表示作为动作例的题材来使用的结合流登录列。结合流登录列是由基本流选择表中的3个流登录信息、以及扩展流选择表中的3个流登录信息构成的。基本流选择表中的3个流登录信息分别具有流号码“1”、“2”、“3”的流号码,3个流登录信息中的流属性具有英语、日语、汉语的语言属性。
扩展流选择表中的3个流登录信息分别具有流号码“1”、“2”、“3”的流号码,3个流登录信息中的流属性具有英语、日语、汉语的语言属性。在基本流选择表中的流登录信息、以及扩展流选择表中的流登录信息中,流入口的包标识符不同,扩展流选择表中的流登录信息包括用于为了B-D演示模式的基本视PG流的包标识符、以及用于从属视PG流的包标识符。
图27(b)表示对语言设定为汉语、输出模式设定为2D再生模式的再生装置供给该结合流登录列的情况下的、流号码的设定和包标识符的输出。
图中的赋予了a1、a2、a3的箭头示意地表示语言设定的一致判断、向流号码寄存器的流号码的设定、向多路分离部的包标识符的输出。
在过程中,在流号码=3的流登录信息中,判断再生装置侧的语言设定与流属性的一致,将包含在该流号码=3的流登录信息中的流号码写入到流 号码寄存器中。此时,将基本流选择表中的流入口的包标识符输出给多路分离部。通过这样,将由基本流选择表中的流号码=3的流登录信息的流入口的包标识符确定的TS包输出给解码器。
图27(c)表示对语言设定为汉语、输出模式设定为B-D演示模式的再生装置供给该结合流登录列的情况下的、流号码的设定和包标识符的输出。
图中的赋予了a4、a5、a6的箭头示意地表示语言设定的一致判断、向流号码寄存器的流号码的设定、向多路分离部的包标识符的输出。
在过程中,在流号码=3的流登录信息中,判断再生装置侧的语言设定与流属性的一致,将包含在该流号码=3的流登录信息中的流号码写入到流号码寄存器中。此时,将基本流选择表中的流入口的包标识符输出给多路分离部。通过这样,将由扩展流选择表中的流号码=3的流登录信息的流入口中保存的包标识符的组确定的两个***的TS包输出给解码器。
图28表示通过结合流登录列将怎样的包标识符输出给多路分离部。
图28(a)表示作为动作例的题材使用的结合流登录列。结合流登录列由基本流选择表中的3个流登录信息、以及扩展流选择表中的3个流登录信息构成。基本流选择表中的3个流登录信息分别具有流号码“1”、“2”、“3”的流号码,3个流登录信息中的流属性都具有汉语的语言属性。
扩展流选择表中的3个流登录信息分别具有流号码“1”、“2”、“3”的流号码,3个流登录信息中的流属性都具有汉语的语言属性。在基本流选择表中的流登录信息、以及扩展流选择表中的流登录信息中,流入口的包标识符不同,扩展流选择表中的流登录信息包括用于B-D演示模式的基础视PG流的包标识符、用于从属视PG流的包标识符。
图28(b)表示对语言设定为汉语、输出模式设定为2D再生模式的再生装置供给该结合流登录列的情况下的、流号码的设定和包标识符的输出。
图中的赋予了a1、a2、a3的箭头示意地表示语言设定的一致判断、流号码的设定、包标识符的输出。
在过程中,在流号码=3的流登录信息中,判断再生装置侧的语言设定与流属性的一致,将该流号码=“1”写入到流号码寄存器中。此时,将基本流选择表中的流入口的包标识符输出给多路分离部。通过这样,将由基 本流选择表中的流号码“1”的流登录信息的流入口的包标识符确定的TS包输出给解码器。
图28(c)表示对语言设定为汉语、输出模式设定为2D再生模式的再生装置供给该结合流登录列的情况下的、流号码的设定和包标识符的输出。
图中的赋予了a4、a5、a6的箭头示意地表示语言设定的一致判断、流号码的设定、包标识符的输出。
在过程中,在流号码“1”的流登录信息中,判断再生装置侧的语言设定与流属性的一致,将包含在该流号码“1”的流登录信息中的流号码写入到流号码寄存器中。此时,将基本流选择表中的流入口的包标识符输出给多路分离部。通过这样,将由扩展流选择表中的流号码“1”的流登录信息的流入口中保存的包标识符的组确定的两个***的TS包输出给解码器。
图29表示再生装置被设定为B-D演示模式、存在B-D能力的情况下的包标识符的参照及包输出。
结合流登录列与多路分离部之间的箭头表示在结合流登录列的多个流登录列中、参照了哪个的流入口内的包标识符。在本图中,可知由多路分离部参照基本流选择表内的基础视视频流登录列中的流入口内的包标识符、扩展流选择表内的从属视视频流登录列中的流入口内的包标识符、扩展流选择表内的PG_文本字幕流登录列中的流入口内的包标识符、扩展流选择表内的IG流登录列中的流入口内的包标识符。
多路分离部与多个解码器之间的箭头表示存在于交错流文件中的多个源包中的哪个TS包被输出给了各解码器。如该箭头所示,可知从多路分离部向解码器输出构成基础视视频流的TS包、构成从属视视频流的TS包、构成基础视PG流的TS包、构成从属视PG流的TS包、构成基础视IG流的TS包、构成从属视IG流的TS包。
图30表示再生装置被设定为1plane+Offset模式的情况下的包标识符的参照及包输出。
结合流登录列与位移部之间的箭头表示扩展流选择表中的对应于PG流的流登录列的偏移参照、以及扩展流选择表中的对应于IG流的流登录列的偏移参照被在1plane+Offset模式中参照。
多路分离部与多个解码器之间的箭头表示存在于流文件中的多个源包 中的哪个TS包被输出给了各解码器。如该箭头所示,从多路分离部向解码器输出构成基础视视频流的TS包、构成PG流的TS包、构成IG流的TS包、构成音频流的TS包。
视频解码器与位移部的箭头表示基于上述那样的偏移参照、从属视视频流中的偏移被供给到关于PG流的位移部、关于IG流的位移部中。
图31表示再生装置被设定为2D演示模式的情况下的包标识符的参照及包输出。
结合流登录列与多路分离部之间的箭头表示结合流登录列中的多个流登录列中的哪个流入口内的包标识符被参照。在本图中,可知由多路分离部参照基本流选择表内的基础视视频流登录列中的流入口内的包标识符、基本流选择表内的PG_文本字幕流登录列中的流入口内的包标识符、基本流选择表内的IG流登录列中的流入口内的包标识符。
多路分离部与多个解码器之间的箭头表示存在于流文件中的多个源包中的哪个TS包被输出给了各解码器。如该箭头所示,从多路分离部向解码器输出构成基础视视频流的TS包、构成PG流的TS包、构成IG流的TS包、以及构成音频流的TS包。
图32表示在再生装置中不存在B-D演示模式的能力的情况下的包标识符的参照及包输出。
结合流登录列与多路分离部之间的箭头表示结合流登录列中的多个流登录列中的哪个流入口内的包标识符被参照了。在本图中,可知由多路分离部参照基本流选择表内的基础视视频流登录列中的流入口内的包标识符、基本流选择表内的PG_文本字幕流登录列中的流入口内的包标识符、基本流选择表内的IG流登录列中的流入口内的包标识符。
多路分离部与多个解码器之间的箭头表示存在于交错流文件中的多个源包中、由基本流选择表的流登录列的流入口指示的TS包被输出给了各解码器。
以上的再生控制可以通过将图33到图35的流程图所示的处理顺序用面向对象型编译器语言记述并使计算机执行来实现。
图33表示播放列表再生顺序。本流程图构成了在步骤S1中将当前播放项目号码设定为1后、重复步骤S2~步骤S6的处理的循环。在该循环中, 重复进行通过流选择过程来决定流号码(步骤S2)、将保存有对应于流号码的ES的流文件打开而读出源包列(步骤S3)、指示读出的源包列中的、对应于流号码者的多路分离(步骤S4)、对解码器命令以使其将所读出的源包在从播放项目的进入时间到退出时间、从副播放项目的进入时间到退出时间进行再生(步骤S5)的处理,直到当前播放项目号码成为最终号码。这里,如果不是最终号码(步骤S6中否),则将当前播放项目号码增加,转移到步骤S2。如果是最终号码,则结束处理(步骤S6中是)。
图34表示流选择过程的处理顺序。
在本流程图中,将当前播放项目信息内的基本流选择表设定为当前基本流选择表(步骤S7)。接着,执行步骤S8~步骤S17的循环。步骤S8~步骤S17是对IG流、次要视频流、主要音频流、次要音频流分别重复步骤S10~步骤S17的处理。步骤S10是当前基本流选择表中的、对应于流x的基本流选择表入口数是否是0的判断,步骤S11是判断对应于当前流的流x的流入口数是否是保存在流号码寄存器中的流号码以上的判断步骤。
如果步骤S10、步骤S11的任一个为是,则在步骤S17中维持保存在流号码寄存器中的流号码。
如果步骤S10、步骤S11的哪个都是否,则判断登录在当前基本流选择表中的PES流满足多个条件中的哪个(步骤S12),判断是否存在多个判断为满足的条件的组合相同的PES流(步骤S13)。
在满足条件的PES流是唯一的情况下,选择满足条件的1个PES流(步骤S14)。
在满足条件的PES流存在多个的情况下,选择判断为满足相同条件的PES流中的、当前基本流选择表中的优先位次最高者(步骤S15)。如果这样选择PES流,则将对应于所选择的PES流的流入口的流号码写入到PSR的流号码寄存器中(步骤S16)。
如果经过以上的过程确定应在当前播放项目中再生的PES流,则需要开始当前播放项目的再生,但当前播放项目再生的处理步骤是对应于由Procedure when playback condition is changed(再生条件变化时的过程)确定的输出模式的步骤。
图35表示对应于流号码的包标识符的输出处理的顺序。为执行步骤 S17、步骤S18的判断步骤的构造。步骤S17是当前的输出模式是否是2D再生模式的判断,如果是2D再生模式,则在步骤S38中,对多路分离部指示基于基本流选择表中的流登录列中的、对应于当前流号码的流登录信息的流入口的多路分离。
步骤S18是扩展流选择表的Fixedo_ffset_during_Popup是否是开启的判断。如果步骤S17是否、步骤S18是否,则执行步骤S19~步骤S30。
步骤S17~步骤S30将视频流设定为立体视觉B-D类型,将视频平面设定为B-D演示模式(步骤S19),指示基于SS_dependent_View_block的流入口的包标识符的多路分离(步骤S20),执行步骤S21~步骤S26的处理。
步骤S21是当前PG流的流登录信息中的is_ss_PG是否是开启的判断,如果是开启,则在步骤S22中将PG流设定为立体视觉再生类型,将PG平面设为B-D演示模式(步骤S23),指示基于对应于当前PG流的流登录信息的Stream_entry_bese_view、Stream_entry_dependent_view的包标识符的多路分离。
如果is_ss_PG是关闭,则将PG流设定为1plane+Offset再生类型,将PG平面设定为1plane+Offset模式(步骤S24),从从属视视频流中取得由当前PG流的流登录信息中的SS_PG_textST_offset_sequence_id_ref指示的偏移序列(步骤S25),基于所取得的偏移序列执行平面位移(步骤S26)。
步骤S27是当前IG流的流登录信息中的is_ss_IG是否是开启的判断,如果是开启,则在步骤S28中指示基于对应于当前IG流的流登录信息的Stream_entry_bese_view、Stream_entry_dependent_view的包标识符的多路分离。
如果is_ss_IG是关闭,则从从属视视频流中取得由当前IG流的流登录信息中的SS_IG_offset_sequence_id_ref指示的偏移序列(步骤S29),基于所取得的偏移序列执行平面位移(步骤S30)。
如果扩展流选择表的Fixed_offset_during_Popup是开启,则步骤S17为否,步骤S18为是,执行步骤S31~步骤S37。
步骤S31~步骤S37将视频流设定为立体视觉B-B类型,将视频平面设定为B-B演示模式(步骤S31),执行步骤S32~步骤S37的处理。
步骤S32是当前PG流的流登录信息中的is_ss_PG是否是开启的判断,如果是开启,则在步骤S33中,将PG流设定为1plane+Offset模式类型,将PG平面设定为1plane+Offset模式,从从属视视频流中取得由当前PG流的流登录信息中的SS_PG_textST_offset_sequence_id_ref指示的偏移序列(步骤S34),基于所取得的偏移序列执行平面位移(步骤S35)。然后,转移到步骤S37。
如果is_ss_PG是关闭,则在步骤S36中将PG流设定为1plane+Zero offset模式类型,将PG平面设定为1plane+Zero offset模式。然后,转移到步骤S37。
在步骤S37中,对于由当前IG流的流登录列中的IG_Plane_offset_direction_during_BB_video表示的方向执行由流登录列中的IG_Plane_offset_value_during_BB_video表示的量的平面位移。通过以上的处理,在Fixed_offset_during_Popup为开启的设定时,能够将在平面的运动图像中合成了立体的字幕及菜单的立体视觉影像为再生提供。
图36是表示PG平面位移的处理顺序的流程图。
步骤S60为是PG还是文本字幕的判断。如果是PG流,则转移到步骤S61~步骤S74的循环。该双重循环将变量i、j用1初始化(步骤S61),反复执行从视频解码器取得具有由当前流的PG_textST_offset_sequence_id_ref指示的offset_sequence_id的偏移序列中的、GOP(i)的Plane_offset_direction[j]及Plane_offset_value[j](步骤S62),使用GOP(i)的Plane_offset_direction[j]及Plane_offset_value[j]执行平面位移的处理。使用该变量i的循环的结束条件是在步骤S69中判断变量i为number_of_offset_sequence的条件,在满足该条件之前,重复在步骤S70中将变量i增加、返回步骤S62的处理。
步骤S63~步骤S68的循环是重复执行等待GOP的帧中的基础视的水平显示期间开始(步骤S63)、如果开始则在步骤S64中将帧(j)的图片数据的各行的像素向X轴的Plane_offset_direction[j]所示的方向位移Plane_offset_value[j]的像素数、然后等待开始GOP的帧中的从属视的水平显示期间(步骤S65)、如果开始则将帧(j)的图片数据中的各行的像素向X轴的与Plane_offset_direction[j]所示的方向相反的方向位移 Plane_offset_value[j]的像素数的处理的循环。使用该变量j的循环的结束条件是在步骤S67中判断变量j为number_of_displayed_frame_in_GOP,在满足该条件之前,重复进行在步骤S78中将变量j增加、返回步骤S63的处理。
图37是表示文本字幕流是再生对象的情况下的PG平面位移的处理顺序的流程图。本图的处理构造与图中基本上相同,但将步骤S64替换为了步骤S71、步骤S72,将步骤S65替换为了步骤S73。
步骤S71取得应在帧中使用的偏移的PG平面中的各描绘区域的插补值。步骤S72使PG平面中的各描绘区域的像素向X轴的Plane_offset_direction[j]所示的方向位移Plane_offset_value[j]+插补值的像素数。
步骤S73使PG平面中的各描绘区域的像素向与X轴的Plane_offset_direction[j]所示的方向相反的方向位移Plane_offset_value[j]+插补值的像素数。
图38是表示IG平面的平面位移的流程图。本图的处理构造与图中基本上是相同的,但将步骤S60替换为步骤S74、将步骤S62替换为步骤S75、将步骤S64替换为步骤S76、将步骤S66替换为步骤S77这一点不同。
步骤S74是STN_table_SS的Fixed_offset_during_Popup是否为开启的判断,如果是否,则在步骤S61中如果为是则转移到步骤S78。
步骤S75从视频解码器中取得具有由当前流的SS_IG_offset_sequence_id_ref指示的offset_sequence_id的偏移序列中的GOP(i)的Plane_offset_direction[j]及Plane_offset_value[j]。
步骤S76将IG平面中的各行的像素向X轴的Plane_offset_direction[j]所示的方向位移Plane_offset_value[j]的像素数。
步骤S77将IG平面中的各行的像素向与X轴的Plane_offset_direction[j]所示的方向相反的方向位移Plane_offset_value[j]的像素数。
图39是表示STN_table_SS的Fixed_offset_during_Popup是开启的情况下的IG平面的平面位移的处理顺序的流程图。本图所示的处理构造与图中基本上相同,但步骤S62被替换为步骤S78、步骤S64被替换为步骤S79、步骤S66被替换为步骤S80这一点不同。
步骤S78取得STN_table_SS的当前流中的IG_plane_offset_direction_ during_BB_video、IG_plane_offset_value_during_BB_video。
步骤S79将IG平面中的各行的像素向X轴的IG_plane_offset_direction_during_BB_video所示的方向位移IG_plane_offset_value_during_BB_video的像素数。
步骤S80将IG平面中的各行的像素向X轴的与IG_plane_offset_direction_during_BB_video所示的方向相反的方向位移IG_plane_offset_value_during_BB_video的像素数。
以上,根据本实施方式,由于用于1plane+Offset模式的控制的控制信息的放置场所被规定在从属视流内,所以通过基于3D摄像机在摄影时得到的视差信息、用于生成视频流的编码器在编码过程中得到的视差的信息生成控制信息、作为元数据装入到从属视视频流内,简单地生成用于1plane+Offset模式中的偏移控制的控制信息。这样,编辑过程中的作业被大大省略。由于控制信息规定1plane+Offset模式中的偏移控制,所以即使不存在左右的字幕及菜单,也只要有1个字幕或菜单就能够进行立体视觉的再生。不仅对左视、右视分别减轻了制作字幕及菜单的工作量,而且即使再生装置中的用于平面存储器的存储器规模是一个平面,也能够实现立体视觉再生,所以能够实现编辑的高效率化、以及再生装置的低成本化的兼顾。
(第2实施方式)
在第1实施方式中,由于从副片断入口ID参照来参照构成从属视数据块的副TS,所以在将副TS与主TS分离记录的情况下,在从2D再生模式向3D再生模式的切换时,有可能发生副TS的读出而损害AV再生的无缝性。所以,本实施方式提出了保障主TS和副TS都被读入到再生装置中的改良。具体而言,提出了将主TS、副TS交错化、将2TS作为1个文件记录的方案。
作为前提事项,对UDF文件***中的文件简单地说明。UDF的文件由通过文件入口管理的多个区段构成。“文件入口”包括“记述符标签”、“ICB标签”、以及“分配记述符”。
“记述符标签”是表示自身是文件入口的标签。在标签中,有文件入口记述符、空间位映射记述符等的种类,但在文件入口的情况下,作为记述符标签而记述有表示文件入口的“261”。
“ICB标签”表示关于文件入口自身的属性信息。
“分配记述符”包括表示构成处于某个目录的属下的下位文件的区段的记录位置的逻辑块号码(LBN)。分配记述符包括表示区段长的数据、以及表示区段的记录位置的逻辑块号码。其中,通过将表示区段长的数据的高位两位设定为“0”,表示是已分配且已记录区段,通过设定为“1”,表示是已分配且未记录区段。通过设定为“0”,表示是分配标识符的下个区段。在处于某个目录的属下的下位文件被分割为多个区段的情况下,文件入口按照区段而具有多个分配记述符。
通过参照上述那样的文件入口的分配标识符,能够知道构成流文件的区段的地址。
接着,对在本实施方式中设想的文件的种类进行说明。
<立体视觉交错流文件(FileSS)>
立体视觉交错流文件(FileSS)是将2TS做成了交错形式的流文件(2TS交错文件),通过5位的整数值、以及表示是立体视觉再生用的交错形式的文件的扩展名(ssif)来识别。立体视觉交错流文件由区段SS[n]构成,区段SS[n](EXTSS[n])通过索引号码n确定。索引号码n是从立体视觉交错流文件的开头起每次增加1的号码。
区段SS[n]作为从属视数据块与基础视数据块的组构成。
构成区段SS[n]的基础视数据块、从属视数据块为来自文件2D、文件基础、文件从属的交叉参照的对象。所谓交叉参照,是指将记录在记录介质中的1个数据客体作为多个文件的区段预先登录到文件入口中。在本实施方式中,在文件2D的文件入口、文件基础的文件入口、文件从属的文件入口中,记录基础视数据块、从属视数据块的开头地址及连续长。
<文件基础(FileBase)>
文件基础(FileBase)是设为“保存着”由对应于文件2D的片断信息中的区段开始点信息指示的主TS的虚拟的流文件,至少由1个区段1[i](称作EXT1[i])构成。区段1[i]是文件基础中的第i个区段,i是区段的索引号码,设文件基础的开头为0而增加。文件基础是用来将作为2TS文件的立体视觉交错流文件作为1TS文件处理的虚拟的流文件,通过将其文件入口在再生装置的存储器上构建而虚拟地生成。
在实际的读出时,文件基础通过使用该立体视觉交错流文件的文件名进行文件打开来确定。具体地讲,再生装置的中间件在被调用将使用立体视觉交错流文件的文件名的文件打开的情况下,在存储器上生成确定文件基础的区段的文件区段,将文件基础虚拟地打开。立体视觉交错流文件可以看作“仅包含1TS”,可以将2TS的立体视觉交错流文件作为1TS的文件基础从记录介质读出。
在B-B演示模式中,在想要仅将基础视数据块读出的情况下,仅构成该文件基础的区段成为读出的对象。即使有从B-B演示模式向B-D演示模式的模式变更,也只要将读出范围从构成文件基础的区段的记录范围扩大到构成立体视觉交错流文件的区段的记录区域,就能够将基础视数据块、从属视数据块的两者读出,所以不会使文件读出的效率性下降。
<文件从属(FileDependent)>
文件从属(FileDependent)是设为“保存着”副TS的流文件,由区段2[i](EXT2[i])构成。EXT2[i]是文件从属中的第i个区段,i是区段的索引号码,设文件从属的开头为0而增加。文件基础是用来将作为2TS文件的立体视觉交错流文件作为保存有副TS的1TS文件处理的虚拟的流文件,通过将其文件入口在再生装置的存储器上构建而虚拟地生成。
从属视视频流对被赋予对作为立体视觉交错流文件的文件名的5位号码加上1后的号码作为文件名。使用该文件名进行访问。在记录介质中记录有伪文件,对该伪文件赋予作为从属视视频流的识别号码的“加上1后的号码”。所谓伪文件,是仅存在文件名、而不存在作为实体的区段的文件,将从属视视频流保存到该伪文件中而处理。
<文件2D(File2D)>
文件2D是保存有在2D再生模式中再生的主TS的1TS的流文件,由区段2D构成。文件2D由5位的整数值、以及表示是立体视觉再生用的交错形式文件的扩展名(ssif)识别。
以下,对文件2D/文件基础、文件从属的相互关系进行说明。图40表示区段与文件2D/文件基础、文件从属的对应建立。
第1段表示作为文件2D/文件基础、文件从属的00001.m2ts、00002.m2ts,第2段表示保存有基础视数据块的区段、保存有从属视数据块的区段。第3 段表示作为立体视觉交错流文件的00001.ssif。
虚线的箭头h1、h2、h3、h4表示区段EXT1[i]、EXT2[i]归属于哪个文件的分配标识符所产生的归属关系。根据箭头h1、h2所示的归属关系,可知EXT1[i]、EXT1[i+1]被作为文件基础的00001.m2ts的区段登录。
根据箭头h3、h4所示的归属关系,可知区段EXT2[i]、EXT2[i+1]被作为文件从属的00002.m2ts的区段登录。
根据箭头h5、h6、h7、h8所示的归属关系,区段EXT1[i]、EXT2[i]、EXT1[i+1]、EXT2[i+1]被作为00001.ssif的区段登录。如以上所述,可知区段EXT1[i]、EXT1[i+1]归属于00001.ssif、同时归属于00001.m2ts的二重性。该“ssif”的扩展名采用StereoScopic Interleave Flie的首字符、表示为了立体视觉再生而为交错形式。
图41表示立体视觉交错流文件与文件2D/文件基础的关系。
图41(a)的第3段表示交错流文件的内部结构。通过将保存有基础视数据块的区段EXT1[1]、EXT1[2]的各自、与保存有从属视数据块的区段EXT2[1]、EXT2[2]的各自交错配置而构成。
第1段表示文件2D及文件基础的内部结构。文件2D/文件基础仅由第3段中的构成交错流文件的区段中的、保存有基础视数据块的区段EXT1[1]、EXT1[2]构成。文件2D的文件名与交错流文件的文件名相同,但扩展名不同。
第2段表示文件从属的内部结构。文件从属仅由第3段中的构成交错流文件的区段中的、保存从属视数据块的区段EXT2[1]、EXT2[2]、EXT2[2]构成。文件从属的文件名为对交错流文件的文件名加上1后的文件名,此外扩展名不同。
即使是包含3D影像的光盘,也并不一定所有的再生装置都对应于3D再生方式,所以希望支持2D下的再生。但是,仅对应于2D再生的再生装置不能判断用3D扩展后的数据构造等。2D再生装置需要通过以往的2D再生方式原状的判断方法仅能够访问2D播放列表及2D流,所以关于左视视频流,用2D方式的再生装置能够识别那样的文件形式保存。
第1个方法是使用与2D再生方式相同的文件名以便能够进行上述那样的播放列表信息的参照、即、使得主TS在2D再生中也能够使用而交错形 式的流文件改变扩展名的方法。图41(b)中的00001.m2ts及00001.ssif的一个是2D方式、另一个是3D方式,但通过相同的文件名“00001”配对。
由于播放列表仅参照主TS的AV片断,所以通过已有的2D再生装置仅能再生文件2D。3D对应的再生装置的播放列表仅参照进入了主TS的文件2D,但在存在具有相同的识别号码、仅扩展名不同的文件的情况下,找到该文件,判断是用于3D影像的交错形式的流文件,将主TS和副TS输出。
第2个方法是分开文件夹的方法。主TS保存在具有已有的文件夹名(例如STREAM)的文件夹内,而副TS以相同的文件名“00001”保存到具有3D特有的名称的文件夹(例如SSIF)中。当播放列表参照文件时,在2D再生装置中仅参照“STREAM”文件夹内的文件,但在3D再生装置的情况下,通过从“STREAM”和“SSIF”文件夹中同时参照相同名称的文件名,能够将主TS与副TS建立关联。
第3个方法是通过识别号码的方法。在文件2D/文件基础的识别号码是“00001”的情况下,文件从属的识别号码如图41(c)所示那样赋予对该左视的识别号码加上“1”后的号码、即“0002”的识别号码等,是按照一定的规则进行关联建立的方法。但是,在记录介质的文件***中,将以上述规则命令的文件从属仅作为没有实体的伪文件处理。这是因为文件从属的实体只不过是立体视觉交错流文件。
将这样建立了关联的文件名记述到基本流选择表中的流登录信息、以及扩展流选择表中的流登录信息的流入口的副片断入口ID参照(ref_to_subclip_entry_id)中。另一方面,对于再生装置,对记述在副片断入口ID参照中的识别号码加上“1”后的识别号码的文件名认证为是伪文件的文件名,执行将文件从属虚拟地打开的处理。如果这样,则在流选择过程中,能够将进行了上述那样的关联建立的文件从属可靠地从记录介质读出。
以上是关于文件2D、文件基础、文件从属的说明。
以下,对数据块的详细情况进行说明。
<基础视数据块>
基础视数据块(B[i])是主TS的第i个数据块。这里,所谓主TS,是 通过当前播放项目信息的片断信息文件名信息(片断信息文件名称信息)指定为主路径的基轴的TS。B[i]的“i”是将文件基础的开头的数据块设为0而增加的索引号码。
在基础视数据块中,有在文件基础与文件2D中共通化的结构、以及在文件基础与文件2D中不共通化的结构。
在文件2D及文件基础中共通化的基础视数据块、以及文件2D固有的基础视数据块为文件2D的区段,设定为不发生再生装置的缓冲器下溢的长度。并且,其开头的扇区地址记述在文件2D的文件入口的分配记述符中。
没有与文件2D共通化的文件基础固有的基础视数据块不成为文件2D的区段,所以并不是设定为使再生装置中的单个缓冲器不发生下溢的长度。设定为更小的尺寸、即再生装置的双缓冲器不下溢的长度。
此外,文件基础固有的基础视数据块的开头扇区地址没有记述在文件入口的分配记述符中。代替它而将基础视数据块中的开头源包的源包通过对应于主TS的片断信息文件的片断信息内的区段开始点信息指示。因此,文件基础固有的基础视数据块的开头扇区地址需要使用立体视觉交错流文件的文件入口中的分配记述符、以及片断信息内的区段开始点信息导出。
在左视是基础视的情况下,基础视数据块是保存有左视视频流的分割部分的源包、保存有左视用的图形流的分割部分的源包、保存有应与其一起再生的音频流的分割部分的源包、由欧洲数字广播规格规定的包管理信息(PCR、PMT、PAT)等、保存有用于2D再生及左视再生的多个种类的PES流的分割部分的源包的集合体。构成该基础视数据块的包中ATC、STC、SPN连续,保障某一定期间的无缝的AV再生。
<从属视数据块>
从属视数据块(D[i])是副TS的第i个数据块。所谓副TS,是在对应于当前播放列表信息的扩展流选择表的流登录列的流入口中、被指定为副路径的基轴的TS。D[i]的“i”是设文件从属的开头的数据块为0而增加的索引号码。
从属视数据块为文件从属的区段的数据块,设定为不发生再生装置的双缓冲器的下溢的长度。
此外,在记录介质的连续区域上,从属视数据块配置在比应以相同的 再生时间再生的基础视数据块靠跟前。因此,在立体视觉交错流文件的读出时,从属视数据块必定被比基础视数据块先读出。
由于从属视数据块没有与文件2D共通化,所以该开头扇区地址没有记述在文件2D的文件入口的分配记述符中。代替它,从属视数据块中的开头源包的源包由片断信息内的区段开始点信息指示。因此,从属视数据块的开头扇区地址需要使用文件2D的文件入口中的分配记述符、以及片断信息内的区段开始点信息导出。
在从属视是右视的情况下,从属视数据块是保存有右视视频流的分割部分的源包、保存有左视及右视用的图形流的分割部分的源包、保存有应与它们一起再生的音频流的分割部分的源包等、保存有用于右视再生的多个种类的PES流的分割部分的源包的集合体。这些包的ATC、STC、SPN连续,保障某一定期间的连续再生。在连续的基础视数据块与从属视数据块中,构成基础视数据块的多个源包的ATS、SPN及构成从属视数据块的多个源包的ATS、SPN都为相同的值。因而,构成基础视数据块的多个源包、以及构成从属视数据块的多个源包在相同的ATC时刻到达PID过滤器。
<区段的类型>
如上所述,在在文件2D的区段中,有与文件基础的区段共通的区段、以及不与文件基础共通的区段。
假设文件2D的区段由B[0]、B[1]、B[2]、B[3]2D、B[4]2D构成、文件基础的区段由B[0]、B[1]、B[2]、B[3]ss、B[4]ss构成。B[0]、B[1]、B[2]是与文件基础共通化的基础视数据块。B[3]2D、B[4]2D是不与文件基础共通的、文件2D固有的基础视数据块。
此外,B[3]ss、B[4]ss是不与文件2D共通化的、文件基础固有的基础视数据块。
B[3]2D的数据与B[3]ss的数据具有bit-for-bit的相同性。B[4]2D的数据与B[4]ss的数据具有bit-for-bit的相同性。
这些文件2D中的数据块B[2]、B[3]2D、B[4]2D在发生长跳跃的地方之前构成连续长较大的区段(大区段)。文件2D由于能够在长跳跃之前形成大区段,所以即使在将立体视觉交错流文件以2D再生模式再生的情况下也不需要惧怕读取缓冲器的下溢。
文件2D及文件基础虽然区段有部分不同,但由于具有相同性,所以将这些文件2D及文件基础一起称作“文件2D/文件基础”。
<长跳跃>
一般而言,在记录介质中采用光盘的情况下,将用来使光拾取器暂停读出动作、在此期间中将光拾取器向下个读出对象区域上定位的操作称作“跳跃”。
在跳跃中,除了使光盘的旋转速度增减的操作以外,还有轨道跳跃及焦点跳跃。轨道跳跃是指使光拾取器沿盘的半径方向移动的操作。焦点跳跃是指当光盘是多层盘时、使光拾取器的焦点从一个记录层向别的记录层移动的操作。这些跳跃一般搜寻时间较长、并且由于跳跃而跳过读出的扇区数较大,所以特别称作“长跳跃”。在跳跃期间中,光拾取器进行的读出操作停止。
在跳跃期间中,将被跳过读出操作的部分的长度称作“跳跃距离”。跳跃距离通常用该部分的扇区数表示。上述长跳跃具体而言被定义为跳跃距离超过规定的阈值的跳跃。该阈值例如在BD-ROM规格中,根据盘的种类及驱动器的关于读出处理的性能而规定为40000个扇区。
作为发生长跳跃的地方的代表性的地方,除了记录层的边界以外,还有存在播放项目间的1对n的多重连接的地方。
这里,在进行1对n的播放项目多重连接的情况下,构成n个播放项目的n个TS中的第1个可以配置在构成其之前的播放项目的TS之后。但是,第2个以后的TS不能配置在构成其之前的播放项目的TS之后。在存在1对n的多重连接的情况下,在从之前的播放项目向n个播放项目的第2个以后的播放项目跳跃的情况下,该跳跃需要跳过1个以上的TS记录区域而读取,所以在存在1对n的播放项目的多重连接的地方会发生长跳跃。
<各模式的再生路径>
2D再生模式的再生路径由通过当前播放项目信息的片断信息文件名信息参照的文件2D的区段构成。
B-D演示模式的再生路径由通过当前播放项目信息的片断信息文件名信息参照的立体视觉交错流文件的区段构成。
B-B演示模式的再生路径由通过当前播放项目信息的片断信息文件名 信息参照的文件基础的区段构成。
这3个模式的再生路径通过使用记述在当前播放项目信息的片断信息文件名信息中的文件名作为文件2D的文件名使用而进行文件打开、还是作为基础文件的文件名进行文件打开、还是作为立体视觉交错流文件的文件名进行文件打开来切换。这样的再生路径的切换不会导致当前播放列表及当前播放项目的变动,所以能够维持再生模式的变更时的无缝性。
由此,再生装置通过基于当前播放项目信息的片断信息文件名信息将立体视觉交错流文件、文件基础、文件2D的某个打开,能够从记录介质读出适合于各个再生模式的数据块。
<EXT2D、EXT1[n]、EXT2[n]的具体的值>
决定EXT2D的下限值,以使得在2D模式的再生时在从各基础视数据块到下个基础视数据块的跳跃期间中、不会发生再生装置的读取缓冲器的缓冲器下溢。
当从第n个基础视数据块到第(n+1)个基础视数据块的跳跃需要时间Tjump2D(n)、将各基础视数据块以速度Rud2D读出到读取缓冲器中、并且将上述基础视数据块以平均速度Rbext2D从读取缓冲器向视频解码器传送时,EXT2D的下限值用以下的条件1的式子表示。
<条件1>
EXT2D的下限值≥(Rud2D×Rbext2D)/(Rud2D-Rbext2D)×Tjump2D(n)
假设对应于基础视数据块B[n]ss的区段是EXT1[n]。在此情况下,决定EXT1[n]的下限值,以使得在B-D演示模式的再生时、经过从各基础视数据块到下个从属视数据块的跳跃期间、以及从该从属视数据块到下个基础视数据块的跳跃期间、不会发生双缓冲器的下溢。
这里的双缓冲器假设由读取缓冲器1、读取缓冲器2构成。读取缓冲器1与2D再生装置的读取缓冲器相同。
假设在B-D演示模式的再生中,从第n个基础视数据块到第p个从属视数据块的跳跃需要时间TFjump3D(n),从第p个从属视数据块到第(n+1)个基础视数据块的跳跃需要时间TBjump3D(n)。
并且,在将各基础视数据块向读取缓冲器1以速度Rud3D读出、将各 从属视数据块向读取缓冲器2以速度Rud3D读出、并且将上述基础视数据块从读取缓冲器1向视频解码器以平均速度Rbext3D传送时,EXT1[n]的下限值用以下的条件2的式子表示。大区段的连续长设定为该下限值、或超过该下限值的值。
<条件2>
EXT1[n]的下限值≥(Rud3D×Rbext3D)/(Rud3D-Rbext3D)×(TFjump3D(n)+EXT2[n]/(Rud3D+TBjump3D(n)))
决定EXT2的下限值,以使得在B-D演示模式的再生时经过从各从属视区段到下个基础视区段的跳跃期间、以及从该基础视区段到下个从属视区段的跳跃期间、在再生装置的双缓冲器中不会发生下溢。
在从第(n+1)个基础视数据块到第(p+1)个从属视数据块的跳跃需要时间TFjump3D(n+1)、并且从读取缓冲器2向解码器将上述从属视流文件以平均速度Rdex3D传送时,EXT2[n]的下限值用以下的条件3的式子表示。
<条件3>
EXT2[n]的下限值≥(Rud3D×Rbext3D)/(Rud3D-Rbext3D)×(TFjump3D(n)+EXT1[n+1]/(Rud3D+TFjump3D(n+1)))
<EXTSS的具体的值>
在从某个区段的读出向下个区段的跳跃时,该跳跃之前的缓冲器占用量必须是充分的。于是,在立体视觉交错流文件的读出时,需要将读取缓冲器通过1个区段填充,必须避免缓冲器下溢的发生。
但是,EXTSS不仅需要基于从区段向区段的跳跃期间Tjump、还需要基于Tdiff决定。这里,Tdiff是指伴随着EXTss中的从属视数据块的预加载、以及EXTssnext中的从属视数据块的预加载的延迟时间。以下,对Tdiff的意义进行解说,在立体视觉交错流文件的读出时,在预装载开头的从属视数据块的期间中不能开始再生。
在EXTss中,由于再生延迟了该从属视数据块的预加载所需要的期间,所以在EXTss中,开头的从属视的数据块的预加载所需要的时间成为再生相应地延迟的“延迟期间”。
反之,在EXTssnext中,由于在从EXTss向EXTssnext的跳跃之后进行开头的从属视数据块的预加载,所以视频解码器的再生开始也可以延迟该 期间。即,在EXTssnext的再生时,进行开头的从属视数据块的预加载的期间成为延缓视频解码器的再生开始的“延缓期间”。
遵循以上,Tdiff被作为从从属视数据块的延缓期间减去延迟期间后的值导出。具体而言,进行计算以使其满足以下的式子。
Tdiff=ceil[((S1stEXT1[i]EXTSSnext]-S1stEXT1[i]EXTSS)×1000×8)/Rud72]
这里,Tdiff意味着S1stEXT2[i]EXTss的读出期间与S1stEXT2[i]EXTssnext的读出期间的差,S1stEXT2[i]EXTss是位于EXTss的最初的EXT2[i]的尺寸,S1stEXT2[i]EXTssNEXT是位于EXTssNEXT的最初的EXT2[i]的尺寸。EXTssnext是立体视觉交错流文件中的区段,是位于EXTss之后、与EXTss无缝地再生的区段。
如果使用该Tdiff、以及向EXTssnext的跳跃时间(Tjump),则作为基于各区段中的平均位速率的最小区段尺寸的Sextss作为满足以下的条件4的值计算。
<条件4>
SextSS[Byte]≧ceil[(Tjump+Tdiff×Rud72)/(1000×8))×(Rextss×192)/(Rud72×188-Rextss×192)]
这里,Rud72是立体视觉再生模式中的来自BD-ROM驱动器的数据速率。
Rextss是EXTss的平均位速率,由以下的式子导出。
Rextss=ceil[Nsp×188×8/(ATCDextss/27000000)]
ATCDextss=ATCstart_extssnext-ATCstart_extss
ATCDextss=ATClast_extss-ATCstart_extss+ceil(27000000×188×8/min(Rts1,Rts2))
ATCDextss是EXTssd的ATC期间。
ATCstart_EXTSS是由EXTss中的源包列的ATC场指示的最小的ATC值。
ATCstart_EXTssnext是由EXTssnext中的源包列的ATC场指示的最小的ATC值。
ATClast_EXTSS是由EXTss中的源包列的ATC场指示的最大的ATC值。
Nsp是主TS、副TS中的源包,是具有对应于处于ATCDexss的范围内的ATC的ATC值者的个数。
Rts1是主TS的TS记录速率的值,其最大值是48Mbps。
Rts2是副TS的TS记录速率的值,其最大值是48Mbps。
在将两个播放项目连续再生存在的情况下,EXTss包括由Previous播放项目(播放项目1)使用的ATC序列的最初的数据字节。
·EXTss具有在条件4中定义的最小区段尺寸以上的尺寸。
·在EXTss是在Previous播放项目中使用的ATC序列的最初的数据字节的情况下,Previous播放项目的连接条件信息不能设定为=5(在播放项目的边界处伴随着突然中断的连接处理)、=6(播放项目的边界与GOP的边界一致的连接处理)。在此情况下,也可以不满足EXTss的尺寸。
EXTss包括由当前播放项目(播放项目2)使用的ATC序列的数据字节。
·EXTss具有在条件4中定义的最小区段尺寸以上的尺寸。
·在EXTss是在播放项目2中使用的ATC序列的最后的数据字节的情况下,播放项目2的连接条件信息不能设定为=5、=6。在此情况下,也可以不满足EXTss的尺寸。
图42表示立体视觉交错流文件、文件2D、文件基础的相互关系。第1段表示文件2D,第2段表示记录介质上的数据块,第3段表示立体视觉交错流文件,第4段表示文件基础,第5段表示文件从属。
第2段中的数据块是上述D[1]、B[1]、D[2]、B[2]、D[3]、B[3]ss、D[4]、B[4]ss、B[3]2D、B[4]2D。并且,箭头ex1、ex2、ex3、ex4表示数据块中的、B[1]、B[2]、B[3]2D、B[4]2D构成文件2D的区段的归属关系。
箭头ex5、ex6表示数据块中的、D[1]、B[1]、D[2]、B[2]、D[3]、B[3]ss、D[4]、B[4]ss构成立体视觉交错流文件的区段的归属关系。
第4段表示构成该立体视觉交错流文件的数据块中的、B[1]、B[2]、B[3]ss、B[4]ss为文件基础的区段,第5段表示构成立体视觉交错流文件的数据块中的、D[1]、D[2]、D[3]、D[4]为文件扩展的区段。
图43表示2D播放列表、3D播放列表。第1段表示2D播放列表信息,第2段表示基础数据块,第3段表示3D播放列表,第4段表示从属视数据 块。
箭头rf1、rf2、rf3表示将2D播放列表信息的播放项目信息中的clip_information_file_name中记述的文件名00001、与扩展名m2ts组合成的再生路径。在此情况下,由数据块B[1]、B[2]、B[3]2D构成基础视侧的再生路径。
箭头rf4、rf5、rf6、rf7表示由3D播放列表信息的播放项目信息指定的再生路径。在此情况下,使用B[1]、B[2]、B[3]ss、B[4]ss构成基础视侧的再生路径。
箭头rf8、rf9、rf10、rf11表示由3D播放列表信息的副播放项目信息指定的再生路径。在此情况下,使用D[1]、D[2]、D[3]、D[4]构成从属视侧的再生路径。构成由这些播放项目信息及副播放项目信息指定的再生路径的数据块可以通过将在播放项目信息的clip_information_file_name中记述的文件名与扩展名ssif组合来进行文件打开来读出。
本图的3D播放列表中的片断信息文件名信息、2D播放列表中的片断信息文件名信息记述有共通的文件名,所以在记述定义这些3D播放列表、2D播放列表那样的播放列表信息时,用共通的记述就足够(参照符号df1、df2)。由此,如果预先记述实现该3D播放列表那样的播放列表信息,则当再生装置的输出模式为立体视觉输出模式时作为3D播放列表发挥功能,当再生装置的输出模式是2D输出模式时作为2D播放列表发挥功能。本图的2D播放列表、3D播放列表通过记述1个播放列表信息,对应于解释它的再生装置的输出模式而被解释为2D播放列表、3D播放列表,所以能够减轻进行编辑的人的工作量。
在立体视觉交错流文件中保存主TS、副TS的情况下,2D播放列表的播放项目信息中的clip_information_file_name记述文件2D的文件名。3D播放列表的播放项目信息中的clip_information_file_name记述文件基础的文件名。文件基础是虚拟的文件,其文件名与立体视觉交错流文件相同,所以只要将立体视觉交错流文件的文件名记述到播放项目信息中的clip_information_file_name中就可以。扩展流选择表的流登录信息中的ref_to_subclip_entry_id记述文件从属的文件名。文件从属的文件名是对立体视觉交错流文件的识别号码加上1后的文件名。
图44表示对图43的3D播放列表添加了另一个副路径的播放列表。图43的播放列表仅具备副路径ID=“1”的副路径,相对于此,图44的播放列表中的第2个副路径由副路径ID=“2”识别,参照别的数据块。通过设置两个以上的副路径信息定义的多个右视是从右眼观察被摄体的角度不同的多个右视,将构成右视的数据块准备其角度的数量,按照角度设置副路径。
通过将通过由基础视数据块构成的主TS规定的主路径同步再生的副路径切换,能够由用户使用适当的视差图像显示立体影像。
关于实现该3D播放列表那样的播放列表信息,也当再生装置的输出模式是立体视觉输出模式时作为3D播放列表发挥功能,当再生装置的输出模式是2D输出模式时作为2D播放列表发挥功能。图43的2D播放列表、3D播放列表只要记述1个播放列表信息,就能够对应于解释它的再生装置的输出模式而被解释为2D播放列表、3D播放列表而成为适当的输出模式,所以能够减轻进行编辑的人的工作量。
以下,对基础视视频流的指定方式进行说明。
一般,在工作室中,考虑将左视视频制作为2D影像,其中也可能考虑将右视制作为2D影像更好。由于存在这样的可能性,所以能够按照播放项目信息设定表示将左视及右视中的哪个设定为基础视的基础视指示器。将左视视频流及右视视频流的哪个作为基础视视频流、将左视PG流及右视PG流的哪个作为基础视PG流、将左视IG流及右视IG流的哪个作为基础视IG流,由该每个播放项目信息的基础视指示器指示。
如上所述,从属视数据块具有必定先于基础视数据块配置的规则性,所以只要参照该基础视指示器,就能够知道将用于再生右视的源包、用于再生左视的源包的哪个先供给到再生装置中。
在通过该信息将右视视频流指定为基础视视频流的情况下,即使右视被副路径信息指定了,也将该右视视频流先投入到视频解码器中,得到非压缩的图片数据。并且,基于通过将该右视视频流解码而得到的非压缩的图片数据进行运动补偿。这样,使能够将哪个设为基础视的选择具有灵活性。
图45(a)是对图43的3D播放列表添加了基础视指示器的图。
图45(b)表示通过面向对象的编程语言进行的基础视指示器的记述。本图是在定义PlayItem的构造体中怎样记述基础视指示器的记述例。如本图所示,通过指定“0”的直接值,能够将左视视频流指定为基础视视频流,通过指定“1”的直接值,能够将左视视频流指定为基础视视频流。
能够用于向显示装置的输出,显示装置侧分别为了区别两个流而使用。在使用开闭器方式的眼镜等情况下,如果不知道播放项目参照的主影像是左视还是右视,就不能将眼镜与显示装置的显示同步,所以对眼镜发送切换信号,以使得在显示左视时使开闭器方式眼镜的左眼侧的光透过、在显示右视时使开闭器方式眼镜的右眼侧的光透过。
此外,在如柱状透镜那样在显示装置的画面上组装棱镜的裸眼立体视觉方式中,也因为需要进行左视与右视的区别而使用该信息进行区别。以上是关于基础视指示器的说明。该基础视指示器以视差图像中的左视或右视的任一个都能够作为平面视觉影像再生为前提。
图46表示播放项目的再生顺序。
步骤S41是当前输出模式是否是3D输出模式的判断,如果当前输出模式是2D输出模式,则执行步骤S43~步骤S46。
在步骤S43中,将由记述在当前播放项目的clip_information_file_name中的“XXXXX”、以及扩展名“m2ts”指定的流文件打开,在步骤S44中,使用对应于视频流的包ID的入口点,将当前PlayItem.In_Time及当前PlayItem.Out_Time变换为Start_SPN[i]及End_SPN[i]。
在步骤S45中,确定属于用来将包ID[i]的TS包[i]从Start_SPN[i]到End_SPN[i]读出的读出范围[i]的区段,在步骤S46中,对记录介质的驱动器指示,以使其将属于读出范围[i]的区段连续地读出。
如果当前输出模式是立体视觉输出模式,则转移到步骤S50~步骤S60的循环。
在步骤S50中,将由记述在当前播放项目的clip_information_file_name中的“XXXXX”、以及扩展名“ssif”指定的流文件打开,在步骤S51中,将左视视频流、右视视频流中的、由当前播放项目信息的基础视指示器指定者作为基础视视频流。将其以外作为从属视流。
在步骤S52中,使用对应于基础视视频流的包ID的入口点,将当前 PlayItem.In_Time及当前PlayItem.Out_Time变换为Start_SPN[i]及End_SPN[i]。
在步骤S53中,确定对应于从属视流的SubPlayItem,将使用对应于从属视流的包ID[j]的入口点[j]确定的SubPlayItemIn_Time、SubPlayItemOut_Time变换为Start_SPN[j]、End_SPN[j](步骤S54)。
确定属于用来将包ID[i]的TS包[i]从Start_SPN[i]到End_SPN[i]读出的读出范围[i]的区段(步骤S55),确定属于用来将包ID[j]的TS包[j]从Start_SPN[j]到End_SPN[j]读出的读出范围[j]的区段(步骤S56)。接着,在步骤S57中,将属于读出范围[i]、[j]的区段以地址的升序排序,在步骤S58中,对驱动器指示,以使其使用排序后的地址将属于读出范围[i]、[j]的区段连续地读出。然后,如果读出了源包列,则在步骤S59中将基础视的ATC序列、从属视的ATC序列分别复原,送入到基础视用的PID过滤器、从属视用的PID过滤器中。
以上,根据本实施方式,在将基础视数据块和从属视数据块保存到1个立体视觉交错流文件中、并将它们供给到解码器中时,将基础视用的ATC序列和从属视用的ATC序列复原,所以在解码器侧能够将立体视觉交错流文件与通常的流文件同样地处理。由此,能够在基础视视频流、从属视视频流的保存方式中积极地引入立体视觉交错流文件。
(第3实施方式)
在本实施方式中,对片断信息文件的详细情况进行说明。
图47表示片断信息文件的内部结构。
图47(a)表示2D的片断信息文件,图47(b)表示3D用的片断信息文件。这些片断信息文件包括“片断信息”、“序列信息”、“程序信息”、“特征点信息”。
“片断信息”是按照ATC序列表示保存在流文件中的源包列分别是怎样的AV片断的信息,包括由对应的AV片断构成的应用属于电影、幻灯片播放等怎样的类型(应用类型)、对应的AV片断属于怎样的流的类型(流类型)、AV片断的TS包的传送速率(TS记录速率)、与构成之前的AV片断的ATC序列之间的ATC的差(ATC差量)、在编码中使用的编码方式的标识符。
“序列信息”为按照ATC序列表示保存在流文件中的1个或多个源包列是怎样的ATC序列的信息(ATC序列信息)的结构。ATC序列信息包括用源包号码表示作为ATC的开始点的源包存在于哪里的信息、STC序列标识符-ATC序列标识符间的偏移、以及关于多个STC序列各自的STC序列信息。STC序列信息包括保存有该STC序列的PCR的源包的包号码、表示在该ATC序列中的哪里存在作为STC序列的开始点的源包的信息、STC序列的再生开始时刻、再生结束时刻。
“程序信息”是表示由片断信息文件作为“AV片断”管理的主TS、副TS的程序结构的信息,表示AV片断是将怎样的ES多路复用而成的。具体而言,表示多路复用在AV片断中的ES具有怎样的包标识符、是怎样的编码方式。在该程序信息内明示视频流是使用MPEG2-video、MPEG4-AVC等中的哪个编码方式压缩编码的。
“特征点信息”是按照ES表示多路复用在AV片断中的多个ES的特征点存在于哪里的信息。表示各ES的特征点的信息称作入口映射表。
哪个为特征点按照流的种类而不同。在基础视视频流、从属视视频流的情况下,位于打开GOP、关闭GOP的开头的I图片的访问单元分界符为特征点。在音频流的情况下,表示每隔1秒等、每隔一定期间存在的音频帧的开头位置的访问单元分界符为特征点,在PG流、IG流的情况下,表示图形流的显示集中的、具备显示所需要的全部功能段者(时期开始的显示集、获取点的显示集)的开头位置的访问单元分界符为特征点。
此外,怎样表示特征点在ATC序列、STC序列中分别不同。在ATC序列中,特征点用源包号码表现。在STC序列中,相同的特征点使用表示STC时间轴上的时刻的PTS表现。
鉴于上述差异,各ES的入口映射表由多个入口点构成。具体而言,构成入口映射表的各个入口点将表示ATC序列的特征点的所在的源包号码与表示STC序列的特征点的所在的PTS建立对应,具备表示是否能够向该特征点进行角度切换的标志(is_angle_change标志)。由于位于构成多角度区间的交错单元的开头的源包能够进行角度切换,所以指示交错单元的开头源包的入口点的is_angle_change标志必定设定为开启。此外,指示交错单元的开头源包的入口点通过入口点与播放项目信息中的In_Time建立了对 应。
由于各ES的入口映射将这些各流种类的特征点的源包号码与PTS建立对应而表示,所以通过参照该入口映射,能够从STC序列的任意的时刻导出表示最接近于该时刻的各ES的特征点的所在的源包号码。
以上是关于2D用的片断信息文件的说明。接着,对3D用的片断信息文件的详细情况进行说明。3D用的片断信息文件为图41(b)的内部结构,除了作为通常的片断信息(管理信息)的“文件2D用的片断信息”以外,还存在作为文件从属用的片断信息的“片断从属信息(基础视管理信息)”、以及作为文件基础用的片断信息的“片断基础信息(基础视管理信息)”。这基于以下的理由。如第2实施方式所述,为了避免立体视觉交错流文件与通常的流文件的混杂,将立体视觉交错流文件保存到与流文件不同的目录中。因此,不能将片断信息文件与立体视觉交错流文件建立对应。所以,片断从属信息及片断基础信息被保存到对应于文件2D的片断信息文件中。
2D用片断信息与片断基础信息及片断从属信息的差异是在片断基础信息及片断从属信息的内部中存在包括区段开始点列的元数据这一点。
在图47(b)中,片断从属信息包括区段开始点列,片断基础信息也包括区段开始点列。存在于片断从属信息内的区段开始点列由多个区段开始点信息构成,各区段开始点信息表示构成文件从属的多个区段的开头的源包号码。
存在于片断基础信息内的区段开始点列也由多个区段开始点信息构成,各区段开始点信息表示构成文件基础的多个区段的开头的源包号码。
对存在这些区段开始点信息的技术意义进行叙述。
保存在流文件中的TS本来是1个TS,ATC序列也仅是1个。由此,仅通过参照片断信息文件的序列信息,不能判别分割部分的开头是哪里。另一方面,由于分割部分的开头也是区段的开头,所以只要参照文件入口或区段记述符等文件***的信息,就能够知道分割部分的开头是哪里,但由于文件***的信息是由中间件管理的信息,所以从应用参照该区段的信息很困难。所以,在本实施方式中,使用区段开始点信息,在片断信息内表示区段是第几个包。
图103表示基础视片断信息中的区段开始点信息的一例、以及从属视 片断信息的从属开始点信息的一例。图103(a)表示基础视片断信息的区段开始点信息、以及从属视片断信息的区段开始点信息。
图103(b)表示构成ATC序列1的基础视数据块B[0]、B[1]、B[2]、……B[n]、构成ATC序列2的基础视数据块B[0]、B[1]、B[2]、……B[n]。图103(c)表示从属视数据块的源包数、基础视数据块的源包数。
图103(d)表示包含在立体视觉交错流文件中的多个数据块。
如图103(b)所示,如果ATC序列2由从属视数据块D[0]、D[1]、D[2]、……D[n]构成,则作为ATC序列2中的、从属视数据块D[0]、D[1]、D[2]、……D[n]的相对源包数的0、b1、b2、b3、b4……、bn记载在文件从属的区段开始点信息的SPN_extent_start中。
如果ATC序列1由基础视数据块B[0]、B[1]、B[2]、……B[n]构成,则作为基础视数据块的相对源包数的0、a1、a2、a3、a4、……an记载在文件基础的区段开始点信息的SPN_extent_start中。
图103(c)是立体视觉交错流文件中的任意的交错数据块D[x]、任意基础视数据块b[x]的源包数。在从属视数据块D[x]的开头源包号码是bx、从属视数据块D[x+1]的开头源包号码是bx+1的情况下,构成D[x]的源包数为bx+1-bx。
同样,在基础视数据块B[x]的开头源包号码是ax、基础视数据块B[x+1]的开头源包号码是ax+1的情况下,构成B[x]的源包数为ax+1-ax。
在立体视觉交错流文件的最后的从属视数据块B[n]的开头源包号码是an、ATC序列1中的源包的个数是number_of_source_packet1的情况下,构成B[n]的源包数为number_of_source_packet1-an。
在立体视觉交错流文件的最后的从属视数据块D[n]的开头源包号码是bn、ATC序列2中的源包的个数是number_of_source_packet2的情况下,构成D[n]的源包数为number_of_source_packet2-bn。
这样,从属视数据块的开头源包号码、基础视数据块的开头源包号码成为图103(d)所示那样。
在立体视觉交错流文件中,D[0]的开头SPN为“0”,B[0]的开头SPN为“b1”。
关于D[1]的开头SPN,为先行的D[0]的源包数b1与B[0]的源包数a1 的和,所以为“b1+a1”。
关于B[1]的开头SPN,为先行的D[0]的源包数b1、B[0]的源包数a1、与先行的D[1]的源包数b2-b1的和,所以为“b2+a1(=b1+a1+b2-b1)”。
关于D[2]的开头SPN,为先行的D[0]的源包数b1、B[0]的源包数a1、、先行的D[1]的源包数b2-b1、与B[1]的源包数a2-a1的和,所以为“b2+a2(=b1+a1+b2-b1+a2-a1)”。
关于B[2]的开头SPN,为先行的D[0]的源包数b1、B[0]的源包数a1、、先行的D[1]的源包数b2-b1、B[1]的源包数a2-a1、与D[2]的源包数b3-b2的和,所以为“b2+a2(=b1+a1+b2-b1+a2-a1+b3-b2)”。
图104是用来说明ATC序列1、2中的任意的数据块的源包号码的图。
在图104(a)的ATC序列2中,考虑求出存在于bx的源包号码中的D[x]的立体视觉交错流文件中的源包号码的情况。在此情况下,D[x]的开头源包号码为D[0]、B[0]、D[1]、B[1]、D[2]、B[2]……D[x-1]、B[x-1]的相对源包数的源包数的总和,所以如图104(b)所示那样为“bx+ax”。
在图104(a)的ATC序列1中,考虑求出存在于ax的源包号码中的B[x]的立体视觉交错流文件中的源包号码的情况。在此情况下,如图104(b)所示,B[x]的开头源包号码为D[0]、B[0]、D[1]、B[1]、D[2]、B[2]……D[x-1]、B[x-1]、D[x]的相对源包数的源包数的总和,所以为“bx+1+ax”。
图104(c)表示将上述基础视数据块作为区段的文件基础、以及将上述从属视数据块作为区段的文件从属。
如以下这样求出作为对应于B[x]的文件基础的区段的EXT1[x]的开头LBN及连续长、以及作为对应于D[x]的文件从属的区段的EXT2[x]的开头LBN及连续长。
为了根据D[x]的开头源包号码求出LBN,通过((bx+ax)*192/2048)的计算将源包变换为LBN。同样,为了根据B[x]的开头源包号码求出LBN,通过((bx+1+ax)*192/2048)的计算将源包变换为LBN。这里,“192”是将源包尺寸用字节数表示的值,“2048”是将扇区尺寸(逻辑块尺寸)用字节数表示的值。最接近于这些LBN的、立体视觉交错流文件的区段的LBN是通过将由上述变换得到的LBN用在作为函数SSIF_LBN(file_offset)的自变量的file_offset中而计算的。函数SSIF_LBN是根据file_offset、按照 SSIF的分配记述符返回对应于file_offset的LBN的函数。
通过这样,EXT2[x]的开头LBN成为SSIF_LBN((bx+ax)*192/2048),EXT1[x]的开头LBN成为SSIF_LBN((bx+1+ax)*192/2048)。
另一方面,EXT2[x]的连续长为(SSIF_LBN((bx+1+ax)*192/2048)-SSIF_LBN((bx+ax)*192/2048)。EXT1[x]的连续长为(SSIF_LBN((bx+1+ax+1)*192/2048)-(SSIF_LBN((bx+1+ax)*192/2048)。如果在存储器上生成表示它们的开头LBN及连续长的文件入口,则能够虚拟地得到文件基础、文件从属。
图48表示区段开始点信息的句法。number_of_extent_units表示ATS区间相同的Extent Block的数量。
以extend_id为控制变量的for语句将base/dependent_view_extent_start_address、interleaved_base/dependent_view_extent_start_address[extent_id]定义number_of_extents_unit个的语句。
base/dependent_view_extent_start_address[extent_id]表示分LR文件形式的各Extent的开始地址。interleaved_base/dependent_view_extent_start_address[extent_id]表示LR1文件形式的各Extent的开始地址。它们中的base _view_extent_start_address[extent_id]表示离开文件开头的相对地址。该相对地址是192字节(SPN)单位,能够以32位对应到768GB。这是因为,由于是使用EP_map的再生开始地址探索,所以SPN单位使判断更容易。由于Extent为6KB行,所以也可以是6KB单位。由于6KB=192byte*32,所以通过5bit位移能够对应。并且,将是区段开始点信息的构成要素、通过源包号码表现区段的开头地址的要素称作“SPN_extent_start”。
图49表示片断信息文件中的入口映射表。图49(a)表示入口映射表的概略结构。引出线eh1将入口映射表的内部结构特写表示。如该引出线所示,入口映射表包括“入口映射头信息”、“区段开始类型”、“关于PID=0x1011的入口映射”、“关于PID=0x1012的入口映射”、“关于PID=0x1220的入口映射”、“关于PID=0x1221的入口映射”。
“入口映射头信息”保存入口映射指示的视频流的PID及入口点数等的信息。
“区段开始类型”表示从左视视频流及右视视频流中的哪个区段先配 置区段。
“关于PID=0x1011的入口映射”、“关于PID=0x1012的入口映射”、“关于PID=0x1220的入口映射”、“关于PID=0x1221的入口映射”是关于由多个种类的源包构成的PES流各自的入口映射。在入口映射中,将作为一对的PTS与SPN的信息称作“入口点”。此外,将开头设为“0”,将按照各入口点增加的值称作入口点ID(以下记作EP_ID)。通过使用该入口映射,再生机能够确定对应于视频流的时间轴上的任意的地点的源包位置。例如,在快进、回退的特殊再生时,通过确定并选择登录在入口映射中的I图片而再生,能够不解析AV片断而高效率地进行处理。此外,将入口映射按照多路复用在AV片断内的各视频流制作,用PID管理。
引出线eh2将PID=1011的入口映射的内部结构特写表示。由对应于EP_ID=0的入口点、对应于EP_ID=1的入口点、对应于EP_ID=2的入口点、对应于EP_ID=3的入口点构成。对应于EP_ID=0的入口点表示设定为开启的is_angle_change标志、SPN=3、以及PTS=80000的对应建立。对应于EP_ID=1的入口点表示设定为关闭的is_angle_change标志、SPN=1500、以及PTS=270000的对应建立。
对应于EP_ID=2的入口点表示设定为关闭的is_angle_change标志、SPN=3200、以及PTS=360000的对应建立。对应于EP_ID=3的入口点表示设定为关闭的is_angle_change标志、SPN=4800、以及PTS=450000的对应建立。is_angle_change标志是表示是否能够从该入口点独立解码的标志。在视频流被用MVC或MPEG4-AVC编码、在入口点中存在IDR图片的情况下,该标志设定为开启。在入口点中存在Non-IDR图片的情况下,该标志设定为关闭。
图49(b)表示由图49(a)所示的对应于PID=1011的TS包的入口映射内的多个入口映射指示哪个源包。对应于EP_ID=0的入口映射指示SPN=3,将该源包号码与PTS=80000建立了对应。对应于EP_ID=1的入口映射指示SPN=1500,将该源包号码与PTS=270000建立了对应。
对应于EP_ID=2的入口映射指示SPN=3200的源包,将该源包号码与PTS=360000建立了对应。对应于EP_ID=3的入口映射指示SPN=4800的源包,将该源包号码与PTS=450000建立了对应。
图50表示程序信息中的流属性信息。
图中的引出线ah1将流属性的内部结构特写表示。
如该引出线所示,如由PID=0x1011的TS包构成的左视视频流的流属性、由PID=0x1012的TS包构成的右视视频流的流属性、由PID=0x1100、PID=0x1101的TS包构成的音频流的流属性、由PID=0x1220、0x1221的TS包构成的PG流的流属性那样,在该流属性中表示由多个种类的源包构成的PES流具有怎样的属性。如该引出线ah1所示,关于包含在AV片断中的各流的属性信息按照PID登录。
图51表示通过入口映射进行的入口点的登录。第1段表示由SC序列规定的时间轴。第2段表示片断信息中的入口映射。第3段表示片断从属信息中的区段开始点信息、以及片断基础信息中的区段开始点信息。第4段表示构成ATC序列的源包列。在入口映射指定了ATC序列中=n1的源包的情况下,在该入口映射的PTS中设定为STC序列中的PTS=t1。这样,能够使用PTS=t1的时刻,使再生装置执行从ATC序列中的=n1的随机访问。此外,在入口映射指定了ATC序列中的=n21的源包的情况下,在该入口映射的PTS中,设定为STC序列中的PTS=t21。这样,能够使用PTS=t21的时刻,使再生装置执行从ATC序列中的=n21的随机访问。
通过使用该入口映射,再生装置能够确定对应于视频流的时间轴上的任意的地点的源包。例如,在快进、回退的特殊再生时,通过确定选择登录在入口映射中的I图片而再生,能够不解析AV片断而高效率地进行处理。
此外,第3段中的、片断从属信息中的区段开始点[i]、片断基础信息中的区段开始点[j]表示在第4段中、构成从属视视频流的区段、构成基础视视频流的区段的开头源包号码是哪个。
由此,如果将由片断从属信息中的区段开始点[i]表示的源包、到由片断基础信息的区段[j]表示的源包之前的源包读出,则能够仅提取构成从属视视频流的源包列。
如果将由片断基础信息中的区段开始点[j]表示的源包、到由片断从属信息的区段[i+1]表示的源包之前的源包读出,则能够仅提取构成基础视视频流的源包列。
并且,如果将构成基础视视频流的源包彼此、构成从属视视频流的源 包彼此综合,则能够将构成基础视视频流的ATC序列、构成从属视视频流的ATC序列复原。
图52表示怎样从立体视觉交错流文件构成的数据块复原ATC序列。
第4段表示构成立体视觉交错流文件的多个数据块,第3段表示多路复用在主TS、副TS中的源包列。
第2段表示构成从属视的STC序列2、入口映射、构成从属视的ATC序列2的组,第1段表示构成基础视的STC序列1、入口映射、构成基础视的ATC序列1的组。从第3段向第2段、第1段的箭头示意地表示从交错化到立体视觉交错流文件中的两个TS(主TS、副TS)的数据块复原ATC序列1、ATC序列2。这些ATC序列通过片断信息中的入口映射取得与STC序列的对应。
以上是关于有关本实施方式的记录介质的说明。接着,对再生装置的详细情况进行说明。
有关本实施方式的再生装置的读出部为受理来自两个记录介质的源包输入的结构,包括用来分别访问两个记录介质的两个驱动器、用来将从这两个驱动器输入的源包临时保存并输出给解码器的两个读取缓冲器。并且,在两个驱动器与两个读取缓冲器之间存在ATC序列复原部。该ATC序列复原部是从由1个记录介质读出的交错流文件内的源包中分离构成基础视的ATC序列、构成从属视流的ATC序列、分别写入到两个读取缓冲器中的单元。通过这样,再生装置能够宛如将构成基础视视频流的ATC序列、构成从属视视频流的ATC序列分别从不同的记录介质读出那样处理。图53(a)表示具备ATC序列复原部的读出部的内部结构。如上所述,在两个驱动器与两个读取缓冲器之间夹着ATC序列复原部。图中的箭头B0象征性地表示从1个驱动器的源包输入,箭头B1示意地表示构成基础视视频流的ATC序列1的写入,箭头D1示意地表示构成从属视流的ATC序列2的写入。
图53(b)表示将由ATC序列复原部得到的两个ATC序列怎样处理。在图中的正中间表示存在于多路分离部内的PID过滤器。左侧表示通过ATC序列复原部得到的两个ATC序列。右侧表示通过将这两个ATC序列多路分离得到的基础视视频流、从属视视频流、基础视PG流、从属视PG流、基础视IG流、从属视IG流。这两个PID过滤器进行的多路分离通过第1实 施方式所示的基本流选择表、扩展流选择表进行。该ATC序列复原部通过制作使硬件资源执行图54的处理的程序来实现。图54表示ATC序列复原顺序。
步骤S91将基础视用的ATC序列设为ATC序列1、将从属视用的ATC序列设为ATC序列2。在步骤S92中,将变量x初始化为1。该变量x指示从属视数据块、基础视数据块。然后,重复步骤S94~步骤S96的循环。
判断由变量x指示的源包号码bx是否是由基础视数据块的最后的数值n指示的源包号码bn(步骤S93)。如果不是,则重复进行将从由源包号码bx+ax指示的源包(bx+ax)到由bx+1+ax指示的源包(bx+1+ax)之前的包追加到ATC序列2中(步骤S94)、将从源包(bx+1+ax)到源包(bx+1+ax+1)之前的包追加到ATC序列1中(步骤S95)、将变量x增加(步骤S96)的处理,直到在步骤S93中判断为是。
如果步骤S93判断为是,则从源包号码bn起将(number_of_source_packet2-bn)个源包追加到ATC序列2中(步骤S97),从源包号码an起将(number_of_source_packet1-an)个源包追加到ATC序列1中(步骤S98)。
以上,如果将ATC序列1、2复原,则在存储器上生成用扇区数表示基础视数据块的开头LBN及连续长的文件入口,将文件基础虚拟地打开(步骤S99)。同样,在存储器上生成用扇区数表示从属视数据块的开头LBN及连续长的文件入口,将文件从属虚拟地打开(步骤S100)。
<将文件基础打开的技术意义>
这里,在进行从任意的时刻的随机访问时,需要进行流文件内的扇区搜索。所谓扇区搜索,是在进行从任意的时刻的随机访问时、确定对应于该时刻的源包的源包号码、从包括该源包号码的源包的扇区进行文件读取的处理。
立体视觉交错流文件由于一个区段较大,所以扇区搜索的探索范围较大,在命令了从任意的时刻的随机访问时,在作为读出目标的扇区的确定中需要相当多的处理时间。
这基于以下的理由:交错流文件将构成基础视视频流的数据块、构成从属视流的数据块交错配置而构成一条较长的区段,交错流文件的文件入口的分配记述符只不过表示该较长的区段的开头地址。
相对于此,文件基础由长度较短的多个区段构成,各个区段的开头地址由分配记述符表示,所以扇区搜索时的探索范围较窄,在命令了从任意的时刻的随机访问时,作为读出目标的扇区的确定在短时间内完成。
即,构成基础视视频流的数据块被作为文件基础的区段管理,数据块的开头地址在对应于文件基础的文件入口的分配记述符中明示,所以只要从包含有随机访问位置的区段的开头地址开始扇区搜索,就能够较快地到达包含作为随机访问位置的源包的扇区。
这样,通过将构成基础视视频流的数据块作为文件基础的区段管理、将各区段的开头地址及连续长表示在关于文件基础的文件入口的分配记述符中表示,基础视视频流中的从任意的时刻的随机访问变得高速。
具体的扇区搜索的顺序如下。通过使用对应于基础视视频流的入口映射,导出作为对应于任意的时刻的随机访问位置的源包号码。
接着,通过使用对应于基础视视频流的片断信息内的区段开始指示信息,确定包含有作为随机访问位置的源包号码的区段是哪个。
进而,只要参照对应于文件基础的文件入口的分配记述符,就能够确定包含有作为随机访问位置的源包号码的区段的开头扇区地址。通过在该开头扇区地址中设定文件指针、进行文件读取、执行对读出的源包的包解析,确定作为随机访问位置的源包号码的源包。并且,将所确定的源包号码的源包读出。由此,高效率地执行对主TS的随机访问。副TS也是同样的。
以上,根据本实施方式,由于基于区段开始点信息将交错流文件中的基础视视频流的区段、从属视视频流的区段基于区段开始点信息排列后提供给多路分离部、解码器,所以解码器及程序能够将保存有基础视视频流的文件基础、保存有从属视视频流的文件从属的两个文件作为虚拟地存在于记录介质上的文件来处理。
由于将用于立体视觉的基础视视频流、从属视视频流作为交互流文件记录到记录介质中,并且能够进行基础视视频流及从属视视频流的单体访问,所以能够提高再生装置的处理效率。
另外,区段开始点信息用1字节单位表示区段的开头,但在区段分配给ECC块那样的固定长的读取块尺寸的情况下,优选地以固定长单位指定。 通过这样,也能够抑制为了识别地址而需要的信息量。
(第4实施方式)
在本实施方式中,对多路分离部、解码器、平面存储器的硬件范围进行说明。
本实施方式的多路分离部包括1个以上源拆包器与PID过滤器的组。该源拆包器、PID过滤器的组存在对应于流输入的***数的数量。
图55表示多路分离部及视频解码器的内部结构。
图55(a)表示多路分离部的解码器模型。多路分离部(Source De-packetizer and PID filter)的组为两个。这是因为,多路分离部本来为处理来自两个记录介质的2***的流输入的结构。在2D再生模式中,能够处理来自两个记录介质的流输入,但在3D再生模式中,处理L和R、2D和Depth的2***的流输入。
如图55(a)所示,多路分离部由源拆包器22、PID过滤器23、源拆包器27、PID过滤器28构成。
源拆包器22在读取缓冲器2a中储存有源包的情况下,在ATC计数器生成的ATC的值与源包的ATS的值变为相同的瞬间,按照AV片断的记录速率,仅将该TS包传送给PID过滤器。在该传送时,根据各源包的ATS调节向拆包器的输入时刻。
PID过滤器23将从源拆包器22输出的TS包中的、TS包的PID与再生中需要的PID一致的源包按照PID输出给各种解码器。
源拆包器26在读取缓冲器2b中储存有源包的情况下,在ATC计数器生成的ATC的值与源包的ATS的值变为相同的瞬间,按照AV片断的***速率,仅将该TS包传送给PID过滤器。在该传送时,根据各源包的ATS调节向拆包器的输入时刻。
PID过滤器27将从源拆包器26输出的TS包中的、TS包的PID与再生中需要的PID一致的源包按照PID输出给各种解码器。
接着,对主要视频解码器31的内部结构进行说明。
图55(b)表示主要视频解码器的内部结构。主要视频解码器31由TB51、MB52、EB53、TB54、MB55、EB56、解码器核心57、缓冲器开关58、DPB59、图片开关60构成。
Transport Buffer(TB)51是在从PID过滤器23输出了包括左视视频流的TS包时、将TS包原样临时储存的缓冲器。
Multiplexed Buffer(MB)52是在从TB对EB输出视频流时、用来先将PES包暂时储存的缓冲器。当从TB对MB传送数据时,将TS包的TS头去除。
Elementaly Buffer(EB)53是保存处于编码状态的视频访问单元的缓冲器。在从MB对EB传送数据时,将PES头去除。
Transport Buffer(TB)54是在从PID过滤器输出了包括右视视频流的TS包时、将TS包原样临时储存的缓冲器。
Multiplexed Buffer(MB)55是在从TB对EB输出视频流时、用来先将PES包暂时储存的缓冲器。当从TB对MB传送数据时,将TS包的TS头去除。
Elementaly Buffer(EB)56是保存处于编码状态的视频访问单元的缓冲器。在从MB对EB传送数据时,将PES头去除。
解码器核心57通过将视频流的各个视频访问单元在规定的解码时刻(DTS)解码,制作帧/场图像。由于在多路复用在AV片断中的视频流的压缩编码形式中有MPEG2、MPEG4AVC、VC1等,所以根据流的属性切换视频解码器57的解码方法。在将构成基础视视频流的图片数据解码时,视频解码器57使用在未来方向或过去方向上存在的图片数据作为参照图片,进行运动补偿。并且,在构成从属视频流的各个图片数据的解码时,视频解码器57使用构成基础视视频流的图片数据作为参照图片,进行运动补偿。如果这样将图片数据解码,则视频解码器57将解码后的帧/场图像传送给DPB59,以显示时刻(PTS)的定时将对应的帧/场图像传送给图片开关。
缓冲器开关58使用在视频解码器57将视频访问单元解码时取得的解码开关信息,决定从EB53、EB56的哪个中抽取下个访问单元,将储存在EB53、EB56中的图片以对视频访问单元分配的解码时刻(DTS)的定时传送给视频解码器57。由于左视视频流和右视视频流的DTS设定为,使其在时间轴上以图片单位交替地到来,所以例如在忽视DTS而前滚解码的情况下,优选地以图片单位将视频访问单元传送给视频解码器57。
Decoded Plcture Buffer(DPB)59是用来将解码后的帧/场图像临时保持的缓冲器。视频解码器57在将图片间预测编码的P图片或B图片等的视频访问单元解码时、用于参照已经解码的图片。
图片开关60在将从视频解码器57传送来的已解码的帧/场图像写入到视频平面中的情况下,将其写入目标切换为左视视频平面、右视视频平面。在左视的流的情况下,将非压缩的图片数据写入到左视视频平面中,在右视的流的情况下,将非压缩的图片数据瞬间写出到右视视频平面中。
对模式切换时的视频解码器的动作进行叙述。在LR方式的情况下,切换为仅L侧的输出,成为2D显示,在Depth方式的情况下,能够停止深度信息的处理、不附加深度信息而切换为2D影像。但是,LR方式和Depth方式需要的数据不同,所以在进行相互的切换时,需要进行解码的流的再选择。
接着,对再生装置的解码器及平面存储器的规模进行说明。
装置结构为1解码器还是2解码器、为1平面还是2平面,根据流种类与立体视觉方式的组合而变化。
在采用3D-LR方式的情况下,如果MVC视频流是再生对象,则为11解码器+2平面结构。
在采用3D-Depth方式的情况下,也为1解码器+2平面结构,需要视差图像生成器。这在主要视频流、次要视频流中也是同样的。
在MVC视频流中装置结构为1解码器是因为,在实现各个压缩图片数据的宏块的运动补偿时,使用非压缩的左视图片数据及非压缩的右视图片数据作为参照图像。在已解码图片缓冲器中,保存作为参照图像的非压缩的左视图片数据、以及非压缩的右视图片数据。
以上是关于视频解码器、视频平面的说明。
PG流的再生装置的结构在采用1plane+Offset方式的情况下为1解码器+1平面结构。采用3D-LR方式、3D-Depth方式的情况下为2解码器+2平面结构。
同样,IG流的再生装置结构在采用3D-LR方式的情况下为2解码器+2平面结构。而在采用1plane+Offset方式的情况下为1解码器+1平面结构。
在文本字幕流的再生装置结构中,不存在3D-LR方式,在是1plane+Offset方式的情况下为1解码器+1平面结构。在是3D-Depth方式的情况下为1解码器+2平面结构。
接着,对PG流的内部结构、以及将PG流解码的PG解码器的内部结构进行说明。
左视PG流、右视PG流都包括多个显示集。所谓显示集,是构成一个画面显示的功能段的集合。功能段是保存在约2K字节的PES包的有效载荷中而提供给解码器、使用DTS、PTS进行再生控制的处理单位。
在显示集中有以下的类型。
A、时期开始的显示集
所谓时期开始的显示集,是将图形解码器中的组成缓冲器、代码数据缓冲器、图形平面复位、开始存储器管理的功能段的集合,包括所有画面构成所需要的功能段。
B、正常情况的显示集
所谓正常情况的显示集,是在继续图像解码器中的组成缓冲器、代码数据缓冲器、图形平面的存储器管理的状态下进行画面构成的显示集,包括作为与先行的显示集的差的功能段。
C、获取点的显示集
所谓获取点的显示集是包括全部画面构成所需要的功能段的显示集,是不使图形解码器中的组成缓冲器、代码数据缓冲器、图形平面复位、开始存储器管理复位的显示集。在该获取点的显示集中,也可以存在与前面的显示集不同的内容的功能段。
D、时期继续的显示集
所谓时期继续的显示集,表示在许可PG流的再生的播放项目与其之前的播放项目的连接形态是伴随着突然中断的无缝连接(CC=5)的情况下、使再生装置中的组成缓冲器、代码数据缓冲器、图形平面的存储器管理原样继续。此时,在对象缓冲器、图形平面上得到的图形对象没有被丢弃而在对象缓冲器、图形平面上存续。
在左视和右视中,对STC序列的再生时间轴的同一时刻分配这些显示集的起点、终点。并且,在左视PG流和右视PG流中,存在于时间轴上的 相同时刻处的显示集的类型为相同。即,如果左视侧的显示集是时期开始的显示集,则在STC序列的时间轴上相同时刻的右视侧的显示集为时期开始的显示集。
此外,如果左视侧的显示集是获取点的显示集,则在STC序列的时间轴上相同时刻的右视侧的显示集也为时期开始的显示集。
各显示集包括多个功能段。在该多个功能段中,有以下的功能段。
(1)对象定义段
对象定义段是定义图形对象的功能段。图形定义段通过使用代码值和该代码值的行程长度,定义图形对象。
(2)调色板定义段
调色板定义段包括表示各代码值与亮度、红色差、蓝色差的对应关系的调色板数据。在左视图形流的调色板定义段和右视图形流的调色板定义段中,代码值与亮度及色差的对应关系设定为相同的内容。
(3)窗口定义段
窗口定义段是在用来将非压缩的图形对象展开到画面上的平面存储器中、定义称作窗口的矩形框的功能段。图形对象的描绘在该平面存储器的内部中被限制,在该窗口的外部不能进行图形对象的描绘。
由于将平面存储器的一部分指定为用于图形的显示的窗口,所以再生装置不需要进行平面整体的图形描绘。只要仅对某个有限大小的窗口进行图形描绘就可以。由于能够将显示用平面中的、窗口以外的部分的描绘省去,所以再生装置侧的软件的负担显著变轻。
(4)画面构成段
画面构成段是规定使用图形对象的画面构成的功能段,包括对图形解码器中的组成控制器的多个控制项目。画面构成段是规定图形流中的显示集的详细情况、并且规定使用图形对象的画面构成的功能段。在该画面构成中,有Cut-In/Out、Fade-In/Out、Color Change、Scroll、Wipe-In/Out等,通过伴随着画面构成段的画面构成,能够实现一边将某个字幕逐渐消除、一边显示下个字幕的显示效果。
(5)结束段
是位于属于1个显示集的多个功能段的最末尾的功能段。再生装置将 从画面构成段到该结束段作为构成1个显示集的功能段解释。
在PG流中,显示集的开始时刻由保存有画面构成段的PES包的DTS确定,显示集的结束时刻由保存有画面构成段的PES包的PTS确定。
左视图形流及右视图形流是打包后的基本流(PES),画面构成段保存在PES包中,保存有画面构成段的PES包的PTS表示何时执行通过画面构成段属于的显示集的显示。
保存有画面构成段的PES包的PTS的值在左视视频流、右视视频流中为相同的内容。
·PG解码器的解码器模型
PG解码器包括保存从PG流读出的功能段的“编码数据缓冲器”、将画面构成段解码而得到图形对象的“流图形处理器”、保存通过解码得到的图形对象的“对象缓冲器”、保存画面构成段的“组成缓冲器”、以及将保存在组成缓冲器中的画面构成段解读、基于这些画面构成段的控制项目、使用在对象缓冲器中得到的图形对象在图形平面上进行画面构成的“组成控制器”。
在该图形平面的前段,存在用来调节构成功能段的TS包的输入速度的传输缓冲器。
在图形解码器的后段,存在基于调色板定义段、将构成保存在图形平面中的图形对象的像素代码变换为亮度、色差的GLUT部、以及用于平面位移的位移部。
PG流的流水线通过同时执行图形解码器将属于某个显示集的对象定义段解码、将图形对象写入到对象缓冲器中的处理、以及将通过将属于先行的显示集的对象定义段解码得到的图形对象从对象缓冲器写入到平面存储器中的处理来进行。
图56表示PG流的图形解码器的内部结构。图56(a)是用来以1plane+Offset模式方式显示的解码器模型。图56(a)是显示LR方式的数据的情况下的解码器模型。
在本图中,对应于图形解码器的主体的部分用黑框包围,对应于图形解码器后段的部分用单点划线包围。
在图56(a)中,图形解码器为1解码器结构,图形平面也为1平面结 构。但是,图形平面的输出被分别区分为左视、右视,对于各个左视输出、右视输出附加位移部。
在图56(b)中,存在两组传输缓冲器-图形解码器-图形平面-GLUT部,能够将左视流、右视流分别独立地处理。
由于偏移序列包含在从属视视频流中,所以在平面偏移形式中,图形解码器为1解码器结构,该1个图形解码器的输出被切换为左视和右视。
PG解码器的2D/3D切换时的动作如下。
1、在1plane+Offset模式与2D模式的相互切换时,能够无缝地切断。这通过使Offset无效化来进行。
2、在3D-LR模式和2D模式中,由于伴随着PID切换,所以一端字幕消失。这与流切换是相同的。
3、在3D-LR模式和L模式中,切换为仅L(Base View侧)的显示。能够无缝地切换,但显示位置有可能偏斜。
在3D-Depth模式和2D模式中,如果在2D显示中也在背景中将灰度范围所示的深度信息解码,预先生成左视的图形对象、右视的图形对象,则能够无缝地进行图形兑现的切换。
在PG解码器中执行模式切换的情况下,从Depth模式、1plane+Offset模式向2D模式的切换较容易。但是,在3D-LR方式的情况下,由于立体视觉的图形对象与2D的图形对象不同,所以在切换时需要进行所处理的PG流的变更,有可能在下个PG流被供给之前不能显示图形对象。
在不想设置不显示图形对象的期间的情况下,也可以不是从正面观察的2D图形对象,而仅切换为基础视的图形对象。在此情况下有可能看到稍向左偏的影像。在将立体视觉PG切换为2DPG的情况下使用哪种方法也可以预先设定到管理数据中。
·文本字幕解码器的解码器模型
文本字幕流由多个字幕记述数据构成。
文本字幕解码器包括从字幕记述数据分离为文本代码和控制信息的“字幕处理器”、保存从字幕记述数据中分离的文本代码的“管理信息缓冲器”、使用字体数据将管理信息缓冲器内的文本代码展开到位图中的“文本绘制器”、保存通过展开得到的位图的“对象缓冲器”、以及使用从字幕记 述数据分离的控制信息执行沿着时间轴的文本字幕再生的控制的“描绘控制部”。
在文本字幕解码器的前段,存在进行字体数据的预装载的“字体预装载缓冲器”、调节构成文本字幕流的TS包的输入速度的“TS缓冲器”、以及用来在播放项目的再生之前将文本字幕流预装载的“字幕预装载缓冲器”。
在图形解码器的后段,存在“图形平面”、基于调色板定义段、将构成保存在图形平面中的图形对象的像素代码变换为亮度、色差的“GLUT部”、以及用于平面位移的位移部。
图57表示文本字幕解码器的内部结构。图57(a)表示1plane+Offset模式中的文本字幕解码器的解码器模型,图57(b)表示3D-LR方式的文本字幕解码器的解码器模型。在本图中,对应于文本字幕解码器主体的部分用黑框包围,对应于文本字幕解码器后段的部分用单点划线包围。对应于文本字幕解码器前段的部分用虚线框包围。
在图57(a)中,图形平面的输出被分别区分为左视、右视,对各个左视输出、右视输出附加位移部。
在图57(b)中,存在左视用图形平面、以及右视用图形平面,将由文本字幕解码器展开的位图写入到这些各个图形平面中。在3D-LR方式的文本字幕解码器中,将彩色调色板信息扩展,除了字幕用的字符/背景/边缘3色以外,还为Depth用而追加了3色。并且,绘制引擎能够描绘字幕。
文本字幕流与PG流不同,不是将图形数据作为位图发送,而是通过发送字体数据和字符代码,在由绘制引擎生成字幕之后,通过1plane+Offset模式实现字幕的立体视觉。在将文本字幕以1plane+Offset模式显示的情况下,模式的切换通过字体集的切换、或绘制方式的切换来进行。也有通过定义L/R字体集或OpenGL字体集来进行模式切换的方法。绘制引擎还能够进行3D显示。
在3D-LR模式中,通过在基础视和从属视中定义独立的字体集或OpenGL字体集来实现立体视觉再生。此外,也可以通过绘制引擎描绘3D字体来实现立体视觉再生。
在3D-Depth模式的情况下,通过绘制引擎生成深度影像。
以上是关于文本字幕流及文本字幕解码器的说明。接着,对IG流的内部结构和IG解码器的结构进行说明。
·IG流
左视IG流、右视IG流都包括多个显示集,各显示集包括多个功能段。在显示集中,与PG流同样,存在时期开始的显示集、正常情况的显示集、获取点的显示集、时期继续的显示集。
在属于这些显示集的多个功能段中,有以下的种类。
(1)对象定义段
该对象定义段与PG流的该段是相同的。但是,IG流的图形对象是定义页的进入效果、退出效果、按钮部件的普通状态、被选择状态、活动状态的。对象定义段将定义按钮部件的相同状态者彼此、构成相同的效果影像者彼此分组化。将集合了定义相同的状态的对象定义段的组称作图形数据集合。
(2)调色板定义段
调色板定义段与PG流的该段是相同的。
(3)对话控制段
对话控制段包括多个页信息,多个页信息是规定多页菜单的画面的信息,各页信息包括效果序列、多个按钮信息和调色板标识符的参照值。
按钮信息是通过使图形对象作为按钮部件的一状态显示、在构成多页菜单的各页上实现互动性的画面构成的信息。
效果序列是使用图形对象、构成在对应于页信息的页显示之前再生的进入效果、或者在该页的显示后再生的退出效果的,包括效果信息。
效果信息是规定再生进入效果或退出效果时的各个画面构成的信息,包括规定在图形平面上的由窗口定义段定义的窗口(部分区域)中应执行怎样的画面构成的画面构成对象、以及表示与该区域中的下个画面构成的时间间隔的效果期间信息。
效果序列中的画面构成对象规定与PG流的画面构成段同样的控制内容。对象定义段中的、定义在上述进入效果中使用的图形对象的对象定义段在图形数据列中配置在比定义在按钮部件中使用的图形对象的对象定义段靠前。
页信息中的各按钮信息是通过将图形对象作为按钮部件的一状态显示、在构成多页菜单的各页上实现互动性的画面结构的信息。上述按钮信息包括设置按钮页命令,设置按钮页命令是当对应的按钮部件成为活动状态时、使再生装置进行将第一页以外的其他页设定为当前页的处理的命令。
在IG流的再生时,在想要按照页变更平面位移的偏移的情况下,预先在按钮信息中装入变更偏移的导航命令,在对应的按钮信息中规定导航命令的自动激活。由此,能够将由IG流的流登录信息规定的偏移的值及方向。
(4)结束段
是位于属于1个显示集的多个功能段的最末尾的功能段。将从对话控制段到该结束段作为构成1个显示集的功能段解释。
在左视图形流、以及右视图形流中,在相同的对话控制段的控制项目中,有按钮接近信息、选择超时时间戳、用户超时删除、组成超时信息。
1、按钮接近信息
按钮接近信息是在某个按钮为被选择状态、有指示上下左右方向的某个的键操作的情况下、指定应使哪个按钮为被选择状态的信息。
2、选择超时时间戳
选择超时时间戳表示用来将当前页中的按钮部件自动地激活、使再生装置执行设置按钮页命令。
3、用户超时删除
用户超时删除表示用来将当前页回到第一页、成为仅显示第一页的状态的超时时间。
4、组成超时信息
组成超时信息表示使对话控制段进行的互动性的画面显示结束的时间。在IG流中显示集的开始时刻由保存有对话控制段的PES包的DTS确定,显示集的结束时刻由对话控制段的组成超时时刻确定。在左视、右视中,这些DTS和组成超时时刻设定为相同的时刻。
·IG解码器的解码器模型
IG解码器包括保存从IG流读出的功能段的“编码数据缓冲器”、将画面构成段解码而得到图形对象的“流图形处理器”、保存通过解码得到的图形对象的“对象缓冲器”、保存画面构成段的“组成缓冲器”、以及将保存 在组成缓冲器中的画面构成段解读、基于这些画面构成段的控制项目、使用在对象缓冲器中得到的图形对象在图形平面上进行画面构成的“组成控制器”。
在该图形平面的前段,存在用来调节构成功能段的TS包的输入速度的“传输缓冲器”。
在图形解码器的后段,存在基于“图形平面”、以及调色板定义段、将构成保存在图形平面中的图形对象的像素代码变换为亮度、色差的“GLUT部”、以及用于平面位移的“位移部”。
图58表示IG解码器的解码器模型。在本图中,对应于IG解码器的主体的部分用黑框包围,对应于图形解码器后段的部分用单点划线包围。对应于IG解码器前段的部分用虚线框包围。
图58(a)是用来通过1plane+Offset模式方式以LR形式显示2D形式的IG流的解码器模型。图58(b)是IG流的解码器模型,但是是显示LR方式的数据的情况下的解码器模型。
在这些解码器中,为了从程序控制菜单图形的深度信息而包括用来将***参数的值反映到偏移中的电路。
图58(b)是2解码器模型,能够通过命令进行offset值的变更。由此,能够通过命令改变菜单的深度信息。将Offset值也赋予左右不同的值。另一方面,在Depth方式的情况下,Offset为无效。
图形解码器的组成控制器通过将存在于对话画面中的按钮部件中的成为当前按钮者使用对应于被选择状态的图形数据集合的图形数据显示,将其以外的按钮部件使用对应于普通状态的图形数据集合显示,来实现对话画面的初始显示。
在有指定上下左右4个方向的某个的用户操作的情况下,将位于当前按钮的周边的普通状态的按钮部件中的、存在于由用户操作指定的方向上者的号码写入到按钮号码寄存器中,通过该写入,使新成为当前按钮的按钮部件从普通状态变化为被选择状态。
在对话画面中有使成为了被选择状态的按钮部件变化为活动状态的用户操作的情况下,通过将构成该活动状态的图形数据从图形数据集合中取出而对显示提供,实现对话画面的更新。
这些对话画面的更新需要在左视、右视中共通地执行,所以,在2解码器模型中,优选地使组成控制器在左视用图形解码器和右视用图形解码器中共通化。
在此情况下,通过使立体视觉IG流中的左视、右视的导航命令相同化、使3D用和2D用的图形对象的按钮结构相同,实现相互切换。
在2DIG流和立体视觉IG流中,只要导航命令及按钮信息的属性、数量等相同,就能够进行仅图形对象的显示的切换。在从3D-LR模式向仅L图像的切换中,能够不再装载而切换,但是显示位置有可能偏斜。优选的是用标志表示采用哪个的标题制作者的意图,再生装置基于该标志进行再生装置的切换。
以下,总结模式切换时的注意事项。
·在1plane+Offset模式与2D模式的切换中不会发生再装载。这是因为不需要IG流的装载、而仅为Offset的无效化。
·在3D-LR模式与2D模式的切换中,由于流不同,所以发生再装载。
·在3D-Depth与2D之间,只要在预装载时深度信息的解码完成,就不发生再装载。
·即使采用了在AV再生开始前读入到存储器中的预装载模型,也如果随着2D模式/3D模式的切换而发生IG流的再装载,则发生不能保证无缝再生的情况。
以上是关于IG流及IG解码器的说明。接着,对平面存储器的详细情况进行说明。
对1plane+Offset模式方式的平面存储器结构进行说明。
平面存储器的层合成通过在平面存储器的层模型中对层模型中的层级间的所有组合执行使保存在层级间平面存储器中的像素数据的像素值重叠的处理来进行。合成部208的层合成通过在平面存储器的层模型中对层模型中的两个层级的全部组合执行使保存在两个层级的平面存储器中的像素模型的像素值重叠的处理来进行。
层级间的重叠是对位于某个层级中的平面存储器的行单位的像素值乘以透过率α作为权重、并且对位于其下层级中的平面存储器的行单位的像素值乘以(1-透过率α)的权重、将这些亮度的进行了加权的像素值彼此 相加、将相加结果作为该层级中的行单位的像素的像素值的处理。通过在位于层模型的相邻的两个层级中的行单位的像素彼此中重复执行该层级间的重叠,实现上述层合成。
平面存储器后段除了上述那样的GLUT部、位移部以外,还为了实现层合成而包括用来对各个像素值乘以等价率的乘法部、用来进行像素彼此的相加的加法部、以及用来进行次要视频的定位、范围变更的Scalling&Position部。
图59表示用来将解码器模型的输出合成、以3D-LR方式输出的电路结构。主要视频平面、PG平面、IG平面、次要视频平面的层模型用黑框包围,对应于平面存储器后段的部分用单点划线包围。由本图可知,上述那样的层模型存在两组。此外,可知对应于平面存储器后段的部位也存在两组。
通过存在两组层模型、平面存储器后段,在3D-LR方式的平面存储器结构中,主要视频平面、PG平面、IG平面、次要视频平面分别被区分为左视用和右视用,对左视和右视分别执行将这些平面存储器的输出进行层合成的处理。
在次要视频平面中,与主要视频流同样,能够将次要视频流用3D-LR模式或3D-Depth模式显示。此外,也可以如PG流那样对2D影像赋予偏移、使平面的影像浮现在近前而显示。
图60表示用来将这些解码器模型的输出合成、以1plane+Offset模式方式输出的电路结构。
左视用主要视频平面、右视用主要视频平面、PG平面、IG平面、次要视频平面的层模型用黑框包围,处于平面存储器后段的部分用单点划线包围。由本图可知,上述那样的层模型仅存在1组。此外,处于平面存储器后段的部位存在两组。
在1plane+Offset模式方式中,主要视频平面准备左视的和右视的主要视频平面。次要视频平面对于PG平面、IG平面分别区分为左视、右视,仅存在在左视、右视中共通的1个平面存储器。并且,对这些左视输出、右视输出分别进行上述那样的层合成。
由于再生装置需要支持B-D演示模式、1plane+Offset模式两者,所以作为再生装置的硬件结构基本上为2解码器+2平面的结构,在再生装置切 换为1plane+Offset模式、2D再生模式时,将1解码器+1平面的组中的一个无效化,成为1解码器+1平面结构。
在发生从3D再生模式向2D再生模式的切换、再生装置的结构从2解码器+2平面结构变化为1解码器+1平面结构的情况下,多路分离的对象成为只有构成L图像的TS包。这样,通过3D眼镜视听L图像、R图像的用户在刚从3D再生模式切换为2D再生模式时仅能看到L图像。
在此情况下,通过两眼的TV视听切换为通过单眼的TV视听,眼睛的负担变大,还出现感到发冷的用户。所以,在本实施方式中,在切换的情况下,将PID过滤器的对象从构成L图像的TS包、构成R图像的TS包切换为构成L图像的TS包,并且将图形解码器中的存储器管理复位。并且,在切换中,将字幕暂时消除,以使得不会发生造成上述那样的发冷的情况。
以上,根据本实施方式,在将解码器结构从2解码器结构切换为1解码器结构时,将平面存储器中的字幕暂时复位,所以能够缓和通过两眼的TV视听切换为通过单眼的TV视听带来的眼睛的负担。
(第5实施方式)
在本实施方式中,对用来制造在目前为止的实施方式中说明的记录介质的形态、即记录介质的生产行为的形态进行说明。
在目前为止的实施方式中说明的记录介质可以作为是多层化的光盘的BD-ROM盘、与BD-ROM盘有再生兼容性的BD-RE盘、BD-R盘、AVC-HD介质制作。
图61表示多层化的光盘的内部结构。
第1段表示作为多层化的光盘的一例的BD-ROM,第2段是将存在于各记录层上的螺旋轨道沿水平方向拉伸而描绘的图。这些记录层中的螺旋轨道可以作为1个连续的卷区域处理。卷区域由位于最内周的导入、位于最外周的导出、存在于其之间的第1记录层的记录区域、第2记录层的记录区域、第3记录层的记录区域构成。这些第1记录层的记录区域、第2记录层的记录区域、第3记录层的记录区域构成1个连续的逻辑地址空间。
卷区域从开头起被以访问光盘的单位分配了连续号码,将该号码称作逻辑地址。从光盘的数据的读出通过指定逻辑地址来进行。这里,在BD-ROM那样的读入专用盘的情况下,基本上逻辑地址连续的扇区在光盘 上的物理配置中也连续。即,逻辑地址连续的扇区的数据能够不进行搜索而读出。但是,在记录层的边界上,即使逻辑地址连续,也不能进行连续的读出。因此,设层边界的逻辑地址预先登录在记录装置中。
卷区域在导入区域之后记录有文件***管理信息,接着它而存在由文件***管理信息管理的分隔区域。所谓文件***,是将盘上的数据以称作目录或文件的单位表现的构造,在BD-ROM的情况下通过UDF(Universal Disc Format)记录。在日常使用的PC(个人计算机)的情况下,也通过经由称作FAT或NTFS的文件***,将以目录及文件的构造记录在硬盘上的数据在计算机上表现,提高了可用性。通过该文件***,能够与通常的PC同样将记录的逻辑数据使用目录、文件构造读出。
第4段表示由文件***管理的文件***中的区域分配。在文件***区域中的内周侧,存在非AV数据记录区域。在非AV数据记录区域之后,存在AV数据记录区域。第5段表示这些非AV数据记录区域及AV数据记录区域的记录内容。在AV数据记录区域中,存在构成AV文件的区段。在非AV数据记录区域中,存在构成AV文件以外的非AV文件的区段。
图62表示以文件***为前提的光盘的应用格式。
BDMV目录是记录有由BD-ROM处理的TS及管理信息等的数据的目录。在BDMV目录的属下,存在称作“PLAYLIST目录”、“CLIPINF目录”、“STREAM目录”、“BDJO目录”、“JAR目录”的5个目录,在BDMV目录中,配置有“index.bdmv”、“MovieObject.bdmv”的两种文件。
“index.bdmv(文件名固定)”保存有索引表。
“MovieObject.bdmv(文件名固定)”保存有1个以上的电影对象。电影对象是在以命令解释器为控制主体的动作模式(HDMV模式)中、规定再生装置应进行的控制顺序的程序文件,包括1个以上的命令、以及在由用户进行了对GUI的菜单调用、标题调用的情况下、规定是否将这些调用屏蔽的屏蔽标志。
在“BDJO目录”中,存在被赋予了扩展名bdjo的程序文件(xxxxx.bdjo[“xxxxx”可变、扩展名“bdjo”固定])。该程序文件保存有规定在BD-J模式中再生装置应进行的控制顺序的BD-J对象。该BD-J对象包括“应用管理表”。BD-J对象内的“应用管理表”是用来使再生装置进行以标题为生 存区间的应用信号发送的表。应用管理表包括确定当对应于BD-J对象的标题为当前标题时应动作的应用的“应用标识符”、以及“控制代码”。将由应用管理表规定生存区间的BD-J应用特别称作“BD-J应用”。在控制代码被设定为AutoRun的情况下,表示在将该应用装载到堆存储器中之后自动起动,在被设定为Present的情况下,表示在将该应用装载到堆存储器中之后、应等待来自其他应用的调用而起动。另一方面,在BD-J应用之中,有即使标题已结束、其动作也不结束的应用。将该应用称作“标题无边界应用”。
对应于该Java(注册商标)应用的实体的是保存在BDMV目录属下的JAR目录中的Java(注册商标)档案文件(YYYYY.jar)。
应用例如是Java(注册商标)应用,由装载到虚拟机的堆区域(也称作工作存储器)中的1个以上的xlet程序构成。由装载在该工作存储器中的xlet程序及数据构成应用。
在“PLAYLIST目录”中,存在被赋予了扩展名mpls的播放列表信息文件(xxxxx.mpls[“xxxxx”可变,扩展名“mpls”固定])。
在“CLIPINF目录”中,存在被赋予了扩展名clipi的片断信息文件(xxxxx.clpi[“xxxxx”可变,扩展名“clpi”固定])。
构成存在于以上的目录中的文件的区段记录在非AV数据区域中。
“STREAM目录”是保存有流文件的目录,在本目录中,以xxxxx.m2ts[“xxxxx”可变,扩展名“m2ts”固定]的形式保存有流文件。
上述那样的文件在分隔区域中形成在物理上连续的多个扇区上。分隔区域由“记录有文件集记述符的区域”、“记录有终端记述符的区域”、“ROOT目录区域”、“BDMV目录区域”、“JAR目录区域”、“BDJO目录区域”、“PLAYLIST目录区域”、“CLIPINF目录区域”、“STREAM目录区域”构成,是由文件***访问的区域。以下,对这些区域进行说明。
“文件集记述符”包括指示目录区域中的、记录有ROOT目录的文件入口的扇区的逻辑块号码(LBN)。“终端记述符”表示文件集记述符的终端。
接着,对目录区域的详细情况进行说明。上述那样的多个目录区域都具有共通的内部结构。即,“目录区域”由“文件入口”、“目录文件”、以 及“关于下位文件的文件记录区域”构成。
“文件入口”包括“记述符标签”、“ICB标签”和“分配记述符”。
“记述符标签”是表示自身是文件入口的标签。
“ICB标签”表示关于文件入口自身的属性信息。
“分配记述符”包括表示目录文件的记录位置的逻辑块号码(LBN)。以上是对文件入口的说明。接着,对目录文件的详细情况进行说明。
“目录文件”包括“关于下位目录的文件识别记述符”、以及“下位文件的文件识别记述符”。
“下位目录的文件识别记述符”是用来访问处于自身的属下的下位目录的参照信息,由表示该下位目录的识别信息、该下文目录的目录名的长度、表示下位目录的文件入口记录在哪个逻辑块号码中的文件入口地址、以及该下位目录的目录名构成。
“下位文件的文件识别记述符”是用来访问处于自身的属下的文件的参照信息,由表示该下位文件的识别信息、该下文文件的文件名的长度、表示下位文件的文件入口记录在哪个逻辑块号码中的文件入口地址、以及该下位文件的文件名构成。
在这些目录的目录文件的文件识别记述符中,表示下位目录及下位文件的文件入口记录在哪个逻辑块中,所以只要沿着该文件识别记述符,就能够从ROOT目录的文件入口到达BDMV目录的文件入口,此外,还能够从BDMV目录的文件入口到达PLAYLIST目录的文件入口。同样,也能够到达JAR目录、BDJO目录、CLIPINF目录、STREAM目录的文件入口。
所谓“下位文件的文件记录区域”,是记录有处于某个目录的属下的下位文件的实体的区域,记录有关于该下位文件的“文件入口”、以及1个以上的“区段”。
作为本发明的主要点的流文件是存在于该文件归属的目录的目录区域内的文件记录区域,通过沿着目录文件中的文件识别记述符、以及文件入口中的应用标识符而能够进行访问。
以上是关于记录介质的内部结构的说明。接着,对图61及图62所示的记录介质的制作方法、即记录方法的形态进行说明。
有关本实施方式的记录方法不仅包括实时地制作上述那样的AV文件、 非AV文件、直接写入到AV数据记录区域、非AV数据记录区域中的实时编码,还包括事前制作应记录到卷区域中的比特流的整体像、基于该比特流制作原盘、通过压制该原盘而量产光盘的预先格式编码。有关本实施方式的记录介质也是通过实时记录的记录方法及预先格式记录的记录方法确定的。
在通过实时记录技术实现记录方法的情况下,执行该记录方法的记录装置实时地制作AV片断,记录到BD-RE或BD-R、硬盘、半导体存储卡中。
在此情况下,AV片断既可以是通过记录装置将模拟输入信号实时编码得到的TS,也可以是通过记录装置将数字输入的TS局部化而得到的TS。执行实时记录的记录装置具备将视频信号编码而得到视频流的视频编码器、将音频信号编码而得到音频流的音频编码器、将视频流、音频流等多路复用而得到MPEG2-TS的多路复用器、以及将构成MPEG2-TS形式的数字流的TS包变换为源包的源包打包器,将变换为源包形式的MPEG2数字流保存到AV片断文件中而写入到BD-RE、BD-R等中。在与数字流的写入同时,记录装置的控制部在存储器上进行生成片断信息及播放列表信息的处理。具体而言,在由用户请求了录像处理时,控制部对BD-RE、BD-R上请求AV片断的流文件及片断信息文件。
并且,如果从由装置外部输入的TS检测到视频流中的GOP的开头位置、或通过编码器生成了视频流的GOP,则控制装置的控制部在该GOP中,取得位于开头的内图片的PTS、以及保存有该GOP的开头部分的源包的包号码,将该PTS及包号码的组作为EP_PTS入口及EP_SPN入口的组,追加到片断信息文件的入口映射表中。以后,每当生成GOP,就将EP_PTS入口及EP_SPN入口的组追加到片断信息文件的入口映射中。此时,在GOP的开头是IDR图片的情况下,将设定为“开启”的is_angle_change标志追加到EP_PTS入口及EP_SPN入口的组中。在GOP的开头不是IDR图片的情况下,将设定为“关闭”的is_angle_change标志追加到EP_PTS入口及EP_SPN入口的组中。
此外,关于片断信息文件中的流的属性信息,按照应记录的流的属性设定。如果如以上那样生成AV片断、片断信息而写入到BD-RE、BD-R中, 则经由该片断信息内的入口映射表,生成定义再生路径的播放列表信息,写入到BD-RE、BD-R中。通过在实时记录技术中执行这样的处理,能够在BD-RE、BD-R上得到AV片断-片断信息-播放列表信息的层级构造。
以上是执行实时记录的记录方法的记录装置。接着,对预先格式记录的记录方法进行说明。
预先格式记录的记录方法为包括编辑过程那样的光盘的制造方法。
图63表示记录介质的记录方法。图63(a)是表示预先格式记录的记录方法的流程图,表示光盘的制造方法的处理顺序。光盘的制造方法包括编辑步骤、签名步骤、媒体密钥取得步骤、媒体密钥加密步骤、物理格式化步骤、标识符植入步骤、母盘制作步骤、复制步骤。
编辑步骤S201制作表示光盘的卷区域的整体像的比特流。
签名步骤S202在光盘的制造时对AACS LA进行签名请求。具体而言,提取比特流的步骤,发送给AACS LA。这里,AACS LA是管理关于下一代数字家电设备的著作权保护技术的授权的团体。使用编辑装置进行光盘的编辑的编辑侧、以及使用母盘制作装置执行母盘制作的母盘制作侧从AACS LA接受授权的提供。此外,管理媒体密钥、无效化信息。并且,从AACS LA取得签名的比特流的一部分。
媒体密钥取得步骤S203从AACS LA取得媒体密钥。媒体密钥并不是总使用固有的键,而是如果到目前为止制造的光盘的片数达到一定片数则被更新为新的键。通过更新媒体密钥,能够将特定的厂商或设备排除,即使万一加密键被破坏,也能够通过使用无效化信息而将其自身无效化。
媒体密钥加密步骤S204使用通过媒体密钥取得步骤取得的媒体密钥,将在比特流的加密中使用的键加密。
物理格式化步骤S205对比特流执行物理格式化。
标识符植入步骤S206在收录于光盘中的比特流中,作为电子穿透而植入不能由一般设备检测的唯一的标识符。由此,能够防止通过不正当的母盘制作进行的盗版的量产。
母盘制作步骤S207制作光盘的原盘。首先,在玻璃基板上形成光敏抗蚀剂层,对该光敏抗蚀剂层照射激光并曝光、实施显影处理,以使其对应于希望的沟或位。该沟或位是表示8~16调制的比特流的各位值的。然后, 基于通过这样的激光切割形成了对应于沟或位的凹凸的光敏抗蚀剂,制作光盘的原盘。
复制步骤S208使用光盘的原盘大量地生产作为其拷贝的光盘。
图65(b)表示不是大量生产光盘、而是一般用户使用PC在BD-R、BD-RE等中记录由目前为止的实施方式所述的各种文件的情况下的预先格式记录的记录方法的处理顺序。与图65(a)相比,在图65(b)的记录方法中,不存在物理格式化(步骤S205)、母盘制作(步骤S207)、复制(步骤S208),代替它而存在各文件的写入工序(步骤S209)。
接着,对编辑过程进行说明。
图64是表示编辑过程的处理顺序的流程图。
在步骤S101中,定义关于主TS及副TS的盘卷集。所谓“盘卷(reel)”,是保存作为基本流的素材的数据的文件,在编辑***中,存在于本地网络上的驱动器上。由将3D摄像机摄影的L图像及R图像、在摄影时录音的声音、由然后的后期录音收录的声音、各语言的字幕、菜单数据化的文件对应于这些盘卷。所谓“盘卷集”,是表示应多路复用在1个TS中的基本流的集合的、向素材文件的链接群。这里,对于主TS、副TS分别定义了盘卷集。
在步骤S102中,通过定义播放项目、副播放项目的原型、定义播放项目、副播放项目的再生顺序,定义主路径、副路径的原型。播放项目的原型的定义通过在平面视觉再生模式中、经由GUI受理在该播放项目中应许可再生的盘卷的指定、以及In_Time/Out_Time的指定进行的。副播放项目的原型的定义是在立体视觉再生模式中、通过经由GUI受理在对应于该副播放项目的播放项目中应许可再生的盘卷的指定、以及In_Time/Out_Time的指定进行的。
应许可再生的盘卷的指定由将盘卷集中的素材文件的链接中的、应许可再生者用复选框选择的GUI构成。此时,对应于各盘卷而显示数值输入栏。并且,通过该数值输入栏受理关于各盘卷的优先次序,将其作为对应于盘卷的优先次序。根据以上的应许可再生的盘卷的设定、以及优先次序的设定,生成流选择表、扩展流选择表。
In_Time及Out_Time的指定是通过记录装置执行在GUI上将基础视视 频流或从属视视频流的时间轴图形化显示、使滑动条在图形化的时间轴上移动、从用户受理该滑动条的位置设定的处理来进行的。
播放项目、副播放项目的再生顺序的定义是通过在GUI上将作为播放项目的In_Time的图片缩略图化显示、记录装置从用户受理对该缩略图设定再生顺序的操作来进行的。
在步骤S103中,通过将由盘卷集指定的素材文件编码,得到多个基本流。这些多个基本流有基础视视频流、从属视视频流、以及应与这些基础视视频流、从属视视频流多路复用的音频流、PG流、IG流。
在步骤S104中,通过将由编码得到的基本流中的、属于与基础视视频流相同的盘卷者与该基础视视频流多路复用,得到1个主TS。
在步骤S105中,通过将由编码得到的基本流中的、属于与从属视视频流相同的盘卷者与该从属视视频流多路复用,得到1个副TS。
在步骤S106中,基于在编码及多路复用时设定的参数,生成片断信息文件的原型。
在步骤S107中,基于播放项目的原型生成播放项目信息、副播放项目信息,通过对这些播放项目信息、副播放项目信息定义再生顺序,生成主路径信息、副路径信息,定义播放列表信息。
在播放项目信息的制作中,在播放项目信息内生成流选择表,以将多路复用在主TS中的基本流中的、在播放项目的基本构造中规定为应以平面视觉再生模式再生者设定为可再生。此外,为了规定基础视视频流的再生区间,将由上述编辑作业规定的In_Time、Out_Time记载在播放项目信息中。
在副播放项目信息的制作中,在播放列表信息的扩展数据内生成扩展流选择表,以将多路复用在副TS中的基本流中的、在播放项目的基本构造中规定为应以立体视觉再生模式再生者设定为可再生。由于播放项目信息、副播放项目信息是基于片断信息文件内信息定义的,所以基于片断信息文件的原型设定。
在步骤S108中,将主TS、副TS、片断信息文件的原型、播放列表信息的原型变换为遵循规定的应用格式的目录文件群。
如果经过以上的过程、生成主TS、副TS、片断信息、播放项目信息、 副播放项目信息,则通过将主TS、副TS分别变换为独立的流文件、将片断信息变换为片断信息文件、将播放项目信息及副播放项目信息变换为播放列表信息文件,得到应记录到记录介质中的一系列的文件集。
在根据线性函数、抛物线函数的函数式计算各帧的进深的情况下,对记录装置的应用程序接口定义根据视频流的帧时刻导出各帧时刻的进深的函数,对该函数赋予基础视视频流的帧时刻,计算各帧时刻的进深。并且,将计算出的各个进深变换为平面偏移值、偏移方向信息。
然后,在视频流的编码过程的执行时,如果将通过上述变换得到的平面偏移值、偏移方向信息记载到各GOP的元数据中,则偏移序列可以在编码的过程中制作。
图65表示AV文件写入工序的处理顺序。在实时记录的记录方法、及伴随着母盘制作、复制的记录方法的实施中,通过本图的流程图实现AV文件的写入。
在步骤S401中,创建xxxxx.ssif,在记录装置的存储器上制作文件入口。步骤S402是是否能够确保空闲的连续扇区区域的判断,如果能够确保,则在步骤S403中,在空闲的连续扇区区域中将构成从属视数据块的源包列写入EXT2[i],然后执行步骤S404~步骤S408。在不能确保的情况下,在步骤S409中进行例外处理之后,结束记录方法。
步骤S404~步骤S408构成在步骤S407中判断为否之前重复步骤S404~步骤S406、步骤S408的处理的循环。
步骤S405在空闲的连续扇区区域中,将构成基础视数据块的源包列写入EXT1[i]。步骤S406将表示被写入源包列的开头地址及连续长的分配标识符追加到文件入口中,作为区段登录。随之,将指示所写入的源包列的开头源包号码的区段开始点信息追加到片断基础信息、片断从属信息内的元数据中。
步骤S407是规定循环的结束条件的,进行在基础视数据块、从属视数据块中是否存在未写入的源包的判断。如果存在,则转移到步骤S408,继续循环。如果不存在,则转移到步骤S410。
步骤S408是是否存在连续扇区区域的判断,如果存在则转移到步骤S403,如果不存在则回到步骤S402。
在步骤S410中,将xxxxx.ssif关闭,将文件入口写入到记录介质中。在步骤S411中,创建xxxxx.m2ts,在存储器中生成xxxxx.m2ts的文件入口在步骤S412中,将表示在文件2D中为固有的基础视数据块的开头地址及连续长的分配记述符追加到xxxxx.m2ts的文件入口中。在步骤S413中,将xxxxx.m2ts关闭,写入文件入口。
步骤S404是在EXTSS+EXT2D的范围内是否存在长跳跃的发生地点的判断。假设这里的长跳跃的发生地点是层边界。在EXTSS+EXT2D的范围内存在层边界的情况下,在步骤S420中,复制基础视数据块,将基础视数据块B[i]ss、以及基础视数据块B[i]2D写入到长跳跃发生地点之前,然后转移到步骤S406。它们为文件2D的区段、文件基础的区段。
接着,对在编辑步骤的作业中使用的记录装置进行说明。这里说明的记录装置为了电影内容的发行而设置在制作工作室中,供编辑人员使用。有关本发明的记录装置的使用形态为:按照来自编辑人员的操作,生成按照MPEG规格压缩编码的数字流及记述有怎样将电影标题再生的脚本,生成包括这些数据的面向BD-ROM的卷比特流,记录到用来交给母盘制作侧的记录介质中。
图66表示记录装置的内部结构。如本图所示,记录装置由视频编码器501、素材制作部502、脚本生成部503、BD程序制作部504、多路复用处理部505、格式处理部506构成。
视频编码器501根据左视的非压缩的位图等的图像、右视的非压缩的位图等的图像按照MPEG4-AVC或MPEG2等的压缩方式编码,制作左视视频流和右视视频流。此时,右视视频流在左视视频流的显示时刻与对应的帧通过图片间预测编码进行编码。在该图片间预测编码处理的过程中,从左视的图像和右视的图像的运动矢量中提取3D影像时的进深信息,写入到帧进深信息保存部501a中。视频编码器501为了进行利用图片间的相关特性的图像压缩,以8×8或16×16的宏块单位提取运动矢量,进行图像压缩。
在提取宏块中的运动矢量的处理中,假设将在背景中存在家、在前景中存在人的运动图像作为运动矢量的提取对象。在此情况下,在左眼图像和右眼图像中进行图片间预测。这样,在“家”的图像的部位处检测不到 运动矢量,而在“人”的部位处检测到运动矢量。
提取检测到的运动矢量,制作显示ED影像时的帧单位的进深信息。进深信息例如可以考虑采用与具有8位深度的帧的解析度相同的图像。
素材制作部502制作音频流、PG流、IG流等的各流,写入到音频流保存部502a、IG流保存部502b、PG流保存部502c中。
在音频流制作时,素材制作部502通过将非压缩的LinearPCM声音等按照AC3等的压缩方式编码而制作音频流。除此以外,素材制作部502还基于包括字幕图像和显示定时、以及渐入/渐出等的字幕效果的字幕信息文件,制作作为依据BD-ROM规格的PG流的格式的PG流。素材制作部502基于在菜单中使用的位图图像、以及记载有配置在菜单中的按钮的变迁及显示效果的菜单文件,制作作为依据BD-ROM规格的菜单画面的格式的IG流。
脚本生成部503按照由素材制作部502制作出的各流的信息、及来自编辑人员的经由GUI的操作,以BD-ROM格式制作脚本。这里所述的脚本对应于索引文件、电影对象文件、播放列表文件等的文件。此外,脚本生成部503制作记述有用来实现多路复用处理的各AV片断由哪个流构成的参数文件。这里制作的索引文件、电影对象文件、播放列表文件等的文件为在第1实施方式及第2实施方式中说明的数据构造。
BD程序制作部504通过GUI等的用户接口,按照来自用户的请求,制作BD程序文件的源代码,制作BD程序。此时,BD程序文件的程序为了设定GFX平面的进深,可以使用视频编码器501输出的进深信息。
多路复用处理部505将记述在BD-ROM脚本数据中的左视视频流、右视视频流、视频、音频、字幕、按钮等的多个流多路复用,制作MPEG2-TS形式的AV片断。此时,还同时制作与AV片断成对的片断信息文件。
多路复用处理部505将自己生成的入口映射、以及表示包含在AV片断中的各流的声音属性、影像属性等的属性信息作为一对,制作片断信息文件。片断信息文件的结构为与在目前为止的各实施方式中说明的数据构造。
格式处理部506将由脚本生成部503生成的BD-ROM脚本数据、由BD程序制作部504制作的BD程序文件、由多路复用处理部505生成的AV片断及片断信息文件以依据BD-ROM规格的格式配置文件及目录,以作为 依据BD-ROM规格的文件***的UDF的格式制作盘镜像,将表示盘镜像的比特流写入到BD-ROM比特流保存部507中。
此外,此时利用视频编码器501输出的进深信息,制作PG、IG、次要视频流的3D元数据。自动设定图像的画面上的配置以使其与3D影像的物体不重叠,或调节偏移值以使进深信息不重叠。这样制作出的盘镜像的文件布置通过到目前为止说明的文件布置的数据构造设定。将所生成的盘镜像变换为BD-ROM压制用数据,通过对该数据进行压制工序,能够进行BD-ROM的制造。
(第6实施方式)
在本实施方式中,对将在到目前为止的实施方式中说明的再生装置的功能综合后的、2D/3D再生装置的内部结构进行说明。
图67表示2D/3D再生装置的结构。2D/3D再生装置由BD-ROM驱动器1、读取缓冲器2a、读取缓冲器2b、开关3、***目标解码器4、平面存储器组5a、平面合成部5b、HDMI收发部6、再生控制部7、管理信息存储器9、寄存器组10、程序执行部11、程序存储器12、HDMV模组13、BD-J平台14、中间件15、模式管理模组16、用户事件处理部17、本地存储器18、非易失性存储器19构成。
BD-ROM驱动器1与2D再生装置同样基于来自再生控制部7的请求从BD-ROM盘读出数据,而将从BD-ROM盘读出的AV片断传送给读取缓冲器2a或读取缓冲器2b。
在再生3D影像时,从再生控制部发出指示将基础视数据块和从属视数据块以区段单位交替读出的读出请求。BD-ROM驱动器1将构成基础视数据块的区段读出到读取缓冲器2a中,将构成从属视数据块的区段读出到读取缓冲器2b中。在将3D影像再生时,需要将基础视数据块和从属视数据块两者同时读入,所以要求2D再生装置的BD-ROM驱动器以上的速度性能。
读取缓冲器2a是由保存BD-ROM驱动器1读入的基础视数据块的数据的双端口存储器等构成的缓冲器。
读取缓冲器2b是由保存BD-ROM驱动器1读入的从属视数据块的数据的双端口存储器等构成的缓冲器。
开关3是用来将对读取缓冲器的数据输入源切换为BD-ROM驱动器1或本地存储器18的某个的开关。
***目标解码器4对读出到读取缓冲器2a中的源包和读出到读取缓冲器2b中的源包进行多路复用处理,进行流的解码处理。
平面存储器组5a由多个平面存储器构成。在平面存储器中,有左视视频平面、右视视频平面、次要视频平面、IG平面、PG平面等。
平面合成部5b进行在到目前为止的实施方式中说明的平面合成。在向电视机等输出的情况下进行匹配于3D方式的输出。在需要利用开闭器眼镜交替地再生左眼图像、右眼图像的情况下原样输出,例如在输出给柱状透镜的电视机的情况下,准备准备临时的缓冲器,将先传送的左眼图像保存到临时缓冲器中,在传送右眼图像后同时输出。
HDMI收发部6例如在HDMI规格(HDMI:High Definition Multimedia Interface)中,执行第1实施方式所述的认证阶段、协商阶段。在协商阶段中,能够从电视机接受关于是否对应于立体视觉显示的信息、关于能够进行平面显示的解析度的信息、关于能够进行立体显示的解析度的信息。
再生控制部7包括再生引擎7a、再生控制引擎7b,如果从程序执行部11等命令了3D播放列表的再生,则在3D播放列表中确定作为再生对象的播放项目的基础视数据块,确定与该播放项目同步再生的3D用副路径的副播放项目的从属视数据块。然后,解释对应的片断信息文件的入口映射,基于表示从哪种区段起先配置区段的区段开始类型,对BD-ROM驱动器1请求,以使其从再生开始地点将从属视数据块的区段、以及基础视数据块的区段交替地读出。在再生开始时,在将最初的区段完全读出到读取缓冲器2a或读取缓冲器2b中之后,从读取缓冲器2a和读取缓冲器2b向***目标解码器4开始传送。
再生引擎7a执行AV再生功能。所谓AV再生功能,是从DVD再生装置、CD再生装置沿袭的功能群,是再生开始、再生停止、暂停、暂停的解除、静止图像功能的解除、以直接值指定了再生速度的快进、以直接值指定的再生速度的回退、声音切换、次要视频用的图片数据切换、角度切换等处理。
再生控制引擎7b根据来自作为HDMV模式的动作主体的命令解释器、 作为BD-J模式的动作主体的Java平台的函数调用,执行播放列表的再生功能。所谓播放列表再生功能,是指按照构成当前播放列表的当前播放列表信息、当前片断信息进行上述AV再生功能中的再生开始及再生停止。
管理信息存储器9是用来保存当前播放列表信息及当前片断信息的存储器。所谓当前播放列表信息,是指能够从BD-ROM或内建介质驱动器、可移除媒体驱动器访问的多个播放列表信息中的、作为当前处理对象的信息。所谓当前片断信息,是指能够从BD-ROM或内建介质驱动器、可移除媒体驱动器访问的多个片断信息中的、作为当前处理对象的信息。
再生状态/设定寄存器(Player Status/Setting Register)组10除了在到目前为止的实施方式中叙述的再生状态寄存器、再生设定寄存器以外,还包括能够保存程序文件利用的任意的信息的通用寄存器。
程序执行部11是执行保存在BD程序文件中的程序的处理器。按照所保存的程序进行动作,进行如下的控制。(1)对再生控制部7命令播放列表再生。(2)对***目标解码器传送用于菜单及游戏的图形的PNG、JPEG而显示在画面上。它们可以对应于程序的制作而自由地进行,怎样控制由编辑工序中的BD-J应用的编程工序决定。
程序存储器12是保存当前动态脚本、为作为HDMV模式的动作主体的HDMV模组、作为BD-J模式的动作主体的Java平台的处理提供的存储器。所谓当前动态脚本,是指记录在BD-ROM中的index.bdmv、BD-J对象、电影对象中的、作为当前执行对象者。此外,程序存储器12包括堆存储器。
堆存储器是配置***应用的字节码、BD-J应用的字节码、***应用利用的***参数、BD-J应用利用的应用参数的堆栈区域。
HDMV模组13是作为HDMV模式的动作主体的DVD虚拟播放器,为HDMV模式的执行主体。本模组具备命令解释器,通过将构成电影对象的导航命令解读并执行,执行HDMV模式的控制。导航命令由于用与DVD-Video相似的句法记述,所以通过执行该导航命令,能够实现类似DVD-Video的再生控制。
BD-J平台14是作为BD-J模式的动作主体的Java平台,将Java2Micro_Edition(J2ME)Personal Basis Profile(PBP1.0)、Globally Executable MHPSpecification(GEM1.0.2)forpackage media targets完全安装,由类装载器、 字节码解释器、应用管理器构成。
类装载器是***应用之一,通过从存在于JAR档案文件中的类文件读出字节码、保存到堆存储器31中,进行BD-J应用的装载。
字节码解释器是所谓的Java虚拟机,将保存在堆存储器中的构成BD-J应用的字节码、构成***应用的字节码变换为本机码,使MPU执行。
应用管理器是***应用之一,基于BD-J对象内的应用管理表将BD-J应用起动或将BD-J应用结束等,进行BD-J应用的应用信号发出。以上,结束对BD-J平台部的内部结构的说明。
中间件15是用于装入软件的操作***,由内核、设备驱动器构成。内核根据来自BD-J应用的应用编程接口(API)的调用,对BD-J应用提供再生装置特有的功能。此外,实现通过中断信号起动中断处理器部等的硬件控制。
模式管理模组16保持从BD-ROM或内建介质驱动器、可移除媒体驱动器读出的Index.bdmv,进行模式管理及分支控制。模式管理模组进行的模式管理,是使BD-J平台22、HDMV模组的哪个执行动态脚本的、模组的分配。
用户事件处理部17应答于通过遥控器的用户操作,对程序执行部16及再生控制部17委托处理的执行。例如,在遥控器上按下了按钮的情况下,对程序执行部16委托,以使其执行包含在该按钮中的命令。例如,在遥控器上按下了快进、回退按钮的情况下,对再生控制部7命令对于当前再生的播放列表的AV片断的快进、回退处理的执行。
本地存储器18具备用来访问硬盘的内置媒体驱动器、用来访问半导体存储卡的可移除媒体驱动器,用于下载的追加内容及应用使用的数据等的保存。追加内容的保存区域被按照BD-ROM划分,此外,应用能够用于数据的保持的区域被按照应用划分。
非易失性存储器19是可读写的存储器等的记录介质,是即使不被供给电源也能够保持记录内容的介质,例如是闪存存储器、FeRAM等。它在寄存器组10的存储内容的备份中使用。
接着,对***目标解码器4及平面存储器组5a的内部结构进行说明。图68表示***目标解码器4及平面存储器组5a的内部结构。如本图所示, ***目标解码器4及平面存储器组5a由ATC计数器21、源拆包器22、PID过滤器23、STC计数器24、ATC计数器25、源拆包器26、PID过滤器27、主要视频解码器31、左视视频平面32、右视视频平面33、次要视频解码器34、次要视频平面35、PG解码器36、PG平面37、IG解码器38、IG平面39、主要音频解码器40、次要音频解码器41、混合器42、绘制引擎43、GFX平面44构成。
主要视频解码器31将左视视频流解码,将作为解码结果的非压缩的视频帧写入到左视视频平面32中。
左视视频平面32例如是能够通过1920×2610(1280×1440)的解析度保存图片数据的平面存储器。
右视视频平面33例如是能够通过1920×2610(1280×1440)的解析度保存图片数据的平面存储器。
次要视频解码器34具有与主要视频解码器同样的结构,进行输入的次要视频流的解码,以显示时刻(PTS)的定时将图片写出到次要视频平面中。
次要视频平面35被从***目标解码器4输出将次要视频流解码后的次要视频用的图片数据用数据。
PG解码器36从由源拆包器输入的多个TS包中提取PG流并解码,将非压缩的图形数据以显示时刻(PTS)的定时输出给PG平面。
在PG平面37中,保存有通过将PG流解码得到的非压缩的图形对象。
IG解码器38从由源拆包器输入的多个TS包中提取IG流并解码,将非压缩的图形数据以显示时刻(PTS)的定时输出给PG平面。
在IG平面39中,保存有通过将IG流解码得到的非压缩的图形对象。
主要音频解码器40将主要音频流解码。
次要音频解码器41将次要音频流解码。
混合器42将主要音频解码器40的解码结果与次要音频解码器41的解码结果合成。
绘制引擎43具备Java2D、OPEN-GL等基础软件,按照来自BD-J应用的请求进行JPEG数据/PNG数据的解码,得到图像或小构件,写入到IG平面及背景图形平面中。通过将JPEG数据解码得到的图像数据是作为GUI的壁纸的图像数据,被写入到背景图形平面中。通过将PNG数据解码得到 的像素数据被写入到IG平面中,能够实现伴随着动画的按钮显示。通过将这些JPEG数据/PNG数据的解码得到的图像或小构件在显示用来受理标题选择或字幕选择、声音选择的菜单、或使流再生联动型的游戏动作时,为了构成GUI部件而使用。此外,在BD-J应用访问WWW站点时,为了构成该WWW站点的浏览器画面而使用。
GFX平面44是JPEG、PNG等的图形数据在被解码后被写入的平面存储器。
绘制存储器45是被读入应由绘制引擎解码的PNG数据、JPEG数据的存储器。在该图像存储器中,在BD-J应用执行现场再生模式时,确保高速缓冲区域。所谓现场再生模式,是将存在于网络上的WWW站点的浏览器画面与BD-ROM的流再生组合的模式,高速缓冲区域是用来将现场再生模式时的当前的浏览器画面及之前的浏览器画面高速缓冲的高度缓冲存储器,在这里保存有非压缩的PNG数据或非压缩的JPEG数据、即构成浏览器画面的数据。
以上,根据本实施方式,能够实现包含有在到目前为止的实施方式中叙述的特征的记录介质作为BD-ROM。此外,能够实现包含有在到目前为止的实施方式中叙述的特征的再生装置作为BD-ROM再生装置。
(第7实施方式)
在本实施方式中,对寄存器组的详细情况进行说明。
寄存器组由多个播放器状态寄存器、多个播放器设定寄存器构成。各个播放器状态寄存器、放器设定寄存器都是字长32位的寄存器,对于32位长的寄存器分别赋予寄存器号码,使用该寄存器号码确定应访问的寄存器。
构成各寄存器的一个字(32位)的各位数据的位位置称作b0~b31。最高位的位称作b31,最低位的位称作b0。并且,将32位中的、从第bx位的位位置到第by位的位位置的位范围用[bx:by]的表述表现。
保存在规定的寄存器号码的播放器设定寄存器/播放器状态寄存器中的32位长的位列、任意的位范围[bx:by]的值被作为程序进行动作时的动作***的环境变量(称作***参数或播放器变量)处理。进行再生控制的程序能够通过***属性或应用编程接口取得***参数。此外,只要没有特 别禁止,程序能够切换这些播放器设定寄存器、播放器状态寄存器的值。关于BD-J应用,由JAR档案文件的许可管理表对于***参数的取得及改写赋予权限为必要条件。
播放器状态寄存器是在再生装置的MPU进行算术运算或位运算时、用来保存作为其被运算符的数值的硬件资源,是在装填了光盘时被设定初始值、此外在当前播放项目的变更等、再生装置的状态变化时判断其保存值的有效性的寄存器。作为该保存值,有当前的标题号码、当前的播放列表号码、当前的播放项目号码、当前的流号码、当前的章节号码等。由于在光盘的装填时保存初始值,所以该保存值是临时性的,如果光盘被弹出、或再生装置的电源被断开,则该保存值丧失有效性。
播放器设定寄存器在被实施电源对策这一点上与播放器状态寄存器不同。由于被实施了电源对策,所以在再生装置的电源断开时,将其保存值储存到非易失性的存储器中,在再生装置的电源投入时恢复该保存值。将再生装置的制造主体(制造商)在再生装置的出厂时设定的再生装置的各种配置、用户按照安装顺序设定的各种配置、以及当再生装置与TV***或立体声音响、放大器等的家庭影院设备连接时通过与连接对方的设备的协商判断出的对方侧设备的能力设定在播放器设定寄存器中。
图69是描绘了寄存器组10的内部结构和再生控制引擎7b的图。
在本图的左侧表示寄存器组10的内部结构。在右侧表示再生控制引擎7b的内部结构。
表示被分配了各个寄存器号码的播放器状态寄存器、播放器设定寄存器是怎样的结构。
PSR1是用于音频流的流号码寄存器,保存当前的音频流号码。
PSR2是用于PG流的流号码寄存器,保存当前的PG流号码。
PSR4通过设定为1~100的值而表示当前的标题号码。
PSR5通过设定为1~999的值而表示当前的章节号码,通过设定为0xFFFF而表示在再生装置中章节号码是无效的。
PSR6通过设定为0~999的值而表示当前播放列表的号码。
PSR7通过设定为0~255的值而表示当前播放项目的号码。
PSR8通过设定为0~0xFFFFFFFF的值,使用45KHz的时间精度表示 当前的再生时刻(当前PTM)。以上是关于PSR的说明。
PSR10是用于IG流的流号码寄存器,保存当前的IG流号码。
PSR21表示用户是否想要执行立体视觉再生。
PSR22表示输出模式值。
PSR23是“Display Capability for video”的设定。它表示在作为再生装置的连接对方的显示装置中是否存在执行立体视觉再生的能力。
是“Player Capability for 3D”的设定。它表示在再生装置中是否存在执行立体视觉再生的能力。
另一方面,在再生控制引擎7b的内部中,具备寄存器组10的PSR4、PSR6、PSR21、PSR23、以及参照管理信息存储器9中的当前播放列表信息的流选择表、唯一地确定当前播放列表的输出模式的过程执行部8。中的Player Capability for 3D是指关于再生装置的3D再生的所有能力的,有简单地表述为“3D-Capability”的情况。
PSR23是规定输出模式的,其状态变迁的选择模型如图70所示那样规定。
图70表示输出模式的选择模型的状态变迁。在该选择模型中存在两个一般的状态。椭圆是示意地描绘该一般的状态、即输出模式值能够取的值即“Invalid”、“valid”的。Invalid表示输出模式为无效,Valid表示输出模式为有效。
一般的状态只要不发生状态变迁就维持。状态变迁有播放列表再生的开始、由导航命令或BD-J应用请求的输出模式变化、向BD-J标题的跳跃。在发生了状态变迁时,执行用来获得输出模式预参照的过程。
图中的箭头jm1、jm2、jm3、……jm12示意地表示作为状态变迁的触发事件的事项。在本图的状态变迁中有以下的变迁。
所谓“Load a disc”是指装填了BD-ROM的状态。
“Start Presentation”在HDMV模式中意味着播放列表的再生开始(start Playlist playback)。在BD-J模式中意味着向BD-J标题的分支。这是因为,在BD-J模式中,在分支到BD-J标题的情况下并不一定开始播放列表的再生。
“Jump to BD-J title”是指向BD-J标题的分支。具体而言,是指在索 引表中与BD-J应用建立了对应的标题(BD-J标题)成为当前标题。
“Start Playlist Playback”是指将意味着某个播放列表的播放列表号码设定在PSR中、将播放列表信息作为当前播放列表信息读出到存储器中。
“Change Output Mode”是指BD-J应用通过调用API使输出模式变化。
“Terminate Presentation”在HDMV模式的情况下是指播放列表的再生结束,在BD-J模式的情况下是指从BD-J标题向在索引表中对应于电影对象的标题(HDMV标题)跳跃。
当装载了盘时,输出模式的状态变迁为临时的状态“Initialization”。输出模式选择状态在临时变迁为“Initialization state”之后,变迁为invalid state。
Output Mode Selection的状态在再生开始(Star Presentation)成为活动之前维持为Invalid。在HDMV模式中,“Start Presentation”意味着已开始播放列表的再生。在BD-J模式中,“Start Presentation”意味着已开始BD-J标题的再生、BD-J应用已开始了某个动作。并不一定意味着已开始播放列表的再生。
当Start Presentation成为活动时,输出模式变迁为作为临时状态的“Procedure when playback condition is changed”。
输出模式按照Procedure when playback condition is changed的结果变迁为Valid。如果输出模式为有效、Start Presentation结束,则状态变迁为Invalid。
电影对象中的导航命令由于被内容提供商设定在输出模式预参照中,所以必须在播放列表再生的开始之前执行。当执行了电影对象中的导航命令时,在该模型中成为Invalid。
图71表示Initialization的处理顺序。
步骤S501是非绑定盘的BD-J应用是否是动作中的判断,步骤S502是是否PSR23的Stereoscopic Display Capability表示“有Capability”、Index.bdmv中的Initial_output_mode信息表示“立体视觉输出模式”的判断。
如果步骤S501为是,则在步骤S503中维持当前的输出模式。如果步骤S501是否、步骤S502为是,则在步骤S4中将PSR22设定为立体视觉输出模式。如果步骤S501是否、步骤S502是否,则在步骤S5中将PSR22的输出模式设定为2D输出模式。
图72表示Procedure when playback condition is changed的处理顺序。步 骤S511是PSR22的输出模式是否是2D输出模式的判断,步骤S513是是否PSR23的Stereoscopic Display Capability表示“有Capability”、并且在播放列表中存在扩展流选择表的判断。
如果步骤S511为是,则在步骤S512中,不使当前输出模式变化。如果步骤S511是否、步骤S513为是,也不使当前输出模式变化(步骤S512)。如果步骤S511是否、步骤S513是否,则使当前输出模式变化为2D输出模式(步骤S514)。
当开始播放列表的再生时,应留意的是能够在各个播放项目中再生的PES流由各个播放项目中的流选择表规定这一点。由此,在开始当前播放项目的再生时,首先需要在当前播放项目的流选择表中、从许可再生的PES流之中选择最适合于播放列表的再生者。该选择的顺序称作“流选择过程”。
以下,对用于3D再生模式实现的播放器设定寄存器的位分配进行说明。为了3D再生模式的实现而使用的寄存器是21号、22号、23号、24号寄存器,表示这些寄存器中的位分配的是图70。图73表示用于3D再生模式实现的播放器设定寄存器的位分配。
图72(a)表示PSR21的位分配。在本图中,最低位的位b0是输出模式预参照,通过设定为0b,表示是2D输出模式,通过设定为1b,表示是立体视觉输出模式。导航命令及BD-J应用不能切换该PSR21的值。
图72(b)表示PSR22的位分配。
PSR22的b0表示当前的输出模式。如果输出模式变化,则再生装置的视频输出必须对应地变化。输出模式的值必须受选择模型控制。
图72(c)表示PSR23的位分配。如本图所示,PSR23中的b0表示连接的TV***中的立体视觉显示能力。具体而言,通过设定为“0”,表示连接的TV***是不能进行立体视觉再生,通过设定为“1”,表示是能够进行立体视觉再生。
在再生装置中支持与显示装置进行连接的某种接口的情况下,在开始再生之前,这些值被自动地设定。在不能自动地设定这些值的情况下,由用户设定。
图72(d)表示PSR24的位分配。如本图所示,PSR24中的b0表示再生装置的立体视觉显示能力。立体视觉显示能力通过设定为0,表示立体视 觉再生类型是不能,通过设定为1,表示是能够。
以上,根据本实施方式,即使有再生装置的状态变化或来自用户的流切换请求,也能够保持输出模式的有效性。
(第8实施方式)
在第1实施方式中,在副视频流的元数据中装入了规定偏移控制的信息,但在本实施方式中,在图形流内的元数据中装入规定偏移控制的信息。用于偏移控制的控制信息对图形平面中的水平坐标的右方向及左方向赋予偏移,将描绘构成主视的图片数据的主视视频平面及描绘构成副视的图片数据的副视视频平面合成。
以下,对用于位移控制的参数、以及用来将该参数插补值的数据。
图74表示宏块的进深与用于位移控制的参数的关系。
假设表示图2的L图像、R图像的图片数据由图74(a)的宏块、图74(b)的宏块构成。这些本图中的四方框表示一个宏块。并且,被添加了阴影的宏块表示构成L图像、R图像的宏块中的、立体物占有的宏块。
图74(c)是从上述L图像、R图像得到的立体物,与图2所示的相同。图74(d)是由图74(a)、图74(b)的宏块表现的立体物。图74(a)、图74(b)的宏块是具有基于L图像与R图像之间的相关性的进深的宏块,如果按照该进深将宏块沿Z轴方向配置,则为图74(d)那样。这些宏块具有作为立体物的恐龙的头、躯干、手足、尾的进深,所以如图74(e)那样规定应在位移控制中使用的进深。即,将相对于对应于立体视觉的宏块具有的进深在Z轴方向上偏位了α的位置作为应在位移控制中使用的进深。通过这样,能够规定用来在恐龙的头部的近前显示图形的进深、用来在躯干的近前显示图形的进深、用来在手足的近前显示图形的进深、用来在手尾的近前显示图形的进深。
如果将这4个进深作为4个偏移序列定义,则在1plane+Offset模式中,作为用来显示图形的进深,可以适当地选择恐龙的头、躯干、手足、尾的某个。
在MPEG4-MVC的编码中,由于使用L图像、R图像的相关性进行编码,所以生成构成L图像的宏块、以及构成R图像的宏块的运动矢量。如果使用该运动矢量,则能够检测各宏块的进深,能够根据该各宏块的进深 得到对应于各个宏块的位移控制参数。
该偏移序列的生成通过与视频流的编码并行地执行偏移序列的定义顺序来进行。图75是表示与视频流的编码并行地执行的、偏移序列的定义顺序的流程图。
步骤S110是是否已开始GOP的编码的判断,如果开始,则在步骤S111中,对于GOP的开头视频访问单元的开头的MVC可扩展嵌套SEI消息中,生成对应于开头视频访问单元的图片中的移动体的各个宏块的偏移序列。这是为了将X轴方向的位移幅度、Z轴方向的位移方向等用于1plane+Offset模式的控制参数对应于构成开头视频访问单元的图片的各个宏块而生成。
步骤S112是每当进行属于GOP的L图像、R图像的编码时、画面中的移动体的运动矢量是否是以宏块单位计算的判断。如果计算了运动矢量,则计算进深信息。在本实施方式中,在步骤S113中通过将各宏块的运动矢量的水平方向的标量值变换为位移幅度、将各宏块的运动矢量的移动方向的水平成分变换为位移方向的简单的处理计算进深信息。通过这样,求出各帧期间的位移幅度、位移方向的大约值。
在步骤S114中,对帧期间的各宏块得到的位移幅度加上Z轴方向的偏位量。这是因为,由于作为上述变换源的水平方向的标量值表示对应于宏块的立体物的进深本身,所以通过加上该偏位量,将立体物的稍稍近前的进深作为1plane+Offset模式中的位移幅度明示。
在步骤S115中,将加上了偏位量后的各帧的各宏块的位移幅度和位移方向作为新的Plane_offset_direction、Plane_offset_value追加到各偏移序列中。
步骤S116是视频流中的GOP的编码是否继续的判断,如果继续则回到步骤S112。只要编码继续,向上述偏移序列的Plane_offset_direction、Plane_offset_value的追加就继续。
如果GOP的编码结束,则结束对于该GOP的视频访问单元的偏移元数据的生成,回到步骤S110。
另外,在3D摄像机的摄影时,此外在基础视视频流及从属视视频流的编码时,将这些各宏块的位移幅度、位移方向按照GOP数据库化,如果对 该位移幅度、位移方向实施适当的变换,保存到对应于GOP的开头的访问单元内的MVC可扩展嵌套SEI消息中,则能够定义定义多个进深那样的多个偏移序列。另外,在3D摄像机具备MPEG4-MVC的编解码器的情况下,在3D摄像机中应当执行上述偏移序列的定义。
以上是1plane+Offset模式中的偏移控制的参数的制作方法。接着,对将在这样的过程中生成的控制参数进行插补值的插补值参数进行说明。这样的插补值参数存在于字幕流的内部的元数据中。
图76是表示字幕流的窗口定义段、控制信息的图。
“窗口定义段”是用来定义图形平面的矩形区域的功能段。在Epoch中,已经叙述了仅在图形平面中的某个矩形区域内进行了清空及再描绘的情况下在存储器管理中发生连续性。该图形平面中的矩形区域称作“window”,由该WDS定义。图76(a)是表示WDS的数据构造的图。如本图所示,WDS使用在图形平面中唯一识别窗口的“window_id”、表示图形平面中的左上像素的水平位置的“window_horizontal_position”、表示图形平面中的左上像素的垂直位置的“window_vertical_position”、表示图形平面中的窗口的横宽的“window_width”、以及表示图形平面中的纵宽的“window_height”表现。
对于window_horizontal_position、window_vertical_position、window_width、window_height能够取的值进行说明。这样设想的坐标系是图形平面的内部区域,在该图形平面的内部区域中,窗口具有纵:video_height、横:video_width的二维形状的大小。
window_horizontal_position由于是图形平面中的左上像素的水平地址,所以取0~video_width-1的值,window_vertical_position由于是图形平面中的左上像素的垂直地址,所以取0~video_height-1的值。
window_width由于是图形平面中的窗口的横宽,所以取0~video_width-window_horizontal_position-1的值,window_height由于是图形平面中的纵宽,所以取0~video_height-window_vertical_position-1的值。
通过WDS的window_horizontal_position、window_vertical_position、window_width、window_height,能够按照Epoch规定在图形平面的何处配置窗口、将窗口的大小设为多大。因此,在显示属于某个Epoch的图片的 期间中,可以在编辑时预先调节,以使得在对应于图片上的余白的位置上出现窗口,以使其不会成为图片内的图案的妨碍。由此,能够使图形的字幕显示容易看到。由于WDS能够按照Epoch定义,所以即使在图片的图案中有时间性的变动,也能够对应于该变动而将图形容易观察地显示。因此,结果能够将电影作品的品质提高到与将字幕装入到影像主体中相同的水平。
图74(b)表示为1plane+Offset用追加了场的PCS(Presentation Composition Segment)的构造。
如本图所示,PCS由“segment_type”、“segment_length”、“composition_number”、“composition_state”、“pallet_update_flag”、“pallet_id_ref”、“number_of_composition_object”和“composition_object(1)~(m)”构成。
“composition_number”使用0到65535的数值识别Display Set中的图形更新。说起怎样识别,如果从Epoch的开头到本PCS存在图形更新,则以每当经由这些图形更新就增加的规则设定composition_number。
“composition_state”表示从本PCS开始的Display Set是NormalCase、还是AcquisitionPoint、还是Epoch Start。
“pallet_update_flag”表示在本PCS中是否进行了PalletOnly Display Update。所谓PalletOnly Display Update,是指通过仅将之前的调色板切换为新的调色板进行的更新。如果在本PCS中进行了该更新,则将本场设定为“1”。
以后的“3d_graphics_offset_direction”、“3d_graphics_offset”是图形平面中的元数据。
“3d_graphics_offset_direction”是向左右的哪方错移Offset量的用来决定方向的场。
“3d_graphics_offset”是用来决定向左右的方向具体地移动多少的场。
“pallet_id_ref”表示在PalletOnly Display Update中应使用的调色板。
“composition_object(1)~(n)”是表示怎样控制在该PCS属于的Display Set内应显示的Object的信息。该图的虚线co1将composition_object(i)的内部结构特写表示。如该虚线co1所示,composition_object(i)由 “object_id_ref”、“window_id_ref”、“object_cropped_flag”、“forced_on_flag”、“object_horizontal_position”、“object_vertical_position”、“cropping_rectangle信息(1)、(2)、……(n)”构成。
“object_id_ref”表示对应于composition_object(i)的应参照的ODS的标识符。
“window_id_ref”表示在本PCS中应对图形对象分配的窗口。对于1个窗口最大可以分配两个图形对象。
“object_cropped_flag”是切换显示在对象缓冲器中修剪后的图形对象、还是显示没有修剪的图形对象的标志。在设定为“1”的情况下,显示在对象缓冲器中修剪后的图形对象,在设定为“0”的情况下,将图形对象不修剪而显示。“forced_on_flag”是表示即使在播放器的设定中字幕为OFF时也要强制显示的字幕的图形对象的情况下为1。
“object_horizontal_position”表示图形平面中的图形对象的左上像素的水平位置。
“object_vertical_position”表示图形平面中的图形对象的左上像素的垂直位置。
“cropping_rectangle信息(1)、(2)、……(n)”是在“object_cropped_flag”被设定为“1”的情况下为有效的信息要素。虚线wd2将任意的cropping_rectangle信息(i)的内部结构特写表示。如该虚线所示,cropping_rectangle信息(i)由“object_cropping_horizontal_position”、“object_cropping_vertical_address”、“object_cropping_width”、“object_cropping_height”构成。
“object_cropping_horizontal_position”表示图形平面中的块矩形的左上像素的水平位置。块矩形是用来将图形对象的一部分切下的框,对应于ETSI EN300743标准规格中的“Region”。
“object_cropping_vertical_address”表示图形平面中的块矩形的左上像素的垂直位置。
“object_cropping_width”表示图形平面中的块矩形的横宽。
“object_cropping_height”表示图形平面中的块矩形的纵宽。
以上是PCS的数据构造。
由3d_graphics_offset表示的单位既可以定义为以画面上的1个像素单位向左右错移的量,也可以为了节约定义3d_graphics_offset的位数而设为例如以两个像素(pixel)单位移动的量。
例如,在3d_graphics_offset_direction构成为1位的场、在为0时对字幕从显示器向跟前飞出的方向(即在将Graphics Plane叠合在左眼用Video Plane上的情况下,向右方向错移Offset量而重叠Graphics Plane)赋予Offset,在为1的情况下对从画面向进深方向凹入的方向赋予Offset。此外,如果假设3d_graphics_offset有6位,则对左右的Video Plane重叠的Offset能够向左右方向移动各64个像素(Offset表示1个像素单位下的移动量的情况)。
此时,向左右方向通过64个像素就能够得到充分的3D字幕(飞出),所以将该场的值作为从属视流的与偏移序列的插补值使用。具体地讲,composition_object内的偏移是能够与从属视流内的偏移序列组合使用的插补值,表示当显示描绘区域中的字幕时、只要将从属视流的偏移序列所示的偏移以何种程度插补就可以的插补值。
接着,对怎样记述各个PCS进行说明,在图77(a)~图77(c)中表示属于Display Set(显示组)的WDS、PCS的记述例。图77是表示DS中的PCS的记述例的图。
在图77(a)中,WDS的window_horizontal_position、window_vertical_position表示图形平面中的窗口的左上坐标LP1,window_width、window_height表示窗口的显示框的横宽、纵宽。
图77(a)中的修剪信息的object_cropping_horizontal_position、object_cropping_vertical_position在以对象缓冲器中的图形对象的左上坐标为原点的坐标系中表示块范围的基准ST1。从该基准点起object_cropping_width、object_cropping_height所示的范围(图中的粗框部分)为修剪范围。修剪后的图形对象在图形平面的坐标系中配置在以object_horizontal_position、object_vertical_position为基准点(左上)的虚线的范围cp1中。通过这样,将“本当は”写入到图形平面中的窗口内。由此,将字幕“本当は”与运动图像合成而显示。
图77(b)是表示DS2中的PCS的记述例的图。本图中的WDS的记 述与图77(a)相同,所以省略说明。修剪信息的记述与图77(a)不同。图77(b)中的修剪信息的object_cropping_horizontal_position、object_cropping_vertical_position表示对象缓冲器上的字幕“本当はソゥだつた。ぁなたが”中的“ソゥだつた”的左上坐标,object_cropping_height、object_cropping_width表示“ソゥだつた”横宽、纵宽。通过这样,将“ソゥだつた”写入到图形平面中的窗口内。由此,将字幕“ソゥだつた”与运动图像合成而显示。
图77(c)是表示DS3中的PCS的记述例的图。本图中的WDS的记述与图77(a)相同,所以省略说明。修剪信息的记述与图77(a)不同。图77(c)中的修剪信息的object_cropping_horizontal_position、object_cropping_vertical_position表示对象缓冲器上的字幕“本当はソゥだつた。ぁなたが”中的“ぁなたが”的左上坐标,object_cropping_height、object_cropping_width表示“ぁなたが”横宽、纵宽。通过这样,将“ぁなたが”写入到图形平面中的窗口内。由此,将字幕“ぁなたが”与运动图像合成而显示。
通过如以上那样记述DS1、2、3的PCS,能够实现字幕的显示效果。
图78表示在实施了使用conposition_object内的3d_graphics_offset的插补的情况、以及不实施插补的情况下、偏移怎样在时间上变化。实线表示使用conposition_object内的3d_graphics_offset实施了插补的情况下的偏移的时间性变化,虚线表示没有实施使用conposition_object内的3d_graphics_offset的插补的情况下的偏移的时间性变化。
在图形平面中,描绘区域有两个,有想要在它们中的第1个区域中显示台词、在第2个区域中想要显示导演的注释的情况。并且,在关于注释配置在比台词靠深侧、想要呈现字幕的立体感的情况下,如果设定插补值,则能够使注释的进深变深。
由于平面位移为行单位,所以在对1个行设置不能定义多个描绘区域那样的规则、或者对1个行设置多个描绘行的情况下,应设置将偏移的值设定为相同的值的规则。
(第9实施方式)
本实施方式关于视频偏移信息具有通过将画面分割而得到的各个区域 的偏移值的改良。
图79表示由画面的各分割区域的偏移构成的偏移序列。图79(a)是由9个偏移构成的偏移序列。图79(b)表示偏移序列中的各个偏移对应于9分割的画面中的哪个部分。Offset_1表示左上、Offset_2表示左上、Offset_3表示左下、Offset_4表示上、Offset_5表示中心、Offset_6表示下、Offset_7表示右上、Offset_8表示右上、Offset_9表示右下的区域的偏移值。这些Offset值由视频流的各帧的视频的进深信息决定。
图80表示画面内的物体的进深与偏移的关系。该图的左侧表示图片数据的一例,右侧表示9分割的偏移序列。在左侧,假设圆形的物体进入到里侧、三角的物体向前面跃出。
在此情况下,对应于包括圆形的物体的区域的偏移1的值较小。
对应于包含三角的物体的区域的偏移5、6、8、9的值设定得较大。这样,基于包含在各帧的场景中的物体的进深制作偏移信息。
接着,对3D再生装置进行说明。3D再生装置的结构的基本部分与在到目前为止的实施方式中说明的将3D影像再生的3D再生装置是相同的,所以以扩展或不同的部分为中心进行说明。
图81表示再生装置中的视频解码器、基础视视频平面、从属视视频平面、PG/IG平面。
首先,3D影像视频解码器以与以PTS的定时将帧的解码图像写出到2D/左眼影像平面中相同的定时,将包含在该帧中的视频偏移信息通知给平面合成部。
此外,在视频偏移信息的9分割的区域的偏移之中,将表示将哪个偏移的最大值用于平面错移的信息保存到播放器变量中的SPRM(25)中。SPRM(25)表示Offset_1、Offset_2、Offset_3、Offset_4、Offset_5、Offset_6、Offset_7、Offset_8、Offset_9中的哪个值是最大值。
SPRM(25)在执行BD-程序文件的程序时通过命令或API等设置。SPRM(25)例如是9位的信息,各自的1位表示各偏移值为有效/无效。
平面合成部通过根据从3D影像视频解码器传送的视频偏移信息和SPRM(25)的值取利用的偏移值的最大值,决定将平面错移的值,进行平面错移&修剪处理,进行与平面存储器的重叠。
在该图的例子中,各偏移的值为Offset_1=-3、Offset_2=-2、Offset_3=-1、Offset_4=2、Offset_5=3、Offset_6=5、Offset_7=1、Offset_8=4、Offset_9=5。在SPRM(25)中,Offset_1、Offset_4和Offset_7是有效的,设定为,将它们的最大值用于平面错移。
位移部从视频偏移信息之中,从在SPRM(25)中为有效的Offset_1、Offset_4和Offset_7中计算最大值(在此情况下是MAX(-3、-2、1)=1),执行平面错移&修剪处理,进行与影像平面的重叠。
通过做成这样的结构,在视频流之中加入视频偏移信息,由此能够削减3D再生装置具有的存储器尺寸。
<偏移的使用>
在SPRM(25)中,不仅保存有指示有效的9分割的偏移值的信息,也可以保存有基础的偏移值。并且,平面合成部在得出9分割内的有效的偏移值的最大值之后,也可以加上该基础的偏移值。例如,如果9分割内的有效的偏移值是3、基础的偏移值是2,则也可以将错移平面的偏移值设为3+2即5。
<窗口的使用>
在本实施方式中,使用SPRM(25)决定9分割中的有效的偏移值,但也可以基于包含在图形平面中的图形的矩形区域决定有效的偏移值。
图82表示图形平面的内容与偏移的关联性。
例如,如果应显示的图形的图形图像是该图下段的圆形,则有效的偏移值为Offset_5&Offset_6&Offset_8&Offset_9。这不仅是IG/PG等的图形、在将闭合字幕等的信息进行3D显示的情况下也是相同的。
<偏移信息的位置>
视频偏移信息也可以不是按照帧保存、而是仅保存在GOP的开头。此外,也可以在GOP的开头的访问单元中保存包含在GOP中的帧的量的视频偏移信息。
另外,视频偏移信息也可以在视频编码时根据左眼图像与右眼图像的运动矢量的差异计算。
<变更>
在视频偏移信息根据包含在各帧的场景中的物体的进深计算的情况 下,由于进深信息在进深剧烈变化的情况下在图形的进深间也剧烈地变化,所以也可以在帧间通过低通过滤器来设定值。
<各平面存储器的使用>
在本实施方式中,用将视频的画面9分割后的值设置视频偏移信息,但也可以具有各帧的偏移值。在此情况下,平面合成部根据平面改变偏移值,进行平面错移&修剪。
<保存位置>
在本实施方式中,设在2D/左眼影像视频流中保存偏移值而进行了说明,但当然也可以保存到右眼影像的视频流中。
(第10实施方式)
在本实施方式中,除了使用L图像、R图像实现立体视觉效果的3D-LR方式以外,还导入使用2D图像和深度信息实现立体视觉效果的3D-Depth方式。
所谓3D-Depth方式,是将视差影像生成器装入到视频解码器的后段、由视频流的各个图片数据、以及该图片数据的各个像素的深度信息做成左视图片数据、右视图片数据的模式。
该深度信息可以构成为用浓淡表示像素的深度的灰度范围的图片数据(称作深度信息图片数据)。
图83表示深度视方式的一例。图83(a)是2D图像,图83(b)表示对图83(a)所示的2D制作的灰度范围。灰度范围由只有亮度成分的像素表现。在灰度范围的像素中,亮度越高者(越白者)表示进深越浅、亮度越低者(越黑者)表示进深越深。图83(c)、图83(d)表示通过使用灰度范围生成的左眼影像、右眼影像。图84表示在3D-Depth模式下生成的立体视觉图像。如果对每个2D各帧生成左眼影像、右眼影像,则通过经由目镜观看左眼影像、右眼影像,用户能够欣赏立体视觉影像。
在3D-Depth方式中,能够进行2D再生的视频流为基础视视频流。由灰度范围的图片数据构成的视频流为从属视视频流。
在3D-Depth模式和3D-LR模式中,基础视视频流可以共通化,所以只要使应与基础视视频流组合的视频流变化,就能够生成3D-LR模式、3D-Depth模式的影像。可以根据数据管理构造处理这些组合,配合播放器及 连接的电视机侧的特性切换显示方法。3D-Depth模式由于在再生装置中需要专用的硬件,所以只要没有特别说明,在本说明书中叙述的记录介质、再生装置都不对应于3D-Depth。
图85表示用来实现3D-Depth模式的记录介质的结构例。图85(a)表示对应于3D-Depth模式的目录和文件。
包括3D再生用的基本视视频流的流文件在STREAM目录以下制作BASE子目录并保存,与2D再生用的流文件区别。
包括3D再生用LR形式的从属视视频流的流文件在STREAM目录以下制作LR子目录并保存,与2D再生用的流文件区别。
包含3D再生用Depth形式的基础视视频流的流文件在STREAM目录以下制作DEPTH子目录并保存,与2D再生用的流文件区别。
同样,在以LR形式再生时需要的流文件的流管理信息在CLIPINF目录以下制作LR子目录并保存,与2D再生用的管理区别。
在以Depth形式再生时需要的流文件的流管理信息在CLIPINF目录以下制作DEPTH子目录并保存,与2D再生用的管理区别。根据文件的形式,使扩展名也变化。
能够仅通过1个流文件再生的文件使用与2D再生用的流文件相同的扩展名。
不包含基础视视频流、不能以单体再生(不能将视频解码)、不与包含基础视视频流的流文件一起再生就不能解码的文件分配“.3dts”等扩展名来区别。
基础视视频流和从属视视频流交错地配置、如果单纯从文件开头连续读入不能再生的形式的文件分配.ilts(interleaved TS)等扩展名而区别。
图85(b)表示用来对应于3D-Depth模式的扩展流选择表的句法。在该图85(b)是句法中,在stream_entry()中追加了type=4的类型。在type=4的情况下,包括指定3D用文件的ref_to_stream_PID_of_3DClip。
LR_dependent_view_ES_availability、LR_interleaved_file_availability、Depth_dependent_view_ES_availability、Depth_interleaved_file_availability是在供给利用Out-of_MUX的从属视视频流的情况下,表示不再需要交错形式的文件的曲线图。
3D_base_view_block()是必须存在的块,在由2D用和3D用参照的区段不同的情况下,通过type=4的流入口参照STREAM/BASE/xxxxx.m2ts。
在由2D用和3D用参照的区段相同的情况下、或1TS的情况下,通过type=1的流入口参照STREAM//xxxxx.m2ts。
在LR_dependent_view_ES_availability设定为开启的情况下,使用type=4的流入口指定STREAM/LR/xxxxx.3dts。在使用LR交错文件的情况下,指定STREAM/LR/xxxxx.ilts。
在Depth_dependent_view_ES_availability设定为开启、在由2D用和3D用参照的区段不同的情况下,使用type=4的流入口指定STREAM/LR/xxxxx.3dts。在使用Depth交错文件的情况下,指定STREAM/DEPTH/xxxxx.ilts。
图86表示播放项目与流的对应关系。该图的左侧第1列是包括由图85(b)记述的扩展流选择表的播放项目,其相邻的第2列是图85(a)的流文件内的TS。第3列表示各种类型的再生装置,第4列表示由该再生装置参照的片断信息文件。
在图中左侧的播放项目之中,存在片断信息文件名(clip_information_file_name)、流选择表(STN_table)、能够对应于3D-Depth方式的扩展流选择表(STN_table_extention)。流选择表、扩展流选择表中的小框表示流选择表、扩展流选择表中的流登录信息的流入口是怎样的类型。流选择表中的流入口的类型为Type=1。
对照地,扩展流选择表中的基础视视频流的流入口(Base view stream)、3D-LR形式的从属视视频流的流入口(LR dependent view stream)、3D-LR形式的立体视觉交错流的流入口(LR interleaved stream)、3D-Depth形式的从属视视频流的流入口(Depth dependent view stream)、3D-Depth形式的立体视觉交错流的流入口(Depth interleaved stream)都为Type=4。
第2列中的最上段表示立体视觉交错流文件(00001.ssif)的内部结构。框内的“D”、“R”、“L”、“L2D”中的“D”表示Depth形式的基础视视频流的区段,“R”表示右视视频流的区段,“L”表示左视视频流的区段,“L2D”表示左视视频流的区段中的2D再生用的区段。
在由2D播放器根据播放项目信息中的片断信息文件名以 STREAM/00001.m2ts的文件路径参照流文件的情况下,由2D播放器参照上述立体视觉交错流文件的区段中的“L”、“L2D”。
在由以3D-LR模式进行再生的3D播放器根据播放项目信息中的片断信息文件名以STREAM/BASE/00001.m2ts的文件路径参照流文件的情况下,由3D播放器参照上述立体视觉交错流文件的区段中的“L”、“L3D”。
在由以3D-LR模式进行再生的3D播放器根据播放项目信息中的片断信息文件名以STREAM/LR/00001.3dts的文件路径参照流文件的情况下,由3D播放器参照上述立体视觉交错流文件的区段中的“R”、“R”、“R”。
在由以3D-LR模式进行再生的3D播放器根据播放项目信息中的片断信息文件名以STREAM/LR/00001.ilts的文件路径参照流文件的情况下,由3D播放器参照上述立体视觉交错流文件的区段中的“R”、“L”、“R”、“L3D”。
在由以3D-Depth模式进行再生的3D播放器根据播放项目信息中的片断信息文件名以STREAM/DEPTH/00001.3dts的文件路径参照流文件的情况下,由3D播放器参照上述立体视觉交错流文件的区段中的“D”、“D”、“D”。
在由以3D-Depth模式进行再生的3D播放器根据播放项目信息中的片断信息文件名以STREAM/DEPTH/00001.ilts的文件路径参照流文件的情况下,由3D播放器参照上述立体视觉交错流文件的区段中的“D”、“L”、“D”、“L3D”、“L”。
根据第4列,可知CLIPINF/00001.clpi被2D播放器、进行3D-LR再生的3D播放器、进行Depth再生的3D播放器参照。可知CLIPINF/LR/00001.clpi被进行3D-LR再生的3D播放器参照。可知CLIPINF/DEPTH/00001.clpi被进行Depth再生的3D播放器参照。
以上,在流入口是type=4的情况下,通过再生的3D类型(LR形式、Depth形式)、以及播放器的对应文件形式(base/dependent区分文件形式、I文件形式),判断应读入的流文件。
在2D用流文件和3Dyongoing流文件中实现相同区段的交叉链接的情况下,通过设定为基础视流的type=1的流入口,能够参照与2D用流文件相同的流文件。在多路复用到1TS中的情况下,将基础视视频流、从属视视频流的流类型都设为type=1的流入口,能够参照与2D用流文件相同的 文件。
(第11实施方式)
在本实施方式中,对用来削减在有关本发明的3D再生装置所需的视频解码中需要的缓冲器尺寸的数据构造及3D再生装置进行说明。
如前面的实施方式所示,3D影像解码器作为保存2D/左视视频流的编码状态的视频访问单元的缓冲器而具有EB(1)、作为保存右视视频流的编码状态的视频访问单元的缓冲器而具有EB(2)。
该缓冲器尺寸在MPEG-4 AVC规格中对应于CPB,根据规定的规格设定,但一般是根据位速率的大小设定的值。如果位速率变大则需要的缓冲器尺寸也需要较多,如果位速率较小,则需要的缓冲器尺寸也较少就可以。这里所述的位速率是从MB向EB的传送速率,用MPEG-4 AVC规格讲,意味着保存在HDR参数中的BitRate。
例如,如果设在2D/左视视频流的位速率为40Mbps的情况下需要的缓冲器尺寸是4MB,则在用相同的编码方式编码的比特流中,30Mbps所需要的缓冲器尺寸为4MB×30Mbps/40Mbps=3MB。
这里,2D/左视视频流与右视视频流的合计的位速率根据来自驱动器的传送速率等作为固定值规定。这里,假设视频流的合计的位速率是60Mbps。
在此情况下,如果设合计的位速率为60Mbps,则如果2D/左视视频流的位速率是50Mbps,则右视视频流的位速率为20Mbps。此外,如果2D/左视视频流的位速率是30Mbps,则右视视频流的位速率为30Mbps。
在此情况下,如果考虑位速率的最大值,则2D/左视视频流的最大位速率为40Mbps,右视视频流的最大位速率为30Mbps。如果根据各位速率的最大值定义EB的尺寸,则2D/左视视频流用的EB(1)为4MB×40Mbps/40Mbps=4MB,右视视频流用的EB(2)为4MB×30Mbps/40Mbps=3MB。如果这样定义,则3D再生装置保存4MB+3MB=7MB的缓冲器,只要制作各视频流以使其在这里定义的缓冲器尺寸下不会下溢或溢出,就能够保证3D影像的再生。
但是,由于2D/左视视频流与右视视频流的比特流的合计是60Mbps,所以2D/左视视频流的最大位速率=40Mbps与右视视频流的最大位速率=30Mbps的组合不存在。因此,在为了3D再生装置而根据各个位速率的最 大值决定了缓冲器尺寸的情况下(4MB+3MB),累积了大到所需以上的缓冲器尺寸。
所以,对3D再生装置用于累积所需最低限度的EB(1)、EB(2)的缓冲器尺寸的数据构造及3D再生装置进行说明。
首先,对数据构造进行说明。
数据构造的基本部分与在到目前为止的实施方式中说明的用来保存3D影像的数据构造是相同的,所以以扩展或不同的部分为中心进行说明。
本实施方式的数据构造的播放项目的构造为图87所示的构造,在追加了EB(1)尺寸和EB(2)尺寸的场这一点上不同。图87表示包括基本缓冲器的尺寸信息的播放项目信息。
EB(1)尺寸保存为了将从播放项目参照的2D/左视视频流解码而需要的EB(1)的尺寸信息。
EB(2)尺寸保存为了将与上述播放项目同时再生的右视视频流解码而需要的EB(2)的尺寸信息。
这里,EB(1)尺寸与EB(2)尺寸的合计尺寸由2D/左视视频流与右视视频流的合计比特流决定。例如,在2D/左视视频流与右视视频流的合计是60Mbps的情况下,为4MB×60Mbps/40Mbps=6MB。
此外,制作从播放项目参照的2D/左视视频流,以使其在由EB(1)尺寸定义的缓冲器中能够不下溢、溢出而解码,制作与播放项目同时再生的2D/左视视频流,以使其在由EB(1)尺寸定义的缓冲器中能够不下溢、溢出而解码。
接着,对3D再生装置进行说明。
3D再生装置的结构的基本部分与在到目前为止说明的实施方式中说明的再生3D影像的3D再生装置相同,所以以扩展或不同的部分为中心进行说明。
本实施方式的3D再生装置在根据再生的播放项目变更3D影像视频解码器内的基础视用EB、从属视用EB的尺寸(存储器的分配尺寸)这一点上不同。
再生控制部在进行播放项目的再生之前,取得包含在播放项目中的EB(1)尺寸和EB(2)尺寸的信息,通知给***目标解码器,***目标解码 器将3D影像视频解码器的EB(1)和EB(2)的尺寸变更。再生控制部在EB(1)和EB(2)的尺寸变更完成之后,开始对应播放项目的再生。
在3D再生装置将播放项目#1作为3D影像再生的情况下,确定从播放项目#1参照的2D/左视视频流、以及与播放项目#1同时再生的右视视频流而进行再生处理,但3D再生装置通过包含在播放项目#1中的EB(1)尺寸和EB(2)尺寸变更***目标解码器内的影像视频解码器的EB(1)和EB(2)的尺寸。在该例中,将EB(1)尺寸设定为4MB,将EB(2)尺寸设定为2MB,进行视频流的再生。在将播放项目#2再生的情况下也同样,3D再生装置通过包含在播放项目#2中的EB(1)尺寸和EB(2)尺寸,变更***目标解码器内的影像视频解码器的EB(1)和EB(2)的尺寸。在该例中,将EB(1)尺寸设定为3MB,将EB(2)尺寸设定为3MB,进行视频流的再生。
通过做成这样的结构,能够根据视频流的位速率适当控制3D再生装置中需要的EB(1)和EB(2)的尺寸,所以能够根据2D/左视视频流与右视视频流的合计位速率定义所需要的缓冲器尺寸。由此,与具有由各个位速率的最大值定义的缓冲器尺寸的情况相比,能够削减所需的EB(1)和EB(2)的合计缓冲器尺寸。
另外,如果在播放项目间进行无缝连接的情况下变更缓冲器尺寸,则如果在播放项目间的变迁中某个EB的尺寸变小,则有可能不能实现无缝连接的保证,所以也可以将其禁止。即,在连接条件为5、6的播放项目中,也可以不能设定或者忽视EB(1)尺寸和EB(2)尺寸的值。此外,在连接条件为5、6的播放项目中,EB(1)尺寸和EB(2)尺寸的值也可以必须为与前面的播放项目的EB(1)尺寸、EB(2)尺寸相同的值。
此外,由于2D/左视视频流与右视视频流的合计位速率固定地决定,所以仅存在EB(1)的尺寸的场,EB(2)尺寸也可以作为EB的合计缓冲器尺寸-EB(1)尺寸计算。
进而,EB(1)尺寸和EB(2)尺寸的场只要能够计算缓冲器尺寸就可以。例如既可以写入视频流的位速率、根据它来计算,也可以将EB(1)尺寸与EB(2)尺寸的组合定义为表,来设定其ID。
(第12实施方式)
本实施方式关于在片断信息的3D元数据中、对追加演示图形流、交互图形流、副影像视频流的2D图像追加进深信息的改良。
图88表示追加了进深信息的3D元数据。3D元数据如图88上段所示,是按照包含在AV流内的原始图形流、交互图形流、副影像视频流的PID记载表示3D影像的显示时刻的PTS、以及右视左眼的像素的哪个的偏移值的表信息。偏移值是向X轴方向的像素数,也允许负值。这里,将由表的1个行表示的成对的PTS和偏移值的信息称作偏移入口。偏移入口的有效区间是从对应的偏移入口的PTS到下个偏移入口的PTS。例如,在偏移入口#1的PTS是180000、偏移入口#2的PTS是270000的情况下,偏移入口#1的偏移值从180000到270000为有效。再生装置的平面合成部基于该信息值,将PG平面、IG平面、副影像平面向左右错移偏移值而进行平面合成。由此,能够形成视差图像,能够对2维影像附加立体的进深。
另外,这里将3D元数据按照PID设定,但例如也可以按照各平面设定。由此能够使2D/3D再生装置的3D元数据的解析处理简单化。另外,也可以按照2D/3D再生装置的合成处理的性能,对于偏移入口的间隔附加制约以使其成为例如为1秒以上等。
对视频流属性信息进行说明。在3D-LR模式中,2D/基础视视频流的PID为0x1011的视频流属性信息的编解码器、帧速率、纵横比、解析度必须与对应的右视AV流的PID为0x1012的视频流属性信息的编解码器、帧速率、纵横比、解析度一致。此外,在3D-Depth模式中,2D/基础视视频流的PID为0x1011的视频流属性信息的编解码器、帧速率、纵横比、解析度必须与对应的深度映射AV流的PID为0x1013的视频流属性信息的编解码器、帧速率、纵横比、解析度一致。这是因为,在编解码器不相同的情况下视频流间的参照关系不成立,此外在为了同步于显示而作为3D影像再生,如果不使帧速率、纵横比、解析度一致,则会给用户带来别扭感。
此外,在右视AV流的视频流的属性信息中,也可以放入表示视频流是参照2D/基础视视频流的视频流的标志。此外,也可以包含参照目标的AV流的信息。通过做成这样的结构,验证制作出的数据是否是按照规定的格式制作的工具能够判断视频流的对应关系。
在2D/基础视视频流的片断信息文件中,保存有2D/左视视频流的入口 映射。在2D/左视视频流的各入口点中,登录有2D/左视视频流的GOP开头的I图片的PTS和SPN。同样,在右视视频流的片断信息文件中,保存有右视视频流的入口映射。在右视视频流的各入口点中,登录有右视视频流的右视GOP的开头的图片的PTS和SPN。
(第13实施方式)
在本实施方式中,关于将在上述实施方式中说明的构造的数据再生的再生装置,对使用集成电路603实现的结构例进行说明。
介质IF部601从介质接收(读出)数据,传送给集成电路603。另外,介质IF部601从介质接收在上述实施方式中说明的构造的数据。介质IF部601例如在介质是光盘或硬盘的情况下是盘驱动器、在介质是SD卡或USB存储器等的半导体存储器的情况下是卡IF,在介质是包括CATV等的广播波的情况下是CAN调谐器或Si调节器,在介质是因特网(注册商标)、无线LAN、无线公众线路等的网络的情况下是网络IF等。
存储器602是将从介质接收到(读出)的数据临时保存、或将集成电路603的处理中途的数据临时保存的存储器,例如使用SDRM(Synchronous Dynamic Random Access Memory)、Rx SDRAM(Double-Date_Ratex Synchronous Dynamic RandomAccess Memory,x=1、2、3……)等。另外,存储器602只要具备任意的个数就可以,根据需要既可以是单个也可以是多个。
集成电路603是对从介质IF部601传送的数据实施影像、声音处理的***LSI,由主控制部606、流处理部605、信号处理部607、存储器控制部609、AV输出部608等构成。
主控制部606具备具有定时器功能及中断功能的处理器核心,处理器核心按照保存在程序存储器等中的程序进行集成电路603整体的控制。另外,在程序存储器等中预先保存有OS等的基本软件。
流处理器605在主控制部606的控制下,接收从介质经由介质IF部601传送的数据,经由集成电路603内的数据总线保存到存储器602中,或将接收到的数据分离为影像类数据(视频/图形(PG、IG))、声音类数据。如上所述,在介质上,以分割为一些区段的状态下交替地配置有包括左视视频流的2D/L用的AV片断和包括右视视频流的R用的AV片断。因而,主 控制部606进行控制,以使其在集成电路603接收到包括左视流的左眼用数据的情况下将数据保存到存储器602的第1区域中,在接收到右视视频流的右眼用数据的情况下将数据保存到存储器602的第2区域中。这里,左眼用数据属于左眼用区段,右眼用数据属于右眼用区段。另外,存储器602中的第1、第2区域既可以是将单一的存储器在逻辑上进行区域分割的结构,也可以是在物理上不同的存储器。此外,在本实施方式中,设包括左视视频流的左眼用数据为主视数据、包括右视视频流的右眼用数据为副视数据继续说明,但也可以是,右眼用数据为主视数据、左眼用数据是副视数据。
信号处理部607在主控制部606的控制下,对流处理部605分离的影像类数据、声音类数据以适当的方式解码。影像类数据使用MPEG-2、MPEG-4AVC、MPEG4-MVC、SMPTE VC-1等的方式编码记录,此外,声音类数据以杜比AC-3、Dolby Digital Plus、MLP、DTS、DTS-HD、线性PCM等的方式压缩、编码记录,所以信号处理部607以对应于它们的方式解码。另外,信号处理部607的模型对应于例如第9实施方式的图65中的各种解码器。
存储器控制部609调节从集成电路603内的各功能块向存储器602的访问。
AV输出部608在主控制部606的控制下,将在信号处理部607中解码的影像类数据重叠、或进行影像类数据的格式变换等,向集成电路603外输出。
图90是表示流处理部605的代表性的结构的功能模块图。流处理部605具备设备·流IF部651、多路分离部652、切换部653等。
设备·流IF部651是介质IF部601与集成电路603间的数据传送用接口,例如,在介质是光盘或硬盘的情况下是SATA(Serial Advanced Technology Attachment)、ATAPI(Advanced Technology Attachment Packet Interface)、PATA(Parallel Advanced Technology Attachment),在介质是SD卡或USB存储器等的半导体存储器的情况下是卡IF,在介质是包括CARB等的广播波等的情况下是调谐器IF,在介质是因特网、无线LAN、无线公众线路等的网络的情况下是网络IF等。另外,根据介质的种类,设备·流 IF部651也可以替代介质IF部601的功能的一部分,介质IF部601也可以内置在集成电路603中。
多路分离部652将从介质传送来的包括影像、声音的再生数据分离为影像类数据和声音类数据。上述各区段由影像、声音、PG(字幕)、IG(菜单)等的各源包构成(但是,也有副视数据不包括声音的情况),按照包含在各源包中的PID(标识符),分离为影像类、声音类的各TS包,传送给信号处理部607。将处理后的数据直接或先保存到存储器602中之后传送给信号处理部607。另外,多路分离部652的模型对应于例如第9实施方式的图65中的源拆包器、PID过滤器。
切换部653切换输出目标(保存目的地),以使得在设备·流IF部651接收到左眼用数据时保存到存储器602的第1区域中、在接收到右眼用数据时保存到存储器602的第2区域中。这里,切换部653例如是DMAC(Direct Memory A101 ess Controller)。图91是切换部653是DMAC的情况下的切换部653周边的概念图。DMAC在主控制部606的控制下,将设备·流IF部接收到的数据和其数据保存目的地地址对存储器控制部609发送。具体而言,通过设备·流IF部在接收到左眼用数据时将地址1(第1保存区域)、在接收到右眼用数据时将地址2(第2保存区域)发送给存储器控制部609,根据接收数据切换其输出目标(保存目的地)。存储器控制部609按照从DMAC发送来的保存目的地地址将数据保存到存储器602中。另外,也可以代替主控制部606而设置控制切换部653的专用的电路。
这里,作为流处理部605的代表性的结构,对设备·流IF部651、多路分离部652、切换部653进行了说明,但也可以还具备将接收到的加密数据或键数据等解密的加密引擎部、进行介质~再生装置间的设备认证协议等的执行控制及保持秘密键的安全管理部、直接存储器访问用的控制器等。到目前为止,对在将从介质接收到的数据保存到存储器602中时、切换部653根据是左眼用数据、右眼用数据切换保存目的地的情况进行了说明,但也可以在将从介质接收到的数据先保存到存储器602中之后,在向多路分离部652传送数据时分配左眼用数据、右眼用数据。
图92是表示AV输出部608的代表性的结构的功能模块图。AV输出部608具备图像重叠部681、视频输出格式变换部682、音频·视频输出IF部 683等。
图像重叠部681将解码后的影像类的数据重叠。具体而言,将左视视频数据或右视视频数据与PG(字幕)、IG(菜单)以图片单位重叠。图像重叠部681的模型例如是第11实施方式、图92等。
图像重叠部681将左视平面与图形平面、右视平面与图形平面重叠。图94是表示图像重叠处理中的、存储器602与各平面的关系的图。在存储器602中,具备包已解码的数据、对各平面描绘的数据的区域(对应于左视的平面数据保存区域、对应于右视的平面数据保存区域、对应于图形的平面数据保存区域)。这里,平面既可以是存储器602中的数据,也可以是虚拟的空间。存储器602还具备保存图像重叠后的数据的图像重叠后数据保存区域。图95、图96是图像重叠的概念图。这里,为了简单,图形平面是一个,在与左视平面重叠时,对图形平面赋予+X的偏移,在与右视平面重叠时,赋予-X的偏移,进行重叠处理。以单平面偏移模式为前提进行说明。另外,也可以将图形平面准备左视重叠用、右视重叠用的两个,对其分别赋予偏移值而进行重叠处理。在图95中将使图形平面在纸面上向右平行移动了offset值者与左视平面、在图96中将使图形平面在纸面上向左平行移动了offset值者与右视平面重叠。此时,如图所示,纸面上左右方向的坐标相同而对应的像素彼此重叠,将重叠后的数据保存到存储器602的图像重叠后数据保存区域中。另外,图形平面的offset值如上所述包含在右视视频流(副视视频流)或PLAYLIST中。图97是表示图像重叠的另一方法的概念图,存储器602还具备对应于已偏移图形的平面数据保存区域(左视重叠用、右视重叠用),预先在存储器602中准备与左视平面、右视平面重叠的数据,图像重叠部681从存储器602读入所需的数据并重叠,将重叠后的数据保存到存储器602的图像重叠后数据保存区域中。此外,图98是关于文本字幕(与PG/IG不同)的重叠的概念图。文本字幕如上所述,多路复用在文本字幕流中,描绘到图形平面上而重叠,但在左视平面重叠时和右视重叠时,将分别错移偏移值的量而描绘的图形与左视平面、右视平面重叠。另外,如图98所示,存储器602还具备对应于文本字幕的平面数据保存区域。
视频输出格式变换部682对于解码后的影像类数据,根据需要而进行 放大或缩小的尺寸调节处理、将扫描方式从连续及间隔方式的一种向另一种变换的IP变换处理、将噪声除去的降噪处理、变换帧速率的帧速率变换处理等。
音频·视频输出IF部683对图像重叠或格式变换后的影像类数据和解码后的声音类数据,配合数据发送形式而进行编码等。另外,如后所述,音频·视频输出IF部683也可以一部分装备在集成电路603外。
图93是更详细地表示AV输出部608或再生装置的数据输出部分的结构例。本实施方式的集成电路603及再生装置对应于多个影像类数据。声音类数据的数据发送形式。图92中的音频·视频输出IF部683对应于模拟视频输出IF部683a、模式音频输出IF部683c、数字音频输出IF部683b。
模拟视频输出IF部683a将图像重叠处理或输出格式变换处理后的影像类数据变换为模拟影像信号形式并编码、输出。例如,对应于NTSC、PAL、SECAM的3种方式的某种的组成视频编码器、S影像信号(Y/C分离)用编码器、合成影像信号用编码器、或DAC(D/A变换器)等对应于此。
数字音频·视频输出IF部683b将解码后的声音来数据与图像重叠处理或输出格式变换后的影像类数据一体化、再加密之后,匹配于数据发送规格而编码、输出。例如,HDMI(High-Definition Multimedia InterFace)对应于此。
模式音频输出IF部683c对应于将解码后的声音类数据进行D/A变换而输出模拟声音数据的音频DAC等。
这些影像类数据及声音类数据的发送形式可以取决于显示装置-扬声器604侧支持的数据接收装置(数据输入端子)而切换、或通过用户的选择而切换发送形式。进而,不仅是单一的发送形式,也可以并行地以多个发送形式发送对应于相同的内容的数据。
这里,作为AV输出部608的代表性的结构,对图像重叠部681、视频输出格式变换部682、音频·视频输出IF部683进行了说明,但也可以还具备进行过滤处理、画面合成、曲线描绘、3D显示等的图形处理的图形引擎部等。
以上是关于本实施方式的再生装置的结构的说明。另外,包含在上述集成电路603中的各功能块也可以都不内置,相反,图89的存储器602也 可以内置在集成电路603中。此外,在本实施方式中,设主控制部606和信号处理部607为不同的功能块而进行了说明,但主控制部606也可以进行信号处理部607的处理的一部分。
此外,集成电路603中的控制总线及数据总线的路径可以根据各处理块的处理顺序及处理内容任意地配置,例如也可以如图99那样配置数据总线以使其将各处理块彼此直接连结,也可以如图100那样配置数据总线以使其将各处理块彼此经由存储器602(存储器控制部609)连结。
此外,集成电路603也可以是将多个芯片封固在一个封装中、是做成了在外观上为一个的LSI的多芯片模组。此外,也可以使用在LSI的制造后能够编程的FPGA(Field Programmable Gate Array)、或能够再构成LSI内部的电路单元的连接及设定的可重构处理器。
接着,对以上那样构成的再生装置的动作进行说明。
图101是简单地表示从介质接收(读出)数据、在解码后作为影像信号及声音信号输出的再生动作顺序的流程图。
S601:从介质接收(读出)数据(介质IF部601、流处理部605)。
S602:将在S601中接收到的(读出的)数据分离为各种数据(影像类数据、声音类数据)(流处理部605)。
S603:将在S602中分离后的各种数据以适当的形式解码(信号处理部607)。
S604:对在S603中解码处理后的各种数据中的、影像类的数据吉祥鸟重叠处理(AV输出部608)。
S606:将在S602~S605中处理后的影像类数据及声音类数据输出(AV输出部608)。
图102是更详细地表示再生动作顺序的流程图。各动作、处理在主控制部606的控制下进行。
S702:流处理部605的设备·流IF部651通过介质IF部601接收(读出)保存在介质中的要再生的数据以外的、为了再生数据而需要的数据(PLAYLIST、CLIPINF等),保存到存储器602中(介质IF部601、设备IF部51、存储器控制部609、存储器602)。
S702:主控制部606根据包含在接收到的CLIPINF中的流属性信息识 别保存在介质中的影像数据及声音数据的压缩形式,进行信号处理部607的初始化以使其能够进行对应的解码处理(主控制部606)。
S703:流处理部605的设备·流IF部651通过介质IF部601接收(读出)保存在介质中的影像、声音等,经由切换部653、存储器控制部609保存到存储器602中。另外,将数据以区段单位接收(读出),主控制部606控制切换部653,切换部653切换数据的输出目标(保存目的地),以使得在接收到(读出)左眼用数据时向第1区域、接收到(读出)右眼用数据时向第2区域保存(介质IF部601、设备IF部51、主控制部606、切换部653、存储器控制部609、存储器602)。
S704:将保存在存储器602中的数据传送给流处理部605的多路分离部652,多路分离部652按照包含在构成流数据的源包中的PID识别是影像类(主影像、副影像、PG(字幕)、IG(菜单))、声音类(声音、副声音)的哪种,以TS包单位向信号处理部607的对应的各解码器传送(多路分离部652)。
S705:信号处理部607的各解码器对传送来的TS包以适当的方式进行解码处理(信号处理部607)。
S706:将在信号处理部607中解码后的影像类数据中的、对应于左视视频流及右视视频流的数据匹配于显示装置4而进行尺寸调节(视频输出格式变换部682)。
S707:将在S706中调节了尺寸的视频流与PG(字幕)、IG(菜单)重叠(图像重叠部681)。
S708:对在S707中重叠后的影像数据进行作为扫描方式的变换的IP变换(视频输出格式变换部682)。
S709:对进行了到目前为止的处理的影像类数据及声音类数据,按照显示装置-扬声器604的数据输出方式、或向显示装置-扬声器604的数据发送方式,吉祥鸟编码及D/A变换等。例如,将影像类数据、声音类数据分别为了对应于模拟或数字输出而进行处理。作为影像类数据的模式输出,支持合成影像信号或S影像信号、组件影像信号等。此外,影像类、声音类数据的数字输出支持HDMI(音频·视频输出IF部683)。
S110:将在S709中处理后的影像类数据及声音类数据发送给显示装置 -扬声器604并输出(音频·视频输出IF部683、显示装置-扬声器604)。
以上是本实施方式的再生装置的动作顺序的说明。另外,也可以按照处理而将处理结果先保存到存储器602中。此外,在本动作顺序中,对在视频输出格式变换部682中进行尺寸调节处理及IP变换处理的情况进行了说明,但也可以根据需要而省略处理、此外也可以进行其他处理(降噪处理、帧速率变换处理等)。进而,如果能够,也可以变更处理顺序。
(备注)
以上,对于在本申请的提出申请的时刻、申请人能够知道的优选的实施方式进行了说明,但对于以下所示的技术课题,能够加以进一步的改良及变更实施。请注意,如各实施方式所示那样实施还是实施这些改良、变更都是任意的,取决于实施的人的主观。
(多个偏移序列的分配)
在多个偏移序列中分别保存图像的各宏块的进深只不过是一例。
此外,也可以将表示分别相差+10或-10的进深的进深信息作为各偏移序列的平面偏移方向信息、以及平面偏移位移值设定。
(文件彼此的对应建立)
在第3实施方式中,在使用识别信息的对应建立的具体例中,将对左视的识别号码加上“1”后的值作为右视的识别号码。但是,也可以采用对左视的识别号码加上“10000”后的值作为右视的识别号码。
在以基于文件名的对偶方式实现文件的对应建立的情况下,再生装置需要用来找到对偶的文件的构造,需要找到上述那样的带有规则的文件、将没有从播放列表参照的文件也再生的构造。在使用这些方法的情况下,在3D对应再生装置中需要上述构造,但也可以在2D影像和3D影像中不区分播放列表,在以往普及的2D再生装置中安全地动作。
如用于Depth方式的灰度范围那样,关于通过一个并不能再生立体视觉影像的流,改变扩展名而区别,以使设备不会误将该文件以单体再生。由于识别不能以单体再生的文件,所以防止从已有设备经由DLNA(Digital Living Network Alliance)参照3D对应文件的情况等的用户混乱。也可以通过使文件号码相同、区别扩展码,仅通过文件名来表现配对信息。
(立体视觉方式)
在第1实施方式中作为说明的前提的视差图像方式为了使左右的影像在时间轴方向上交替地显示,例如如果是维的电影,则每1秒显示24张影像,相对于此,左右的影像合计每1秒需要显示48张影像。因而,在该方式中,一个画面的改写在较早的显示装置中是适当的。使用该视差图像的立体视觉已经在游乐场的游乐设施等中普遍地使用,在技术上也已经确立,所以可以说最接近于家庭中的实用化。用于使用视差图像的立体视觉的方法除了这些以外还提出了2色分离方式等各种技术。在本实施方式中,使用继时分离方式或偏光眼镜方式作为例子进行了说明,但只要使用视差图像,并不限定于这两种方式。
关于TV300,也不仅是柱状透镜,也可以使用具有同样的功能的设备、例如液晶元件。此外,也可以在左眼用的像素上设置纵偏光的过滤器、在右眼用的像素上设置横偏光的过滤器,视听者通过使用在为左眼用设置了纵偏光、为右眼用设置了横偏光的过滤器的偏光眼镜观看显示装置的画面来实现立体视觉。
(左视、右视的应用对象)
准备左视和右视不仅在关于正编的视频流中、在缩略图像中也能够应用。与视频流的情况同样,在2D再生装置中显示以往的2D用缩略图,而在3D再生装置中将为3D用准备的左眼缩略图和右眼缩略图匹配于3D显示方式而输出。
同样,在菜单图像、或章节搜索用的分场景缩略图图像、分场景缩小画面中也能够应用。
(程序的实施方式)
各实施方式所示的应用程序可以如以下这样制作。首先,软件开发者使用编程语言记述实现各流程图、或功能性结构要素那样的源程序。在该记述时,软件开发者按照编程语言的句法,使用类构造体及变量、排列变量、外部函数的调用,记述具体实现各流程图及功能性结构要素的源程序。
将记述的源程序作为文件交给编译器。编译器将这些源程序翻译而生成对象程序。
通过编译器的翻译由句法解析、优化、资源分配、代码生成等过程构成。在构文解析中,进行源程序的字句解析、句法解析及意义解析,将源 程序变换为中间程序。在优化中,对于中间程序进行基本分块化、控制流解析、数据流解析等作业。在资源分配中,为了实现向作为目标的处理器的命令集的适合,将中间程序中的变量分配给作为目标处理器的处理器具有的寄存器或存储器。在代码生成中,将中间程序内的各中间命令变换为程序代码,得到对象程序。
这里生成的对象程序由使计算机执行各实施方式所示的流程图的各步骤、功能性结构要素的各个顺序那样的1个以上的程序代码构成。这里,程序代码如处理器的本机码、JAVA字节码那样,有各种种类。在通过程序代码的各步骤的实现方面有各种形态。在能够利用外部函数实现各步骤的情况下,调用该外部函数的调用语句为程序代码。此外,也有实现1个步骤的程序代码归属于不同的对象程序的情况。在别限制了命令种类的RISC处理器中,也可以通过将算术运算命令及逻辑运算命令、分支命令等组合来实现流程图的各步骤。
如果生成对象程序,则编程者对它们起动链接器。链接器将这些对象程序及关联的库程序分配给存储器空间,将它们结合为1个,生成装载模组。这样生成的装载模组是以通过计算机的读取为前提的,是使计算机执行各流程图所示的处理顺序及功能性的结构要素的处理顺序的。也可以将这样的程序记录到计算机能够读取的记录介质中而提供给用户。
(光盘的再生)
BD-ROM驱动器具备具有半导体激光器、准直透镜、束分离器、物镜、聚光透镜、光检测器的光学头。将从半导体激光器射出的光束通过准直透镜、束分离器、物镜聚光到光盘的信息面上。
聚光后的光束在光盘上被反射/衍射,通过物镜、束分离器、聚光透镜而聚光在光检测器上。根据由光检测器聚光的光的光量生成再生信号。
(记录介质的变形)
各实施方式的记录介质包括光盘、半导体存储卡等、所有的封装介质。本实施方式的记录介质以预先记录有需要的数据的光盘(例如BD-ROM、DVD-ROM等的已有的可读取的光盘)为例进行说明,但并不需要限定于此,例如如果将经由广播或网络分发的包含本实施方式中需要的数据的3D内容使用具有向光盘写入的功能的终端装置(例如上述功能既可以装入到 再生装置中,也可以是与再生装置另外的装置)记录到可写入的光盘(例如BD-RE、DVD-RAM等的已有的可写入的光盘)中、将该记录的光盘应用到本发明的再生装置中,也能够实现本发明的实施。
(半导体存储卡记录装置及再生装置的实施方式)
对将在各实施方式中进行了说明的数据构造记录到半导体存储器中的记录装置及再生的再生装置的实施方式进行说明。
首先,作为前提的技术,对记录在BD-ROM中的数据的著作权保护的机制进行说明。
在记录在BD-ROM中的数据中,例如从著作权的保护、数据的隐秘性的提高的观点出发,有将数据的一部分根据需要而加密的情况。
例如,在记录在BD-ROM中的数据中,加密的数据例如是对应于视频流的数据、对应于音频流的数据、或对应于包括它们的流的数据。
以下,对记录在BD-ROM中的数据中的、加密的数据的解读进行说明。
在半导体存储卡再生装置中,将对应于为了将BD-ROM内的加密的数据解读而需要的键的数据(例如设备键)预先存储到再生装置中。
另一方面,在BD-ROM中,记录有与为了将加密的数据解读而需要的键对应的数据(例如对应于上述设备键的MKB(媒体密钥块))、以及将用来解读加密的数据的键自身加密的数据(例如对应于上述设备键及MKB的加密标题键)。这里,设备键、MKB及加密标题键成对,还与写入在BD-ROM上的通常不能复制的区域(称作BCA的区域)中的标识符(例如卷ID)建立了对应。如果该组合不正确,则不能进行加密的解读。仅在组合正确的情况下,能够导出加密解读所需要的键(例如基于上述设备键、MKB及卷ID、将加密标题键解密而得到的标题键),使用该加密解读所需要的键,能够进行加密的数据的解读。
在将装填的BD-ROM在再生装置中再生的情况下,例如如果在再生装置内没有与BD-ROM内的加密标题键、MKB成对(或对应)的设备键,则不将将加密的数据再生。这是因为,在加密的数据的解读中需要的键(标题键)的键自身被加密(加密标题键)而记录在BD-ROM上,如果MKB与设备键的组合不正确,则不能导出加密的解读所需要的键。
反之,再生装置构成为,如果加密标题键、MKB、设备键及卷ID的组 合正确,则使用例如上述加密解读所需要的键(基于设备键、MKB及卷ID、将加密标题键解密而得到的标题键)将视频流用解码器解码,将音频流用音频解码器解码。
以上是记录在BD-ROM中的数据的著作权保护的机制,而该机制并不一定限定于BD-ROM,例如在应用到可读入/写入的半导体存储器(例如SD卡等的具有可移动性的半导体存储卡)中的情况下也能够实施。
对半导体存储卡再生装置的再生顺序进行说明。在光盘中,例如构成为,经由光盘驱动器将数据读出,相对于此,在使用半导体存储卡的情况下,构成为,经由用来读出半导体存储卡内的数据的I/F读出数据。
更详细地讲,如果将半导体存储卡***到再生装置的插槽中,则经由半导体存储卡I/F将再生装置与半导体存储卡电气地连接。只要构成为、使得将记录在半导体存储卡中的数据经由半导体存储卡I/F读出就可以。
(作为接收装置的实施方式)
在各实施方式中说明的再生装置也可以作为从电子分发服务的分发服务器接收对应于在本实施方式中进行了说明的数据的数据(分发数据)、记录到半导体存储卡中的终端装置实现。
该终端装置既可以构成为,使得在各实施方式中说明的再生装置能够进行这样的动作,也可以是与本实施方式的再生装置另外地由进行将分发数据存储到半导体存储器中的处理的专用的终端装置进行的形态。这里,对再生装置进行的例子进行说明。此外,作为记录目标的半导体存储器,以SD卡为例进行说明。
在将分发数据记录到***在再生装置具备的插槽中的SD存储卡中的情况下,首先,向储存分发数据的分发服务器请求分发数据的发送。此时,再生装置从SD存储卡读出用来读出唯一识别***的SD存储卡的识别信息(例如是各个SD存储卡固有的识别号码、更具体地讲例如是SD存储卡的序列号码等),将所读出的识别信息与分发请求一起向分发服务器发送。
该用来唯一识别SD存储卡的识别信息例如对应于上述卷ID。
另一方面,在分发服务器中,将要分发的数据中的需要的数据(例如视频流、音频流等)进行加密、以使其能够用加密解读所需要的键(例如标题键)进行加密的解读,保存到服务器上。
例如,分发服务器保持有秘密键,构成为,能够对应于半导体存储卡的固有的识别号码动态地生成分别不同的公开键信息。
此外,分发服务器构成为,能够对加密数据的解读所需要的键(标题键)自身进行加密(即构成为,能够生成加密标题键)。
生成的公开键信息例如包括对应于上述MKB、卷ID及加密标题键的信息。加密的数据例如是如果半导体存储器固有的识别号码、包含在后述的公开键信息中的公开键主体、以及预先记录在再生装置中的设备键的组合正确、则能够得到加密解读所需要的键(例如基于设备键、MKB及半导体存储器固有的识别号码、将加密标题键解密而得到的标题键),能够使用该得到的加密解读所需要的键(标题键)解读加密的数据。
接着,再生装置将接收到的公开键信息和分发数据记录到***在插槽中的半导体存储卡的记录区域中。
接着,对记录在半导体存储卡的记录区域中的公开键信息、以及将包含在分发数据中的数据中的加密的数据解密并再生的方法的一例进行说明。
接收到的公开键信息例如记录有公开键主体(例如上述MKB及加密标题键)、签名信息、半导体存储卡的固有的识别号码、以及表示关于应设为无效的设备的信息的设备列表。
在签名信息中,例如包括公开键信息的哈希值。
在设备列表中,记载有关于有可能不正当地进行再生的设备的信息。它例如是预先记录在再生装置中的设备键、再生装置的识别号码、或再生装置具备的解码器的识别号码等那样、用来唯一地确定有可能不正当地进行再生的装置、包含在装置中的部件或功能(程序)等的信息。
关于记录在半导体存储卡的记录区域中的分发数据中的、加密的数据的再生进行说明。
首先,在利用公开键主体将加密的数据解密之前,进行关于是否可以使解密键主体发挥功能的检查。
具体而言,进行(1)包含在公开键信息中的半导体存储器固有的识别信息与预先存储在半导体存储卡中的固有的识别号码是否一致的检查、(2)在再生装置内计算出的公开键信息的哈希值与包含在签名信息中的哈希值 是否一致的检查、(3)基于包含在公开键信息中的设备列表所示的信息、进行再生的再生装置是否能够进行不正当的再生的检查(例如包含在公开键信息中的设备列表所示的设备键与预先存储在再生装置中的设备键是否一致的检查)。进行这些检查的顺序以怎样的顺序进行都可以。
在上述(1)~(3)的检查中,如果满足包含在公开键信息中的半导体存储器固有的识别信息与预先存储在半导体存储卡中的固有的识别号码不一致、在再生装置内计算出的公开键信息的哈希值与包含在签名信息中的哈希值不一致、或者判断为进行再生的再生装置有可能不正当地进行再生中的任一项,则再生装置进行控制以使加密的数据的解读不能进行。
此外,如果包含在公开键信息中的半导体存储器固有的识别信息与预先存储在半导体存储卡中的固有的识别号码一致、并且在再生装置内计算出的公开键信息的哈希值与包含在签名信息中的哈希值一致、并且判断为进行再生的再生装置不可能不正当地进行再生,则判断为半导体存储器固有的识别号码、包含在公开键信息中的公开键主体、以及预先记录在再生装置中的设备键的组合正确,基于加密解读所需要的键(设备键、MKB及半导体存储器固有的识别号码、将加密标题键解密而得到的标题键),进行加密的数据的解读。
例如,在加密的数据是视频流、音频流的情况下,视频解码器利用上述加密解读所需要的键(将加密标题键解密而得到的标题键)将视频流解密(解码),音频解码器利用上述加密解读所需要的键将音频流解密(解码)。
通过这样构成,在电子分发时知道有可能被不正当利用的再生装置、部件、功能(程序)等的情况下,只要将用来识别它们的信息表示在设备列表中并分发,在再生装置侧包括设备列表所示的内容的情况下,就能够抑制使用公开键信息(公开键主体)的解密,所以即使半导体存储器固有的识别号码、包含在公开键信息中的公开键主体、以及预先记录在再生装置中的设备键的组合正确,也能够进行控制以使得加密的数据的解读不能进行,所以能够抑制不正当的装置上的分发数据的利用。
此外,预先记录在半导体存储卡中的半导体存储卡的固有的标识符优选地采用保存到隐秘性较高的记录区域中那样的结构。这是因为,如果预先记录在半导体存储卡中的固有的识别号码(例如如果以SD存储卡为例, 则是SD存储卡的序列号码等)被篡改,则容易进行非法复制。这是因为,虽然对多个半导体存储卡分别分配了不同的固有的识别号码,但如果进行了篡改以使该固有的识别号码相同,则上述(1)的判断变得没有意义,有可能进行对应于被篡改的数量的非法复制。
因而,半导体存储卡的固有的识别号码等信息优选地采用记录到隐秘性较高的记录区域中的结构。
为了实现这样的结构,例如做成以下的结构:半导体存储卡将用来记录半导体存储卡的固有的标识符等隐秘性较高的数据的记录区域设置到与保存通常的数据的记录区域(称作第1记录区域)另外的记录区域(称作第2记录区域)中,以及设置用来进行向该第2记录区域的访问的控制电路,并且在向第2记录区域的访问中仅能够经由控制电路访问。
例如,将记录在第2记录区域中的数据进行加密并记录,控制电路装入有例如用来将加密的数据解密的电路。只要做成以下的结构就可以:在向控制电路有向第2记录区域的数据的访问的情况下将加密解密、返回解密后的数据。或者,也可以做成以下的结构:控制电路保持有记录在第2记录区域中的数据的保存场所的信息,如果有数据的访问的请求,则确定对应的数据的保存场所,返回从所确定的保存场所取出的数据。
在再生装置上动作的应用中,请求利用电子分发记录到半导体存储卡中的应用如果经由存储卡I/F向控制电路发出向记录在第2记录区域中的数据(例如半导体存储卡固有的识别号码)的访问请求,则接受到请求的控制电路将记录在第2记录区域中的数据读出,向在再生装置上动作的应用返回。只要如以下这样构成就可以:与该半导体存储卡的固有的识别号码一起,将所需的数据的分发请求向分发服务器请求,将从分发服务器发送的公开键信息、以及对应的分发数据记录到第1记录区域中。
此外,在再生装置上动作的应用中,请求利用电子分发记录到半导体存储卡中的应用在经由存储卡I/F向控制电路发出向记录在第2记录区域中的数据(例如半导体存储卡固有的识别号码)的访问请求之前,优选地在事前检查是否进行了应用的篡改。在篡改的检查中,例如也可以采用使用依据已有的X.509规格的数字证书的检查等。
此外,向记录在半导体存储卡的第1记录区域中的分发数据的访问并 不一定需要经由半导体存储卡具有的控制电路访问。
工业实用性
有关本发明的信息记录介质保存有3D影像,但由于在再生2D影像的装置和再生3D影像的装置的哪个中都能够再生,所以能够不意识兼容性而将保存有3D影像的影像标题等的运动图像内容对市场供给,能够激活电影市场及民生设备市场。因此,有关本发明的记录介质、再生装置在电影产业及民生设备产业中具有较高的实用性。
符号说明
100 记录介质
200 再生装置
300 显示装置
400 3D眼镜
500 遥控器
Claims (4)
1.一种接收装置,接收经由广播或网络发送的数据,其特征在于,
所述数据包括主视视频流、副视视频流和图形流;
元数据被包括在上述副视视频流或上述图形流中;
上述主视视频流包括构成立体视觉影像的主视的图片数据;
上述副视视频流包括构成立体视觉影像的副视的图片数据;
上述图形流包括图形数据;
上述元数据是规定偏移控制的控制信息,该偏移控制对平面存储器中的上述图形数据赋予水平坐标的右方向及左方向的偏移并分别与平面存储器中的构成上述主视的图片数据及平面存储器中的构成上述副视的图片数据合成;
上述控制信息按画面的每个分割区域定义,包括用像素数表示平面存储器中的上述图形数据的偏移值的信息;
该接收装置具备:
视频解码器,通过将上述主视视频流及上述副视视频流解码,得到构成主视的图片数据及构成副视的图片数据;
图形解码器,通过将上述图形流解码,得到图形数据;以及
合成部,将平面存储器中的构成上述主视的图片数据及平面存储器中的构成上述副视的图片数据与平面存储器中的上述图形数据合成;
上述合成部基于上述控制信息,对平面存储器中的上述图形数据赋予水平坐标的右方向及左方向的偏移并分别与平面存储器中的构成上述主视的图片数据及平面存储器中的构成上述副视的图片数据合成。
2.如权利要求1所述的接收装置,其特征在于,
上述元数据被包括在上述副视视频流中。
3.如权利要求2所述的接收装置,其特征在于,
上述控制信息还包括规定平面存储器中的上述图形数据的偏移方向的信息;
上述合成部基于上述控制信息,对平面存储器中的上述图形数据赋予水平坐标的右方向及左方向的偏移并分别与平面存储器中的构成上述主视的图片数据及平面存储器中的构成上述副视的图片数据合成。
4.如权利要求3所述的接收装置,其特征在于,
上述主视视频流的图片数据及上述副视视频流的图片数据分别构成多个图片组,上述多个图片组中的各图片组分别构成多个帧,具有与上述多个帧中的各帧相对应的控制信息作为参数序列;
上述合成部基于上述参数序列中的各个控制信息,对平面存储器中的上述图形数据赋予水平坐标的右方向及左方向的偏移并分别与平面存储器中的构成上述主视的图片数据及平面存储器中的构成上述副视的图片数据合成。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP037225/2009 | 2009-02-19 | ||
JP2009037225 | 2009-02-19 | ||
JP2009066885 | 2009-03-18 | ||
JP066885/2009 | 2009-03-18 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2010800014767A Division CN102017641B (zh) | 2009-02-19 | 2010-02-15 | 再生装置、记录方法、记录介质再生*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102790902A CN102790902A (zh) | 2012-11-21 |
CN102790902B true CN102790902B (zh) | 2014-04-30 |
Family
ID=42633700
Family Applications (6)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210108098.3A Expired - Fee Related CN102685514B (zh) | 2009-02-19 | 2010-02-15 | 再生装置、记录方法及记录介质再生*** |
CN201210265121XA Expired - Fee Related CN102833573B (zh) | 2009-02-19 | 2010-02-15 | 接收装置 |
CN201210264225.9A Expired - Fee Related CN102790902B (zh) | 2009-02-19 | 2010-02-15 | 接收装置 |
CN2010800014767A Active CN102017641B (zh) | 2009-02-19 | 2010-02-15 | 再生装置、记录方法、记录介质再生*** |
CN2012102650819A Expired - Fee Related CN102833572B (zh) | 2009-02-19 | 2010-02-15 | 接收装置 |
CN201210108144XA Expired - Fee Related CN102685515B (zh) | 2009-02-19 | 2010-02-15 | 再生装置、记录方法及记录介质再生*** |
Family Applications Before (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210108098.3A Expired - Fee Related CN102685514B (zh) | 2009-02-19 | 2010-02-15 | 再生装置、记录方法及记录介质再生*** |
CN201210265121XA Expired - Fee Related CN102833573B (zh) | 2009-02-19 | 2010-02-15 | 接收装置 |
Family Applications After (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2010800014767A Active CN102017641B (zh) | 2009-02-19 | 2010-02-15 | 再生装置、记录方法、记录介质再生*** |
CN2012102650819A Expired - Fee Related CN102833572B (zh) | 2009-02-19 | 2010-02-15 | 接收装置 |
CN201210108144XA Expired - Fee Related CN102685515B (zh) | 2009-02-19 | 2010-02-15 | 再生装置、记录方法及记录介质再生*** |
Country Status (14)
Country | Link |
---|---|
US (3) | US8712215B2 (zh) |
EP (6) | EP2400773B1 (zh) |
JP (8) | JP4588120B2 (zh) |
KR (1) | KR20110126518A (zh) |
CN (6) | CN102685514B (zh) |
AU (1) | AU2010216963A1 (zh) |
BR (1) | BRPI1001265A2 (zh) |
DK (1) | DK2521364T3 (zh) |
ES (3) | ES2491067T3 (zh) |
MX (1) | MX2010011683A (zh) |
RU (1) | RU2522304C2 (zh) |
TW (1) | TW201123841A (zh) |
WO (1) | WO2010095411A1 (zh) |
ZA (3) | ZA201007461B (zh) |
Families Citing this family (74)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110063615A (ko) * | 2008-09-30 | 2011-06-13 | 파나소닉 주식회사 | 3d 영상이 기록된 기록매체, 3d 영상을 재생하는 재생장치 및 시스템 lsi |
JP2010244630A (ja) * | 2009-04-07 | 2010-10-28 | Sony Corp | 情報処理装置、情報処理方法、プログラム、及び、データ構造 |
JP4984183B2 (ja) | 2009-04-07 | 2012-07-25 | ソニー株式会社 | 再生装置、再生方法、および記録方法 |
JP4984195B2 (ja) * | 2009-04-07 | 2012-07-25 | ソニー株式会社 | 再生装置、再生方法、および記録方法 |
JP5267886B2 (ja) * | 2009-04-08 | 2013-08-21 | ソニー株式会社 | 再生装置、記録媒体、および情報処理方法 |
JP2010268431A (ja) * | 2009-04-15 | 2010-11-25 | Sony Corp | データ構造、記録媒体、再生装置および再生方法、並びにプログラム |
JP4985807B2 (ja) * | 2009-04-15 | 2012-07-25 | ソニー株式会社 | 再生装置および再生方法 |
JP4985890B2 (ja) * | 2009-04-15 | 2012-07-25 | ソニー株式会社 | 再生装置および再生方法、並びに記録方法 |
JP2011041249A (ja) | 2009-05-12 | 2011-02-24 | Sony Corp | データ構造および記録媒体、並びに、再生装置、再生方法、プログラム、およびプログラム格納媒体 |
RU2538307C2 (ru) * | 2009-05-12 | 2015-01-10 | Сони Корпорейшн | Структура данных и носитель данных, воспроизводящее устройство, способ воспроизведения, программа и носитель для хранения программы |
US8208790B2 (en) * | 2009-05-19 | 2012-06-26 | Panasonic Corporation | Recording medium, reproducing device, encoding device, integrated circuit, and reproduction output device |
JP2011107589A (ja) * | 2009-11-20 | 2011-06-02 | Sony Corp | 立体表示装置 |
JP2013520925A (ja) * | 2010-02-25 | 2013-06-06 | トムソン ライセンシング | 視差推定を用いる、視差の時間的変動を制限する2眼式立体字幕付け |
US8817072B2 (en) * | 2010-03-12 | 2014-08-26 | Sony Corporation | Disparity data transport and signaling |
JP5604173B2 (ja) * | 2010-04-30 | 2014-10-08 | 三洋電機株式会社 | 再生装置、表示装置、記録装置及び格納媒体 |
KR20120017228A (ko) * | 2010-08-18 | 2012-02-28 | 엘지전자 주식회사 | 이동 단말기 및 상기 이동 단말기의 영상 표시 방법 |
US10039978B2 (en) * | 2010-09-13 | 2018-08-07 | Sony Interactive Entertainment America Llc | Add-on management systems |
JP5594045B2 (ja) * | 2010-10-14 | 2014-09-24 | ソニー株式会社 | 再生装置、再生方法、プログラム、および記録媒体 |
JP2012099986A (ja) * | 2010-10-29 | 2012-05-24 | Sony Corp | 立体画像データ送信装置、立体画像データ送信方法、立体画像データ受信装置および立体画像データ受信方法 |
JP2012100102A (ja) * | 2010-11-02 | 2012-05-24 | Sony Corp | 立体画像データ送信装置、立体画像データ送信方法、立体画像データ受信装置および立体画像データ受信方法 |
US20120120050A1 (en) * | 2010-11-12 | 2012-05-17 | Nokia Corporation | Dual-mode two-dimensional/three-dimensional display |
US8705946B2 (en) | 2010-11-19 | 2014-04-22 | Sony Corporation | 3D authoring tool ensuring no buffer underrun upon jumps |
KR101831775B1 (ko) * | 2010-12-07 | 2018-02-26 | 삼성전자주식회사 | 멀티미디어 컨텐츠를 송수신하는 송신 장치 및 수신 장치와, 그 재생 방법 |
CN103348694A (zh) | 2010-12-07 | 2013-10-09 | 三星电子株式会社 | 发送用于构成内容的数据的发射机、接收和处理该数据的接收机及其方法 |
JP2012151663A (ja) * | 2011-01-19 | 2012-08-09 | Toshiba Corp | 立体音響生成装置及び立体音響生成方法 |
JP5685969B2 (ja) * | 2011-02-15 | 2015-03-18 | ソニー株式会社 | 表示制御方法、表示制御装置 |
US20120236114A1 (en) * | 2011-03-18 | 2012-09-20 | Te-Hao Chang | Depth information generator for generating depth information output by only processing part of received images having different views, and related depth information generating method and depth adjusting apparatus thereof |
KR20140007928A (ko) | 2011-04-28 | 2014-01-20 | 파나소닉 주식회사 | 영상처리장치 및 영상처리방법 |
US20120293636A1 (en) * | 2011-05-19 | 2012-11-22 | Comcast Cable Communications, Llc | Automatic 3-Dimensional Z-Axis Settings |
WO2012160812A1 (ja) * | 2011-05-25 | 2012-11-29 | パナソニック株式会社 | 映像処理装置、送信装置、立体映像視聴システム、映像処理方法、映像処理プログラム及び集積回路 |
WO2013027408A1 (ja) * | 2011-08-24 | 2013-02-28 | パナソニック株式会社 | 記録媒体、再生装置、記録装置、及び記録方法 |
KR20130024504A (ko) * | 2011-08-31 | 2013-03-08 | 삼성전기주식회사 | 삼차원 카메라 시스템 및 주시각 조정 방법 |
KR101287786B1 (ko) * | 2011-09-22 | 2013-07-18 | 엘지전자 주식회사 | 3차원 입체영상 표시 방법 및 그를 이용한 영상 표시 장치 |
CN102427542B (zh) * | 2011-09-28 | 2014-07-30 | 深圳超多维光电子有限公司 | 一种立体图像处理方法、图像处理装置和相应的终端设备 |
US20130120526A1 (en) * | 2011-11-14 | 2013-05-16 | General Instrument Corporation | Association of mvc stereoscopic views to left or right eye display for 3dtv |
US8762452B2 (en) * | 2011-12-19 | 2014-06-24 | Ericsson Television Inc. | Virtualization in adaptive stream creation and delivery |
AU2013210580A1 (en) * | 2012-01-18 | 2013-11-28 | Panasonic Corporation | Transmission device, video display device, transmission method, video processing method, video processing program, and integrated circuit |
KR101699367B1 (ko) * | 2012-05-16 | 2017-02-14 | 한국전자통신연구원 | 3dtv 다중화 방법 및 그 장치 |
US9936196B2 (en) | 2012-10-30 | 2018-04-03 | Qualcomm Incorporated | Target output layers in video coding |
TWI555392B (zh) | 2013-07-30 | 2016-10-21 | 杜比實驗室特許公司 | 用於產生場景穩定的元資料之系統和方法 |
US9716885B2 (en) * | 2013-07-31 | 2017-07-25 | Empire Technology Development Llc | Encoding scheme |
US9648348B2 (en) * | 2013-10-23 | 2017-05-09 | Qualcomm Incorporated | Multi-layer video file format designs |
US9503705B2 (en) * | 2013-12-12 | 2016-11-22 | Lenovo (Singapore) Pte. Ltd. | Stereoscopic image generation |
US10298546B2 (en) * | 2014-03-07 | 2019-05-21 | Toshiba Memory Corporation | Asymmetrical encryption of storage system to protect copyright and personal information |
US10750198B2 (en) | 2014-05-22 | 2020-08-18 | Qualcomm Incorporated | Maximum palette parameters in palette-based video coding |
US9674099B2 (en) * | 2014-09-25 | 2017-06-06 | Microsoft Technology Licensing, Llc | Network classification for applications |
EP3248377B1 (en) * | 2015-02-16 | 2022-05-04 | HFI Innovation Inc. | Method and apparatus for palette predictor initialization for palette coding in video and image compression |
CN106296781B (zh) * | 2015-05-27 | 2020-09-22 | 深圳超多维科技有限公司 | 特效图像生成方法及电子设备 |
EP3099081B1 (en) * | 2015-05-28 | 2020-04-29 | Samsung Electronics Co., Ltd. | Display apparatus and control method thereof |
US9520002B1 (en) * | 2015-06-24 | 2016-12-13 | Microsoft Technology Licensing, Llc | Virtual place-located anchor |
KR102017512B1 (ko) * | 2015-06-25 | 2019-09-03 | 미쓰비시덴키 가부시키가이샤 | 영상 재생 장치 및 영상 재생 방법 |
US10147211B2 (en) | 2015-07-15 | 2018-12-04 | Fyusion, Inc. | Artificially rendering images using viewpoint interpolation and extrapolation |
US10242474B2 (en) | 2015-07-15 | 2019-03-26 | Fyusion, Inc. | Artificially rendering images using viewpoint interpolation and extrapolation |
US10222932B2 (en) | 2015-07-15 | 2019-03-05 | Fyusion, Inc. | Virtual reality environment based manipulation of multilayered multi-view interactive digital media representations |
US11006095B2 (en) | 2015-07-15 | 2021-05-11 | Fyusion, Inc. | Drone based capture of a multi-view interactive digital media |
US11095869B2 (en) | 2015-09-22 | 2021-08-17 | Fyusion, Inc. | System and method for generating combined embedded multi-view interactive digital media representations |
US11783864B2 (en) * | 2015-09-22 | 2023-10-10 | Fyusion, Inc. | Integration of audio into a multi-view interactive digital media representation |
US9507241B1 (en) | 2015-11-17 | 2016-11-29 | Lenovo (Singapore) Pte, Ltd. | Adjustable camera field of view |
CN105635620A (zh) * | 2016-01-18 | 2016-06-01 | 北京优祥智恒科技有限公司 | 一种支持音频透传sdi输出的装置和方法 |
CN108476341B (zh) * | 2016-01-26 | 2021-06-25 | 索尼公司 | 接收设备、接收方法和发送设备 |
US11202017B2 (en) | 2016-10-06 | 2021-12-14 | Fyusion, Inc. | Live style transfer on a mobile device |
GB2558236B (en) | 2016-12-22 | 2021-03-31 | Apical Ltd | Image data comprising encoded image data and additional data for modification of image |
CN106791795A (zh) * | 2017-01-03 | 2017-05-31 | 京东方科技集团股份有限公司 | 3d视频流的发送方法及发送装置、接收方法及接收装置 |
US10437879B2 (en) | 2017-01-18 | 2019-10-08 | Fyusion, Inc. | Visual search using multi-view interactive digital media representations |
US10313651B2 (en) | 2017-05-22 | 2019-06-04 | Fyusion, Inc. | Snapshots at predefined intervals or angles |
US11069147B2 (en) | 2017-06-26 | 2021-07-20 | Fyusion, Inc. | Modification of multi-view interactive digital media representation |
CN107231516A (zh) * | 2017-07-27 | 2017-10-03 | 重庆万建电子工程有限责任公司重庆第分公司 | 带刮灰结构的半球型摄像机 |
US10592747B2 (en) | 2018-04-26 | 2020-03-17 | Fyusion, Inc. | Method and apparatus for 3-D auto tagging |
FR3086831A1 (fr) * | 2018-10-01 | 2020-04-03 | Orange | Codage et decodage d'une video omnidirectionnelle |
WO2020071632A1 (ko) * | 2018-10-02 | 2020-04-09 | 엘지전자 주식회사 | 360 비디오 시스템에서 오버레이 처리 방법 및 그 장치 |
US11347788B2 (en) * | 2019-01-16 | 2022-05-31 | Toyota Research Institute, Inc. | Systems and methods for generating a requested image view |
CN110231905B (zh) * | 2019-05-07 | 2021-02-09 | 华为技术有限公司 | 一种截屏方法及电子设备 |
CN111626049B (zh) * | 2020-05-27 | 2022-12-16 | 深圳市雅阅科技有限公司 | 多媒体信息的标题修正方法、装置、电子设备及存储介质 |
TWI790600B (zh) * | 2021-04-21 | 2023-01-21 | 宏芯科技股份有限公司 | 區域式視訊影像插補裝置及其方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1501316A1 (en) * | 2002-04-25 | 2005-01-26 | Sharp Corporation | Multimedia information generation method and multimedia information reproduction device |
US6956964B2 (en) * | 2001-11-08 | 2005-10-18 | Silicon Intergrated Systems Corp. | Apparatus for producing real-time anaglyphs |
CN1934873A (zh) * | 2004-03-08 | 2007-03-21 | 江良一成 | 立体参数嵌入装置和立体图像再现装置 |
CN1981342A (zh) * | 2004-06-18 | 2007-06-13 | 松下电器产业株式会社 | 再现装置、程序、再现方法 |
WO2007126508A2 (en) * | 2006-03-29 | 2007-11-08 | Thomson Licensing | Multi-view video coding method and device |
WO2008044191A2 (en) * | 2006-10-11 | 2008-04-17 | Koninklijke Philips Electronics N.V. | Creating three dimensional graphics data |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR930010608A (ko) * | 1991-11-04 | 1993-06-22 | 이승 | 카 메 라 |
US6052100A (en) | 1994-03-16 | 2000-04-18 | The United States Of America Represented By The Secertary Of The Navy | Computer controlled three-dimensional volumetric display |
TW436777B (en) * | 1995-09-29 | 2001-05-28 | Matsushita Electric Ind Co Ltd | A method and an apparatus for reproducing bitstream having non-sequential system clock data seamlessly therebetween |
US6484266B2 (en) * | 1995-09-29 | 2002-11-19 | Matsushita Electric Industrial Co., Ltd. | Method and an apparatus for reproducing bitstream having non-sequential system clock data seamlessly therebetween |
WO1997032437A1 (en) | 1996-02-28 | 1997-09-04 | Matsushita Electric Industrial Co., Ltd. | High-resolution optical disk for recording stereoscopic video, optical disk reproducing device, and optical disk recording device |
EP0944269B1 (en) * | 1996-12-04 | 2002-11-13 | Matsushita Electric Industrial Co., Ltd. | Optical disc for high resolution and three-dimensional image recording, optical disc reproducing device, and optical disc recording device |
JPH10234058A (ja) * | 1997-02-18 | 1998-09-02 | Ikegami Tsushinki Co Ltd | 立体映像への文字付加装置及びその装置を備えたカラオケ装置 |
WO1999012348A1 (en) * | 1997-08-29 | 1999-03-11 | Matsushita Electric Industrial Co., Ltd. | Optical disc for recording high resolution and normal image, optical disc player, optical disc recorder, and playback control information generator |
JPH11289555A (ja) | 1998-04-02 | 1999-10-19 | Toshiba Corp | 立体映像表示装置 |
JP2004104742A (ja) * | 2002-09-11 | 2004-04-02 | Remedia:Kk | 立体映像データの発生方法と装置 |
JP2004274125A (ja) * | 2003-03-05 | 2004-09-30 | Sony Corp | 画像処理装置および方法 |
AU2003252270A1 (en) | 2003-05-30 | 2005-01-21 | Lattice Technology, Inc. | 3-dimensional graphics data display device |
WO2005004147A1 (en) * | 2003-07-07 | 2005-01-13 | Samsung Electronics Co., Ltd. | Information storage medium storing multi angle data, and recording method and reproducing apparatus thereof |
US7609947B2 (en) * | 2004-09-10 | 2009-10-27 | Panasonic Corporation | Method and apparatus for coordinating playback from multiple video sources |
KR100657322B1 (ko) * | 2005-07-02 | 2006-12-14 | 삼성전자주식회사 | 로컬 3차원 비디오를 구현하기 위한 인코딩/디코딩 방법 및장치 |
JP4476905B2 (ja) * | 2005-08-31 | 2010-06-09 | 株式会社東芝 | 立体表示画像データの構造、立体表示画像データの記録方法、表示再生方法、記録プログラム、および表示再生プログラム |
EP2074832A2 (en) * | 2006-09-28 | 2009-07-01 | Koninklijke Philips Electronics N.V. | 3 menu display |
JP4930320B2 (ja) * | 2006-11-30 | 2012-05-16 | ソニー株式会社 | 再生方法及び装置、プログラム並びに記録媒体 |
US8385719B2 (en) * | 2007-03-22 | 2013-02-26 | Mitsubishi Electric Corporation | Video reproducing apparatus and method |
JP2008244835A (ja) | 2007-03-27 | 2008-10-09 | Toshiba Corp | 立体表示装置および立体画像表示方法 |
JP2009135686A (ja) * | 2007-11-29 | 2009-06-18 | Mitsubishi Electric Corp | 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置 |
CN102150433B (zh) * | 2008-09-18 | 2014-04-09 | 松下电器产业株式会社 | 立体视觉影像再现装置及立体视觉影像显示装置 |
-
2010
- 2010-02-15 MX MX2010011683A patent/MX2010011683A/es active IP Right Grant
- 2010-02-15 EP EP20100743541 patent/EP2400773B1/en active Active
- 2010-02-15 CN CN201210108098.3A patent/CN102685514B/zh not_active Expired - Fee Related
- 2010-02-15 CN CN201210265121XA patent/CN102833573B/zh not_active Expired - Fee Related
- 2010-02-15 CN CN201210264225.9A patent/CN102790902B/zh not_active Expired - Fee Related
- 2010-02-15 ES ES12174659.8T patent/ES2491067T3/es active Active
- 2010-02-15 CN CN2010800014767A patent/CN102017641B/zh active Active
- 2010-02-15 EP EP20120174665 patent/EP2521367B1/en not_active Not-in-force
- 2010-02-15 JP JP2010524691A patent/JP4588120B2/ja active Active
- 2010-02-15 BR BRPI1001265A patent/BRPI1001265A2/pt not_active Application Discontinuation
- 2010-02-15 EP EP20120174662 patent/EP2521366B1/en not_active Not-in-force
- 2010-02-15 RU RU2010144544/08A patent/RU2522304C2/ru not_active IP Right Cessation
- 2010-02-15 EP EP20120174660 patent/EP2521365B1/en active Active
- 2010-02-15 CN CN2012102650819A patent/CN102833572B/zh not_active Expired - Fee Related
- 2010-02-15 EP EP20120174659 patent/EP2521364B1/en active Active
- 2010-02-15 ES ES10743541T patent/ES2439316T3/es active Active
- 2010-02-15 CN CN201210108144XA patent/CN102685515B/zh not_active Expired - Fee Related
- 2010-02-15 DK DK12174659T patent/DK2521364T3/da active
- 2010-02-15 EP EP20120174658 patent/EP2521363B1/en not_active Not-in-force
- 2010-02-15 WO PCT/JP2010/000913 patent/WO2010095411A1/ja active Application Filing
- 2010-02-15 ES ES12174660T patent/ES2467149T3/es active Active
- 2010-02-15 KR KR20107024196A patent/KR20110126518A/ko active IP Right Grant
- 2010-02-15 AU AU2010216963A patent/AU2010216963A1/en not_active Abandoned
- 2010-02-22 TW TW99105012A patent/TW201123841A/zh unknown
- 2010-07-13 JP JP2010158640A patent/JP4629805B2/ja active Active
- 2010-07-13 JP JP2010158642A patent/JP4654320B2/ja not_active Expired - Fee Related
- 2010-07-13 JP JP2010158641A patent/JP4634534B2/ja active Active
- 2010-10-19 US US12/907,323 patent/US8712215B2/en not_active Expired - Fee Related
- 2010-10-19 ZA ZA2010/07461A patent/ZA201007461B/en unknown
- 2010-11-08 JP JP2010249396A patent/JP5416073B2/ja not_active Expired - Fee Related
-
2011
- 2011-09-21 ZA ZA2011/06913A patent/ZA201106913B/en unknown
- 2011-09-21 ZA ZA2011/06914A patent/ZA201106914B/en unknown
-
2012
- 2012-04-13 JP JP2012092048A patent/JP5027952B2/ja not_active Expired - Fee Related
- 2012-04-13 JP JP2012092049A patent/JP5027953B2/ja not_active Expired - Fee Related
- 2012-04-24 JP JP2012098956A patent/JP5038543B2/ja not_active Expired - Fee Related
- 2012-07-26 US US13/558,806 patent/US20120293614A1/en not_active Abandoned
- 2012-07-26 US US13/558,779 patent/US8705935B2/en not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6956964B2 (en) * | 2001-11-08 | 2005-10-18 | Silicon Intergrated Systems Corp. | Apparatus for producing real-time anaglyphs |
EP1501316A1 (en) * | 2002-04-25 | 2005-01-26 | Sharp Corporation | Multimedia information generation method and multimedia information reproduction device |
CN1934873A (zh) * | 2004-03-08 | 2007-03-21 | 江良一成 | 立体参数嵌入装置和立体图像再现装置 |
CN1981342A (zh) * | 2004-06-18 | 2007-06-13 | 松下电器产业株式会社 | 再现装置、程序、再现方法 |
WO2007126508A2 (en) * | 2006-03-29 | 2007-11-08 | Thomson Licensing | Multi-view video coding method and device |
WO2008044191A2 (en) * | 2006-10-11 | 2008-04-17 | Koninklijke Philips Electronics N.V. | Creating three dimensional graphics data |
Also Published As
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102790902B (zh) | 接收装置 | |
CN102172033B (zh) | 再生装置、记录方法、记录介质再生*** | |
CN101911713B (zh) | 再现装置、集成电路、再现方法、记录方法、记录介质再现*** | |
CN102547359B (zh) | 再现装置、集成电路 | |
WO2010095410A1 (ja) | 記録媒体、再生装置、集積回路 | |
CN102232295A (zh) | 再现装置、记录介质及集成电路 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20140430 Termination date: 20200215 |
|
CF01 | Termination of patent right due to non-payment of annual fee |