TWI786310B - 支援多個視圖的顯示器以及用於該顯示器的方法 - Google Patents
支援多個視圖的顯示器以及用於該顯示器的方法 Download PDFInfo
- Publication number
- TWI786310B TWI786310B TW108123428A TW108123428A TWI786310B TW I786310 B TWI786310 B TW I786310B TW 108123428 A TW108123428 A TW 108123428A TW 108123428 A TW108123428 A TW 108123428A TW I786310 B TWI786310 B TW I786310B
- Authority
- TW
- Taiwan
- Prior art keywords
- display
- processing circuitry
- data streams
- tasks
- data
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 223
- 238000012545 processing Methods 0.000 claims abstract description 549
- 238000003491 array Methods 0.000 claims abstract description 60
- 230000011664 signaling Effects 0.000 claims abstract description 18
- 238000013528 artificial neural network Methods 0.000 claims description 257
- 230000006870 function Effects 0.000 claims description 42
- 230000004048 modification Effects 0.000 claims description 38
- 238000012986 modification Methods 0.000 claims description 38
- 230000008569 process Effects 0.000 claims description 30
- 238000006243 chemical reaction Methods 0.000 claims description 27
- 230000002123 temporal effect Effects 0.000 claims description 20
- 230000003287 optical effect Effects 0.000 claims description 19
- 230000000007 visual effect Effects 0.000 claims description 16
- 238000005070 sampling Methods 0.000 claims description 13
- 230000015572 biosynthetic process Effects 0.000 claims description 12
- 239000000463 material Substances 0.000 claims description 12
- 238000003786 synthesis reaction Methods 0.000 claims description 12
- 238000013507 mapping Methods 0.000 claims description 10
- 230000004044 response Effects 0.000 claims description 10
- 239000003086 colorant Substances 0.000 claims description 9
- 238000009877 rendering Methods 0.000 claims description 9
- 230000008859 change Effects 0.000 claims description 8
- 230000001788 irregular Effects 0.000 claims description 8
- 238000004519 manufacturing process Methods 0.000 claims description 8
- 238000011176 pooling Methods 0.000 claims description 8
- 238000003709 image segmentation Methods 0.000 claims description 7
- 230000004438 eyesight Effects 0.000 claims description 6
- 230000009467 reduction Effects 0.000 claims description 6
- 239000000758 substrate Substances 0.000 claims description 6
- 238000009826 distribution Methods 0.000 claims description 5
- 230000002085 persistent effect Effects 0.000 claims description 5
- 230000006403 short-term memory Effects 0.000 claims description 5
- 230000003190 augmentative effect Effects 0.000 claims description 4
- 238000002372 labelling Methods 0.000 claims description 4
- 238000005259 measurement Methods 0.000 claims description 4
- 230000003595 spectral effect Effects 0.000 claims description 4
- 230000002194 synthesizing effect Effects 0.000 claims description 4
- 230000004888 barrier function Effects 0.000 claims description 3
- 239000013307 optical fiber Substances 0.000 claims description 3
- 230000010287 polarization Effects 0.000 claims description 3
- 230000007787 long-term memory Effects 0.000 claims description 2
- 230000008685 targeting Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 44
- 238000012549 training Methods 0.000 description 43
- 239000004744 fabric Substances 0.000 description 26
- 230000015654 memory Effects 0.000 description 21
- 210000003128 head Anatomy 0.000 description 8
- 230000004913 activation Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 241000023320 Luma <angiosperm> Species 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 4
- 238000013144 data compression Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 4
- 238000005457 optimization Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 230000001953 sensory effect Effects 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 244000107946 Spondias cytherea Species 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 230000004305 hyperopia Effects 0.000 description 1
- 201000006318 hyperopia Diseases 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 208000001491 myopia Diseases 0.000 description 1
- 230000004379 myopia Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 201000010041 presbyopia Diseases 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/001—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
- G09G3/003—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/14—Display of multiple viewports
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1423—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
- G06F3/1446—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display display composed of modules, e.g. video walls
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
- G09G3/22—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources
- G09G3/30—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels
- G09G3/32—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/139—Format conversion, e.g. of frame-rate or size
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/15—Processing image signals for colour aspects of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/167—Synchronising or controlling image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/172—Processing image signals image signals comprising non-image signal components, e.g. headers or format information
- H04N13/178—Metadata, e.g. disparity information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/194—Transmission of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/302—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
- H04N13/32—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using arrays of controllable light sources; using moving apertures or moving light sources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/324—Colour aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/327—Calibration thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/383—Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/398—Synchronisation thereof; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
- G06T2207/10021—Stereoscopic video; Stereoscopic image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20208—High dynamic range [HDR] image processing
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/02—Improving the quality of display appearance
- G09G2320/028—Improving the quality of display appearance by changing the viewing angle properties, e.g. widening the viewing angle, adapting the viewing angle to the view direction
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/06—Adjustment of display parameters
- G09G2320/068—Adjustment of display parameters for control of viewing angle adjustment
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2350/00—Solving problems of bandwidth in display systems
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2352/00—Parallel handling of streams of display data
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2360/00—Aspects of the architecture of display systems
- G09G2360/06—Use of more than one graphics processor to process data before displaying to one or more screens
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Library & Information Science (AREA)
- Quality & Reliability (AREA)
- Human Computer Interaction (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Graphics (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
- Image Processing (AREA)
- Controls And Circuits For Display Device (AREA)
- Image Analysis (AREA)
- Devices For Indicating Variable Information By Combining Individual Elements (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
本揭示案描述顯示器處理電路系統的態樣。在一態樣中,支援多個視圖的一或更多顯示器包括一或更多個像素陣列、一或更多個背板、及經配置以接收一或更多資料串流的一處理電路系統,其基於策略控制該等資料串流的處理,從該等策略選擇一操作模式,各操作模式界定該等顯示器中的像素陣列將貢獻何光線以產生一或更多特定視圖,以及該處理電路系統將進行以相應地修改該一或更多個資料串流的任務。該處理電路系統進一步經由該等背板的一電路配置向該等像素陣列提供代表該等經修改資料串流的發信,以供該等像素陣列貢獻將產生該一或更多特定視圖的該些光線。本案也描述對應的方法。
Description
本專利申請案聲明對申請於2019年7月2日、題為「DISPLAY PROCESSING UNIT」之美國非臨時申請案第16/460,880號及申請於2018年7月3日、題為「DISPLAY PROCESSING UNIT」之美國臨時申請案第62/693607號的優先權益,該些優先權案之內容在此藉引用方式整體併入本文。
本揭示案之態樣大體係關於顯示器,更特定言之係關於處理一顯示器內之內容的顯示器處理單元。
超高解析度顯示器、高動態範圍(即,高對比度)顯示器、及光場(即,免眼鏡3D)顯示器苦於缺少現有的內容。當新穎的攝影機及電腦生成內容可允許在將來產生此內容,但需要對舊內容及其他類型的內容的離線及即時(on-the-fly)處理,以(例如)對解析度上取樣、轉換低動態範圍內容成為高動態範圍內容、及轉換二維(2D)影像或具有深度資訊的2D影像為高解析度、高動態範圍、及/或光場資料以供顯示。
此外,現有的標準(例如HDMI或DisplayPort)所提供以用於將資料從中央處理單元(CPU)或圖形處理單元(GPU)傳輸至顯示器本身的頻寬有限。新出現的超高解析度顯示面板、高動態範圍顯示器、及光場顯示器所需要的頻寬要求在CPU或GPU到顯示器之間移轉數量級更多的資料。雖然將來的標準或現有標準在將來的演進可能致能更大頻寬,現今標準的限制可能使得需要在將資料移轉至顯示器之後直接在顯示器上進行大量影像處理成為必要。
一些既存的顯示器可進行簡單內插(例如線性、三次內插)以改善視訊的空間及時間解析度,而它們可縮放(scale)影像以改善對比度或動態範圍,但需要具有低延遲、具有低功率耗損、及具有高品質的更加尖端的影像和視訊處理。
智慧型TV(參見例如美國第5,905,521號專利案)使用經整合硬體來連接電視顯示器至處理單元及網路連接。此技術致能多媒體內容之串流以伴隨傳統的廣播。機上盒(例如蘋果TV、谷歌ChromeCast、Amazon FireTV)和遊戲機(例如微軟Xbox、索尼PlayStation、任天堂Wii U)利用專用中央處理單元/圖形處理單元(CPU/GPU)以藉一共同介面記錄、串流傳輸、及瀏覽多個來源的無線廣播、有線、遊戲、及網際網路內容。然而這些系統的解析度依然受限於現今的顯示器協定,且這些系統不提供對2D、三維(3D)、及光場內容的處理。
已經開發出新的標準,以藉由在經傳輸視訊中編碼額外的元資料、位元深度、及擴充傳輸功能(像是SMPTE ST280),供高動態範圍內容(HDR10、HDR10+、Hybrid-Log-Gamma)的傳輸及串流傳輸。雖然在新型顯示器中對這些標準的支援可改善用於新生成內容的動態範圍及對比度,但該些標準沒有解決對將既存低動態範圍舊內容到既存低動態範圍舊內容之上轉換的需要。
依此,需要致能在不同類型之顯示器中有效處理不同類型之內容的技術和裝置,尤其當需要有大量資料時。
以下提出對一或更多態樣的簡化摘要,以提供對這些態樣的基本理解。此摘要並非對全部經設想之態樣的詳盡概觀,且本意既非識別出全部態樣中的主要或關鍵元素,也非界定任何或全部態樣的範疇。其目的在以簡化形式提出一或更多態樣的一些概念,作為在之後將提出更詳盡說明的序言。
在此揭示案的一態樣中,描述支援多個視圖的一或更多顯示器,該一或更多顯示器包括一或更多像素陣列、經耦合至該一或更多像素陣列的一或更多背板、及經耦合至該一或更多背板的處理電路系統,其中該處理電路系統經配置以接收一或更多資料串流,基於策略來控制對該一或更多資料串流的處理,從該等策略中選出由該處理電路系統支援的操作模式,各操作模式界定該一或多個顯示器中的該一或更多個像素陣列將貢獻何光線以產生一或更多特定視圖,以及該處理電路系統將進行的任務以修改該一或更多個資料串流,使得該一或更多個像素陣列貢獻將產生該操作模式的該一或更多特定視圖的該些光線,以及經由該一或更多個背板的一電路配置提供代表該經修改一或更多個資料串流的發信,以供該一或更多個像素陣列貢獻將產生該操作模式的該一或更多特定視圖的該些光線。
在此揭示案的另一態樣中,描述一種用於在一或更多個支援多個視圖的顯示器上處理資料串流的方法,該方法包括在該一或更多顯示器的一處理電路系統上接收一或更多個資料串流,該處理電路系統耦合至該一或更多顯示器的一或更多個背板,該一或更多個背板繼而耦合至該一或更多顯示器的一或更多個像素陣列;藉由該處理電路系統,基於策略來控制對該一或更多個資料串流的處理,從該等策略中選出該處理電路系統所支援的一操作模式,各操作模式界定該一或更多顯示器中的該一或更多個像素陣列將貢獻何光線以產生一或更多特定視圖,以及該處理電路系統將進行以修改該一或更多個資料串流的任務,使得該一或更多個像素陣列貢獻將產生該操作模式的該一或更多特定視圖的該些光線;及藉由該處理電路系統,經由該一或更多個背板的一電路配置提供代表該經修改一或更多個資料串流到該一或多個像素陣列的的發信,以供該一或更多個像素陣列貢獻光線,該些光線將產生該操作模式的該一或更多特定視圖。
在本揭示案的一態樣中,用以處理一顯示器內之內容的處理電路系統(也稱作顯示器處理電路系統或單元)包括經配置以接收來自一來源之內容的輸入組件、經配置以實施及執行一或更多神經網路的處理組件、和經配置以提供經修改內容至該顯示器中之一相應面板的輸出組件,該處理組件進行一組任務以修改用於由該顯示器展示的內容,該一或更多神經網路乃利用儲存在該顯示器中之多個權重所實施。
在本揭示案的一態樣中,一種供處理電路系統在一顯示器(例如顯示器處理電路系統或單元)內處理內容的方法包括:於該處理單元的一輸入組件處接收來自一來源的內容,於該處理單元的一處理組件處實施一或更多神經網路,該一或更多神經網路經利用儲存在該顯示器之記憶體中的多個權重所實施,藉由執行該一或更多神經網路來進行一組任務,該組任務修改用於由該顯示器展示的內容,以及藉由該處理單元的一輸出組件提供經修改內容至該顯示器中的一各別面板。
以下相關於隨附圖式所闡述的詳細說明本意為作為各種配置的說明,而非意圖提出可實施本文中所述概念的僅有配置。為了對各種概念提供詳盡的理解,以下詳細說明包括了特定細節。然而,本領域中之技術人員將顯而易見可在沒有這些特定細節下實施這些概念。一些情況中,熟知的組件經以方塊圖形式顯示以避免模糊了這類概念。
現今的顯示器系統中,內容或資料的來源可能包括中央處理單元(CPU)及/或圖形處理單元(GPU)(參見例如第1B及1C圖)。該來源能接收使用者輸入、三維(3D)模型、視訊、或其他內容,且能渲染(render)電腦生成(CG)內容並處理該內容或資料。該來源能經由數位視覺介面(DVI)、高畫質多媒體(HDMI)、DisplayPort(DP)、嵌入式DisplayPort(eDP)、或適合用於傳輸內容/資料至顯示器的任何其他資料介面,來提供內容/資料至該顯示器。在一例中,HDMI 2.1可用於內容/資料傳輸,其支援42 Gb/s的資料速率和8~16位元每色(bits per color,bpc)。對於8 pbc,能支援4K@144Hz及/或8K@30 Hz,同時對於10 bpc(HDR10)而言能支援4K@144Hz及/或8K@30 Hz。另一例中,可針對內容/資料傳輸利用DisplayPort 1.4,其支援25.92 Gb/s及8~10 bpc。對於8 pbc而言,能支援4K@144Hz及/或 8K@30 Hz。在又另一例中,可利用USB-C 3.1作為DP 1.4之替代,以用於傳送內容/資料至一顯示器。
現今的顯示器可包括一驅動器板,其提供色彩管理、資料轉換,可選地還有用於面板的LED背光驅動器。驅動器板可經由低電壓差動發信(LVDS)、MIPI介面或eDP將經處理資料提供至一時序器控制器(TCON)(參見例如第1B圖中的TCON 140),其中該TCON轉而驅動顯示器中的面板。LVDS是序列匯流排而MIPI顯示器序列介面(DSI)是利用LVDS作為傳輸方法的一協定(MIPI DSI最高以60Hz處理1440p)。
如上提及,現今的顯示器或顯示系統無法處理新出現的超高解析度顯示面板、高動態範圍顯示器、及光場顯示器所需的頻寬,也受限於其處理不同類型內容或資料的能力。例如,對於能有多個視圖的光場顯示器而言,有100個視圖、10位元每像素(bpp)、及60 Hz的4K顯示器(例如具有3840 x 2160 = 8,294,400,00個像素的4K UHD)將需要497,664,000,000位元(或62,208,000,000位元組、60,750,000千位元組(kbyte)、59,327百萬位元組(mbyte))每秒。以下關聯於第1A~9圖更詳細地描述了在一顯示器內所實施以致能對不同類型之顯示器中之不同類型內容的有效處理的各不同技術。
第 1A 圖
顯示一圖100a,其描繪一顯示器110的範例,該顯示器從一來源120接收一或更多資料串流125中的內容/資料或其他資訊(例如影像內容、視訊內容、或兩者)。顯示器110可包括一或更多面板(例如元件之陣列),其中顯示器110中的各面板是發光面板、光反射性面板、光透射性面板、光修飾面板。當利用發光面板時它們能包括多個發光元件(參見例如第2A圖中的發光元件225)。這些發光元件能為自一或更多半導體材料製成的發光二極體(LED)。LED能為無機LED。LED能為(例如)微型LED(micro-LED,也稱為microLED、mLED、或μLED)。其他能從中製造發光元件的顯示器技術包括液晶顯示器(LCD)技術或有機LED(OLED)技術。用語「發光元件」、「發光器」、或僅是「發射器」可在本揭示案中互換地使用。對於無發光的元件,可利用「光反射性元件」、「光透射性元件」、或「光修飾元件」等用語。
顯示器110能具有的性能包括超高解析度性能(例如對8K或更高之解析度的支援)、高動態範圍(例如高對比度)性能、及/或光場性能(例如能夠貢獻被認知成一或更多視圖的光線)。當顯示器110具有光場性能且能作為光場顯示器操作時,顯示器110能包括多個圖像元件(例如超光線像素(super-raxel)),其中各圖像元件具有各別的光轉向光學元件和發光元件(例如子光線像素(sub-raxel))的一陣列經整合在相同半導體基板上,且其中該陣列中的該等發光元件經排列成為分離的群組(例如光線像素(raxel))以提供該光場顯示器所支援的多個視圖(參見例如第2A~2C圖)。
一圖100b經顯示在第 1B 圖
中以描繪第1A圖中之顯示器110和來源120的額外細節。將理解儘管圖示了單一來源120,但顯示器110可能可以從多個來源120接收一或更多資料串流125。在此例中,來源120提供資料串流125(例如具備內容/資料或其他資訊)至一顯示器處理電路系統130,該顯示器處理電路系統整合在顯示器110內。用語「顯示器處理電路系統」及「處理電路系統」可在本揭示案中互換地使用。除了針對顯示來源說明如上的功能以外,來源120能經配置以串流來自電影或特殊攝影機的紅-綠-藍三色和深度(RGBD)資料,且也可渲染來自電腦生成內容的RGBD資料。在此方面,來源120可提供具有深度資訊的多色資料,其中該多色資料不需要受限於RGB資料。來源120可經由HDMI/DP(舉例來說)提供資料串流125,且資料串流125能包括10位元高動態範圍(HDR)資料、或RGBD資料、或一些其他類型的資料。
顯示器處理電路系統130經配置以基於策略(例如嵌入在顯示器處理電路系統130之操作中以導引決策的規則或原則)來處理一或更多資料串流125,根據該等策略從顯示器處理電路系統130所支援的多個操作模式選出一操作模式。顯示器處理電路系統130可為基於神經網路架構、固定函數邏輯信號處理架構、可程式化管線架構、或以上的某種組合。依此,顯示器處理電路系統130可經配置以實施及執行一或更多神經網路來進行一組任務,該組任務修改資料串流125中的影像或視訊內容(或一些其他類型的資訊)以供由顯示器110呈現。該一或更多神經網路能利用儲存在顯示器記憶體135中、儲存在顯示器處理電路系統130中、或硬編碼在顯示器處理電路系統130中的多個權重來實施。顯示器記憶體135(或其至少一部分)能與顯示器處理電路系統130整合。能由顯示器處理電路系統130進行的該組任務可包括關聯於顏色管理、資料轉換、及/或多視圖處理操作的任務。應理解顯示器處理電路系統130所能夠進行的任務可更廣泛,而各種及多樣之任務的細節將在以下更詳細說明。這些任務之各者能在顯示器處理電路系統130中經相應地選取/啟用或取消/停用。在一些情況中,將進行的一或多個任務乃基於顯示器處理電路系統130之操作模式而選取,該顯示器處理電路系統可經配置以支援一或更多操作模式。當支援多個操作模式時,顯示器處理電路系統130可利用一策略控制器(未圖示)來識別出及進行一適當操作模式。
如第1B圖中之圖100b所示,顯示器處理電路系統130可包括一時序控制器(TCON)140的功能,該時序控制器(TCON)140轉而經由一或更多背板150向一或更多像素陣列151提供適當的資訊及/或發信。TCON 140(如由虛線所描繪)也可經實施在外部或與顯示器處理電路系統130分開。在一些情況中,顯示器處理電路系統130的架構使得TCON 140或其功能不恰當,而因此將不結合顯示器處理電路系統130使用TCON 140。在一例中,一或更多背板150(或其一子集合)與一或更多像素陣列151(或其一子集合)的組合可稱為該顯示器的一面板。在一些情況中,可利用多個LVDS及/或MIPI介面來傳送資訊至TCON 140。類似地,從TCON 140到背板150及像素陣列151的資訊或發信能經並行化(如由多個箭頭所描繪)。將理解背板150可由單一背板150或邏輯上作為單一背板操作的一組背板150組成。類似地,將理解像素陣列151可由單一像素陣列151或邏輯上作為單一像素陣列操作的一組像素陣列151組成。
來源120能包括GPU 160及/或CPU 165。GPU 160及CPU 165能為一主處理器155之部分,該主處理器能與顯示器110分開地實施或能經實施成顯示器110的整體組件。在後面這種情況中,主處理器155(因此還有來源120的至少局部)可為顯示器110之一部分。主處理器155可經配置以在資料串流125被傳送至顯示器處理電路系統130之前對資料串流125上執行一些任務,其中對資料串流125執行另外的任務。在一例中,主處理器155能經由一或更多HDMI或DisplayPort連接來傳輸或轉移影像或視訊內容至顯示器110中的顯示器處理電路系統130。主處理器155能傳輸或轉移影像或視訊內容至顯示器110中的顯示器處理電路系統130作為10位元高動態範圍資料,且包括紅色、綠色、藍色、和深度資訊(RGBD)。主處理器155能經配置以針對渲染影像、深度感測器、或攝影機陣列進行光柵化或光線追蹤,以製造真實世界影像或視訊內容。此外,主處理器155能經配置以進行對影像或視訊內容或對一些其他類型的資訊的資料壓縮。
額外地或替代地,來源120能包括一硬碟170,其儲存將透過資料串流125被提供給顯示器110的內容/資料。額外地或替代地,來源120能包括一接收器180,其經配置以從不同輸入端或連接接收內容/資料,該些連接像是網際網路連接181、無線連接182(包括無線網際網路)、及資料介面183,其中該內容/資料將被提供給顯示器110。資料介面183能包括一數位視訊介面。資料介面183能為通用序列介面(USB)(例如USB-C或USBC)及/或視訊圖形陣列(VGA)介面,舉例來說。就像主處理器155,硬碟170及/或接收器180能與顯示器110分開地實施或能經實施成顯示器110的整體組件。
顯示器110也能包括能提供資訊給顯示器處理電路系統130的一或更多感測器155(例如音訊感測器、麥克風、攝影機、光感測器、等等),顯示器處理電路系統130能結合本文所述的各不同任務中一或更多者來利用該資訊。例如,顯示器處理電路系統130能利用感測器資訊作為以下將更詳細描述之特定於觀看者操作(像是使用者追蹤)的部分。在此例中,一或更多感測器155可包括能夠啟用使用者或觀看者追蹤的感測器。
第 1C 圖
顯示一圖100c,其描繪具有多個顯示器處理電路系統130之顯示器110的例子。在此例中, 來源120能向顯示器110提供多個資料串流,像是資料串流125a、…、資料串流125n。針對這些資料串流之各者,有一相應的顯示器處理電路系統130,使得圖100c中資料串流125a是被一顯示器處理電路系統130a所接收和處理,而資料串流125n是被一顯示器處理電路系統130n所接收和處理。顯示器處理電路系統130a、…、130n之各者具有對應的TCON 140(或是TCON 140的內建功能)和對應的背板150及像素陣列151(雖然如上提及,在顯示器處理電路系統130的一些實施方式中TCON不一定是必要的)。即,顯示器處理電路系統130a可經由TCON 140a對對應的背板150a及像素陣列151a提供從修改資料串流125a而產生的經處理內容/資料。類似地,顯示器處理電路系統130n可經由TCON 140n對對應的背板150n及像素陣列151n提供從修改資料串流125n而產生的經處理內容/資料。不同顯示器處理電路系統130所支援的背板/像素陣列可具有相同大小或具不同大小。顯示器處理電路系統130a、…、130n之各者可利用儲存在顯示器記憶體135中的資訊。
在圖100c中所繪範例中,多個顯示器處理電路系統130、多個背板150、及多個像素陣列151可與顯示器110整合。在一些情況中,這樣的整合顯示器110可屬於一手持式裝置的部分,該手持式裝置像是無線通訊裝置、或近眼裝置,或大更多的顯示器(舉例來說)。
第 1D 圖
顯示一圖100d,其描繪顯示器處理電路系統130經配置以與超過一個顯示器110一起使用的情況。在此例中,顯示器處理電路系統130可用在第一顯示器110a中,該第一顯示器110a包括背板150a及像素陣列151a,同時顯示器處理電路系統130可並行地用在第二顯示器110b中,該第二顯示器110b包括背板150b及像素陣列151b。各顯示器可包括自身的記憶體(例如顯示器記憶體135)及/或其自身的感測器(例如感測器155)。此範例中的顯示器處理電路系統130可接收用於處理的一或更多資料串流125,且對將被提供給各自的背板/像素陣列以供顯示的資料串流有任何修改(例如對於資料串流中的內容/資料的修改)。
如上所述,顯示器110能具有不同性能,包括超高解析度性能、高動態範圍(對比度)性能、及/或光場性能。當顯示器110能作為光場顯示器操作時,其可具有一階層式配置,該階層式配置致能生成多個場域或視圖以供一使用者或觀看者欣賞,其他類型之顯示器不一定能產生此多個場域或視圖。下面的第2A~2C圖提供有關顯示器(像是顯示器110)的額外細節,該顯示器具有致能光場性能的架構(例如光場顯示器)。
第 2A 圖
中的圖200a顯示一光場顯示器210,此為第1A~1D圖中之顯示器110在顯示器能夠(或支援)用於光場操作之性能、且啟用此種性能時的範例。如此,光場顯示器210可包括一或更多顯示器處理電路系統130以進行各種任務,包括(例如)顏色管理、內容或資料轉換、及多視圖處理。光場顯示器210可具有多個圖像元件或超光線像素220。在此揭示案中,用語「圖像元件」及用語「超光線像素」能可互換地使用以描述光場顯示器中的類似結構性單元。能針對不同類型之應用而使用光場顯示器210,且其大小可因其而異。例如,光場顯示器210在用作為手錶、近眼應用、電話、平板、膝上型電腦、監視器、電視機、及告示牌(僅舉數例)的顯示器時能有不同大小。依此,且依應用而定,光場顯示器210中的圖像元件220能經組織成陣列、網格、或其他類型的具不同大小之有序排列方式。光場顯示器210的圖像元件220能經排列成如第1B~1D圖中所示像素陣列。
第2A圖中所示範例中,圖像元件220能經組織或定位成一個N × M陣列,陣列中各圖像元件220具有其自己的發光元件225之陣列或網格。
在更特定範例中,對於一4K光場顯示器(其中傳統顯示器中的像素被圖像元件220取代)而言,具有圖像元件220的N × M陣列能為一個2,160 × 3,840陣列,其包括接近8.3百萬個圖像元件220。依照圖像元件220之各者中發光元件225的數目而異,4K光場顯示器能具有比對應傳統顯示器之解析度大上一個或兩個數量級的解析度。當圖像元件或超光線像素220在相同半導體基板上包括作為發光元件225、製造紅色(R)光、綠色(G)光、及藍色(B)光的不同LED時,該4K光場顯示器能被稱為自整合式RGB LED超光線像素製成。儘管未詳細說明,8K或更大的光場顯示器利用類似架構也是可行。
光場顯示器210中之圖像元件220之各者,包括其對應的光轉向光學元件215(第2B圖中之圖200b中所圖示的整體成像透鏡),能代表受限於顯示器解析度的一最小圖像元件大小。在此方面,一圖像元件220的發光元件225之陣列或網格可能比用於該圖像元件之對應光轉向光學元件215更小。然而,實作上,一圖像元件220的發光元件225之陣列或網格的大小可能類似於對應的光轉向光學元件215的大小(例如微透鏡或小透鏡(lenslet)的直徑),後者轉而類似或相同於圖像元件220之間的間距230。
如上提及,一圖像元件220之發光元件225的陣列的放大版本展示在圖200a的右邊。發光元件225的陣列能為一個P × Q陣列,其中P是陣列中發光元件225的行數而Q是陣列中發光元件225的列數。陣列大小的例子可能包括P ≥ 5且Q ≥ 5、P ≥ 8且Q ≥ 8、P ≥ 9且Q ≥ 9、P ≥ 10且Q ≥ 10、P ≥ 12且Q ≥ 12、P ≥ 20且Q ≥ 20、及P ≥ 25且Q ≥ 25。在一例中,P × Q陣列是9 × 9陣列,其包括81個發光元件或子光線像素225。
對於各圖像元件220,陣列中的發光元件225能包括分離且各異的發光元件225的群組(參見例如第2C圖中的發光元件群組260),其基於空間及角度接近度而經配置或分組(例如邏輯分組),且該些群組經配置以產生不同光輸出(例如方向性光輸出),對產生由光場顯示器210對觀看者提供之光場視圖做出貢獻。將子光線像素或發光元件分成光線像素的群組不需要為唯一的。例如,在組裝或製造期間,可能有子光線像素映射到特定光線像素,其最能最佳化顯示器體驗。一旦顯示器經部署使用,其能進行類似的重新映射以考量(例如)顯示器之不同部件或元件的老化,包括不同顏色之發光元件的亮度中及/或光轉向光學元件之變化特性中隨時間的變化。本揭示案中,用語「發光元件群組」及用語「光線像素」能可互換地使用來描述光場顯示器中的類似結構性單元。各不同發光元件群組或光線像素之貢獻而生的光場視圖能由觀看者感知為連續的或不連續的視圖。
發光元件225的陣列中的各個發光元件225之群組包括產生至少三個不同顏色光(例如紅色光、綠色光、藍色光,可能還有白色光)的發光元件。在一例中,這些光線像素之群組各包括至少一個發光元件225產生紅色光、一個發光元件225產生綠色光、及一個發光元件225產生藍色光。另一例中,這些光線像素之群組各包括兩個發光元件225產生紅色光、一個發光元件225產生綠色光、以及一個發光元件225產生藍色光。在又另一例中,這些光線像素之群組各包括一個發光元件225產生紅色光、一個發光元件225產生綠色光、一個發光元件225產生藍色光、以及一個發光元件225產生白色光。
由於上述的各種不同應用(例如不同大小的光場顯示器),結合光場顯示器210所描述之結構性單元中有些的大小或尺寸可能變化顯著。例如,一圖像元件220中發光元件225之陣列或網格的大小(例如該陣列或網格的直徑、寬度、或跨距)範圍能在大約10微米與大約1,000微米之間。即,關聯於一圖像元件或超光線像素220的大小能在此範圍中。本揭示案中所用的用語「大約」指示出一標稱值或離該標稱值在1%、2%、3%、4%、5%、10%、15%、20%、或25%之範圍內的變異值。
另一例中,圖像元件220中各發光元件225之群組的大小(例如該群組的直徑、寬度、或跨距)範圍能在大約1微米與大約10微米之間。即,關聯於發光元件225之群組(例如光線像素260)的大小能在此範圍中。
在又另一例中,各發光元件225的大小(例如該發光元件或子光線像素的直徑、寬度、或跨距)範圍能在大約0.4微米與大約4微米之間。類似地,各發光元件225的大小(例如該發光元件或子光線像素的直徑、寬度、或跨距)能為小於大約1微米。即,關聯於發光元件或子光線像素225的大小能在上述範圍中。
在又另一例中,光轉向光學元件215的大小(例如微透鏡或小透鏡的直徑、寬度、或跨距)範圍能在大約10微米及大約1,000微米之間,類似於一圖像元件或超光線像素的大小範圍。
第 2B 圖
中,圖200b顯示光場顯示器210的另一例子,其描繪具有如上述之對應光轉向光學元件215的圖像元件220之陣列的一部份的放大圖。間距230能代表圖像元件220之間的間隔或距離,且能大約是光轉向光學元件215的大小(例如微透鏡或小透鏡的大小)。
在此例中,第2B圖中的光場顯示器210能為4K光場顯示器,具有圖像元件或超光線像素220的2,160 × 3,840陣列。在此情況中,對於大約1.5公尺或大約5英呎的觀看者距離而言,光轉向光學元件115的大小能為大約0.5毫米。這樣的大小能與大約1弧分(arc-minute)每圖像元素的人類視力一致。此例中的觀看者視野(FOV)能小於由該圖像元件提供的視角(例如視角>FOV)。此外,此例中之4K光場顯示器提供的多個視圖能有4毫米的間隔,與人類瞳孔的直徑一致。此能轉化成光轉向光學元件215將具有(例如)312個發光元件225的圖像元件220所產生的輸出光轉向。依此,此例中的4K光場顯示器能提供隨光場相位的連續視差。具有8K或更大尺寸的光場顯示器可提供類似結果。
第 2C 圖
中的一圖200c顯示一光場顯示器(例如光場顯示器210)之一部分的截面圖,以例示在本揭示案中針對當第1A圖中之顯示器110經配置成光場顯示器時所說明的一些結構性單元。例如,圖200c顯示三個相鄰圖像元件或超光線像素220a,各具有一對應的光轉向光學元件215。在此例中,光轉向光學元件215能被認為與圖像元件220a分開,但在其他實例中光轉向光學元件215能被認為是圖像元件之部分。
如第2C圖中顯示,各圖像元件220a包括多個發光元件225(例如多個子光線像素),其中具不同類型的數個發光元件225(例如數個子光線像素)能被分組成為群組260(例如成為一光線像素)。一組光線像素能製造對一特定射線元素(射線)205(如中間圖像元件220a中的最右邊光線像素群組所表示者)做出貢獻的各不同組分。將理解,由不同圖像元件中不同的光線像素群組產生的射線元素205能對遠離光場顯示器之觀看者所感知的視圖做出貢獻。
第2C圖中所述的額外結構性單元是子圖像元件270的概念,其代表圖像元件220a具有相同類型(例如產生相同顏色的光)的發光元件225的群組。
對於一光場顯示器,能利用一或更多顯示器處理電路系統130來處理或修改被用以驅動圖像元件220中之發光元件225或發光元件群組260的內容或資料。依此,以上結合第1A~1C圖所述的各種架構性特徵能與以上結合第2A~2C圖所述的架構性特徵結合,以提供具光場性能的加強型顯示器。在此方面,顯示器處理電路系統130可經配置以產生於超光線像素層級(圖像元件220)、於光線像素層級(發光元件群組26)、及/或於子光線像素層級(發光元件225)的適當資訊。即,顯示器處理電路系統130可經配置以接收資料串流及修改該資料串流,同時進行一或更多任務,而經修改資料串流可用以提供信號或其他指令至背板150和像素陣列151,使得陣列中的像素(無論是超光線像素、光線像素、還是子光線像素)接收適當的信號或指令,以貢獻產生該光場顯示器之一個或多個所欲視圖所需要的射線元素或射線205。
第 2D 圖
顯示一圖200d,其描繪在光場顯示器(像是顯示器210)中顯示器處理電路系統130與背板150之間的整合範例。如所示,顯示器處理電路系統130經耦合至一或更多背板150,該一或更多背板轉而經耦合至一或更多像素陣列151。
圖200d中的一或更多像素陣列151可包括方向性像素。此外,一或更多像素陣列151中像素的不同子集合經配置以貢獻朝不同方向導引的光。即,一或更多像素陣列151中的像素經配置以在一或更多方向中貢獻不同顏色的光及不同強度的光。
一或更多像素陣列151可包括一或更多層(未圖示),其中各層包括光產生元件(參見例如發光元件225)、光吸收元件、光反射性元件、光透射性元件、光修飾元件、或光學元件中的一或更多者。該等光學元件包括透鏡、光學屏障、波導、光纖、可切換光件、方向性修飾元件、偏振修飾元件、或分光元件中之一或更多者。
顯示器處理電路系統130可包括下列之一或更多者:應用特定積體電路(ASIC)、現場可程式化閘陣列(FPGA)、可程式化積體電路、中央處理單元、圖形處理單元、張量處理單元、神經網路積體電路、視覺處理單元、或神經形態處理器。換言之,顯示器處理電路系統130可包括某種形式的電子硬體。在一些實施方式中,顯示器處理電路系統也可包括已儲存指令,以按照策略及所選操作模式來操作電子硬體。該些指令在軟體、韌體、或兩者的形式中。可有實施方式中顯示器處理電路系統130在沒有已儲存指令之下操作。例如,操作的邏輯可經內建至ASIC或FPGA中,神經網路晶片可讓其邏輯實施在一ASIC或FPGA中且儲存其權重,但不需要指令。
第 2E 圖
顯示一圖200e,其描繪按照本揭示案的態樣顯示器處理電路系統130在背板150上之分佈的範例。例如,顯示器處理電路系統130中的電子硬體包括空間上跨於一或更多背板150分佈的電晶體層級電路系統。在一些實施方式中,跨於一或更多背板150分佈的電晶體層級電路系統形成在與背板150之電路配置的電晶體層級電路系統相同的一基板上(參見例如第2D圖之圖200d中形成在背板150中的顯示器處理電路系統130之部分280)。
圖200e顯示出顯示器處理電路系統130中的電子硬體可包括多個離散積體電路(IC)單元285,該等IC單元在空間上跨於該背板分佈,其中各IC單元285可關聯於該像素陣列的一子集合。在一些情況中,該些IC單元經配置以進行相同功能。其他情況中,該些IC單元經配置以進行不同功能。
在另一實施方式中,顯示器處理電路系統130中的電子硬體可包括在空間上跨於一或更多背板150分佈的多個IC單元285,並也可包括也在空間上跨於該一或更多背板150分佈的電晶體層級電路系統。
顯示器處理電路系統130中的電子硬體可經實施成電路的階層結構,其藉以下方式將處理任務獨立:空間上、角度上、時間上、藉由隨機分佈、藉由到達順序、藉由關聯於該一或更多個資料串流的某些其他順序、或藉由以上之組合。可同時地處理、循序地處理、或以上兩者在電路的階層結構中獨立的處理任務。圖200e顯示具有較高階的一階層結構,其可利用一IC單元來實施,而經顯示的較低階乃利用IC單元285中一或更多者來實施。將理解此僅供作為例示性範例,而針對顯示器處理電路系統130之階層式安排的其他實施方式也是可行的。
第 3 圖
顯示描繪一範例處理管線的一圖300,該處理管線用於處理在一顯示器中使用之資料。該處理管線能包括一內容主機管線310,該內容主機管線包括能由一處理主機進行的任務範例,該處理主機像是(例如)主處理器155(或來源120的某部分)。該處理管線也能包括一顯示器側管線330,該顯示器側管線包括能由一顯示器中之一處理引擎進行的任務範例,該處理引擎像是(例如)顯示器110中的顯示器處理電路系統130(或多個顯示器處理電路系統130)。儘管該範例顯示出該處理管線***成由處理主機進行的任務和在顯示器側進行的任務,但在該處理主機被整合至顯示器中之時則整個處理管線能在顯示器側上進行。
內容主機管線310能包括一或更多任務。在此例中,內容主機管線310能可選地包括一渲染/擷取315及/或一資料壓縮320,以上能由主處理器155進行。如上所述,主處理器155能串流來自電影或RGBD攝影機的RGBD資料,或能渲染來自電腦生成內容的RGBD資料。類似地,主處理器155能進行資料壓縮操作,以能夠經由HDMI/DP連接將資料串流125中的內容/資料發送至顯示器處理電路系統130。
當內容主機管線310是在顯示器側進行時,顯示器處理電路系統130能利用數種架構中之一者來進行任務。在一例中,顯示器處理電路系統130可利用具有多個權重的一唯一集合來實施及執行一或更多神經網路(參見例如第5A及5B圖)以進行該些任務。在一些情況中可實施及執行單一神經網路,同時在其他情況中可實施及執行多個神經網路。
顯示器側管線330能包括一或更多任務。在此例中,顯示器側管線330能可選地包括內容分類340、對應350、內插/超解析度360、及/或顯示重映射370。此外,顯示器側管線330也能包括使用者追蹤380,其能用以提供回饋給內插/超解析度360及顯示重映射370中任一者或兩者。
將理解儘管內容主機管線310及顯示器側管線330中圖示之不同任務乃以特定順序或序列描述,但相同任務(或相同任務中的子集合)可以在與圖300中所示不同的順序或序列來進行。此外,所圖示任務中各者可為可選擇性的,使得內容主機管線310及顯示器側管線330可包含比圖300中所示更少的任務。此外,圖300經提供作為例示而非限制。如以下將更詳細說明的,也可進行與圖300中所示不同的任務,且這些不同的任務可包括圖330中所述任務的態樣或特徵,及/或可除了圖300中所述任務之部分以外利用該些不同的任務。例如,可在以下更詳細描述的多重轉換任務中使用內插/超解析度360的態樣。
回到顯示器側管線330,內容分類340能提供維度降低以分類個別像素、二維(2D)特徵、三維(3D)特徵、影像類型、或以上之組合。在一例中,內容分類340提供基於一或更多準則對來自一來源(例如來源120)之內容(例如內容/資料125)的分類,而此種分類能用來識別出與分類之結果一致的一適當處理操作。在一些實施中,內容分類340可識別出實現影像處理之編輯(剪輯)、打光、攝影機取景(特寫/廣角)或內容之類型(體育活動、影片、桌面處理、遊戲等)等高階特性,或低階影像特徵。在一例中,當顯示器處理電路系統130利用神經網路時,顯示器處理電路系統130能經配置以回應於該分類動態地加載具多個權重的一唯一集合,該唯一集合來自儲存在顯示器之記憶體(例如記憶體135)中的具多個權重的不同集合。此外,顯示器處理電路系統130能接著利用具多個權重的該唯一集合實施及執行一或更多神經網路(參見例如第5A及5B圖)。在一些情況中,可實施及執行單一神經網路,同時在其他情況中可實施及執行多個神經網路。
上述的內容分類340可包括下列之一或更多者:藉由應用(例如遊戲、文書處理、體育活動、遠距會議、等等)來分類內容、藉由主體(人類、文字、風景、室內、戶外、等等)來分類內容、基於估計深度來進行分類、運動、進行對場景參數(例如打光、攝影機、幾何)的估算/分類、及進行對場景剪輯(例如因變化幅度、強度、運動所致)的估算。場景估算結合內容分類但也關於一般的深度/3D估算。若各圖框未經隔開處理則深度的估算穩健非常多,但利用額外的資訊去填補破洞、從運動估計深度、減少雜訊、等等。在一些應用(像是文書處理)中,傾向以2D文字為大多數 – 在此情況中內容將最可能藉由聚焦在空間解析度、對比度、及可讀性上,以對在顯示平面上之觀看最佳化。遠距會議傾向聚焦在人體上,其中捕捉眼部及口部細節是最重要的。像是遊戲或體育活動之其他應用將更為動態且具有更大範圍之內容用於分類之目的。實作上在一特定資料類別(例如臉部、體育活動、文字)上訓練一神經網路,並在執行時間基於被處理之資料來切換該神經網路所需的權重,將是可行的。
對應350能進行以得到立體匹配或光流中一或更多者。內插/超解析度360能進行以得到2D對3D轉換或低動態範圍對高動態範圍(LDR對HDR)轉換中一者或兩者。在一些實施中,對應350及內插/超解析度360能跨於空間維度、時間維度、或角維度中一或更多者。
在其中所接收的內容/資料不直接映射到顯示器的性能的情況中,顯示重映射370能進行強度重映射、亮度重映射、解析度重映射、長寬比重映射、顏色重映射、或內容深度重映射中之一或更多者。
顯示重映射370能進行深度重映射,該深度重映射提供對內插/超解析度360之內插部分中之神經網路實施中所用權重的調整,以利用一或更多個感知度量(例如使用者追蹤380所提供的感知度量)將影像強度及視差彎曲(warp)而調適在顯示深度預算之內。
另一態樣中,顯示重映射370能進行深度重映射或視差重映射,深度重映射在可取得深度資訊時(例如該內容或資料包括深度資訊)適用,視差重映射在無法取得深度資訊時適用。結合包括立體影像或立體視訊的內容或資料能使用視差重映射。在一實施中,視差重映射能被轉換成深度資訊,在此情況中可進行深度重映射作為轉換視差重映射的結果。
相對於深度重映射,當內容被置放靠近實體顯示器的平面時,光場顯示器能以最高解析度及準確度呈現3D內容。逐漸往顯示平面後方、或逐漸到顯示器前方的內容,僅能以減少的解析度及準確度來代表及顯示。若將被顯示之場景的局部遠離該顯示平面,其往往顯得模糊。深度重映射的程序牽涉修改場景的3D結構,使得該場景的局部被移動更接近顯示平面。一些達成此的方式包括移動整個場景或該場景內之相應物件、統一地縮放場景或物件的大小、僅縮放場景或物件之深度方向、或針對整個場景或該場景之局部應用非線性空間轉換。
顯示重映射370可基於一或更多重映射參數,該一或更多重映射參數乃關聯於顯示器的參數或顯示器的性能或以上兩者,且該顯示器的參數或該顯示器的性能或以上兩者包括空間解析度、角解析度、動態範圍、或視野中之一或更多者。換言之,當進來的內容或資料不符合於空間解析度、角解析度、動態範圍、及/或視野(或顯示器的其他類似參數或性能)之內,可進行顯示重映射360以更好地將內容或資料適應於該顯示器之物理性及效能限制。
當顯示器處理電路系統130用以實施及執行一或更多神經網路來進行顯示器側管線330中的任務時,顯示器處理電路系統130可實施及執行一個神經網路來進行顯示重映射370和一或更多個額外的神經網路來進行顯示器側管線330中之其他任務的任意者或全部。
另一態樣中,顯示器處理電路系統130能實施及執行單一神經網路來進行內容分類340、內插/超解析度360、和顯示重映射370。藉由利用單一神經網路,這些任務全部能經結合成為一單一神經網路操作,而非作為獨立的且循序的神經網路操作來進行。
使用者追蹤380提供對運算資源及感知度量的最佳化,以得到期望的觀看位置,且可為基於感測器反饋的(舉例來說)。
鑒於所能進行之可能任務的廣泛範圍,本揭示案提出利用神經網路以供在顯示器上的影像及視訊處理(即,在來自CPU/GPU或一些其他來源的資料轉移之後)。神經網路已對於各式各樣應用展現了在電腦視覺及攝影機為中心之任務中對影像處理的最先進品質,但這些技術尚未用於顯示器為中心的(display-centric)處理。依此,本揭示案提出利用神經網路來在顯示器上進行本文中所述的數個特定任務。這些特定任務或演算法將被實施在顯示器、顯示器處理電路系統130上的一專屬處理器上,其也能被稱為PU(處理單元)或顯示器處理單元(DPU)。藉由利用本文所述的顯示器為中心的任務,可以節省頻寬而從來源120(例如CPU 165/GPU 160)向顯示器110傳輸盡可能少的內容/資料。
如以上有關第1B及1C圖所述,能安裝或整合一或更多顯示器處理電路系統130在顯示器110或多個顯示器110上,其中這些顯示器處理電路系統130能為可程式化的,且在一些情況中可提供硬體加速,包括針對特定架構的硬體加速(像是針對神經網路特定運算)。當利用一神經網路架構時(其中顯示器處理電路系統130也可利用固定函數邏輯信號處理架構或可程式化管線架構),顯示器處理電路系統130可為一客製化設計之晶片或者其可為利用一通用神經網路加速器(例如谷歌(Google)的Tensor處理單元或英特爾(Intel)的Movidius晶片)所實施。另一例中,顯示器處理電路系統130能經實施在現場可程式化閘陣列(FPGA)、數位信號處理器(DSP)、ARM處理器、或GPU中(舉例來說)。在這些情況之任意者中,顯示器處理電路系統130可用於顯示器為中心的影像或視訊處理,包括本文中所述各種任務(包括內容主機管線310及/或顯示器側管線330中的任務)及/或其他顯示器相關任務。
第 4 圖
顯示一方塊圖400,描繪顯示器110中顯示器處理電路系統130之架構的例子(以下第8圖說明用於顯示器處理電路系統130的另一架構)。顯示器處理電路系統130能包括一輸入組件410、一處理組件420、及一輸出組件430。輸入組件410經配置以接收來自一來源的內容(例如來自來源120之一或更多資料串流125中的內容/資料或其他資訊)。處理組件420經配置以實施及執行一或更多神經網路以進行一組任務,該組任務修改資料串流125以產生經修改資料串流450,其具有用於由顯示器110呈現的資料及/或發信。該一或更多神經網路能包括卷積神經網路。卷積神經網路由一或更多卷積層組成。卷積神經網路也可包括一或更多下取樣層。可選擇地,該些卷積層及/或子取樣層能跟著完全連接層。卷積神經網路能用以進行相關聯的2D、3D、4D、或5D卷積操作(舉例來說)。
當一或更多資料串流125包括一影像時(舉例來說),對一或更多資料串流125的修改能由處理組件420選擇性地在整個影像上或在該影像之一或更多部分上進行。
處理組件420能包括一處理引擎425,其致能一或更多神經網路的實施。在一例中,處理引擎425包括一可動態配置的組構(fabric),藉該組構來基於不同的權重集合實施不同神經網路配置。不同配置可具有不同個數目的層、節點、及/或權重。該些神經網路利用儲存在顯示器記憶體135中的權重而實施在處理組件420及/或處理引擎425中並經提供給顯示器110。輸出組件430經配置以提供經修改內容(例如經修改資料串流450)至顯示器110中的相應背板150及像素陣列151。
如上所述,顯示器處理電路系統130(及處理引擎425)能在操作之前及/或操作期間經動態地程式化或配置。如此,顯示器處理電路系統130能包括一配置組件440,其按照將由顯示器處理電路系統130進行的各種任務來配置處理組件420及/或處理引擎425。在一態樣中,配置組件440能從顯示器記憶體135接收或獲得一或更多個神經網路權重之集合,並將該些權重儲存在一內部記憶體結構中,像是可程式化權重組件445。可程式化權重組件445中的權重能用以將不同神經網路配置程式寫入在處理組件420及/或處理引擎425中。
在一態樣中,配置組件440可自輸入組件410接收關聯於資料串流125的資訊。配置組件440可自輸出組件430接收關聯於經修改內容/資料450的資訊。配置組件440可基於其接收的資訊來決定針對一特定任務(或一特定任務集合)使用哪一個權重集合。換言之,配置組件440可利用輸入資訊及/或輸出資訊來決定條件式準則,以決定針對某些任務所使用的最適當權重集合(以及因此最適當的神經網路配置)。例如,為了由顯示器110之呈現而由處理組件420對資料串流125之修改或處理可至少部分地基於內容本身、經估計顯著性、或感知度量(例如來自一或更多感測器155)。關於顯著性,顯示器處理電路系統130的一態樣會將壓縮/顯示之假影最小化,該些假影可能導致虛假的顯著性提示(像是在低位元率之JPEG壓縮中的直邊區塊),這可能吸引對自身的注意。
處理組件420經配置以進行一或更多任務,包括以上有關第3圖中圖300中之顯示器側管線330所述之任務,還有以下描述之任務的一或更多者。
例如,處理組件420(因此還有顯示器處理電路系統130)能經配置以進行影像視訊超解析度(例如作為內插/超解析度360之部分或某個其他任務)。影像及視訊超解析度可指將單一2D影像、視訊、或多個影像或視訊作為輸入,藉由生成單一高解析度影像或一高解析度視訊作為輸出來改善此資料之解析度或像素數的技術。在輸入影像或視訊具有比顯示器更低之解析度時需要此技術。現存顯示器可針對超解析度應用利用簡單的演算法(像是線性或三次上取樣)。然而,藉由利用神經網路技術,可使用更廣泛範圍的演算法。此外,藉由應用自大量訓練資料集合所學習到的自然影像統計數字,神經網路能表現優於簡單的內插。神經網路可以經獨立地訓練,例如在低解析度/高解析度組對、或對應的RGB、RGBD、立體、光場資料上。用於訓練的資料可以是合成的或經記錄的。也可以藉由將多個任務併入單一網路中來訓練整個網路。
另一例中,處理組件420(因此還有顯示器處理電路系統130)能經配置以進行低動態範圍對高動態範圍(LDR對HDR)影像及視訊轉換。習用的影像及視訊內容乃利用每顏色通道8位元( 即,對紅色、綠色、及藍色通道之各者有8個位元)來數位編碼。新興的高對比度或高動態範圍顯示器(例如具有高對比度或高動態範圍性能的顯示器110)在每個顏色通道需要更多位元,以正確地編碼該顯示器所能定址的亮度/顏色/強度值範圍。沒有足夠的位元深度,強度/顏色假影將是可觀察到的,像是輪廓。能產生高動態範圍影像及視訊(常見藉每通道10、16、或32個位元來編碼) ,但此格式的內容目前少見且不是全部的顯示器資料通訊標準支援這些資料格式。已有提出一些演算法用於將舊式低動態範圍影像或視訊轉換成高動態範圍影像或視訊以供影像及視訊處理,但這些演算法有其限制。藉由利用實施在處理組件420中的神經網路,可以直接在顯示器上進行廣大範圍的顯示器為中心之LDR到HDR操作。該些演算法的輸入將是單一低動態範圍影像、多個低動態範圍影像、或是低動態範圍視訊,而輸出將是單一高動態範圍影像或視訊。
另一例中,處理組件420(因此還有顯示器處理電路系統130)能經配置以從單一影像或視訊進行深度估算。光場或免眼鏡3D顯示器通常需要3D影像內容(例如,具有深度資訊的影像或視訊或是光場影像或視訊)作為輸入。舊式2D影像或視訊通常不提供此資訊。處理組件420可經配置以利用顯示器上的神經網路,把單一2D影像或視訊作為輸入來針對每個圖框估算此影像或視訊的深度資訊。輸出因此是一深度圖或有深度資訊的視訊,對攝影機或觀看者給出用於各像素的距離。此深度資訊能夠接著直接被利用或進一步處理用於光場合成。
另一例中,處理組件420(因此還有顯示器處理電路系統130)能經配置以自單一影像或視訊進行光場合成。一光場顯示器實際地定址光線或光線束(參見例如第2C圖中的射線205),其目的在顯示多個不同影像到該顯示器的不同方向中。此允許由一或多個使用者對內容的免眼鏡3D觀看,或者其也能允許使用者容許(例如聚焦)其眼部到不同距離而不僅是顯示器的實際距離,或者其能允許矯正使用者的視覺缺陷(例如近視、遠視、老花眼、或其他光學像差的處方矯正)。
光場包含在顯示器之表面上變化的強度及顏色資訊(例如像素,像是在正常顯示器中),但對各像素該光場也包含方向性資訊。即,顯示器像素能夠發出不同強度或顏色到不同方向中。如第2A~2C圖中顯示,光場顯示器能具有圖像元件220(超光線像素)、發光元件群組260(光線像素)、及發光元件225(子光線像素)。光場顯示器可針對個別發光元件225、發光元件群組260、及圖像元件220來控制該不同強度或顏色到不同方向中。
光場能是藉專屬光場攝影機錄下的或是電腦生成的。然而,大部分現存內容無法以光場格式取得。處理組件420能經配置以利用顯示器上的神經網路,把一2D影像或視訊作為輸入且直接從其計算光場影像或視訊。此可利用神經網路直接完成,或者分成多個階段,其中各階段可利用一神經網路或另一演算法。這些階段能包括下列操作中一或更多者(但不限於此):(a)自單一影像或視訊的深度估算(如上述),(b)視圖彎曲或基於深度的影像彎曲,(c)破洞填補,(d)顏色或強度處理,或(e)視圖交錯。
另一例中,處理組件420(因此還有顯示器處理電路系統130)能經配置以從影像和深度或視訊和深度來進行光場合成。類似於上述概念,然而不是把2D影像或視訊作為輸入並輸出光場,而是處理組件420能經配置以藉由把具有深度資訊之單一2D影像、具有深度資訊之多個2D影像、或具有深度資訊之3D視訊之任一者作為輸入,並輸出一光場影像或視訊,利用神經網路於光場合成。這些階段可相同或類似以上在請求項4中所述者,但自單一影像或視訊的深度估算不一定是必需的,因為已提供、先前已計算、自GPU串流或已由應用提供該資訊。
另一例中,處理組件420(因此還有顯示器處理電路系統130)能經配置以自立體影像或視訊進行光場合成。此再次類似上述概念,但此情況中不是把2D影像或視訊抑或具有深度資訊的2D影像或視訊作為輸入,處理組件420能經配置以藉由把影像或視訊的立體像對作為輸入來將神經網路用於光場合成。此類型的內容廣泛地可取得以供立體顯示器利用,其中各影像對編碼分別針對使用者之左眼及右眼的影像。將此類型內容轉換成光場的必要步驟可包括立體影像對深度之轉換並接著(b)視圖彎曲或基於深度的影像彎曲,(c)破洞填補,(d) 顏色或強度處理,及/或 (e) 視圖交錯,抑或從立體影像直接的光場視圖合成並接著(c)破洞填補,(d)顏色或強度處理,及/或(e)視圖交錯。替代地,此轉換能利用一神經網路來在單一步驟中完成。
另一例中,處理組件420(因此還有顯示器處理電路系統130)能經配置以進行對視訊運動及形狀的時間追蹤。藉由追蹤該視訊中跨於圖框的運動能進一步改善影像品質。能利用此資訊來將時間圖框率上取樣,以用於具有高刷新率的顯示顯示、減少壓縮假影、或填補3D破洞(例如破洞填補)。對於3D或光場資料,追蹤演算法可運用2D與3D深度特徵兩者來建立更準確的時間對應關係。對應特徵的偵測及內插也可運用基於神經網路的架構。
另一例中,處理組件420(因此還有顯示器處理電路系統130)能經配置以進行光場視圖之交錯以及光場強度和顏色處理。處理組件420能進行顯示器為中心的、基於神經網路的光場處理,其可包括強度或顏色處理、白平衡、視圖交錯、顯示面板中之微光件的漸暈校正、色調映射、或其他特定於顯示面板之處理。
另一例中,處理組件420(因此還有顯示器處理電路系統130)能經配置以藉使用者、頭部、或眼部追蹤(例如藉由利用感測器155)來進行特定於觀看者的或注視伴隨的處理。上述處理任務之各者,還有以下將更詳細描述的任務,也可受惠於知道使用者的特定位置、頭部定向、或注視方向。例如,若相對於顯示器的使用者位置或是使用者注視方向為已知,則可加速或在品質上改善全部的3D影像處理。使用者位置、頭部定向、或注視方向可藉利用一或更多攝影機或其他感測器來估計。臉部偵測及/或使用者偵測也可充分利用神經網路處理。
此外,處理組件420能進一步經配置以從顯示器110中的一或更多感測器155接收資訊,其中該資訊包括顯示環境的亮度或顏色中一或更多者,且其中該資訊能結合進行修改資料串流125以產生經修改資料串流450供顯示器110所呈現的該組任務。
回到第4圖,能利用處理組件420中的處理引擎425來實施及執行顯示器處理電路系統130所用來進行本揭示案中所述各種任務的該一或更多神經網路。分別在第 5A 及 5B 圖
中的圖500a及500b描繪在處理引擎425內實施及執行的神經網路範例。這些神經網路之範例,以及其變化型,也可藉以下結合第8圖所述顯示器處理電路系統130的架構來實施。在一實施方式中,處理引擎425能包括一可程式化神經網路組構510,其為可動態配置的或藉由利用不同的神經網路權重集合(從例如第4圖中所示配置組件440中的可程式化權重組件445)可程式化的。
一般而言,神經網路將一輸入(可為一組數字)連接至一或更多互連層,而最終連接到一輸出層。對一層的輸入能來自前一層,或是某個其他的較早層(跳過或殘餘連接)、或較晚層(遞歸連接)。輸入能經可選擇地乘以數值權重。經可選地加權的輸入的總和可被傳遞至一非線性活化層,像是sigmoid函數或整流線性單元(rectified linear unit,ReLU)。可能有一可選匯集層,其將數個值合併成為單一值,例如藉由取輸入的一最大值或最小值、或藉由將該等輸入加總、或藉由將該等輸入平均來合併。一層處可能有一或更多輸出,各具有其自身的權重集合、非線性(non-linearities)集合、及匯集(pooling)集合。
圖500a顯示兩個神經網路配置之範例,其能在可程式化神經網路組構510中實施及執行。
在一例中,顯示第一神經網路配置(配置1 515),其包括一輸入層、一第一中間層(隱藏層1)、一第二中間層(隱藏層2)、及一輸出層。這些層各能包括一或更多節點,在圖500a中藉由用於各相應節點的一個圓來表示。例如,輸入層有三(3)個節點,隱藏層1有四(4)個節點,隱藏層2有四(4)節點,及輸出層有三(3)個節點。被可程式化神經網路組構510使用以實施此配置的特定權重集合建立了在各層中的節點數以及在一層中之一(或多)個節點與另一層中之一(或多)個節點之間的關係。這些關係在圖500a中藉由以連接獨立層中之任意兩個特定節點的直線表示。
另一例中,圖示一第二神經網路配置(配置2 520),其包括一輸入層、一第一中間層(隱藏層1)、一第二中間層(隱藏層2)、一第三中間層(隱藏層 3)、及一輸出層。這些層能各包括一或更多節點。例如,輸入層有四(4)個節點,隱藏層1有六(6)個節點,隱藏層2有四(4)個節點,隱藏層3有三(3)個節點,而輸出層有一(1)個節點。被可程式化神經網路組構510使用以實施此配置的特定權重集合建立了在各層中的節點數以及在一層中之一(或多)個節點與另一層中之一(或多)個節點之間的關係。依此,用以實施配置1 515的權重集合不同於被用以實施配置2 520的權重集合。
圖500b顯示另一範例,其中可程式化神經網路組構510能用以實施及執行超過一個神經網路。在此例中,圖示了兩個神經網路配置,配置3 525a及配置4 525b,該些神經網路配置能經實施在可程式化神經網路組構510中。僅為例示之目的,配置3 525a及配置4 525b類似於圖500a中的配置1 515;然而,所能實施及執行的配置與配置個數能有變化。此外,配置3 525a及配置4 525b能經並行地實施而循序地進行或執行(例如先進行配置3 525a,而提供其輸出作為其次執行之配置4 525b的輸入),或者該等配置能循序地實施及執行(例如先實施及執行配置3 525a,而儲存及提供其輸出作為給其次實施及其次執行的配置4 525b的輸入)。當待實施之神經網路個數大於二(2)時可使用類似做法。
提供第5A及5B圖中顯示之範例作為例示而非設限,且在可程式化神經網路組構510中能實施及執行許多不同神經網路配置。即,一特定神經網路配置中所需要的一層中的節點數及層數(即,所使用的權重集合)可按照進行的任務及用於進行該任務的條件而變化。此外,能循序實施及執行的神經網路的個數及大小(例如層數及/或每層的節點數)能依可程式化神經網路組構510的性能而定。例如,若可程式化神經網路組構510能支援大型神經網路配置,則多個任務可結合成為單一或數個神經網路。另一方面,若可程式化神經網路組構510能支援具受限大小的神經網路配置,則不同任務可經分開且利用相應的神經網路配置來獨立地及循序地實施。
第5A及5B圖中圖500a及500b的另一態樣中,各神經網路配置能包括不同類型的層及/或連接。例如,一配置可能包括至少一個卷積層、至少一個完全連接層、至少一個非線性活化層、至少一個匯集層、至少一個上取樣層、至少一個下取樣層、至少一個跳過或殘餘連接、至少一個密集連接、或至少一個反饋連接。
在可程式化神經網路組構510中且由其實施及執行的神經網路另一態樣中,當資料串流125中正被處理的內容/資料或其他資訊包括時間視訊內容時,該一或更多神經網路能包括遞歸神經網路,其在時間視訊內容之圖框之間維持部分資訊。
在可程式化神經網路組構510中且由其實施及執行的神經網路又另一態樣中,當資料串流125中正被處理的內容/資料或其他資訊包括時間視訊內容時,該一或更多神經網路能包括板載(on-board)網路,該板載網路至少部分地用該時間視訊內容所訓練。
在可程式化神經網路組構510中且由其實施及執行的神經網路又另一態樣中,可以基於最近圖框即時修改或改變正被使用之權重的一或更多者,以將一或更多神經網路針對當前場景內容作調適。在此情況中,經調適神經網路可進行的任務類型可包括內插、超解析度、或以上兩者,且內插任務可能包括空間內插、角度內插、或時間內插中一或更多者。
在可程式化神經網路組構510中且由其實施及執行的神經網路又另一態樣中,當資料串流125中的內容/資料或其他資訊包括多個圖框時,則由該一或更多神經網路所進行的該組任務能包括藉由隨時間合併及對齊該多個圖框來對一場景的一持久3D模型的估算。
在可程式化神經網路組構510中且由其實施及執行的神經網路又另一態樣中,當資料串流125中的內容/資料或其他資訊包括多個圖框時,則由該一或更多神經網路所進行的該組任務能包括藉由隨時間合併來自該多個圖框的視覺細節來估算一場景的較高解析度模型。
在可程式化神經網路組構510中且由其實施及執行的神經網路又另一態樣中,當資料串流125中的內容/資料或其他資訊包括視訊時,處理組件420中的處理引擎425能經配置以藉由測量在該視訊中之場景內容或視圖中之一或兩者中所發生的一視覺變化幅度,來偵測該視訊中之剪輯或跳躍中之一者或兩者。可基於對該視訊中之剪輯或跳躍的偵測而調適或改變可程式化神經網路組構510中之一或更多神經網路。
在可程式化神經網路組構510中且由其實施及執行的神經網路又另一態樣中,當資料串流125中的內容/資料或其他資訊包括多個場景時,則該一或更多神經網路經配置以在短期記憶體中維持關聯於來自該內容之最近顯示之場景的特徵、權重、或資訊中之一或更多者。短期記憶體可經實施在顯示器處理電路系統130的任何組件中,且在一些情況中,在處理組件420內或在處理組件420中的處理引擎425內。
第 5C 圖
顯示一方塊圖500c,其描繪處理引擎425的一例。除了可程式化神經網路組構510之外,處理引擎425能可選地包括一通用內容修改組件530,其經配置以致能及控制以上結合顯示器側管線330所述的任務。例如,能利用通用內容修改組件530來致能及執行可程式化神經網路組構510中之不同神經網路配置的實施及執行,以進行以上結合第3圖中之圖300所述之內容分類340、對應350、內插/超解析度360、顯示重映射370、或使用者追蹤380中之一或更多者的功能。在此方面,通用內容修改組件530能包括一內容分類535以藉可程式化神經網路組構510中之一或更多神經網路來協調內容分類340之功能的實施及執行的態樣、一對應540以藉可程式化神經網路組構510中之一或更多神經網路來協調對應530之功能的的實施及執行的態樣、一內插/超解析度545以藉可程式化神經網路組構510中之一或更多神經網路來協調內插/超解析度360之特徵的實施及執行的態樣、一顯示重映射550藉可程式化神經網路組構510中之一或更多神經網路來協調顯示映射370之功能的實施及執行的態樣、及/或一使用者追蹤555藉可程式化神經網路組構510中之一或更多神經網路來協調使用者追蹤380之功能的實施及執行的態樣。
處理引擎425也可選擇地包括一特定內容修改組件560,其經配置以致能及控制更特定的任務,像是以下結合第6A及6B圖更詳細說明者。
第 6A 及 6B 圖
分別顯示圖600a及600b,例示用於神經網路之不同可程式化權重的範例,該些權重經結合能由顯示器處理電路系統130進行之各不同任務而使用。
圖600a顯示能作為配置組件440之部分的可程式化權重組件445,且可程式化權重組件445能用以儲存不同任務的不同權重集合。接著將這些權重集合提供給處理組件420或由其存取,以供處理引擎425中之可程式化神經網路組構510用以實施及執行特定神經網路配置,來對顯示器處理電路系統130所接收之內容/資料進行各種顯示器為中心的任務。
在可程式化權重組件445的此例中,可選擇地有另一內容修改權重665,其可包括用以進行以上結合顯示器側管線330所述之任務中任一任務的神經網路權重。在此方面,處理引擎425中的通用內容修改組件530可利用另一內容修改權重665中的權重來致能並控制神經網路的實施及執行,以用於進行內容分類340(經由內容分類535)、對應350(經由對應540)、內插/超解析度360(經由內插及超解析度 545)、顯示重映射370(經由顯示重映射 550)、或使用者追蹤380(經由使用者追蹤555)中的一或更多者。
可程式化權重組件445可選擇地包括一特定內容修改權重605,其可包括用於下述指定或特定任務的神經網路權重。在此方面,處理引擎425中的特定內容修改組件560可利用特定內容修改權重605中的權重來致能並控制神經網路之實施及執行,以供進行這些其他任務的一或更多者。
在一些情況中,關聯於特定內容修改權重605的特定任務可包括相同或類似功能、該些功能的子集合、或上述任務(包括顯示器側管線330中的任務)之功能的一組合,且也可包括比上述任務之功能額外的或不同的功能。
在第一個特定任務範例中,涉及2D超解析度的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。該一或更多神經網路乃利用來自特定內容修改權重605中之2D超解析度610的一組權重所實施。
在此例中,來自來源120的資料串流125 包括2D影像或2D視訊,處理組件420所產生的經修改內容(例如經修改資料串流450)包括2D影像或2D視訊,該2D影像或2D視訊的解析度高於來自該來源之內容的解析度,而決定該些權重(例如來自2D超解析度610的一組權重)使得訓練該一或更多神經網路來對來自來源120的內容上取樣,以產生較高解析度。較高解析度包括比起來源120之資料串流125中的總像素數更高的總像素數,或者較高解析度包括比起來源120之資料串流125中之像素密度更高的像素密度。
在第二個特定任務範例中,涉及2D高動態範圍(HDR)的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。該一或更多神經網路乃利用來自特定內容修改權重605中之2D HDR 615的一組權重所實施。
在此例中,來自來源120的資料串流125包括2D影像或2D視訊,處理組件120所產生的經修改內容(例如經修改資料串流450)包括一2D影像或2D視訊,該2D影像或2D視訊於比來自該來源之內容的動態範圍的一較高動態範圍,且決定該等權重(例如來自2D HDR 615的一組權重)以使得訓練該一或更多神經網路以處理來自來源120的資料串流125,來產生該較高動態範圍。
在第三個特定任務範例中,涉及2D超解析度及HDR的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。該一或更多神經網路乃利用來自特定內容修改權重605中之2D超解析度及HDR 620的一組權重所實施。
在此例中,來自來源120的資料串流125包括2D影像或2D視訊,處理組件420所產生的經修改內容(例如經修改資料串流450)包括的2D影像或2D視訊比起來自來源120的內容/資料125之解析度和動態範圍而言在較高解析度及較高動態範圍,且決定該等權重(例如來自2D超解析度及HDR 620的一組權重)以使得訓練該一或更多神經網路以處理來自該來源的內容,來產生較高解析度和較高動態範圍。在一實施方式中,該一或更多神經網路能包括第一神經網路及第二神經網路,該第一神經網路產生較高解析度而該第二神經網路產生較高動態範圍,該第一神經網路及該第二神經網路為串接的(例如兩配置按順序使用)。在另一實施方式中,該一或更多神經網路包括單一神經網路來產生較高解析度及較高動態範圍。
在第四個特定任務範例中,涉及將紅-綠-藍三色(也稱為紅色、綠色、藍色或RGB)內容轉換成具有深度資訊之RGB(RGB+深度)內容的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。該一或更多神經網路乃利用來自特定內容修改權重605中之RGB對RGB+深度625的一組權重所實施。
在此例中,來自來源120的資料串流125包括RGB影像或視訊,處理組件420所產生的經修改內容(例如經修改資料串流450)包括具有深度資訊的RGB影像或視訊,而決定該等權重(例如來自RGB對RGB+深度625的一組權重)以使得該一或更多神經網路經訓練以處理來自來源120的資料串流125,來產生具有深度資訊的RGB影像或視訊。處理組件420能進一步經配置以實施及執行一渲染引擎,以在修改內容/資料125時處理具有深度資訊的RGB影像或視訊以供顯示器110呈現。深度資訊可為一或更多深度映射圖的形式。
在第五個特定任務範例中,涉及將具有深度資訊之RGB(RGB+深度)內容轉換至光場內容的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。本文中所述光場內容可指在光場顯示器(像是如上關於第2A~2C圖所述者)中使用的光場內容。依此,光場內容可包括用於圖像元件、發光元件群組、或發光元件(參見例如第2C圖)中之一或更多者的顏色及方向性資訊。該一或更多神經網路乃利用來自特定內容修改權重605中之RGB+深度對光場630的一組權重所實施。
在此例中,來自來源120的資料串流125包括具有深度資訊的RGB影像或視訊,處理組件420所產生的經修改內容(例如經修改資料串流450)包括具有三維(3D)場景的多個RGB視圖的光場或光場視訊,及決定該等權重(例如來自RGB+深度對光場630的一組權重),以使訓練該一或更多神經網路以處理來自來源120的資料串流125,來產生該3D場景的多個RGB視圖。能進一步經訓練此情況中使用的一或更多神經網路以處理來自來源120的內容/資料125,來產生該3D場景的多個RGB視圖以進行下列之一或更多者:視圖合成操作、破洞填補操作、超解析度操作、低動態範圍(LDR)對高動態範圍(HDR)操作(LDR對HDR操作)。
在第六個特定任務範例中,涉及將RGB內容轉換成光場內容的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。該一或更多神經網路乃利用來自特定內容修改權重605中之RGB對光場635的一組權重所實施。
在此例中,來自來源120的資料串流125包括一RGB影像或視訊,處理組件420所產生的經修改內容(例如經修改資料串流450)包括具有3D場景的多個RGB視圖之光場或光場視訊,而決定該等權重(例如來自RGB對光場635的一組權重)使得訓練該一或更多神經網路以處理來自來源120的資料串流,以產生該3D場景的多個RGB視圖。能進一步訓練該一或更多神經網路以處理來自來源120的內容/資料125,來產生包括深度資訊之經修改內容的中間結果。
在第七個特定任務範例中,涉及將RGB內容轉換成立體內容的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。該一或更多神經網路乃利用來自特定內容修改權重605中之RGB對立體640的一組權重所實施。
在此例中,來自來源120的資料串流包括RGB影像或視訊,處理組件420所產生的經修改內容(例如經修改資料串流450)包括立體影像或立體視訊,而決定該等權重(例如來自RGB對立體640的一組權重)使得訓練該一或更多神經網路以處理來自來源120的資料串流125,來產生立體影像或立體視訊。立體影像或立體視訊包括對一3D場景的兩個視圖。
在第八個特定任務範例中,涉及將具深度資訊之RGB內容轉換至立體內容的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。該一或更多神經網路乃利用來自特定內容修改權重605中之RGB+深度對立體645的一組權重所實施。
在此例中,來自來源120的資料串流125包括具有深度資訊的RGB影像或視訊,處理組件420所產生的經修改內容(例如經修改資料串流450)包括立體影像或立體視訊,而決定該等權重(例如來自RGB+深度對立體645的一組權重)使得訓練該一或更多神經網路以處理來自來源120的資料串流125,來產生立體影像或立體視訊。如上提及,立體影像或立體視訊包括3D場景的兩個視圖。
在第九個特定任務範例中,涉及將光場內容轉換成光場內容的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。該一或更多神經網路乃利用來自特定內容修改權重605中之光場對光場650的一組權重所實施。
在此例中,來自來源120的資料串流125包括光場或光場視訊,處理組件420所產生的經修改內容(例如經修改資料串流450)包括一經修改光場或光場視訊,其具有下列一或更多者:3D場景的額外RGB視圖(相較於來自該來源之內容中的RGB視圖數目)、比起該來源之內容之解析度的較高解析度、或比起該來源之內容的動態範圍的較高動態範圍,且決定該等權重(例如來自光場對光場650的一組權重)使得訓練該一或更多神經網路以處理來自來源120的資料串流125,來產生經修改光場或光場視訊。
在第十個特定任務範例中,涉及將立體內容轉換成光場內容的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。該一或更多神經網路乃利用來自特定內容修改權重605中之立體對光場655的一組權重所實施。
在此例中,來自來源120的資料串流125包括立體影像或立體視訊,經修改內容(例如經修改資料串流450)包括具有下列之一或更多者之光場或光場視訊:3D場景的額外RGB視圖(相較於來自該來源之內容中的RGB視圖數目)、比起該來源之內容之解析度的較高解析度、或比起該來源之內容的動態範圍的較高動態範圍,且決定該等權重(例如來自立體對光場655的一組權重)使得訓練該一或更多神經網路以處理來自來源120的資料串流125,來產生光場或光場視訊。
在第十一個特定任務範例中,涉及將具有深度資訊之光場(光場+深度)內容轉換至光場內容的一任務可藉由實施及執行處理引擎425(其為處理組件420之部分)之可程式化神經網路組構510中的一或更多神經網路來進行。該一或更多神經網路乃利用來自特定內容修改權重605中之光場+深度對光場660的一組權重所實施。
在此例中,來自來源120的資料串流125包括具有深度資訊的光場或光場視訊,處理組件420所產生的經修改內容(例如經修改資料串流450)包括具有下列之一或更多者之經修改的光場或光場視訊:3D場景的額外RGB視圖(相較於來自該來源之內容中的RGB視圖數目)、比起該來源之內容之解析度的較高解析度、或比起該來源之內容的動態範圍的較高動態範圍,且決定該等權重(例如來自光場+深度對光場660的一組權重)使得訓練該一或更多神經網路以處理來自來源120的資料串流125,來產生經修改的光場或光場視訊。深度資訊能包括下列之一者:針對該來源之內容中的一RGB視圖的深度資訊、針對該來源之內容中的多個RGB視圖的深度資訊、或針對該來源之內容中的全部RGB視圖的深度資訊。
來自這些特定任務之任意者(或上述其他任務之任意者)的態樣,能藉由利用適當的一組權重來結合,該組權重產生自對於將被用以進行所結合之態樣的對應神經網路的訓練。
第6B圖中的圖600b顯示對一特定任務而言如何從可取得的多組權重選出或識別出一組,以基於各種條件或準則來進行該任務。例如,顯示器性能中的限制、使用者操作上的改變(例如使用者追蹤)、或環境變化,可被用來決定將用以進行一特定任務的最佳權重集合。在圖600b中所示範例中,對於各特定任務可有a、…、n之可能的權重集合,從中能選出一組。權重集合的數目對各任務而言可不同,使得一任務可能有比另一任務更少或更多的權重集合。
第 7 圖
顯示一流程圖,描繪用於像是顯示器處理電路系統130之處理單元去處理一顯示器內之內容的方法700的例子。方法700的態樣可由顯示器處理電路系統130(例如第4圖中顯示者)進行,包括該顯示器處理電路系統的組件及次組件中一或更多者(像是輸入組件410、處理組件420、輸出組件430、處理引擎425、配置組件440、及/或可程式化權重組件445)。方法700也可由(例如)第8圖中顯示的顯示器處理電路系統130進行。
於710,方法700包括於該處理單元的一輸入組件(例如輸入組件410)處,接收來自一來源的內容(例如來自來源120之一或更多資料串流125的內容/資料或其他資訊)。
於720,方法700包括於該處理單元的一處理組件(例如處理組件420)處實施一或更多神經網路(參見例如第5A及5B圖),該一或更多神經網路經利用儲存在該顯示器之記憶體中的多個權重所實施(參見例如第4、6A、及6B圖)。
於730,方法700包括藉由執行該一或更多神經網路(例如處理組件420、處理引擎425)進行一組任務,該組任務修改用於由該顯示器展示的內容。
於740,方法700包括藉由該處理單元的一輸出組件(例如輸出組件430)提供經修改內容(例如在經修改一或更多資料串流450中的經修改內容/資料)至該顯示器中的一相應面板(例如給顯示器110中的相應背板150和像素陣列151)。
在方法700的一態樣中,該內容包括影像內容、視訊內容、或兩者。
在方法700的另一態樣中,進行該組任務的步驟包括修改該內容以增加2D影像或2D視訊的解析度。
在方法700的另一態樣中,進行該組任務的步驟包括修改該內容以增加2D影像或2D視訊的動態範圍。
在方法700的另一態樣中,進行該組任務的步驟包括修改該內容以增加2D影像或2D視訊的解析度及動態範圍。
在方法700的另一態樣中,進行該組任務的步驟包括修改具有RGB影像或視訊的該內容以產生具有深度資訊的RGB影像或視訊。
在方法700的另一態樣中,進行該組任務的步驟包括修改含有具深度資訊之RGB影像或視訊的該內容以產生具有一3D場景之多個RGB視圖的光場或光場視訊。
在方法700的另一態樣中,進行該組任務的步驟包括修改含有具有RGB影像或視訊的該內容以產生具有一3D場景之多個RGB視圖的光場或光場視訊。
方法700的又另一態樣中,進行該組任務的步驟包括修改具有光場或光場視訊的內容以產生經修改光場或光場視訊,該經修改光場或光場視訊包括下列之一或更多者:相較於內容中之RGB視圖數量增加的3D場景之RGB視圖、比該內容之解析度更高的解析度、或者比該內容之動態範圍更高的動態範圍。
在方法700的又另一態樣中,進行該組任務的步驟包括修改具有RGB影像或視訊的內容以產生立體影像或立體視訊。
在方法700的又另一態樣中,進行該組任務的步驟包括修改含有具深度資訊之RGB影像或視訊的內容以產生立體影像或立體視訊。
在方法700的另一態樣中,進行該組任務的步驟包括修改具有立體影像或立體視訊的內容以產生光場或光場視訊,該光場或光場視訊包括下列之一或更多者:相較於內容中之RGB視圖數量增加的3D場景之RGB視圖、比該內容之解析度更高的解析度、或者比該內容之動態範圍更高的動態範圍。
在方法700的另一態樣中,進行該組任務的步驟包括修改含有具備深度資訊之光場或光場視訊的內容以產生經修改光場或光場視訊,該經修改光場或光場視訊包括下列之一或更多者:相較於內容中之RGB視圖數量增加的3D場景之RGB視圖、比該內容之解析度更高的解析度、或者比該內容之動態範圍更高的動態範圍。
將理解上述的方法700可能包括關聯於以上結合顯示器處理電路系統130及/或其組件之任意者所述的操作的額外態樣。此外,提供用於顯示器處理電路系統130及/或其組件之任意者的範例作為例示,而兩個或更多個組件或子組件的功能可在沒有偏離本揭示案所涵蓋之整體特徵之下按照各種設計考量經合併或分散。
第 8 圖
是一方塊圖800,圖示可與一或更多顯示器110使用之顯示器處理電路系統130的另一例子,舉例來說,其中顯示器100具有光場性能(例如顯示器210)。第8圖中的顯示器處理電路系統130可接收一或更多資料串流125及生成一或更多經修改資料串流850。在一些實施中,顯示器處理電路系統130可包括一顯示器處理電路系統架構810,其經配置以進行關聯於顯示器處理電路系統130的各種操作,包括策略操作、操作模式、及任務(舉例來說)。顯示器處理電路系統130可經配置以從顯示器記憶體135及/或可選地從感測器155(參見例如第1B~1D圖)接收資料、發信、或其他資訊。
第8圖中顯示器處理電路系統130的態樣可與第4圖中之顯示器處理電路系統130的態樣結合。例如,結合一者所述的輸入類型、輸出、及處理可適用於另一者。例如,當第8圖中的顯示器處理電路系統130經配置以實施一或更多神經網路時,第8圖中的顯示器處理電路系統130可經配置以實施第5A~6B圖(舉例)中所述態樣的一或更多者。
第8圖中的顯示器處理電路系統130可用於一或更多顯示器(參見例如第1D圖中的顯示器110a及110b)及這些顯示器可支援多個視圖(例如光場顯示器210)。該一或更多顯示器可包括一或更多像素陣列(例如像素陣列151)、經耦合至該一或更多像素陣列的一或更多背板(例如背板150);及經耦合至該一或更多背板的該處理電路系統(例如第8圖中的顯示器處理電路系統130)。該處理電路系統經配置以接收一或更多資料串流(例如資料串流125)。該處理電路系統進一步經配置以基於策略來控制對該一或更多個資料串流的處理,從該等策略中選出該處理電路系統所支援的一操作模式,其中各操作模式界定該一或更多顯示器中的該一或更多個像素陣列將貢獻何光線(例如第2C圖中的射線205)以生成一或更多特定視圖,以及該處理電路系統所將進行以修改該一或更多個資料串流(例如經修改資料串流850)的任務(例如操作、運算、演算法),使得該一或更多個像素陣列貢獻將生成該操作模式的該一或更多特定視圖的該些光線。該處理電路系統進一步經配置以經由該一或更多個背板的一電路配置提供代表該經修改一或更多個資料串流的發信(例如電性、光學發信)至該一或更多像素陣列,以供該一或更多像素陣列貢獻該些光線,該些光線將產生該操作模式的該一或更多特定視圖。
該一或更多顯示器中的該處理電路系統支援一或更多操作模式,且該一或更多操作模式可包括下列之一或更多者:在其中針對該一或更多顯示器的全部觀看者產生一單一視圖的第一操作模式、在其中針對該一或更多顯示器的各觀看者產生一不同視圖的第二操作模式、在其中針對該一或更多顯示器的一或更多觀看者中之各者產生多個視圖的第三操作模式、在其中針對該一或更多顯示器的一或更多觀看者中之各者產生一或更多個視圖的第四操作模式、或者在其中針對該一或更多顯示器的一或更多觀看者產生一單一視圖,而針對該一或更多顯示器的其餘觀看者產生一或更多個視圖的第五操作模式。
在一態樣中,該一或更多個背板的該電路配置是一邏輯安排,該邏輯安排經配置以將關聯於該經修改一或更多資料串流的該發信分配至該一或更多像素陣列的經指定部分。
在一態樣中,該一或更多顯示器中該處理電路系統的至少一部分的一架構(例如顯示器處理電路系統架構810)可包括神經網路架構、固定函數邏輯信號處理架構、或可程式化管線架構。在一些實例中,該處理電路系統之架構可包括上述架構的組合。
在一態樣中,當該架構包括一神經網路架構時,該神經網路架構經配置以進行一演算法,該演算法將一或更多輸入資料串流(例如資料串流125)處理成為一或更多輸出資料串流(例如經修改資料串流850),其中已在一訓練程序中習得該演算法進行的一運算,且其中已在處理該輸入資料前進行該訓練程序。
該訓練程序可在不同於該一或更多顯示器的一系統中進行,在早於將該演算法的一網路配置傳送至該處理電路系統之前。替代地,在該一或更多顯示器的該處理電路系統中進行該訓練程序。又另一選擇中,該訓練程序可為一開始早於將該演算法的一網路配置傳送至該處理電路系統之前在不同於該一或更多顯示器的一系統中進行,而後續地在處理來自該一或更多資料串流的新資料時在該一或更多顯示器的該處理電路系統中進行。該訓練程序中的學習可包括對一或更多成本或目標函數的最佳化。該演算法進行的運算可利用一或更多網路(例如第5A及5B圖中的神經網路)來實施,且該一或更多網路包括一或更多運算單元,該一或更多個運算單元的函數是由一或更多數字所指定,且該一或更多成本或目標函數乃藉由改變該一或更多數字而最佳化。該一或更多成本或目標函數乃藉由以數值方式套用基於梯度陡降的最佳化方法而經最佳化。
該訓練程序可由以下組成:提供一訓練集合,該訓練集合包好輸入資料項與輸出資料項之組對,而該運算經最佳化以產生一輸出,當將該組對的該輸入項提供作為給該運算的輸入時,該輸出實質上類似該組對的該輸出項。實質上類似該組對之該輸出項的該輸出利用至少一距離度量中任何一者來指示出相距的一短距離,該至少一距離度量包括歐氏距離(Euclidian distance)。
該訓練程序可由以下組成:提供包括輸入資料項的一訓練集合,其中該演算法所進行的運算是利用一或更多網路實施的,且該一或更多網路經最佳化以實質上再生該等輸入資料項來回應該訓練程序。修改該等輸入資料項,且最佳化該一或更多網路以移除該些修改,來再生未修改的該等輸入資料項。對該等輸入資料項的修改包括(但不一定局限在)下列之一或更多者:對該等輸入資料項加上雜訊、對該些輸入資料項加上失真、將該等輸入資料項中的一影像之部分移除或屏蔽。
該訓練程序可由以下組成:提供一訓練集合,且該訓練集合是僅包含一輸入項之樣本、以及包含該輸入項及一所欲輸出項兩者之樣本的混合,其中該演算法所進行的運算是利用一或更多網路實施的,且最佳化該一或更多網路以針對不具有一輸出項組對的樣本再生一未修改輸入項,以及針對具有一所欲輸出項的樣本產生該所欲輸出項。
另一態樣中,該演算法進行的該運算可為利用至少兩網路實施的,及共同訓練該兩網路,其中訓練一個網路以生成類似來自一訓練集合之樣本的樣本,而訓練另一網路以決定是否該些樣本是來自該訓練集合或是由該另一網路生成。
另一態樣中,該演算法進行的該運算可利用一或更多網路實施,及訓練該一或更多網路以最佳化在由該一或更多網路產生的一輸出序列之上的整體成本或目標函數。
又另一態樣中,該演算法進行的該運算可利用一或更多網路實施,及該一或更多網路將由該一或更多個資料串流提供的一輸入(其為一組數字)連接至該一或更多網路的一或更多個互連層,並最終連接至該一或更多網路的一輸出層。
另一態樣中,該演算法進行的該運算可利用一或更多網路實施,且對該一或更多網路中之一層(參見例如第5A及5B圖中之神經網路的層)的輸入可能來自該一或更多網路中的前一層、對該一或更多網路中之一較早層的一跳過或殘餘連接、來自該一或更多網路中之一較晚層的一反饋連接、或對該一或更多網路中任意層之一歷史值的一遞歸連接。這些輸入之各者可經可選地乘上一數值權重。此外,該等經可選地加權的輸入的一總和可被傳遞至該一或更多網路的一非線性活化層,其中該非線性活化層提供以下之一者:sigmoid函數、tanh函數、整流線性單元(ReLU)、或洩漏(leaky)整流線性單元(洩漏ReLU)。當結合顯示器處理電路系統130利用了階層結構式(hierarchical)作法(例如多個處理階級或層分佈在不同IC及/或不同電晶體層級電路系統上)時,可能將一運算網路(例如神經網路)的不同層實施在該階層結構的不同層級或分層中。例如,顯示器處理電路系統130的最頂層級或分層可實施及執行一神經網路的一層,同時顯示器處理電路系統130的一較低層級或分層可實施該神經網路的一不同層或多個層。
另一態樣中,該演算法進行的該運算可利用一或更多網路實施,且該一或更多網路包括一可選匯集層,其合併數個值成為單一值。讓數個值成為單一值的合併是藉由取輸入的一最大值或最小值、藉由將該等輸入加總、或將該等輸入平均。
另一態樣中,該演算法進行的該運算是利用一或更多網路實施的,且該一或更多網路包括包括於一層的一或更多輸出,各輸出具有其自身的權重集合、非線性集合、及匯集集合。
又另一態樣中,該演算法進行的運算可包括同時地(或並行地)處理將由該處理電路系統進行之多個任務,其中各任務的一輸出由一唯一輸出資料串流表示。對多個任務的同時處理可包括將來自該一或更多資料串流的多個輸入資料串流處理成為多個輸出資料串流。
另一態樣中,該演算法進行的運算是利用一或更多網路實施的,且該一或更多網路包括由多個任務共享的分層和未在任務之中共享的任務特定分層。
在該一或更多顯示器中之處理電路系統的架構(例如顯示器處理電路系統架構810)包括神經網路架構的彼等情況中,該神經網路架構經配置以實施及執行一或更多神經網路(例如第5A及5B圖中的神經網路),以針對該所選操作模式,進行該等任務以修改該一或更多資料串流。該一或更多神經網路的多個權重可藉由最佳化一組訓練資料上之成本函數來決定,其中該組訓練資料可包括真實世界內容、合成資料、或兩者。該一或更多神經網路的多個權重可在製造該一或更多顯示器之期間設定或是在操作該一或更多顯示器之期間動態地更新,其中該動態更新回應於接收到該一或更多資料串流、回應於一軟體更新、或兩者而發生。該一或更多神經網路的多個權重可經硬編碼到該一或更多神經網路的實施中或可經儲存在記憶體(例如顯示器記憶體135)中並經存取以用於該一或更多神經網路的實施。該一或更多神經網路的多個權重可基於下列之一或更多者來調整:該一或更多個資料串流中哪些資料串流為可取得的、該一或更多個資料串流中用於顯示的一內容、將進行以修改該一或更多個資料串流的一任務、或該一或更多顯示器的一輸出模式。此外,如上討論的,當結合顯示器處理電路系統130使用階層結構式作法(例如多個處理階級或層分佈在不同IC及/或不同電晶體層級電路系統上)時,可能將一運算網路(例如神經網路)的不同層實施在該階層結構的不同層級或分層中。
該一或更多個神經網路之各神經網路的一配置包括下列一或更多者:一或更多卷積層、一或更多完全連接層、一或更多匯集層、一或更多上取樣層、一或更多下取樣層、一或更多跳過或殘餘連接、一或更多密集連接、一或更多反饋連接、一或更多稀疏連接層、一或更多長期或短期記憶體單元、或一或更多遞歸連接。
另一態樣中,該一或更多神經網路包括多個神經網路且該多個神經網路是串接的。該一或更多神經網路包括多個神經網路且不同神經網路進行不同任務以修改該一或更多資料串流。
進一步關於第8圖,當顯示器處理電路系統130用於一或更多顯示器時,該一或更多顯示器也可包括一或更多像素陣列(例如像素陣列151)。第2A~2C圖描繪範例,其中光場顯示器(例如光場顯示器210)中的像素陣列可指圖像元件220之陣列或發光元件225的陣列,然而,可與一或更多顯示器中之顯示器處理電路系統130使用的像素陣列不需要受限於此。陣列中的像素可為方向性像素(參見例如第2C圖)。換言之,該一或更多像素陣列中像素的不同子集合可經配置以貢獻朝不同方向導引的光。此外,該一或更多像素陣列中的像素可經配置以在一或更多方向中貢獻不同顏色的光及不同強度的光。
用於第8圖中的顯示器處理電路系統130並用於一或更多顯示器的一或更多像素陣列可包括一或更多層,其中各層包括下列之一或更多者:光產生元件、光吸收元件、光反射性元件、光透射性元件、光修飾元件、或光學元件。該等光學元件可包括透鏡、光學屏障、波導、光纖、可切換光件、方向性修飾元件、偏振修飾元件、或分光元件中之一或更多者。
在第8圖中之顯示器處理電路系統130的另一態樣中,顯示器處理電路系統130可包括下列之一或更多者:應用特定積體電路、現場可程式化閘陣列、可程式化積體電路、中央處理單元、圖形處理單元、張量處理單元、神經網路積體電路、視覺處理單元、或神經形態處理器。例如,顯示器處理電路系統130的顯示器處理電路系統架構810包括以上列出裝置之一或更多者或是利用以上列出裝置之一或更多者所實施。
如結合第2D及2E圖說明如上,該處理電路系統(例如第8圖中的顯示器處理電路系統130)包括電子硬體,該電子硬體按照策略及所選操作模式而操作。該處理電路系統可進一步包括已儲存指令,以按照策略及所選操作模式來操作該電子硬體。該些指令可在軟體、韌體、或以上兩者的形式中。該處理電路系統中的電子硬體可包括空間上跨於該一或更多個背板分佈的電晶體層級電路系統。跨於該一或更多個背板分佈的該電晶體層級電路系統可經形成在與該背板之該電路配置的電晶體層級電路系統相同的一基板上。該處理電路系統中的電子硬體包括多個離散積體電路(IC)單元(參見例如第2E圖),該等IC單元在空間上跨於該背板分佈,其中各IC單元關聯於該像素陣列的一子集合。該等IC單元之各者可經配置以進行相同功能,或替代地,不同IC單元可經配置以進行不同功能。在一不同實施中,該處理電路系統中的電子硬體可包括在空間上跨於該一或更多個背板分佈的多個IC單元,並也可包括也在空間上跨於該一或更多個背板分佈的電晶體層級電路系統。此外,該處理電路系統中的電子硬體可經實施成電路的階層結構(參見例如第2E圖),該階層結構藉以下方式將處理任務獨立:空間上、角度上、時間上、藉由隨機分佈、藉由到達順序、藉由關聯於該一或更多個資料串流的某些其他順序、或藉由以上之組合。在電路的階層結構中獨立的處理任務可被同時地處理、循序地處理、或以上兩者。
進一步關於第8圖,當連同一或更多顯示器利用顯示器處理電路系統130時,顯示器處理電路系統130所接收之一或更多資料串流(例如資料串流125)的至少一者包括真實世界內容、合成資料、或以上兩者的一表示,當該表示被該處理電路系統修改時產生信號,該等信號被經由該一或更多背板的電路配置提供至該一或更多像素陣列,以貢獻將生成該一或更多特定視圖的該些光線。
顯示器處理電路系統130所接收的一或更多資料串流包括下列之一或更多者:二維(2D)影像或2D視訊、多色影像或多色視訊(例如RGB影像或RGB視訊)、具有深度資訊的多色影像或多色視訊、包括一或更多深度圖的深度資訊、光場或光場視訊、多個圖框、射線或射線束、射線或射線束的一或多個序列、感測資料、音訊資料、亮度、來自該一或更多顯示器的顯示環境之亮度、顏色或以上兩者、或對於相對於該一或更多顯示器之觀看者位置、觀看者頭部定向、或觀看者注視方向的估計值。感測資料可接收自(例如)感測器155,可經由資料串流125及/或直接從感測器155接收。深度資訊可包括下列之一或更多者:用於一資料來源中之一個顏色串流的深度資訊、用於一資料來源中之多個顏色串流的深度資訊、或用於一資料來源中之全部顏色串流的深度資訊。
顯示器處理電路系統130所接收的一或更多資料串流可包括關聯於一或更多像素陣列中之像素的通道,其中各通道包括下列之一或更多者:一或更多顏色、深度、透明度、內嵌特徵、影像切割及標示、方向性資料、或是顯著性或重要性權重。關於顯著性,3D場景或2D影像在感知上比其餘部分凸顯出來的一部分被稱為顯著的。在顏色或強度中的快速變化(時間上抑或空間上)傾向比統一的區域更顯著。對於人類觀察者而言人臉傾向為顯著的。一般而言,觀看者較注意顯著的區域,因此更重要的是將顯著區域以比非顯著區域更高的保真度(fidelity)來顯示。
顯示器處理電路系統130所接收的一或更多資料串流可包括場景描述,其中該場景描述是下列一或更多者:2D或3D物件、材質屬性、打光、攝影機參數、使用者或觀看者位置、時間碼、高階影像特徵、影像切割或標示、或內容描述。
顯示器處理電路系統130所接收的一或更多資料串流可包括一或更多影像、代表觀看位置或眼部位置的影像、代表眼部位置的一或更多立體像對、對觀看位置或眼部位置的規律或不規律採樣、或一或更多光場。
在一態樣中,可壓縮或不壓縮顯示器處理電路系統130所接收之一或更多資料串流之各者。
顯示器處理電路系統130所接收的一或更多資料串流可包括來自該一或更多顯示器中之一或更多感測器(例如感測器155)的資訊,其中該資訊包括下列之一或更多者:對顯示環境中之亮度及顏色的光感測器記錄、對該一或更多顯示器周圍的環境、使用者、或兩者的攝影機視圖、對該一或更多顯示器周圍的環境、使用者、或兩者的麥克風記錄,或使用者輸入及偏好。依此,感測器155可包括光感測器、攝影機、麥克風、及/或輸入裝置。
進一步關於第8圖,當將顯示器處理電路系統130用於一或更多顯示器時,顯示器處理電路系統130所生成、產生、或形成的該一或更多經修改資料串流(例如經修改資料串流850)包括下列之一或更多者:二維(2D)影像或2D視訊、具有深度資訊的多色影像或多色視訊(例如RGB影像或RGB視訊)、立體影像或立體視訊、射線或射線束、射線或射線束的一或多個序列、光場或光場視訊、或是具有對一3D場景之多個多色視圖的光場或光場視訊。
經修改之一或更多資料串流可包括關聯於該一或更多像素陣列中之像素的通道,各通道包括下列之一或更多者:一或更多顏色、深度、透明度、內嵌特徵、影像切割及標示、方向性資料、或是顯著性或重要性權重。相對於透明度,物件或影像分層可能是不透明的,表示它們阻擋全部的光,而觀看者無法看穿它們。完全透明的物件或影像分層是看不到的。部分透明的物件或層顯示其後方之場景的一部分,並加上其本身的顏色。透明度經常藉由稱為alpha通道的一額外顏色通道來編碼,其中alpha值為一表示完全不透明,零表示完全透明,而在一與零之間的值是部分透明。
經修改一或更多資料串流可包括場景描述(例如某種形式的元資料),其中該場景描述是下列之一或更多者:2D或3D物件、材質屬性、打光、攝影機參數、使用者或觀看者位置、時間碼、高階影像特徵、影像切割或標示、或內容描述。
另一態樣中,經修改一或更多資料串流可包括下列一或更多者:影像、代表觀看位置或眼部位置的影像、代表眼部位置的一或更多立體像對、對觀看位置或眼部位置的規律或不規律取樣、或一或更多光場。
此外,該經修改一或更多資料串流之各者經壓縮或未經壓縮。
進一步關於第8圖,當顯示器處理電路系統130用於一或更多顯示器時,將由該處理電路系統進行以修改該一或更多資料串流的一或多個任務可包括下列之一或更多者:轉換成具有比一原始像素個數更高之一總像素個數的一較高解析度或比起一原始像素密度更高的一像素密度、藉由在超出一原始範圍下外推一範圍來產生一更高動態範圍、產生具有深度資訊的多色影像或多色視訊、產生一立體影像或立體視訊、產生一3D場景的一或多個多色視圖、產生一3D場景的額外多色視圖、藉由合併來自多個圖框的視覺細節來估計一場景的一較高解析度模型、或藉由測量在視訊中之場景內容或視圖中一或兩者中所發生的一視覺變化幅度,來偵測該視訊中的剪輯或跳躍中之一或兩者。
產生一3D場景之一或多個多色視圖的任務進一步包括下列之一或更多者:視圖合成操作、破洞填補操作、超解析度操作、深度調整操作、藉由注視點渲染的頻寬控制、或低動態範圍(LDR)對高動態範圍(HDR)轉換。
將由該處理電路系統進行以修改該一或更多資料串流的一或多個任務可包括下列之一或更多者:內容分類、對應、內插及超解析度、顯示重映射、使用者追蹤、轉換至多視圖、深度估算、影像切割、或對場景屬性的估算。
上述的內容分類任務提供維度降低以分類個別像素、2D特徵、3D特徵、影像類型、或以上之組合。維度降低致能藉較少資訊來表示資訊,該較少資訊較易於處理及/或更針對性。
另一態樣中,上述的內容分類任務提供用於對該一或更多資料串流中之內容的分類,其中該處理電路系統進一步經配置以回應於該分類從該處理電路系統可存取(例如從顯示器記憶體135)的具多個權重的不同集合動態地加載具多個權重的一唯一集合,且其中一或更多個處理網路(例如神經網路)經利用具多個權重的該唯一集合實施在該處理電路系統中。
另一態樣中,上述的內容分類可包括以下之一或更多者:藉由應用(例如遊戲、文書處理、體育活動、遠距會議、等等)來分類內容、藉由主體(人類、文字、風景、室內、戶外、等等)來分類內容、基於經估計深度、運動的分類、進行對場景參數(例如打光、攝影機、幾何)的估算/分類、以及進行對場景剪輯(例如因變化幅度、強度、運動所致)的估算。場景估算關於內容分類但也關於一般的深度/3D估算。若各圖框未經單獨處理則深度的估算穩健非常多,但利用額外的資訊去填補破洞、從運動估計深度、減少雜訊、等等。在某些應用(像是文書處理)中,傾向以2D文字為大多數 – 在此情況中內容將最可能藉由聚焦在空間解析度、對比度、及可讀性上,經最佳化以在顯示平面上觀看。遠距會議傾向聚焦在人體上,其中捕捉眼部及口部細節是最重要的。像是遊戲或體育活動之其他應用將更為動態且具有更大範圍之內容用於分類之目的。實作上在一特定資料類別(例如臉部、體育活動、文字)上訓練一神經網路,並在執行時間基於被處理之資料來切換該神經網路所需的權重,將是可行的。
上述的顯示重映射任務包括下列之一或更多者:強度重映射、亮度重映射、解析度重映射、長寬比重映射、顏色重映射、或深度重映射。顯示重映射可包括深度重映射,該深度重映射提供對內插及超解析度之內插部分中權重的調整,以利用一或更多個感知度量將影像強度及視差彎曲而調適在顯示深度預算之內。如上所述,深度重映射的程序牽涉修改場景的3D結構,使得該場景的局部被移動更接近顯示平面。顯示重映射可包括深度重映射及視差重映射,深度重映射在可取得深度資訊時適用,視差重映射在無法取得深度資訊時適用。視差重映射可用於(例如)立體影像或立體視訊。額外地,該處理電路系統進一步經配置以轉換視差重映射成為深度資訊。
上述的顯示重映射任務可基於一或更多重映射參數,其中該一或更多重映射參數乃關聯於該一或更多顯示器的參數或該一或更多顯示器的功能或以上兩者,且其中該一或更多顯示器的參數或該一或更多顯示器的功能或以上兩者包括空間解析度、角解析度、動態範圍、或視野中之一或更多者。
上述的內容分類任務提供基於一或更多準則對該一或更多資料串流中的資料的分類,且該處理電路系統經配置以回應於該分類來動態地更新將由該處理電路系統進行以修改該一或更多資料串流的該等任務。
上述的內插及超解析度任務提供2D對3D轉換或LDR對HDR轉換中之一或兩者。
上述的顯示重映射任務可包括強度重映射、亮度重映射、解析度重映射、長寬比重映射、顏色重映射、或內容深度重映射中之一或更多者。
另一態樣中,該處理電路系統(例如第8圖中的顯示器處理電路系統130)進一步經配置以基於最近圖框來修改將由該處理電路系統進行以修改該一或更多資料串流的該等任務,修改該等任務乃藉由將該等任務針對當前場景內容作調適,且當該等經修改任務包括內插時,該內插包括空間內插、角內插、或時間內插中之一或更多者。
另一態樣中,該處理電路系統所接收的該一或更多資料串流可包括多個圖框,而將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括藉由隨時間合併及對齊該多個圖框來對一場景的一持久3D模型的估算。
又另一態樣中,該處理電路系統所接收的該一或更多資料串流可包括多個圖框,而將由該處理電路系統進行以修改該一或更多資料串流的該等任務可包括對一場景的一較高解析度模型的估算,其藉由隨時間合併來自該多個圖框的視覺細節。
又另一態樣中,該處理電路系統所接收的該一或更多資料串流可包括視訊,且該處理電路系統進一步經配置以藉由測量在該視訊中之場景內容或視圖中之一或兩者中所發生的一視覺變化幅度,來偵測該視訊中之剪輯或跳躍中之一者或兩者。
另一態樣中,由該處理電路系統接收的該一或更多資料串流可包括多個場景,且該處理電路系統經配置以維持關聯於先前顯示場景的特徵、權重、或資訊中之一或更多者。
進一步關於第8圖,當顯示器處理電路系統130用於一或更多顯示器時,將由該處理電路系統進行以修改該一或更多資料串流的該一或多個任務可包括針對來自該一或更多資料串流中之2D影像或視訊的多個圖框估算深度資訊。
此外,將由該處理電路系統進行以修改該一或更多資料串流的一或多個任務可包括合成額外的像素資料,其乃藉由下列一或更多者來增加該像素資料:空間解析度、角解析度、時間解析度、位元深度、動態範圍、或以上兩者、像素通道(包括顏色、深度、光譜取樣、或透明度)、方向性資料、或顯著性或重要性權重。
將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一些任務可經配置以基於該一或更多顯示器的架構及性能來調適該一或更多資料串流中的內容,該些性能包括可得的空間解析度、可得的角解析度、刷新率、色域、或動態範圍中一或更多者,該等任務中該至少一些任務可包括強度處理、顏色處理、白平衡、視圖交錯、色調映射、視圖交錯、色調映射、或校正顯示器光件中之一或更多者。
該一或更多顯示器(例如顯示器110、210)可經校準以測量顯示器性能及像素強度、色域、刷新率、或動態範圍中之一或更多者之中的變異,其中該一或更多顯示器的校準是在製造該一或更多顯示器之期間或在操作該一或更多顯示器之期間進行的。
將由該處理電路系統進行以修改該一或更多資料串流的該等任務可經選擇地套用至該像素陣列中之該等像素的一或更多個子集合,其中該一或更多子集合為空間子集合、角度子集合、或時間子集合。
另一態樣中,將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一些任務可經配置以分析多個圖框,且這些任務可包括跨於視訊內容中之圖框來追蹤運動。
又另一態樣中,將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一任務可至少部分地根據對於相對於該一或更多顯示器的一或更多使用者位置的一估算,該使用者位置是藉由2D或3D頭部位置資訊、2D或3D眼部位置資訊、頭部定向資訊、眼部定向資訊、注視方向、或以上之組合指示。
進一步關於第8圖,其中顯示器處理電路系統130用於該一或更多顯示器且該一或更多顯示器的性能包括超高解析度性能、或高動態範圍性能中一或更多者。在一例中,超高解析度性能可包括對8K或更高之解析度的支援。
第 9 圖
是一流程圖,描繪供一處理電路系統處理一或更多顯示器(例如顯示器110、210)內之一或更多資料串流的一方法900的一例。方法900可由第8圖中顯示之顯示器處理電路系統130進行。額外地,方法900的態樣也可由第4圖中顯示之顯示器處理電路系統130進行。方法900致能對支援多個視圖的一或更多顯示器(例如顯示器210)上的資料串流(例如資料串流125)的處理。
於910,方法900包括在該一或更多顯示器的一處理電路系統(例如顯示器處理電路系統130)上接收一或更多個資料串流,其中處理電路系統經耦合至該一或更多顯示器的一或更多背板(例如背板150),該一或更多背板繼而經耦合至該一或更多顯示器的一或更多像素陣列(例如像素陣列151)。
於920,方法900包括藉由該處理電路系統,基於策略來控制對該一或更多資料串流的處理,從該等策略中選出該處理電路系統所支援的一操作模式,各操作模式界定該一或更多顯示器中的該一或更多個像素陣列將貢獻哪些光線(參見例如第2C圖中的光線205)以產生一或更多特定視圖,以及將由該處理電路系統進行哪些任務以修改該一或更多資料串流(例如經修改資料串流850)以使得該一或更多像素陣列貢獻將產生該操作模式的該一或更多特定視圖的該些光線。
於930,方法900包括藉由該處理電路系統,經由該一或更多個背板的一電路配置提供代表該經修改一或更多資料串流的發信,以供該一或更多個像素陣列貢獻將產生該操作模式之該一或更多特定視圖的該些光線。
在方法900的一態樣中,該處理電路系統支援一或更多操作模式,且該一或更多操作模式包括第一操作模式、第二操作模式、第三操作模式、第四操作模式、或第五操作模式中的一或更多者,在第一操作模式中針對該一或更多顯示器的全部觀看者產生一單一視圖,在第二操作模式中針對該一或更多顯示器的各觀看者產生一不同視圖,在第三操作模式中針對該一或更多顯示器的一或更多觀看者中之各者產生多個視圖,在第四操作模式中針對該一或更多顯示器的一或更多觀看者中之各者產生一或更多個視圖,在第五操作模式中針對該一或更多顯示器的一或更多觀看者產生一單一視圖,而針對該一或更多顯示器的其餘觀看者產生一或更多個視圖。
在方法900的另一態樣中,該一或更多背板的電路配置是一邏輯安排,該邏輯安排經配置以將關聯於該經修改一或更多資料串流的該發信分配至該一或更多像素陣列的經指定部分。
在方法900的另一態樣中,該處理電路系統的至少一部分的架構(例如顯示器處理電路系統架構810)包括神經網路架構、固定函數邏輯信號處理架構、或可程式化管線架構。
在方法900的另一態樣中,當該架構是神經網路架構時,方法900進一步包含:藉由該神經網路架構進行一演算法以供處理一或更多個輸入資料串流成為一或更多個輸出資料串流,其中該演算法進行的一運算已在一訓練程序中習得,且其中該訓練程序已在該輸入資料之處理前進行。
在方法900的另一態樣中,方法900包括在將該演算法的一網路配置傳送至該處理電路系統之前,在不同於該一或更多顯示器的一系統中進行該訓練程序。替代地,該訓練程序可在該一或更多顯示器的該處理電路系統中進行。此外,該訓練程序可一開始早於將該演算法的一網路配置傳送至該處理電路系統之前在不同於該一或更多顯示器的一系統中進行,而後續地在來自該一或更多資料串流的新資料被處理時在該一或更多顯示器的該處理電路系統中進行。
在方法900的另一態樣中,該訓練程序中的該學習可包括最佳化一或更多成本或目標函數。
在方法900的另一態樣中,方法900可進一步包括利用一或更多網路實施該演算法所進行的該運算,且該一或更多網路包含一或更多個運算單元,該一或更多個運算單元的函數是由一或更多數字所指定,且該一或更多成本或目標函數乃藉由改變該一或更多數字而最佳化。該方法可進一步包括藉由以數值方式套用基於梯度陡降的最佳化方法來最佳化該一或更多成本或目標函數。
在方法900的另一態樣中,該訓練程序可由以下組成:提供一訓練集合,該訓練集合包含輸入資料項與輸出資料項組對,而當該組對的該輸入項經提供作為給該運算的輸入時,最佳化該運算以產生實質上類似該組對的該輸出項的一輸出。實質上類似該組對之該輸出項的該輸出利用至少一種距離度量中任何一者指示出相距的一短距離,該至少一種距離度量包括歐氏距離。
在方法900的另一態樣中,該訓練程序可包含提供包含輸入資料項之一訓練集合,該方法進一步包括利用一或更多網路(例如第5A及5B圖中的神經網路)實施該演算法進行的該運算,及該方法進一步包括最佳化該一或更多網路,以實質上再生該等輸入資料項來回應該訓練程序。該方法可進一步包括修改該等輸入資料項,而該一或更多網路經最佳化以移除該些修改,來再生未經修改的該等輸入資料項。此外,修改該等輸入資料項的步驟可包括下列之一或更多者:對該等輸入資料項加上雜訊、對該些輸入資料項加上失真、將該等輸入資料項中的一影像之部分移除或屏蔽。
在方法900的另一態樣中,該訓練程序可由以下組成:提供一訓練集合,而該訓練集合是僅包含一輸入項之樣本、以及包含該輸入項及一所欲輸出項兩者之樣本的混合,該方法可進一步包括利用一或更多網路實施該演算法進行的該運算,且該方法進一步包括最佳化該一或更多網路,以針對不具有一輸出項組對的樣本再生一未修改輸入項,以及針對具有一所欲輸出項的樣本產生該所欲輸出項。
在方法900的另一態樣中,方法900可進一步包括利用至少兩網路來實施該演算法進行的該運算,其中該兩網路經共同地訓練,且其中一網路經訓練以生成類似來自一訓練集合之樣本的樣本,而另一網路經訓練以決定是否該些樣本是來自該訓練集合或是由該另一網路生成。
在方法900的另一態樣中,方法900可進一步包括利用一或更多網路實施該演算法進行的該運算,其中訓練該一或更多網路以最佳化在由該一或更多網路產生的一輸出序列之上的一整體成本或目標函數,該一或更多網路將由該一或更多個資料串流提供的一輸入(其為一組數字)連接至該網路的一或更多互連層,並最終連接至該一或更多網路的一輸出層,對該一或更多網路中之一層的一輸入能來自該一或更多網路中的前一層、對該一或更多網路中之一較早層的一跳過或殘餘連接、來自該一或更多網路中之一較晚層的反饋連接、或到該一或更多網路中任意層之一歷史值的遞歸連接,或以上之組合。該方法可進一步包括可選地將各輸入乘上一數值權重,並將該等經可選地加權的輸入的一總和傳遞至該一或更多網路的一非線性活化層,其中該非線性活化層提供sigmoid函數、tanh函數、整流線性單元(ReLU)、或洩漏整流線性單元(洩漏ReLU)中之一者。
在方法900的另一態樣中,方法900可進一步包括利用一或更多網路實施該演算法進行的該運算,其中該一或更多網路包括一可選匯集層,該可選匯集層合併數個值成為單一值,該合併乃藉由取輸入的一最大值或最小值或藉由將該等輸入加總。
在方法900的另一態樣中,方法900可進一步包括利用一或更多網路實施該演算法進行的該運算,其中該一或更多網路包括於一層的一或更多輸出,各輸出具有其自身的權重集合、非線性集合、及匯集集合。
在方法900的另一態樣中,其中該演算法進行的該運算包括同時處理該處理電路系統所將進行的多個任務,其中各任務的一輸出由一唯一輸出資料串流表示。該方法可進一步包括利用一或更多網路實施該演算法進行的該運算,該一或更多網路包括由多個任務共享的層和未在任務之中共享的任務特定層。此外,同時處理多個任務可包括將來自該一或更多資料串流的多個輸入資料串流處理成為多個輸出資料串流。
在方法900的另一態樣中,該處理電路系統之至少一部分的一架構包括一神經網路架構,且該方法進一步包括實施及執行一或更多神經網路作為該神經網路架構之部分,以針對該所選操作模式來進行該等任務以修改該一或更多資料串流。在此情況中,該一或更多神經網路的多個權重可藉由最佳化在一組訓練資料之上的一成本函數來決定,該組訓練資料包括真實世界內容、合成資料、或兩者。該方法可進一步包括在製造該一或更多顯示器之期間設定該一或更多神經網路的多個權重,或是在操作該一或更多顯示器之期間動態地更新該多個權重,其中動態更新回應於接收到該一或更多資料串流、回應於一軟體更新、或兩者發生。該方法可進一步包括將該一或更多神經網路的多個權重硬編碼在該一或更多神經網路的該實施中,或是將該多個權重儲存在記憶體中而自記憶體存取該多個權重以用於該一或更多神經網路的該實施。該方法可進一步包括調整該一或更多神經網路的多個權重,該調整是基於下列之一或更多者:該一或更多個資料串流中哪些資料串流為可取得的、該一或更多個資料串流中用於顯示的一內容、將進行以修改該一或更多個資料串流的一任務、或該一或更多顯示器的一輸出模式。
該一或更多個神經網路之各神經網路的一配置包括下列之一或更多者:一或更多卷積層、一或更多完全連接層、一或更多匯集層、一或更多上取樣層、一或更多下取樣層、一或更多跳過或殘餘連接、一或更多密集連接、或一或更多反饋連接、一或更多稀疏連接層、一或更多長期或短期記憶體單元、或一或更多遞歸連接。該一或更多神經網路可包括多個神經網路且該多個神經網路是串接的。該一或更多神經網路可包括多個神經網路而不同神經網路進行不同任務以修改該一或更多個資料串流。
在方法900的另一態樣中,該一或更多個資料串流中至少一者包括真實世界內容、合成資料、或以上兩者的一表示,當該表示被該處理電路系統修改時產生信號,該些信號經由該一或更多個背板的該電路配置被提供至該一或更多像素陣列以貢獻光線,該些光線將生成該操作模式的該一或更多特定視圖。
在方法900的另一態樣中,接收該一或更多資料串流包括接收下列之一或更多者:一二維(2D)影像或2D視訊、多色影像或多色視訊(例如RGB影像或RGB視訊)、多色影像或多色視訊、具有深度資訊的多色影像或多色視訊、包括一或更多深度圖的深度資訊、光場或光場視訊、多個圖框、射線或射線束、射線或射線束的一或多個序列、感測資料、音訊資料、(來自該一或更多顯示器的)顯示環境之亮度、顏色、或兩者、或對於相對於該一或更多顯示器的一觀看者位置、一觀看者頭部定向、或一觀看者注視方向的一估計值。在一例中,該深度資訊包括下列之一或更多者:用於一資料來源中之一個顏色串流的深度資訊、用於一資料來源中之多個顏色串流的深度資訊,或用於一資料來源中之全部顏色串流的深度資訊。
在方法900的另一態樣中,該一或更多資料串流包括關聯於該一或更多像素陣列中之像素的通道,各通道包括下列之一或更多者:一或更多顏色、深度、透明度、內嵌特徵、影像切割及標示、方向性資料、或顯著性或重要性權重。
在方法900的另一態樣中,該一或更多資料串流包括場景描述(例如元資料),其中該場景描述是下列之一或更多者:2D或3D物件、材質屬性、打光、攝影機參數、使用者或觀看者位置、時間碼、高階影像特徵、影像切割或標示、或內容描述。
在方法900的另一態樣中,該一或更多資料串流包括下列之一或更多者:一或更多影像、代表觀看位置或眼部位置的影像、代表眼部位置的一或更多立體像對、對觀看位置或眼部位置的規律或不規律取樣、或一或更多光場。
在方法900的另一態樣中,壓縮或未壓縮該一或更多資料串流中之各者。
在方法900的另一態樣中,該一或更多資料串流包括來自該一或更多顯示器中之一或更多感測器的資訊,該資訊包括下列之一或更多者:對顯示環境中之亮度及顏色的光感測器記錄、對該一或更多顯示器周圍的環境、使用者、或兩者的攝影機視圖、對該一或更多顯示器周圍的環境、使用者、或兩者的麥克風記錄,或使用者輸入及偏好。來自該一或更多感測器(例如感測器155)的資訊可由該處理電路系統(例如顯示器處理電路系統130)經由該一或更多資料串流所接收、直接從該等感測器接收、或以上之組合。
在方法900的另一態樣中,修改該一或更多資料串流(例如經修改資料串流850)可包括產生下列之一或更多者:一二維(2D)影像或2D視訊、具有深度資訊的多色影像或多色視訊、立體影像或立體視訊、射線或射線束、射線或射線束的一或多個序列、光場或光場視訊、或是具有對3D場景之多個多色視圖的光場或光場視訊。
在方法900的另一態樣中,該經修改一或更多資料串流可包括關聯於該一或更多像素陣列中之像素的通道,其中各通道包括下列之一或更多者:一或更多顏色、深度、透明度、內嵌特徵、影像切割及標示、方向性資料、或是顯著性或重要性權重。
在方法900的另一態樣中,該經修改一或更多資料串流可包括場景描述(例如元資料),其中該場景描述是下列之一或更多者:2D或3D物件、材質屬性、打光、攝影機參數、使用者或觀看者位置、時間碼、高階影像特徵、影像切割或標示、或內容描述。
在方法900的又另一態樣中,該經修改一或更多資料串流可包括下列之一或更多者:一或更多影像、代表觀看位置或眼部位置的影像、代表眼部位置的一或更多立體像對、對觀看位置或眼部位置的規律或不規律取樣、或一或更多光場。此外,壓縮或未壓縮該經修改一或更多資料串流之各者。
在方法900的又另一態樣中,藉由該處理電路系統進行該等任務以修改該一或更多資料串流的步驟包括進行下列之一或更多者:轉換成具有比一原始像素個數更高之一總像素個數的一較高解析度(或比起一原始像素密度更高的一像素密度)、藉由外推一範圍超出一原始範圍來產生一更高動態範圍、產生具有深度資訊的多色影像或多色視訊、產生一立體影像或立體視訊、產生一3D場景的一或多個多色視圖、產生一3D場景的額外多色視圖、藉由合併來自多個圖框的視覺細節來估計一場景的一較高解析度模型、或藉由測量在視訊中之場景內容或視圖中一或兩者中所發生的一視覺變化幅度,來偵測該視訊中的剪輯或跳躍中之一或兩者。
作為方法900之部分,產生一3D場景之一個或多個多色視圖的步驟進一步包括進行下列之一或更多者:視圖合成操作、破洞填補操作、超解析度操作、深度調整操作、藉由注視點渲染的頻寬控制、或低動態範圍(LDR)到高動態範圍(HDR)轉換。
在方法900的另一態樣中,藉由該處理電路系統進行該等任務以修改該一或更多資料串流的步驟包括進行下列之一或更多者:內容分類、對應、內插及超解析度、顯示重映射、使用者追蹤、轉換至多視圖、深度估算、影像切割、或對場景屬性的估算。
作為方法900之部分,進行上述之內容分類的步驟包括提供維度降低以分類個別像素、2D特徵、3D特徵、影像類型、或以上之組合。
作為方法900之部分,進行上述之內容分類的步驟可包括:分類該一或更多資料串流中的內容,回應於該分類而從該處理電路系統可存取的具多個權重的不同集合動態地加載具多個權重的一唯一集合,以及利用具多個權重的該唯一集合在該處理電路系統中實施一或更多個處理網路。
作為方法900之部分,進行上述的顯示重映射步驟可包括進行強度重映射、亮度重映射、解析度重映射、長寬比重映射、顏色重映射、或內容深度重映射中的一或更多者。
作為方法900之部分,進行上述的顯示重映射 可包括進行深度重映射,該深度重映射提供對內插及超解析度之內插部分中權重的調整,以利用一或更多個感知度量來彎曲影像強度及視差,以調適於一顯示深度預算內。
作為方法900之部分,進行上述的顯示重映射可包括進行深度重映射或視差重映射,深度重映射在可取得深度資訊時適用,視差重映射在無法取得深度資訊時適用,其中視差重映射是結合立體影像或立體視訊使用的,以及其中該方法可進一步包括將該視差重映射轉換至深度資訊。
上述的顯示重映射可基於一或更多重映射參數,其中該一或更多重映射參數關聯於該一或更多顯示器的參數或該一或更多顯示器的功能或以上兩者,且其中該一或更多顯示器的參數或該一或更多顯示器的功能或以上兩者包括空間解析度、角解析度、動態範圍、或視野中之一或更多者。
作為方法900之部分,進行上述的內容分類步驟提供基於一或更多準則對該一或更多資料串流中的資料的分類,且該方法進一步包括藉由該處理電路系統,回應於該分類,動態地更新將由該處理電路系統進行以修改該一或更多資料串流的該等任務。
作為方法900之部分,進行上述的內插及超解析度提供2D到3D轉換或LDR到HDR轉換中之一或二者。
作為方法900之部分,進行上述的顯示重映射包括進行下列之一或更多者:強度重映射、亮度重映射、解析度重映射、長寬比重映射、顏色重映射、或內容深度重映射。
在方法900的另一態樣中,方法900可進一步包括基於最近圖框來修改將由該處理電路系統進行以修改該一或更多資料串流的該等任務,修改該等任務乃藉由將該等任務針對當前場景內容作調適,及當該等經修改任務包括內插時,該內插包括空間內插、角內插、或時間內插中之一或更多者。
在方法900的另一態樣中,該一或更多資料串流可包括多個圖框,及將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括藉由隨時間合併及對齊該多個圖框來對一場景的一持久3D模型的估算。
在方法900的另一態樣中,該一或更多資料串流可包括多個圖框,及將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括對一場景的一較高解析度模型的估算,其藉由隨時間合併來自該多個圖框的視覺細節而估算。
在方法900的又另一態樣中,該一或更多資料串流可包括視訊,及該方法可進一步包括由該處理電路系統,藉由測量在該視訊中之場景內容或視圖中之一或兩者中所發生的一視覺變化幅度,來偵測該視訊中之剪輯或跳躍中之一者或兩者。
在方法900的另一態樣中,該一或更多資料串流可包括多個場景,及該方法可進一步包括由該處理電路系統,維持關聯於先前顯示場景的特徵、權重、或資訊中之一或更多者。
在方法900的另一態樣中,將由該處理電路系統進行以修改該一或更多資料串流的該等任務可包括估算來自該一或更多資料串流中之2D影像或視訊的多個圖框的深度資訊。
在方法900的另一態樣中,將由該處理電路系統進行以修改該一或更多資料串流的該等任務可包括合成額外的像素資料,其乃藉由下列一或更多者來增加該像素資料:空間解析度、角解析度、時間解析度、位元深度、動態範圍、或以上兩者、像素通道(包括顏色、深度、光譜取樣、或透明度)、方向性資料、或顯著性或重要性權重。
在方法900的又另一態樣中,將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一些任務可包括基於該一或更多顯示器的一架構及性能來調適該一或更多資料串流中的內容,該些性能包括可得的空間解析度、可得的角解析度、刷新率、色域、或動態範圍中一或更多者。該等任務中之該至少一些任務可包括下列之一或更多者:強度處理、顏色處理、白平衡、視圖交錯、色調映射、視圖交錯、色調映射、或針對顯示器光件的校正。
在方法900的另一態樣中,方法900可進一步包括藉由該一或更多顯示器,校準對顯示器性能及像素強度、色域、刷新率、或動態範圍中一或更多者之中的變異的測量,其中該校準是在該一或更多顯示器之製造期間或在該一或更多顯示器之操作期間進行的。
在方法900的另一態樣中,方法900可進一步包括選擇地對該像素陣列中之該等像素的一或更多個子集合套用將由該處理電路系統進行以修改該一或更多資料串流的該等任務,其中該一或更多個子集合為空間子集合、角度子集合、或時間子集合。
在方法900的另一態樣中,將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一些任務經配置以分析多個圖框,其中該等任務中之該至少一些任務包括跨於視訊內容中之圖框來追蹤運動。
在方法900的又另一態樣中,將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一任務是至少部分地根據對於相對於該一或更多顯示器的一或更多使用者位置的一估算,該使用者位置是藉由2D或3D頭部位置資訊、2D或3D眼部位置資訊、頭部定向資訊、眼部定向資訊、注視方向、或以上之組合指示。
依此,儘管已按照所示實施例提供了本案揭示內容,本領域具有通常知識者將輕易地認知到該些實施例可能存在變化,且該些變化將在本揭示案的範疇內。因此,本領域之通常知識者可進行修改而無悖離隨附申請專利範圍之範疇。
100a、100b、100c、100d:圖
110、110a、110b:顯示器
120:來源
125、125a、125n:資料串流
130、130a、130n:顯示器處理電路系統
135:顯示器記憶體
140、140a、140b、140n:TCON
150、150a、150b:背板
151、151a、151b:像素陣列
155:感測器/主處理器
160:GPU
165:CPU
170:硬碟
180:接收器
181:網際網路連接
182:無線連接
183:資料介面
200a、200b、200c、200d、200e:圖
205:射線
210:光場顯示器
215:光轉向光學元件
220:圖像元件(超光線像素)
220a:沒有光轉向發光元件的圖像元件(超光線像素)
225:發光元件(子光線像素)
230:間距
260:發光元件群組(光線像素)
270:子圖像元件
280:顯示器處理電路系統之部分
300:圖
310:內容主機管線
315:渲染/擷取
320:資料壓縮
330:顯示器側管線
340:內容分類
350:對應
360:內插/超解析度
370:顯示再映射
380:使用者追蹤
400:圖
410:輸入組件
420:處理組件
425:處理引擎
430:輸出組件
440:配置組件
445:可程式化權重組件
450:經修改資料串流
500a、500b、500c:圖
510:可程式化神經網路組構
515:配置1
520:配置2
525a:配置3
525b:配置4
530:通用內容修改組件
535:內容分類
540:對應
545:內插及超解析度
550:顯示再映射
555:使用者追蹤
560:特定內容修改組件
600a、600b:圖
605:特定內容修改權重
610:2D超解析度
610a:2D超解析度
615:2D HDR
620:HDR
625:RGB+深度
630:RGB+深度對光場
635:RGB對光場
635a:RGB對光場
640:RGB對立體
645:RGB+深度對立體
650:光場對光場
650a:光場對光場
655:立體對光場
660:光場+深度對光場
660a:光場+深度對光場
665:內容修改權重
700:方法
710:於該處理單元的一輸入組件處,接收來自一來源的內容
720:於該處理單元的一處理組件處,實施一或更多神經網路,該一或更多神經網路經利用儲存在該顯示器之記憶體中的多個權重所實施
730:藉由執行該一或更多神經網路來進行一組任務,該組任務修改用於由該顯示器展示的內容
740:藉由該處理單元的一輸出組件提供經修改內容至該顯示器中的一相應面板
800:方塊圖
810:顯示器處理電路系統架構
850:經修改資料串流
900:方法
910:在該一或更多顯示器的一處理電路系統上接收一或更多個資料串流,該處理電路系統經耦合至該一或更多顯示器的一或更多背板,該一或更多背板繼而經耦合至該一或更多顯示器的一或更多像素陣列
920:藉由該處理電路系統,基於策略來控制對該一或更多資料串流的處理,從該等策略中選出該處理電路系統所支援的一操作模式,各操作模式界定該一或更多顯示器中的該一或更多個像素陣列將貢獻哪些光線以產生一或更多特定視圖,以及將由該處理電路系統進行哪些任務以修改該一或更多資料串流以使得該一或更多像素陣列貢獻將產生該操作模式的該一或更多特定視圖的該些光線
930:藉由該處理電路系統,經由該一或更多個背板的一電路配置提供代表該經修改一或更多資料串流的發信,以供該一或更多個像素陣列貢獻將產生該操作模式之該一或更多特定視圖的該些光線
隨附圖式僅描繪部分實施方式,因此不應被認定為限制了範疇。
第1A圖描繪按照本揭示案的態樣的一顯示器範例和用於該顯示器的資料串流來源。
第1B圖描繪按照本揭示案的態樣,在一顯示器中之顯示器處理電路系統的範例。
第1C圖描繪按照本揭示案的態樣,在一顯示器中之多個顯示器處理電路系統的範例。
第1D圖描繪按照本揭示案的態樣,具有共同或共享之顯示器處理電路系統的一或更多顯示器的範例。
第2A圖描繪按照本揭示案的態樣,具有多個圖像元件(picture element)之光場顯示器的範例。
第2B圖描繪按照本揭示案的態樣,具有多個圖像元件之光場顯示器的另一範例。
第2C圖描繪按照本揭示案的態樣,一光場顯示器之一部分的截面圖範例。
第2D圖描繪按照本揭示案的態樣在顯示器處理電路系統與一或更多背板之間之整合的範例。
第2E圖描繪按照本揭示案的態樣顯示器處理電路系統在一或更多背板上之分佈的範例。
第3圖描繪按照本揭示案的態樣用於一顯示器處理單元之處理管線(pipeline)的範例。
第4圖是一方塊圖,描繪按照本揭示案的態樣之顯示器處理電路系統的例子。
第5A及5B圖描繪按照本揭示案的態樣,在一顯示器處理單元之處理引擎內的可程式化神經網路之範例。
第5C圖是一方塊圖,描繪按照本揭示案的態樣之處理引擎。
第6A及6B圖描繪按照本揭示案的態樣,用於神經網路之不同可程式化權重的範例。
第7圖是一流程圖,描繪按照本揭示案的態樣用於在一顯示器內處理內容之處理電路系統的方法範例。
第8圖是一方塊圖,描繪按照本揭示案的態樣之顯示器處理電路系統的另一範例。
第9圖是一流程圖,描繪按照本揭示案的態樣用於一或更多顯示器內之處理電路系統去處理一或更多資料串流的方法範例。
國內寄存資訊 (請依寄存機構、日期、號碼順序註記)
無
國外寄存資訊 (請依寄存國家、機構、日期、號碼順序註記)
無
125:資料串流
130:顯示器處理電路系統
135:顯示器記憶體
155:感測器
800:方塊圖
810:顯示器處理電路系統架構
850:經修改資料串流
Claims (125)
- 一種經配置以支援多個視圖的顯示器,包含:經配置以產生光線的至少一個像素陣列;至少一個背板,該至少一個背板與該至少一個像素陣列電性耦合;及處理電路系統,該處理電路系統與該至少一個背板電性耦合,其中該處理電路系統包括一神經網路架構,該神經網路架構經配置以處理接收於該顯示器處的一輸入資料資料串流,其中該處理電路系統經配置以:接收該輸入資料資料串流,從該處理電路系統所支援的複數個操作模式中選出一操作模式,該複數個操作模式中之各操作模式界定產生一特定視圖的光線,以及該處理電路系統將進行以供修改該輸入資料資料串流的任務,來產生該特定視圖,及經由該至少一個背板的一電路配置提供代表經修改的該資料串流的發信,以貢獻該些光線,該些光線將產生該特定視圖,及其中該處理電路系統經配置以使用該神經網路架構來將該輸入資料資料串流處理成為一輸出資料串流,該輸出資料串流包括經修改的該資料串流。
- 如請求項1所述之顯示器,其中該處理電路系統支援一或更多操作模式。
- 如請求項1所述之顯示器,其中該一或更多操作模式包括下列之一或更多者:一第一操作模式,在該第一操作模式中針對該一或多個顯示器的全部觀看者產生一單一視圖,一第二操作模式,在該第二操作模式中針對該一或多個顯示器的各觀看者產生一不同視圖,一第三操作模式,在該第三操作模式中針對該一或多個顯示器的一或更多觀看者中之各者產生多個視圖,一第四操作模式,在該第四操作模式中針對該一或多個顯示器的一或更多觀看者中之各者產生一或更多個視圖,或一第五操作模式,在該第五操作模式中針對該一或多個顯示器的一或更多觀看者產生一單一視圖,而針對該一或多個顯示器的其餘觀看者產生一或更多個視圖。
- 如請求項1所述之顯示器,其中該一或更多個背板的該電路配置是一邏輯安排,該邏輯安排經配置以將關聯於該經修改一或更多資料串流的該發信分配至該一或更多像素陣列的經指定部分。
- 如請求項1所述之顯示器,其中該神經網路架構包括經儲存在該顯示器之該處理電路系統中的多個權重,及其中該處理電路系統經進一步配置以按照儲存其中的該多個權重中之至少一者來修改該輸入資料資料串流。
- 如請求項1所述之顯示器,其中該一或更多像素陣列中的不同像素子集合經配置以貢獻朝不同方向導向的光。
- 如請求項1所述之顯示器,其中該一或更多像素陣列中的該等像素經配置以在一或更多方向中貢獻不同顏色的光以及不同強度的光。
- 如請求項1所述之顯示器,其中該一或更多像素陣列包括一或更多層,其中各層包括光產生元件、光吸收元件、光反射性元件、光透射性元件、光修飾元件、或光學元件中一或更多者。
- 如請求項8所述之顯示器,其中該等光學元件包括下列一或更多者:透鏡、光學屏障、波導、光纖、可切換光件、方向性修飾元件、偏振修飾元件、或分光元件。
- 如請求項1所述之顯示器,其中該處理電路系統包括下列一或更多者:應用特定積體電路、現 場可程式化閘陣列、可程式化積體電路、中央處理單元、圖形處理單元、張量處理單元、神經網路積體電路、視覺處理單元、或神經形態處理器。
- 如請求項1所述之顯示器,其中該處理電路系統包括電子硬體。
- 如請求項11所述之顯示器,其中該處理電路系統進一步包括已儲存指令,以按照該等策略及該所選操作模式來操作該電子硬體。
- 如請求項12所述之顯示器,其中該等指令乃是在軟體、韌體、或以上兩者的形式中。
- 如請求項1所述之顯示器,其中該處理電路系統中的電子硬體包括空間上跨於該一或更多個背板分佈的電晶體層級電路系統。
- 如請求項14所述之顯示器,其中跨於該一或更多個背板分佈的該電晶體層級電路系統經形成在與該背板之該電路配置的電晶體層級電路系統相同的一基板上。
- 如請求項1所述之顯示器,其中該處理電路系統中的電子硬體包括多個離散積體電路(IC)單元,該等IC單元在空間上跨於該背板分佈,其中各IC單元關聯於該像素陣列的一子集合。
- 如請求項16所述之顯示器,其中該等IC 單元經配置以進行相同功能。
- 如請求項16所述之顯示器,其中該等IC單元經配置以進行不同功能。
- 如請求項1所述之顯示器,其中該處理電路系統中的電子硬體包括多個IC單元及電晶體層級電路系統,該多個IC單元在空間上跨於該一或更多個背板分佈,該電晶體層級電路系統也在空間上跨於該一或更多個背板分佈。
- 如請求項1所述之顯示器,其中該處理電路系統中的該電子硬體經實施成一電路階層結構,該電路階層結構藉以下方式將處理任務隔開:空間上、角度上、時間上、藉由隨機分佈、藉由到達順序、藉由關聯於該一或更多個資料串流的某些其他順序、或藉由以上之組合。
- 如請求項20所述之顯示器,其中在該電路階層結構中隔開的該些處理任務被同時地處理、循序地處理、或以上兩者。
- 如請求項1所述之顯示器,其中該一或更多個資料串流中至少一者包括真實世界內容、合成資料、或以上兩者的一表示,當該表示被該處理電路系統修改時產生信號,該些信號經由該一或更多個背板的該電路配置被提供至該一或更多像素陣列以貢獻將 生成該一或更多特定視圖的該些光線。
- 如請求項1所述之顯示器,其中該一或更多個資料串流包括下列之一或更多者:一二維(2D)影像或一2D視訊,多色影像或多色視訊,具有深度資訊的多色影像或多色視訊,包括一或更多深度圖的深度資訊,光場或光場視訊,多個圖框,射線或射線束,射線或射線束的一或多個序列,感測資料,音訊資料,來自該顯示器的顯示環境之亮度、顏色、或兩者,或對於相對於該顯示器的一觀看者位置、一觀看者頭部定向、或一觀看者注視方向的一估計值。
- 如請求項23所述之顯示器,其中該深度資訊包括下列之一或更多者:用於一資料來源中之一個顏色串流的深度資訊,用於一資料來源中之多個顏色串流的深度資訊,或用於一資料來源中之全部顏色串流的深度資訊。
- 如請求項1所述之顯示器,其中該一或更多資料串流包括關聯於該一或更多像素陣列中之該等像素的通道,各通道包括下列之一或更多者:一或更多顏色,深度,透明度,內嵌特徵,影像切割及標示,方向性資料,或顯著性或重要性權重。
- 如請求項1所述之顯示器,其中該一或更多資料串流包括場景描述,該場景描述為下列之一或更多者:2D或3D物件,材質屬性,打光,攝影機參數,使用者或觀看者位置,時間碼,高階影像特徵,影像切割或標示,或內容描述。
- 如請求項1所述之顯示器,其中該一或更多資料串流包括下列之一或更多者:一或更多影像,代表觀看位置或眼部位置的影像,代表眼部位置的一或更多個立體像對,對觀看位置或眼部位置的規律或不規律取樣,或一或更多個光場。
- 如請求項1所述之顯示器,其中壓縮該一或更多資料串流。
- 如請求項1所述之顯示器,其中未壓縮該一或更多資料串流。
- 如請求項1所述之顯示器,其中該一或更多資料串流包括來自該一或更多顯示器中一或更多個感測器的資訊,該資訊包括下列之一或更多者:對該顯示環境中之亮度及顏色的光感測器記錄,對該一或更多顯示器周圍的環境、使用者、或兩者的攝影機視圖,對該一或更多顯示器周圍的環境、使用者、或兩者的麥克風記錄,或使用者輸入及偏好。
- 如請求項1所述之顯示器,其中該經修改一或更多資料串流包括下列之一或更多者: 一二維(2D)影像或一2D視訊,具有深度資訊的多色影像或多色視訊,立體影像或立體視訊,射線或射線束,射線或射線束的一或多個序列,光場或光場視訊,或具有對一3D場景之多個多色視圖的光場或光場視訊。
- 如請求項1所述之顯示器,其中該經修改一或更多資料串流包括關聯於該一或更多像素陣列中之該等像素的通道,各通道包括下列之一或更多者:一或更多顏色,深度,透明度,內嵌特徵,影像切割及標示,方向性資料,或顯著性或重要性權重。
- 如請求項1所述之顯示器,其中該經修改一或更多資料串流包括場景描述,該場景描述為下列之一或更多者:2D或3D物件, 材質屬性,打光,攝影機參數,使用者或觀看者位置,時間碼,高階影像特徵,影像切割或標示,或內容描述。
- 如請求項1所述之顯示器,其中該經修改一或更多資料串流包括下列之一或更多者:一或更多影像,代表觀看位置或眼部位置的影像,代表眼部位置的一或更多個立體像對,對觀看位置或眼部位置的規律或不規律取樣,或一或更多個光場。
- 如請求項1所述之顯示器,其中壓縮該經修改一或更多資料串流。
- 如請求項1所述之顯示器,其中未壓縮該經修改一或更多資料串流。
- 如請求項1所述之顯示器,其中該處理電路系統將進行以修改該一或更多資料串流的該等任務包括下列之一或更多者: 轉換成具有比一原始像素個數更高之一總像素個數的一較高解析度,或比起一原始像素密度更高的一像素密度,藉由外推一範圍超出一原始範圍來產生一更高動態範圍,產生具有深度資訊的多色影像或多色視訊,產生一立體影像或立體視訊,產生一3D場景的一或多個多色視圖,產生一3D場景的額外多色視圖,藉由合併來自多個圖框的視覺細節來估計一場景的一較高解析度模型,或藉由測量在視訊中之場景內容或視圖中一或兩者中所發生的一視覺變化幅度,來偵測該視訊中的剪輯或跳躍中之一或兩者。
- 如請求項37所述之顯示器,其中產生一3D場景的一或多個多色視圖的該些任務進一步包括下列之一或更多者:一視圖合成操作,一破洞填補操作,一超解析度操作,一深度調整操作,藉由注視點渲染(foveated rendering)的一頻 寬控制,或一低動態範圍(LDR)到高動態範圍(HDR)轉換。
- 如請求項1所述之顯示器,其中該處理電路系統將進行以修改該一或更多資料串流的該等任務包括下列之一或更多者:內容分類,對應,內插及超解析度,顯示重映射,使用者追蹤,轉換成多視圖,深度估算,影像切割,或對場景屬性的估算。
- 如請求項39所述之顯示器,其中該內容分類提供維度降低以分類個別像素、2D特徵、3D特徵、影像類型、或以上之組合。
- 如請求項39所述之顯示器,其中該內容分類提供對該一或更多資料串流中之內容的分類,其中該處理電路系統經進一步配置以回應於該分類而動態地加載,來自該處理電路系統可存取的具多個權重的不同集合,且其中在該處理電路系統中利用具多個權 重的該唯一集合實施一或更多個處理網路。
- 如請求項39所述之顯示器,其中該顯示重映射包括下列之一或更多者:一強度重映射,一亮度重映射,一解析度重映射,一長寬比重映射,一顏色重映射,或一深度重映射。
- 如請求項39所述之顯示器,其中該顯示重映射包括一深度重映射,其提供對內插及超解析度之內插部分中權重的一調整,以利用一或更多個感知度量將影像強度及視差彎曲(warp)來調適於一顯示深度預算內。
- 如請求項39所述之顯示器,其中該顯示重映射包括一深度重映射或一視差重映射,該深度重映射在可取得深度資訊時適用,該視差重映射在無法取得深度資訊時適用。
- 如請求項44所述之顯示器,其中該視差重映射是結合立體影像或立體視訊使用的。
- 如請求項44所述之顯示器,其中該處理電路系統進一步經配置以將該視差重映射轉換成深度資 訊。
- 如請求項39所述之顯示器,其中:該顯示重映射是基於一或更多個重映射參數,該一或更多個重映射參數關聯於該一或更多顯示器的參數或該一或更多顯示器的功能中之一或兩者,及該一或更多顯示器的參數或該一或更多顯示器的功能中之一或兩者包括下列之一或更多者:空間解析度、角解析度、動態範圍、或視野。
- 如請求項39所述之顯示器,其中:該內容分類提供基於一或更多準則對該一或更多資料串流中的資料的分類,及該處理電路系統經配置以回應於該分類而動態地更新將由該處理電路系統進行以修改該一或更多資料串流的該等任務。
- 如請求項39所述之顯示器,其中該內插及超解析度提供一2D到3D轉換或一LDR到HDR轉換中之一者或兩者。
- 如請求項39所述之顯示器,其中該顯示重映射包括下列之一或更多者:一強度重映射,一亮度重映射,一解析度重映射, 一長寬比重映射,一顏色重映射,或一內容深度重映射。
- 如請求項1所述之顯示器,其中:該處理電路系統經進一步配置以基於最近圖框修改由該處理電路系統將進行以修改該一或更多資料串流的該等任務,修改該等任務乃藉由將該等任務針對當前場景內容作調適,及當該等經修改任務包括內插時,該內插包括空間內插、角內插、或時間內插中之一或更多者。
- 如請求項1所述之顯示器,其中:該一或更多資料串流包括多個圖框,及將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括藉由隨時間合併及對齊該多個圖框來對一場景的一持久3D模型的估算。
- 如請求項1所述之顯示器,其中:該一或更多資料串流包括多個圖框,及將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括藉由隨時間合併來自該多個圖框的視覺細節來估算一場景的一較高解析度模型。
- 如請求項1所述之顯示器,其中:該一或更多資料串流包括視訊,及 該處理電路系統經進一步配置以藉由測量在該視訊中之場景內容或視圖中之一或兩者中所發生的一視覺變化幅度,來偵測該視訊中的剪輯或跳躍中之一或兩者。
- 如請求項1所述之顯示器,其中:該一或更多資料串流包括多個場景,及該處理電路系統經配置以維持關聯於先前顯示場景的特徵、權重、或資訊中之一或更多者。
- 如請求項1所述之顯示器,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括針對來自該一或更多資料串流之2D影像或視訊的多個圖框估算深度資訊。
- 如請求項1所述之顯示器,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括合成額外像素資料,該合成乃藉由下列之一或更多者來增加該像素資料:空間解析度,角解析度,時間解析度,位元深度、動態範圍、或兩者,像素通道,包括顏色、深度、光譜取樣、或透明度,方向性資料,或 顯著性或重要性權重。
- 如請求項1所述之顯示器,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一些任務經配置以基於該一或更多顯示器的一架構及性能來調適該一或更多資料串流中的內容,該些性能包括可得的空間解析度、可得的角解析度、刷新率、色域、或動態範圍中一或更多者,該等任務中的該至少一些任務包括下列之一或更多者:強度處理,顏色處理,白平衡,視圖交錯,色調映射,或校正顯示器光件。
- 如請求項1所述之顯示器,其中該一或更多顯示器經校準以測量顯示器性能及像素強度、色域、刷新率、或動態範圍中一或更多者之中的變異,其中該校準是在製造該顯示器之期間或在操作該顯示器之期間進行的。
- 如請求項1所述之顯示器,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務經選擇地套用至該像素陣列中之該等像素的一或更 多個子集合,該一或更多個子集合為空間子集合、角度子集合、或時間子集合。
- 如請求項1所述之顯示器,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一些任務經配置以分析多個圖框,該等任務中之該至少一些任務包括追蹤跨於視訊內容中之圖框的運動。
- 如請求項1所述之顯示器,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一任務是至少部分地基於對於相對於該一或更多顯示器的一或更多使用者位置的一估算,該使用者位置是藉由2D或3D頭部位置資訊、2D或3D眼部位置資訊、頭部定向資訊、眼部定向資訊、注視方向、或以上之組合指示。
- 如請求項1所述之顯示器,其中該顯示器的性能包括下列之一或更多者:超高解析度性能,或高動態範圍性能。
- 如請求項63所述之顯示器,其中超高解析度性能包括支援8K及更高的解析度。
- 一種用於處理一顯示器上之至少一個資料串流的方法,該顯示器支援多個視圖,該顯示器包括 用於製造光線的一像素陣列、與該像素陣列電性耦合的一背板、及與該背板電性耦合的處理電路系統,該方法包含下列步驟:在該處理電路系統處接收一資料串流;從該處理電路系統所支援的複數個操作模式中選出一操作模式,該複數個操作模式中之各操作模式界定產生一特定視圖的光線,以及該處理電路系統將進行以供修改該資料串流的任務,來產生該特定視圖;按照經選出的該操作模式,處理該資料串流以獲得一經修改資料串流;及經由該背板的一電路配置提供代表該經修改資料串流的發信到該像素陣列,以供該像素陣列產生該特定視圖,其中該複數個操作模式是利用一神經網路架構實施的。
- 如請求項65所述之方法,其中該處理電路系統支援一或更多操作模式,且該一或更多操作模式包括下列之一或更多者:一第一操作模式,在該第一操作模式中針對該一或更多顯示器的全部觀看者產生一單一視圖,一第二操作模式,在該第二操作模式中針對該一或更多顯示器的各觀看者產生一不同視圖, 一第三操作模式,在該第三操作模式中針對該一或更多顯示器的一或更多觀看者中之各者產生多個視圖,一第四操作模式,在該第四操作模式中針對該一或更多顯示器的一或更多觀看者中之各者產生一或更多個視圖,或一第五操作模式,在該第五操作模式中針對該一或更多顯示器的一或更多觀看者產生一單一視圖,而針對該一或更多顯示器的每個其餘觀看者產生一或更多個視圖。
- 如請求項65所述之方法,其中該一或更多個背板的該電路配置是一邏輯安排,該邏輯安排經配置以將關聯於該經修改一或更多資料串流的該發信分配至該一或更多像素陣列的經指定部分。
- 如請求項65所述之方法,其中處理該資料串流的步驟包含下列步驟:在以下之至少一者期間設定該神經網路架構的多個權重:該顯示器之製造、該顯示器之操作、該資料串流之接收、及作為該資料串流之部分的一軟體更新之接收。
- 如請求項68所述之方法,其中設定該神經網路架構之多個權重的步驟包含下列步驟:將該神經網路架構的多個權重硬編碼(hard code)在該處理 電路系統中。
- 如請求項65所述之方法,其中處理該資料串流的步驟包含基於下列之至少一者來調整該神經網路架構的多個權重:該資料串流、該資料串流中的一內容、經選出的該操作模式、及該顯示器的一輸出模式。
- 如請求項65所述之方法,其中該神經網路架構包括下列至少一者:一卷積層,一完全連接層,一匯集層,一上取樣層,一下取樣層,一跳過連接或一殘餘連接,一密集連接,一反饋連接,一稀疏連接層,一長期或短期記憶體單元,及一遞歸連接。
- 如請求項65所述之方法,其中該神經網路架構包括多個串接神經網路。
- 如請求項65所述之方法,其中該神經網路 架構包括多個神經網路,及其中該多個神經網路之每一神經網路進行一不同任務以修改該資料串流。
- 如請求項65所述之方法,其中該一或更多個資料串流中至少一者包括真實世界內容、合成資料、或以上兩者的一表示,當該表示被該處理電路系統修改時產生信號,該些信號經由該一或更多個背板的該電路配置被提供至該一或更多像素陣列以貢獻將生成該一或更多特定視圖的該些光線。
- 如請求項65所述之方法,其中該一或更多個資料串流包括下列之一或更多者:一二維(2D)影像或一2D視訊,多色影像或多色視訊,具有深度資訊的多色影像或多色視訊,包括一或更多深度圖的深度資訊,光場或光場視訊,多個圖框,射線或射線束,射線或射線束的一或多個序列,感測資料,音訊資料,來自該一或更多顯示器的顯示環境之亮度、顏色、或兩者,或 對於相對於該一或更多顯示器的一觀看者位置、一觀看者頭部定向、或一觀看者注視方向的一估計值。
- 如請求項75所述之方法,其中該深度資訊包括下列之一或更多者:用於一資料來源中之一個顏色串流的深度資訊,用於一資料來源中之多個顏色串流的深度資訊,或用於一資料來源中之全部顏色串流的深度資訊。
- 如請求項65所述之方法,其中該一或更多資料串流包括關聯於該一或更多像素陣列中之該等像素的通道,各通道包括下列之一或更多者:一或更多顏色,深度,透明度,內嵌特徵,影像切割及標示,方向性資料,或顯著性或重要性權重。
- 如請求項65所述之方法,其中該一或更多資料串流包括場景描述,該場景描述為下列之一或更多者:2D或3D物件,材質屬性, 打光,攝影機參數,使用者或觀看者位置,時間碼,高階影像特徵,影像切割或標示,或內容描述。
- 如請求項65所述之方法,其中該一或更多資料串流包括下列之一或更多者:一或更多影像,代表觀看位置或眼部位置的影像,代表眼部位置的一或更多個立體像對,對觀看位置或眼部位置的規律或不規律取樣,或一或更多個光場。
- 如請求項65所述之方法,其中壓縮該一或更多資料串流。
- 如請求項65所述之方法,其中未壓縮該一或更多資料串流。
- 如請求項65所述之方法,其中該一或更多資料串流包括來自該一或更多顯示器中一或更多個感測器的資訊,該資訊包括下列之一或更多者:對該顯示環境中之亮度及顏色的光感測器記錄, 對該一或更多顯示器周圍的環境、使用者、或兩者的攝影機視圖,對該一或更多顯示器周圍的環境、使用者、或兩者的麥克風記錄,或使用者輸入及偏好。
- 如請求項65所述之方法,其中修改該一或更多資料串流之步驟包括產生下列之一或更多者:一二維(2D)影像或一2D視訊,具有深度資訊的多色影像或多色視訊,立體影像或立體視訊,射線或射線束,射線或射線束的一或多個序列,光場或光場視訊,或具有對一3D場景之多個多色視圖的光場或光場視訊。
- 如請求項65所述之方法,其中該經修改一或更多資料串流包括關聯於該一或更多像素陣列中之該等像素的通道,各通道包括下列之一或更多者:一或更多顏色,深度,透明度,內嵌特徵, 影像切割及標示,方向性資料,或顯著性或重要性權重。
- 如請求項65所述之方法,其中該經修改一或更多資料串流包括場景描述,該場景描述為下列之一或更多者:2D或3D物件,材質屬性,打光,攝影機參數,使用者或觀看者位置,時間碼,高階影像特徵,影像切割或標示,或內容描述。
- 如請求項65所述之方法,其中該經修改一或更多資料串流包括下列之一或更多者:一或更多影像,代表觀看位置或眼部位置的影像,代表眼部位置的一或更多個立體像對,對觀看位置或眼部位置的規律或不規律取樣,或一或更多個光場。
- 如請求項65所述之方法,其中壓縮該經修改一或更多資料串流。
- 如請求項65所述之方法,其中未壓縮該經修改一或更多資料串流。
- 如請求項65所述之方法,其中藉由該處理電路系統進行該等任務以修改該一或更多資料串流的步驟包括進行下列之一或更多者:轉換成具有比一原始像素個數更高之一總像素個數的一較高解析度,或比起一原始像素密度更高的一像素密度,藉由外推一範圍超出一原始範圍來產生一更高動態範圍,產生具有深度資訊的多色影像或多色視訊,產生一立體影像或立體視訊,產生一3D場景的一或多個多色視圖,產生一3D場景的額外多色視圖,藉由合併來自多個圖框的視覺細節來估計一場景的一較高解析度模型,或藉由測量在視訊中之場景內容或視圖中一或兩者中所發生的一視覺變化幅度,來偵測該視訊中的剪輯或跳躍中之一或兩者。
- 如請求項89所述之方法,其中產生一3D 場景的一或多個多色視圖的步驟進一步包括進行下列之一或更多者:一視圖合成操作,一破洞填補操作,一超解析度操作,一深度調整操作,藉由注視點渲染(foveated rendering)的一頻寬控制,或一低動態範圍(LDR)到高動態範圍(HDR)轉換。
- 如請求項65所述之方法,其中藉由該處理電路系統進行該等任務以修改該一或更多資料串流的步驟包括進行下列之一或更多者:內容分類,對應,內插及超解析度,顯示重映射,使用者追蹤,轉換成多視圖,深度估算,影像切割,或對場景屬性的估算。
- 如請求項91所述之方法,其中進行該內容 分類的步驟包括提供維度降低以分類個別像素、2D特徵、3D特徵、影像類型、或以上之組合。
- 如請求項91所述之方法,其中進行該內容分類的步驟包括:將該一或更多資料串流中的內容分類,回應於該分類而從該處理電路系統可存取的具多個權重的不同集合動態地加載具多個權重的一唯一集合,以及利用具多個權重的該唯一集合在該處理電路系統中實施一或更多個處理網路。
- 如請求項91所述之方法,其中進行顯示重映射的步驟包括進行下列之一或更多者:一強度重映射,一亮度重映射,一解析度重映射,一長寬比重映射,一顏色重映射,或一內容深度重映射。
- 如請求項91所述之方法,其中進行顯示重映射的步驟包括進行一深度重映射,該深度重映射提供對內插及超解析度之內插部分中權重的調整,以利用一或更多個感知度量將影像強度及視差彎曲(warp)來調適於一顯示深度預算內。
- 如請求項91所述之方法,其中進行顯示重 映射的步驟包括進行一深度重映射或一視差重映射,該深度重映射在可取得深度資訊時適用,該視差重映射在無法取得深度資訊時適用。
- 如請求項96所述之方法,其中該視差重映射是結合立體影像或立體視訊使用的。
- 如請求項91所述之方法,進一步包含將該視差重映射轉換成深度資訊。
- 如請求項91所述之方法,其中:該顯示重映射是基於一或更多個重映射參數,該一或更多個重映射參數關聯於該一或更多顯示器的參數或該一或更多顯示器的功能中之一或兩者,及該一或更多顯示器的參數或該一或更多顯示器的功能中之一或兩者包括下列之一或更多者:空間解析度、角解析度、動態範圍、或視野。
- 如請求項91所述之方法,其中進行該內容分類的步驟提供基於一或更多準則對該一或更多資料串流中的資料的分類,及該方法進一步包括:藉由該處理電路系統,回應於該分類而動態地更新將由該處理電路系統進行以修改該一或更多資料串流的該等任務。
- 如請求項91所述之方法,其中進行該內插及超解析度的步驟提供一2D到3D轉換或一LDR到 HDR轉換中之一或兩者。
- 如請求項91所述之方法,其中進行顯示重映射的步驟包括進行下列之一或更多者:一強度重映射,一亮度重映射,一解析度重映射,一長寬比重映射,一顏色重映射,或一內容深度重映射。
- 如請求項65所述之方法,進一步包含基於最近圖框來修改將由該處理電路系統進行以修改該一或更多資料串流的該等任務,修改該等任務乃藉由將該等任務針對當前場景內容作調適,及當該等經修改任務包括內插時,該內插包括空間內插、角內插、或時間內插中之一或更多者。
- 如請求項65所述之方法,其中:該一或更多資料串流包括多個圖框,及將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括藉由隨時間合併及對齊該多個圖框來對一場景的一持久3D模型的估算。
- 如請求項65所述之方法,其中:該一或更多資料串流包括多個圖框,及 將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括藉由隨時間合併來自該多個圖框的視覺細節來估算一場景的一較高解析度模型。
- 如請求項65所述之方法,其中:該一或更多資料串流包括視訊,及該方法進一步包含:由該處理電路系統,藉由測量在該視訊中之場景內容或視圖中之一或兩者中所發生的一視覺變化幅度,來偵測該視訊中的剪輯或跳躍中之一或兩者。
- 如請求項65所述之方法,其中:該一或更多資料串流包括多個場景,及該方法進一步包含:由該處理電路系統,維持關聯於先前顯示場景的特徵、權重、或資訊中之一或更多者。
- 如請求項65所述之方法,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括針對來自該一或更多資料串流之2D影像或視訊的多個圖框估算深度資訊。
- 如請求項65所述之方法,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務包括合成額外像素資料,該合成乃藉由下列之一或更多者來增加該像素資料: 空間解析度,角解析度,時間解析度,位元深度、動態範圍、或兩者,像素通道,包括顏色、深度、光譜取樣、或透明度,方向性資料,或顯著性或重要性權重。
- 如請求項65所述之方法,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一些任務包括基於該一或更多顯示器的一架構及性能來調適該一或更多資料串流中的內容,該些性能包括可得的空間解析度、可得的角解析度、刷新率、色域、或動態範圍中一或更多者,該等任務中的該至少一些任務包括下列之一或更多者:強度處理,顏色處理,白平衡,視圖交錯,色調映射,或校正顯示器光件。
- 如請求項65所述之方法,進一步包含下列步驟:藉由該一或更多顯示器,校準對顯示器性能及 像素強度、色域、刷新率、或動態範圍中一或更多者之中的變異的測量,其中該校準是在製造該一或更多顯示器之期間或在操作該一或更多顯示器之期間進行的。
- 如請求項65所述之方法,進一步包含:選擇性地對該像素陣列中之該等像素的一或更多個子集合套用將由該處理電路系統進行以修改該一或更多資料串流的該等任務,該一或更多個子集合為空間子集合、角度子集合、或時間子集合。
- 如請求項65所述之方法,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一些任務經配置以分析多個圖框,該等任務中之該至少一些任務包括追蹤跨於視訊內容中之圖框的運動。
- 如請求項65所述之方法,其中將由該處理電路系統進行以修改該一或更多資料串流的該等任務中至少一任務是至少部分地根據對於相對於該一或更多顯示器的一或更多使用者位置的一估算,該使用者位置是藉由2D或3D頭部位置資訊、2D或3D眼部位置資訊、頭部定向資訊、眼部定向資訊、注視方向、或以上之組合指示。
- 一種經配置以支援多個視圖的顯示器,包 含:經配置以產生光線的一像素陣列;一背板,該背板與該像素陣列電性耦合;及處理電路系統,該處理電路系統與該背板電性耦合,其中該處理電路系統包括一神經網路架構,該神經網路架構經配置以處理接收於該顯示器處的一輸入資料串流,其中該處理電路系統經配置以支援複數個操作模式,該複數個操作模式界定產生一特定視圖的一特定光線集合,以及將由該神經網路架構進行以修改該輸入資料串流的任務,來產生該特定視圖,其中該處理電路系統進一步經配置以:接收該輸入資料串流,按照該輸入資料串流,從該複數個操作模式中選出一特定操作模式,按照該特定操作模式,處理該輸入資料串流以產生一輸出資料串流,及經由該背板向該像素陣列提供代表該輸出資料串流的發信,其中該像素陣列經配置以貢獻該特定光線集合來產生該特定視圖。
- 如請求項115所述之顯示器,其中該顯示 器經配置為由複數個觀看者觀看,及其中該複數個操作模式包括下列之至少一者:一第一操作模式,在該第一操作模式中針對該複數個觀看者產生一單一視圖,一第二操作模式,在該第二操作模式中針對該複數個觀看者的每一觀看者產生一不同視圖,及一第三操作模式,在該第三操作模式中針對該複數個觀看者的每一觀看者產生多個視圖。
- 如請求項115所述之顯示器,其中該神經網路架構包括經儲存在該顯示器之該處理電路系統中的多個權重,及其中該處理電路系統經進一步配置以按照儲存其中的該多個權重中之至少一者來修改該輸入資料串流。
- 如請求項115所述之顯示器,其中該像素陣列內的不同像素產生朝不同方向導向的光線。
- 如請求項115所述之顯示器,其中該像素陣列產生包含至少兩不同顏色的光線。
- 如請求項115所述之顯示器,其中該處理電路系統包括下列至少一者:應用特定積體電路、現場可程式化閘陣列、可程式化積體電路、中央處理單元、圖形處理單元、張量處理單元、神經網路積體電路、視覺處理單元、或神經形態處理器。
- 如請求項115所述之顯示器,其中該處理電路系統包括跨於該背板分佈的電晶體層級電路系統。
- 如請求項121所述之顯示器,其中該電晶體層級電路系統經形成在與該背板相同的一基板上。
- 如請求項115所述之顯示器,其中該輸入資料串流包括真實世界內容及合成資料中的至少一者。
- 如請求項115所述之顯示器,其中該輸入資料串流包括下列至少一者:一二維(2D)影像一2D視訊,一多色影像,一多色視訊,深度資訊,一深度圖,一光場影像,一光場視訊,感測資料,音訊資料,亮度資料,顯示器環境資料的顏色, 對於相對於該顯示器的一觀看者位置的一估計值,觀看者頭部定向資料,及觀看者注視方向資料。
- 如請求項115所述之顯示器,其中該處理電路系統經配置以藉由進行下列至少一者來處理該輸入資料串流:內容分類,對應,內插,顯示重映射,使用者追蹤,轉換成多視圖,深度估算,影像切割,對場景屬性的估算,視圖合成,破洞填補,超解析度,深度調整,藉由注視點渲染的頻寬控制,及低動態範圍到高動態範圍(LDR到HDR)轉換。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862693607P | 2018-07-03 | 2018-07-03 | |
US62/693,607 | 2018-07-03 | ||
US16/460,880 US10951875B2 (en) | 2018-07-03 | 2019-07-02 | Display processing circuitry |
US16/460,880 | 2019-07-02 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW202014876A TW202014876A (zh) | 2020-04-16 |
TWI786310B true TWI786310B (zh) | 2022-12-11 |
Family
ID=67470662
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW108123428A TWI786310B (zh) | 2018-07-03 | 2019-07-03 | 支援多個視圖的顯示器以及用於該顯示器的方法 |
Country Status (7)
Country | Link |
---|---|
US (2) | US10951875B2 (zh) |
EP (1) | EP3818515A2 (zh) |
JP (2) | JP7247336B2 (zh) |
KR (2) | KR102656507B1 (zh) |
CN (1) | CN112585669A (zh) |
TW (1) | TWI786310B (zh) |
WO (1) | WO2020010183A2 (zh) |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10891715B2 (en) * | 2017-09-22 | 2021-01-12 | Continental Automotive Systems, Inc. | Deep neural network for image enhancement |
US10951875B2 (en) | 2018-07-03 | 2021-03-16 | Raxium, Inc. | Display processing circuitry |
US11514298B2 (en) * | 2018-10-31 | 2022-11-29 | International Business Machines Corporation | High-frame-rate real-time multiscale spatiotemporal disparity on distributed low-power event-based neuromorphic hardware |
US10929954B2 (en) * | 2019-01-25 | 2021-02-23 | Qualcomm Incorporated | Methods and apparatus for inline chromatic aberration correction |
US11436743B2 (en) | 2019-07-06 | 2022-09-06 | Toyota Research Institute, Inc. | Systems and methods for semi-supervised depth estimation according to an arbitrary camera |
TWI768282B (zh) * | 2020-01-15 | 2022-06-21 | 宏碁股份有限公司 | 光源資訊預測模型建立方法與系統 |
US11652972B2 (en) | 2020-03-04 | 2023-05-16 | Toyota Research Institute, Inc. | Systems and methods for self-supervised depth estimation according to an arbitrary camera |
CN116075883A (zh) * | 2020-06-24 | 2023-05-05 | 乐金显示有限公司 | 显示装置、用于补偿其数据信号的方法及用于生成基于深度学习的补偿模型的方法 |
US11869137B2 (en) * | 2020-07-07 | 2024-01-09 | Inha University Research And Business Foundation | Method and apparatus for virtual space constructing based on stackable light field |
CN111932464B (zh) * | 2020-09-18 | 2024-03-29 | 北京百度网讯科技有限公司 | 超分辨率模型使用和训练方法、装置、设备及介质 |
CN112581366B (zh) * | 2020-11-30 | 2022-05-20 | 黑龙江大学 | 一种便携式图像超分辨***及***构建方法 |
US20230419891A1 (en) * | 2020-12-06 | 2023-12-28 | Semiconductor Energy Laboratory Co., Ltd. | Display system and electronic device |
JP2024500230A (ja) * | 2020-12-21 | 2024-01-05 | グーグル エルエルシー | オートビュー3dディスプレイ用の高密度画素アレイ |
CN114935971A (zh) * | 2021-02-05 | 2022-08-23 | 京东方科技集团股份有限公司 | 显示驱动芯片、显示装置和显示驱动方法 |
WO2022216309A1 (en) * | 2021-04-04 | 2022-10-13 | Innopeak Technology, Inc. | Novel view synthesis with neural light field |
US11688365B2 (en) | 2021-04-26 | 2023-06-27 | Apple Inc. | Synchronous display pipeline systems and methods |
CN112988203B (zh) * | 2021-05-18 | 2021-10-22 | 广州朗国电子科技股份有限公司 | 一种拼接屏驱动板升级方法及拼接屏 |
KR20230010156A (ko) | 2021-07-09 | 2023-01-18 | 삼성디스플레이 주식회사 | 표시 장치 |
US20230171374A1 (en) * | 2021-11-29 | 2023-06-01 | Novatek Microelectronics Corp. | Screen control system |
CN114327337B (zh) * | 2021-12-28 | 2023-08-18 | 威创集团股份有限公司 | 显示模式的配置和开窗方法、装置、拼接屏、介质和设备 |
TWI806677B (zh) * | 2022-06-23 | 2023-06-21 | 瑞昱半導體股份有限公司 | 電子系統以及播放方法 |
US11967291B1 (en) * | 2022-08-02 | 2024-04-23 | Apple Inc. | Using content type to select brightness in direct-lit backlight units |
EP4390916A2 (en) * | 2022-12-19 | 2024-06-26 | Stereyo BV | Active matrix display, system, and method |
CN116484269B (zh) * | 2023-06-25 | 2023-09-01 | 深圳市彤兴电子有限公司 | 显示屏模组的参数处理方法、装置、设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201608281A (zh) * | 2014-05-30 | 2016-03-01 | 新力電腦娛樂美國有限責任公司 | 用於呈現虛擬現實內容的具有與行動計算設備介接之介面的頭戴式設備(hmd)系統 |
US9448459B2 (en) * | 2009-10-30 | 2016-09-20 | Koninklijke Philips N.V. | Multiview display device |
US20160301918A1 (en) * | 2015-04-07 | 2016-10-13 | Samsung Electronics Co., Ltd. | Display device and method of controlling the same |
US20160301921A1 (en) * | 2014-04-11 | 2016-10-13 | Boe Technology Group Co., Ltd. | Grating structure, display device and display mode switching method |
Family Cites Families (192)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US2403731A (en) | 1943-04-01 | 1946-07-09 | Eastman Kodak Co | Beam splitter |
US3936817A (en) | 1974-06-06 | 1976-02-03 | Sidney Levy | Thermoelectric display device |
EP0034796B1 (en) | 1980-02-22 | 1987-09-16 | Kabushiki Kaisha Toshiba | Liquid crystal display device |
US4923285A (en) | 1985-04-22 | 1990-05-08 | Canon Kabushiki Kaisha | Drive apparatus having a temperature detector |
US4825201A (en) | 1985-10-01 | 1989-04-25 | Mitsubishi Denki Kabushiki Kaisha | Display device with panels compared to form correction signals |
US5189406A (en) | 1986-09-20 | 1993-02-23 | Thorn Emi Plc | Display device |
JPH079560B2 (ja) | 1988-07-08 | 1995-02-01 | 工業技術院長 | マッチドフィルタリング方法 |
US5157387A (en) | 1988-09-07 | 1992-10-20 | Seiko Epson Corporation | Method and apparatus for activating a liquid crystal display |
US4996523A (en) | 1988-10-20 | 1991-02-26 | Eastman Kodak Company | Electroluminescent storage display with improved intensity driver circuits |
DE69022891T2 (de) | 1989-06-15 | 1996-05-15 | Matsushita Electric Ind Co Ltd | Gerät zur Kompensierung von Videosignalen. |
TW227005B (zh) | 1990-11-14 | 1994-07-21 | Hoechst Ag | |
JP2932686B2 (ja) | 1990-11-28 | 1999-08-09 | 日本電気株式会社 | プラズマディスプレイパネルの駆動方法 |
US5144418A (en) | 1990-12-18 | 1992-09-01 | General Electric Company | Crystal stabilization of amplitude of light valve horizontal sweep |
NL9002808A (nl) | 1990-12-19 | 1992-07-16 | Philips Nv | Inrichting ten behoeve van projectieweergave. |
US5548347A (en) | 1990-12-27 | 1996-08-20 | Philips Electronics North America Corporation | Single panel color projection video display having improved scanning |
JP2829149B2 (ja) | 1991-04-10 | 1998-11-25 | シャープ株式会社 | 液晶表示装置 |
JP3230755B2 (ja) | 1991-11-01 | 2001-11-19 | 富士写真フイルム株式会社 | 平面型表示デバイスのマトリックス駆動方法 |
US5473338A (en) | 1993-06-16 | 1995-12-05 | In Focus Systems, Inc. | Addressing method and system having minimal crosstalk effects |
US5349379A (en) | 1992-09-09 | 1994-09-20 | Dimension Technologies Inc. | Autostereoscopic display illumination system allowing viewing zones to follow the observer's head |
ATE261168T1 (de) | 1992-10-15 | 2004-03-15 | Texas Instruments Inc | Anzeigevorrichtung |
US5471225A (en) | 1993-04-28 | 1995-11-28 | Dell Usa, L.P. | Liquid crystal display with integrated frame buffer |
JP3102666B2 (ja) | 1993-06-28 | 2000-10-23 | シャープ株式会社 | 画像表示装置 |
US5537128A (en) | 1993-08-04 | 1996-07-16 | Cirrus Logic, Inc. | Shared memory for split-panel LCD display systems |
JP2639311B2 (ja) | 1993-08-09 | 1997-08-13 | 日本電気株式会社 | プラズマディスプレイパネルの駆動方法 |
CA2137723C (en) | 1993-12-14 | 1996-11-26 | Canon Kabushiki Kaisha | Display apparatus |
JP3476241B2 (ja) | 1994-02-25 | 2003-12-10 | 株式会社半導体エネルギー研究所 | アクティブマトリクス型表示装置の表示方法 |
GB9407116D0 (en) | 1994-04-11 | 1994-06-01 | Secr Defence | Ferroelectric liquid crystal display with greyscale |
US5936604A (en) | 1994-04-21 | 1999-08-10 | Casio Computer Co., Ltd. | Color liquid crystal display apparatus and method for driving the same |
US5497172A (en) | 1994-06-13 | 1996-03-05 | Texas Instruments Incorporated | Pulse width modulation for spatial light modulator with split reset addressing |
US5619228A (en) | 1994-07-25 | 1997-04-08 | Texas Instruments Incorporated | Method for reducing temporal artifacts in digital video systems |
FR2726670A1 (fr) | 1994-11-09 | 1996-05-10 | Fast France Adv Sys Tech Sarl | Systeme de traitement de l'information utilisant la television dans un reseau de type numerique ou analogique |
US5757348A (en) | 1994-12-22 | 1998-05-26 | Displaytech, Inc. | Active matrix liquid crystal image generator with hybrid writing scheme |
JPH08234703A (ja) | 1995-02-28 | 1996-09-13 | Sony Corp | 表示装置 |
US5751264A (en) | 1995-06-27 | 1998-05-12 | Philips Electronics North America Corporation | Distributed duty-cycle operation of digital light-modulators |
US5959598A (en) | 1995-07-20 | 1999-09-28 | The Regents Of The University Of Colorado | Pixel buffer circuits for implementing improved methods of displaying grey-scale or color images |
US6201521B1 (en) | 1995-09-29 | 2001-03-13 | Texas Instruments Incorporated | Divided reset for addressing spatial light modulator |
JP3834086B2 (ja) | 1995-11-06 | 2006-10-18 | シャープ株式会社 | マトリックス型表示装置およびその駆動方法 |
US5945972A (en) | 1995-11-30 | 1999-08-31 | Kabushiki Kaisha Toshiba | Display device |
US5936603A (en) | 1996-01-29 | 1999-08-10 | Delco Electronics Corporation | Liquid crystal display with temperature compensated voltage |
US5731802A (en) | 1996-04-22 | 1998-03-24 | Silicon Light Machines | Time-interleaved bit-plane, pulse-width-modulation digital display system |
US6127991A (en) | 1996-11-12 | 2000-10-03 | Sanyo Electric Co., Ltd. | Method of driving flat panel display apparatus for multi-gradation display |
JPH10164750A (ja) | 1996-11-26 | 1998-06-19 | Nec Corp | 出力電圧可変方式 |
US6046716A (en) | 1996-12-19 | 2000-04-04 | Colorado Microdisplay, Inc. | Display system having electrode modulation to alter a state of an electro-optic layer |
US5926162A (en) | 1996-12-31 | 1999-07-20 | Honeywell, Inc. | Common electrode voltage driving circuit for a liquid crystal display |
US6020687A (en) | 1997-03-18 | 2000-02-01 | Fujitsu Limited | Method for driving a plasma display panel |
US6369782B2 (en) | 1997-04-26 | 2002-04-09 | Pioneer Electric Corporation | Method for driving a plasma display panel |
JP3750889B2 (ja) | 1997-07-02 | 2006-03-01 | パイオニア株式会社 | ディスプレイパネルの中間調表示方法 |
GB2327798B (en) | 1997-07-23 | 2001-08-29 | Sharp Kk | Display device using time division grey scale display method |
US6518945B1 (en) | 1997-07-25 | 2003-02-11 | Aurora Systems, Inc. | Replacing defective circuit elements by column and row shifting in a flat-panel display |
US6144356A (en) | 1997-11-14 | 2000-11-07 | Aurora Systems, Inc. | System and method for data planarization |
JP3279238B2 (ja) | 1997-12-01 | 2002-04-30 | 株式会社日立製作所 | 液晶表示装置 |
US6034659A (en) | 1998-02-02 | 2000-03-07 | Wald; Steven F. | Active matrix electroluminescent grey scale display |
US6151011A (en) | 1998-02-27 | 2000-11-21 | Aurora Systems, Inc. | System and method for using compound data words to reduce the data phase difference between adjacent pixel electrodes |
KR100624042B1 (ko) | 1998-05-04 | 2006-09-18 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 디스플레이 장치 |
US6005558A (en) | 1998-05-08 | 1999-12-21 | Aurora Systems, Inc. | Display with multiplexed pixels for achieving modulation between saturation and threshold voltages |
US6067065A (en) | 1998-05-08 | 2000-05-23 | Aurora Systems, Inc. | Method for modulating a multiplexed pixel display |
US6285360B1 (en) | 1998-05-08 | 2001-09-04 | Aurora Systems, Inc. | Redundant row decoder |
US6121948A (en) | 1998-05-08 | 2000-09-19 | Aurora Systems, Inc. | System and method for reducing inter-pixel distortion by dynamic redefinition of display segment boundaries |
CN1196091C (zh) | 1998-07-10 | 2005-04-06 | 奥龙电子有限公司 | 用于产生灰度分级的交流等离子体显示板驱动方法 |
JP2994632B1 (ja) | 1998-09-25 | 1999-12-27 | 松下電器産業株式会社 | 発光中心変動防止のためのpdp表示の駆動パルス制御装置 |
US6262703B1 (en) | 1998-11-18 | 2001-07-17 | Agilent Technologies, Inc. | Pixel cell with integrated DC balance circuit |
GB9827944D0 (en) | 1998-12-19 | 1999-02-10 | Secr Defence | Displays based on multiple digital bit planes |
GB9827964D0 (en) | 1998-12-19 | 1999-02-10 | Secr Defence | Active backplane circuitry |
KR100375806B1 (ko) | 1999-02-01 | 2003-03-15 | 가부시끼가이샤 도시바 | 색 얼룩 보정 장치 및 휘도 얼룩 보정 장치 |
US6567138B1 (en) | 1999-02-15 | 2003-05-20 | Rainbow Displays, Inc. | Method for assembling a tiled, flat-panel microdisplay array having imperceptible seams |
JP2000322024A (ja) | 1999-05-11 | 2000-11-24 | Nec Corp | プラズマディスプレイ駆動方法及び駆動装置 |
WO2000070376A1 (en) | 1999-05-14 | 2000-11-23 | Colorlink, Inc. | Optical system for producing a modulated color image |
US6642915B1 (en) | 1999-07-13 | 2003-11-04 | Intel Corporation | Display panel |
US7379039B2 (en) | 1999-07-14 | 2008-05-27 | Sony Corporation | Current drive circuit and display device using same pixel circuit, and drive method |
JP3665515B2 (ja) | 1999-08-26 | 2005-06-29 | セイコーエプソン株式会社 | 画像表示装置 |
GB2354099B (en) | 1999-09-09 | 2003-09-10 | Sony Uk Ltd | Image identification apparatus and method of identifying images |
JP3433406B2 (ja) | 1999-10-18 | 2003-08-04 | インターナショナル・ビジネス・マシーンズ・コーポレーション | ホワイトポイント調整方法、カラー画像処理方法、ホワイトポイント調整装置、および液晶表示装置 |
JP3606138B2 (ja) | 1999-11-05 | 2005-01-05 | セイコーエプソン株式会社 | ドライバic、電気光学装置及び電子機器 |
US6771325B1 (en) | 1999-11-05 | 2004-08-03 | Texas Instruments Incorporated | Color recapture for display systems |
JP3840856B2 (ja) | 1999-11-10 | 2006-11-01 | セイコーエプソン株式会社 | 液晶パネルの駆動方法、液晶装置および電子機器 |
EP1229510B1 (en) | 1999-12-27 | 2012-04-25 | Toshiba Mobile Display Co., Ltd | Liquid crystal display apparatus and method for driving the same by performing a transition from an initial state to a display state |
WO2001052229A1 (fr) | 2000-01-14 | 2001-07-19 | Matsushita Electric Industrial Co., Ltd. | Appareil d'affichage a matrice active et procede de commande correspondant |
EP1166258A1 (en) | 2000-01-31 | 2002-01-02 | Three-Five Systems, Inc. | Methods and apparatus for driving a display |
JP3558959B2 (ja) | 2000-05-25 | 2004-08-25 | シャープ株式会社 | 温度検出回路およびそれを用いる液晶駆動装置 |
JP3769463B2 (ja) | 2000-07-06 | 2006-04-26 | 株式会社日立製作所 | 表示装置、表示装置を備えた画像再生装置及びその駆動方法 |
WO2002011426A1 (en) | 2000-07-28 | 2002-02-07 | Smal Camera Technologies, Inc. | Precise mos imager transfer function control for expanded dynamic range imaging |
JP3664059B2 (ja) | 2000-09-06 | 2005-06-22 | セイコーエプソン株式会社 | 電気光学装置の駆動方法、駆動回路及び電気光学装置並びに電子機器 |
TW482991B (en) | 2000-09-13 | 2002-04-11 | Acer Display Tech Inc | Power-saving driving circuit for plasma display panel |
GB2367413A (en) | 2000-09-28 | 2002-04-03 | Seiko Epson Corp | Organic electroluminescent display device |
US7184014B2 (en) | 2000-10-05 | 2007-02-27 | Semiconductor Energy Laboratory Co., Ltd. | Liquid crystal display device |
JP2002116741A (ja) | 2000-10-10 | 2002-04-19 | Optrex Corp | 液晶表示素子の表示輝度の調整方法および液晶表示装置 |
JP4552069B2 (ja) | 2001-01-04 | 2010-09-29 | 株式会社日立製作所 | 画像表示装置およびその駆動方法 |
JP2002215095A (ja) | 2001-01-22 | 2002-07-31 | Pioneer Electronic Corp | 発光ディスプレイの画素駆動回路 |
JP2002244202A (ja) | 2001-02-14 | 2002-08-30 | Sony Corp | 液晶プロジェクタ装置および液晶プロジェクタ装置の駆動方法 |
JP4663896B2 (ja) | 2001-03-30 | 2011-04-06 | 株式会社日立製作所 | 液晶表示装置 |
US6690432B2 (en) | 2001-04-12 | 2004-02-10 | Koninklijke Philips Electronics N.V. | Alignment of the optical and the electrical scan in a scrolling color projector |
US6744415B2 (en) | 2001-07-25 | 2004-06-01 | Brillian Corporation | System and method for providing voltages for a liquid crystal display |
US7576734B2 (en) | 2001-10-30 | 2009-08-18 | Semiconductor Energy Laboratory Co., Ltd. | Signal line driving circuit, light emitting device, and method for driving the same |
FR2832843A1 (fr) | 2001-11-29 | 2003-05-30 | Thomson Licensing Sa | Procede pour ameliorer le rendement lumineux d'un afficheur matriciel a affichage sequentiel des couleurs |
JP2005515487A (ja) | 2002-01-04 | 2005-05-26 | ニューローケイ・エルエルシー | 再帰反射スクリーンを使用した3次元画像投影 |
US6762739B2 (en) | 2002-02-14 | 2004-07-13 | Aurora Systems, Inc. | System and method for reducing the intensity output rise time in a liquid crystal display |
US8421828B2 (en) | 2002-05-10 | 2013-04-16 | Jasper Display Corp. | Modulation scheme for driving digital display systems |
US9583031B2 (en) | 2002-05-10 | 2017-02-28 | Jasper Display Corp. | Modulation scheme for driving digital display systems |
US7129920B2 (en) | 2002-05-17 | 2006-10-31 | Elcos Mircrodisplay Technology, Inc. | Method and apparatus for reducing the visual effects of nonuniformities in display systems |
US6781737B2 (en) | 2002-08-13 | 2004-08-24 | Thomson Licensing S.A. | Pulse width modulated display with hybrid coding |
US7468717B2 (en) | 2002-12-26 | 2008-12-23 | Elcos Microdisplay Technology, Inc. | Method and device for driving liquid crystal on silicon display systems |
US7088329B2 (en) | 2002-08-14 | 2006-08-08 | Elcos Microdisplay Technology, Inc. | Pixel cell voltage control and simplified circuit for prior to frame display data loading |
US20050052437A1 (en) | 2002-08-14 | 2005-03-10 | Elcos Microdisplay Technology, Inc. | Temperature sensor circuit for microdisplays |
US7136042B2 (en) | 2002-10-29 | 2006-11-14 | Microsoft Corporation | Display controller permitting connection of multiple displays with a single video cable |
US6784898B2 (en) | 2002-11-07 | 2004-08-31 | Duke University | Mixed mode grayscale method for display system |
US8040311B2 (en) | 2002-12-26 | 2011-10-18 | Jasper Display Corp. | Simplified pixel cell capable of modulating a full range of brightness |
US7443374B2 (en) | 2002-12-26 | 2008-10-28 | Elcos Microdisplay Technology, Inc. | Pixel cell design with enhanced voltage control |
DE10307525B4 (de) | 2003-02-21 | 2006-03-16 | Litef Gmbh | Verfahren und Einrichtung zur Erhöhung der Auflösung eines digitalen Phasenmodulators für eine faseroptische Signalübertragungs- oder Messeinrichtung |
TW594634B (en) | 2003-02-21 | 2004-06-21 | Toppoly Optoelectronics Corp | Data driver |
EP1649445A4 (en) | 2003-04-24 | 2009-03-25 | Displaytech Inc | MICRO-DISPLAY AND INTERFACE ON A SINGLE CHIP |
JP3918770B2 (ja) | 2003-04-25 | 2007-05-23 | セイコーエプソン株式会社 | 電気光学装置、電気光学装置の駆動方法および電子機器 |
EP1620842B1 (en) | 2003-04-25 | 2013-04-10 | TPO Displays Corp. | Method and device for driving an active matrix display panel |
JP3870933B2 (ja) | 2003-06-24 | 2007-01-24 | ソニー株式会社 | 表示装置及びその駆動方法 |
ITMI20031518A1 (it) | 2003-07-24 | 2005-01-25 | Dora Spa | Metodo di pilotaggio di moduli lcd a basso consumo |
US7295612B2 (en) | 2003-09-09 | 2007-11-13 | Apple Inc. | Determining the number of unidirectional and bidirectional motion compensated frames to be encoded for a video sequence and detecting scene cuts in the video sequence |
US20050062765A1 (en) | 2003-09-23 | 2005-03-24 | Elcos Microdisplay Technology, Inc. | Temporally dispersed modulation method |
GB0323283D0 (en) * | 2003-10-04 | 2003-11-05 | Koninkl Philips Electronics Nv | Optimising brightness control in a 3D image display device |
US8081371B2 (en) | 2003-11-01 | 2011-12-20 | Silicon Quest Kabushiki-Kaisha | Spatial light modulator and display apparatus |
US8228595B2 (en) | 2003-11-01 | 2012-07-24 | Silicon Quest Kabushiki-Kaisha | Sequence and timing control of writing and rewriting pixel memories with substantially lower data rate |
US20080007576A1 (en) | 2003-11-01 | 2008-01-10 | Fusao Ishii | Image display device with gray scales controlled by oscillating and positioning states |
US7502411B2 (en) | 2004-03-05 | 2009-03-10 | Silicon Image, Inc. | Method and circuit for adaptive equalization of multiple signals in response to a control signal generated from one of the equalized signals |
KR20050112363A (ko) | 2004-05-25 | 2005-11-30 | 삼성전자주식회사 | 표시 장치 |
US7397980B2 (en) | 2004-06-14 | 2008-07-08 | Optium Australia Pty Limited | Dual-source optical wavelength processor |
TWI228744B (en) | 2004-07-12 | 2005-03-01 | Au Optronics Corp | Plasma display panel and method for driving thereof |
TWI253050B (en) | 2004-07-14 | 2006-04-11 | Au Optronics Corp | Method of multiple-frame scanning for a display |
US7067853B1 (en) | 2004-08-26 | 2006-06-27 | Jie Yao | Image intensifier using high-sensitivity high-resolution photodetector array |
US20060066645A1 (en) | 2004-09-24 | 2006-03-30 | Ng Sunny Y | Method and apparatus for providing a pulse width modulation sequence in a liquid crystal display |
CA2496642A1 (en) | 2005-02-10 | 2006-08-10 | Ignis Innovation Inc. | Fast settling time driving method for organic light-emitting diode (oled) displays based on current programming |
US8339428B2 (en) | 2005-06-16 | 2012-12-25 | Omnivision Technologies, Inc. | Asynchronous display driving scheme and display |
US7545396B2 (en) | 2005-06-16 | 2009-06-09 | Aurora Systems, Inc. | Asynchronous display driving scheme and display |
JP5054008B2 (ja) | 2005-08-17 | 2012-10-24 | シーリアル、テクノロジーズ、ゲーエムベーハー | 複数の観察者の眼のトラッキングとリアルタイム検出のための方法と回路 |
CN103000138A (zh) * | 2005-12-19 | 2013-03-27 | 皮克斯特罗尼克斯公司 | 直视mems显示装置以及在其上生成图像的方法 |
US8111271B2 (en) | 2006-04-27 | 2012-02-07 | Jasper Display Corporation | Gray scale drive sequences for pulse width modulated displays |
US7852307B2 (en) | 2006-04-28 | 2010-12-14 | Jasper Display Corp. | Multi-mode pulse width modulated displays |
US20080158437A1 (en) | 2006-12-27 | 2008-07-03 | Kazuma Arai | Method for displaying digital image data and digital color display apparatus |
US8643681B2 (en) | 2007-03-02 | 2014-02-04 | Silicon Quest Kabushiki-Kaisha | Color display system |
DE102007025069B4 (de) | 2007-05-21 | 2018-05-24 | Seereal Technologies S.A. | Holographisches Rekonstruktionssystem |
US8223179B2 (en) | 2007-07-27 | 2012-07-17 | Omnivision Technologies, Inc. | Display device and driving method based on the number of pixel rows in the display |
ITTO20070620A1 (it) * | 2007-08-31 | 2009-03-01 | Giancarlo Capaccio | Sistema e metodo per presentare dati visuali rilevati a distanza in immagini multi-spettrali, di fusione, ed a tre dimensioni spaziali. |
DE102007051520B4 (de) | 2007-10-19 | 2021-01-14 | Seereal Technologies S.A. | Komplexwertiger räumlicher Lichtmodulator, räumliche Lichtmodulationseinrichtung und Verfahren zur Modulation eines Wellenfeldes |
US8120555B2 (en) | 2007-11-02 | 2012-02-21 | Global Oled Technology Llc | LED display with control circuit |
DE102007056528B3 (de) | 2007-11-16 | 2009-04-02 | Seereal Technologies S.A. | Verfahren und Vorrichtung zum Auffinden und Verfolgen von Augenpaaren |
US8576206B2 (en) | 2007-12-05 | 2013-11-05 | Hamamatsu Photonics K.K. | Phase modulating apparatus and phase modulating method |
DE102009002987B4 (de) | 2008-05-16 | 2018-11-08 | Seereal Technologies S.A. | Steuerbare Vorrichtung zur Phasenmodulation |
US9024964B2 (en) | 2008-06-06 | 2015-05-05 | Omnivision Technologies, Inc. | System and method for dithering video data |
US8446309B2 (en) | 2009-02-19 | 2013-05-21 | Cmosis Nv | Analog-to-digital conversion in pixel arrays |
US9047818B1 (en) | 2009-03-23 | 2015-06-02 | Iii-N Technology, Inc. | CMOS IC for micro-emitter based microdisplay |
US9373287B2 (en) | 2009-07-23 | 2016-06-21 | Dolby Laboratories Licensing Corporation | Reduced power displays |
US8593483B2 (en) * | 2009-10-20 | 2013-11-26 | Apple Inc. | Temporal filtering techniques for image signal processing |
US8497828B2 (en) | 2009-11-12 | 2013-07-30 | Ignis Innovation Inc. | Sharing switch TFTS in pixel circuits |
US8605015B2 (en) | 2009-12-23 | 2013-12-10 | Syndiant, Inc. | Spatial light modulator with masking-comparators |
US8538234B2 (en) | 2009-12-28 | 2013-09-17 | Panasonic Corporation | Display device and method, transmission device and method, and reception device and method |
KR101978522B1 (ko) | 2010-09-01 | 2019-05-14 | 시리얼 테크놀로지즈 에스.에이. | 백플레인 장치 |
US9007444B2 (en) | 2010-10-07 | 2015-04-14 | Massachusetts Institute Of Technology | Array directed light-field display for autostereoscopic viewing |
TW201216249A (en) | 2010-10-07 | 2012-04-16 | Jasper Display Corp | Improved pixel circuit and display system comprising same |
WO2012078262A1 (en) | 2010-12-06 | 2012-06-14 | Dolby Laboratories Licensing Corporation | Methods and apparatus for image adjustment for displays having 2d and 3d display modes |
JP5907368B2 (ja) | 2011-07-12 | 2016-04-26 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP5970758B2 (ja) | 2011-08-10 | 2016-08-17 | セイコーエプソン株式会社 | 電気光学装置、電気光学装置の駆動方法および電子機器 |
US8645878B1 (en) | 2011-08-23 | 2014-02-04 | Suvolta, Inc. | Porting a circuit design from a first semiconductor process to a second semiconductor process |
KR102015590B1 (ko) | 2012-01-26 | 2019-08-28 | 시리얼 테크놀로지즈 에스.에이. | 관찰자 추적 방식 디스플레이 |
US8963944B2 (en) | 2012-05-15 | 2015-02-24 | Omnivision Technologies, Inc. | Method, apparatus and system to provide video data for buffering |
US9036243B2 (en) | 2012-09-24 | 2015-05-19 | Alces Technology, Inc. | Digital drive signals for analog MEMS ribbon arrays |
US9406269B2 (en) | 2013-03-15 | 2016-08-02 | Jasper Display Corp. | System and method for pulse width modulating a scrolling color display |
US10311773B2 (en) | 2013-07-26 | 2019-06-04 | Darwin Hu | Circuitry for increasing perceived display resolutions from an input image |
US9679258B2 (en) | 2013-10-08 | 2017-06-13 | Google Inc. | Methods and apparatus for reinforcement learning |
US9589514B2 (en) | 2014-02-21 | 2017-03-07 | Texas Instruments Incorporated | Methods and apparatus for reduced bandwidth pulse width modulation |
JP6415608B2 (ja) * | 2014-03-03 | 2018-10-31 | アイウェイ ビジョン エルティーディー. | 目用投影システム |
US9918053B2 (en) | 2014-05-14 | 2018-03-13 | Jasper Display Corp. | System and method for pulse-width modulating a phase-only spatial light modulator |
CN115359567A (zh) * | 2014-06-14 | 2022-11-18 | 奇跃公司 | 用于产生虚拟和增强现实的方法和*** |
WO2016011087A1 (en) | 2014-07-15 | 2016-01-21 | Ostendo Technologies, Inc. | Preprocessor for full parallax light field compression |
US20160026912A1 (en) | 2014-07-22 | 2016-01-28 | Intel Corporation | Weight-shifting mechanism for convolutional neural networks |
WO2016048402A2 (en) | 2014-09-26 | 2016-03-31 | Reald | Multiscopic image capture system |
GB201418810D0 (en) | 2014-10-22 | 2014-12-03 | Infiniled Ltd | Display |
US20160203801A1 (en) | 2015-01-08 | 2016-07-14 | Pixtronix, Inc. | Low capacitance display address selector architecture |
WO2016149881A1 (en) | 2015-03-20 | 2016-09-29 | Intel Corporation | Object recogntion based on boosting binary convolutional neural network features |
US10600823B2 (en) | 2015-09-02 | 2020-03-24 | Facebook Technologies, Llc | Assembly of semiconductor devices |
US10504204B2 (en) | 2016-07-13 | 2019-12-10 | Semiconductor Energy Laboratory Co., Ltd. | Electronic device |
KR102609330B1 (ko) | 2016-07-15 | 2023-12-05 | 라이트 필드 랩 인코포레이티드 | 라이트 필드 및 홀로그램 도파관 어레이에서의 에너지의 선택적 전파 |
WO2018014045A2 (en) | 2016-07-15 | 2018-01-18 | Light Field Lab, Inc. | Method of calibration for holographic energy directing systems |
WO2018014040A1 (en) | 2016-07-15 | 2018-01-18 | Light Field Lab, Inc. | Holographic superimposition of real world plenoptic opacity modulation through transparent waveguide arrays |
US10319743B2 (en) * | 2016-12-16 | 2019-06-11 | Semiconductor Energy Laboratory Co., Ltd. | Semiconductor device, display system, and electronic device |
WO2018130930A1 (en) * | 2017-01-16 | 2018-07-19 | Semiconductor Energy Laboratory Co., Ltd. | Display device |
CN107609563A (zh) | 2017-09-15 | 2018-01-19 | 成都澳海川科技有限公司 | 图片语义描述方法及装置 |
US11030942B2 (en) | 2017-10-13 | 2021-06-08 | Jasper Display Corporation | Backplane adaptable to drive emissive pixel arrays of differing pitches |
US10629153B2 (en) | 2017-10-13 | 2020-04-21 | Jasper Display Corp. | Backplane suitable to form part of an emissive pixel array and system and methods of modulating same |
KR20200116943A (ko) | 2018-01-14 | 2020-10-13 | 라이트 필드 랩 인코포레이티드 | 홀로그래픽 및 회절 광학 인코딩 시스템 |
CA3088364A1 (en) | 2018-01-14 | 2019-07-18 | Light Field Lab, Inc. | Systems and methods for transverse energy localization in energy relays using ordered structures |
EP3737991A4 (en) | 2018-01-14 | 2021-11-17 | Light Field Lab, Inc. | PACKAGING ARRANGEMENT WITH A FOUR-DIMENSIONAL ENERGY FIELD |
WO2019140414A1 (en) | 2018-01-14 | 2019-07-18 | Light Field Lab, Inc. | Systems and methods for rendering data from a 3d environment |
US10437402B1 (en) | 2018-03-27 | 2019-10-08 | Shaoher Pan | Integrated light-emitting pixel arrays based devices by bonding |
US10909926B2 (en) | 2018-05-08 | 2021-02-02 | Apple Inc. | Pixel circuitry and operation for memory-containing electronic display |
US10951875B2 (en) | 2018-07-03 | 2021-03-16 | Raxium, Inc. | Display processing circuitry |
-
2019
- 2019-07-02 US US16/460,880 patent/US10951875B2/en active Active
- 2019-07-03 JP JP2021522937A patent/JP7247336B2/ja active Active
- 2019-07-03 KR KR1020227039404A patent/KR102656507B1/ko active IP Right Grant
- 2019-07-03 KR KR1020217003426A patent/KR102467376B1/ko active IP Right Grant
- 2019-07-03 EP EP19745850.8A patent/EP3818515A2/en active Pending
- 2019-07-03 TW TW108123428A patent/TWI786310B/zh active
- 2019-07-03 WO PCT/US2019/040474 patent/WO2020010183A2/en unknown
- 2019-07-03 CN CN201980055201.2A patent/CN112585669A/zh active Pending
-
2021
- 2021-03-12 US US17/200,507 patent/US11961431B2/en active Active
-
2023
- 2023-03-15 JP JP2023040737A patent/JP2023078287A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9448459B2 (en) * | 2009-10-30 | 2016-09-20 | Koninklijke Philips N.V. | Multiview display device |
US20160301921A1 (en) * | 2014-04-11 | 2016-10-13 | Boe Technology Group Co., Ltd. | Grating structure, display device and display mode switching method |
TW201608281A (zh) * | 2014-05-30 | 2016-03-01 | 新力電腦娛樂美國有限責任公司 | 用於呈現虛擬現實內容的具有與行動計算設備介接之介面的頭戴式設備(hmd)系統 |
US20160301918A1 (en) * | 2015-04-07 | 2016-10-13 | Samsung Electronics Co., Ltd. | Display device and method of controlling the same |
Also Published As
Publication number | Publication date |
---|---|
JP2021530181A (ja) | 2021-11-04 |
KR20210028240A (ko) | 2021-03-11 |
WO2020010183A3 (en) | 2020-02-13 |
US11961431B2 (en) | 2024-04-16 |
US10951875B2 (en) | 2021-03-16 |
KR102467376B1 (ko) | 2022-11-17 |
US20210203904A1 (en) | 2021-07-01 |
WO2020010183A2 (en) | 2020-01-09 |
TW202014876A (zh) | 2020-04-16 |
JP7247336B2 (ja) | 2023-03-28 |
CN112585669A (zh) | 2021-03-30 |
TW202309736A (zh) | 2023-03-01 |
JP2023078287A (ja) | 2023-06-06 |
KR20220156669A (ko) | 2022-11-25 |
US20200014904A1 (en) | 2020-01-09 |
KR102656507B1 (ko) | 2024-04-12 |
EP3818515A2 (en) | 2021-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI786310B (zh) | 支援多個視圖的顯示器以及用於該顯示器的方法 | |
US10694170B2 (en) | Controlling image display via real-time compression in peripheral image regions | |
US10650602B2 (en) | Apparatus and method for three-dimensional information augmented video see-through display, and rectification apparatus | |
US20180374192A1 (en) | Viewport Independent Image Coding and Rendering | |
US20180165830A1 (en) | Method and device for determining points of interest in an immersive content | |
US10572764B1 (en) | Adaptive stereo rendering to reduce motion sickness | |
KR102172388B1 (ko) | 곡면 디스플레이 및 이의 영상 처리 방법 | |
JPWO2020010183A5 (zh) | ||
EP3391338A1 (en) | Light field rendering of an image using variable computational complexity | |
US10277879B2 (en) | 3D system including rendering with eye displacement | |
TWI842191B (zh) | 支援多個視圖的顯示器以及用於該顯示器的方法 | |
US11568783B1 (en) | Display drivers, apparatuses and methods for improving image quality in foveated images | |
WO2023059783A1 (en) | Image processing systems and methods | |
TWI771969B (zh) | 適應眼睛位置的立體影像數據的產生方法與顯示系統 | |
EP3598271A1 (en) | Method and device for disconnecting user's attention | |
CN115220240A (zh) | 适应眼睛位置的立体影像数据的产生方法与显示*** |