DE102019108999B4 - Verfahren zur immersiven Anzeige von stereoskopischen Bildern und Bildfolgen - Google Patents

Verfahren zur immersiven Anzeige von stereoskopischen Bildern und Bildfolgen Download PDF

Info

Publication number
DE102019108999B4
DE102019108999B4 DE102019108999.9A DE102019108999A DE102019108999B4 DE 102019108999 B4 DE102019108999 B4 DE 102019108999B4 DE 102019108999 A DE102019108999 A DE 102019108999A DE 102019108999 B4 DE102019108999 B4 DE 102019108999B4
Authority
DE
Germany
Prior art keywords
viewer
cylinder
image
display device
horizontal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
DE102019108999.9A
Other languages
English (en)
Other versions
DE102019108999A1 (de
Inventor
Rolf-Dieter Naske
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Psholix AG
Original Assignee
Psholix AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Psholix AG filed Critical Psholix AG
Priority to DE102019108999.9A priority Critical patent/DE102019108999B4/de
Priority to PCT/EP2020/059696 priority patent/WO2020201571A1/de
Publication of DE102019108999A1 publication Critical patent/DE102019108999A1/de
Application granted granted Critical
Publication of DE102019108999B4 publication Critical patent/DE102019108999B4/de
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/373Image reproducers using viewer tracking for tracking forward-backward translational head movements, i.e. longitudinal movements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/363Image reproducers using image projection screens

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

Verfahren zur Anzeige eines zugeführten stereoskopischen Bildes mit mindestens 2 Perspektiven und einer Auflösung von horizontal Ixund vertikal IyBildpunkten auf einer Anzeigevorrichtung, wobei der Bildinhalt des zugeführten Bildes in einem Kino-Modell, welches aus einem Zylinder mit einem Radius D besteht und mit eine Auflösung von horizontal Pxund vertikal PyBildpunkten angezeigt wird, wobei sich der Betrachter im Mittelpunkt dieses Zylinders befindet und sich nach links und rechts umschauen kann, wobei das Verfahren folgende Schritte umfasst:- ein Skalierungsfaktor a > 0, welcher den Grad festlegt, um welchen sich der Betrachter dem Zylinder genähert oder entfernt hat, wird zugeführt und ein Betrachtungsabstand D' mit D' = a·D wird berechnet oder,der Betrachtungsabstand D und D' werden bestimmt und ein Skalierungsfaktor mit a > 0 wird berechnet mit a = D' / D;- in einem Kino-Modell wird ein Zylinder mit dem Radius D' erzeugt, wobei sich der Betrachter im Mittelpunkt des Zylinders befindet;- der zugeführte Bildinhalt wird auf eine Größe von horizontal Px'mit Px'= (1/a)·Pxund vertikal Py' mit Py' = (1/a)·PyBildpunkten und den Bedingungen Px'> Ixund Py' > Iyzum Erhalt eines skalierten Bildinhalts skaliert;- der skalierte Bildinhalt wird auf den Zylinder mit der horizontalen Ausdehnung von Px'Bildpunkten und der vertikalen Ausdehnung von Py' Bildpunkten projiziert, wobei sich der Betrachter im Mittelpunkt des Zylinders befindet.

Description

  • Die Erfindung betrifft ein Verfahren, bei welchem einem Betrachter ein Stereobild oder eine Stereobildfolge mit mindestens 2 Perspektiven stereoskopisch so angezeigt wird, dass der Betrachter den Eindruck hat, er befinde sich in diesem Stereobild bzw. der Stereobildfolge
  • Stand der Technik
  • Am Kopf befestige Anzeigevorrichtungen, im Folgenden kurz HMDs genannt, sind seit Jahrzehnten in der Literatur bekannt (Susan Rahn: „WorldToolKit Release 8, Technical Overview“, Sense8 Corp., Feb 1998). Ihre Anfänge gehen bis ins Jahr 1994 zurück (D. Greschler: „Virtual-Reality Positioning Input and Display System“, Pat.-No. US 5515078 A , März 1994). Ihr Anwendungsbereich lag bisher vornehmlich im Bereich der Medizin (Westenskow, Dwayneliu et al: „Monitoring with Head-Mounted Displays in General Anesthesia: A Clinical Evaluation in the Operating Room", Anesthesia & Analgesia, April 2010 -Vol. 110 - Issue 4, pp. 1032 - 1038), des Trainings, der Forschung und z.B. im Bereich der Visualisierung von Simulationen (Jason I. Thomson: „A Three Dimensional Heimet Mounted Primary Flight Reference for Paratroopers", Dissertation 2005, Air Force Institute of Technology, AFIT/GCS/ENG/05-18, 2015). In der jüngsten Vergangenheit werden diese HMDs nun auch im Bereich der Computerspiele und der Unterhaltung immer mehr eingesetzt. Diverse Entwicklungssysteme für solche Computerspiele erleichtern dort die Entwicklung von Anwendungen sehr
  • Bei der Verwendung von HMDs ist eines der großen Probleme der sogenannte Akkommodation-Konvergenz-Konflikt. Er beruht auf der Diskrepanz zwischen dem Fokus der Pupillen auf die Anzeigevorrichtung und der Konvergenz der Blickrichtungen. Hiermit befasst sich die US 2017/0323485 A1 .
  • In ähnlicher Weise werden in jüngster Zeit auch im Bereich der Unterhaltung 3D-Videos mit einer 360 Grad Rundum-Aufnahme-Technik („large-field-of-view content“) aufgenommen. Auch in diesen Videos kann sich der Betrachter um 360 Grad drehen und befindet sich in der dargestellten Welt. Es kann hier jedoch das Problem auftreten, dass der Betrachter nicht das vollständige Bild erfassen kann oder will. In diesem Fall kann ihm mit der EP 3330839 A1 vorgestellten Technologie ein eingeschränkter Bildinhalt angezeigt werden.
  • Für die Anzeige von 3D-Videos, d. h. Stereobildern oder insbesondere Stereobildfolgen wird dabei so vorgegangen, dass eine virtuelle Welt entworfen wird, die aus einem Kinosaal besteht. Dort sitzt der Betrachter/Zuschauer in einer bestimmten Reihe des Kinos. Zum Betrachten des 3D-Videos sieht der Betrachter dann vor sich eine Kinoleinwand, auf der das 3D-Video angezeigt wird wie im realen Kino. Er kann sich dort durch Kopfbewegungen umsehen und sieht dann die Stühle rechts und links neben sich. Er hat daher dort nicht das Gefühl er befinde sich im Video, sondern er befinde sich in einem Kinosaal. Dies soll durch das hier beschriebene Verfahren geändert werden. Die Anzeige ist immersive. Der Betrachter hat das Gefühl, er befinde sich im Video.
  • Wenn als Anzeigevorrichtung ein Display verwendet wird, so wird das 3D-Video stereoskopisch oder autostereoskopisch angezeigt wie auf einer Kinoleinwand. Ist das Display groß genug, hat er auch in seinem Wohnzimmer das Gefühl, er befinde sich in einem Kinosaal. Dies soll hier in der Weise erweitert werden, dass er virtuell näher an das Video herantreten kann. Dies geschieht, indem in das Video hineingezoomt wird. Er kann sich dann auch durch das Bewegen der Mouse nach links oder rechts im Video umschauen.
  • Zusammenfassung der Erfindung
  • Die Erfindung wird durch die unabhängigen Ansprüche definiert. Bevorzugte Ausführungsformen sind Gegenstand der Unteransprüche oder nachfolgend beschrieben.
  • Die Erfindung betrifft z.B. ein Verfahren, bei welchem einem Betrachter ein Stereobild oder eine Stereobildfolge mit mindestens 2 Perspektiven stereoskopisch so angezeigt wird, dass er die Ränder des Stereobildes oder der Stereobildfolge nicht sehen kann und er den Eindruck hat, er befinde sich in diesem Stereobild bzw. der Stereobildfolge. Diese Situation wird als „immersive“ bezeichnet. Stereoskopische 360 Grad-Bilder bzw. -Bildfolgen seien hier explizit ausgeschlossen. Dort wird dieser Effekt auf natürliche Weise durch die Verwendung einer besonderen 360Grad-Kamera erreicht.
  • In der hier vorliegenden Anmeldung soll von stereoskopischen Bildern bzw. Bildfolgen ausgegangen werden, welche mit einem Aufnahmewinkel von weniger als 180 Grad aufgenommen wurden, also insbesondere ältere Stereobilder und Stereobildfolgen. Der Betrachter kann sich dabei auch in solchen Aufnahmen umschauen, ohne dass die Ränder in sein Blickfeld gelangen oder sich geometrische Verzerrungen ergeben. Dies Umschauen geschieht hier zum Beispiel in einer am Kopf befestigten Anzeigevorrichtung („Head-Mounted Display“, kurz HMD genannt) dadurch, dass die Kopfbewegungen umgesetzt werden in Änderungen der Blickrichtungen. Auf einem Display hat der Betrachter die Möglichkeit durch Vor- oder Zurückbewegen der Mouse sich ins Bild hinein oder hinaus zu bewegen oder durch Verschieben der Mouse nach rechts oder links, sich nach rechts oder links umzuschauen.
  • Das Besondere dieses Verfahrens ist die Tatsache, dass keine Rekonstruktion der dargestellten Szene erzeugt wird. Dies ist eine beträchtliche Erleichterung der bisher bekannten Verfahren und reduziert die erforderliche Rechenkapazität signifikant.
  • Es wird ein virtuelles Kino-Modell erzeugt, dass permanent an die Position des Betrachters im Kino-Modell angepasst wird. Der Betrachter kann sich in alle Richtungen des Kino-Modells umschauen und frei bewegen. Eine Rekonstruktion der angezeigten Szene ist nicht erforderlich. Dies ist eine Erleichterung der bisher bekannten Verfahren und reduziert die erforderliche Rechenkapazität signifikant.
  • Figurenliste
  • Die Figuren zeigen:
    • 1: Darstellung der Größenverhältnisse eines Betrachtungsfensters B (entspricht dem Sehfeld eines Zuschauers in Bezug auf einen normierten Abstand, dieser ist in Bezug auf den Zuschauer konstant) und eines Präsentationsfensters P (entspricht der Leinwand im Kino). Die Betrachtungsrichtung ist horizontal.
    • 2: Darstellung der Größenverhältnisse eines Betrachtungsfensters B und eines Präsentationsfensters P. Die Betrachtungsrichtung ist von oben. D ist der Betrachtungsabstand des Zuschauers Z vom Präsentationsfenster P. B ist das Betrachtungsfenster des Zuschauers.
    • 3: Darstellung eines Kino-Modells von oben, in welchem sich der Zuschauer Z auf das Präsentationsfenster P' zu bewegt hat. Die Ränder des Präsentationsfensters P' sind für ihn nicht mehr sichtbar, wenn er weiterhin geradeaus auf das Präsentationsfenster P' schaut. B ist das Betrachtungsfenster des Zuschauers. Der neue Betrachtungsabstand ist D'.
    • 4: Darstellung eines Kino-Modells von oben, in welchem sich der Zuschauer Z auf das Präsentationsfenster P' zu bewegt hat. Der Betrachtungsabstand D'R ist zu den Rändern R des Präsentationsfensters P' größer als der Betrachtungsabstand D' in der Mitte des Präsentationsfensters. Px'ist die horizontale Ausdehnung des Präsentationsfensters.
    • 5: Darstellung eines Kino-Modells von oben, in welchem sich der Zuschauer Z auf das Präsentationsfenster P' zu bewegt hat. Das Präsentationsfenster P' ist durch die Projektion auf eine Zylinderwand gekrümmt. Der Betrachtungsabstand D' des Zuschauers Z ist in alle Richtungen konstant. B ist das Betrachtungsfenster des Zuschauers.
    • 6a: Darstellung eines Kino-Modells von oben, in welchem sich der Zuschauer Z auf das Präsentationsfenster P' zu bewegt hat. Das Präsentationsfenster P' ist durch die Projektion auf eine Zylinderwand stark gekrümmt. B ist das Betrachtungsfenster des Zuschauers.
    • 6b: Darstellung eines Kino-Modells von oben, in welchem sich der Zuschauer Z vom Präsentationsfenster P' wegbewegt hat. Das Präsentationsfenster P' ist durch die Projektion auf eine Zylinderwand weniger gekrümmt. B ist das Betrachtungsfenster des Zuschauers.
    • 6c: Perspektivische Darstellung eines Kino-Modells horizontal, in welchem sich der Zuschauer Z auf das Präsentationsfenster P' zu bewegt hat. Das Präsentationsfenster P' ist durch die Projektion auf eine Zylinderwand gekrümmt. B ist das Betrachtungsfenster des Zuschauers.
    • 6d: Darstellung eines stereoskopischen Kino-Modells horizontal, Die Präsentationsfenster PL' und PR' sind durch die Projektion auf die Zylinderwand nur leicht gekrümmt. BL und BR ist das linke und das rechte Betrachtungsfenster des Zuschauers.
    • 7: Flussdiagramm zur permanenten Anpassung des Kino-Modells an den Betrachtungsabstand des Zuschauers Z.
      1. 1 D' := D (D` wird mit D gleichgesetzt)
      2. 2 Kino-Modell berechnen
      3. 3 Stereobild anzeigen
      4. 4 Ende?
      5. 5 Faktor a einlesen oder nach einer zweiten Alternative D' einlesen
      6. 6 D' neu berechnen oder nach einer zweiten Alternative a berechnen
      7. 7 Faktor a geändert oder nach einer zweiten Alternative D geändert
  • Bezugszeichenliste
  • HMD
    Head-Mounted Display, am Kopf des Betrachters befestigte Anzeigevorrichtung.
    a
    Skalierungsfaktor des Abstandes eines Zuschauers, Betrachters zum Präsentationsfenster, a < 0.
    D, D'
    Betrachtungsabstand des Betrachters zum Präsentationsfenster P
    D'R
    Betrachtungsabstand zu den Rändern R
    P, P'
    Präsentationsfenster auf den Zylinder, bzw. der Kugel im Kino-Modell projiziert (Fläche)
    Z
    Zuschauer, Betrachter
    Bx
    Ausdehnung des Betrachtungsfensters B (Sehfeld) in horizontaler Richtung
    By
    Ausdehnung des Betrachtungsfensters B (Sehfeld) in vertikaler Richtung
    BL
    Linkes Betrachtungsfensters B (Sehfeld)
    BR
    Rechtes Betrachtungsfensters B (Sehfeld)
    Px
    Ausdehnung des Präsentationsfenster P in horizontaler Richtung
    Py
    Ausdehnung des Präsentationsfenster P in vertikaler Richtung (Breite, Dimension: Länge).
    IX
    Anzahl Bildpunkte des zugeführten Bildes in der Horizontalen
    Iy
    Anzahl Bildpunkte des zugeführten Bildes in der Vertikalen
    PL'
    Linkes Projektionsfensters P auf dem Zylinder bzw. der Kugel im Kinomodell (Höhe, Dimension: Länge)
    PR'
    Rechtes Projektionsfensters P auf dem Zylinder bzw. der Kugel im Kinomodell
    Wx
    Betrachtungswinkel des Zylindersegmentes, auf dem sich das Präsentationsfenster P bzw. P' befindet, in horizontaler Richtung
    Wy
    Betrachtungswinkel des Zylindersegmentes, auf dem sich das Präsentationsfenster P bzw. P' befindet, in vertikaler Richtung
    t
    Zeitraum, nachdem der Betrachtungsabstand D neu gemessen wird und dann eine Neuberechnung des Zylinders, wenn erforderlich erfolgt, wenn sich D verändert hat,
  • Detaillierte Beschreibung der Erfindung
  • Zur Vereinfachung der Darstellung, jedoch ohne Beschränkung der Allgemeingültigkeit, sei ein Betrachtungsfenster B definiert, welches das Sehfeld des Betrachters bezeichnet und ein Präsentationsfenster P, in dem das stereoskopische Bild bzw. die stereoskopische Bildfolge angezeigt wird. Die Begriffe Bildfolge und Video seien im Folgenden synonym verwendet. Ein stereoskopisches Bild bzw. eine stereoskopische Bildfolge seien Bilder bzw. eine Bildfolge mit mindestens 2 Perspektiven, die aus verschiedenen Kamerapositionen aufgenommen wurden, z.B. einer Stereo-Kamera. Das Bild bzw. die Bildfolge habe eine Auflösung von horizontal Ix und vertikal Iy Bildpunkten.
  • Das Betrachtungsfenster B hat die Ausdehnung Bx Bildpunkte in horizontaler Richtung und By Bildpunkte in vertikaler Richtung. Entsprechend hat das Präsentationsfenster P die Ausdehnung Px Bildpunkte in horizontaler Richtung und Py Bildpunkte in vertikaler Richtung. Das heißt, die Größe des Betrachtungsfensters ist Bx • By Bildpunkte und entsprechend für das Präsentationsfenster P sind es Px • Py Bildpunkte.
  • In einem Kino betrachtet der Zuschauer Z durch das Betrachtungsfenster, sein Sehfeld, das Präsentationsfenster P, die Kinoleinwand. Die Begriffe Zuschauer und Betrachter seien im Folgenden ebenfalls synonym verstanden, d.h. haben dieselbe Bedeutung. Im Kino ist das Betrachtungsfenster B wesentlich größer als das Präsentationsfenster P, d.h. dass Bx > Px und By > Py (1). Man sieht mehr als nur die Kinoleinwand. Zusätzlich ist das Präsentationsfenster P im Kino planar. Das ist auch bei der Betrachtung eines Videos durch eine am Kopf befestigte Anzeigevorrichtung, im folgenden Head-Mounted Display oder HMD genannt, bisher der Fall (2). Die virtuelle Welt, im Folgenden Kino-Modell genannt, in welcher das Video gezeigt wird, ist so aufgebaut als würde der Zuschauer Z in einer bestimmten Reihe eines realen Kinos sitzen. Sein Betrachtungsabstand D zur Leinwand, d.h. zum Präsentationsfenster P, ist in den bisherigen Kino-Modellen als konstant gegeben, wobei sich der Betrachtungsabstand D im HMD als virtuelle Größe in Abhängigkeit vom definierten Kino-Modell und den dort gegebenen Maßeinheiten definiert.
  • Das Kino-Modell besteht in der hier vorliegenden Patentanmeldung in einer ersten Ausführungsform aus einem Zylinder, auf den das Präsentationsfenster P auf der Innenseite projiziert wird und der Zuschauer Z sich im Mittelpunkt dieses Zylinders befindet oder in einer zweiten Ausführungsform aus einer Kugel, auf die das Präsentationsfenster P ebenfalls auf die Innenseite projiziert wird und der Zuschauer Z sich im Mittelpunkt dieser Kugel befindet. Der Radius des Zylinders in der ersten Ausführungsform ist D und der Radius der Kugel in der zweiten Ausführungsform sei ebenfalls mit D bezeichnet.
  • Bewegt sich der Betrachter/Zuschauer Z um einen Skalierungsfaktor a > 0 auf das Präsentationsfenster P zu, d.h. sein neuer Betrachtungsabstand D ' = a · D
    Figure DE102019108999B4_0001
    wird kleiner, so tritt der Fall ein, dass er die Ränder des Präsentationsfenster P nicht mehr sieht, wenn er weiterhin geradeaus auf das Präsentationsfenster P schaut (3).
  • Wenn er sich also um den Faktor a auf das Präsentationsfenster P zubewegt, so kann das mathematisch so beschrieben werden, dass sich das Präsentationsfenster um den Faktor 1/a vergrößert, d.h. das neue Präsentationsfenster P' hat die Größe P' x = ( 1 / a ) P x  und P' y = ( 1 / a ) P y .
    Figure DE102019108999B4_0002
    Halbiert der Betrachter Z zum Beispiel den Betrachtungsabstand D, d.h. a = 1/2 , so ist D' = D/2 und somit P'x = 2·Px sowie P'y = 2·Py. Der Effekt, dass der Betrachter nicht mehr die Ränder des Präsentationsfenster P' sieht, führt jedoch nicht dazu, dass sich der Betrachter in das Video bzw. Bild hinein versetzt fühlt. Schaut er nach rechts oder links, so ist der Betrachtungsabstand dorthin nicht konstant, sondern wird größer je weiter er zur Seite schaut. Die Szene des Videos bzw. des Bildes wird verzerrt, da sich unterschiedliche Betrachtungsabstände zu den Rändern D'R und in der Mitte ergeben.
  • Der Betrachtungsabstand D'R zu den Rändern des Präsentationsfenster P' lässt sich unter der Annahme, dass sich der Betrachter Z in der Mitte vor dem Präsentationsfenster befindet (4) wie folgt berechnen (sqrt = Wurzel) : D ' R = sqrt ( ( P' x / 2 ) 2 + D ' 2 ) = sqrt ( ( P' x / 2 a ) 2 + ( aD ) 2 ) = sqrt  ( P x 2 / ( 4 a 2 ) + a 2 D 2 )
    Figure DE102019108999B4_0003
  • In einer ersten Ausführungsform wird wie folgt vorgegangen:
    • Damit der Betrachter Z sich in das Video hineinversetzt fühlt, ist der Betrachtungsabstand D bzw. D' zu allen Bereichen des Präsentationsfenster P bzw. P' konstant. Das heißt, das Präsentationsfenster muss gekrümmt sein. Es muss das Segment eines Zylinders mit dem Radius D bzw. D' sein. So hat der Betrachter den Eindruck, er befinde sich im Bild bzw. im Video. 5 ist eine Darstellung des Kino-Modells von oben.
  • Für unterschiedliche Betrachtungsabstände D bzw. D' ergeben sich unterschiedliche Zylindersegmente. Der Betrachter kann interaktiv entscheiden wie tief er in das Video bzw. Bild eindringen will oder sich wieder hinausbewegen will. 6a und 6b enthalten eine Darstellung in der Draufsicht. In 6c ist eine horizontale Sicht dargestellt.
  • Der horizontale Betrachtungswinkel Wx des Zylindersegmentes, auf dem sich das Präsentationsfenster P bzw. P' befindet, lässt sich wie folgt berechnen. Es ist: P x ' = ( 1 / a ) P x
    Figure DE102019108999B4_0004
    wie bisher. Daraus ergibt sich 360 / W x = 2 π D'/P x '
    Figure DE102019108999B4_0005
    also W x = 360 P' x / 2 π D' = ( 360 P x ) / a ) / ( 2 π aD ) = ( 360 / 2 π ) ( 1 / a ) 2 ( P x /D )
    Figure DE102019108999B4_0006
  • Die Höhe des Präsentationsfensters P'y ergibt sich wie vorher beschrieben mit P' y = ( 1 / a ) P y
    Figure DE102019108999B4_0007
    Verfahrenstechnisch wird dabei so vorgegangen, dass das Kino-Modell zunächst aus einem Zylinder mit dem Radius D besteht. Auf diesem Zylinder wird das Präsentationsfenster P abgebildet und der Betrachter Z kann sich z.B. im HMD umschauen. Bewegt sich der Betrachter Z vor oder zurück, so bedeutet dies, dass der Skalierungsfaktor a bzw. der Betrachtungsabstand D nach einer gewissen Zeit t > 0 wieder neu eingelesen werden muss und sich der Zylinderradius auf D' ändert. Das Kino-Modell muss also dynamisch in Abhängigkeit von der Betrachterposition verändert werden. Das heißt, bei jeder Bewegung des Betrachters vor oder zurück muss ein neuer Zylinder berechnet werden, um dem Betrachter immer denselben Betrachtungsabstand zu allen Bereichen des betrachteten Videos bzw. Bildes zu gewährleisten und so einen perfekten immersiven Betrachtungseindruck zu erzeugen. Bewegt sich der Betrachter vor, so muss der Radius des Zylinders mit a < 1 verkleinert werden (6a). Bewegt sich der Betrachter zurück, so muss der Radius des Zylinders mit a > 1 vergrößert werden (6b).
  • Das Besondere dieses Verfahrens ist die Tatsache, dass keine Rekonstruktion der dargestellten Szene erzeugt werden muss. Dies ist eine signifikante Erleichterung der bisher bekannten Verfahren und reduziert die erforderliche Rechenkapazität beträchtlich.
  • In einer zweiten Ausführungsform wird wie folgt vorgegangen:
    • Für eine vollständige Immersion muss der Betrachter nicht nur in horizontaler Richtung, sondern auch in vertikaler Richtung immer den gleichen Abstand erhalten.
    Dies bedeutet mit Py' = (1/a)·Py einen vertikalen Betrachtungswinkel Wy W y = ( 360 / 2 π ) ( 1 / a 2 ) ( P y /D )
    Figure DE102019108999B4_0008
  • In diesem Fall muss das Kino-Modell aus einer Kugel bestehen, auf deren Innenseite das Präsentationsfenster P projiziert wird und deren Größe in Abhängigkeit vom Abstand des Betrachters Z variiert werden muss.
    Bei den heute gegebenen Seitenverhältnissen von 16:9 oder 2:1 ist die vertikale Anpassung jedoch untergeordnet und wird nur bei sehr kleinen Betrachtungsabständen relevant, kann jedoch in diesem Fall sehr beeindruckend sein.
  • Ein Ablaufdiagramm, welches für beide Ausführungsformen gilt, ist in 7 dargestellt.
  • Wie aus der Beschreibung dieser Ausführungsform zu ersehen ist, muss auch hier keine Rekonstruktion der dargestellten Szene erzeugt werden. Es hat daher die gleichen positiven Auswirkungen auf die erforderliche Rechenkapazität.
  • In einer dritten Ausführungsform wird als Anzeigevorrichtung ein Display verwendet.
  • Das Vor- und Zurückbewegen wird als hinein- oder hinaus-zoomen auf dem Display angezeigt. Auch hier hat der Betrachter subjektiv den Eindruck, er bewege sich in das Video hinein. Das Umschauen nach rechts und links bzw. das Vor- und Zurückbewegen wird durch die Bewegung einer Bewegungsvorrichtung, im Folgenden kurz „Mouse“ genannt, ermöglicht. Diese Bewegungsvorrichtung kann ohne Einschränkung der Allgemeingültigkeit eine Computer-Mouse, eine „Space-Mouse“ oder z.B. ein Sensorfeld auf dem Display oder eine Tastatur sein.
  • Er kann sich auch dort wie bei den vorherigen Ausführungsformen durch Bewegen der Mouse nach rechts und links schauen. Auch hier hat der Betrachter den Eindruck, er schaue sich im Video um. Auch hier ist es wichtig, dass der Betrachtungsabstand zu den Rändern konstant ist, um einen „Kinosaal“-Effekt zu vermeiden.
  • Das Kino-Modell besteht in dieser Ausführungsform ebenfalls aus einem Zylinder, auf den das Präsentationsfenster P auf der Innenseite projiziert wird und der Zuschauer Z sich im Mittelpunkt dieses Zylinders befindet, oder aus einer Kugel, auf die das Präsentationsfenster P ebenfalls auf der Innenseite projiziert wird und der Zuschauer Z sich im Mittelpunkt dieser Kugel befindet. Der Radius des Zylinders ist wieder D und der Radius der Kugel sei ebenfalls mit D bezeichnet.
  • Das Betrachtungsfenster ist in diesem Fall mit dem Display identisch. Als Startwerte wird hier im Allgemeinen von einem Betrachtungsabstand D mit B = P ausgegangen. Das heißt, das Bild bzw. Video überdeckt das gesamte Display.
  • Zoomt der Betrachter/Zuschauer Z um einen Skalierungsfaktor a < 1 gemäß (1) in das Video hinein, d.h. sein neuer Betrachtungsabstand D' = a·D wird kleiner, so tritt auch hier der Fall ein, dass er die Ränder des Präsentationsfenster P nicht mehr sieht, wenn er weiterhin geradeaus auf das Präsentationsfenster P schaut. Halbiert der Betrachter Z zum Beispiel den Betrachtungsabstand D, d.h. a = 1/2, so ist auch hier D' = D/2 und somit P'X = 2·PX sowie P'y = 2·Py . Das Display zeigt in horizontaler und vertikaler Richtung nur noch das halbe Videobild.
  • Alle Formeln und Darstellungen gelten für diese Ausführungsform in gleicher Weise wie bei der ersten und zweiten Ausführungsform.
  • Eine stereoskopische Visualisierung mit unterschiedlichen Perspektiven für das linke und rechte Auge des Betrachters Z wird in der ersten Ausführungsform dadurch erreicht, dass die linke Perspektive, welche auf dem linke Auge des Betrachters angezeigt werden soll, z.B. in einen oberen Bereich des Zylinders abgebildet wird und die rechte Perspektive in einen unteren Bereich des Zylinders abgebildet wird. Dabei ist darauf zu achten, dass sich die oberen und unteren Bereiche des Zylinders nicht überschneiden (6d). Alternativen können die rechte Perspektive auch oben und die linke Perspektive unten abgebildet werden oder beiden Perspektiven auf zwei verschiedene, aber von der Form und Größe identische Zylinder abgebildet werden. Wichtig ist nur, dass die linke Perspektive dem linken Auge zugeführt wird und die rechte Perspektive dem rechten Auge.
  • Für eine Visualisierung gemäß Ausführungsform zwei kann man zwei identische Kugel verwenden und in beide Kugeln die unterschiedlichen Perspektiven abbilden und von dort dem linken und rechten Auge des Betrachters Z getrennt zuführen.
  • Beide stereoskopischen Visualisierungen werden sinngemäß auch auf Ausführungsform drei angewendet.

Claims (14)

  1. Verfahren zur Anzeige eines zugeführten stereoskopischen Bildes mit mindestens 2 Perspektiven und einer Auflösung von horizontal Ix und vertikal Iy Bildpunkten auf einer Anzeigevorrichtung, wobei der Bildinhalt des zugeführten Bildes in einem Kino-Modell, welches aus einem Zylinder mit einem Radius D besteht und mit eine Auflösung von horizontal Px und vertikal Py Bildpunkten angezeigt wird, wobei sich der Betrachter im Mittelpunkt dieses Zylinders befindet und sich nach links und rechts umschauen kann, wobei das Verfahren folgende Schritte umfasst: - ein Skalierungsfaktor a > 0, welcher den Grad festlegt, um welchen sich der Betrachter dem Zylinder genähert oder entfernt hat, wird zugeführt und ein Betrachtungsabstand D' mit D' = a·D wird berechnet oder, der Betrachtungsabstand D und D' werden bestimmt und ein Skalierungsfaktor mit a > 0 wird berechnet mit a = D' / D; - in einem Kino-Modell wird ein Zylinder mit dem Radius D' erzeugt, wobei sich der Betrachter im Mittelpunkt des Zylinders befindet; - der zugeführte Bildinhalt wird auf eine Größe von horizontal Px'mit Px'= (1/a)·Px und vertikal Py' mit Py' = (1/a)·Py Bildpunkten und den Bedingungen Px'> Ix und Py' > Iy zum Erhalt eines skalierten Bildinhalts skaliert; - der skalierte Bildinhalt wird auf den Zylinder mit der horizontalen Ausdehnung von Px'Bildpunkten und der vertikalen Ausdehnung von Py' Bildpunkten projiziert, wobei sich der Betrachter im Mittelpunkt des Zylinders befindet.
  2. Verfahren nach Anspruch 1, wobei die Schritte nach einem Zeitraum t > 0 wiederholt werden.
  3. Verfahren nach Anspruch 1 oder 2, wobei die Schritte nach jedem Bild der Bildfolge wiederholt werden.
  4. Verfahren nach zumindest einem der vorhergehenden Ansprüche, wobei die Anzeigevorrichtung ein am Kopf des Betrachters befestigte Anzeigevorrichtung ist.
  5. Verfahren nach zumindest einem der vorhergehenden Ansprüche, wobei die Anzeigevorrichtung eine stereoskopische Anzeigevorrichtung ist.
  6. Verfahren nach zumindest einem der vorhergehenden Ansprüche, wobei die Anzeigevorrichtung eine autostereoskopische Anzeigevorrichtung ist.
  7. Verfahren nach zumindest einem der vorhergehenden Ansprüche, wobei die Anzeige eine immersive Anzeige ist und der Betrachter links den linksten Bildpunkt oder rechts den rechtesten Bildpunkt nicht erkennt.
  8. Verfahren zur Anzeige einer zugeführten stereoskopischen Bildfolge mit mindestens 2 Perspektiven und einer Auflösung von horizontal Ix und vertikal Iy Bildpunkten auf einer Anzeigevorrichtung, wobei der Bildinhalt der zugeführten Bildfolge in einem Kino-Modell, welches aus einer Kugel mit einem Radius D besteht, mit eine Auflösung von horizontal Px und vertikal Py Bildpunkten angezeigt wird, wobei sich der Betrachter im Mittelpunkt dieser Kugel befindet und sich nach links, rechts, oben oder unten umschauen kann, wobei das Verfahren folgende Schritte umfasst: - ein Skalierungsfaktor a > 0, welcher den Grad festlegt, um welchen sich der Betrachter der Kugel genähert oder entfernt hat, wird zugeführt und ein Betrachtungsabstand D' mit D' = a·D wird berechnet, oder der Betrachtungsabstand D und D' werden bestimmt und ein Skalierungsfaktor mit a > 0 wird berechnet mit a = D' / D; - in einem Kino-Modell wird eine Kugel mit dem Radius D' erzeugt, wobei sich der Betrachter im Mittelpunkt der Kugel befindet; - der zugeführte Bildinhalt wird auf eine Größe von horizontal Px'mit Px'= (1/a)·Px und vertikal Py' mit Py' = (1/a)·Px Bildpunkten und den Bedingungen Px'> Ix und Py' > Iy zum Erhalt eines skalierten Bildinhalts skaliert; - der skalierte Bildinhalt wird auf die Kugel mit der horizontalen Ausdehnung von Px'Bildpunkten und der vertikalen Ausdehnung von Py'Bildpunkten projiziert, wobei sich der Betrachter im Mittelpunkt der Kugel befindet.
  9. Verfahren nach Anspruch 8, wobei die Schritte nach einem Zeitraum t > 0 wiederholt werden.
  10. Verfahren nach Anspruch 8 oder 9, wobei die Schritte nach jedem Bild der Bildfolge wiederholt werden.
  11. Verfahren nach zumindest einem der vorhergehenden Ansprüche 8 bis 10, wobei die Anzeigevorrichtung ein am Kopf des Betrachters befestigte Anzeigevorrichtung ist.
  12. Verfahren nach zumindest einem der vorhergehenden Ansprüche 8 bis 11, wobei die Anzeigevorrichtung eine stereoskopische Anzeigevorrichtung ist.
  13. Verfahren nach zumindest einem der vorhergehenden Ansprüche 8 bis 12, wobei die Anzeigevorrichtung eine autostereoskopische Anzeigevorrichtung ist.
  14. Verfahren nach zumindest einem der vorhergehenden Ansprüche 8 bis 13, wobei die Anzeige eine immersive Anzeige ist und der Betrachter links den linksten Bildpunkt, rechts den rechtesten Bildpunkt oben den obersten Bildpunkt und unten den untersten Bildpunkt nicht erkennt.
DE102019108999.9A 2019-04-05 2019-04-05 Verfahren zur immersiven Anzeige von stereoskopischen Bildern und Bildfolgen Active DE102019108999B4 (de)

Priority Applications (2)

Application Number Priority Date Filing Date Title
DE102019108999.9A DE102019108999B4 (de) 2019-04-05 2019-04-05 Verfahren zur immersiven Anzeige von stereoskopischen Bildern und Bildfolgen
PCT/EP2020/059696 WO2020201571A1 (de) 2019-04-05 2020-04-03 Verfahren zur immersiven anzeige von stereokopischen bildern und bildfolgen

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102019108999.9A DE102019108999B4 (de) 2019-04-05 2019-04-05 Verfahren zur immersiven Anzeige von stereoskopischen Bildern und Bildfolgen

Publications (2)

Publication Number Publication Date
DE102019108999A1 DE102019108999A1 (de) 2020-10-08
DE102019108999B4 true DE102019108999B4 (de) 2020-12-31

Family

ID=70228028

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102019108999.9A Active DE102019108999B4 (de) 2019-04-05 2019-04-05 Verfahren zur immersiven Anzeige von stereoskopischen Bildern und Bildfolgen

Country Status (2)

Country Link
DE (1) DE102019108999B4 (de)
WO (1) WO2020201571A1 (de)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170323485A1 (en) * 2016-05-09 2017-11-09 Magic Leap, Inc. Augmented reality systems and methods for user health analysis
EP3330839A1 (de) * 2016-12-05 2018-06-06 THOMSON Licensing Verfahren und vorrichtung zur anpassung eines immersiven inhalts an das sichtfeld eines benutzers

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5515078A (en) 1992-06-12 1996-05-07 The Computer Museum, Inc. Virtual-reality positional input and display system
US7113618B2 (en) * 2001-09-18 2006-09-26 Intel Corporation Portable virtual reality
US9812096B2 (en) * 2008-01-23 2017-11-07 Spy Eye, Llc Eye mounted displays and systems using eye mounted displays
GB2548080B (en) * 2016-02-19 2021-07-14 Nokia Technologies Oy A method for image transformation

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170323485A1 (en) * 2016-05-09 2017-11-09 Magic Leap, Inc. Augmented reality systems and methods for user health analysis
EP3330839A1 (de) * 2016-12-05 2018-06-06 THOMSON Licensing Verfahren und vorrichtung zur anpassung eines immersiven inhalts an das sichtfeld eines benutzers

Also Published As

Publication number Publication date
WO2020201571A1 (de) 2020-10-08
DE102019108999A1 (de) 2020-10-08

Similar Documents

Publication Publication Date Title
DE69628662T2 (de) Bildumwandlungs- und kodierungstechniken
EP0836332B1 (de) Positionsadaptiver, autostereoskoper Monitor (PAM)
DE19953595B4 (de) Verfahren und Vorrichtung zur Verarbeitung dreidimensionaler Bilder
DE602004008794T2 (de) Bildwiedergabe mit interaktiver bewegungsparallaxe
DE69621148T2 (de) Dreidimensionales zeichnungssystem und verfahren
DE4312918A1 (de) Wiedergabeeinrichtung
AT394459B (de) Verfahren zum gewinnen von bildern zur verwendung beim darstellen eines dreidimensionalen scheinbildes und bildaufzeichnungstraeger, auf dem erste und zweite gruppen von serien derartiger bilder gespeichert sind
DE102006059400A1 (de) Display-Einrichtung zur Erzeugung von Rekonstruktionen dreidimensionaler Darstellungen
DE102006019169A1 (de) Autostereoskopische Adapterscheibe mit Echtzeit-Bildsynthese
WO2008141596A1 (de) Verfahren zum darstellen von bildobjekten in einem virtuellen dreidimensionalen bildraum
DE69601577T2 (de) Verfahren und einrichtung zur aufnahme stereoskopischer bilder
EP0722256A2 (de) Personenadaptiver autostereoskoper Shutter-Bildschirm (PAAS)
DE4309667A1 (de) Optisches System zur zwei- und dreidimensionalen Darstellung von Information
WO2009062492A2 (de) Verfahren zum darstellen von bildobjekten in einem virtuellen dreidimensionalen bildraum
DE102013211671A1 (de) System zum Hervorheben von Zielen an Head-Up-Anzeigen mit Nahfokusebene
DE69837165T2 (de) Verfahren und gerät für automatische animation von dreidimensionalen grafischen szenen für verbesserte 3-d visualisierung
DE4123895A1 (de) Verfahren zur autostereokopischen bild-, film- und fernsehwiedergabe
DE102010028668A1 (de) Verfahren zur räumlichen Darstellung
DE102019108999B4 (de) Verfahren zur immersiven Anzeige von stereoskopischen Bildern und Bildfolgen
WO2005106563A2 (de) System zum betrachten von stereoskopischen bildern
DE102007028654A1 (de) Vorrichtung und Verfahren zur ergonomischen Darstellung der räumlichen Tiefe von Objekten in virtuellen Umgebungen
DE19537499C2 (de) Autostereoskopisches Bildwiedergabegerät
DE102004032586B4 (de) Verfahren zur Erzeugung einer dreidimensionalen Darstellung
EP4008105B1 (de) Verfahren und vorrichtung für eine adaptive disparitätskontrolle
DE10134430A1 (de) Verfahren und Anordnung zur stereoskopischen Projektion von Bildern

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R079 Amendment of ipc main class

Free format text: PREVIOUS MAIN CLASS: G02B0027220000

Ipc: G02B0030000000

R016 Response to examination communication
R018 Grant decision by examination section/examining division
R079 Amendment of ipc main class

Free format text: PREVIOUS MAIN CLASS: G02B0030000000

Ipc: G02B0030200000

R020 Patent grant now final