DE102018203003A1 - Verfahren und Vorrichtung zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug - Google Patents

Verfahren und Vorrichtung zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug Download PDF

Info

Publication number
DE102018203003A1
DE102018203003A1 DE102018203003.0A DE102018203003A DE102018203003A1 DE 102018203003 A1 DE102018203003 A1 DE 102018203003A1 DE 102018203003 A DE102018203003 A DE 102018203003A DE 102018203003 A1 DE102018203003 A1 DE 102018203003A1
Authority
DE
Germany
Prior art keywords
image
transformed
motor vehicle
transforming
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102018203003.0A
Other languages
English (en)
Inventor
Andreas Weinlich
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Continental Automotive Technologies GmbH
Original Assignee
Continental Automotive GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Continental Automotive GmbH filed Critical Continental Automotive GmbH
Priority to PCT/EP2018/085702 priority Critical patent/WO2019121820A1/de
Publication of DE102018203003A1 publication Critical patent/DE102018203003A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

Ein Verfahren zum Betreiben eines Kamera-Monitor-Systems (100) für ein Kraftfahrzeug (101), bei dem das Kamera-Monitor-System (100) zwei Kameras (102, 103) aufweist, die einer gemeinsamen Seite (106, 107) des Kraftfahrzeugs zugeordnet sind und die jeweils dazu ausgebildet sind, ein Bild (201, 202) einer Umgebung (105) des Kraftfahrzeugs (101) bereit zu stellen, wobei die abgebildete Umgebung (105) der Bilder (201, 202) teilweise überlappt, umfasst:- Bereitstellen einer Vorgabe für ein erstes Bild (201) der ersten Kamera (102),- Transformieren des ersten Bildes (201) zu einem ersten transformierten Bild (301), sodass die bereitgestellte Vorgabe in dem transformierten Bild (301) erfüllt ist,- Ermitteln von mindestens einem Bildelement (303) auf einer Ebene (309) in dem ersten transformierten Bild (301),- Ermitteln von einem korrespondierenden Bildelement (304) in mindestens einem zweiten Bild (202) der zweiten Kamera (103), das mit den mindestens einen Bildelement (303) korrespondiert,- Transformieren des zweiten Bildes (202) in Abhängigkeit der ermittelten Bildelemente (303, 304) des ersten transformierten Bildes (301) und des zweiten Bildes (202), sodass ein weiteres Bildelement (305) in einem Randbereich (308) eines transformierten zweiten Bildes (302) an ein korrespondierendes weiteres Bildelement (306) in einem Randbereich (307) des transformierten ersten Bildes (301) anschließt.

Description

  • Die Erfindung betrifft ein Verfahren zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug, insbesondere für einen Lastkraftwagen. Die Erfindung betrifft weiterhin eine Vorrichtung, die dazu ausgebildet ist, das Verfahren durchzuführen.
  • Kraftfahrzeuge, beispielsweise Lastkraftwagen und Busse, weisen herkömmlich Außenspiegel auf. Es sind auch Spiegelersatzsysteme bekannt, bei denen mittels einer Kamera und eines Monitors die Sichtbereiche der üblichen Außenspiegel abgebildet werden.
  • Es ist wünschenswert, ein Verfahren zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug anzugeben, das einen zuverlässigen Betrieb ermöglicht. Es ist weiterhin wünschenswert, eine Vorrichtung zum Betreiben eines Kamera-Monitor-Systems anzugeben, die einen verlässlichen Betrieb ermöglicht.
  • Die Erfindung zeichnet sich aus durch ein Verfahren zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug sowie durch eine korrespondierende Vorrichtung, die ausgebildet ist, das Verfahren auszuführen.
  • Gemäß zumindest einer Ausführungsform weist das Kamera-Monitor-System zwei Kameras auf, die einer gemeinsamen Seite des Kraftfahrzeugs zugeordnet sind. Die Kameras sind jeweils dazu ausgebildet, ein Bild einer Umgebung des Kraftfahrzeugs bereitzustellen. Die abgebildete Umgebung der Bilder überlappt sich zumindest teilweise, insbesondere in einem Randbereich.
  • Eine Vorgabe für ein erstes Bild der ersten Kamera wird bereitgestellt. Das erste Bild wird zu einem ersten transformierten Bild transformiert, sodass die bereitgestellte Vorgabe in dem transformierten Bild erfüllt ist. Das erste Bild wird insbesondere in Abhängigkeit von der bereitgestellten Vorgabe transformiert. Mindestens ein Bildelement wird auf einer Ebene in dem ersten transformierten Bild ermittelt. Die Ebene ist insbesondere eine Ebene in der 3D-Umgebung des Kraftfahrzeugs. Ein korrespondierendes Bildelement wird in einem zweiten Bild der zweiten Kamera ermittelt. Das korrespondierende Bildelement korrespondiert mit dem mindestens einen Bildelement des ersten transformierten Bildes. Das zweite Bild wird in Abhängigkeit der ermittelten Bildelemente des ersten transformierten Bildes und des zweiten Bildes transformiert, sodass ein weiteres Bildelement in einem Randbereich eines transformierten zweiten Bildes an ein korrespondierendes weiteres Bildelement in einem Randbereich des transformierten ersten Bildes anschließt.
  • Das erste Bild und das zweite Bild werden jeweils transformiert, um mittels eines sogenannten Stitchings so aneinander angefügt werden zu können, dass in den Randbereichen das weitere Bildelement zusammenhängend dargestellt wird. Das transformierte erste Bild dient als Referenzbild. Das zweite Bild wird transformiert, beispielsweise mittels Homographie, auch projektive Transformation genannt. Die Referenzpositionen in den beiden Bildern, deren Übereinstimmung als Optimalitätskriterium verwendet wird, werden beispielsweise durch Merkmalserkennung, Merkmalsvergleich, beispielsweise SIFT, Merkmalsaussortierung, beispielsweise RANSAC, und/oder durch das Verfahren der kleinsten Quadrate (englisch: linear least squares) gewonnen. Hierzu werden insbesondere vier Bildelemente und vier korrespondierende Bildelemente bestimmt.
  • Mittels des Verfahrens ist es möglich, die Aufnahmen der zwei verschiedenen Kameras auf der gemeinsamen Seite so darzustellen, dass die dargestellte Umgebung von einem Nutzer intuitiv erfassbar ist. Obwohl das erste Bild von einer anderen Kamera aufgenommen wurde als das untere Bild, schließen die beiden transformierten Bilder in ihren Randbereichen nahtlos aneinander an.
  • Beispielsweise ist die erste Kamera eine Kamera mit einem geringen Sichtwinkel und einer hohen Brennweite, beispielsweise mit einer Telelinse. Beispielsweise ist die zweite Kamera eine Kamera mit geringer Brennweite und großem Sichtwinkel, beispielsweise mit einer Weitwinkellinse. Beispielsweise dient die erste Kamera dazu, die gesetzlichen Sichtfeldklassen 2 und 4 auf einem Monitor darzustellen. Beispielsweise dient die zweite Kamera dazu, die gesetzlichen Sichtfeldklassen 5 und teilweise 4 darzustellen. Insbesondere ist es mit dem Verfahren möglich, größere Bereiche der Umgebung anzuzeigen, als die gesetzlichen Sichtfeldklassen vorsehen.
  • Das Verfahren ermöglicht ein Realisieren der bereitgestellten Vorgabe in dem ersten Bild und zusätzlich ein Anschließen der beiden transformierten Bilder so, dass die Randbereiche nahtlos aneinander angrenzen. Somit muss weder das erste Bild noch das zweite Bild als Referenzbild definiert werden. Verschiedene Vorgaben für das erste Bild und/oder das zweite Bild beziehungsweise für das erste transformierte Bild und das zweite transformierte Bild sind realisierbar. Zudem ist das Verfahren auch verlässlich durchführbar, wenn das erste Bild und/oder das zweite Bild eine vergleichsweise schlechte Qualität aufweisen, beispielsweise im Dunkeln. Zudem ist ein Zusammenfügen der beiden transformierten Bilder trotz der unterschiedlichen Eigenschaften der verwendeten Kameras möglich.
  • Gemäß zumindest einer Ausführungsform wird das erste Bild linsenentzerrt vor dem Transformieren. Alternativ oder zusätzlich wird das zweite Bild linsenentzerrt vor dem Transformieren. Die Eingangsbilder der beiden Kameras werden beispielsweise so entzerrt, dass bekannte Verzerrungen aufgrund der verwendeten Linsen ausgeglichen werden.
  • Gemäß zumindest einer Ausführungsform wird das mindestens eine Bildelement auf einer dem Kraftfahrzeug zugeordneten Bodenebene ermittelt. Beispielsweise wird dies durch eine festgelegte Einschränkung der Bildregion oder durch eine Erkennung aus der Fahrzeugbewegung während der Fahrt realisiert. Dadurch wird sichergestellt, dass kein Objekt, das im Randbereich der beiden Bilder auf dem Boden steht, durch die Transformation verlorengeht. Auf dem Boden stehende Objekte werden in den transformierten Bildern stets dargestellt. Auf dem Boden stehende Objekte bleiben immer teilweise im Sichtfeld des Fahrers. Hierdurch wird die Sicherheit erhöht.
  • Beispielsweise ist die bereitgestellte Vorgabe für das transformierte erste Bild eine Darstellung eines Horizonts horizontal. Alternativ oder zusätzlich ist die bereitgestellte Vorgabe ein Darstellen einer Bodenkante des Kraftfahrzeugs gerade. Alternativ oder zusätzlich ist die bereitgestellte Vorgabe ein Darstellen einer Außenkante des Kraftfahrzeugs gerade. Alternativ oder zusätzlich ist die bereitgestellte Vorgabe ein Darstellen einer Heckkante eines Kraftfahrzeugs vertikal. Alternativ oder zusätzlich ist die bereitgestellte Vorgabe ein Darstellen eines vorgegebenen Elements des Kraftfahrzeugs in dem ersten transformierten Bildpunkt. Beispielsweise soll die obere Ecke der Anhängerhinterkante im ersten transformierten Bild noch sichtbar sein. Auch andere Vorgaben sind möglich, die beispielsweise aus gesetzlichen Vorgaben und/oder Nutzerkomfortanalysen resultieren, aus Einstellungen eines Nutzers oder fahrsituationsabhängig vorgegeben werden.
  • Gemäß zumindest einer Ausführungsform werden das erste transformierte Bild und/oder das zweite transformierte Bild jeweils weiter transformiert, um eine weitere bereitgestellte Vorgabe zu erfüllen. Beispielsweise umfasst das weitere Transformieren ein Zoomen, Strecken, Verzerren oder ähnliches um einen gewünschten Bereich der Umgebung anzeigen zu können. Die weiteren Transformationen werden gemäß Ausführungsformen mit den vorherigen Transformationen kombiniert und somit gleichzeitig ausgeführt.
  • Gemäß zumindest einer Ausführungsform erfolgt das Transformieren des ersten Bildes mittels Homographie. Alternativ oder zusätzlich erfolgt das Transformieren des zweiten Bildes mittels Homographie. Dies ermöglicht eine zuverlässige und dabei ausreichend schnelle Transformation.
  • Gemäß zumindest einer Ausführungsform wird das zweite Bild in Abhängigkeit der ermittelten Bildelemente so transformiert, dass die ermittelten Bildelemente in dem transformierten zweiten Bild und in dem transformierten ersten Bild übereinstimmen. Die Koordinaten der Bildelemente stimmen in dem transformierten ersten Bild und in dem transformierten zweiten Bild überein. Dadurch ist ein nahtloses Anschließen der beiden Randbereiche aneinander möglich.
  • Gemäß zumindest einer Ausführungsform umfasst das Transformieren des zweiten Bildes ein Transformieren der ermittelten Bildelemente so, dass eine Linie in dem Randbereich des zweiten transformierten Bildes an eine korrespondierende Linie in dem Randbereich des ersten transformierten Bildes unmittelbar anschließt, insbesondere eine Linie auf Bodenebene. Somit schließen die beiden transformierten Bilder nahtlos aneinander an. Insbesondere bleiben Linien auf der Bodenebene in den Randbereichen verbunden.
  • Gemäß zumindest einer Ausführungsform werden das erste transformierte Bild und das zweite transformierte Bild als Gesamtbild auf einem gemeinsamen Monitor des Kamera-Monitor-Systems dargestellt. Beispielsweise wird das erste transformierte Bild als oberes Bild des Gesamtbilds dargestellt. Das zweite transformierte Bild wird als unteres Bild des Gesamtbilds dargestellt. Das Verfahren ermöglicht, dass das Gesamtbild intuitiv von einem Nutzer erfasst werden kann, obwohl das erste transformierte Bild auf einer andere Kamera basiert als das zweite transformierte Bild.
  • Die Vorrichtung für das Kraftfahrzeug, die ausgebildet ist, das Verfahren gemäß zumindest einer Ausführungsform auszuführen, ist beispielsweise Teil eines Steuergerätes für das Kraftfahrzeug (englisch: ECU, electronic control unit).
  • Vorteile, Merkmale und Weiterbildungen, die für das Verfahren beschrieben sind, gelten auch für die Vorrichtung und umgekehrt.
  • Weitere Vorteile, Merkmale und Weiterbildungen ergeben sich aus den nachfolgenden, in Verbindung mit den Figuren erläuterten Beispielen. Gleiche, gleichartige und gleich wirkende Elemente können figurenübergreifend mit den gleichen Bezugszeichen versehen sein.
  • Es zeigen:
    • 1 eine schematische Darstellung eines Kraftfahrzeugs mit einem Kamera-Monitor-System gemäß einem Ausführungsbeispiel,
    • 2 eine schematische Darstellung eines Bildes einer ersten Kamera gemäß einem Ausführungsbeispiel,
    • 3 eine schematische Darstellung eines Bildes einer zweiten Kamera gemäß einem Ausführungsbeispiel,
    • 4 eine schematische Darstellung eines Gesamtbildes gemäß einem Ausführungsbeispiel, und
    • 5 ein Ablaufdiagramm eines Verfahrens gemäß einem Ausführungsbeispiel.
  • 1 zeigt eine schematische Darstellung eines Kraftfahrzeugs 101 gemäß einem Ausführungsbeispiel von oben. Das Kraftfahrzeug 101 ist beispielsweise ein Lastkraftwagen mit einem Anhänger, ein Bus und/oder ein Personenkraftwagen.
  • Das Kraftfahrzeug 101 weist ein Kamera-Monitor-System 100 als Spiegelersatzsystem auf. Das Kamera-Monitor-System 100 weist je Seite 106, 107 des Kraftfahrzeugs 101 zwei Kameras 102, 103 auf. Die Kameras 102, 103 dienen dazu, eine Umgebung 105 der jeweiligen zugeordneten Seite 106, 107 aufzunehmen.
  • Gemäß weiteren Ausführungsbeispielen sind lediglich an einer Seite der Seiten 106, 107 die beiden Kameras 102, 103 angeordnet.
  • Das Kamera-Monitor-System 100 weist zwei Monitore 104 auf, die jeweils einer der Seiten 106, 107 zugeordnet sind. Im Betrieb wird ein Ausschnitt der Umgebung 105 auf der Seite 106, der von den dort angeordneten Kameras 102, 103 aufgezeichnet wird, auf dem zugeordneten Monitor 104 als Gesamtbild 400 dargestellt. Auf dem Monitor 104, der der Seite 107 zugeordnet ist, wird ein Ausschnitt aus der Umgebung 105 als Gesamtbild 400 dargestellt, das mittels der Kameras 102, 103 aufgezeichnet wird, die der Seite 107 zugeordnet sind. Somit unterscheidet sich das Gesamtbild 400 auf den beiden Monitoren 104.
  • Das Gesamtbild 400 auf dem Monitor 104 ist insbesondere dazu eingerichtet, ein Spiegelbild eines herkömmlichen Außenspeigels darzustellen und insbesondere weitere Ausschnitte aus der Umgebung 105 darzustellen, die mit herkömmlichem Außenspiegel nicht abbildbar sind.
  • Eine Vorrichtung 110 ist vorgesehen, mit der die Kameras 102, 103 und die Monitore 104 signaltechnisch gekoppelt sind. Die Vorrichtung 110 ist eingerichtet, sowohl die Kameras 102, 103 als auch die Monitore 104 zu steuern. Beispielsweise ist die Vorrichtung 110 ein Steuergerät oder Teil eines Steuergerätes des Kraftfahrzeugs 101.
  • 2 zeigt ein erstes Bild 201, das beispielsweise auf der Seite 106 mittels der ersten Kamera 102 aufgezeichnet ist. Die erste Kamera 102 ist beispielsweise eine Kamera mit einem geringen Sichtwinkel und einer hohen Brennweite. Die Kamera 102 nimmt einen Ausschnitt der Umgebung 105 nach hinten auf. Aufgrund der verwendeten Optiken ist beispielsweise ein Horizont 310 auf dem Bild 201 gekrümmt dargestellt. Eine Bodenkante 311 des Kraftfahrzeugs 101 ist beispielsweise im Bild 201 gekrümmt dargestellt, obwohl diese am realen Kraftfahrzeug gerade verläuft. Beispielsweise ist eine Heckkante 312 des Kraftfahrzeugs 101 gekrümmt oder schräg dargestellt, obwohl diese am realen Kraftfahrzeug vertikal gerade verläuft.
  • 3 zeigt ein zweites Bild 202, das beispielsweise auf der Seite 106 mittels der zweiten Kamera 103 aufgezeichnet ist. Das zweite Bild 202 zeigt einen zum ersten Bild 201 unterschiedlichen Ausschnitt aus der Umgebung 105. Die dargestellten Bereiche der Umgebung 105 überlappen sich jedoch zumindest teilweise.
  • Nach der Durchführung des nachfolgend im Zusammenhang mit 5 beschriebenen Verfahrens wird das Gesamtbild 400, das auf den beiden Bildern 201, 202 basiert, auf dem Monitor 104 dargestellt, wie in 4 beispielhaft gezeigt.
  • Das Verfahren beginnt gemäß dem Ausführungsbeispiel der 5 mit Schritt 501. Im Schritt 501 werden die Bilder 201 und 202 jeweils linsenentzerrt. Somit werden Verzerrungen aufgrund der Optiken digital kompensiert.
  • Nachfolgend wird in Schritt 502 auf eines der beiden Bilder 201, 202 eine erste Transformation angewandt. Im beschriebenen Ausführungsbeispiel wird auf das erste Bild 201 eine Transformation angewandt. Die Transformation ist insbesondere durch eine Homographie darstellbar und/oder verändert die zu stützende untere Bildkante nicht. Die Transformation in Schritt 502 wird durchgeführt, um Vorgaben für die Darstellung des ersten Bilds zu erfüllen. Die Vorgaben sind beispielsweise mindestens eins aus: einer Darstellung des Horizonts 310 horizontal, einer Darstellung der Bodenkante 311 gerade, einer Darstellung der Heckkante 312 vertikal und einer Darstellung eines vorgegebenen Elements 313 (4), beispielsweise der oberen Ecke der Anhängerhinterkante, in einem ersten transformierten Bild 301. Das erste transformierte Bild 301 wird mittels der Transformation in Schritt 502 aus dem ersten Bild 201 erzeugt. Die Transformation in Schritt 502 mittels Homographie ermöglicht eine natürlich wirkende Darstellung des ersten Bildes 201.
  • Beispielsweise erfolgt die Transformation manuell, das heißt durch Verschieben und Verändern des transformierten Bildes 301, bis eine gewünschte Darstellung erreicht ist. alternativ oder zusätzlich erfolgt die Transformation automatisch mit Hilfe von Kalibriermustern, beispielsweise vier Mustern. Die Kalibriermuster werden im Bild 201 erkannt und dann an definierte Stellen transformiert.
  • In Schritt 503 werden im transformierten ersten Bild 301 vier oder mehr Bildelemente 303 anotiert. Es ist auch möglich, weniger als vier Bildelemente 303 zu anotieren, wenn weitere Informationen über die Bildelemente vorliegen. In dem noch nicht transformierten Bild 202 der zweiten Kamera 103 werden korrespondierende Bildelemente 304 (3) anotiert.
  • Beispielsweise erfolgt das Anotieren manuell durch Auswählen von den Bildelementen 301 und den korrespondierenden Bildelementen 304. Alternativ oder zusätzlich werden die Bildelemente 303 und die korrespondierenden Bildelemente 304 automatisch erkannt.
  • Die Bildelemente 303 und die korrespondierenden Bildelemente 304 liegen in einer Ebene 309, insbesondere auf Bodenniveau in Bezug auf das Kraftfahrzeug 101. In einem Kalibrieraufbau ist es möglich, dass die Ebene 309 eine Wand oder eine Decke ist, wenn die Kameras 102, 103 anders befestigt sind als später im Betrieb im Kraftfahrzeug 101.
  • Beispielsweise erfolgt die Anotation halb automatisch mittels eines oder mehrerer Kalibriermuster, die auf dem Boden ausgelegt werden. Beispielsweise enthalten die Kalibriermuster insgesamt mindestens vier eindeutig und automatisch zueinander zuordenbare und paarweise möglichst weit voneinander entfernte Punkte.
  • Auch eine vollautomatische Anotation mittels eines Aussortieralgorithmus ist möglich, der nur zueinander als passend erkannte Merkmalspunkte zulässt, die in der Ebene 309 liegen. Dies kann beispielsweise durch eine vorher festlegte Einschränkung der Bildregion oder durch eine Erkennung aus der Fahrzeugbewegung während der Fahrt erfolgen.
  • Im Schritt 504 wird das zweite Bild 202 zu einem transformierten zweiten Bild 302 transformiert. Dies erfolgt insbesondere mittels einer Homographietransformation. Hierfür wird insbesondere auf Grundlage der Bildelemente 303 und der korrespondierenden Bildelemente 304 eine Transformationsmatrix berechnet. Diese wird auf das zweite Bild 202 angewandt, um das transformierte zweite Bild 302 zu erhalten. Die Transformation wird so durchgeführt, dass das zweite Bild 202 so verzerrt wird, dass es an das bereits transformierte erste Bild 301 anschließt. Das transformierte erste Bild 301 und das transformierte zweite Bild 302 schließen so aneinander an, dass insbesondere alle Linien auf Bodenebene weiterhin verbunden bleiben. Insbesondere in einem Randbereich 307 des transformierten ersten Bildes 301 und in einem unmittelbar angrenzenden Randbereich 308 des transformierten zweiten Bilds 302 bleibt ein weiteres Bildelement 305, beispielsweise eine Linie, und ein korrespondierendes weiteres Bildelement 306 des transformierten ersten Bildes 301 im Gesamtbild 400 verbunden (4) . Beispielsweise wird die ermittelte Transformationsmatrix unmittelbar direkt auf das zweite Bild 202 angewandt.
  • In einem optionalen Schritt 505 erfolgen gemäß Ausführungsbeispielen weitere Transformationen. Diese können gemeinsam mit der Transformation in Schritt 504 oder anschließend erfolgen. Die weiteren Transformationen, beispielsweise bilinear und/oder allgemein polynomial, werden angewandt, um weitere Vorgaben für das Gesamtbild 400 und/oder das transformierte erste Bild 301 und/oder das transformierte zweite Bild 302 zu erfüllen. Die Transformationen in dem Schritt 505 werden so durchgeführt, dass die Pixel in den Randbereichen 307 und 308 an gleicher Position bleiben, die aneinander angrenzen. Beispielsweise wird das zweite Bild 202 so gestaucht, dass ein größerer Ausschnitt der Umgebung 105 im Gesamtbild 400 dargestellt wird. Auch andere weitere Vorgaben sind möglich.
  • Die initiale Homographie, insbesondere nach einer als ideal angenommenen Linsenentzerrung, sorgt beispielsweise dafür, dass einerseits die gegebenen Nebenbedingungen und Vorgaben für das transformierte erste Bild 301 erfüllt werden und andererseits das zweite Bild 202 noch immer durch eine Homographie in Bodenebene 309 exakt gestitched werden kann.
  • Die Verwendung der Bildelemente 303, 304 für das Stitching, die sich auf der Bodenebene 309 befinden, sorgt insbesondere dafür, dass die beiden transformierten Bilder 301, 302 auf Bodenniveau 309 exakt aneinander anschließen. Auf Bodenniveau bleiben aneinander anschließende Geraden noch immer gerade. Hierdurch bleiben auf dem Boden stehende Objekte möglichst immer zumindest teilweise im Sichtfeld des Fahrers. Somit ist die Sicherheit gewährleistet. Die Verwendung von Homographietransformationen als Transformationen sorgt dafür, dass einerseits keine Bildpunkte diskontinuierlich und damit unintuitiv verloren gehen und andererseits gerade Linien gerade bleiben, um die Fahrtrichtung beim Rangieren beispielsweise exakt abschätzen zu können. Die Homographie gewährleistet insbesondere, dass insbesondere in einer Ebene, beispielsweise der Bodenebene 309 gerade Kanten auch gerade dargestellt werden.
  • Der Vorteil, dass gerade Kanten gerade bleiben und nicht abgeknickt erscheinen, besteht gemäß Ausführungsbeispielen insbesondere nur vor Schritt 505, also vor der weiteren Transformation. Nach dem Schritt 505 kann dies beispielsweise je nach Transformation noch für gerade Linien in Fahrtrichtung, beispielsweise für den Mittelstreifen, gewährleistet werden, jedoch insbesondere nicht allgemein für alle Linien auf Bodenebene.
  • Das Kamera-Monitor-System 100 ermöglicht insbesondere auch ein Einbinden weiterer Kamerabilder, um beispielsweise im Gesamtbild 400 auf die gesetzliche Sichtfeldklasse 6 abzubilden.
  • Zum Erlangen des Gesamtbilds 400 werden am Kraftfahrzeug 101 zunächst die in der Vorrichtung 110 ankommenden Bilder 201, 202 der Kameras 102, 103 durch eine Barrellinsenentzerrung mit den Parametern A, B, C und D polynomial radial entzerrt.
  • Auf das im Gesamtbild 400 oben darzustellende erste Bild 201 der Kamera 102 wird eine Homographie angewandt, die beispielsweise sicherstellt, dass die Heckkante 312 vertikal steht, der Horizont 310 horizontal ausgerichtet ist, die obere Ecke 313 der Anhängerhinterkante gerade noch sichtbar ist, nicht zu viel vom Anhänger im Bild sichtbar ist sowie die perspektivische Verzerrung nicht zu extrem ausfällt. Diese Homographie wird beispielsweise durch vier manuell festgelegte Verschiebungen von vier manuell festgelegten Punkten im Bild festgelegt, beispielsweise die obere Ecke der Anhängerhinterkante, das Kraftfahrzeug 101 im unteren Bereich des Bildes, der Horizont 310 am äußeren Ende des Bildes und ein Punkt im unteren relativ weit äußeren Bereich des Bildes, um final die Stärke der Perspektivverzerrung einzurichten. Hierzu kommt beispielsweise ein Kalibiertestbild zum Einsatz, das vorab aufgenommen wurde.
  • Beispielsweise werden nachfolgend die vier Bildpunkte 303 und die korrespondierenden Bildpunkte 304 in den beiden Kalibiertestbildern 201, 202 anotiert. Die Bildpunkte 303 und die korrespondierenden Bildpunkte 304 stimmen überein. Beispielsweise werden hierzu auf dem Boden vier Testpunkte möglichst weit entfernt voneinander ausgelegt, sodass sie jedoch noch in beiden Bildern 201, 202 sichtbar sind.
  • Auf das im Gesamtbild 400 unten darzustellende Bild 202 wird eine Homographietransformation angewandt, sodass die anotierten Bildpunkte 303 und 304 exakt übereinstimmen.
  • Beispielsweise wird auf das zweite Bild 202 oder das transformierte zweite Bild 302 eine vertikale Stauchung angewandt, bei der die obere Pixelreihe im Randbereich 308 fix bleibt.
  • Die Festlegung der Bildelemente 303 und 304 ist alternativ zur manuellen Anotation auch automatisch oder halbautomatisch möglich. Zur halbautomatischen Anotation werden Kalibriermuster ausgelegt, die dann von der Vorrichtung 110 beziehungsweise einer Software der Vorrichtung 110 automatisch in den Bildern 101 und 102 erkannt werden. Zur vollautomatischen Anotation sind keine Extrakalibrierpunkte notwendig. Die Vorrichtung 110 beziehungsweise die Software der Vorrichtung 110 ist ausgebildet, in den Bildern 201 und 202 geeignete Elemente insbesondere in der Ebene 309 zu ermitteln, mittels derer die Homographietransformation durchgeführt werden kann. Solche Elemente können beispielsweise Markierungen auf der Fahrbahn, Gullideckel oder ähnliches sein. Das Verfahren ermöglicht im Gesamtbild 400 exakt aneinander anschließende Bildkanten und Linien zwischen allen im Monitor 104 dargestellten Kamerabildern 301, 302 bei einer Anzeige eines jeweils gewissen Kriterien und Vorgaben entsprechenden Ausschnitts aus jedem Kamerabild 201, 202.
  • Bezugszeichenliste
  • 100
    Kamera-Monitor-System
    101
    Kraftfahrzeug
    102,
    103 Kamera
    104
    Monitor
    105
    Umgebung
    106, 107
    Seite
    110
    Vorrichtung
    201, 202
    Bild
    301, 302
    transformiertes Bild
    303
    Bildelement
    304
    korrespondierendes Bildelement
    305
    weiteres Bildelement
    306
    korrespondierendes weiteres Bildelement
    307
    Randbereich des transformierten ersten Bildes
    308
    Randbereich des transformierten zweiten Bildes
    309
    Ebene
    310
    Horizont
    311
    Bodenkante
    312
    Heckkante
    313
    vorgegebenes Element
    400
    Gesamtbild
    501 - 505
    Verfahrensschritte

Claims (10)

  1. Verfahren zum Betreiben eines Kamera-Monitor-Systems (100) für ein Kraftfahrzeug (101), bei dem das Kamera-Monitor-System (100) zwei Kameras (102, 103) aufweist, die einer gemeinsamen Seite (106, 107) des Kraftfahrzeugs zugeordnet sind und die jeweils dazu ausgebildet sind, ein Bild (201, 202) einer Umgebung (105) des Kraftfahrzeugs (101) bereit zu stellen, wobei die abgebildete Umgebung (105) der Bilder (201, 202) teilweise überlappt, umfassend: - Bereitstellen einer Vorgabe für ein erstes Bild (201) der ersten Kamera (102), - Transformieren des ersten Bildes (201) zu einem ersten transformierten Bild (301), sodass die bereitgestellte Vorgabe in dem transformierten Bild (301) erfüllt ist, - Ermitteln von mindestens einem Bildelement (303) auf einer Ebene (309) in dem ersten transformierten Bild (301), - Ermitteln von einem korrespondierenden Bildelement (304) in mindestens einem zweiten Bild (202) der zweiten Kamera (103), das mit den mindestens einen Bildelement (303) korrespondiert, - Transformieren des zweiten Bildes (202) in Abhängigkeit der ermittelten Bildelemente (303, 304) des ersten transformierten Bildes (301) und des zweiten Bildes (202), sodass ein weiteres Bildelement (305) in einem Randbereich (308) eines transformierten zweiten Bildes (302) an ein korrespondierendes weiteres Bildelement (306) in einem Randbereich (307) des transformierten ersten Bildes (301) anschließt.
  2. Verfahren nach Anspruch 1, umfassend: - Linsenentzerren des ersten Bildes (201) und/oder des zweiten Bildes (202) vor dem Transformieren.
  3. Verfahren nach Anspruch 1 oder 2, umfassend: - Ermitteln des mindestens einen Bildelements (303) auf einer dem Kraftfahrzeug (101) zugeordneten Bodenebene.
  4. Verfahren nach einem der Ansprüche 1 bis 3, bei dem die bereitgestellten Vorgaben mindestens eines umfassen aus: - Darstellen eines Horizonts (310) horizontal, - Darstellen einer Bodenkante (311) des Kraftfahrzeugs (101) gerade, - Darstellen einer Heckkante (312) des Kraftfahrzeugs (101) vertikal, und - Darstellen eines vorgegebenen Elements (313) des Kraftfahrzeugs (101) in dem ersten transformierten Bild (301).
  5. Verfahren nach einem der Ansprüche 1 bis 4, umfassend: - weiteres Transformieren des ersten transformierten Bildes (301) und/oder des zweiten transformierten Bildes (302), sodass eine weitere bereitgestellte Vorgabe erfüllt ist.
  6. Verfahren nach einem der Ansprüche 1 bis 5, bei dem mindesten ein Transformieren ein Homographietransformieren umfasst.
  7. Verfahren nach einem der Ansprüche 1 bis 6, bei dem das Transformieren des zweiten Bildes (202) umfasst: - Transformieren des zweiten Bildes (202) in Abhängigkeit der ermittelten Bildelemente (303, 304), sodass die ermittelten Bildelemente (303, 304) in dem transformierten zweiten Bild (302) und in dem transformierten ersten Bild (301) übereinstimmen.
  8. Verfahren nach einem der Ansprüche 1 bis 7, bei dem das Transformieren des zweiten Bildes (202) umfasst: - Transformieren des zweiten Bildes (202) in Abhängigkeit der ermittelten Bildelemente (303, 304), sodass eine Linie in dem Randbereich (308) des zweiten transformierten Bildes (302) an eine korrespondierende Linie in dem Randbereich (307) des ersten transformierten Bildes (301) unmittelbar anschließt.
  9. Verfahren nach einem der Ansprüche 1 bis 8, umfassend: - Darstellen des ersten transformierten Bildes (301) und des zweiten transformierten Bildes (302) als Gesamtbild (400) auf einem gemeinsamen Monitor (104) des Kamera-Monitor-Systems (100) .
  10. Vorrichtung für ein Kraftfahrzeug, die ausgebildet ist, ein Verfahren nach einem der Ansprüche 1 bis 9 auszuführen.
DE102018203003.0A 2017-12-20 2018-02-28 Verfahren und Vorrichtung zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug Pending DE102018203003A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/EP2018/085702 WO2019121820A1 (de) 2017-12-20 2018-12-18 Verfahren und vorrichtung zum betreiben eines kamera-monitor-systems für ein kraftfahrzeug

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102017223481 2017-12-20
DE102017223481.4 2017-12-20

Publications (1)

Publication Number Publication Date
DE102018203003A1 true DE102018203003A1 (de) 2019-06-27

Family

ID=66767972

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102018203003.0A Pending DE102018203003A1 (de) 2017-12-20 2018-02-28 Verfahren und Vorrichtung zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug

Country Status (2)

Country Link
DE (1) DE102018203003A1 (de)
WO (1) WO2019121820A1 (de)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102014213536A1 (de) * 2014-07-11 2016-01-14 Bayerische Motoren Werke Aktiengesellschaft Zusammenfügen von Teilbildern zu einem Abbild einer Umgebung eines Fortbewegungsmittels
US20170091559A1 (en) * 2015-09-29 2017-03-30 Valeo North America, Inc. Camera monitor system for a vehicle

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9834153B2 (en) * 2011-04-25 2017-12-05 Magna Electronics Inc. Method and system for dynamically calibrating vehicular cameras
JP6277652B2 (ja) * 2013-09-30 2018-02-14 株式会社デンソー 車両周辺画像表示装置及びカメラの調整方法
US10089538B2 (en) * 2015-04-10 2018-10-02 Bendix Commercial Vehicle Systems Llc Vehicle 360° surround view system having corner placed cameras, and system and method for calibration thereof

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102014213536A1 (de) * 2014-07-11 2016-01-14 Bayerische Motoren Werke Aktiengesellschaft Zusammenfügen von Teilbildern zu einem Abbild einer Umgebung eines Fortbewegungsmittels
US20170091559A1 (en) * 2015-09-29 2017-03-30 Valeo North America, Inc. Camera monitor system for a vehicle

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
GAO, Junhong [et al.]: Seam-driven image stitching. In: Eurographics 2013, May 6-10, 4 S. *
Hua Lei et al.: A robust improved image stitching algorithm based on keypoints registration. Proc. SPIE, 7799, 08.09.2010, Mathematics of Data/Image Coding, Compression, and Encryption with Applications XII, 77990X. [online] – DOI: 10.1117/12.860016, In: SPIE Digital LibraryVeröffentlichungsdatum 08.09.2010 ermittelt über: https://doi.org/10.1117/12.860016 *

Also Published As

Publication number Publication date
WO2019121820A1 (de) 2019-06-27

Similar Documents

Publication Publication Date Title
EP2623374B1 (de) Sichtsystem für Nutzfahrzeuge zur Darstellung von gesetzlich vorgeschriebenen Sichtfeldern eines Hauptspiegels und eines Weitwinkelspiegels
DE102012025322B4 (de) Kraftfahrzeug mit Kamera-Monitor-System
DE102008062121B4 (de) Kameraeinheit mit Fahrkorridor-Anzeigefunktion für ein Fahrzeug, Verfahren zur Anzeige einer vorausberechneten Fahrzeugtrajektorie und System zur Generierung von Fahrkorridormarkierungen
DE102006003538B3 (de) Verfahren zum Zusammenfügen mehrerer Bildaufnahmen zu einem Gesamtbild in der Vogelperspektive
WO2016162245A1 (de) Verfahren zur darstellung einer fahrzeugumgebung eines fahrzeuges
EP3730346B1 (de) Sichtsystem für ein fahrzeug
DE102005023461A1 (de) Überwachungsvorrichtung
DE102014116199A1 (de) Bildverzerrungs-Kompensationsvorrichtung und Betriebsverfahren dafür
DE102017205630A1 (de) Kameravorrichtung und Verfahren zur Erfassung eines Umgebungsbereichs eines Fahrzeugs
EP3073446B1 (de) Verfahren zum darstellen einer fahrzeugumgebung eines fahrzeuges
DE102014219428B4 (de) Selbstkalibrierung eines Stereokamerasystems im Auto
DE102018203003A1 (de) Verfahren und Vorrichtung zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug
EP3833576B1 (de) Kameraüberwachungssystem
DE102016117518A1 (de) Angepasstes Zusammenfügen von Einzelbildern zu einem Gesamtbild in einem Kamerasystem für ein Kraftfahrzeug
DE102020134814A1 (de) Vorrichtung zum Überwachen von Umgebungen eines Fahrzeugs
DE102020107949A1 (de) Sichtfeldunterstützungsbild-Erzeugungsvorrichtung und Bildumwandlungsverfahren
EP3743311A1 (de) Verfahren und vorrichtung zum betreiben eines kamera-monitor-systems für ein kraftfahrzeug
DE102014225883A1 (de) Kamerasystem und Verfahren zum Visualisieren mindestens eines Fahrzeugumfeldbereiches einesFahrzeugumfeldes eines Fahrzeuges
DE102014219422B4 (de) Fahrerassistenzsystem für ein Fahrzeug und ein Verfahren zum Anpassen eines Bildbereichs eines Bildes für ein Fahrerassistenzsystem
WO2015090997A1 (de) Optisches sensorsystem
DE102017206175A1 (de) Surround-View-System für ein Fahrzeug
DE102022120236B3 (de) Verfahren zum harmonisierten Anzeigen von Kamerabildern in einem Kraftfahrzeug und entsprechend eingerichtetes Kraftfahrzeug
WO2019121821A1 (de) Verfahren und vorrichtung zum betreiben eines kamera-monitor-systems für ein kraftfahrzeug
DE102013012216A1 (de) Optische Sensoranordnung für ein Kraftfahrzeug und Kraftfahrzeug
DE102018128636A1 (de) Verfahren zum Bereitstellen einer visuellen Information über zumindest einen Teil einer Umgebung, Computerprogrammprodukt, mobiles Kommunikationsgerät und Kommunikationssystem

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R016 Response to examination communication
R079 Amendment of ipc main class

Free format text: PREVIOUS MAIN CLASS: G06K0009620000

Ipc: G06V0030190000

R081 Change of applicant/patentee

Owner name: CONTINENTAL AUTOMOTIVE TECHNOLOGIES GMBH, DE

Free format text: FORMER OWNER: CONTINENTAL AUTOMOTIVE GMBH, 30165 HANNOVER, DE

R081 Change of applicant/patentee

Owner name: CONTINENTAL AUTOMOTIVE TECHNOLOGIES GMBH, DE

Free format text: FORMER OWNER: CONTINENTAL AUTOMOTIVE TECHNOLOGIES GMBH, 30165 HANNOVER, DE