DE102022206861A1 - Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit - Google Patents

Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit Download PDF

Info

Publication number
DE102022206861A1
DE102022206861A1 DE102022206861.0A DE102022206861A DE102022206861A1 DE 102022206861 A1 DE102022206861 A1 DE 102022206861A1 DE 102022206861 A DE102022206861 A DE 102022206861A DE 102022206861 A1 DE102022206861 A1 DE 102022206861A1
Authority
DE
Germany
Prior art keywords
vehicle
infrastructure
unit
calibration pattern
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102022206861.0A
Other languages
English (en)
Inventor
Nico Schmidt
Carsten Dolar
Kamal El Menuawy
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Priority to DE102022206861.0A priority Critical patent/DE102022206861A1/de
Priority to CH000621/2023A priority patent/CH719862A2/de
Publication of DE102022206861A1 publication Critical patent/DE102022206861A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit (12) eines Fahrzeugs (10) oder einer Infrastruktureinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit (20), mit folgenden Schritten:
- Empfangen von ersten Bilddaten der fahrzeug- und/oder infrastrukturfremden Kameraeinheit (20) bezüglich eines in einem Umfeld des Fahrzeugs (10) oder der Infrastruktureinheit angeordneten fahrzeug- und/oder infrastrukturfremden Kalibriermusters (14) und eines dem Fahrzeug (10) oder der Infrastruktureinheit zugeordneten Referenzkalibriermusters (16a, 16b);
- Empfangen von zweiten Bilddaten der fahrzeug- oder infrastrukturseitigen Kameraeinheit (12) bezüglich des fahrzeug- und/oder infrastrukturfremden Kalibriermusters (14); und
- Ermitteln der Kalibrierungsinformation basierend auf den ersten Bilddaten und den zweiten Bilddaten sowie einer Anordnungsinformation bezüglich einer Anordnung zwischen dem Referenzkalibriermuster (14) und dem Fahrzeug (10) oder der Infrastruktureinheit mittels einer Recheneinheit.

Description

  • Die Erfindung betrifft ein Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit eines Fahrzeugs oder einer Infrastruktureinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit, eine Recheneinheit und ein System, sowie ein entsprechendes Computerprogramm und ein Speichermedium.
  • Stand der Technik
  • Beim Anordnen einer Kameraeinheit an einem Fahrzeug oder einer Infrastruktureinheit zum Zwecke der Umfelderfassung des Fahrzeugs oder der Infrastruktureinheit besteht ein technisches Problem darin, die fahrzeug- oder infrastrukturseitige Kameraeinheit exakt an einer vorgegebenen Position und/oder einer vorgegebenen Ausrichtung (Pose) an dem Fahrzeug oder der Infrastruktureinheit anzuordnen. Deshalb ist nach dem Anordnen der Kameraeinheit an dem Fahrzeug oder der Infrastruktureinheit eine Kalibrierung der Kameraeinheit erforderlich.
  • Bekannt sind Verfahren zur Kalibrierung einer an einem Fahrzeug angeordneten Kameraeinheit unter Verwendung von im Erfassungsbereich der Kameraeinheit platzierten Kalibriermustern. Hierbei müssen die Kalibriermuster mit hoher Präzision in vorgegebenen Anordnungen relativ zu dem Fahrzeug platziert werden. Anschließend werden die Kalibriermuster mittels der fahrzeugseitigen Kameraeinheit erfasst, um Bilddaten bezüglich der Kalibriermuster bereitzustellen. Aufgrund der Platzierung der Kalibriermuster gemäß der vorgegebenen Anordnung kann eine Kalibrierung der Kameraeinheit unter Verwendung der erzeugten Bilddaten der fahrzeugseitigen Kameraeinheiten erfolgen.
  • WO 2020/010043 A1 offenbart ein Verfahren zur Kalibrierung eines an einem Roboter angeordneten Sensors. Hierbei wird eine Mehrzahl von Sensorzielen in vorgegebenen Abständen zu dem Roboter angeordnet.
  • Offenbarung der Erfindung
  • Gemäß einem ersten Aspekt ist Gegenstand der vorliegenden Erfindung ein Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit eines Fahrzeugs oder einer Infrastruktureinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit.
  • Das Verfahren umfasst einen Schritt des Empfangens von ersten Bilddaten der fahrzeug- und/oder infrastrukturfremden Kameraeinheit bezüglich eines in einem Umfeld des Fahrzeugs oder der Infrastruktureinheit angeordneten fahrzeug- und/oder infrastrukturfremden Kalibriermusters und eines dem Fahrzeug zugeordneten Referenzkalibriermusters. Das Verfahren umfasst weiter einen Schritt des Empfangens von zweiten Bilddaten der fahrzeug- oder infrastrukturseitigen Kameraeinheit bezüglich des fahrzeug- und/oder infrastrukturfremden Kalibriermusters. Das Verfahren umfasst ferner einen Schritt des Ermittelns der Kalibrierungsinformation basierend auf den ersten Bilddaten und den zweiten Bilddaten sowie einer Anordnungsinformation bezüglich einer Anordnung zwischen dem Referenzkalibriermuster und dem Fahrzeug oder zwischen dem Referenzkalibriermuster und der Infrastruktureinheit mittels einer Recheneinheit.
  • Gemäß einem zweiten Aspekt ist Gegenstand der vorliegenden Erfindung eine Recheneinheit zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit eines Fahrzeugs oder einer Infrastruktureinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit gemäß dem Anspruch 7.
  • Gemäß einem dritten Aspekt ist Gegenstand der vorliegenden Erfindung ein System zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit eines Fahrzeugs oder einer Infrastruktureinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit gemäß dem Anspruch 8. Das System umfasst
    • - die fahrzeug- oder infrastrukturseitige Kameraeinheit und/oder die fahrzeug- und/oder infrastrukturfremde Kameraeinheit und
    • - eine Recheneinheit gemäß dem zweiten Aspekt der Erfindung.
  • Gemäß einem weiteren Aspekt sind Gegenstand der vorliegenden Erfindung ein Computerprogramm und ein maschinenlesbares Speichermedium.
  • Das Fahrzeug kann bspw. ein Landfahrzeug, ein Wasserfahrzeug oder ein Luftfahrzeug sein. Denkbar ist, dass das Fahrzeug ein Straßenfahrzeug ist. Denkbar ist auch, dass das Fahrzeug eine mobile Arbeitsmaschine ist. Die Arbeitsmaschine kann eine Arbeitsmaschine für landwirtschaftliche, bauwirtschaftliche, forstwirtschaftliche oder logistische Zwecke sein. Zum Beispiel kann die Arbeitsmaschine, ein Bagger, ein Radlader, ein Traktor oder ein Flurförderzeug sein. Die Arbeitsmaschine kann auch ein mobiler, insbesondere autonomer, Roboter sein.
  • Die Infrastruktureinheit kann ein bspw. Bauwerk wie ein Gebäude, eine Brücke, ein Tunnel etc. sein. Denkbar ist, dass die Infrastruktureinheit eine Straßenlaterne, ein Verkehrsschild, ein Mast etc. ist. Insbesondere ist die Infrastruktureinheit ortsfest bzw. stationär.
  • Die fahrzeug- oder infrastrukturseitige Kameraeinheit ist eine an dem Fahrzeug oder der Infrastruktureinheit angeordnete Kameraeinheit. Die Kameraeinheit kann eine Mono-Kameraeinheit, Stereo-Kameraeinheit, Time-of-Flight-Kameraeinheit etc. sein. Die fahrzeug- oder infrastrukturseitige Kameraeinheit ist auf ein Umfeld des Fahrzeugs oder der Infrastruktureinheit ausgerichtet, um Bilddaten bezüglich des Umfelds bereitzustellen. Die Kameraeinheit kann bspw. an einem Frontbereich, an einem Seitenbereich oder einem Heckbereich des Fahrzeugs angeordnet sein. Im Falle mehrerer fahrzeug- oder infrastrukturseitiger Kameraeinheiten sind die fahrzeug- oder infrastrukturseitigen Kameraeinheiten bevorzugt an verschiedenen Positionen am Fahrzeug oder an verschiedenen Positionen der Infrastruktureinheit und/oder mit verschiedenen Ausrichtungen am Fahrzeug oder mit verschiedenen Ausrichtungen an der Infrastruktureinheit angeordnet, um Bilddaten bezüglich des Umfelds aus unterschiedlichen Kameraposen bereitzustellen.
  • Die Bilddaten der fahrzeug- und/oder infrastrukturfremden Kameraeinheit umfassen bevorzugt mehrere Bilder aus verschiedenen Kameraposen der fahrzeug- und/oder infrastrukturfremden Kameraeinheit. Denkbar ist auch, dass die Bilddaten eine Bildsequenz bzw. einen Bildstrom mehrerer zeitlich aufeinanderfolgender Bilder bzw. ein Video umfassen.
  • Die fahrzeug- und/oder infrastrukturfremde Kameraeinheit ist eine abseits bzw. beabstandet zu dem Fahrzeug und/oder zu der Infrastruktureinheit angeordnet Kameraeinheit. Die fahrzeug- und/oder infrastrukturfremde Kameraeinheit kann eine mobile oder stationäre Kameraeinheit sein. Die mobile fahrzeug- und/oder infrastrukturfremde Kameraeinheit kann als eine tragbare Kameraeinheit ausgebildet sein, welche bspw. Teil eines mobilen Endgeräts wie eines Smartphones oder eines Tablets ist. Die stationäre fahrzeugfremde Kameraeinheit kann an einer Infrastruktureinheit in dem Umfeld des Fahrzeugs angeordnet sein.
  • Bevorzugt ist die fahrzeugfremde und/oder infrastrukturfremde Kameraeinheit zumindest eine fahrzeugfremde Kameraeinheit in dem Fall, in dem die fahrzeugseitige oder infrastrukturseitige Kameraeinheit eine fahrzeugseitige Kameraeinheit ist. Alternativ ist die fahrzeugfremde und/oder infrastrukturfremde Kameraeinheit zumindest eine infrastrukturfremde Kameraeinheit in dem Fall, in dem die fahrzeugseitige oder infrastrukturseitige Kameraeinheit eine infrastrukturseitige Kameraeinheit ist.
  • Unter einem Empfangen von Bilddaten kann ein Empfangen der Bilddaten von ein Hardware-Einheit oder Software-Einheit mittels einer Hardware-Schnittstelle bzw. Software-Schnittstelle verstanden werden. Das Empfangen von Bilddaten kann bspw. ein Einlesen der Bilddaten aus einer Speichereinheit sein. Bevorzugt werden die Bilddaten mittels der Recheneinheit empfangen. Denkbar ist, dass die Bilddaten mittels einer drahtlosen oder drahtgebundenen Kommunikationsverbindung von der fahrzeug- und/oder infrastrukturfremden bzw. fahrzeug- oder infrastrukturseitigen Kameraeinheit unmittelbar oder mittelbar, bspw. über eine Zwischenspeichereinheit, an die Recheneinheit übertragen werden. Dem Schritt des Empfangens der Bilddaten kann ein Schritt des Erfassens des fahrzeug- und/oder infrastrukturfremden Kalibriermusters und/oder des Referenzkalibriermusters mittels der fahrzeug- oder infrastrukturseitigen bzw. fahrzeug- und/oder infrastrukturfremden Kameraeinheit vorausgehen.
  • Die von der fahrzeug- und/oder infrastrukturfremden Kameraeinheit bereitgestellten ersten Bilddaten umfassen zumindest ein in dem Umfeld des Fahrzeugs und/oder der Infrastruktureinheit angeordnetes fahrzeug- und/oder infrastrukturfremdes Kalibriermuster und zumindest ein dem Fahrzeug oder der Infrastruktureinheit zugeordnetes Referenzkalibriermuster. Bevorzugt ist das in dem Umfeld angeordnete fahrzeug- und/oder infrastrukturfremde Kalibriermuster ein fahrzeugfremdes Kalibriermuster in dem Fall, in dem die fahrzeugseitige oder infrastrukturseitige Kameraeinheit eine fahrzeugseitige Kameraeinheit ist. Unter einem infrastrukturfremden Kalibriermuster kann ein Kalibriermuster verstanden werden, das abseits der Infrastruktureinheit angeordnet ist, an welcher die infrastrukturseitige Kameraeinheit angeordnet ist. Denkbar ist hierbei, dass das infrastrukturfremde Kalibriermuster an einer weiteren Infrastruktureinheit angeordnet ist, die verschieden von der Infrastruktureinheit ist, an welcher die infrastrukturseitige Kameraeinheit angeordnet ist. Unter einem Kalibriermuster kann im Rahmen der vorliegenden Erfindung ein Muster bzw. Pattern verstanden werden, das ein eindeutiges Ermitteln einer Anordnung des Kalibriermusters relativ zu einer Kameraeinheit ermöglicht. Das Kalibriermuster kann ein oder mehrere sich innerhalb des Kalibriermusters wiederholende Musterabschnitte aufweisen, um auch anhand von das Kalibriermuster nur teilweise umfassenden Bilddaten eine Relativanordnung zwischen Kalibriermuster und Kameraeinheit eindeutig zu ermitteln. Das Kalibriermuster kann bspw. ausgewählt sein aus: AprilTag-Kalibriermuster, ArUco-Kalibriermuster etc.
  • Das Ermitteln der Kalibrierungsinformation erfolgt bevorzugt unter Verwendung einer Kalibriermusterinformation bezüglich des zumindest einen fahrzeug- und/oder infrastrukturfremden Kalibriermusters und/oder des zumindest einen Referenzkalibriermusters. Die Kalibriermusterinformation kann eine Information bezüglich Abmaße bzw. einer Dimension und/oder einer räumlichen Größe und/oder eines Identifizierungsmerkmals bzw. Wiedererkennungsmerkmals des fahrzeug- und/oder infrastrukturfremden Kalibriermusters und/oder des Referenzkalibriermusters umfassen. Das Identifizierungsmerkmal bzw. Wiedererkennungsmerkmal kann ein Musterbereich des Kalibriermusters sein, anhand dessen das Kalibriermuster eindeutig von weiteren Kalibriermustern unterscheidbar ist. Bspw. können auf diese Weise das oder die Referenzkalibriermuster und das oder die fahrzeug- und/oder infrastrukturfremden Kalibriermuster eindeutig identifiziert werden. Dieser Musterbereich kann bspw. ein räumlicher Randbereich des Kalibriermusters sein.
  • Die Kalibrierungsinformation kann in einer der Recheneinheit zugeordneten Speichereinheit gespeichert sein und/oder von der Recheneinheit mittels einer Softwareschnittstelle und/oder einer drahtgebundenen oder drahtlosen Hardwareschnittstelle empfangen oder eingelesen werden. Die Kalibrierungsinformation ermöglicht eine eindeutige Wiedererkennung eines Kalibriermusters.
  • Das fahrzeug- und/oder infrastrukturfremde Kalibriermuster ist ein abseits des Fahrzeugs oder der Infrastruktureinheit, und innerhalb eines Erfassungsbereichs der fahrzeug- oder infrastrukturseitigen Kameraeinheit angeordnetes Kalibriermuster. Das fahrzeug- und/oder infrastrukturfremde Kalibriermuster kann an einer beliebigen Position und in einer beliebigen Ausrichtung innerhalb des Erfassungsbereichs der fahrzeug- oder infrastrukturseitigen Kameraeinheit angeordnet werden. Insbesondere kann das fahrzeug- und/oder infrastrukturfremde Kalibriermuster bei einem ersten Ermitteln der Kalibrierungsinformation in einer ersten Anordnung relativ zu dem Fahrzeug oder relativ zu der Infrastruktureinheit angeordnet sein und bei einem zweiten Ermitteln der Kalibrierungsinformation in einer von der ersten Anordnung verschiedenen zweiten Anordnung relativ zu dem Fahrzeug oder relativ zu der Infrastruktureinheit angeordnet sein. Bevorzugt sind in dem Umfeld des Fahrzeugs oder der Infrastruktureinheit innerhalb des Erfassungsbereichs der fahrzeug- oder infrastrukturseitigen Kameraeinheit mehrere unterschiedliche fahrzeug- und/oder infrastrukturfremde Kalibriermuster in unterschiedlichen Abständen und Ausrichtungen relativ zu dem Fahrzeug oder der Infrastruktureinheit angeordnet. Die von der fahrzeug- und/oder infrastrukturfremden Kameraeinheit bereitgestellten ersten Bilddaten umfassen sowohl das fahrzeug- und/oder infrastrukturfremde Kalibriermuster als auch das Referenzkalibriermuster.
  • Das Referenzkalibriermuster ist ein dem Fahrzeug oder der Infrastruktureinheit zugeordneten Kalibriermuster. Unter einem Referenzkalibriermuster kann im Rahmen der vorliegenden Anmeldung ein Kalibriermuster verstanden werden, welches in einer vorgegebenen oder vorgebbaren Anordnung relativ zu dem Fahrzeug oder der Infrastruktureinheit an oder abseits des Fahrzeugs oder der Infrastruktureinheit angeordnet ist. Das Referenzkalibriermuster kann unter Verwendung einer Haltevorrichtung in die vorgegebene oder vorgebbare Anordnung relativ zu dem Fahrzeug oder der Infrastruktureinheit angeordnet werden. Denkbar ist auch, dass das Referenzkalibriermuster an dem Fahrzeug oder der Infrastruktureinheit angebracht, bspw. aufgeklebt oder aufgedruckt oder unter Verwendung von ein oder mehreren Magnetelementen befestigt, ist. Die von der fahrzeug- oder infrastrukturseitigen Kameraeinheit bereitgestellten zweiten Bilddaten umfassen das fahrzeug- und/oder infrastrukturfremde Kalibriermuster, wobei insbesondere das Referenzkalibriermuster von den zweiten Bilddaten nicht umfasst ist.
  • Das fahrzeug- und/oder infrastrukturfremde Kalibriermuster und das Referenzkalibriermuster weisen bei der Ausführung des Verfahrens eine gleichbleibende bzw. feste Anordnung relativ zueinander und relativ zu dem Fahrzeug oder der Infrastruktureinheit, und der fahrzeug- oder infrastrukturseitigen Kameraeinheit auf. Hierbei können das fahrzeug- und/oder infrastrukturfremde Kalibriermuster und/oder das Referenzkalibriermuster mittels einer Haltevorrichtung in ihrer Position und/oder Ausrichtung gehalten bzw. fixiert werden.
  • Die Anordnungsinformation bezüglich einer Anordnung zwischen dem Referenzkalibriermuster und dem Fahrzeug oder dem Referenzkalibriermuster und der Infrastruktureinheit umfasst bevorzugt eine Information bezüglich einer vorgegebenen oder vorgebbaren Position und/oder vorgegebenen oder vorgebbaren Ausrichtung des Referenzkalibriermusters relativ zu dem Fahrzeug oder relativ zu der Infrastruktureinheit. Denkbar ist insbesondere, dass die Anordnungsinformation eine Information bezüglich einer Koordinatentransformation zwischen einem dem Referenzkalibriermuster zugeordneten Referenzkalibriermusterkoordinatensystem und einem dem Fahrzeug zugeordneten Fahrzeugkoordinatensystem oder einem der Infrastruktureinheit zugeordneten Infrastruktureinheitkoordinatensystem, bspw. ein oder mehrere Transformationsparameter, umfasst.
  • Unter einer Kalibrierungsinformation kann im Rahmen der vorliegenden Anmeldung eine Information verstanden werden, anhand bzw. unter Verwendung derer Bilddaten der fahrzeug- und/oder infrastrukturfremden Kameraeinheit von einem Koordinatensystem der fahrzeug- und/oder infrastrukturfremden Kameraeinheit in ein Koordinatensystem des Fahrzeugs oder in ein Koordinatensystem der Infrastruktureinheit transformierbar sind. Die Kalibrierungsinformation umfasst bevorzugt eine Information bezüglich einer Anordnung, insbesondere einer Pose, der fahrzeug- und/oder infrastrukturfremden Kameraeinheit relativ zu einem dem Fahrzeug oder der Infrastruktureinheit zugeordneten Referenzpunkt. Die Kalibrierungsinformation kann also eine Information bezüglich einer Position und/oder Ausrichtung der fahrzeug- und/oder infrastrukturfremden Kameraeinheit in einem fahrzeugfesten oder infrastruktureinheitsfesten Koordinatensystem umfassen. Das heißt, mit anderen Worten, die ermittelte Kalibrierungsinformation kann extrinsische Kalibrierungsparameter der fahrzeug- und/oder infrastrukturfremden Kameraeinheit umfassen. Das Ermitteln der Kalibrierungsinformation ist insbesondere ein Berechnen der Kalibrierungsinformation.
  • Das Verfahren kann einen Schritt des Erfassens des Umfelds des Fahrzeugs oder der Infrastruktureinheit mittels der fahrzeug- oder infrastrukturseitigen Kameraeinheit unter Verwendung der ermittelten Kalibrierungsinformation umfassen. Hierbei können die mittels der fahrzeug- oder infrastrukturseitigen Kameraeinheit bereitgestellten Bilddaten unter Verwendung der ermittelten Kalibrierungsinformation in ein dem Fahrzeug zugeordnetes Fahrzeugkoordinatensystem oder in ein der Infrastruktureinheit zugeordnetes Infrastruktureinheitkoordinatensystem transformiert werden. Dadurch kann eine Anordnung der fahrzeug- oder infrastrukturseitigen Kameraeinheit bei der Transformation der Bilddaten in das Fahrzeug- oder Infrastruktureinheitkoordinatensystem automatisiert berücksichtigt werden. Dies ermöglicht im Falle mehrerer fahrzeug- oder infrastrukturseitigen Kameraeinheiten bspw. ein Zusammensetzen von Bilddaten der mehreren fahrzeug- oder infrastrukturseitigen Kameraeinheiten zu einem Gesamtbild, bspw. umfassend eine Panoramaansicht des Umfelds des Fahrzeugs oder der Infrastruktureinheit.
  • Die Recheneinheit kann an dem Fahrzeug oder der Infrastruktureinheit angeordnet oder alternativ abseits des Fahrzeugs oder abseits der Infrastruktureinheit angeordnet sein. Die Recheneinheit kann bspw. Teil einer Steuereinheit oder eines Fahrzeugcomputers des Fahrzeugs sein. Denkbar ist auch, dass die Recheneinheit Teil eines mobilen Endgeräts, bspw. eines Smartphones, Laptops oder Tablets, ist. Denkbar ist weiter, dass die Recheneinheit Teil einer Cloud-Computing-Einheit oder eines Server-Backends ist. Entsprechend kann die Recheneinheit mittels einer drahtgebundenen oder drahtlosen Kommunikationsverbindung mit der fahrzeug- und/oder infrastrukturfremden Kameraeinheit und der fahrzeug- oder infrastrukturseitigen Kameraeinheit verbindbar sein.
  • Durch das erfindungsgemäße Verfahren und die erfindungsgemäße Recheneinheit wird ein vereinfachter Ansatz zur Kalibrierung von fahrzeug- oder infrastrukturseitigen Kameraeinheiten bereitgestellt, gemäß welchem ein fahrzeug- und/oder infrastrukturfremdes Kalibriermuster beliebig in einem Erfassungsbereich der fahrzeug- oder infrastrukturseitigen Kameraeinheit angeordnet werden kann. Dadurch entfällt der Aufwand zur hochpräzisen Platzierung des Kalibriermusters in einer vorgegebenen Anordnung relativ zu dem Fahrzeug oder der Infrastruktureinheit. Weiter ist die beschriebene technische Lösung unabhängig von mechanischen Vorrichtungen, welche mittels Ausbildens einer temporären mechanischen Verbindung zwischen Fahrzeug bzw. der Infrastruktureinheit und fahrzeug- und/oder infrastrukturfremdem Kalibriermuster eine vorgegebene Anordnung des Kalibriermusters im Erfassungsbereich der Kameraeinheit sicherstellen. Dadurch kann die Kalibrierung der Kameraeinheit in unterschiedlichsten Räumlichkeiten bzw. Umgebungen erfolgen.
  • Vorteilhaft ist es, wenn das Verfahren einen Schritt des Ermittelns einer ersten weiteren Anordnungsinformation bezüglich einer Anordnung zwischen dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster und dem Referenzkalibriermuster basierend auf den ersten Bilddaten, insbesondere ferner basierend auf den zweiten Bilddaten aufweist, wobei die Kalibrierungsinformation ferner unter Berücksichtigung der ersten weiteren Anordnungsinformation ermittelt wird.
  • Die erste weitere Anordnungsinformation kann eine Information bezüglich einer Anordnung des fahrzeug- und/oder infrastrukturfremden Kalibriermusters relativ zu dem Referenzkalibriermuster und/oder bezüglich einer Anordnung des Referenzkalibriermusters relativ zu dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster umfassen. Die erste weitere Anordnungsinformation kann eine Information bezüglich einer Position und/oder Ausrichtung des Referenzkalibriermusters in einem dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster zugeordneten Koordinatensystem und/oder bezüglich einer Position und/oder Ausrichtung des fahrzeug- und/oder infrastrukturfremden Kalibriermusters in einem dem Referenzkalibriermuster zugeordneten Koordinatensystem umfassen. Insbesondere kann die erste weitere Anordnungsinformation eine Information bezüglich einer Koordinatentransformation zwischen einem dem Referenzkalibriermuster zugeordneten Referenzkalibriermusterkoordinatensystem und einem dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster zugeordneten Kalibriermusterkoordinatensystem, bspw. ein oder mehrere Transformationsparameter, umfassen.
  • Das Ermitteln der ersten weiteren Anordnungsinformation kann unter Verwendung eines geometrischen Optimierungsverfahrens erfolgen. Das geometrische Optimierungsverfahren ist eingerichtet, die erste weitere Anordnungsinformation basierend auf den empfangenen ersten, insbesondere ferner basierend auf den empfangenen zweiten, Bilddaten mittels Optimierens über eine Mehrzahl von möglichen Anordnungen zwischen dem Referenzkalibriermuster und dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster zu ermitteln. Bspw. kann im Falle von zweidimensionalen ersten und zweiten Bilddaten basierend auf den zweidimensionalen Bilddaten für jedes Kalibriermuster eine räumliche Position und räumliche Ausrichtung abgeschätzt werden und die Genauigkeit der Abschätzung durch den Schritt des Optimierens verbessert werden.
  • Gemäß einer Ausführungsform kann das Ermitteln der ersten weiteren Anordnungsinformation einen oder mehrere der folgenden Schritte umfassen:
    • - Ermitteln, insbesondere Extrahieren, von einem oder mehreren charakteristischen Merkmalen, bspw. Kreuzungspunkte, Ecken und/oder Kanten, der von den ersten und zweiten Bilddaten umfassten Kalibriermuster.
    • - Ermitteln, insbesondere abschätzen, einer Lage der Kalibriermuster unter Verwendung der ersten und zweiten Bilddaten relativ zu der jeweiligen Kameraeinheit. Hierbei erfolgt das Ermitteln der Lage für jede Kameraeinheit unabhängig von den anderen Kameraeinheiten. Die Lage kann eine Position des Kalibriermusters relativ zu der Kameraeinheit umfassen, ohne dass bspw. eine Ausrichtung bzw. Orientierung, insbesondere Drehung, des Kalibriermusters relativ zu der Kameraeinheit bereits ermittelt ist.
    • - Identifizieren der Kalibriermuster unter Verwendung der ersten und zweiten Bilddaten anhand der von den Kalibriermuster umfassten bzw. in den Kalibriermustern enthaltenen Informationen. Hierbei kann basierend auf der ermittelten Lage der Kalibriermuster eine Kalibriermuster-ID des Kalibriermusters aus den Bilddaten ermittelt werden. Anhand der Kalibriermuster-ID kann eine Dimension des Kalibriermusters ausgelesen bzw. ermittelt werden, bspw. unter Verwendung einer gespeicherten Kalibriermusterinformation.
    • - Ermitteln, insbesondere Abschätzen einer Relativanordnung der Kalibriermuster, d.h. des oder der fahrzeug- und/oder infrastrukturfremden Kalibriermuster und des oder der Referenzkalibriermuster, und gleichzeitiges Ermitteln, insbesondere Abschätzen, von Kameraposen der Kameraeinheiten relativ zu den Kalibriermustern. Die Abschätzung der Relativanordnung der Kalibriermuster und der Kameraposen der Kameraeinheiten kann iterativ unter Verwendung eines geometrischen Optimierungsverfahrens optimiert werden.
  • Durch diese Ausgestaltung kann eine Relativanordnung zwischen dem relativ zu dem Referenzkalibriermuster beliebig im Erfassungsbereich der fahrzeug- oder infrastrukturseitigen Kameraeinheit platziertem fahrzeug- und/oder infrastrukturfremden Kalibriermuster und dem Referenzkalibriermuster automatisiert ermittelt und beim Ermitteln der Kalibrierungsinformation berücksichtigt werden. Dadurch können die Kalibriermuster besonders schnell und fehlerunanfällig platziert werden.
  • Vorteilhaft ist es hierbei, wenn die ersten Bilddaten zumindest ein Bild umfassen, welches sowohl zumindest teilweise das fahrzeug- und/oder infrastrukturfremde Kalibriermuster als auch zumindest teilweise das Referenzkalibriermuster umfasst, um die erste weitere Anordnungsinformation basierend auf dem zumindest einen Bild zu ermitteln. Bevorzugt umfassen die ersten Bilddaten zumindest ein Bild, welches sowohl das fahrzeug- und/oder infrastrukturfremde Kalibriermuster als auch das Referenzkalibriermuster vollständig umfasst. Im Falle mehrerer fahrzeug- und/oder infrastrukturfremder Kalibriermuster und/oder mehrerer Referenzkalibriermuster umfassen die ersten Bilddaten bevorzugt für jedes der mehreren Kalibriermuster zumindest ein Bild, welches sowohl das zumindest teilweise das jeweilige Kalibriermuster und zumindest teilweise ein weiteres der mehreren Kalibriermuster umfasst. Denkbar ist auch, dass die ersten Bilddaten im Falle mehrerer fahrzeug- und/oder infrastrukturfremder Kalibriermuster zwei Bilder umfassen oder aus zwei Bildern bestehen, wobei die zwei Bilder jeweils das Referenzkalibriermuster und das fahrzeug- und/oder infrastrukturfremde Kalibriermuster umfassen. Durch diese Ausgestaltung kann die erste weitere Anordnungsinformation besonders robust und präzise ermittelt werden.
  • Vorteilhaft ist es weiter, wenn das Verfahren einen Schritt des Ermittelns einer zweiten weiteren Anordnungsinformation bezüglich einer Anordnung zwischen einem dem Fahrzeug oder der Infrastruktureinheit zugeordneten Referenzpunkt und dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster unter Berücksichtigung der ersten Anordnungsinformation und der ermittelten ersten weiteren Anordnungsinformation aufweist, wobei die Kalibrierungsinformation ferner unter Verwendung der zweiten weiteren Anordnungsinformation ermittelt wird.
  • Die zweite weitere Anordnungsinformation kann eine Information bezüglich einer Anordnung des fahrzeug- und/oder infrastrukturfremden Kalibriermusters relativ zu einem dem Fahrzeug oder der Infrastruktureinheit zugeordneten Referenzpunkt und/oder bezüglich einer Anordnung eines dem Fahrzeug oder der Infrastruktureinheit zugeordneten Referenzpunkts relativ zu dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster umfassen. Die zweite weitere Anordnungsinformation kann eine Information bezüglich einer Position und/oder Ausrichtung des dem Fahrzeug oder der Infrastruktureinheit zugeordneten Referenzpunkts in einem dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster zugeordneten Koordinatensystem und/oder bezüglich einer Position und/oder Ausrichtung des fahrzeug- und/oder infrastrukturfremden Kalibriermusters in einem dem Referenzpunkt zugeordneten Fahrzeug- oder Infrastruktureinheitkoordinatensystem umfassen. Insbesondere kann die erste weitere Anordnungsinformation eine Information bezüglich einer Koordinatentransformation zwischen einem dem Referenzpunkt zugeordneten Fahrzeug- oder Infrastruktureinheitkoordinatensystem und einem dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster zugeordneten Kalibriermusterkoordinatensystem, bspw. ein oder mehrere Transformationsparameter, umfassen.
  • Durch diese Ausgestaltung kann eine Relativanordnung zwischen dem relativ zu dem Fahrzeug beliebig im Erfassungsbereich der fahrzeug- oder infrastrukturseitigen Kameraeinheit platziertem fahrzeug- und/oder infrastrukturfremden Kalibriermuster und dem Fahrzeug oder der Infrastruktureinheit automatisiert ermittelt und beim Ermitteln der Kalibrierungsinformation berücksichtigt werden. Dadurch können die Kalibriermuster besonders schnell und fehlerunanfällig platziert werden, bspw. bei einer Kalibrierung außerhalb einer definierten Umgebung, in welcher keine hochpräzise Anordnung des oder der fahrzeug- und/oder infrastrukturfremden Kalibriermuster sichergestellt werden kann.
  • Vorteilhaft ist es außerdem, wenn das Verfahren einen Schritt des Ermittelns einer dritten weiteren Anordnungsinformation bezüglich einer Anordnung des fahrzeug- und/oder infrastrukturfremden Kalibriermusters und der fahrzeug- oder infrastrukturseitigen Kameraeinheit basierend auf den zweiten Bilddaten aufweist, wobei die Kalibrierungsinformation ferner unter Berücksichtigung der dritten weiteren Anordnungsinformation ermittelt wird.
  • Die dritte weitere Anordnungsinformation kann eine Information bezüglich einer Anordnung des fahrzeug- und/oder infrastrukturfremden Kalibriermusters relativ zu der fahrzeug- oder infrastrukturseitigen Kameraeinheit und/oder bezüglich einer Anordnung der fahrzeug- oder infrastrukturseitigen Kameraeinheit relativ zu dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster umfassen. Die dritte weitere Anordnungsinformation kann eine Information bezüglich einer Position und/oder Ausrichtung der fahrzeug- oder infrastrukturseitigen Kameraeinheit in einem dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster zugeordneten Koordinatensystem und/oder bezüglich einer Position und/oder Ausrichtung des fahrzeug- und/oder infrastrukturfremden Kalibriermusters in einem der fahrzeug- oder infrastrukturseitigen Kameraeinheit zugeordneten Koordinatensystem umfassen. Insbesondere kann die dritte weitere Anordnungsinformation eine Information bezüglich einer Koordinatentransformation zwischen einem der fahrzeug- oder infrastrukturseitigen Kameraeinheit zugeordneten Kameraeinheitkoordinatensystem und einem dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster zugeordneten Kalibriermusterkoordinatensystem, bspw. ein oder mehrere Transformationsparameter, umfassen.
  • Durch diese Ausgestaltung kann eine Relativanordnung zwischen dem relativ zu dem Fahrzeug beliebig im Erfassungsbereich der fahrzeug- oder infrastrukturseitigen Kameraeinheit platziertem fahrzeug- und/oder infrastrukturfremden Kalibriermuster und der fahrzeug- oder infrastrukturseitigen Kameraeinheit automatisiert ermittelt und beim Ermitteln der Kalibrierungsinformation berücksichtigt werden. Dadurch können die Kalibriermuster besonders schnell und fehlerunanfällig platziert werden.
  • Vorteilhaft ist es weiterhin, wenn das Ermitteln der Kalibrierungsinformation ein Ermitteln einer räumlichen Anordnung zwischen der fahrzeug- oder infrastrukturseitigen Kameraeinheit und dem Fahrzeug oder der Infrastruktureinheit, insbesondere dem dem Fahrzeug oder der Infrastruktureinheit zugeordneten Referenzpunkt, unter Berücksichtigung der ermittelten zweiten weiteren Anordnungsinformation und der zweiten Bilddaten, insbesondere der ermittelten dritten weiteren Anordnungsinformation, umfasst. Das heißt, mit anderen Worten, anstelle einer praktisch herausfordernden hochpräzisen Anordnung der fahrzeug- oder infrastrukturseitigen Kameraeinheit in einer vorgegebenen Position und Ausrichtung wird jeweils eine Relativanordnung zwischen dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster und dem Referenzkalibriermuster, zwischen dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster und dem Fahrzeug oder der Infrastruktureinheit, sowie zwischen dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster und der fahrzeug- oder infrastrukturseitigen Kameraeinheit ermittelt. Ferner wird die Anordnungsinformation bezüglich der Anordnung zwischen dem Fahrzeug oder der Infrastruktureinheit und dem Referenzkalibriermuster empfangen. Dadurch kann die räumliche Anordnung zwischen der fahrzeug- oder infrastrukturseitigen Kameraeinheit und dem Fahrzeug oder der Infrastruktureinheit basierend auf den Relativanordnungen ermittelt werden. Insbesondere ist wird die räumliche Anordnung zwischen der fahrzeug- oder infrastrukturseitigen Kameraeinheit und dem Fahrzeug oder der Infrastruktureinheit ermittelt als eine Verkettung von Transformationen von einem Koordinatensystem der fahrzeug- oder infrastrukturseitigen Kameraeinheit in ein Koordinatensystem des fahrzeug- und/oder infrastrukturfremden Kalibriermusters, von dem Koordinatensystem des fahrzeug- und/oder infrastrukturfremden Kalibriermusters in ein Koordinatensystem des Referenzkalibriermusters, und von dem Koordinatensystem des Referenzkalibriermusters in ein Koordinatensystem des Fahrzeugs oder der Infrastruktureinheit bzw. des dem Fahrzeug oder der Infrastruktureinheit zugeordneten Referenzpunktes. Durch diese Ausgestaltung kann die fahrzeug- oder infrastrukturseitige Kameraeinheit automatisiert bezüglich eines dem Fahrzeug oder der Infrastruktureinheit zugeordneten Koordinatensystem kalibriert werden.
  • Vorteilhaft ist es darüber hinaus, wenn das System gemäß dem dritten Aspekt der Erfindung eine Haltevorrichtung umfasst, welche ausgebildet ist, das Referenzkalibriermuster in einer vorgegebenen oder vorgebbaren Anordnung relativ zu dem Fahrzeug oder der Infrastruktureinheit zu halten. Die Haltevorrichtung kann podestartig bzw. sockelartig ausgebildet sein. Die Haltevorrichtung kann eine erste Fläche für einen berührenden Kontakt mit dem Untergrund umfassen. Die Haltevorrichtung kann weiter eine, der ersten Fläche abgewandte und bevorzugt parallel zur ersten Fläche ausgebildete zweite Fläche aufweisen, an bzw. auf welcher das Referenzkalibriermuster anordenbar ist. Die Haltevorrichtung kann ferner eine Halteeinheit umfassen, mittels welcher die Haltevorrichtung an dem Fahrzeug oder der Infrastruktureinheit anordenbar, insbesondere fixierbar, bspw. steckbar, ist. Die Halteeinheit kann bspw. ausgebildet sein, eine mechanische Verbindung zwischen dem Fahrzeug, bspw. einem Rad des Fahrzeugs, insbesondere einer Radnabe, und der Haltevorrichtung auszubilden. Durch diese Ausgestaltung kann das Referenzkalibriermuster in einer vorgegebenen Anordnung relativ zu dem Fahrzeug oder der Infrastruktureinheit, ferner insbesondere parallel zu einem Untergrund des Fahrzeugs, angeordnet werden. Im Falle einer infrastrukturseitigen Kameraeinheit kann das Referenzkalibriermuster auf oder an der die Kameraeinheit umfassenden Infrastruktureinheit angeordnet sein.
  • Von Vorteil ist auch ein Computerprogrammprodukt oder Computerprogramm mit Programmcode, der auf einem maschinenlesbaren Träger oder Speichermedium wie einem Halbleiterspeicher, einem Festplattenspeicher oder einem optischen Speicher gespeichert sein kann und zur Durchführung, Umsetzung und/oder Ansteuerung der Schritte des Verfahren nach einer der vorstehend beschriebenen Ausführungsformen verwendet wird, insbesondere wenn das Programmprodukt oder Programm auf einem Computer bzw. einer Recheneinheit ausgeführt wird.
  • Im Folgenden soll die Erfindung anhand der Zeichnungen näher erläutert werden.
  • Dazu zeigen
    • 1A,B zwei verschiedene Perspektiven auf eine schematische Darstellung eines Fahrzeugs und einer Mehrzahl von fahrzeugfremden Kalibriermustern;
    • 2 eine Draufsicht auf eine schematische Darstellung auf eine schematische Darstellung eines Fahrzeugs und einer Mehrzahl von fahrzeugfremden Kalibriermustern; und
    • 3 ein Ablaufdiagramm eines Verfahrens zum Ermitteln einer Kalibrierungsinformation einer fahrzeugseitigen Kameraeinheit.
  • 1A,B zeigen zwei verschiedene Perspektiven auf eine schematische Darstellung eines Fahrzeugs 10 und einer Mehrzahl von fahrzeugfremden Kalibriermustern 14, welche in einem Umfeld des Fahrzeugs 10 angeordnet sind.
  • Das Fahrzeug 10 gemäß dieser Ausführungsform ist als mobiler autonomer Roboter 10 ausgebildet. Das Fahrzeug 10 umfasst drei an dem Fahrzeug 10 angeordnete bzw. fahrzeugseitige Kameraeinheiten 12a, wobei in 1 lediglich eine fahrzeugseitige Kameraeinheit 12a der insgesamt drei fahrzeugseitigen Kameraeinheiten dargestellt ist.
  • In einem Umfeld des Fahrzeugs 10 sind insgesamt acht fahrzeugfremde Kalibriermuster 14a, 14b, 14c, 14d, 14e, 14f, 14g, 14h angeordnet, welche in ihrer Gesamtheit mit dem Bezugszeichen 14 bezeichnet werden. Drei fahrzeugfremde Kalibriermuster 14f, 14g, 14h sind auf einer Bodenfläche des Umfelds des Fahrzeugs 10 flächig angeordnet bzw. ausgelegt. Fünf fahrzeugfremde Kalibriermuster 14a, 14b, 14c, 14d, 14e sind aufrecht bzw. stehend auf der Bodenfläche des Umfelds angeordnet.
  • Jedes der fahrzeugfremden Kalibriermuster 14 ist in einem Erfassungsbereich bzw. Field of View zumindest einer der fahrzeugseitigen Kameraeinheiten 12 angeordnet.
  • Dem Fahrzeug 10 sind zwei fahrzeugfremde Kalibriermuster 16a, 16b zugeordnet. Die fahrzeugfremden Kalibriermuster 16a, 16b sind jeweils an einer Haltevorrichtung 18a, 18b angeordnet, welche ausgebildet sind, die fahrzeugfremden Kalibriermuster 16a, 16b in einer vorgegebenen Anordnung relativ zu dem stehenden bzw. abgestellten Fahrzeug 10 zu halten. Gemäß der vorliegenden Ausführungsform sind die Haltevorrichtungen 18a, 18b auf je eine Radnabe des Fahrzeugs 10 steckbar ausgebildet. Hierbei sind die Haltevorrichtungen 18a, 18b derart auf die Radnabe des Fahrzeugs 10 steckbar ausgebildet, dass die Haltevorrichtungen 18a, 18b gleichzeitig in berührendem Kontakt mit der Bodenfläche des Umfelds des Fahrzeugs 10 und dem Fahrzeug 10 stehen.
  • Die fahrzeugseitigen Kameraeinheiten 12 sind ausgebildet, das Umfeld des Fahrzeugs 10 zu erfassen, um Bilddaten bezüglich der fahrzeugfremden Kalibriermuster 14 bereitzustellen.
  • 2 zeigt eine Draufsicht auf eine schematische Darstellung eines Fahrzeugs 10 und einer Mehrzahl von fahrzeugfremden Kalibriermustern 14, welche in einem Umfeld des Fahrzeugs 10 angeordnet sind. Das Fahrzeug kann bspw. der mobile Roboter 10 gemäß 1 sein. Das Fahrzeug 10 umfasst drei an dem Fahrzeug 10 angeordneten bzw. fahrzeugseitige Kameraeinheiten 12a, 12b, 12c, welche in ihrer Gesamtheit mit dem Bezugszeichen 12 bezeichnet werden.
  • Weiter ist in 2 eine fahrzeugfremde Kameraeinheit 20 dargestellt. Die fahrzeugfremde Kameraeinheit 20 ist als mobile Kameraeinheit 20 ausgebildet und bspw. an einem Smartphone angeordnet. Die fahrzeugfremde Kameraeinheit 20 ist also ausgebildet, sowohl die fahrzeugfremden Kalibriermuster 14 als auch die Referenzkalibriermuster 16a, 16b zu erfassen, um Bilddaten bezüglich der fahrzeugfremden Kalibriermuster 14 und der Referenzkalibriermuster 16a, 16b bereitzustellen. Zur Erfassung der fahrzeugfremden Kalibriermuster 14 und der Referenzkalibriermuster aus verschiedenen Posen kann die fahrzeugfremde Kalibriermuster im Umfeld des Fahrzeugs 10 entlang einer Trajektorie 22 im Umfeld des stehenden bzw. abgestellten Fahrzeugs 10 bewegt werden.
  • Zum Ermitteln einer Kalibrierungsinformation der fahrzeugseitigen Kameraeinheiten 14 in 1A,B und 2 ist eine nicht dargestellte Recheneinheit vorgesehen. Die Recheneinheit umfasst einen Prozessor, ein Speichermedium mit einem Computerprogramm, sowie mindestens eine Kommunikationsschnittstelle. Das Computerprogramm umfasst Befehle, die bei der Ausführung durch den Prozessor bewirken, dass die Kalibrierungsinformation der fahrzeugseitigen Kameraeinheiten 14 basierend auf den von der fahrzeugseitigen Kameraeinheiten 14 und der fahrzeugfremden Kameraeinheit 20 bereitgestellten Bilddaten bezüglich der fahrzeugfremden Kalibriermuster 14 und der Referenzkalibriermuster 16a, 16b gemäß dem in 3 beschriebenen Verfahren ermittelt wird.
  • 3 zeigt ein Ablaufdiagramm eines Verfahrens zum Ermitteln einer Kalibrierungsinformation einer fahrzeugseitigen Kameraeinheit eines Fahrzeugs unter Verwendung von Bilddaten einer fahrzeugfremden Kameraeinheit gemäß einer Ausführungsform der vorliegenden Erfindung. Das Verfahren ist in seiner Gesamtheit mit dem Bezugszeichen 100 versehen. Das Fahrzeug kann bspw. der mobile autonome Roboter 10 gemäß 1A,B sein.
  • Das Verfahren 100 wird bei Stillstand des Fahrzeugs, insbesondere vor einer Inbetriebnahme des Fahrzeugs, ausgeführt.
  • In einem Umfeld des Fahrzeugs ist zumindest ein fahrzeugfremdes Kalibriermuster angeordnet. Weiter ist dem Fahrzeug ein Referenzkalibriermuster zugeordnet, welches in einer vorgegebenen Anordnung relativ zu dem Fahrzeug an oder abseits des Fahrzeugs angeordnet ist.
  • Während der Ausführung des Verfahrens 100 wird eine Anordnung zwischen dem Fahrzeug, der fahrzeugseitigen Kameraeinheit, dem Referenzkalibriermuster und dem fahrzeugfremden Kalibriermuster nicht verändert. Das heißt, mit anderen Worten, das Fahrzeug, die fahrzeugseitige Kameraeinheit, das Referenzkalibriermuster und das fahrzeugfremde Kalibriermuster weisen zumindest während der Ausführung des Verfahrens eine gleichbleibende Anordnung zueinander auf.
  • In Schritt 110 werden das zumindest eine in dem Umfeld des Fahrzeugs angeordnete fahrzeugfremde Kalibriermuster und das dem Fahrzeug zugeordnete Referenzkalibriermuster mittels einer fahrzeugfremden Kameraeinheit erfasst, um einer Recheneinheit erste Bilddaten bezüglich des zumindest einen fahrzeugfremden Kalibriermuster und des zumindest einen Referenzkalibriermusters bereitzustellen.
  • In Schritt 120 werden die ersten Bilddaten bezüglich des zumindest einen fahrzeugfremden Kalibriermuster und des zumindest einen Referenzkalibriermusters mittels der Recheneinheit empfangen.
  • In Schritt 130 wird das Umfeld des Fahrzeugs mittels einer fahrzeugseitigen Kameraeinheit erfasst, um der Recheneinheit zweite Bilddaten bezüglich des zumindest einen fahrzeugfremden Kalibriermusters bereitzustellen.
  • In Schritt 140 werden die zweiten Bilddaten bezüglich des zumindest einen fahrzeugfremden Kalibriermusters mittels der Recheneinheit empfangen.
  • In Schritt 150 wird eine Anordnungsinformation bezüglich einer Anordnung zwischen dem zumindest einen Referenzkalibriermuster und dem Fahrzeug mittels der Recheneinheit eingelesen.
  • In Schritt 160 wird eine erste weitere Anordnungsinformation bezüglich einer Anordnung zwischen dem fahrzeugfremden Kalibriermuster und dem Referenzkalibriermuster basierend auf den ersten Bilddaten, insbesondere ferner basierend auf den zweiten Bilddaten, mittels der Recheneinheit ermittelt.
  • In Schritt 170 wird eine zweite weitere Anordnungsinformation bezüglich einer Anordnung zwischen einem dem Fahrzeug zugeordneten Referenzpunkt und dem zumindest einen fahrzeugfremden Kalibriermuster unter Verwendung der ersten Anordnungsinformation und der ermittelten ersten weiteren Anordnungsinformation mittels der Recheneinheit ermittelt.
  • In Schritt 180 wird eine dritte weitere Anordnungsinformation bezüglich einer Anordnung des zumindest einen fahrzeugfremden Kalibriermusters und der fahrzeugseitigen Kameraeinheit basierend auf den zweiten Bilddaten mittels der Recheneinheit ermittelt.
  • In Schritt 190 wird die Kalibrierungsinformation basierend auf den ersten Bilddaten und den zweiten Bilddaten sowie der eingelesenen Anordnungsinformation bezüglich der Anordnung zwischen dem zumindest einen Referenzkalibriermuster und dem Fahrzeug mittels der Recheneinheit ermittelt. Hierbei werden die ermittelte erste weitere Anordnungsinformation, die ermittelte zweite weitere Anordnungsinformation und die ermittelte dritte weitere Anordnungsinformation berücksichtigt. Das Ermitteln der Kalibrierungsinformation umfasst das Ermitteln einer räumlichen Anordnung zwischen der fahrzeugseitigen Kameraeinheit und dem Fahrzeug, insbesondere dem dem Fahrzeug zugeordneten Referenzpunkt.
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • WO 2020/010043 A1 [0004]

Claims (11)

  1. Verfahren (100) zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit (12) eines Fahrzeugs (10) oder einer Infrastruktureinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit (20), mit folgenden Schritten: - Empfangen (120) von ersten Bilddaten der fahrzeug- und/oder infrastrukturfremden Kameraeinheit (20) bezüglich eines in einem Umfeld des Fahrzeugs (10) oder der Infrastruktureinheit angeordneten fahrzeug- und/oder infrastrukturfremden Kalibriermusters (14) und eines dem Fahrzeug (10) oder der Infrastruktureinheit zugeordneten Referenzkalibriermusters (16a, 16b); - Empfangen (140) von zweiten Bilddaten der fahrzeug- oder infrastrukturseitigen Kameraeinheit (12) bezüglich des fahrzeug- und/oder infrastrukturfremden Kalibriermusters (14); und - Ermitteln der Kalibrierungsinformation (190) basierend auf den ersten Bilddaten und den zweiten Bilddaten sowie einer Anordnungsinformation bezüglich einer Anordnung zwischen dem Referenzkalibriermuster (16a, 16b) und dem Fahrzeug (10) oder zwischen dem Referenzkalibriermuster (16a, 16b) der Infrastruktureinheit mittels einer Recheneinheit.
  2. Verfahren (100) nach Anspruch 1, gekennzeichnet durch einen Schritt des Ermittelns (160) einer ersten weiteren Anordnungsinformation bezüglich einer Anordnung zwischen dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster (14) und dem Referenzkalibriermuster (16a, 16b) basierend auf den ersten Bilddaten, insbesondere ferner basierend auf den zweiten Bilddaten, wobei die Kalibrierungsinformation ferner unter Berücksichtigung der ersten weiteren Anordnungsinformation ermittelt wird.
  3. Verfahren (100) nach Anspruch 2, dadurch gekennzeichnet, dass die ersten Bilddaten zumindest ein Bild umfassen, welches sowohl zumindest teilweise das fahrzeug- und/oder infrastrukturfremde Kalibriermuster (14) als auch zumindest teilweise das Referenzkalibriermuster (16a, 16b) umfasst, um die erste weitere Anordnungsinformation basierend auf dem zumindest einen Bild zu ermitteln.
  4. Verfahren (100) nach Anspruch 2 oder 3, gekennzeichnet durch einen Schritt des Ermittelns (170) einer zweiten weiteren Anordnungsinformation bezüglich einer Anordnung zwischen einem dem Fahrzeug (10) oder der Infrastruktureinheit zugeordneten Referenzpunkt und dem fahrzeug- und/oder infrastrukturfremden Kalibriermuster (14) unter Berücksichtigung der ersten Anordnungsinformation und der ermittelten ersten weiteren Anordnungsinformation, wobei die Kalibrierungsinformation ferner unter Verwendung der zweiten weiteren Anordnungsinformation ermittelt wird.
  5. Verfahren (100) nach einem der vorherigen Ansprüche, gekennzeichnet durch einen Schritt des Ermittelns (180) einer dritten weiteren Anordnungsinformation bezüglich einer Anordnung des fahrzeug- und/oder infrastrukturfremden Kalibriermusters (14) und der fahrzeug- oder infrastrukturseitigen Kameraeinheit (12) basierend auf den zweiten Bilddaten, wobei die Kalibrierungsinformation ferner unter Berücksichtigung der dritten weiteren Anordnungsinformation ermittelt wird.
  6. Verfahren (100) nach Anspruch 4 oder nach Anspruch 4 und 5, dadurch gekennzeichnet, dass das Ermitteln (190) der Kalibrierungsinformation ein Ermitteln einer räumlichen Anordnung zwischen der fahrzeug- oder infrastrukturseitigen Kameraeinheit (12) und dem Fahrzeug (10) oder der Infrastruktureinheit, insbesondere dem dem Fahrzeug (10) oder der Infrastruktureinheit zugeordneten Referenzpunkt, unter Berücksichtigung der ermittelten zweiten weiteren Anordnungsinformation und der zweiten Bilddaten, insbesondere der ermittelten dritten weiteren Anordnungsinformation, umfasst.
  7. Recheneinheit zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit (12) eines Fahrzeugs (10) oder einer Infrastruktureinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit (20), wobei die Recheneinheit eingerichtet ist, - erste Bilddaten der fahrzeug- und/oder infrastrukturfremden Kameraeinheit (20) bezüglich eines in einem Umfeld des Fahrzeugs (10) oder der Infrastruktureinheit angeordneten fahrzeug- und/oder infrastrukturfremden Kalibriermusters (14) und eines dem Fahrzeug (10) oder der Infrastruktureinheit zugeordneten Referenzkalibriermusters (16a, 16b) zu empfangen, - zweite Bilddaten der fahrzeug- oder infrastrukturseitigen Kameraeinheit (12) bezüglich des fahrzeug- und/oder infrastrukturfremden Kalibriermusters (14) zu empfangen, und - die Kalibrierungsinformation basierend auf den ersten Bilddaten und den zweiten Bilddaten sowie einer Anordnungsinformation bezüglich einer Anordnung zwischen dem Referenzkalibriermuster (16a, 16b) und dem Fahrzeug (10) oder der Infrastruktureinheit zu ermitteln.
  8. System zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit (12) eines Fahrzeugs (10) oder einer Infrastruktureinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit (20), wobei das System - die fahrzeug- oder infrastrukturseitige Kameraeinheit (12) und/oder die fahrzeug- und/oder infrastrukturfremde Kameraeinheit (20) und - eine Recheneinheit gemäß Anspruch 7 umfasst.
  9. System nach Anspruch 8, gekennzeichnet durch eine Haltevorrichtung (18a, 18b), welche ausgebildet ist, das Referenzkalibriermuster (16a, 16b) in einer vorgegebenen oder vorgebbaren Anordnung relativ zu dem Fahrzeug (10) oder der Infrastruktureinheit zu halten.
  10. Computerprogramm, umfassend Befehle, die bei Ausführung durch eine Recheneinheit diese veranlassen, das Verfahren (100) nach einem der Ansprüche 1 bis 7 auszuführen.
  11. Maschinenlesbares Speichermedium, auf dem das Computerprogramm nach Anspruch 10 gespeichert ist.
DE102022206861.0A 2022-07-05 2022-07-05 Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit Pending DE102022206861A1 (de)

Priority Applications (2)

Application Number Priority Date Filing Date Title
DE102022206861.0A DE102022206861A1 (de) 2022-07-05 2022-07-05 Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit
CH000621/2023A CH719862A2 (de) 2022-07-05 2023-06-13 Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102022206861.0A DE102022206861A1 (de) 2022-07-05 2022-07-05 Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit

Publications (1)

Publication Number Publication Date
DE102022206861A1 true DE102022206861A1 (de) 2024-01-11

Family

ID=89386714

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102022206861.0A Pending DE102022206861A1 (de) 2022-07-05 2022-07-05 Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit

Country Status (2)

Country Link
CH (1) CH719862A2 (de)
DE (1) DE102022206861A1 (de)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007261463A (ja) 2006-03-29 2007-10-11 Clarion Co Ltd 車載カメラのキャリブレーションシステム
WO2020010043A1 (en) 2018-07-06 2020-01-09 Brain Corporation Systems, methods and apparatuses for calibrating sensors mounted on a device
DE102018216395A1 (de) 2018-09-26 2020-03-26 Robert Bosch Gmbh Verfahren und Vorrichtung zum Überwachen einer Anordnung zumindest eines ortsfest oder variierbar angeordneten Kalibriermarkers unter Verwendung zumindest eines ortsfest oder variierbar angeordneten fahrzeugexternen Referenzsensors zur Kalibrierung von Umfeldsensoren eines Fahrzeugs

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007261463A (ja) 2006-03-29 2007-10-11 Clarion Co Ltd 車載カメラのキャリブレーションシステム
WO2020010043A1 (en) 2018-07-06 2020-01-09 Brain Corporation Systems, methods and apparatuses for calibrating sensors mounted on a device
DE102018216395A1 (de) 2018-09-26 2020-03-26 Robert Bosch Gmbh Verfahren und Vorrichtung zum Überwachen einer Anordnung zumindest eines ortsfest oder variierbar angeordneten Kalibriermarkers unter Verwendung zumindest eines ortsfest oder variierbar angeordneten fahrzeugexternen Referenzsensors zur Kalibrierung von Umfeldsensoren eines Fahrzeugs

Also Published As

Publication number Publication date
CH719862A2 (de) 2024-01-15

Similar Documents

Publication Publication Date Title
DE102019112002A1 (de) Systeme und verfahren zur automatischen detektion von anhängereigenschaften
DE102018205915A1 (de) Monokulare Lokalisierung in städtischen Umgebungen unter Verwendung von Straßenmarkierungen
DE102017115197A1 (de) Erzeugung von virtuellen sensordaten für die erfassung von polleraufnahmen
DE112016006616T5 (de) Peripherieerkennungseinrichtung, Peripherieerkennungsverfahren und Peripherieerkennungsprogramm
DE102019125169A1 (de) Objektpositionsbestimmungsvorrichtung mittels bezugsmarker
DE102019125567A1 (de) Fahrzeugsystem und verfahren zum festlegen einer variablen virtuellen grenze
DE102017210070A1 (de) Verfahren zum Erstellen einer digitalen Karte für ein automatisiertes Fahrzeug
DE112017008156T5 (de) Bestimmung von objektstandortkoordinaten
DE102015220831A1 (de) Verfahren und Vorrichtung zum Bestimmen von Landmarken für eine Ortsbestimmung für ein bewegliches Objekt sowie Verfahren und Vorrichtung zur Ortsbestimmung für ein bewegliches Objekt
DE102020100022A1 (de) Positionsbestimmungstechnik
DE112017007151T5 (de) Fahrzeughalterung für mobile vorrichtungen
DE112020000410T5 (de) Orientierungsausrichtung von erweiterten realitätsmodellen
DE102006027113B4 (de) Verfahren und Einrichtung zur Erfassung von Objekten
DE102006051539A1 (de) Verfahren und Vorrichtung zur luftbildgestützten Umgebungserfassung bei Kraftfahrzeugen
DE102016203959A1 (de) Infrastrukturerkennungsvorrichtung für ein Fahrzeug, Verfahren zum Erzeugen eines Signals und Verfahren zum Bereitstellen einer Reparaturinformation
DE102022206861A1 (de) Verfahren zum Ermitteln einer Kalibrierungsinformation einer fahrzeug- oder infrastrukturseitigen Kameraeinheit unter Verwendung von Bilddaten einer fahrzeug- und/oder infrastrukturfremden Kameraeinheit
DE102018132676A1 (de) Verfahren zum Lokalisieren eines Fahrzeugs in einer Umgebung
DE102017216954A1 (de) Verfahren und Vorrichtung zum Bestimmen einer hochgenauen Position und zum Betreiben eines automatisierten Fahrzeugs
DE102018202753A1 (de) Verfahren zur Ermittlung einer Entfernung zwischen einem Kraftfahrzeug und einem Objekt
DE102017220634B4 (de) Anordnung und Verfahren
DE102010042821A1 (de) Verfahren und Vorrichtung zur Bestimmung einer Basisbreite eines Stereo-Erfassungssystems
DE102019102561A1 (de) Verfahren zum Erkennen einer Pflastermarkierung
CN114493967A (zh) 图像获取装置及方法、图像处理装置及方法、图像处理***
DE102019201635A1 (de) System und Verfahren zum Vermessen eines Sichtfelds eines Umgebungssensors in einem Fahrzeug
DE102019209117A1 (de) Verfahren zur Lokalisierung eines Fahrzeugs

Legal Events

Date Code Title Description
R079 Amendment of ipc main class

Free format text: PREVIOUS MAIN CLASS: H04N0005232000

Ipc: H04N0023600000

R163 Identified publications notified
R012 Request for examination validly filed