DE102017000307A1 - Method for calibrating a camera for a motor vehicle taking into account a calibration error, camera and motor vehicle - Google Patents
Method for calibrating a camera for a motor vehicle taking into account a calibration error, camera and motor vehicle Download PDFInfo
- Publication number
- DE102017000307A1 DE102017000307A1 DE102017000307.6A DE102017000307A DE102017000307A1 DE 102017000307 A1 DE102017000307 A1 DE 102017000307A1 DE 102017000307 A DE102017000307 A DE 102017000307A DE 102017000307 A1 DE102017000307 A1 DE 102017000307A1
- Authority
- DE
- Germany
- Prior art keywords
- camera
- point
- calibration
- determined
- reference point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 24
- 238000001454 recorded image Methods 0.000 claims abstract description 4
- 238000011156 evaluation Methods 0.000 abstract description 3
- 230000007613 environmental effect Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Studio Devices (AREA)
Abstract
Die Erfindung betrifft ein Verfahren zum Kalibrieren einer Kamera (4) für ein Kraftfahrzeug (1), bei welchem ein Kalibrierobjekt (9) in einer Umgebung (8) der Kamera (4) positioniert wird, ein Bild von dem Kalibrierobjekt (9) mit der Kamera (4) aufgenommen wird, die Kamera (4) in Abhängigkeit von dem aufgenommenen Bild kalibriert wird und für eine Bewertung der Kalibrierung ein Kalibrierfehler bestimmt, wobei zum Bestimmen des Kalibrierfehlers ein auf einen Bildsensor (10) der Kamera (4) abgebildeter Punkt (P2) eines Bezugspunkts (P1) des Kalibrierobjekts (9) bestimmt wird, wobei ein rückprojizierter Punkt (P4), welcher eine Rückprojektion des abgebildeten Punkts (P2) in die Umgebung (8) der Kamera (4) beschreibt, bestimmt wird und der Kalibierfehler anhand einer Abweichung zwischen dem Bezugspunkt (P1) des Kalibrierobjekts (9) und dem rückprojizierten Punkt (P4) bestimmt wird. The invention relates to a method for calibrating a camera (4) for a motor vehicle (1), in which a calibration object (9) is positioned in an environment (8) of the camera (4), an image of the calibration object (9) Camera (4) is recorded, the camera (4) is calibrated in dependence on the recorded image and determines a calibration error for an evaluation of the calibration, wherein for determining the calibration error on a image sensor (10) of the camera (4) imaged point ( P2) of a reference point (P1) of the calibration object (9) is determined, wherein a rückprojizierter point (P4), which describes a rear projection of the imaged point (P2) in the environment (8) of the camera (4), and the calibration error is determined by a deviation between the reference point (P1) of the calibration object (9) and the backprojected point (P4).
Description
Die vorliegende Erfindung betrifft ein Verfahren zum Kalibrieren einer Kamera für ein Kraftfahrzeug, bei welchem ein Kalibrierobjekt in einer Umgebung der Kamera positioniert wird, ein Bild von dem Kalibrierobjekt mit der Kamera aufgenommen wird, die Kamera in Abhängigkeit von dem aufgenommenen Bild kalibriert wird und für eine Bewertung der Kalibrierung ein Kalibrierfehler bestimmt wird, wobei zum Bestimmen des Kalibrierfehlers ein auf einen Bildsensor der Kamera abgebildeter Punkt eines Bezugspunkts des Kalibrierobjekts bestimmt wird. Ferner betrifft die vorliegende Erfindung eine Kamera für ein Kraftfahrzeug. Schließlich betrifft die vorliegende Erfindung ein Kraftfahrzeug mit zumindest einer solchen Kamera.The present invention relates to a method for calibrating a camera for a motor vehicle, in which a calibration object is positioned in an environment of the camera, an image is taken of the calibration object with the camera, the camera is calibrated in dependence on the recorded image and for a Assessment of calibration a calibration error is determined, wherein for determining the calibration error, a point of a reference point of the calibration object imaged on an image sensor of the camera is determined. Furthermore, the present invention relates to a camera for a motor vehicle. Finally, the present invention relates to a motor vehicle with at least one such camera.
Das Interesse richtet sich vorliegend auf Kameras für Kraftfahrzeuge. Derartige Kameras können beispielsweise Teil eines Fahrerassistenzsystems oder Kamerasystems sein, welches dazu dient, einen Fahrer des Kraftfahrzeugs beim Führen des Kraftfahrzeugs zu unterstützen. Beispielsweise können mit der Kamera Bilder eines Umgebungsbereichs des Kraftfahrzeugs aufgenommen werden, welche dem Fahrer dann auf einer Anzeigeeinrichtung dargestellt werden. Es kann auch vorgesehen sein, dass mithilfe von entsprechenden Objekterkennungsalgorithmen Objekte in der Umgebung des Kraftfahrzeugs anhand der Bilder erkannt werden. Um einen zuverlässigen Betrieb des Fahrerassistenzsystems bzw. des Kamerasystems zu ermöglichen, ist es erforderlich, dass die Kameras entsprechend kalibriert werden.The interest is directed here to cameras for motor vehicles. Such cameras can be part of a driver assistance system or camera system, for example, which serves to assist a driver of the motor vehicle when driving the motor vehicle. For example, images of an environmental region of the motor vehicle can be recorded with the camera, which are then displayed to the driver on a display device. It can also be provided that objects in the surroundings of the motor vehicle can be detected on the basis of the images with the aid of corresponding object recognition algorithms. In order to enable a reliable operation of the driver assistance system or the camera system, it is necessary that the cameras are calibrated accordingly.
Zum Kalibrieren von Kameras sind aus dem Stand der Technik unterschiedliche Verfahren bekannt. Beispielsweise kann zum Kalibrieren der Kamera ein Kalibrierobjekt in der Umgebung der Kamera positioniert werden. Dabei kann ein abgebildeter Punkt bestimmt werden, welcher die Abbildung eines Bezugspunkts des Kalibrierobjekts auf den Bildsensor der Kamera beschreibt. Auf Grundlage der bekannten relativen Lage des Kalibrierobjekts zu der Kamera bzw. dem Bildsensor kann auch ein projizierter Punkt bestimmt werden, welcher die Projektion des Bezugspunkts des Kalibrierobjekts auf den Bildsensor beschreibt. Auf Grundlage einer Abweichung zwischen dem abgebildeten Punkt und dem rückprojizierten Punkt kann dann die Kalibrierung der Kamera beurteilt werden oder durchgeführt werden. Dies wird auch als der Rückprojektionsfehler bezeichnet. Bei diesem bekannten Verfahren wird die Kalibrierung innerhalb des Bildraums durchgeführt. Ferner sind aus dem Stand der Technik Verfahren bekannt, bei denen ein Kalibrierobjekt bzw. der Bezugspunkt des Kalibrierobjekts mit zwei oder mehreren Kameras aufgenommen wird um die Kalibrierung bewerten zu können.For calibrating cameras, different methods are known from the prior art. For example, to calibrate the camera, a calibration object can be positioned in the vicinity of the camera. In this case, a mapped dot can be determined, which describes the image of a reference point of the calibration object on the image sensor of the camera. Based on the known relative position of the calibration object to the camera or the image sensor and a projected point can be determined, which describes the projection of the reference point of the calibration object on the image sensor. Based on a deviation between the imaged point and the backprojected point, the calibration of the camera can then be assessed or performed. This is also referred to as the backprojection error. In this known method, the calibration is performed within the image space. Furthermore, methods are known from the prior art in which a calibration object or the reference point of the calibration object is recorded with two or more cameras in order to be able to evaluate the calibration.
Es ist Aufgabe der vorliegenden Erfindung, eine Lösung aufzuzeigen, wie eine Kalibrierung einer Kamera für ein Kraftfahrzeug vergleichbarer und zuverlässiger durchgeführt werden kann.It is an object of the present invention to provide a solution, as a calibration of a camera for a motor vehicle can be performed comparable and reliable.
Diese Aufgabe wird erfindungsgemäß durch ein Verfahren, durch eine Kamera sowie durch ein Kraftfahrzeug mit den Merkmalen gemäß den jeweiligen unabhängigen Ansprüchen gelöst. Vorteilhafte Weiterbildungen der vorliegenden Erfindung sind Gegenstand der abhängigen Ansprüche.This object is achieved by a method by a camera and by a motor vehicle with the features according to the respective independent claims. Advantageous developments of the present invention are the subject of the dependent claims.
Gemäß einer Ausführungsform eines Verfahrens zum Kalibrieren einer Kamera für ein Kraftfahrzeug wird bevorzugt ein Kalibrierobjekt in einer Umgebung der Kamera positioniert. Darüber hinaus wird bevorzugt ein Bild von dem Kalibrierobjekt mit der Kamera aufgenommen. Des Weiteren wird die Kamera in Abhängigkeit von dem aufgenommenen Bild insbesondere kalibriert. Ferner wird insbesondere für eine Bewertung der Kalibrierung ein Kalibrierfehler bestimmt, wobei zum Bestimmen des Kalibrierfehlers bevorzugt ein mit einem Bildsensor der Kamera abgebildeter Punkt eines Bezugspunkts des Kalibrierobjekts bestimmt wird. Außerdem ist es bevorzugt vorgesehen, dass ein rückprojizierter Punkt, welcher eine Rückprojektion des abgebildeten Punkts in die Umgebung der Kamera beschreibt, bestimmt wird. Des Weiteren wird der Kalibrierfehler bevorzugt anhand einer Abweichung zwischen dem Bezugspunkt des Kalibrierobjekts und dem rückprojizierten Punkt bestimmt.According to one embodiment of a method for calibrating a camera for a motor vehicle, a calibration object is preferably positioned in an environment of the camera. In addition, an image of the calibration object with the camera is preferably recorded. Furthermore, the camera is especially calibrated depending on the captured image. Furthermore, a calibration error is determined in particular for an evaluation of the calibration, wherein for determining the calibration error, a point of a reference point of the calibration object imaged with an image sensor of the camera is preferably determined. In addition, it is preferably provided that a backprojected point, which describes a back projection of the imaged point into the surroundings of the camera, is determined. Furthermore, the calibration error is preferably determined based on a deviation between the reference point of the calibration object and the backprojected point.
Ein erfindungsgemäßes Verfahren dient zum Kalibrieren einer Kamera für ein Kraftfahrzeug. Hierbei wird ein Kalibrierobjekt in einer Umgebung der Kamera positioniert. Ferner wird ein Bild von dem Kalibrierobjekt mit der Kamera aufgenommen. Zudem wird die Kamera in Abhängigkeit von dem aufgenommenen Bild kalibriert. Für eine Bewertung der Kalibrierung wird ein Kalibrierfehler bestimmt, wobei zum Bestimmen des Kalibrierfehlers ein auf einen Bildsensor der Kamera abgebildeter Punkt eines Bezugspunkts des Kalibrierobjekts bestimmt wird. Darüber hinaus wird ein rückprojizierter Punkt, welcher eine Rückprojektion des abgebildeten Punkts in die Umgebung der Kamera beschreibt, bestimmt und der Kalibrierfehler wird anhand einer Abweichung zwischen dem Bezugspunkt des Kalibrierobjekts und dem rückprojizierten Punkt bestimmt.An inventive method is used to calibrate a camera for a motor vehicle. Here, a calibration object is positioned in an environment of the camera. Furthermore, an image is taken of the calibration object with the camera. In addition, the camera is calibrated depending on the recorded image. A calibration error is determined for an evaluation of the calibration, wherein a point of a reference point of the calibration object mapped to an image sensor of the camera is determined for determining the calibration error. In addition, a backprojected point describing a back projection of the imaged spot into the surroundings of the camera is determined, and the calibration error is determined based on a deviation between the reference point of the calibration object and the backprojected point.
Mithilfe des Verfahrens soll eine Kamera für ein Kraftfahrzeug kalibriert werden. Insbesondere soll die Kalibrierung der Kamera bewertet werden. Die Kamera ist für die Verwendung an einem Kraftfahrzeug ausgelegt. Beispielsweise kann die Kamera Teil eines Kamerasystems oder eines Fahrerassistenzsystems sein, welches dazu dient, einen Fahrer des Kraftfahrzeugs beim Führen des Kraftfahrzeugs zu unterstützen. Mithilfe der Kamera können beispielsweise Bilder eines Umgebungsbereichs des Kraftfahrzeugs bereitgestellt werden. Diese Bilder können dem Fahrer auf einer Anzeigeeinrichtung dargestellt werden. Es kann auch vorgesehen sein, dass auf Grundlage der Bilder, die mit der Kamera bereitgestellt werden, Objekte in der Umgebung des Kraftfahrzeugs erkannt werden. Bevor diese Kamera an dem Kraftfahrzeug montiert wird, ist es erforderlich, die Kamera zu kalibrieren. Zur Kalibrierung der Kamera wird das Kalibrierobjekt, dessen räumliche Abmessungen bekannt sein können, relativ zu der Kamera positioniert. Das Kalibierobjekt wird so zu der Kamera positioniert, dass das Kalibrierobjekt mit der Kamera erfasst werden kann. Das Kalibrierobjekt kann an einer vorbestimmten Position angeordnet werden. Das Kalibrierobjekt weist zumindest einen Bezugspunkt auf. Von diesem Kalibrierobjekt wird zumindest ein Bild mithilfe der Kamera aufgenommen. Auf Grundlage dieses Bilds kann dann die Kalibrierung beziehungsweise die aktuelle Einstellung der Kamera überprüft werden. Dabei können intrinsische Parameter und/oder extrinsische Parameter der Kamera angepasst werden, um die Kalibrierung durchzuführen. Nachdem die Kalibrierung der Kamera durchgeführt wurde, ist es erforderlich, diese zu bewerten. Dazu wird ein Kalibrierfehler bestimmt. Zum Bestimmen des Kalibrierfehlers wird der abgebildete Punkt auf dem Bildsensor bestimmt, welcher die Projektion des Bezugspunkts des Kalibrierobjekts beschreibt.The method is to calibrate a camera for a motor vehicle. In particular, the calibration of the camera should be evaluated. The camera is designed for use on a motor vehicle. For example, the camera may be part of a camera system or a driver assistance system, which serves to assist a driver of the motor vehicle when driving the motor vehicle. With the help of the camera For example, images of an environmental area of the motor vehicle are provided. These images can be displayed to the driver on a display device. It can also be provided that, based on the images provided with the camera, objects in the surroundings of the motor vehicle are detected. Before this camera is mounted on the vehicle, it is necessary to calibrate the camera. To calibrate the camera, the calibration object whose spatial dimensions can be known is positioned relative to the camera. The calibration object is positioned to the camera so that the calibration object can be detected with the camera. The calibration object can be arranged at a predetermined position. The calibration object has at least one reference point. At least one image is captured by this calibration object using the camera. Based on this image, the calibration or the current setting of the camera can then be checked. In this case, intrinsic parameters and / or extrinsic parameters of the camera can be adapted to carry out the calibration. After calibrating the camera, it is necessary to evaluate it. For this purpose, a calibration error is determined. To determine the calibration error, the imaged point on the image sensor is determined, which describes the projection of the reference point of the calibration object.
Gemäß einem wesentlichen Aspekt der vorliegenden Erfindung ist es nun vorgesehen, dass der rückprojizierte Punkt bestimmt wird. Dieser rückprojizierte Punkt beschreibt die Rückprojektion des abgebildeten Punkts auf dem Bildsensor in die Umgebung der Kamera. Es wird also bestimmt, wo in der Umgebung der Kamera der abgebildete Punkt tatsächlich liegt. Der rückprojizierte Punkt beschreibt die Rückprojektion des abgebildeten Punkts von dem Bildsensor in die reale Welt. Der rückprojizierte Punkt beschreibt insbesondere nicht die Projektion eines dreidimensionalen Punkts in eine zweidimensionale Bildebene. Zum Bestimmen des Kalibrierfehlers wird dann die Abweichung zwischen dem Bezugspunkt des Kalibrierobjekts in der Umgebung der Kamera und des rückprojizierten Punkts in der Umgebung der Kamera bestimmt. Wenn es sich bei dem abgebildeten Punkt um einen zweidimensionalen Punkt handelt, ist die Projektion dieses abgebildeten Punkts in die reale dreidimensionale Welt eine Linie. Um den rückprojizierten Punkt innerhalb dieser Linie bestimmen zu können, können extrinsische Parameter genutzt werden. Diese extrinsischen Parameter können insbesondere die Position des Kalibrierobjekts und/oder des Bezugspunkts beschreiben. Vorliegend wird der Kalibrierfehler nicht innerhalb der Bildebene bzw. auf dem Bildsensor bestimmt, sondern in der realen Welt. Dem liegt die Erkenntnis zugrunde, dass die Bestimmung des Kalibrierfehlers in der Bildebene es unmöglich macht, einen geeigneten Schwellwert für den Kalibrierfehler festzulegen, welcher für mehrere unterschiedliche Kameras genutzt werden kann. Auch kann ein Kalibrierfehler, der innerhalb der Bildebene bestimmt wird, nicht als Vergleichsmaß für unterschiedliche Kameratypen oder unterschiedliche Umgebungssituationen genutzt werden. Da vorliegend der Kalibrierfehler in der realen Welt bestimmt wird, kann auch die relative Lage des Kalibrierobjekts zu der Kamera berücksichtigt werden. Ferner wird es ermöglicht, dass der Kalibrierfehler mit einer einzigen Kamera bestimmt wird. Somit kann die Kalibrierung insgesamt auf einfache und zuverlässige Weise bewertet werden. Zudem kann die Kalibrierung von verschiedenen Kameras miteinander verglichen werden.According to an essential aspect of the present invention, it is now provided that the back-projected point is determined. This backprojected point describes the backprojection of the imaged spot on the image sensor into the surroundings of the camera. It is thus determined, where in the environment of the camera the pictured point actually lies. The backprojected point describes the backprojection of the imaged point from the image sensor into the real world. In particular, the backprojected point does not describe the projection of a three-dimensional point into a two-dimensional image plane. To determine the calibration error, the deviation between the reference point of the calibration object in the surroundings of the camera and the backprojected point in the surroundings of the camera is then determined. If the point imaged is a two-dimensional point, the projection of this imaged point into the real three-dimensional world is a line. To determine the backprojected point within this line, extrinsic parameters can be used. These extrinsic parameters may in particular describe the position of the calibration object and / or the reference point. In the present case, the calibration error is not determined within the image plane or on the image sensor, but in the real world. This is based on the finding that the determination of the calibration error in the image plane makes it impossible to determine a suitable threshold for the calibration error, which can be used for several different cameras. Also, a calibration error that is determined within the image plane can not be used as a comparison measure for different camera types or different environmental situations. Since the calibration error in the real world is determined in the present case, the relative position of the calibration object to the camera can also be taken into account. It also allows the calibration error to be determined with a single camera. Thus, the calibration as a whole can be evaluated easily and reliably. In addition, the calibration of different cameras can be compared.
Bevorzugt wird für eine Mehrzahl von Bezugspunkten des Kalibrierobjekts jeweils ein rückprojizierter Punkt bestimmt und der Kalibierfehler wird anhand der jeweiligen Abweichung zwischen dem Bezugspunkt und dem rückprojizierten Punkt bestimmt. Um die Genauigkeit bei der Bestimmung des Kalibrierfehlers zu erhöhen, kann eine Mehrzahl von Bezugspunkten des Kalibrierobjekts herangezogen werden. Für jeden der Bezugspunkte kann dann aus dem abgebildeten Punkt der rückprojizierte Punkt bestimmt werden. Anhand der jeweiligen Abweichung zwischen dem Bezugspunkt und dem dazugehörigen rückprojizierten Punkt kann dann ein Einzelkalibierfehler bestimmt werden. Aus den Einzelkalibrierfehlern kann der gesamte Kalibrierfehler bestimmt werden. Hierzu kann beispielsweise die Methode der kleinsten Quadrate genutzt werden. Die Anzahl der Bezugspunkte hängt von dem Modell der Kamera, welche kalibriert werden soll, ab. Insbesondere hängt die Anzahl der Bezugspunkte von den intrinsischen Parametern der Kamera ab. Zudem hängt die Anzahl der Bezugspunkte von der Geometrie des Kalibrierobjekts ab. Wenn im einfachsten Fall von einer Lochbildkamera und einem planaren Kalibierobjekt ausgegangen wird, ergibt sich eine Homographie mit acht Freiheitsgraden. Hierbei sind beispielsweise vier nicht kollineare Bezugspunkte notwendig. Wenn es sich bei der Kamera um eine Kamera mit Fischaugenobjektiv handelt, sind mehr Bezugspunkte erforderlich.Preferably, a backprojected point is determined in each case for a plurality of reference points of the calibration object, and the calibration error is determined on the basis of the respective deviation between the reference point and the backprojected point. In order to increase the accuracy in the determination of the calibration error, a plurality of reference points of the calibration object can be used. For each of the reference points, the back-projected point can then be determined from the imaged point. Based on the respective deviation between the reference point and the corresponding backprojected point, a single calibration error can then be determined. From the Einzelkalibrierfehlern the entire calibration error can be determined. For this example, the method of least squares can be used. The number of reference points depends on the model of the camera to be calibrated. In particular, the number of reference points depends on the intrinsic parameters of the camera. In addition, the number of reference points depends on the geometry of the calibration object. In the simplest case, assuming a pinhole camera and a planar calibration object, the result is homography with eight degrees of freedom. In this case, for example, four non-collinear reference points are necessary. If the camera is a fisheye camera, more reference points are required.
Bevorzugt wird ein Abstand zwischen dem Bezugspunkt und einem Projektionszentrum bestimmt und der rückprojizierte Punkt wird derart bestimmt, dass ein Abstand zwischen dem rückprojizierten Punkt und dem Projektionszentrum und der Abstand zwischen dem Bezugspunkt und dem Projektionszentrum gleich ist. Unter Berücksichtigung eines bestimmten Projektionsmodells, beispielsweise der Zentralprojektion, kann ein Projektionszentrum bestimmt werden. Da die Position des Bezugspunkts des Kalibrierobjekts bekannt ist, kann auch der Abstand zwischen dem Bezugspunkt und dem Projektionspunkt bestimmt werden. Vorliegend wird davon ausgegangen, dass der Bezugspunkt des Kalibrierobjekts und der rückprojizierte Punkt den gleichen Abstand zu dem Projektionszentrum aufweisen. Der rückprojizierte Punkt beschreibt dabei die Projektion des abgebildeten Punkts bezüglich des Projektionszentrums. Somit kann der rückprojizierte Punkt auf einfache und zuverlässige Weise bestimmt werden.Preferably, a distance between the reference point and a projection center is determined, and the back-projected point is determined such that a distance between the back-projected point and the projection center and the distance between the reference point and the projection center are equal. Taking into account a certain projection model, for example the central projection, a projection center can be determined. Since the position of the reference point of the calibration object is known, the distance between the reference point and the projection point can also be determined. Present will be of it assumed that the reference point of the calibration object and the back-projected point have the same distance to the projection center. The backprojected point describes the projection of the imaged point with respect to the projection center. Thus, the back-projected point can be determined in a simple and reliable manner.
Gemäß einer weiteren Ausführungsform wird der Kalibrierfehler anhand des Abstands zwischen dem Bezugspunkt und dem Projektionszentrum normiert. Sobald der Abstand zwischen dem Bezugspunkt des Kalibrierobjekts und dem Projektionszentrum bekannt ist, kann dieser dazu verwendet werden, den Kalibrierfehler zu normieren bzw. zu gewichten. Somit kann zur Bewertung der Kalibrierung ein Kalibrierfehler herangezogen werden, welcher unabhängig von dem Abstand des Bezugspunkts des Kalibrierobjekts zu dem Projektionszentrum ist. Damit wird der Kalibrierfehler auch unabhängig von dem Abstand des Kalibrierobjekts zu der Kamera. Dies ermöglicht es, den Kalibrierfehler auch für unterschiedliche Anordnungen von Kameras zu Kalibrierobjekten zu verwenden.According to a further embodiment, the calibration error is normalized on the basis of the distance between the reference point and the projection center. Once the distance between the reference point of the calibration object and the projection center is known, it can be used to normalize or weight the calibration error. Thus, a calibration error can be used to evaluate the calibration, which is independent of the distance of the reference point of the calibration object to the projection center. Thus, the calibration error is also independent of the distance of the calibration object to the camera. This makes it possible to use the calibration error also for different arrangements of cameras to calibration objects.
Zudem ist es vorteilhaft, wenn ein projizierter Punkt bestimmt wird, welcher eine Projektion des Bezugspunkts des Kalibrierobjekts auf den Bildsensor mittels einer Zentralprojektion beschreibt. Wie bereits erläutert, kann die Zentralprojektion verwendet werden, um die Abbildung des Kalibrierobjekts auf den Bildsensor der Kamera zu beschreiben. Somit kann auf Grundlage der Position des Bezugspunkts des Kalibrierobjekts der projizierte Punkt auf dem Bildsensor bestimmt werden. Die Bestimmung des projizierten Punkts kann mit Hilfe eines Bildverarbeitungsverfahrens, beispielsweise einem Verfahren der Eckendetektion, durchgeführt werden. Dieser projizierte Punkt beschreibt die Abbildung des Bezugspunkts des Kalibrierobjekts auf den Bildsensor unter Berücksichtigung des Projektionszentrums. Somit kann auf einfache und zuverlässige Weise ein Modell bereitgestellt werden, welches die Abbildung des Kalibrierobjekts mittels der Kamera beschreibt.In addition, it is advantageous if a projected point is determined which describes a projection of the reference point of the calibration object onto the image sensor by means of a central projection. As already explained, the central projection can be used to describe the image of the calibration object on the image sensor of the camera. Thus, based on the position of the reference point of the calibration object, the projected point on the image sensor can be determined. The determination of the projected point may be performed by an image processing method such as a corner detection method. This projected point describes the mapping of the reference point of the calibration object onto the image sensor taking into account the projection center. Thus, a model can be provided in a simple and reliable way, which describes the imaging of the calibration object by means of the camera.
Gemäß einer weiteren Ausgestaltung wird die Abweichung anhand eines Winkels zwischen einer ersten Linie, welche das Projektionszentrum und den Bezugspunkt des Kalibrierobjekts verbindet, und einer zweiten Linie, welche das Projektionszentrum mit dem rückprojizierten Punkt verbindet, bestimmt. Die erste Linie beschreibt also die Projektion des Bezugspunkts des Kalibrierobjekts auf dem projizierten Punkt auf dem Bildsensor. Die zweite Linie beschreibt die Projektion des abgebildeten Punkts auf dem Bildsensor zu dem rückprojizierten Punkt in der Umgebung der Kamera. Die erste Linie und die zweite Linie verlaufen durch das Projektionszentrum. Der Winkel zwischen der ersten Linie und der zweiten Linie beschreibt nun die Abweichung zwischen dem rückprojizierten Punkt und dem Bezugspunkt des Kalibrierobjekts. Somit kann auf Grundlage des Winkels auf einfache Weise die Abweichung zwischen diesen Punkten und somit auch der Kalibrierfehler bestimmt werden.According to a further embodiment, the deviation is determined based on an angle between a first line connecting the projection center and the reference point of the calibration object and a second line connecting the projection center with the backprojected point. The first line thus describes the projection of the reference point of the calibration object on the projected point on the image sensor. The second line describes the projection of the imaged spot on the image sensor to the back projected point in the vicinity of the camera. The first line and the second line pass through the projection center. The angle between the first line and the second line now describes the deviation between the backprojected point and the reference point of the calibration object. Thus, based on the angle, it is easy to determine the deviation between these points and thus also the calibration errors.
Gemäß einer Ausführungsform wird die Abweichung anhand eines Abstands zwischen dem Bezugspunkt des Kalibrierobjekts und dem rückprojizierten Punkt bestimmt. Zur Beurteilung der Kalibrierung kann insbesondere der euklidische Abstand zwischen dem Bezugspunkt des Kalibrierobjekts und dem rückprojizierten Punkt bestimmt werden. Dies kann insbesondere auf einfache Weise durchgeführt werden, wenn der Abstand zwischen dem rückprojizierten Punkt und dem Projektionszentrum bzw. der Abstand zwischen dem Projektionszentrum und dem Bezugspunkt des Kalibrierobjekts sowie der Winkel zwischen der ersten und der zweiten Linie bekannt ist.According to one embodiment, the deviation is determined based on a distance between the reference point of the calibration object and the backprojected point. In order to assess the calibration, in particular the Euclidean distance between the reference point of the calibration object and the backprojected point can be determined. This can in particular be carried out in a simple manner if the distance between the back-projected point and the projection center or the distance between the projection center and the reference point of the calibration object and the angle between the first and the second line is known.
Gemäß einer weiteren Ausführungsform wird die Abweichung anhand einer Bogenlänge eines Bogens, welcher durch den Bezugspunkt des Kalibrierobjekts und den rückprojizierten Punkt verläuft und dessen Mittelpunkt das Projektionszentrum ist, bestimmt. Dabei kann der Bogen insbesondere ein Kreisbogen sein. Diese Bogenlänge kann auf einfache Weise bestimmt werden, wenn der Winkel zwischen der ersten Linie und der zweiten Linie bekannt ist.According to a further embodiment, the deviation is determined on the basis of an arc length of an arc, which runs through the reference point of the calibration object and the backprojected point and whose center is the projection center. In this case, the sheet may in particular be a circular arc. This arc length can be easily determined if the angle between the first line and the second line is known.
Weiterhin ist es vorteilhaft, wenn der Kalibrierfehler mit einem Schwellenwert verglichen wird, wobei der Schwellenwert in Abhängigkeit von einem Abstand zwischen dem Bezugspunkt des Kalibrierobjekts und der Kamera bestimmt wird. Somit kann beispielsweise vorgegeben werden, welche Abweichungen zwischen dem Bezugspunkt des Kalibrierobjekts und dem rückprojizierten Punkt in Abhängigkeit von der Entfernung des Kalibrierobjekts zu der Kamera toleriert werden können. Dabei kann der Abstand zwischen dem Bezugspunkt des Kalibrierobjekts und des rückprojizierten Punkts in der realen Welt vorgegeben werden. Ein solcher Abstand ist somit auf einfache Weise vorstellbar.Furthermore, it is advantageous if the calibration error is compared with a threshold value, wherein the threshold value is determined as a function of a distance between the reference point of the calibration object and the camera. Thus, for example, it is possible to specify which deviations between the reference point of the calibration object and the backprojected point can be tolerated as a function of the distance of the calibration object from the camera. In this case, the distance between the reference point of the calibration object and the backprojected point in the real world can be specified. Such a distance is thus easily imaginable.
Bevorzugt werden beim Kalibrieren der Kamera intrinsische Parameter und/oder extrinsische Parameter der Kamera angepasst. Die extrinsischen Kameraparameter beschreiben die Positionen und/oder Orientierung der Kamera im Raum. Die intrinsischen Parameter beschreiben beispielsweise die Brennweite der Kamera. Ferner stellen die Werte eines Bildmittelpunkts intrinsische Parameter dar. Auch die Pixelskalierung in unterschiedlichen Raumrichtungen stellen intrinsische Parameter dar. Diese Parameter können während der Kalibrierung angepasst werden und anschließend kann die durchgeführte Kalibrierung auf Grundlage des Kalibrierfehlers überprüft werden. Dies eignet sich insbesondere bei einer Massenfertigung der Kamera, um diese zuverlässig kalibrieren zu können.When calibrating the camera, intrinsic parameters and / or extrinsic parameters of the camera are preferably adapted. The extrinsic camera parameters describe the positions and / or orientation of the camera in the room. The intrinsic parameters describe, for example, the focal length of the camera. Furthermore, the values of an image center point represent intrinsic parameters. The pixel scaling in different spatial directions also represent intrinsic parameters. These parameters can be adjusted during the calibration and subsequently the calibration carried out can be based on the calibration error be checked. This is particularly suitable for mass production of the camera in order to be able to calibrate it reliably.
Eine erfindungsgemäße Kamera für ein Kraftfahrzeug ist gemäß einem erfindungsgemäßen Verfahren kalibriert. Die Kamera kann eine Kraftfahrzeug-Befestigungseinrichtung zur Befestigung der Kamera an dem Kraftfahrzeug aufweisen. Beispielsweise kann die Kamera einen Teil eines Kamerasystems oder Fahrerassistenzsystems Kraftfahrzeugs bilden. Dabei ist es insbesondere vorgesehen, dass die Kamera ein Fischaugenobjektiv oder eine Fischaugenlinse aufweist. Insbesondere bei derartigen Kameras, welche ein Fischaugenobjektiv aufweisen, eignet sich die Verwendung des Kalibrierfehlers, der innerhalb der realen Welt definiert wird.A camera according to the invention for a motor vehicle is calibrated according to a method according to the invention. The camera may have a motor vehicle fastening device for fastening the camera to the motor vehicle. For example, the camera may form part of a camera system or driver assistance system of the motor vehicle. It is provided in particular that the camera has a fisheye lens or a fisheye lens. Especially with such cameras having a fisheye lens, the use of the calibration error defined within the real world is suitable.
Ein erfindungsgemäßes Kraftfahrzeug umfasst zumindest eine erfindungsgemäße Kamera. Das Kraftfahrzeug ist insbesondere als Personenkraftwagen ausgebildet.A motor vehicle according to the invention comprises at least one camera according to the invention. The motor vehicle is designed in particular as a passenger car.
Die mit Bezug auf das erfindungsgemäße Verfahren vorgestellten bevorzugten Ausführungsformen und deren Vorteile gelten entsprechend für die erfindungsgemäße Kamera sowie das erfindungsgemäße Kraftfahrzeug.The preferred embodiments presented with reference to the method according to the invention and their advantages apply correspondingly to the camera according to the invention and to the motor vehicle according to the invention.
Weitere Merkmale der Erfindung ergeben sich aus den Ansprüchen, den Figuren und der Figurenbeschreibung. Die vorstehend in der Beschreibung genannten Merkmale und Merkmalskombinationen, sowie die nachfolgend in der Figurenbeschreibung genannten und/oder in den Figuren alleine gezeigten Merkmale und Merkmalskombinationen sind nicht nur in der jeweils angegebenen Kombination, sondern auch in anderen Kombinationen oder in Alleinstellung verwendbar, ohne den Rahmen der Erfindung zu verlassen. Es sind somit auch Ausführungen von der Erfindung als umfasst und offenbart anzusehen, die in den Figuren nicht explizit gezeigt und erläutert sind, jedoch durch separierte Merkmalskombinationen aus den erläuterten Ausführungen hervorgehen und erzeugbar sind. Es sind auch Ausführungen und Merkmalskombinationen als offenbart anzusehen, die somit nicht alle Merkmale eines ursprünglich formulierten unabhängigen Anspruchs aufweisen. Es sind darüber hinaus Ausführungen und Merkmalskombinationen, insbesondere durch die oben dargelegten Ausführungen, als offenbart anzusehen, die über die in den Rückbezügen der Ansprüche dargelegten Merkmalskombinationen hinausgehen oder abweichen.Further features of the invention will become apparent from the claims, the figures and the description of the figures. The features and feature combinations mentioned above in the description, as well as the features and combinations of features mentioned below in the description of the figures and / or shown alone in the figures, can be used not only in the respectively specified combination but also in other combinations or in isolation, without the frame to leave the invention. Thus, embodiments of the invention are to be regarded as encompassed and disclosed, which are not explicitly shown and explained in the figures, but which emerge and can be produced by separated combinations of features from the embodiments explained. Embodiments and combinations of features are also to be regarded as disclosed, which thus do not have all the features of an originally formulated independent claim. Moreover, embodiments and combinations of features, in particular by the embodiments set out above, are to be regarded as disclosed, which go beyond or deviate from the combinations of features set out in the back references of the claims.
Die Erfindung wird nun anhand von bevorzugten Ausführungsbeispielen sowie unter Bezugnahme auf die beigefügten Zeichnungen näher erläutert.The invention will now be described with reference to preferred embodiments and with reference to the accompanying drawings.
Dabei zeigen:
-
1 ein Kraftfahrzeug gemäß einer Ausführungsform der vorliegenden Erfindung, welche eine Mehrzahl von Kameras aufweist; und -
2 eine schematische Darstellung einer Projektion eines Kalibrierobjekts auf einen Bildsensor der Kamera.
-
1 a motor vehicle according to an embodiment of the present invention having a plurality of cameras; and -
2 a schematic representation of a projection of a calibration object on an image sensor of the camera.
In den Figuren werden gleiche und funktionsgleiche Elemente mit den gleichen Bezugszeichen versehen.In the figures, identical and functionally identical elements are provided with the same reference numerals.
Mit den Kameras
Um einen zuverlässigen Betrieb der Kameras
Dabei kann ein Abstand d zwischen dem Projektionszentrum C und dem Bezugspunkt P1 des Kalibrierobjekts
Dabei kann ein Abstand L2 bzw. ein euklidischer Abstand zwischen dem dreidimensionalen Datenpunkten P1 und P4 bestimmt werden. Der Abstand L 2 kann nach folgender Formel anhand des Abstand d zwischen dem Projektionszentrum C und den Bezugspunkt P1 sowie den Winkel Θ zwischen der erste Linie G1 und der zweiten Linie G2 bestimmt werden:
Es kann auch vorgesehen sein, dass eine Bogenlänge a bestimmt wird, welche die Entfernung zwischen dem Bezugspunkt P1 und dem rückprojizierten Punkt P4 beschreibt. Dabei kann die Bogenlänge a entlang einer Kreisbahn eines Kreises, der durch das Projektionszentrum C verläuft, nach folgender Formel bestimmt werden:
Der Abstand L2 und die Bogenlänge a sind Werte, welche intuitiv und einfach zu verstehen sind. Diese beschreiben einen Fehler, der beispielsweise in Millimetern angegeben werden kann und welcher zur Bewertung des Fehlers im dreidimensionalen Raum angegeben werden kann. Somit wird es ermöglicht, die Kamera
Ferner kann auch ein Schwellwert S1, S2 von einem Benutzer definiert werden, mit dem der Kalibrierfehler verglichen werden kann. Dieser Schwellwert S1, S2 kann in Abhängigkeit von einer Entfernung des Kalibrierobjekts
Dabei kann es auch vorgesehen sein, dass der Kalibrierfehler bzw. der Abstand L2 oder die Bogenlänge a normiert werden, damit diese auf einfache Weise für unterschiedliche Kameramodelle und unterschiedliche Kalibiereinstellungen verwendet werden können. Dabei kann der normierte Abstand L2n nach folgender Formel bestimmt werden:
Die normierte Bogenlänge an kann nach folgender Formel bestimmt werden:
Auch die Schwellwerte können nach derselben Logik definiert werden. Dabei kann ein Nutzer einen maximal akzeptierbaren Abstand L2max oder eine maximal akzeptierbare Bogenlänge amax in Abhängigkeit von dem Abstand d definieren. Der Schwellenwert S1 für den Abstand L2 ergibt sich nach folgender Formel:
Der Schwellenwert S2 für die Bogenlänge a ergibt sich nach folgender Formel:
Der jeweilige Kalibrierfehler kann für eine Mehrzahl von Bezugspunkten P1 des Kalibierobjekts
Claims (13)
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102017000307.6A DE102017000307A1 (en) | 2017-01-16 | 2017-01-16 | Method for calibrating a camera for a motor vehicle taking into account a calibration error, camera and motor vehicle |
PCT/EP2018/050637 WO2018130605A1 (en) | 2017-01-16 | 2018-01-11 | Method for calibrating a camera for a motor vehicle considering a calibration error, camera as well as motor vehicle |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102017000307.6A DE102017000307A1 (en) | 2017-01-16 | 2017-01-16 | Method for calibrating a camera for a motor vehicle taking into account a calibration error, camera and motor vehicle |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102017000307A1 true DE102017000307A1 (en) | 2018-07-19 |
Family
ID=60955066
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102017000307.6A Pending DE102017000307A1 (en) | 2017-01-16 | 2017-01-16 | Method for calibrating a camera for a motor vehicle taking into account a calibration error, camera and motor vehicle |
Country Status (2)
Country | Link |
---|---|
DE (1) | DE102017000307A1 (en) |
WO (1) | WO2018130605A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3912883A1 (en) * | 2020-05-20 | 2021-11-24 | Siemens Mobility GmbH | Method for calibrating one or more environment sensors arranged on a railway vehicle |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109458990B (en) * | 2018-11-08 | 2020-12-22 | 华南理工大学 | Instrument and equipment pose measurement and error compensation method based on mark-free anchor point detection |
CN112785519A (en) * | 2021-01-11 | 2021-05-11 | 普联国际有限公司 | Positioning error calibration method, device and equipment based on panoramic image and storage medium |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE10118514A1 (en) | 2001-04-16 | 2002-10-24 | Vmt Bildverarbeitungssysteme G | Method for stabilizing the working point for contactless 3D position detection of an object using digital cameras |
US20070047940A1 (en) | 2005-08-30 | 2007-03-01 | Kosei Matsumoto | Image input device and calibration method |
WO2016087298A1 (en) | 2014-12-04 | 2016-06-09 | Connaught Electronics Ltd. | Online calibration of a motor vehicle camera system |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9641830B2 (en) * | 2014-04-08 | 2017-05-02 | Lucasfilm Entertainment Company Ltd. | Automated camera calibration methods and systems |
US9916660B2 (en) * | 2015-01-16 | 2018-03-13 | Magna Electronics Inc. | Vehicle vision system with calibration algorithm |
-
2017
- 2017-01-16 DE DE102017000307.6A patent/DE102017000307A1/en active Pending
-
2018
- 2018-01-11 WO PCT/EP2018/050637 patent/WO2018130605A1/en active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE10118514A1 (en) | 2001-04-16 | 2002-10-24 | Vmt Bildverarbeitungssysteme G | Method for stabilizing the working point for contactless 3D position detection of an object using digital cameras |
US20070047940A1 (en) | 2005-08-30 | 2007-03-01 | Kosei Matsumoto | Image input device and calibration method |
WO2016087298A1 (en) | 2014-12-04 | 2016-06-09 | Connaught Electronics Ltd. | Online calibration of a motor vehicle camera system |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3912883A1 (en) * | 2020-05-20 | 2021-11-24 | Siemens Mobility GmbH | Method for calibrating one or more environment sensors arranged on a railway vehicle |
DE102020206354A1 (en) | 2020-05-20 | 2021-11-25 | Siemens Mobility GmbH | Method for calibrating one or more environment sensors arranged on a rail vehicle |
Also Published As
Publication number | Publication date |
---|---|
WO2018130605A1 (en) | 2018-07-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102008031784B4 (en) | Method and apparatus for distortion correction and image enhancement of a vehicle rearview system | |
EP2166510B1 (en) | Method for calculating the position and orientation of a camera in a vehicle | |
DE102015107390B4 (en) | Method and device for automatically calibrating all-round vision systems | |
DE102013108070A9 (en) | Image calibration and equalization of a wide-angle camera | |
EP2559236A1 (en) | Method for displaying an image on a display device in a vehicle, driver assistance system and vehicle | |
EP3012154A1 (en) | Method and device to support a driver of a vehicle combination, in particular a commercial vehicle combination | |
DE112017001841T5 (en) | DEVICE FOR DETECTING AN ASSEMBLY ANGLE FOR A VEHICLE-INNER CAMERA, DEVICE FOR CALIBRATING AN ASSEMBLY ANGLE, AND METHOD FOR DETECTING A MOUNTING ANGLE | |
DE102012001858A1 (en) | Method for calibrating wafer level camera of stereo camera assembly, for vehicle for environmental detection, involves identifying corresponding pixels within data sets detected by image capture units during correspondence analysis | |
WO2018108213A1 (en) | Surround view system for a vehicle | |
DE102017011177A1 (en) | Method for determining a bending angle of a vehicle combination, determination device and vehicle combination | |
DE102017000307A1 (en) | Method for calibrating a camera for a motor vehicle taking into account a calibration error, camera and motor vehicle | |
DE102018102047A1 (en) | A method of representing a surrounding area of a motor vehicle with virtual, elongated distance markings in an image, computer program product, and display system | |
DE102018113559A1 (en) | A method of recognizing a lane mark by validating by line width; Control means; Pitch recognition system; as well as driver assistance system | |
DE102015117745A1 (en) | Method for adjusting the output video of a reversing camera for vehicles | |
DE102015104065A1 (en) | A method for determining a position of an object in a three-dimensional world coordinate system, computer program product, camera system and motor vehicle | |
WO2013139661A1 (en) | Method and device for processing images from image data | |
WO2016156377A1 (en) | Method for supplying, on a communication interface, height data about an object located in the surroundings of a motor vehicle, sensor device, processing device and motor vehicle | |
DE102014219428B4 (en) | Self-calibration of a stereo camera system in a car | |
DE102016009756A1 (en) | Method for calibrating a sensor system of a motor vehicle and sensor system | |
DE102017209427B3 (en) | Device for driving safety hoses | |
WO2012019931A1 (en) | Method for displaying images on a display device in a motor vehicle, driver assistance system, and motor vehicle | |
DE102021101593B3 (en) | Method for operating environment sensors in a motor vehicle and motor vehicle | |
DE102015204213A1 (en) | Method for assembling two images of a vehicle environment of a vehicle and corresponding device | |
DE102014219418B4 (en) | Process for the stereo rectification of stereo camera images and driver assistance system | |
DE102019109881A1 (en) | Method for determining at least one correction value for correcting an orientation error of a camera for a motor vehicle, electronic computing device and driver assistance system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R163 | Identified publications notified | ||
R012 | Request for examination validly filed |