WO2010052772A1 - カメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラム - Google Patents

カメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラム Download PDF

Info

Publication number
WO2010052772A1
WO2010052772A1 PCT/JP2008/070135 JP2008070135W WO2010052772A1 WO 2010052772 A1 WO2010052772 A1 WO 2010052772A1 JP 2008070135 W JP2008070135 W JP 2008070135W WO 2010052772 A1 WO2010052772 A1 WO 2010052772A1
Authority
WO
WIPO (PCT)
Prior art keywords
camera
image
marker
jig
angle calculation
Prior art date
Application number
PCT/JP2008/070135
Other languages
English (en)
French (fr)
Inventor
清水　誠也
Original Assignee
富士通株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士通株式会社 filed Critical 富士通株式会社
Priority to JP2010536608A priority Critical patent/JP5387580B2/ja
Priority to PCT/JP2008/070135 priority patent/WO2010052772A1/ja
Publication of WO2010052772A1 publication Critical patent/WO2010052772A1/ja
Priority to US13/064,690 priority patent/US8537199B2/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/64—Three-dimensional objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/402—Image calibration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30204—Marker
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle

Definitions

  • the present invention relates to a camera angle calculation device, a camera angle calculation method, and a camera angle calculation program for calculating installation parameters of a camera attached to a moving body.
  • the camera installation parameters include a position (X coordinate, Y coordinate, Z coordinate) and angle (roll angle, pitch angle, yaw angle) with respect to the vehicle coordinate system.
  • the conventional technique described above has a problem that the camera cannot be calibrated in a narrow space.
  • the camera calibration can be executed even in a narrow space, and it is an important issue to accurately determine the camera installation parameters.
  • An object is to provide an angle calculation device, a camera angle calculation method, and a camera angle calculation program.
  • FIG. 10 is a diagram illustrating an example of the data structure of the conversion table.
  • FIG. 11 is a diagram for explaining the calculation of the angle between each line-of-sight vector.
  • FIG. 12 is a diagram illustrating camera coordinates and marker coordinates in the vehicle coordinate system.
  • FIG. 13 is a diagram (1) for explaining the processing of the camera angle parameter estimation unit.
  • FIG. 14 is a diagram (2) for explaining the processing of the camera angle parameter estimation unit.
  • FIG. 15 is a diagram illustrating an example of an image output by the image composition processing unit.
  • FIG. 16 is a flowchart of a process procedure of the calibration apparatus according to the first embodiment.
  • FIG. 17 is a diagram for explaining marker division shooting.
  • FIG. 18 is a diagram for explaining the synthesis of the camera image.
  • FIG. 19 is a diagram illustrating the configuration of the calibration apparatus according to the second embodiment.
  • FIG. 20 is a diagram illustrating a hardware configuration of a computer configuring the calibration apparatus according to the embodiment.
  • 1 and 2 are diagrams for explaining camera installation parameters.
  • the installation positions of the cameras 10a to 10d are given by coordinates (x, y, z) in the vehicle coordinate system with the vehicle 1 as a reference.
  • the coordinates of the cameras 10a to 10d are known.
  • the camera position coordinates are referred to as camera position parameters.
  • the angle of the camera 10a is the rotation angle ⁇ around the optical axis of the camera 10a in the camera coordinate system based on the optical axis of the camera 10a.
  • the camera rotation angle ⁇ , rotation angle ⁇ , and rotation angle ⁇ are collectively referred to as camera angle parameters.
  • FIG. 5 is a diagram illustrating the configuration of the calibration apparatus 100 according to the first embodiment.
  • the calibration apparatus 100 includes a parameter storage unit 110, a frame buffer 120, a marker extraction unit 130, a marker position estimation unit 140, a camera angle parameter estimation unit 150, and an image composition processing unit. 160 and a display 170.
  • FIG. 6 is a diagram showing an example of the data structure of the camera position parameter 110a.
  • the camera position parameter 110a stores camera identification information and camera coordinates in association with each other.
  • the user measures the coordinates of the cameras 10a to 10d in advance, and stores the camera position parameter 110a in the parameter storage unit 110 using an input device (not shown).
  • FIG. 7 is a diagram illustrating an example of a data structure of the camera angle parameter 110b.
  • the camera angle parameter 110b stores camera identification information and rotation angles ⁇ , ⁇ , and ⁇ in association with each other.
  • the camera angle parameter 110b is calculated by the camera angle parameter estimation unit 150.
  • the camera angle parameter estimation unit 150 will be described later.
  • the frame buffer 120 is a storage unit that sequentially stores images taken by the cameras 10a to 10d.
  • FIG. 8 is a diagram illustrating an example of each image captured by the cameras 10a to 10d. As shown in the upper left of FIG. 8, the image captured by the camera 10a includes markers 20a and 20b. As shown in the upper right of FIG. 8, the image captured by the camera 10c includes the marker 20d. , 20e.
  • the image taken by the camera 10d includes a marker 20e, a marker 20f, and a marker 20a, and taken by the camera 10b as shown in the lower right of FIG.
  • the images include markers 20b, 20c, and 20d.
  • the marker extraction unit 130 is a processing unit that acquires image data captured by the cameras 10a to 10d from the frame buffer 120, extracts a marker included in the image, and specifies coordinates of the extracted marker on the image. Any conventional image processing technique may be used as a method for extracting a marker included in an image.
  • FIG. 9 is a diagram illustrating a marker extraction result of the marker extraction unit 130. If the image shown in FIG. 9 is taken by the camera 10b, the marker extraction unit 130 extracts the coordinates of the markers 20b, 20c, and 20d as P 1 , P 2 , and P 3 in the image coordinate axis system. The marker extraction unit 130 also specifies marker coordinates (coordinates in the image coordinate axis system) for images taken by the cameras 10a, 10c, and 10c. The marker extraction unit 130 outputs the coordinates of each identified marker to the marker position estimation unit 140.
  • an LED Light Emitting Diode
  • the marker extraction unit 130 may be provided with a function of collectively collecting blinking pixel sets as patterns as markers.
  • the marker extraction unit 130 may display an image on the display 170, and the marker may be notified to the marker extraction unit 130 when the user inputs the coordinates on the marker image using a pointing device.
  • the marker position estimation unit 140 calculates the coordinates of the markers 20a to 20f in the vehicle coordinate system based on the coordinates of the markers 20a to 20f (the coordinates of the image coordinate system) and the camera position parameter 110a (see FIG. 6). In addition, it is a processing unit that calculates the optical axis vector R and the vertical vector D of each of the cameras 10a to 10d in the vehicle coordinate system. By using the optical axis vector and the vertical vector, the camera angle parameters of the cameras 10a to 10d can be calculated.
  • the marker position estimation unit 140 compares the coordinates of the markers 20a to 20f (the coordinates of the image coordinate system) with the conversion table, and determines the line-of-sight vector of each coordinate.
  • the line-of-sight vector is a direction vector of a line segment connecting the optical center of the camera and the coordinates of the marker
  • the direction of the line-of-sight vector is the direction from the camera to the marker.
  • the conversion table is a table for converting coordinates on the image captured by the camera into a line-of-sight vector, and the relationship between each coordinate and the line-of-sight vector is calculated in advance from eigenvalues of the camera and the lens system.
  • This conversion table is held by the marker position estimation unit 140.
  • FIG. 10 is a diagram illustrating an example of the data structure of the conversion table.
  • the marker position estimation unit 140 calculates an angle between each line-of-sight vector in the camera coordinate system.
  • FIG. 11 is a diagram for explaining the calculation of the angle between each line-of-sight vector.
  • the markers are P 1 to P 3 (P 3 is a marker vertically below the camera), and the line-of-sight vector of each marker is v 1 to v 3 .
  • the angle between the line-of-sight vectors of the marker is arccos (v m ⁇ v n) ⁇ (1) Is calculated by Note that “ ⁇ ” included in Equation 1 is an inner product of vectors.
  • Equation 1 the angle ⁇ ( ⁇ P 1 0P 2 ) formed by P 1 and P 2 in the camera coordinate system, and the angle formed by P 1 and P 3 are ⁇ A ( ⁇ P 1 0P 3 ),
  • the angle formed by P 2 and P 3 is calculated from ⁇ B ( ⁇ ⁇ P 2 0P 3 ) from images taken by the cameras 10d and 10b. Note that the image captured camera 10a, by 10c, since the marker P 3 is absent, is calculated only the angle ⁇ formed by the P 1 and P 2.
  • angles ⁇ A and ⁇ B corresponding to the camera 10b are ⁇ 2A and ⁇ 2B
  • angles ⁇ A and ⁇ B corresponding to the camera 10d are ⁇ 4A and ⁇ 4B .
  • the marker position estimation unit 140 uses F (M 1 , M 2 , M 3 , M 4 ) as an evaluation function.
  • F (M 1 , M 2 , M 3 , M 4 ) as an evaluation function.
  • the markers 20a to 20f are arranged on the ground, the z components of M 1 to M 4 , N 2 , and N 4 are “0”.
  • FIG. 12 is a diagram showing the coordinates C 1 to C 4 of the cameras 10a to 10d and the coordinates M 1 to M 4 , N 2 , and N 4 of the markers 20a to 20f in the vehicle coordinate system.
  • the marker position estimation unit 140 calculates M 1 to M 4 that minimize the value of the evaluation function F (M 1 , M 2 , M 3 , M 4 ) shown in Equation 2. For example, the marker position estimation unit 140 gives initial values to M 1 to M 4 , and uses the steepest descent method that is a well-known technique, so that the value of the evaluation function F (M 1 , M 2 , M 3 , M 4 ). M 1 to M 4 are calculated by determining M 1 to M 4 that becomes 0 (or close to 0 as much as possible). Note that the values of the coordinates C 1 to C 4 and the values of N 2 and N 4 of the cameras 10a to 10d included in Expression 2 are known, and the value of the camera position parameter 110a is used.
  • the marker position estimation unit 140 outputs information on the coordinates M 1 to M 4 of the markers 20a to 20f in the vehicle coordinate system to the camera angle parameter estimation unit 150.
  • Camera angle parameter estimation unit 150 obtains the coordinates M 1 ⁇ M 4 markers 20a ⁇ 20f, based on the coordinates M 1 ⁇ M 4 obtained is the processing unit that calculates a camera angle parameters of the camera 10a ⁇ 10d .
  • the processing of the camera angle parameter estimation unit 150 will be specifically described.
  • FIGS. 13 and 14 are diagrams for explaining the processing of the camera angle parameter estimation unit 150.
  • the optical axis vectors R 1 to R 4 correspond to the optical axis vectors of the cameras 10a to 10d, respectively, and the vertical vectors d 1 to d 4 correspond to the vertical vectors of the cameras 10a to 10d, respectively.
  • ⁇ 2A indicates the angle formed by the vector from the camera 10b toward the coordinate M 2 and the optical axis vector R n
  • ⁇ 2B is determined from the camera 10b to the coordinate M 3 .
  • a vector from the camera to the marker coordinates in the vehicle coordinate system is converted from the marker coordinates in the vehicle coordinate system using a conversion table or the like.
  • Gamma nA vehicle coordinate system, ⁇ nB, ⁇ nA, ⁇ nB is, gamma nA of the camera coordinate system, ⁇ nB, ⁇ nA, it becomes equal to the beta nB.
  • ⁇ 2A, ⁇ 2B in FIG. 13 ⁇ 2A, ⁇ 2B is, gamma 2A of FIG. 14, ⁇ 2B, ⁇ 2A, a value equal to the beta 2B.
  • the camera angle parameter estimation unit 150 calculates the optical axis vector R 2 and the vertical vector d 2 of the camera 10b will be described as an example.
  • the camera angle parameter estimation unit 150 uses the optical axis vector r 2 to ⁇ 2A and ⁇ 2B are calculated from the line-of-sight vector. Since the calculated ⁇ 2A and ⁇ 2B are also established in the vehicle coordinate system shown in FIG. 13, the direction vector of the markers M 2 and M 2 from the lens of the camera 10b and the vector having an angular relationship between ⁇ 2A and ⁇ 2B . , to select the appropriate ones as R 2. In general, there are two vectors that satisfy the angular relationship, but they can be uniquely determined from the relationship between the camera and the road surface.
  • the camera angle parameter estimation unit 150 uses Equation 1 to calculate the vertical vector D and the direction vector ( ⁇ 2A and ⁇ 2B are calculated from the direction vector of the marker M 2 from the lens of the camera 10d and the direction vector of the marker M 3 from the lens of the camera 10d. Since the calculated ⁇ 2A and ⁇ 2B are also established in the camera coordinate system shown in FIG. 14, a vector having an angular relationship with the line-of-sight vector is selected as d 2 .
  • the image composition processing unit 160 is a processing unit that acquires images captured by the cameras 10 a to 10 d from the frame buffer 120, combines the acquired images, and outputs a composite image to the display 170.
  • FIG. 15 is a diagram illustrating an example of an image output by the image composition processing unit 160.
  • the image composition processing unit 160 tilts the image displayed on the display as shown in the upper part of FIG. When there is an error in the rotation angle ⁇ ).
  • the marker position estimation unit 140 converts the marker position of the camera image into a line-of-sight vector (step S103), calculates an angle formed between the line-of-sight vectors (step S104), and uses a marker function M 1 in the vehicle coordinate system using the evaluation function. calculating a ⁇ M 4 (step S105).
  • FIG. 17 is a view for explaining marker division shooting.
  • the calibration apparatus photographs each marker in the order of the areas (1) to (4).
  • the markers 20a to 20f are arranged at the time when the corresponding area is shot. That is, when photographing the area (1), it is not necessary to place a jig in the areas (2) to (3).
  • the calibration apparatus images the area (1) using the cameras 10a and 10d.
  • the marker 20a is arranged in the area (1), and the marker 20a is photographed by the cameras 10a and 10d.
  • the calibration apparatus photographs the area (3) using the cameras 10b and 10c.
  • the markers 20c and 20d are arranged in the area (3), the marker 20c is photographed by the camera 10b, and the marker 20d is photographed by the camera 10c.
  • the calibration apparatus photographs the area (4) using the cameras 10c and 10d.
  • the markers 20e and 20f are arranged in the area (4), the marker 20e is photographed by the cameras 10c and 10d, and the marker 20f is photographed by the camera 10d.
  • the calibration device synthesizes the camera image for each area shown in FIG.
  • FIG. 18 is a diagram for explaining the synthesis of the camera image.
  • the image shown in the upper left of FIG. 18 is an image in which the camera 10a combines an image obtained by photographing the marker 20a in the region (1) and an image obtained by photographing the marker 20b in the region (2).
  • the same image as that obtained when the marker 20a in the region (1) and the marker 20b in the region (2) are simultaneously photographed can be obtained as in the first embodiment.
  • the image shown in the upper right of FIG. 18 is an image in which the camera 10c combines the image obtained by photographing the marker 20d in the region (3) and the image obtained by photographing the marker 20e in the region (4).
  • the same image as when the marker 20d in the region (3) and the marker 20e in the region (4) are simultaneously photographed can be obtained.
  • the image shown in the lower right of FIG. 18 is an image in which the camera 10b combines an image obtained by photographing the marker 20b in the region (2) and an image obtained by photographing the marker 20c and the marker 20d in the region (3).
  • the same image as when the marker 20b in the region (2) and the markers 20c and 20d in the region (3) are simultaneously photographed can be obtained.
  • the image shown in the lower left of FIG. 18 is an image in which the camera 10d combines an image obtained by photographing the marker 20a in the region (1) and an image obtained by photographing the marker 20e and the marker 20f in the region (4).
  • the same image as when the marker 20a in the region (1) and the markers 20e and 20f in the region (4) are simultaneously photographed can be obtained.
  • the calibration apparatus calculates camera angle parameters of the cameras 10a to 10d in the same manner as in the first embodiment.
  • the calibration apparatus according to the second embodiment suffices to capture images in the order of the areas (1) to (4), so that the space required for camera calibration can be further reduced.
  • FIG. 19 is a diagram illustrating the configuration of the calibration apparatus according to the second embodiment. As shown in FIG. 19, a composition processing device 200 is disposed between the cameras 10a to 10d and the calibration device 100. The configuration of the calibration apparatus 100 is the same as that of the calibration apparatus 100 shown in FIG.
  • the composition processing device 200 is a device that synthesizes images taken at different times by the cameras 10a to 10d, and includes subframe buffers 200a to 200h and composition units 210a to 210d.
  • the synthesis processing unit 200 is synchronized by the synchronization control unit 220.
  • the subframe buffer 200a is a storage unit that stores a left half image (an image including the marker 20a in the area (1)) captured by the camera 10a, and the subframe buffer 200b is a right half image captured by the camera 10a. It is a storage unit for storing an image (an image including the marker 20b in the area (2)).
  • the subframe buffer 200c is a storage unit that stores a left half image (an image including the marker 20b in the area (2)) captured by the camera 10b, and the subframe buffer 200d is a right half image captured by the camera 10b. It is a storage unit for storing an image (an image including the markers 20c and 20d in the area (3)).
  • the subframe buffer 200e is a storage unit that stores a left half image (an image including the marker 20d in the region (3)) captured by the camera 10c, and the subframe buffer 200f is a right half image captured by the camera 10c. It is a storage unit for storing an image (an image including the marker 20e in the region (4)).
  • the subframe buffer 200g is a storage unit that stores a left half image (an image including the markers 20e and 20f in the region (4)) captured by the camera 10d, and the subframe buffer 200h is a right image captured by the camera 10d. It is a storage unit for storing a half image (an image including the marker 20a in the region (1)).
  • the synthesizing unit 210a is a processing unit that synthesizes images stored in the subframe buffers 200a and 200b.
  • the image synthesized by the synthesis unit 210a corresponds to, for example, the upper left image in FIG.
  • the combining unit 210a stores the combined image in the frame buffer 120 of the calibration apparatus 100.
  • the combining unit 210b is a processing unit that combines the images stored in the subframe buffers 200c and 200d.
  • the image synthesized by the synthesis unit 210b corresponds to, for example, the lower right image in FIG.
  • the combining unit 210 b stores the combined image in the frame buffer 120 of the calibration apparatus 100.
  • the combining unit 210c is a processing unit that combines the images stored in the subframe buffers 200e and 200f.
  • the image synthesized by the synthesis unit 210c corresponds to, for example, the upper right image in FIG.
  • the combining unit 210c stores the combined image in the frame buffer 120 of the calibration apparatus 100.
  • the combining unit 210d is a processing unit that combines the images stored in the subframe buffers 200g and 200h.
  • the image synthesized by the synthesis unit 210d corresponds to, for example, the lower left image in FIG.
  • the combining unit 210d stores the combined image in the frame buffer 120 of the calibration apparatus 100.
  • each component of each illustrated apparatus is functionally conceptual and does not necessarily need to be physically configured as illustrated.
  • the specific form of distribution / integration of each device is not limited to that shown in the figure, and all or a part thereof may be functionally or physically distributed or arbitrarily distributed in arbitrary units according to various loads or usage conditions. Can be integrated and configured.
  • all or any part of each processing function performed in each device may be realized by a CPU and a program analyzed and executed by the CPU, or may be realized as hardware by wired logic.
  • FIG. 20 is a diagram illustrating a hardware configuration of a computer constituting the calibration apparatus 100 according to the embodiment.
  • the computer (calibration device) 30 includes an input device 31, a display 32, a RAM (Random Access Memory) 33, a ROM (Read Only Memory) 34, and a medium reading device 35 that reads data from a storage medium.
  • a camera 36, a CPU (Central Processing Unit) 37, and an HDD (Hard Disk Drive) 38 are connected by a bus 39. It is assumed that the computer 30 has a camera in addition to the camera 36.
  • the HDD 38 stores a calibration program 38b and an image composition program 38c that exhibit functions similar to the functions of the calibration device 100 described above.
  • the CPU 37 reads out and executes the calibration program 38b and the image composition program 38c, thereby starting the calibration process 37a and the image composition process 37b.
  • the calibration process 37 a corresponds to the marker extraction unit 130, the marker position estimation unit 140, and the camera angle parameter estimation unit 150 shown in FIG. 5, and the image synthesis process 37 b corresponds to the image synthesis processing unit 160. .
  • the HDD 38 stores a camera position parameter 38 a corresponding to information stored in the parameter storage unit 110.
  • the CPU 37 reads out the camera position parameter 38a stored in the HDD 38, stores it in the RAM 33, calculates the camera angle parameter using the camera position parameter 33a stored in the RAM 33 and the image taken by the camera 36, and calculates it. Each image is synthesized using the camera angle parameter and the camera position parameter 38b.
  • the calibration program 38b and the image composition program 38c shown in FIG. 20 are not necessarily stored in the HDD 38 from the beginning.
  • a “portable physical medium” such as a flexible disk (FD), a CD-ROM, a DVD disk, a magneto-optical disk, or an IC card inserted into a computer, or a hard disk drive (HDD) provided inside or outside the computer.
  • the calibration program 38b and the image composition program 38c are connected to the “fixed physical medium” and “other computer (or server)” connected to the computer via the public line, the Internet, LAN, WAN, etc.
  • the computer may read out and execute the calibration program 38b and the image composition program 38c from these.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

　カメラ（１０ａ）とカメラ（１０ｄ）との視野が重複する領域にマーカを配置し、カメラ（１０ａ）とカメラ（１０ｂ）との視野が重複する領域にマーカを配置し、カメラ（１０ｂ）の鉛直下にマーカを配置する。また、カメラ（１０ｂ）とカメラ（１０ｃ）との視野が重複する領域にマーカを配置し、カメラ（１０ｃ）とカメラ（１０ｄ）との視野が重複する領域にマーカを配置し、カメラ（１０ｄ）の鉛直下にマーカを配置する。そして、キャリブレーション装置（１００）は、上記条件で配置されたマーカをカメラ（１０ａ～１０ｄ）で撮影し、撮影した画像内のマーカ座標に基づいて、カメラ角度パラメータを算出する。

Description

カメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラム
　この発明は、移動体に取り付けられたカメラの設置パラメータを算出するカメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラムに関する。
　近年、移動体に取り付けた複数のカメラを用いて移動体の周囲の画像を撮影し、撮影した各画像を鳥瞰図あるいは３６０°パノラマなどに合成して表示する画像表示装置が普及している。この画像表示装置としては、自動車向けの駐車支援装置（アラウンドビューモニタ）等がある。
　なお、この画像表示装置がカメラの撮影した各画像を合成する場合には、各カメラの設置パラメータが必要となる。カメラの設置パラメータには、車両座標系に対する位置（Ｘ座標、Ｙ座標、Ｚ座標）および角度（ロール角、ピッチー角、ヨー角）等が含まれる。
　この設置パラメータのうち、位置に関してはそれほど厳密に求める必要はない（ユーザが計測した初期値を用いればよい）が、角度に関しては、微小な誤差でも最終的な合成画像に与える影響が大きいため、車両に設置したカメラに対するキャリブレーションを実行して、正確なカメラの角度を算出する必要がある。
　上述したカメラの角度を算出する技術に関して、各種の技術が提案されている。例えば、形状が既知のキャリブレーション冶具（校正パターン）を路面上、かつ各カメラの視野のオーバーラップ部分（各カメラの共通撮影領域）の任意の場所に１個ずつ配置し、校正パターンの形状条件に基づいてカメラの設置パラメータを算出する技術が知られている（例えば、特許文献１参照）。この技術で用いられるキャリブレーション冶具は、正方形形状を有し、正方形の一辺は、１ｍ～１．５ｍ程度であり、冶具上の４頂点にそれぞれマーカを有している。
　また、予め、所定の方法でカメラの設置パラメータをいくつか算出しておき、１点の特徴点からなる小型のキャリブレーション冶具を各カメラの共通撮影領域に２個ずつ配置して、１カメラあたり４個のマーカを撮影する条件のもとで、残りの設置パラメータを算出する技術も知られている（例えば、特許文献２参照）。
特開２００８－１８７５６６号公報 特開２００８－１８７５６４号公報
　しかしながら、上述した従来の技術では、狭い空間でカメラのキャリブレーションを実行することができないという問題があった。
　例えば、正方形形状の校正パターンを配置してカメラのキャリブレーションを実行する場合には、サイズが１辺１ｍ～１．５ｍ程度の校正パターンを共通撮影領域に２個以上配置する必要があるため、カメラの設置パラメータを算出するためには、車両設置スペースに加えて、車両周囲にそれぞれ２ｍ～３ｍの空間が必要になる。
　また、小型のキャリブレーション冶具を配置してカメラのキャリブレーションを実行する場合であっても、各カメラの共通撮影領域に、ある程度の間隔をあけて２個のキャリブレーション冶具を配置する必要があるので、結果的に狭い空間でカメラのキャリブレーションを実行することができなくなる。また、かかる技術では、予め、別の方法で設置パラメータの一部を算出しておく必要があり、単独でカメラの設置パラメータを全て算出することが出来ない。
　すなわち、狭い空間であってもカメラのキャリブレーションを実行可能で、正確にカメラの設置パラメータを求めることが重要な課題となっている。
　そこで、この発明は、上述した従来技術の課題を解決するためになされたものであり、狭い空間であってもカメラのキャリブレーションを実行可能で、正確にカメラの設置パラメータを求めることが出来るカメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラムを提供することを目的とする。
　上述した課題を解決し、目的を達成するため、このカメラ角度算出装置は、隣接するカメラの撮影範囲が重なる領域に設置された第１の冶具と、カメラの鉛直下に設置された第２の冶具とを含む画像を取得する画像取得手段と、前記画像取得手段が取得した画像中に含まれる前記第１の冶具および第２の冶具の座標に基づいて前記カメラの角度を算出する角度算出手段とを有することを要件とする。
　このカメラ角度算出装置によれば、隣接するカメラの撮影範囲が重なる領域に設置された第１の冶具と、カメラの鉛直下に設置された第２の冶具とを含む画像を取得し、取得した画像中に含まれる第１の冶具および第２の冶具の座標に基づいてカメラの角度を算出するので、カメラのキャリブレーションを実行する場所を縮小化することが出来ると共に、正確にカメラ角度パラメータを算出することができる。
図１は、カメラの設置パラメータを説明するための図（１）である。 図２は、カメラの設置パラメータを説明するための図（２）である。 図３は、車両に配置されたカメラとマーカとの位置関係を説明するための図である。 図４は、車両に配置されたカメラとマーカとの位置関係を斜めから示した図である。 図５は、本実施例１にかかるキャリブレーション装置の構成を示す図である。 図６は、カメラ位置パラメータのデータ構造の一例を示す図である。 図７は、カメラ角度パラメータのデータ構造の一例を示す図である。 図８は、カメラによって撮影される各画像の一例を示す図である。 図９は、マーカ抽出部のマーカ抽出結果を示す図である。 図１０は、変換テーブルのデータ構造の一例を示す図である。 図１１は、各視線ベクトルの間の角度の算出を説明するための図である。 図１２は、車両座標系におけるカメラの座標およびマーカの座標を示す図である。 図１３は、カメラ角度パラメータ推定部の処理を説明するための図（１）である。 図１４は、カメラ角度パラメータ推定部の処理を説明するための図（２）である。 図１５は、画像合成処理部が出力した画像の一例を示す図である。 図１６は、本実施例１にかかるキャリブレーション装置の処理手順を示すフローチャートである。 図１７は、マーカの分割撮影を説明するための図である。 図１８は、カメラ画像の合成を説明するための図である。 図１９は、本実施例２にかかるキャリブレーション装置の構成を示す図である。 図２０は、実施例にかかるキャリブレーション装置を構成するコンピュータのハードウェア構成を示す図である。
符号の説明
　　１　　車両
　１０ａ，１０ｂ，１０ｃ，１０ｄ，３６　カメラ
　２０ａ，２０ｂ，２０ｃ，２０ｄ，２０ｅ，２０ｆ　マーカ
　３０　　コンピュータ
　３１　　入力装置
　３２，１７０　　ディスプレイ
　３３　　ＲＡＭ
　３３ａ　カメラ位置パラメータ
　３４　　ＲＯＭ
　３５　　媒体読取装置
　３７　　ＣＰＵ
　３７ａ　キャリブレーションプロセス
　３７ｂ　画像合成プロセス
　３８　　ＨＤＤ
　３８ａ　カメラ位置パラメータ
　３８ｂ　キャリブレーションプログラム
　３９　　バス
１００　　キャリブレーション装置
１１０　　パラメータ格納部
１１０ａ　カメラ位置パラメータ
１１０ｂ　カメラ角度パラメータ
１２０　　フレームバッファ
１３０　　マーカ抽出部
１４０　　マーカ位置推定部
１５０　　カメラ角度パラメータ推定部
１６０　　画像合成処理部
２００　　合成処理装置
２００ａ，２００ｂ，２００ｃ，２００ｄ，２００ｅ，２００ｆ，２００ｇ，２００ｈ　サブフレームバッファ
２１０ａ，２１０ｂ，２１０ｃ，２００ｄ　合成部
２２０　　同期制御部
　以下に添付図面を参照して、この発明に係るカメラ角度算出装置の実施例を詳細に説明する。なお、以下に説明する実施例では、カメラ角度算出装置の一例として、キャリブレーション装置を用いて説明する。なお、この実施例により本願発明が限定されるものではない。
　本実施例１にかかるキャリブレーション装置は、車両に設置されたカメラの設置パラメータを算出する場合に、隣接するカメラの撮影範囲が重複する領域に設置されたマーカ（キャリブレーション冶具；以下同様）と、カメラの鉛直下に配置されたマーカとを含む画像を用いることで、カメラ配置に必要な領域の縮小化を可能にすると共に、正確な設置パラメータを算出することを可能にする。
　ここで、カメラの設置パラメータについて説明する。図１および図２は、カメラの設置パラメータを説明するための図である。図１に示すように、カメラ１０ａ～１０ｄの設置パラメータのうち、カメラ１０ａ～１０ｄの設置位置は、車両１を基準とした車両座標系において、座標（ｘ，ｙ，ｚ）で与えられる。なお、本実施例では、カメラ１０ａ～１０ｄの座標を既知とする。以下の説明において、カメラの位置座標をカメラ位置パラメータと表記する。
　図２に示すように、カメラ１０ａ（１０ｂ～１０ｄ）の設置パラメータのうち、カメラ１０ａの角度は、カメラ１０ａの光軸を基準としたカメラ座標系において、カメラ１０ａの光軸周りの回転角φ、カメラの光軸の水平線方向に対する回転角ψ、地面垂直軸まわりの回転角θで与えられる。以下の説明において、カメラの回転角φ、回転角ψ、回転角θをまとめて、カメラ角度パラメータと表記する。
　次に、車両１に設置されたカメラ１０ａ～１０ｄとマーカとの位置関係について説明する。図３は、車両に配置されたカメラとマーカとの位置関係を説明するための図であり、図４は、車両に配置されたカメラとマーカとの位置関係を斜めから示した図である。
　図３に示すように、カメラ１０ａとカメラ１０ｄとの視野（撮影範囲；以下同様）が重複する領域にマーカ２０ａが配置されており、カメラ１０ａとカメラ１０ｂとの視野が重複する領域にマーカ２０ｂが配置されている。そして、カメラ１０ｂの鉛直下（カメラ１０ｂの光学中心＜レンズ位置＞の鉛直下方向）にマーカ２０ｃが配置されている（図４参照）。
　また、図３に示すように、カメラ１０ｂとカメラ１０ｃとの視野が重複する領域にマーカ２０ｄが配置されており、カメラ１０ｃとカメラ１０ｄとの視野が重複する領域にマーカ２０ｅが配置されている。そして、カメラ１０ｄの鉛直下（カメラ１０ｄの光学中心＜レンズ位置＞の鉛直下方向）にマーカ２０ｆが配置されている。なお、車両１、マーカ２０ａ～２０ｆは、水平な平面上に配置されているものとする。
　次に、本実施例１にかかるキャリブレーション装置１００の構成について説明する。このキャリブレーション装置１００は、例えば、車両１内に設置され、カメラ１０ａ～１０ｄに対するカメラ角度パラメータを算出するものとする。図５は、本実施例１にかかるキャリブレーション装置１００の構成を示す図である。図５に示すように、このキャリブレーション装置１００は、パラメータ格納部１１０と、フレームバッファ１２０と、マーカ抽出部１３０と、マーカ位置推定部１４０と、カメラ角度パラメータ推定部１５０と、画像合成処理部１６０と、ディスプレイ１７０とを有する。
　このうち、パラメータ格納部１１０は、キャリブレーション実行時に用いられる各種のデータを記憶する記憶部であり、特に本発明に密接に関連するものとして、カメラ位置パラメータ１１０ａと、カメラ角度パラメータ１１０ｂとを格納する。
　図６は、カメラ位置パラメータ１１０ａのデータ構造の一例を示す図である。図６に示すように、このカメラ位置パラメータ１１０ａは、カメラ識別情報と、カメラの座標とを対応付けて記憶している。例えば、ユーザは、カメラ１０ａ～１０ｄの座標を予め計測し、入力装置（図示略）を用いて、パラメータ格納部１１０にカメラ位置パラメータ１１０ａを格納させる。
　図７は、カメラ角度パラメータ１１０ｂのデータ構造の一例を示す図である。図７に示すように、このカメラ角度パラメータ１１０ｂは、カメラ識別情報と、回転角φ、ψ、θとを対応付けて記憶している。このカメラ角度パラメータ１１０ｂは、カメラ角度パラメータ推定部１５０によって算出される。カメラ角度パラメータ推定部１５０の説明は後述する。
　フレームバッファ１２０は、カメラ１０ａ～１０ｄが撮影した画像を順次記憶する記憶部である。図８は、カメラ１０ａ～１０ｄによって撮影される各画像の一例を示す図である。図８の左上に示すように、カメラ１０ａによって撮影された画像には、マーカ２０ａ、２０ｂが含まれており、図８の右上に示すように、カメラ１０ｃに撮影された画像には、マーカ２０ｄ、２０ｅが含まれている。
　また、図８の左下に示すように、カメラ１０ｄによって撮影された画像には、マーカ２０ｅ、マーカ２０ｆ、マーカ２０ａが含まれており、図８の右下に示すように、カメラ１０ｂに撮影された画像には、マーカ２０ｂ、２０ｃ、２０ｄが含まれている。
　マーカ抽出部１３０は、カメラ１０ａ～１０ｄが撮影した画像データをフレームバッファ１２０から取得し、画像中に含まれるマーカを抽出し、抽出したマーカの画像上の座標を特定する処理部である。画像中に含まれるマーカを抽出する手法はいかなる従来の画像処理技術を用いても構わない。
　図９は、マーカ抽出部１３０のマーカ抽出結果を示す図である。図９に示す画像が、カメラ１０ｂによって撮影されたものとすると、マーカ抽出部１３０は、画像座標軸系において、マーカ２０ｂ、２０ｃ、２０ｄの座標を、Ｐ１、Ｐ２、Ｐ３として抽出する。マーカ抽出部１３０は、カメラ１０ａ、１０ｃ、１０ｃの撮影した画像に対してもマーカの座標（画像座標軸系の座標）を特定する。マーカ抽出部１３０は、特定した各マーカの座標をマーカ位置推定部１４０に出力する。
　なお、マーカ抽出部１３０がマーカの位置を抽出する場合に、抽出が容易となるように発光／点滅するＬＥＤ（Light　Emitting　Diode）等をマーカとして配置してもよく、その際、近傍に同一発光パターンとなる点滅画素集合をまとめてマーカとして認識する機能をマーカ抽出部１３０に設けてもよい。あるいは、マーカ抽出部１３０が、画像をディスプレイ１７０に表示し、ユーザがポインティングデバイスを用いてマーカの画像上の座標を入力することで、マーカ抽出部１３０にマーカの座標を通知してもよい。
　マーカ位置推定部１４０は、マーカ２０ａ～２０ｆの座標（画像座標系の座標）と、カメラ位置パラメータ１１０ａ（図６参照）とを基にして、車両座標系におけるマーカ２０ａ～２０ｆの座標を算出すると共に、車両座標系における各カメラ１０ａ～１０ｄの光軸ベクトルＲと、鉛直ベクトルＤを算出する処理部である。かかる光軸ベクトルおよび鉛直ベクトルを用いることで、カメラ１０ａ～１０ｄのカメラ角度パラメータを算出することができる。
　具体的に、マーカ位置推定部１４０の処理を説明する。まず、マーカ位置推定部１４０は、マーカ２０ａ～２０ｆの座標（画像座標系の座標）と、変換テーブルとを比較して、各座標の視線ベクトルを判定する。ここで、視線ベクトルは、カメラの光学中心とマーカの座標とを結んだ線分の方向ベクトルであり、視線ベクトルの向きは、カメラからマーカへの向きとなる。
　また、変換テーブルは、カメラの撮影した画像上の座標を視線ベクトルに変換するためのテーブルであり、各座標と視線ベクトルとの関係は、カメラとレンズ系との固有値から予め算出されている。この変換テーブルは、マーカ位置推定部１４０が保持しているものとする。図１０は、変換テーブルのデータ構造の一例を示す図である。
　次に、マーカ位置推定部１４０は、カメラ座標系において、各視線ベクトルの間の角度を算出する。図１１は、各視線ベクトルの間の角度の算出を説明するための図である。ここでは一例として、マーカをＰ１～Ｐ３（Ｐ３は、カメラ鉛直下方のマーカ）とし、各マーカの視線ベクトルをｖ１～ｖ３とする。このとき、マーカの視線ベクトル間の成す角度は
arccos（ｖｍ・ｖｎ）・・・（１）
によって算出される。なお、式１に含まれる「・」は、ベクトルの内積である。
　式１を用いることで、カメラ座標系でのＰ１とＰ２とが成す角度α（∠Ｐ１０Ｐ２）、Ｐ１とＰ３とが成す角度をβＡ（∠Ｐ１０Ｐ３）、Ｐ２とＰ３とが成す角度をβＢ（∠Ｐ２０Ｐ３）が、カメラ１０ｄ、カメラ１０ｂによって撮影した画像から算出される。なお、カメラ１０ａ、１０ｃによって撮影される画像には、マーカＰ３が存在しないので、Ｐ１とＰ２とが成す角度αのみ算出される。
　以下の説明において、カメラ１０ａに対応する角度αをα１、カメラ１０ｂに対応する角度αをα２、カメラ１０ｃに対応する角度αをα３、カメラ１０ｄに対応する角度αをα４とする。また、カメラ１０ｂに対応する角度βＡ、βＢをβ２Ａ、β２Ｂとし、カメラ１０ｄに対応する角度βＡ、βＢをβ４Ａ、β４Ｂとする。
　次に、マーカ位置推定部１４０は、評価関数となる
Ｆ（Ｍ１，Ｍ２，Ｍ３，Ｍ４）
＝（α１－∠Ｍ１Ｃ１Ｍ２）２＋（α２－∠Ｍ２Ｃ２Ｍ３）２＋（α３－∠Ｍ３Ｃ３Ｍ４）２＋（α４－∠Ｍ４Ｃ４Ｍ１）２＋＋Ｋ｛（β２Ａ－∠Ｍ２Ｃ２Ｎ２）２＋（β２Ｂ－∠Ｍ３Ｃ２Ｎ２）２＋（β４Ａ－∠Ｍ４Ｃ４Ｎ４）２＋（β４Ｂ－∠Ｍ１Ｃ４Ｎ４）２・・・（２）
を用いて、車両座標軸上におけるマーカ２０ａ～２０ｆの座標Ｍ１～Ｍ４を求める。
　式２において、Ｍ１は、車両座標系におけるマーカ２０ａの座標であり、Ｍ１＝（ｍ１ｘ，ｍ１ｙ，０）とする。Ｍ２は、車両座標系におけるマーカ２０ｂの座標であり、Ｍ２＝（ｍ２ｘ，ｍ２ｙ，０）とする。Ｍ３は、車両座標系におけるマーカ２０ｄの座標であり、Ｍ３＝（ｍ３ｘ，ｍ３ｙ，０）とする。Ｍ４は、車両座標系におけるマーカ２０ｅの座標であり、Ｍ４＝（ｍ４ｘ，ｍ４ｙ，０）とする。
　また、式２において、Ｎ２は、車両座標系におけるマーカ２０ｃの座標であり、Ｎ２＝（ｃ２ｘ，ｃ２ｙ，０）とする。Ｎ４は、車両座標系におけるマーカ２０ｆの座標であり、Ｎ４＝（ｃ４ｘ，ｃ４ｙ，０）とする。ここで、マーカ２０ａ～２０ｆは、地面に配置されているため、Ｍ１～Ｍ４、Ｎ２、Ｎ４のｚ成分は「０」となっている。
　また、式２において、Ｃ１は、車両座標系におけるカメラ１０ａの座標であり、Ｃ１＝（ｃ１ｘ，ｃ１ｙ，ｃ１ｚ）とする。Ｃ２は、車両座標系におけるカメラ１０ｂの座標であり、Ｃ２＝（ｃ２ｘ，ｃ２ｙ，ｃ２ｚ）とする。Ｃ３は、車両座標系におけるカメラ１０ｃの座標であり、Ｃ３＝（ｃ３ｘ，ｃ３ｙ，ｃ３ｚ）とする。Ｃ４は、車両座標系におけるカメラ１０ｄの座標であり、Ｃ４＝（ｃ４ｘ，ｃ４ｙ，ｃ４ｚ）とする。
　ここで、カメラ１０ｂの鉛直下にマーカ２０ｃが配置されているので、Ｃ２とＮ２とのｘ、ｙ成分は等しくなり、カメラ１０ｄの鉛直下にマーカ２０ｆが配置されているので、Ｃ４とＮ４とのｘ、ｙ成分は等しくなる。なお、式２に含まれるＫは定数である。図１２は、車両座標系におけるカメラ１０ａ～１０ｄの座標Ｃ１～Ｃ４およびマーカ２０ａ～２０ｆの座標Ｍ１～Ｍ４、Ｎ２、Ｎ４を示す図である。
　マーカ位置推定部１４０は、式２に示した評価関数Ｆ（Ｍ１，Ｍ２，Ｍ３，Ｍ４）の値が最小になるＭ１～Ｍ４を算出する。例えば、マーカ位置推定部１４０は、Ｍ１～Ｍ４に初期値を与え、周知技術である最急降下法を用いることで、評価関数Ｆ（Ｍ１，Ｍ２，Ｍ３，Ｍ４）の値が０となる（あるいは、０に限りなく近くなる）Ｍ１～Ｍ４を判定することで、Ｍ１～Ｍ４を算出する。なお、式２に含まれるカメラ１０ａ～１０ｄの座標Ｃ１～Ｃ４の値およびＮ２、Ｎ４の値は既知であり、カメラ位置パラメータ１１０ａの値を使用する。
　マーカ位置推定部１４０は、車両座標系におけるマーカ２０ａ～２０ｆの座標Ｍ１～Ｍ４の情報をカメラ角度パラメータ推定部１５０に出力する。
　カメラ角度パラメータ推定部１５０は、マーカ２０ａ～２０ｆの座標Ｍ１～Ｍ４を取得し、取得した座標Ｍ１～Ｍ４に基づいて、カメラ１０ａ～１０ｄのカメラ角度パラメータを算出する処理部である。以下において、カメラ角度パラメータ推定部１５０の処理を具体的に説明する。
　図１３および図１４は、カメラ角度パラメータ推定部１５０の処理を説明するための図である。まず、カメラ角度パラメータ推定部１５０は、カメラ１０ａ～１０ｄの座標Ｍ１～Ｍ４を基にして、車両座標系でのカメラの光軸ベクトルＲｎ（ｎ＝１，２，３，４；図１３参照）と、カメラ座標系における鉛直ベクトルｄｎ（ｎ＝１，２，３，４；図１４参照）を算出する。光軸ベクトルＲ１～Ｒ４はカメラ１０ａ～１０ｄの光軸ベクトルにそれぞれ対応し、鉛直ベクトルｄ１～ｄ４は、カメラ１０ａ～１０ｄの鉛直ベクトルにそれぞれ対応する。
　図１３において、Ｄｎ（ｎ＝１，２，３，４）は、車両座標系における鉛直ベクトルを示す。γｎＡ（ｎ＝１，２，３，４）は、カメラからマーカの座標に向かうベクトルと、光軸ベクトルＲｎとの成す角度を示し、γｎＢ（ｎ＝１，２，３，４）は、カメラからマーカの座標に向かうベクトルと、光軸ベクトルＲｎとの成す角度を示す。例えば、図１３において、カメラ１０ｂに着目すると、γ２Ａは、カメラ１０ｂから座標Ｍ２に向かうベクトルと、光軸ベクトルＲｎとの成す角度を示し、γ２Ｂは、カメラ１０ｂから座標Ｍ３に向かうベクトルと、光軸ベクトルＲｎとの成す角度を示す。
　また、図１３において、βｎＡ（ｎ＝１，２，３，４）は、カメラからマーカの座標に向かうベクトルと、鉛直ベクトルｄｎとの成す角度を示し、βｎＢ（ｎ＝１，２，３，４）は、カメラからマーカの座標に向かうベクトルと、鉛直ベクトルｄｎとの成す角度を示す。例えば、図１３において、カメラ１０ｂに着目すると、β２Ａは、カメラ１０ｂから座標Ｍ２に向かうベクトルと、鉛直ベクトルＤｎとの成す角度を示し、β２Ａは、カメラ１０ｂから座標Ｍ３に向かうベクトルと、鉛直ベクトルＤｎとの成す角度を示す。
　なお、図１３において、車両座標系におけるカメラからマーカの座標に向かうベクトルは、変換テーブル等を用いて、車両座標系におけるマーカの座標から変換される。
　図１４において、ｒｎ（ｎ＝１，２，３，４）は、カメラ座標系でのカメラの光軸ベクトルを示し、γｎＡ（ｎ＝１，２，３，４）は、視線ベクトルｖ１と、光軸ベクトルｒｎとの成す角度を示し、γｎＢ（ｎ＝１，２，３，４）は、視線ベクトルｖ２と、光軸ベクトルｒｎとの成す角度を示す。βｎＡ（ｎ＝１，２，３，４）は、視線ベクトルｖ１と、鉛直ベクトルｄｎとの成す角度を示し、βｎＢ（ｎ＝１，２，３，４）は、視線ベクトルｖ２と、鉛直ベクトルｄｎとの成す角度を示す。
　車両座標軸系のγｎＡ、γｎＢ、βｎＡ、βｎＢは、カメラ座標系のγｎＡ、γｎＢ、βｎＡ、βｎＢと等しい値なる。例えば、図１３のγ２Ａ、γ２Ｂ、β２Ａ、β２Ｂは、図１４のγ２Ａ、γ２Ｂ、β２Ａ、β２Ｂと等しい値となる。以下では、カメラ角度パラメータ推定部１５０が、カメラ１０ｂの光軸ベクトルＲ２、鉛直ベクトルｄ２を算出する場合を例にして説明する。
　図１４において、カメラ座標系の光軸ベクトルはｒ２＝（０，０，－１）で既知であるため、カメラ角度パラメータ推定部１５０は、式１を利用して、光軸ベクトルｒ２と視線ベクトルとからγ２Ａ、γ２Ｂを算出する。算出したγ２Ａ、γ２Ｂは、図１３に示した車両座標系でも成立するので、カメラ１０ｂのレンズからマーカＭ２、Ｍ２の方向ベクトルとγ２Ａ、γ２Ｂの角度関係をもつベクトルの内、適切なものをＲ２として選択する。一般に角度関係を満たすベクトルは２つあるが、カメラと路面との関係から一意に決定することが出来る。
　図１３において、車両座標系の鉛直ベクトルはＤ２＝（０，０，－１）で既知であるため、カメラ角度パラメータ推定部１５０は、式１を利用して、鉛直ベクトルＤと方向ベクトル（カメラ１０ｄのレンズからマーカＭ２の方向ベクトルおよびカメラ１０ｄのレンズからマーカＭ３の方向ベクトル）とからβ２Ａ、β２Ｂを算出する。算出したβ２Ａ、β２Ｂは、図１４に示したカメラ座標系でも成立するので、視線ベクトルとの角度関係をもつベクトルをｄ２として選択する。
　カメラ角度パラメータ推定部１５０は、図１３および図１４に示した手法を用いて、カメラ１０ａ～カメラ１０ｄの光軸ベクトルＲｎ（ｎ＝１，２，３，４）と鉛直ベクトルｄｎ（ｎ＝１，２，３，４）を算出する。なお、カメラ１０ｂ、１０ｄのように、直下にマーカが配置されているケースでは、鉛直ベクトルｄｎは、直下に配置されたマーカに対する視線ベクトルと同一となるので、必ずしも上記手法によって算出する必要はない。
　カメラ角度パラメータ推定部１５０は、カメラ１０ａ～１０ｄの光軸ベクトルＲｎと鉛直ベクトルｄｎとを算出した後に、
θｎ＝arctan２（－Ｒｎｘ，Ｒｎｙ）・・・（３）
ψｎ＝π／２－arccos（（０，０，－１）・Ｒｎ）・・・（４）
φｎ＝－arctan２（ｄｎｘ，－ｄｎｙ）・・・（５）
を用いて、カメラ角度パラメータを算出する。カメラ角度パラメータ推定部１５０は、カメラ角度パラメータを算出した後に、カメラ角度パラメータをパラメータ格納部１１０に格納する。
　画像合成処理部１６０は、カメラ１０ａ～１０ｄの撮影した画像をフレームバッファ１２０から取得し、取得した各画像を合成して合成画像をディスプレイ１７０に出力する処理部である。図１５は、画像合成処理部１６０が出力した画像の一例を示す図である。画像合成処理部１６０は、カメラ角度パラメータの初期値をそのまま利用して、各画像を合成した場合には、図１５の上段に示すように、ディスプレイに表示される画像が傾いてしまう（例えば、回転角φに誤差が発生している場合）。
　そこで、画像合成処理部１６０は、パラメータ格納部１１０に格納されたカメラ角度パラメータ１１０ｂを基にして、カメラ角度パラメータの誤差を補正し、各画像を合成することで、図１５の下段に示すように、合成画像を適切に表示させることが出来る。
　次に、本実施例１にかかるキャリブレーション装置１００の処理手順について説明する。図１６は、本実施例１にかかるキャリブレーション装置１００の処理手順を示すフローチャートである。図１６に示すように、キャリブレーション装置１００は、マーカ抽出部１３０が、各カメラ１０ａ～１０ｄの撮影した画像データを取得し（ステップＳ１０１）、画像内のマーカの位置を抽出する（ステップＳ１０２）。
　マーカ位置推定部１４０は、カメラ画像のマーカ位置を視線ベクトルに変換し（ステップＳ１０３）、視線ベクトル間が成す角度を算出し（ステップＳ１０４）、評価関数を用いて車両座標系のマーカ位置Ｍ１～Ｍ４を算出する（ステップＳ１０５）。
　そして、カメラ角度パラメータ推定部１５０は、車両座標軸系のマーカ位置Ｍ１～Ｍ４に基づいて、車両座標系の光軸ベクトルと、カメラ座標系の鉛直ベクトルとを算出し（ステップＳ１０６）、カメラ角度パラメータ１１０ｂを算出する（ステップＳ１０７）。
　上述してきたように、本実施例１にかかるキャリブレーション装置１００は、隣接するカメラの撮影範囲が重複する領域に設置されたマーカ２０ａ，２０ｂ，２０ｄ，２０ｅと、カメラの鉛直下に配置されたマーカ２０ｃ，２０ｆとを含む画像を用いることで、車両に設置されたカメラ１０ａ～１０ｄのカメラ角度パラメータを算出するので、カメラのキャリブレーションを実行する場所を縮小化することが出来る（マーカの配置領域を狭めることが出来る）と共に、正確にカメラ角度パラメータを算出することができる。
　さて、これまで本発明の実施例について説明したが、本発明は上述した実施例１以外にも種々の異なる形態にて実施されてよいものである。そこで、以下では実施例２として本発明に含まれる他の実施例を説明する。
（１）カメラの鉛直下のマーカについて
　例えば、上記の実施例１では、カメラ１０ｂ，１０ｄの鉛直下にマーカ２０ｃ，２０ｆを配置していたが、本発明はこれに限定されるものではない。ユーザは、マーカ２０ｃ，２０ｆをカメラ１０ｂ，１０ｄの鉛直下に配置する代わりに、カメラ１０ｂ、１０ｄに錘のついた糸を吊るしても良い。このように、錘のついた糸をカメラ１０ｂ、１０ｄに吊るすと、自然に錘がカメラ１０ｂ，１０ｄの鉛直下に移動するので、ユーザにかかる負担を軽減させることが出来る。
（２）マーカの撮影について
　上記の実施例１では、カメラ１０ａ～１０ｄが画像を撮影するタイミングについて言及していなかったが、キャリブレーションに必要なカメラ画像をすべて同時に撮影しなくてもよい。例えば、キャリブレーション装置１００は、撮影範囲を分割して各マーカを撮影した後に各画像を合成することで、実施例１と同様にしてカメラ角度パラメータを算出しても良い。
　図１７は、マーカの分割撮影を説明するための図である。図１７に示すように、キャリブレーション装置は、領域（１）～（４）の順番に各マーカを撮影する。なお、マーカ２０ａ～２０ｆは、該当領域の撮影が行われる時点で配置されるものとする。すなわち、領域（１）の撮影を行っている場合には、領域（２）～（３）に冶具を配置しておかなくてもよい。
　具体的に、キャリブレーション装置は、カメラ１０ａ，１０ｄを用いて領域（１）を撮影する。この撮影の際に、領域（１）にマーカ２０ａが配置され、マーカ２０ａは、カメラ１０ａ，１０ｄに撮影される。
　続いて、キャリブレーション装置は、カメラ１０ａ、１０ｂを用いて領域（２）を撮影する。この撮影の際に、領域（２）にマーカ２０ｂが配置され、マーカ２０ｂは、カメラ１０ａ，１０ｂに撮影される。
　続いて、キャリブレーション装置は、カメラ１０ｂ，１０ｃを用いて領域（３）を撮影する。この撮影の際に、領域（３）にマーカ２０ｃ，２０ｄが配置され、マーカ２０ｃは、カメラ１０ｂに撮影され、マーカ２０ｄは、カメラ１０ｃに撮影される。
　続いて、キャリブレーション装置は、カメラ１０ｃ，１０ｄを用いて領域（４）を撮影する。この撮影の際に、領域（４）にマーカ２０ｅ，２０ｆが配置され、マーカ２０ｅは、カメラ１０ｃ，１０ｄに撮影され、マーカ２０ｆは、カメラ１０ｄに撮影される。
　キャリブレーション装置は、図１７に示した領域毎にカメラの画像を合成する。図１８は、カメラ画像の合成を説明するための図である。図１８の左上に示す画像は、カメラ１０ａが、領域（１）のマーカ２０ａを撮影した画像と、領域（２）のマーカ２０ｂを撮影した画像とを合成した画像である。このように画像を合成することで、実施例１と同様に、領域（１）のマーカ２０ａと領域（２）のマーカ２０ｂを同時に撮影した場合と同じ画像を得ることができる。
　図１８の右上に示す画像は、カメラ１０ｃが、領域（３）のマーカ２０ｄを撮影した画像と、領域（４）のマーカ２０ｅを撮影した画像とを合成した画像である。このように合成することで、実施例１と同様に、領域（３）のマーカ２０ｄと領域（４）のマーカ２０ｅを同時に撮影した場合と同じ画像を得ることが出来る。
　図１８の右下に示す画像は、カメラ１０ｂが、領域（２）のマーカ２０ｂを撮影した画像と、領域（３）のマーカ２０ｃおよびマーカ２０ｄを撮影した画像とを合成した画像である。このように合成することで、実施例１と同様に、領域（２）のマーカ２０ｂと領域（３）のマーカ２０ｃ，２０ｄを同時に撮影した場合と同じ画像を得ることが出来る。
　図１８の左下に示す画像は、カメラ１０ｄが、領域（１）のマーカ２０ａを撮影した画像と、領域（４）のマーカ２０ｅおよびマーカ２０ｆを撮影した画像とを合成した画像である。このように合成することで、実施例１と同様に、領域（１）のマーカ２０ａと、領域（４）のマーカ２０ｅ，２０ｆとを同時に撮影した場合と同じ画像を得ることが出来る。
　図１８に示した各合成画像を作成した後に、キャリブレーション装置は、実施例１と同様にして、カメラ１０ａ～１０ｄのカメラ角度パラメータを算出する。このように、本実施例２にかかるキャリブレーション装置は、領域（１）～（４）の順に画像を撮影すればよいので、カメラのキャリブレーション時に必要となる空間を更に縮小することが出来る。
　次に、図１７および図１８において説明した手法によってカメラ１０ａ～１０ｄのカメラ角度パラメータを算出するキャリブレーション装置の構成について説明する。図１９は、本実施例２にかかるキャリブレーション装置の構成を示す図である。図１９に示すように、カメラ１０ａ～１０ｄと、キャリブレーション装置１００との間に、合成処理装置２００が配置されている。キャリブレーション装置１００の構成は、図５に示したキャリブレーション装置１００と同様である。
　合成処理装置２００は、各カメラ１０ａ～１０ｄが異なる時間に撮影した画像を合成する装置であり、サブフレームバッファ２００ａ～２００ｈと、合成部２１０ａ～２１０ｄとを有する。合成処理部２００は、同期制御部２２０によって同期が取られている。
　サブフレームバッファ２００ａは、カメラ１０ａが撮影した左半分の画像（領域（１）のマーカ２０ａを含んだ画像）を格納する記憶部であり、サブフレームバッファ２００ｂは、カメラ１０ａが撮影した右半分の画像（領域（２）のマーカ２０ｂを含んだ画像）を格納する記憶部である。
　サブフレームバッファ２００ｃは、カメラ１０ｂが撮影した左半分の画像（領域（２）のマーカ２０ｂを含んだ画像）を格納する記憶部であり、サブフレームバッファ２００ｄは、カメラ１０ｂが撮影した右半分の画像（領域（３）のマーカ２０ｃ，２０ｄを含んだ画像）を格納する記憶部である。
　サブフレームバッファ２００ｅは、カメラ１０ｃが撮影した左半分の画像（領域（３）のマーカ２０ｄを含んだ画像）を格納する記憶部であり、サブフレームバッファ２００ｆは、カメラ１０ｃが撮影した右半分の画像（領域（４）のマーカ２０ｅを含んだ画像）を格納する記憶部である。
　サブフレームバッファ２００ｇは、カメラ１０ｄが撮影した左半分の画像（領域（４）のマーカ２０ｅ，２０ｆを含んだ画像）を格納する記憶部であり、サブフレームバッファ２００ｈは、カメラ１０ｄが撮影した右半分の画像（領域（１）のマーカ２０ａを含んだ画像）を格納する記憶部である。
　合成部２１０ａは、サブフレームバッファ２００ａ，２００ｂに格納された画像を合成する処理部である。合成部２１０ａによって合成される画像は、例えば、図１８の左上の画像に対応する。合成部２１０ａは合成した画像をキャリブレーション装置１００のフレームバッファ１２０に格納する。
　合成部２１０ｂは、サブフレームバッファ２００ｃ，２００ｄに格納された画像を合成する処理部である。合成部２１０ｂによって合成される画像は、例えば、図１８の右下の画像に対応する。合成部２１０ｂは合成した画像をキャリブレーション装置１００のフレームバッファ１２０に格納する。
　合成部２１０ｃは、サブフレームバッファ２００ｅ，２００ｆに格納された画像を合成する処理部である。合成部２１０ｃによって合成される画像は、例えば、図１８の右上の画像に対応する。合成部２１０ｃは合成した画像をキャリブレーション装置１００のフレームバッファ１２０に格納する。
　合成部２１０ｄは、サブフレームバッファ２００ｇ，２００ｈに格納された画像を合成する処理部である。合成部２１０ｄによって合成される画像は、例えば、図１８の左下の画像に対応する。合成部２１０ｄは合成した画像をキャリブレーション装置１００のフレームバッファ１２０に格納する。
（３）システム構成等
　また、本実施例において説明した各処理のうち、自動的におこなわれるものとして説明した処理の全部または一部を手動的におこなうこともでき、あるいは、手動的におこなわれるものとして説明した処理の全部または一部を公知の方法で自動的におこなうこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
　また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、ＣＰＵおよび当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
　図２０は、実施例にかかるキャリブレーション装置１００を構成するコンピュータのハードウェア構成を示す図である。図２０に示すように、このコンピュータ（キャリブレーション装置）３０は、入力装置３１、ディスプレイ３２、ＲＡＭ（Random　Access　Memory）３３、ＲＯＭ（Read　Only　Memory）３４、記憶媒体からデータを読み取る媒体読取装置３５、カメラ３６、ＣＰＵ（Central　Processing　Unit）３７、ＨＤＤ（Hard　Disk　Drive）３８をバス３９で接続して構成される。コンピュータ３０は、カメラ３６以外にもカメラを有しているものとする。
　ＨＤＤ３８には、上記したキャリブレーション装置１００の機能と同様の機能を発揮するキャリブレーションプログラム３８ｂおよび画像合成プログラム３８ｃが記憶されている。ＣＰＵ３７がキャリブレーションプログラム３８ｂおよび画像合成プログラム３８ｃを読み出して実行することにより、キャリブレーションプロセス３７ａおよび画像合成プロセス３７ｂが起動される。ここで、キャリブレーションプロセス３７ａは、図５に示した、マーカ抽出部１３０、マーカ位置推定部１４０、カメラ角度パラメータ推定部１５０に対応し、画像合成プロセス３７ｂは、画像合成処理部１６０に対応する。
　また、ＨＤＤ３８は、パラメータ格納部１１０に記憶される情報に対応するカメラ位置パラメータ３８ａを記憶する。ＣＰＵ３７は、ＨＤＤ３８に格納されたカメラ位置パラメータ３８ａを読み出して、ＲＡＭ３３に格納し、ＲＡＭ３３に格納されたカメラ位置パラメータ３３ａおよびカメラ３６に撮影された画像を用いて、カメラ角度パラメータを算出し、算出したカメラ角度パラメータ、カメラ位置パラメータ３８ｂを用いて各画像を合成する。
　ところで、図２０に示したキャリブレーションプログラム３８ｂおよび画像合成プログラム３８ｃは、必ずしも最初からＨＤＤ３８に記憶させておく必要はない。たとえば、コンピュータに挿入されるフレキシブルディスク（ＦＤ）、ＣＤ－ＲＯＭ、ＤＶＤディスク、光磁気ディスク、ＩＣカードなどの「可搬用の物理媒体」、または、コンピュータの内外に備えられるハードディスクドライブ（ＨＤＤ）などの「固定用の物理媒体」、さらには、公衆回線、インターネット、ＬＡＮ、ＷＡＮなどを介してコンピュータに接続される「他のコンピュータ（またはサーバ）」などにキャリブレーションプログラム３８ｂおよび画像合成プログラム３８ｃを記憶しておき、コンピュータがこれらからキャリブレーションプログラム３８ｂおよび画像合成プログラム３８ｃを読み出して実行するようにしてもよい。

Claims (9)

  1. 　隣接するカメラの撮影範囲が重なる領域に設置された第１の冶具と、カメラの鉛直下に設置された第２の冶具とを含む画像を取得する画像取得手段と、
    　前記画像取得手段が取得した画像中に含まれる前記第１の冶具および第２の冶具の座標に基づいて前記カメラの角度を算出する角度算出手段と
    　を有するカメラ角度算出装置。
  2. 　隣接するカメラが撮影する前記第１の冶具は同一の冶具である請求項１に記載のカメラ角度算出装置。
  3. 　前記カメラ毎に異なる時間に撮影された画像を記憶装置に記憶し、当該記憶装置に記憶された各画像を合成する画像合成手段を更に有し、前記画像取得手段は、前記画像合成手段に合成された画像を取得する請求項１または２に記載のカメラ角度算出装置。
  4. 　カメラ角度算出装置が、
    　隣接するカメラの撮影範囲が重なる領域に設置された第１の冶具と、カメラの鉛直下に設置された第２の冶具とを含む画像を取得して記憶装置に記憶する画像取得ステップと、
    　前記記憶装置に記憶された画像中に含まれる前記第１の冶具および第２の冶具の座標に基づいて前記カメラの角度を算出する角度算出ステップと
    　を含んだカメラ角度算出方法。
  5. 　隣接するカメラが撮影する前記第１の冶具は同一の冶具である請求項４に記載のカメラ角度算出方法。
  6. 　前記カメラ毎に異なる時間に撮影された画像を記憶装置に記憶し、当該記憶装置に記憶された各画像を合成する画像合成ステップを更に有し、前記画像取得ステップは、前記画像合成ステップにおいて合成された画像を記憶装置から取得する請求項４または５に記載のカメラ角度算出方法。
  7. 　コンピュータに、
    　隣接するカメラの撮影範囲が重なる領域に設置された第１の冶具と、カメラの鉛直下に設置された第２の冶具とを含む画像を取得して記憶装置に記憶する画像取得手順と、
    　前記記憶装置に記憶された画像中に含まれる前記第１の冶具および第２の冶具の座標に基づいて前記カメラの角度を算出する角度算出手順と
    　を実行させるカメラ角度算出プログラム。
  8. 　隣接するカメラが撮影する前記第１の冶具は同一の冶具である請求項７に記載のカメラ角度算出プログラム。
  9. 　前記カメラ毎に異なる時間に撮影された画像を記憶装置に記憶し、当該記憶装置に記憶された各画像を合成する画像合成手順を更にコンピュータに実行させ、前記画像取得手順は、前記画像合成手順において合成された画像を記憶装置から取得する請求項７または８に記載のカメラ角度算出プログラム。
PCT/JP2008/070135 2008-11-05 2008-11-05 カメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラム WO2010052772A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010536608A JP5387580B2 (ja) 2008-11-05 2008-11-05 カメラ角度算出装置およびカメラ角度算出方法
PCT/JP2008/070135 WO2010052772A1 (ja) 2008-11-05 2008-11-05 カメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラム
US13/064,690 US8537199B2 (en) 2008-11-05 2011-04-08 Camera calibration device and method by computing coordinates of jigs in a vehicle system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2008/070135 WO2010052772A1 (ja) 2008-11-05 2008-11-05 カメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US13/064,690 Continuation US8537199B2 (en) 2008-11-05 2011-04-08 Camera calibration device and method by computing coordinates of jigs in a vehicle system

Publications (1)

Publication Number Publication Date
WO2010052772A1 true WO2010052772A1 (ja) 2010-05-14

Family

ID=42152588

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2008/070135 WO2010052772A1 (ja) 2008-11-05 2008-11-05 カメラ角度算出装置、カメラ角度算出方法およびカメラ角度算出プログラム

Country Status (3)

Country Link
US (1) US8537199B2 (ja)
JP (1) JP5387580B2 (ja)
WO (1) WO2010052772A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013092871A (ja) * 2011-10-25 2013-05-16 Secom Co Ltd カメラ姿勢算出装置
WO2015079980A1 (ja) * 2013-11-29 2015-06-04 クラリオン株式会社 カメラ校正装置

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4690476B2 (ja) * 2009-03-31 2011-06-01 アイシン精機株式会社 車載カメラの校正装置
US20170186223A1 (en) * 2015-12-23 2017-06-29 Intel Corporation Detection of shadow regions in image depth data caused by multiple image sensors
WO2018143064A1 (ja) * 2017-01-31 2018-08-09 パナソニックＩｐマネジメント株式会社 車載カメラ
US11004567B2 (en) 2017-08-15 2021-05-11 Koko Home, Inc. System and method for processing wireless backscattered signal using artificial intelligence processing for activities of daily life
JP2019092002A (ja) * 2017-11-13 2019-06-13 ヤマハ発動機株式会社 船舶用俯瞰画像生成装置およびそのキャリブレーション方法
US11997455B2 (en) 2019-02-11 2024-05-28 Koko Home, Inc. System and method for processing multi-directional signals and feedback to a user to improve sleep
US10810850B2 (en) 2019-02-19 2020-10-20 Koko Home, Inc. System and method for state identity of a user and initiating feedback using multiple sources
US11971503B2 (en) 2019-02-19 2024-04-30 Koko Home, Inc. System and method for determining user activities using multiple sources
KR20200126540A (ko) * 2019-04-30 2020-11-09 주식회사 만도 카메라 보정 시스템 및 그 방법
US11719804B2 (en) 2019-09-30 2023-08-08 Koko Home, Inc. System and method for determining user activities using artificial intelligence processing
US11240635B1 (en) * 2020-04-03 2022-02-01 Koko Home, Inc. System and method for processing using multi-core processors, signals, and AI processors from multiple sources to create a spatial map of selected region
US11184738B1 (en) 2020-04-10 2021-11-23 Koko Home, Inc. System and method for processing using multi core processors, signals, and AI processors from multiple sources to create a spatial heat map of selected region

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135765A (ja) * 1998-07-31 2002-05-10 Matsushita Electric Ind Co Ltd カメラキャリブレーション指示装置及びカメラキャリブレーション装置
JP2004004043A (ja) * 2002-04-22 2004-01-08 Matsushita Electric Ind Co Ltd カメラ補正装置
JP2005217889A (ja) * 2004-01-30 2005-08-11 Toyota Industries Corp 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法
JP2008187564A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
JP2008187566A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1115250B1 (en) 1998-07-31 2012-06-06 Panasonic Corporation Method and apparatus for displaying image
GB9903638D0 (en) * 1999-02-17 1999-04-07 European Community A measurement method and measurement apparatus
US6919880B2 (en) * 2001-06-01 2005-07-19 Smart Technologies Inc. Calibrating camera offsets to facilitate object position determination using triangulation
KR100450954B1 (ko) * 2002-06-12 2004-10-02 삼성전자주식회사 전세계위치확인 시스템에서 최적 위성의 선택방법 및 장치
US7818127B1 (en) * 2004-06-18 2010-10-19 Geneva Aerospace, Inc. Collision avoidance for vehicle control systems
FR2872928B1 (fr) * 2004-07-12 2006-09-15 Giat Ind Sa Procede de guidage et/ou pilotage d'un projectile et dispositif de guidage et/ou pilotage mettant en oeuvre un tel procede

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135765A (ja) * 1998-07-31 2002-05-10 Matsushita Electric Ind Co Ltd カメラキャリブレーション指示装置及びカメラキャリブレーション装置
JP2004004043A (ja) * 2002-04-22 2004-01-08 Matsushita Electric Ind Co Ltd カメラ補正装置
JP2005217889A (ja) * 2004-01-30 2005-08-11 Toyota Industries Corp 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法
JP2008187564A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
JP2008187566A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013092871A (ja) * 2011-10-25 2013-05-16 Secom Co Ltd カメラ姿勢算出装置
WO2015079980A1 (ja) * 2013-11-29 2015-06-04 クラリオン株式会社 カメラ校正装置
JP2015106785A (ja) * 2013-11-29 2015-06-08 クラリオン株式会社 カメラ校正装置
US10192309B2 (en) 2013-11-29 2019-01-29 Clarion Co., Ltd. Camera calibration device

Also Published As

Publication number Publication date
US8537199B2 (en) 2013-09-17
JPWO2010052772A1 (ja) 2012-03-29
US20110187816A1 (en) 2011-08-04
JP5387580B2 (ja) 2014-01-15

Similar Documents

Publication Publication Date Title
JP5387580B2 (ja) カメラ角度算出装置およびカメラ角度算出方法
EP2615580B1 (en) Automatic scene calibration
JP5580164B2 (ja) 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム
WO2017120776A1 (en) Calibration method and apparatus for panoramic stereo video system
JP5872923B2 (ja) Ａｒ画像処理装置及び方法
JP2011244058A5 (ja)
CN108876714A (zh) 图像捕获装置、信息处理装置和图像处理方法
US9881377B2 (en) Apparatus and method for determining the distinct location of an image-recording camera
JP2008204384A (ja) 撮像装置、物体検出方法及び姿勢パラメータの算出方法
CN107710728A (zh) 全球面视频成像***和计算机可读记录介质
US20210120194A1 (en) Temperature measurement processing method and apparatus, and thermal imaging device
WO2018235300A1 (ja) 物体検知装置、物体検知方法、及びコンピュータ読み取り可能な記録媒体
CN105100600A (zh) 用于全景可视***中的自动校准的方法和装置
CN106296646B (zh) Avm***的公差校正装置、方法及其记录介质
KR20140048539A (ko) 차량의 주변영상을 이용한 객체 인식장치 및 방법
JP2010086267A (ja) 車両用画像処理装置
KR20130121290A (ko) 회전식 라인 카메라로 획득한 실내 전방위 영상의 지오레퍼런싱 방법
JP5369873B2 (ja) 判定プログラムおよびキャリブレーション装置
JP6879375B2 (ja) 情報処理装置、長さ測定システム、長さ測定方法およびコンピュータプログラム
CN106447735A (zh) 一种全景相机几何标定处理方法
JP2011155412A (ja) 投影システムおよび投影システムにおける歪み修正方法
JP2011097284A (ja) 監視装置
JP2009294109A (ja) キャリブレーション装置
JP2011228857A (ja) 車載カメラ用キャリブレーション装置
JP2019009643A (ja) 画像処理装置、画像処理方法およびプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 08877967

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2010536608

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 08877967

Country of ref document: EP

Kind code of ref document: A1