WO2014050415A1 - 画像投影システムおよび投影位置調整方法 - Google Patents

画像投影システムおよび投影位置調整方法 Download PDF

Info

Publication number
WO2014050415A1
WO2014050415A1 PCT/JP2013/073030 JP2013073030W WO2014050415A1 WO 2014050415 A1 WO2014050415 A1 WO 2014050415A1 JP 2013073030 W JP2013073030 W JP 2013073030W WO 2014050415 A1 WO2014050415 A1 WO 2014050415A1
Authority
WO
WIPO (PCT)
Prior art keywords
projection
image
screen
lens
distortion
Prior art date
Application number
PCT/JP2013/073030
Other languages
English (en)
French (fr)
Inventor
百代 長瀬
古木 一朗
信浩 木村
古賀 宗典
Original Assignee
三菱電機株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 三菱電機株式会社 filed Critical 三菱電機株式会社
Publication of WO2014050415A1 publication Critical patent/WO2014050415A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3147Multi-projection systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Definitions

  • the present invention relates to a stacking type image projection system and a projection position adjustment method for displaying a plurality of projection images projected from a plurality of projectors on a screen.
  • Patent Documents 1 and 2 as techniques for automatically aligning the positions of projection images of a plurality of projectors.
  • a parameter for correcting the positional deviation of the projection area of each projector with respect to the screen and the distortion caused by the projection angle of each projector with respect to the screen is calculated, and the projected image is deformed based on this parameter. Therefore, the projection images of multiple projectors were combined.
  • Patent Document 2 an inspection pattern projected on a screen is imaged, a positional deviation is detected from the captured image, and the positional deviation is corrected optically and mechanically.
  • the present invention has been made in order to solve the above-described problems.
  • the image quality (resolution) of the projection image is not reduced as much as possible.
  • Another object is to perform pixel alignment with high accuracy.
  • An image projection system includes a display element that displays an image, a projection lens that projects the display of the display element onto a screen, and a position and size of a projected image on the screen by moving the position of the projection lens according to a lens driving command
  • a plurality of lens drive units that correct one or both of the projection region correction unit and a projection region correction unit that deforms an image displayed on the display element according to a projection region correction command and corrects distortion of the projected image on the screen.
  • a projector an imaging device that captures a screen in a state where a plurality of projection images are projected from the plurality of projectors, and a screen and a plurality of projection images based on the screen and the plurality of projection images that are captured in the captured image captured by the imaging device; Command for moving the projection lens so that the And calculates the projection area correction command for deforming the image displayed on the display device so that a plurality of projection images overlap, in which and a projection position adjustment device for transmitting to a plurality of projectors.
  • a screen is captured in a state in which a plurality of projection images are projected from a plurality of projectors, and the screen and the plurality of projection images are displayed based on the screen and the plurality of projection images reflected in the captured image.
  • Multiple projections deformed on the image displayed on the screen and projected onto the screen through the projection lens In which and a projection area correction step of correcting the distortion of the.
  • the method of adjusting the position and size of the projection image by moving the position of the projection lens of the projector, and the image to be displayed on the display element of the projector since the projection image is adjusted by performing both the deformation method and the method for correcting the distortion of the projection image, the image can be adjusted with high accuracy without degrading the image quality (resolution) of the projection image as much as possible.
  • a projection system can be provided.
  • the position and size of the projection image are adjusted by moving the position of the projection lens of the projector, and then displayed on the display element of the projector. Since the image to be deformed is corrected to correct the distortion of the projected image, the amount of deformation of the image can be reduced, and pixel alignment is performed with high accuracy without reducing the image quality (resolution) of the projected image as much as possible.
  • a projection position adjusting method can be provided.
  • FIGS. 5A and 5B are diagrams for explaining types of displacement between a screen and a projected image.
  • FIGS. 5A and 5B show positional displacement
  • FIG. 5C and 9 show lens distortion
  • FIG. 6 is a flowchart showing an operation of the projection position adjusting apparatus according to the first embodiment. It is a flowchart explaining the setting process of the screen shown in FIG. It is a flowchart explaining the calculation process of the projection lens center position shown in FIG. 7 is a flowchart illustrating a rough adjustment process of a projected image position / size shown in FIG. 6. It is a figure explaining the process which calculates the shift
  • FIG.15 (a) shows the projector display element before correction
  • FIG.15 (b) shows the projector display after correction
  • FIG. 15C shows the element
  • FIG. 15D shows the projection image at that time.
  • FIG. 1 is a block diagram showing the configuration of the image projection system according to the first embodiment.
  • FIG. 2 is a perspective view showing an installation example of the digital camera 2 and the projectors 4 and 5 with respect to the screen in the image projection system according to the first embodiment.
  • the image projection system according to the first embodiment includes two projectors 4 and 5 that project an image on a screen, and images (projections) that the projectors 4 and 5 project onto the screen.
  • a projection position adjustment apparatus 1 that adjusts the position and distortion of the image
  • an image signal distributor 3 that distributes an image signal output from the projection position adjustment apparatus 1 to the projectors 4 and 5, and a digital that captures a scene including a screen.
  • a camera (imaging device) 2 a display 6 that displays information output from the projection position adjustment device 1, and an input device 7 that receives a user input operation are provided.
  • the projection position adjusting apparatus 1 receives a captured image of a scene from the digital camera 2, detects misalignment and distortion of each projected image of the projectors 4 and 5 with respect to the screen from the captured image, and performs various corrections for correcting them.
  • the command is calculated and transmitted to the projectors 4 and 5.
  • the projection position adjusting apparatus 1 transmits an image signal (or video signal) to be projected on the screen to the image signal distributor 3.
  • the projection position adjusting device 1 transmits information such as a captured image received from the digital camera 2 to the display 6 and receives a user input operation from the input device 7.
  • the digital camera 2 captures a scene including a screen in accordance with the imaging command transmitted from the projection position adjustment apparatus 1 and transmits the captured image to the projection position adjustment apparatus 1.
  • the image signal distributor 3 duplicates the image signal transmitted from the projection position adjusting device 1 and transmits it to each of the two projectors 4 and 5.
  • the projector 4 receives the image signal from the image signal distributor 3 and projects it on the display element, and enlarges it through the projection lens and projects it onto the screen.
  • the projector 4 receives various commands for adjusting misalignment and distortion of the projected image from the projection position adjusting apparatus 1, and mechanically adjusts the position of the projection lens based on these commands, and on the display element.
  • the projection range is electrically deformed and projected onto the screen.
  • the projector 5 is the same as the projector 4.
  • the display 6 receives the captured image of the digital camera 2 and other information from the projection position adjusting apparatus 1 and displays it on the screen to present it to the user.
  • the input device 7 includes a keyboard and a mouse, and receives a user operation and transmits it to the projection position adjusting device 1.
  • FIG. 3 is a block diagram showing an internal configuration of the projection position adjusting apparatus 1.
  • the control command transmission unit 11 transmits various commands to the projectors 4 and 5.
  • the projector display processing unit 12 generates display contents to be projected on the projectors 4 and 5 and transmits the display contents.
  • the pattern image display control unit 121 receives the pattern image generated by the uniform white image generation unit 122 or the gray code generation unit 123 and transmits the pattern image to the image signal distributor 3.
  • the uniform white image generation unit 122 generates an image whose entire surface is white.
  • the gray code generation unit 123 generates an image in which the gray code is visualized in white and black in the horizontal direction or the vertical direction.
  • the display display processing unit 13 performs processing for generating display contents to be displayed on the display 6 and designating a screen area from the captured image of the digital camera 2.
  • the camera image display control unit 131 receives a captured image of the digital camera 2 from a camera signal transmission / reception unit 141 described later, and transmits it to the display 6.
  • the screen position designation unit 132 receives position information of the four corners of the screen from the input device 7. Convert to coordinates on the captured image.
  • the screen position storage unit 133 stores the coordinates of the four corners of the screen calculated by the screen position specifying unit 132.
  • the camera image processing unit 14 performs an imaging instruction to the digital camera 2 and processing of the captured image.
  • the camera signal transmission / reception unit 141 transmits an imaging command that instructs the digital camera 2 to perform imaging and receives a captured image.
  • the corner detection unit 142 performs image processing on the captured image, and calculates the coordinates of the four corners of the projected image projected from the projectors 4 and 5 onto the screen.
  • the area calculation unit 143 calculates the area of the projected image and the area of the screen from the captured image.
  • the control command calculation unit 15 uses, from various data, a positional deviation correction command for correcting the horizontal and vertical positional deviations of the projected image with respect to the screen, a size deviation correction command for adjusting the difference in the size of the projected image with respect to the screen, and the projection
  • a lens distortion correction command for correcting the distortion of the projection image caused by the distortion of the lens and a projection angle distortion correction command for correcting the distortion of the projection image caused by the deviation of the projection angle are calculated.
  • the positional deviation correction command and the size deviation correction command are commands for moving the position of the projection lens, and are collectively referred to as a lens driving command.
  • the lens distortion correction command and the projection angle distortion correction command are commands for deforming an image signal to be displayed on the display element, and are collectively referred to as a projection area correction command.
  • the projective transformation formula calculation unit 151 calculates a projective transformation formula between coordinate systems from the correspondence of four or more points.
  • the projection conversion unit 152 converts a point in one coordinate system into a point in another coordinate system using the projection conversion formula calculated by the projection conversion formula calculation unit 151.
  • the lens distortion correction simulation unit 153 uses the center position of the projection lens and the distortion strength k to determine the position of each pixel of the projection image on the display element when the projection lens has a distortion of the intensity k. Simulate.
  • the error evaluation unit (lens distortion calculation unit) 154 calculates a mean square error between the given point groups, and calculates a lens distortion correction command from the intensity k when the error is the smallest.
  • the corner position determination unit 155 determines whether the screen is inside the captured image from the positional relationship between the coordinates of the four corners of the screen on the captured image and the coordinates of the four corners of the projected image.
  • the lens position storage unit 156 stores the projection lens center position of the projectors 4 and 5 in the screen coordinate system.
  • An area ratio look-up table (hereinafter referred to as LUT) storage unit 157 stores the correspondence between the area ratio of the screen and the projected image and an appropriate size deviation correction command in a look-up table format.
  • the horizontal / vertical movement LUT storage unit 158 stores the correspondence between the amount of deviation of the projected image with respect to the screen and an appropriate position deviation correction command in a lookup table format.
  • the pixel correspondence storage unit 159 stores the correspondence between the display element of the projector 4 and the image sensor of the digital camera 2 and the correspondence between the display element of the projector 5 and the image sensor of the digital camera 2 in units of one pixel.
  • the correspondence calculation unit 160 obtains the correspondence between the display element of the projector 4 and the image sensor of the digital camera 2 and the correspondence between the display element of the projector 5 and the image sensor of the digital camera 2 in units of pixels, and stores the corresponding pixels.
  • the data is stored in the unit 159.
  • the positional deviation calculation unit 161 calculates a deviation amount of the projected image with respect to the screen, and acquires a positional deviation correction command corresponding to the deviation amount from the horizontal / vertical movement LUT storage unit 158.
  • the projection angle distortion calculation unit 162 calculates the projection angle distortion of the projection image on the screen, and calculates a projection angle distortion correction command for correcting this distortion.
  • the size deviation calculation unit 163 calculates the area ratio between the screen and the projection image, and acquires a size deviation correction command corresponding to the area ratio from the area ratio LUT storage unit 157.
  • FIG. 4 is a block diagram showing the internal configuration of the projector 4. Since the internal configuration of the projector 4 is the same as the internal configuration of the projector 5, the illustration and description of the internal configuration of the projector 5 are omitted.
  • control command receiving unit 41 receives various lens distortion correction commands transmitted from the control command transmitting unit 11 of the projection position adjusting apparatus 1.
  • the projection image receiving unit 42 receives an image signal from the image signal distributor 3.
  • the lens driving unit 43 receives a lens driving command (including one or both of a positional deviation correction command and a size deviation correction command) from the control command receiving unit 41, and moves the projection lens of the projector 4 in three axial directions. Move to.
  • the three-axis direction is a projection optical axis direction and a two-axis direction (horizontal direction and vertical direction) on a plane orthogonal to the projection optical axis.
  • the projection size deviation correction unit 431 moves the projection lens in the direction of the projection optical axis in accordance with the size deviation correction command, and adjusts the size of the projection image projected on the screen.
  • the positional deviation correction unit 432 adjusts the position of the projected image projected on the screen by moving the projection lens in the horizontal and vertical directions in accordance with the positional deviation correction command.
  • FIG. 5 shows the types of deviation between the screen and the projected image.
  • the horizontal / vertical position shift refers to a state in which there is a shift between the position of the projected image projected by the projector 4 and the position of the screen.
  • the projection size deviation refers to a state in which a deviation occurs between the size of the projected image projected by the projector 4 and the size of the screen.
  • a projection area correction unit 44 receives a projection area correction command (including one or both of a lens distortion correction command and a projection angle distortion correction command) from the control command reception unit 41 and distributes an image signal.
  • the image signal is received from the device 3, and the image signal is electrically deformed in accordance with the projection area correction command.
  • the lens distortion correction unit 441 deforms the four sides of the image signal displayed on the display element into an arcuate shape in accordance with the lens distortion correction command, and corrects a deviation (lens distortion) caused by the distortion of the projection lens of the projector 4.
  • the lens distortion correction unit 441 deforms an image signal to be displayed on the display element, for example, by calculating an arithmetic expression using the distortion intensity k of the projection lens included in the lens distortion correction command as a parameter.
  • the projection angle distortion correction unit 442 deforms the positions of the four corners of the image signal so as to move inward in the image, and the optical axis of the projector 4 does not face the screen surface ( Correct distortion caused by non-orthogonal).
  • the lens distortion refers to a state in which distortion is generated on the four sides of the projection image projected by the projector 4 with respect to the rectangular screen as shown in FIG.
  • a pincushion type distortion is generated in which the four sides of the projected image are distorted inward with respect to the four sides of the screen.
  • a distorted barrel-shaped distortion may occur.
  • the projection angle distortion refers to a state in which a projection image projected by the projector 4 is distorted into a trapezoidal shape with respect to a rectangular screen.
  • the lens position storage unit 45 stores the current position of the projection lens on the display element of the projector 4, that is, the position of the projection lens in the projector coordinate system.
  • the projection unit 46 includes a display element and the like, and projects the image signal corrected by the projection region correction unit 44 onto the screen.
  • the projection position adjusting device 1 sets the position of the screen on the captured image (camera coordinate system) (step ST1), and then calculates the center position of the projection lenses of the projectors 4 and 5 in the screen coordinate system (step ST1). Step ST2). Subsequently, the projection position adjusting device 1 instructs the projectors 4 and 5 to move the position of the projection lens, thereby roughly adjusting the position and size of the projected image with respect to the screen (step ST3), and then the projection position adjusting device.
  • step ST4 instructs the projectors 4 and 5 to correct the distortion of the projection image caused by the distortion of the projection lens.
  • the projection position adjusting device 1 instructs the projectors 4 and 5 to accurately match the position and size of the projected image with respect to the screen (step ST5), and finally correct the distortion of the projection angle (step ST6).
  • FIG. 7 is a flowchart for explaining the screen setting process (step ST1) shown in FIG.
  • the projection position adjusting apparatus 1 first, an imaging command is transmitted from the camera signal transmission / reception unit 141 to the digital camera 2, and the digital camera 2 captures a screen to acquire a captured image (step ST101).
  • the captured image is transmitted and displayed on the display 6 by the camera signal transmission / reception unit 141 (step ST102).
  • the user designates the positions of the four corners of the screen by moving the cursor of the mouse (input device 7) to the four corners of the screen on the captured image displayed on the display 6 and clicking.
  • the screen position designation unit 132 acquires the mouse click coordinate position input from the input device 7 and uses it as the coordinates of the four corners of the screen on the captured image.
  • the projective transformation formula calculation unit 151 generates a projective transformation matrix (screen-camera coordinate transformation formula; S ⁇ C transformation formula) between the coordinates of the four corners of the screen on the captured image and the screen rectangle (step ST105).
  • the screen rectangle is information representing the actual size of the screen.
  • the screen position storage unit 133 stores the coordinates of the four corners of the screen on the captured image calculated by the screen position specifying unit 132 and the S ⁇ C conversion formula generated by the projection conversion formula calculation unit 151 (step ST106).
  • FIG. 8 is a flowchart for explaining the calculation processing (step ST2) of the projection lens center position shown in FIG.
  • a lens position acquisition command is transmitted from the control command transmission unit 11 to the projector 4, and the control command reception unit 41 that has received this command stores the projection lens stored in the lens position storage unit 45.
  • the current center position is acquired and returned to the projection position adjusting apparatus 1 (step ST202).
  • the uniform white image generation unit 122 generates a uniform white pattern image and transmits it from the pattern image display control unit 121 to the projector 4 via the image signal distributor 3, and the projector 4 displays the pattern image on the screen. Is projected (step ST203).
  • the camera signal transmission / reception unit 141 transmits an imaging command to the digital camera 2, and acquires a captured image obtained by imaging the screen on which the pattern image is projected (step ST204).
  • the corner detection unit 142 detects the coordinates of the four corners of the projection image (pattern image) in the acquired captured image (step ST205), and the projective transformation equation calculation unit 151 detects the coordinates of the four corners of the projection image and the projector projection.
  • a projection transformation matrix (projector-camera coordinate transformation formula; P ⁇ C transformation formula) with the image rectangle is generated (step ST206).
  • the projector projection image rectangle is information indicating the number of pixels (resolution) in the vertical and horizontal directions of the display elements of the projectors 4 and 5.
  • Projection conversion unit 152 converts the projection lens center position of the projector coordinate system acquired in step ST202 into a camera coordinate system using the P ⁇ C conversion formula (step ST207), and is further stored in screen position storage unit 133. Conversion to the screen coordinate system is performed using the S ⁇ C conversion formula (step ST208). The coordinates of the projection lens center position in the converted screen coordinate system are stored in the lens position storage unit 156 as the target lens center position of the projector 4 (step ST209).
  • the projection position adjusting apparatus 1 finishes the processes of steps ST201 to ST209 for the projector 4, it performs the same process for the projector 5 and stores the target lens center position of the projector 5 in the lens position storage unit 156.
  • FIG. 9 is a flowchart illustrating the rough adjustment processing (step ST3) of the projected image position / size shown in FIG.
  • the area calculation unit 143 acquires the coordinates of the four corners of the screen on the captured image stored in the screen position storage unit 133, and the area of a quadrangle surrounded by the coordinates of the four corners ( That is, the screen area is obtained (step ST301).
  • the uniform white image generation unit 122 generates a uniform white pattern image, transmits the pattern image display control unit 121 to the projector 4 via the image signal distributor 3, and the projector 4 projects the pattern image on the screen. (Step ST303). Thereafter, the camera signal transmission / reception unit 141 transmits an imaging command to the digital camera 2 to acquire a captured image obtained by imaging the screen on which the pattern image is projected (step ST304).
  • the area calculation unit 143 extracts a region of the projected image (pattern image) in the captured image acquired in step ST304, and calculates the projected image area based on the extracted number of pixels (step ST305).
  • the projected image area may be calculated from the coordinates of the four corners of the projected image in the captured image without being limited to the method of calculating the projected image area from the number of pixels.
  • a corresponding appropriate size deviation correction command is acquired from the area ratio LUT storage unit 157 (step ST307).
  • control command transmission unit 11 transmits a lens position acquisition command to the projector 4, and the control command reception unit 41 that has received this command acquires the current center position of the projection lens stored in the lens position storage unit 45. Then, it is returned to the projection position adjusting apparatus 1 (step ST308). In subsequent step ST309, a deviation d between the acquired current projection lens center position and the target lens center position stored in the lens position storage unit 156 is calculated.
  • FIG. 10 is a diagram for explaining the process of calculating the lens center position shift d (step ST309).
  • the projective transformation unit 152 acquires the target lens center position of the screen coordinate system stored in the lens position storage unit 156 (FIG. 10A), and uses the previously obtained S ⁇ C conversion formula to obtain the camera coordinate system. (FIG. 10B), and further converted into the projector coordinate system using the C ⁇ P conversion formula (FIG. 10C).
  • the positional deviation calculation unit 161 compares the projection lens center position of the projector coordinate system calculated by the projection conversion unit 152 with the target lens center position of the projector coordinate system stored in the lens position storage unit 156, so that the projector 4, the deviation d of the current projection lens center position with respect to the target lens center position is obtained (FIG. 10C).
  • the target lens center position in the screen coordinate system is converted into the camera coordinate system using the S ⁇ C conversion formula
  • the current projection lens center position in the projector coordinate system is converted into the camera coordinate system using the C ⁇ P conversion formula. Conversion may be performed to obtain a deviation d between the target lens center position and the current projection lens center position in the camera coordinate system.
  • the positional deviation calculation unit 161 compares
  • ⁇ threshold tR are satisfied (step ST310 “YES”), the coarse adjustment of the position and size of the projected image of the projector 4 is finished, and then the projector 5 The position and size of the projected image are roughly adjusted.
  • step ST310 “NO”) when the deviation d ⁇ threshold tD and the area ratio
  • FIG. 11 is a flowchart for explaining the projection lens distortion adjustment method (step ST4) shown in FIG.
  • n is a variable of the number of projectors.
  • n initial value (1), end value (2), and increase / decrease number (1), and steps ST401 to ST405 are repeated until the processing for two projectors 4 and 5 is completed.
  • n is a variable of the number of pattern images based on the gray code.
  • n initial value (1), end value (20), and increase / decrease number (1), and steps ST402 to ST404 are repeated until 20 types of gray code pattern images have been captured.
  • the gray code generation unit 123 generates a pattern image based on the gray code, and transmits the pattern image from the pattern image display control unit 121 to the projector 4 via the image signal distributor 3. This pattern image is projected onto (step ST403).
  • the camera signal transmission / reception unit 141 transmits an imaging command to the digital camera 2 to acquire a captured image obtained by imaging the screen on which the pattern image is projected (step ST404).
  • the correspondence calculation unit 160 After capturing 20 types of gray code pattern images in steps ST402 to ST404, the correspondence calculation unit 160 subsequently processes these captured images to display the display elements of the projector 4 and the image sensor of the digital camera 2. Correspondence is determined in units of one pixel and stored in the pixel correspondence storage unit 159. Since a method for obtaining the correspondence between the pixels of the projector and the digital camera using the Gray code is known, detailed description is omitted.
  • steps ST 401 to ST 405 When the processing of steps ST 401 to ST 405 is completed for the projector 4, the same processing is performed for the projector 5, and the correspondence between the pixels of the projector 5 and the digital camera 2 is obtained and stored in the pixel correspondence storage unit 159.
  • FIG. 12 is a diagram for explaining processing (steps ST406 to ST410) for calculating a shift (error) d (k) due to distortion of the projection lenses of the projectors 4 and 5.
  • the projection image is rectangular, if the projection lens is distorted, the projected image does not become rectangular on the screen and is distorted into a pincushion shape as shown in FIG.
  • the degree of distortion of the projection images of the projectors 4 and 5 differs depending on the intensity of the distortion of the projection lens, the projection image is displaced between the projectors 4 and 5 due to the distortion of the projection lens. .
  • 12 (a) as shown in FIG. 12 (a), the position of each pixel of the projection image when the distortion of intensity k is applied on the display element of the projector 4 and the intensity k on the display element of the projector 5 are calculated.
  • the position of each pixel of the projected image when the above distortion is applied (coordinates A1 and A2 on the display elements of the projectors 4 and 5 shown in FIG. 12) is calculated (step ST408).
  • the projection conversion unit 152 uses the pixel correspondence relationship between the projector 4 and the digital camera 2 and the pixel correspondence relationship between the projector 5 and the digital camera 2 stored in the pixel correspondence storage unit 159 and the intensity k of the projector 4.
  • the simulation result image when the distortion is applied is projected onto the display element of the projector 5, and then projective transformation is performed so that the display element 4 corner of the projector 4 and the display element 4 corner of the projector 5 overlap each other (step ST409).
  • the error evaluation unit 154 calculates the average of the positional shifts (error d (k)) of the pixels of the projector 4 and the projector 5 when the distortion of intensity k is applied (step ST410).
  • the average of the pixel position deviation is calculated (steps ST407 to ST410).
  • the error evaluation unit 154 calculates the average value of the previous intensity positional deviation (error d (k ⁇ 1)) and the current value.
  • the control command transmission unit 11 transmits the determined lens distortion correction amount (lens distortion correction command) to each of the projectors 4 and 5 (step ST412).
  • FIG. 13 is a flowchart for explaining the fine adjustment processing (step ST5) of the projection image position / size shown in FIG.
  • the area calculation unit 143 obtains the coordinates of the four corners of the screen stored in the screen position storage unit 133, and obtains an area of a quadrangle surrounded by the coordinates of the four corners (ie, the screen area). (Step ST501).
  • the uniform white image generation unit 122 generates a uniform white pattern image, transmits the pattern image display control unit 121 to the projector 4 via the image signal distributor 3, and the projector 4 projects the pattern image on the screen. (Step ST503). Thereafter, the camera signal transmission / reception unit 141 transmits an imaging command to the digital camera 2 to acquire a captured image obtained by capturing the screen on which the pattern image is projected (step ST504).
  • the corner detection unit 142 detects the coordinates of the four corners of the projection image (pattern image) in the acquired captured image (step ST505), and the projective transformation equation calculation unit 151 detects the coordinates of the four corners of the projection image and the projector projection.
  • a projection transformation matrix (P ⁇ C conversion formula) with the image rectangle is generated, and the projection transformation unit 152 converts the coordinates of the four corners of the projected image of the camera coordinate system into the screen coordinate system using the P ⁇ C conversion formula.
  • the corner position determination unit 155 determines whether or not the coordinates of the four corners of the screen are inside the coordinates of the four corners of the projected image in the screen coordinate system (step ST506).
  • the corner position determination unit 155 causes the positional deviation of FIG. 5A and the projected size deviation of FIG. It is determined that In that case, the positional deviation calculation unit 161 calculates the horizontal and vertical movement amounts that can cover the four corners most efficiently with respect to the positional deviation of the projected image, and an appropriate positional deviation correction command corresponding to the movement amount. Is acquired from the horizontal / vertical movement LUT storage unit 158 (step ST507).
  • the amount of movement may be calculated based on the shift between the center position of the screen and the center position of the projection image, or may be calculated based on the shift between the coordinates of the four corners of the screen and the coordinates of the four corners of the projection image. Good.
  • step ST507 the position deviation calculation unit 161 calculates the position of the projection image in the screen coordinate system after the projector 4 has corrected the position of the projection image in accordance with the obtained position deviation correction command.
  • the misalignment correction unit 161 transmits the misalignment correction command acquired from the horizontal / vertical movement LUT storage unit 158 from the control command transmitting unit 11 to the projector 4 (step ST508).
  • the size deviation calculation unit 163 calculates an enlargement ratio at which the screen can cover the projection image based on the position of the projection image after correction according to the position deviation correction command, and obtains an appropriate ratio from the area ratio LUT storage unit 157.
  • a size deviation correction command is acquired (step ST509), and transmitted from the control command transmitter 11 to the projector 4 (step ST510). Thereafter, the process is started again from step ST503, and the adjustment is repeated until both conditions of step ST506 and step ST513 described later are satisfied.
  • step ST506 when the coordinates of the four corners of the screen are inside the projection image (step ST506 “YES”), the area calculation unit 143 calculates the area of the projection image (step ST511). Subsequently, the size deviation calculation unit 163 calculates an area ratio r between the projected image area and the screen area (step ST512), and compares the area ratio r with a preset threshold value tr (step ST513).
  • step ST513 the size deviation calculation unit 163 calculates a reduction ratio that fits the projected image on the screen, and refers to the area ratio LUT storage unit 157.
  • An appropriate size deviation correction command is acquired (step ST514), and transmitted from the control command transmission unit 11 to the projector 4 (step ST515). Thereafter, the process is started again from step ST503.
  • FIG. 14 is a flowchart for explaining the projection angle distortion adjustment process (step ST6) shown in FIG.
  • n is a variable of the number of projectors.
  • n initial value (1), end value (2), and increase / decrease value (1), and steps ST601 to ST607 are repeated until the adjustment of the two projectors 4 and 5 is completed.
  • the uniform white image generation unit 122 generates a uniform white pattern image, transmits the pattern image display control unit 121 to the projector 4 via the image signal distributor 3, and the projector 4 projects the pattern image on the screen.
  • the camera signal transmission / reception unit 141 transmits an imaging command to the digital camera 2 to acquire a captured image obtained by imaging the screen on which the pattern image is projected (step ST603).
  • the corner detection unit 142 detects the coordinates of the four corners of the projection image (pattern image) in the captured image acquired in step ST603 (step ST605).
  • the projection transformation formula calculation unit 151 calculates a projection transformation matrix (P (C transformation formula) between the coordinates of the four corners of the projection image and the projector projection image rectangle, and the projection transformation unit 152 projects the projection image of the camera coordinate system.
  • the coordinates of the four corners are converted into the projector coordinate system by the P ⁇ C conversion formula (step ST605).
  • the projection conversion unit 152 uses a deviation between the shape of the projection image and the shape of the display element of the projector 4 when the projection image is converted into the projector coordinate system as a projection angle distortion correction command (step ST606), and the control command transmission unit 11 To the projector 4 (step ST607).
  • the projection position adjusting apparatus 1 finishes the processes of steps ST601 to ST607 for the projector 4, it performs the same process for the projector 5 and corrects the projection angle distortion of the projector 5.
  • the image projection system includes a display element that displays an image, a projection lens that projects the display of the display element onto the screen, and a position of the projection lens that moves according to the lens driving command.
  • the lens drive unit 43 that corrects either or both of the position and size of the projected image of the lens and the image displayed on the display element according to the projection area correction command are deformed to correct the distortion of the projected image on the screen.
  • the projectors 4 and 5 having the projection area correction unit 44, the digital camera 2 that captures the screen in a state where the projection images are projected from the projectors 4 and 5, the screen and the projections that are captured in the captured image captured by the digital camera 2 A lens drive that moves the position of the projection lens so that the projected image and the screen overlap based on the image
  • a projection position adjusting device 1 that calculates a command and a projection area correction command for deforming an image displayed on the display element so that the projection image overlaps the screen and each projection image, and transmits the command to the projectors 4 and 5. did. For this reason, by deforming the image, local distortion can be corrected, and pixel alignment between the projected images can be performed with high accuracy. Further, by adjusting the position and size of the projected image by moving the projection lens first, the amount of image deformation can be reduced as much as possible, and the deterioration of the image quality (resolution) of the projected image can be suppressed. .
  • each of the projectors 4 and 5 includes the lens position storage unit 45 that holds the latest absolute position of the projection lens each time the projection lens is moved by the lens driving unit 43.
  • the correspondence calculation unit 160 calculates the relative positional relationship between the screen and the projectors 4 and 5 from the screen and the projected image shown in the captured image, and the positional deviation calculation unit 161 is based on the relative positional relationship.
  • the deviation between the target position of the projection lens set on the screen and the current absolute position of the projection lens held in the lens position storage unit 45 is calculated, and a positional deviation correction command for correcting this deviation is calculated. Configured. For this reason, even when the position of the projection lens is corrected, the corrected center position of the projection lens can be aligned with the initially set target lens center position.
  • the projection position adjusting apparatus 1 includes the pixel correspondence relationship between the display element of the projector 4 and the image sensor of the digital camera 2, and the relationship between the display element of the projector 5 and the image sensor of the digital camera 2.
  • a correspondence calculation unit 160 that calculates the pixel correspondence is provided, and the error evaluation unit (lens distortion calculation unit) 154 is based on the pixel correspondence calculated by the correspondence calculation unit 160 and is based on the image sensor. , 5 is calculated, and a lens distortion correction command for correcting the distortion shift is calculated. For this reason, when correcting the distortion of the projection lens of the projectors 4 and 5, the influence of the distortion of the lens of the digital camera 2 can be suppressed, and the pixels can be aligned with high accuracy.
  • the error evaluation unit (lens distortion calculation unit) 154 is based on a captured image (gray code pattern image) captured after correcting the position of each projection lens of the projectors 4 and 5.
  • the lens distortion correction command is calculated. For this reason, the positional relationship between the display elements of the projectors 4 and 5 due to lens distortion of the digital camera 2 can be maintained. Further, by correcting the position and size of the projected image in advance, it is possible to reduce the amount of image deformation as much as possible, and to suppress a decrease in image quality (resolution) of the projected image.
  • the projection angle distortion calculation unit 162 calculates a projection angle distortion correction command using a captured image captured after correcting the positions of the projection lenses of the projectors 4 and 5. Configured. For this reason, by correcting the position and size of the projected image in advance, the amount of image deformation can be reduced as much as possible, and the deterioration of the image quality (resolution) of the projected image can be suppressed.
  • the target lens center position in the screen coordinate system is shown in FIG. 8 from the current absolute position of the projection lens (position of the projector coordinate system) stored in the lens position storage unit 45 of the projectors 4 and 5.
  • the calculation is not limited to this method.
  • the user manually measures the positional relationship between the screen and the projector, inputs it to the projection position adjusting device 1, and calculates the target lens center position in the screen coordinate system based on the input positional relationship. It is also possible to do.
  • the pixel correspondence between the digital camera 2 and the projectors 4 and 5 is obtained using the Gray code according to the flowchart of FIG.
  • the correspondence between the digital camera 2 and the projectors 4 and 5 may be obtained using a pattern image such as a fine checker pattern or a pattern in which circular markers are arranged instead of the pattern image based on the gray code.
  • the resolution when these pattern images are used is inferior to that when gray codes are used.
  • step ST3 after the rough adjustment of the position and size of the projected image is performed in step ST3, the adjustment is performed again in step ST5.
  • the procedure is limited to this procedure. It is not a thing. For example, when the positions and sizes of the projection images of the projectors 4 and 5 are approximately the same at the initial installation stage, the coarse adjustment process in step ST3 can be omitted.
  • step ST4 in FIG. 6 the projection lens distortion correction (step ST4 in FIG. 6) and the projection angle distortion correction (step ST6 in FIG. 6) are reversed, the positions of the four corners of the projected image after correction are shifted from the positions of the four corners of the screen. Since there is a possibility of a large shift, it is desirable to perform in this order.
  • the display element before the lens distortion correction of the projector 4 is shown in FIG. 15A
  • the projection image at that time is shown in FIG. 15B
  • the display element after the lens distortion correction is shown in FIG.
  • the projected image is shown in FIG.
  • the projection lens of the projector 4 after the lens distortion correction is a lens that causes pincushion distortion as shown in FIG. 15B
  • projection is performed as shown in FIGS. 15A to 15C in step ST4.
  • the projection angle distortion calculation unit 162 uses the captured image captured after correcting the distortion of each projection image due to the distortion of each projection lens of the projectors 4 and 5 to issue a projection angle distortion correction command. It is desirable to be configured to calculate.
  • the two projectors 4 and 5 are arranged in the horizontal direction.
  • the present invention is not limited to this, and the projectors are arranged in the vertical direction. Also good. Two or more projectors may be used.
  • the image projection system includes a method for adjusting the position and size of a projection image by moving the position of the projection lens of the projector when a plurality of projection images are superimposed on the screen, and a display on the display element of the projector.
  • the method is such that the projected image is adjusted by performing both a method of correcting the distortion of the projected image by deforming the image to be corrected, and pixel alignment is performed with high accuracy without reducing the image quality (resolution) of the projected image as much as possible. Therefore, it is suitable for use in a stacking type image projection system.
  • 1 projection position adjustment device 2 digital camera, 3 image signal distributor, 4, 5 projector, 6 display, 7 input device, 11 control command transmission unit, 12 projector display processing unit, 13 display display processing unit, 14 camera image processing Unit, 15 control command calculation unit, 41 control command reception unit, 42 projection image reception unit, 43 lens drive unit, 44 projection area correction unit, 45 lens position storage unit, 46 projection unit, 121 pattern image display control unit, 122 White image generation unit, 123 Gray code generation unit, 131 Camera image display control unit, 132 Screen position designation unit, 133 Screen position storage unit, 141 Camera signal transmission / reception unit, 142 Corner detection unit, 143 Area calculation unit, 151 Projective transformation Formula calculator, 152 Shadow conversion unit, 153 Lens distortion correction simulation unit, 154 Error evaluation unit, 155 Corner position determination unit, 156 Lens position storage unit, 157 Area ratio LUT storage unit, 158 Horizontal / vertical movement LUT storage unit, 159 Pixel correspondence storage unit, 160 Correspondence calculation unit, 161 position deviation calculation unit, 162 projection angle distortion calculation unit, 163 size

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Geometry (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Projection Apparatus (AREA)

Abstract

 プロジェクタ4,5からスクリーンに投影された各投影像を撮像した撮像画像に基づいて、位置ずれ計算部161が各投影像の位置ずれを補正するコマンドを算出し、サイズずれ計算部163が各投影像のサイズのずれを補正するコマンドを算出する。プロジェクタ4,5はこれらコマンドに従って各投影レンズの位置を移動し、各投影像の位置とサイズを補正する。補正後に撮像された撮像画像に基づいて、誤差評価部154が投影レンズの歪みに起因する投影像の歪みを補正するコマンドを算出し、投影角歪み計算部162が投影角度に起因する投影像の歪みを補正するコマンドを算出する。プロジェクタ4,5がこれらコマンドに従って各表示素子に表示する各画像を変形し、各投影像の歪みを補正する。

Description

画像投影システムおよび投影位置調整方法
 この発明は、複数のプロジェクタから投影される複数の投影像をスクリーン上に重ねて表示するスタッキング型の画像投影システムおよび投影位置調整方法に関するものである。
 輝度を高めることを目的として、複数台のプロジェクタから投影される映像をスクリーン上に重ねて表示するスタッキング投影型マルチプロジェクションシステムがある。このスタッキング投影型マルチプロジェクションシステムでは、画像コンテンツの画質劣化を防ぐために、スクリーンにおいて、複数のプロジェクタの画素同士の位置を一致させる必要がある。
 複数のプロジェクタの投影像の位置を自動的に合わせる技術として、例えば特許文献1,2がある。特許文献1では、スクリーンに対する各プロジェクタの投影領域の位置ずれと、スクリーンに対する各プロジェクタの投影角度に起因する歪みとを補正するためのパラメータを算出し、このパラメータに基づいて投影画像を変形させることで、複数プロジェクタの投影像を合わせていた。
 また、特許文献2では、スクリーンに投影した検査パターンを撮像し、撮像した画像から位置ずれを検出し、位置ずれを光学的および機械的に補正していた。
特開2004-32665号公報 特開平8-168039号公報
 しかしながら、上記特許文献1のように画像を変形して補正する場合には、画像の解像度が著しく低下するという課題があった。また、上記特許文献2のように投影レンズを機械的に移動させて補正する場合には、直線的な誤差は平行移動で除去できるが、レンズ歪みなどの局所的な画像歪みは補正できないという課題があった。
 この発明は、上記のような課題を解決するためになされたもので、複数のプロジェクタから投影される複数の投影像をスクリーンに重畳する際に、投影像の画質(解像度)をできるだけ低下させずに、高精度に画素合わせを行うことを目的とする。
 この発明に係る画像投影システムは、画像を表示する表示素子、表示素子の表示をスクリーンに投影する投影レンズ、レンズ駆動用コマンドに従って投影レンズの位置を移動してスクリーン上の投影像の位置およびサイズのいずれか一方、または両方を補正するレンズ駆動部、ならびに、投影領域補正用コマンドに従って表示素子に表示する画像を変形してスクリーン上の投影像の歪みを補正する投影領域補正部を有する複数のプロジェクタと、複数のプロジェクタから複数の投影像が投影された状態でスクリーンを撮像する撮像装置と、撮像装置が撮像した撮像画像に写るスクリーンおよび複数の投影像に基づいて、スクリーンおよび複数の投影像が重なるように投影レンズの位置を移動するレンズ駆動用コマンド、ならびに、スクリーンおよび複数の投影像が重なるように表示素子に表示する画像を変形する投影領域補正用コマンドを算出して、複数のプロジェクタへ送信する投影位置調整装置とを備えるものである。
 この発明に係る投影像の投影位置調整方法は、複数のプロジェクタから複数の投影像が投影された状態でスクリーンを撮像し、当該撮像画像に写るスクリーンおよび複数の投影像に基づいて、スクリーンおよび複数の投影像が重なるように複数のプロジェクタの各投影レンズの位置を移動させ、スクリーン上の複数の投影像の位置およびサイズのいずれか一方、または両方を補正するレンズ駆動ステップと、レンズ駆動ステップで複数のプロジェクタの各投影レンズの位置を移動した後にスクリーンを撮像し、当該撮像画像に写るスクリーンおよび複数の投影像に基づいて、スクリーンおよび複数の投影像が重なるように複数のプロジェクタの各表示素子に表示する画像を変形させ、投影レンズを通してスクリーンに投影された複数の投影像の歪みを補正する投影領域補正ステップとを備えるものである。
 この発明によれば、複数の投影像をスクリーン上に重畳する際に、プロジェクタの投影レンズの位置を移動させて投影像の位置とサイズを調整する方法と、プロジェクタの表示素子に表示する画像を変形させて投影像の歪みを補正する方法とを両方行って投影像を調整するようにしたので、投影像の画質(解像度)をできるだけ低下させずに、高精度に画素合わせを行うができる画像投影システムを提供することができる。
 この発明によれば、複数の投影像をスクリーン上に重畳する際に、先ず、プロジェクタの投影レンズの位置を移動させて投影像の位置とサイズを調整し、その後で、プロジェクタの表示素子に表示する画像を変形させて投影像の歪みを補正するようにしたので、画像の変形量を低減できるようになり、投影像の画質(解像度)をできるだけ低下させずに、高精度に画素合わせを行う投影位置調整方法を提供することができる。
この発明の実施の形態1に係る画像投影システムの構成を示すブロック図である。 実施の形態1の画像投影システムにおいて、スクリーンに対するデジタルカメラおよび2台のプロジェクタの設置例を示す斜視図である。 図1の投影位置調整装置の内部構成を示すブロック図である。 図1のプロジェクタの内部構成を示すブロック図である。 スクリーンと投影像とのずれの種類を説明する図であり、図5(a)に位置ずれ、図5(b)にサイズずれ、図5(c)9にレンズ歪み、図5(d)に投影角歪みを示す。 実施の形態1の投影位置調整装置の動作を示すフローチャートである。 図6に示すスクリーンの設定処理を説明するフローチャートである。 図6に示す投影レンズ中心位置の計算処理を説明するフローチャートである。 図6に示す投影像位置・サイズの粗調整処理を説明するフローチャートである。 図9のレンズ中心位置のずれを計算する処理を説明する図である。 図6に示す投影レンズ歪みの調整方法を説明するフローチャートである。 図11の投影レンズの歪みに起因したずれを計算する処理を説明する図である。 図6に示す投影像位置・サイズの微調整処理を説明するフローチャートである。 図6に示す投影角歪みの調整処理を説明するフローチャートである。 投影レンズの糸巻型歪みに起因したずれの調整方法を説明する図であり、補正前のプロジェクタ表示素子を図15(a)、そのときの投影像を図15(b)、補正後のプロジェクタ表示素子を図15(c)、そのときの投影像を図15(d)に示す。
 以下、この発明をより詳細に説明するために、この発明を実施するための形態について、添付の図面に従って説明する。
実施の形態1.
 図1は、本実施の形態1に係る画像投影システムの構成を示すブロック図である。図2は、本実施の形態1に画像投影システムにおいて、スクリーンに対するデジタルカメラ2およびプロジェクタ4,5の設置例を示す斜視図である。図1および図2に示すように、本実施の形態1に係る画像投影システムは、スクリーンに画像を投影する2台のプロジェクタ4,5と、各プロジェクタ4,5がスクリーンに投影する画像(投影像)の位置および歪みなどを調整する投影位置調整装置1と、投影位置調整装置1の出力する画像信号をプロジェクタ4,5に分配する画像信号分配器3と、スクリーンを含むシーンを撮像するデジタルカメラ(撮像装置)2と、投影位置調整装置1の出力する情報を表示するディスプレイ6と、ユーザの入力操作を受け付ける入力装置7とを備える。
 投影位置調整装置1は、デジタルカメラ2からシーンの撮像画像を受け取り、この撮像画像からスクリーンに対するプロジェクタ4,5の各投影像の位置ずれおよび歪みなどを検出し、これらを補正するための各種のコマンドを計算し、プロジェクタ4,5へ送信する。また、投影位置調整装置1は、スクリーンに投影する画像信号(または映像信号)を画像信号分配器3へ送信する。さらに、投影位置調整装置1は、デジタルカメラ2から受け取った撮像画像等の情報をディスプレイ6へ送信すると共に、入力装置7からユーザの入力操作を受信する。
 デジタルカメラ2は、投影位置調整装置1から送信された撮像コマンドに応じて、スクリーンを含むシーンの撮像を行い、撮像画像を投影位置調整装置1へ送信する。
 画像信号分配器3は、投影位置調整装置1から送信された画像信号を複製し、2台のプロジェクタ4,5それぞれへ送信する。
 プロジェクタ4は、画像信号分配器3から画像信号を受け取って表示素子に投影し、投影レンズを通して拡大してスクリーンへ投影する。また、プロジェクタ4は、投影位置調整装置1から投影像の位置ずれおよび歪みなどを調整するための各種のコマンドを受け取り、このコマンドに基づいて投影レンズの位置を機械的に調整すると共に表示素子上の投影範囲を電気的に変形し、スクリーンへ投影する。プロジェクタ5も、プロジェクタ4と同様である。
 ディスプレイ6は、デジタルカメラ2の撮像画像およびその他の情報を投影位置調整装置1から受け取って画面表示することにより、ユーザに提示する。また、入力装置7は、キーボードおよびマウスなどで構成され、ユーザの操作を受け付けて投影位置調整装置1へ送信する。
 次に、投影位置調整装置1の構成について説明する。
 図3は、投影位置調整装置1の内部構成を示すブロック図である。
 図3において、制御コマンド送信部11は、プロジェクタ4,5へ各種のコマンドを送信する。
 プロジェクタ表示処理部12は、プロジェクタ4,5に投影させる表示内容の生成、および表示内容の送信を行う。パターン画像表示制御部121は、一様白色画像生成部122またはグレイコード生成部123にて生成されたパターン画像を受け取り、画像信号分配器3へ送信する。一様白色画像生成部122は、全面が白色の画像を生成する。グレイコード生成部123は、グレイコードを水平方向または垂直方向に白色と黒色とで可視化した画像を生成する。
 ディスプレイ表示処理部13は、ディスプレイ6に表示させる表示内容の生成、およびデジタルカメラ2の撮像画像からスクリーンの領域を指定する処理を行う。カメラ画像表示制御部131は、後述するカメラ信号送受信部141よりデジタルカメラ2の撮像画像を受け取り、ディスプレイ6に送信する。ユーザが入力装置7を介して、ディスプレイ6に表示された撮像画像のうちのスクリーン4隅に相当する位置を指定すると、スクリーン位置指定部132はスクリーン4隅の位置情報を入力装置7より受け取り、撮像画像上の座標に変換する。スクリーン位置記憶部133は、スクリーン位置指定部132の算出したスクリーン4隅の座標を保存する。
 カメラ画像処理部14は、デジタルカメラ2への撮像指示、および撮像した画像の処理を行う。カメラ信号送受信部141は、デジタルカメラ2へ撮像を指示する撮像コマンドの送信と、撮像画像の受信を行う。コーナー検出部142は、撮像画像に対する画像処理を行って、プロジェクタ4,5からスクリーンに投影した投影像の4隅の座標を算出する。面積計算部143は、撮像画像から投影像の面積およびスクリーンの面積を計算する。
 制御コマンド計算部15は、各種のデータより、スクリーンに対する投影像の水平方向および垂直方向の位置ずれを補正する位置ずれ補正コマンド、スクリーンに対する投影像のサイズの違いを調整するサイズずれ補正コマンド、投影レンズの歪みに起因する投影像の歪みを補正するレンズ歪み補正コマンド、および、投影角度のずれに起因する投影像の歪みを補正する投影角歪み補正コマンドを計算する。
 なお、位置ずれ補正コマンドおよびサイズずれ補正コマンドは、投影レンズの位置を移動させるためのコマンドであり、総称してレンズ駆動用コマンドと呼ぶ。一方、レンズ歪み補正コマンドおよび投影角歪み補正コマンドは、表示素子上に表示する画像信号を変形させるためのコマンドであり、総称して投影領域補正用コマンドと呼ぶ。
 射影変換式計算部151は、4点以上の点の対応関係から、座標系間の射影変換式を算出する。射影変換部152は、射影変換式計算部151で算出した射影変換式を用いて、ある座標系の点を別の座標系の点へ変換する。レンズ歪み補正模擬部153は、投影レンズの中心位置と歪みの強度kとを用いて、投影レンズに強度kの歪みが生じているときの、投影画像の各画素の表示素子上での位置を模擬する。誤差評価部(レンズ歪み計算部)154は、与えられた点群同士の平均二乗誤差を計算し、誤差が最も小さくなるときの強度kからレンズ歪み補正コマンドを計算する。コーナー位置判定部155は、撮像画像上のスクリーン4隅の座標と投影像4隅の座標との位置関係から、スクリーンが撮像画像の内側におさまっているかを判定する。
 レンズ位置記憶部156は、スクリーン座標系でのプロジェクタ4,5の投影レンズ中心位置を保存する。面積比ルックアップテーブル(以下、LUT)記憶部157は、スクリーンと投影像の面積比と適切なサイズずれ補正コマンドとの対応関係を、ルックアップテーブル形式で保存している。水平垂直移動LUT記憶部158は、スクリーンに対する投影像のずれ量と適切な位置ずれ補正コマンドとの対応関係を、ルックアップテーブル形式で保存している。画素対応記憶部159は、プロジェクタ4の表示素子とデジタルカメラ2の撮像素子の対応関係、およびプロジェクタ5の表示素子とデジタルカメラ2の撮像素子の対応関係を、一画素単位で保存している。対応関係計算部160は、プロジェクタ4の表示素子とデジタルカメラ2の撮像素子の対応関係、およびプロジェクタ5の表示素子とデジタルカメラ2の撮像素子の対応関係を、一画素単位で求め、画素対応記憶部159に保存する。
 位置ずれ計算部161は、スクリーンに対する投影像のずれ量を計算し、このずれ量に対応する位置ずれ補正コマンドを水平垂直移動LUT記憶部158から取得する。投影角歪み計算部162は、スクリーンに対する投影像の投影角歪みを計算し、この歪みを補正する投影角歪み補正コマンドを計算する。サイズずれ計算部163は、スクリーンと投影像の面積比を計算し、この面積比に対応するサイズずれ補正コマンドを面積比LUT記憶部157から取得する。
 次に、プロジェクタ4,5の構成について説明する。
 図4は、プロジェクタ4の内部構成を示すブロック図である。プロジェクタ4の内部構成はプロジェクタ5の内部構成と同一であるため、プロジェクタ5の内部構成については図示および説明を省略する。
 図4において、制御コマンド受信部41は、投影位置調整装置1の制御コマンド送信部11から送信された各種のレンズ歪み補正コマンドを受信する。投影画像受信部42は、画像信号分配器3から画像信号を受信する。
 レンズ駆動部43は、制御コマンド受信部41からレンズ駆動用コマンド(位置ずれ補正コマンドおよびサイズずれ補正コマンドのうちのいずれか一方、または両方を含む)を受け取り、プロジェクタ4の投影レンズを3軸方向に移動させる。ここで、3軸方向とは、投影光軸方向、および投影光軸に直交する面上の2軸方向(水平方向および垂直方向)とする。投影サイズずれ補正部431は、サイズずれ補正コマンドに従って、投影光軸方向に投影レンズを動かし、スクリーンに投影される投影像のサイズを調整する。位置ずれ補正部432は、位置ずれ補正コマンドに従って、水平垂直方向に投影レンズを動かし、スクリーンに投影される投影像の位置を調整する。
 ここで、図5に、スクリーンと投影像とのずれの種類を示す。水平垂直方向の位置ずれとは、図5(a)に示すように、プロジェクタ4が投影する投影像の位置とスクリーンの位置とにずれが生じている状態を指す。投影サイズずれとは、図5(b)に示すように、プロジェクタ4が投影する投影像の大きさとスクリーンの大きさとにずれが生じている状態を指す。
 図4において、投影領域補正部44は、制御コマンド受信部41から投影領域補正用コマンド(レンズ歪み補正コマンドおよび投影角歪み補正コマンドのうちのいずれか一方、または両方を含む)を、画像信号分配器3から画像信号を受け取り、投影領域補正用コマンドに従って画像信号を電気的に変形する。レンズ歪み補正部441は、レンズ歪み補正コマンドに従って、表示素子上に表示する画像信号の4辺を弓形に変形させ、プロジェクタ4の投影レンズの歪みによって発生したずれ(レンズ歪み)を補正する。このレンズ歪み補正部441は、例えば、レンズ歪み補正コマンドに含まれる投影レンズの歪み強度kをパラメータにした演算式を計算することにより、表示素子上に表示する画像信号を変形する。投影角歪み補正部442は、投影角歪み補正コマンドに従って、画像信号の4隅の位置を当該画像の内側方向へ移動させるように変形させ、プロジェクタ4の光軸がスクリーン面に正対していない(直交していない)ことにより発生した歪みを補正する。
 なお、レンズ歪みとは、図5(c)に示すように、長方形状のスクリーンに対し、プロジェクタ4が投影する投影像の4辺に歪みが生じている状態を指す。図5(c)ではスクリーンの4辺に対して投影像の4辺が内側に歪む糸巻型の歪曲が生じているが、反対に、スクリーンの4辺に対して投影像の4辺が外側に歪む樽型の歪曲が生じる場合もある。投影角歪みとは、図5(d)に示すように、長方形状のスクリーンに対し、プロジェクタ4が投影する投影像が台形状に歪んでいる状態を指す。
 図4において、レンズ位置記憶部45は、プロジェクタ4の表示素子上における投影レンズの現在の位置、即ち、プロジェクタ座標系における投影レンズの位置を記憶している。投影部46は、表示素子等を有し、投影領域補正部44で補正された画像信号をスクリーンに投影する。
 次に、図6に示すフローチャートを参照しながら、画像投影システムの動作を説明する。スクリーンに対する投影像の位置合わせは以下の順序で行われる。先ず、投影位置調整装置1が、撮像画像上(カメラ座標系)においてスクリーンの位置を設定し(ステップST1)、次に、スクリーン座標系におけるプロジェクタ4,5の投影レンズの中心位置を計算する(ステップST2)。続いて、投影位置調整装置1がプロジェクタ4,5に指示して投影レンズの位置を移動させることにより、スクリーンに対する投影像の位置およびサイズを粗調整し(ステップST3)、その後、投影位置調整装置1がプロジェクタ4,5に指示して投影レンズの歪みに起因する投影像の歪曲を補正する(ステップST4)。続いて、投影位置調整装置1がプロジェクタ4,5に指示して、スクリーンに対する投影像の位置およびサイズを正確に合わせ(ステップST5)、最後に投影角の歪みを補正する(ステップST6)。
 図7は、図6に示すスクリーンの設定処理(ステップST1)を説明するフローチャートである。投影位置調整装置1において、先ず、カメラ信号送受信部141からデジタルカメラ2へ撮像コマンドを送信し、デジタルカメラ2にスクリーンを撮像させ、撮像画像を取得する(ステップST101)。この撮像画像を、カメラ信号送受信部141がディスプレイ6に送信し表示させる(ステップST102)。ユーザは、マウス(入力装置7)のカーソルをディスプレイ6に表示された撮像画像上のスクリーン4隅に移動してクリックするなどして、スクリーン4隅の位置を指定する。
 ステップST103,ST104のループ処理において、nはマウスクリック座標位置の取得回数の変数である。また、n=初期値(1)、終了値(4)、増減数(1)とし、マウスクリック座標位置を4回、即ち、スクリーン4隅分取得するまで、ステップST103,ST104を繰り返す。スクリーン位置指定部132は、入力装置7から入力されるマウスクリック座標位置を取得して、撮像画像上のスクリーン4隅の座標とする。
 続いて、射影変換式計算部151が、撮像画像上のスクリーン4隅の座標とスクリーン矩形との射影変換行列(スクリーン-カメラ座標変換式;S⇔C変換式)を生成する(ステップST105)。スクリーン矩形とは、スクリーンの実際の縦横の大きさを表す情報である。スクリーン位置記憶部133は、スクリーン位置指定部132が算出した撮像画像上のスクリーン4隅の座標と、射影変換式計算部151が生成したS⇔C変換式とを保存する(ステップST106)。
 図8は、図6に示す投影レンズ中心位置の計算処理(ステップST2)を説明するフローチャートである。ステップST201~ST209のループ処理において、nはプロジェクタ台数の変数である。また、n=初期値(1)、終了値(2)、増減数(1)とし、プロジェクタ4,5の2台分の調整が終了するまで、ステップST201~ST209を繰り返す。
 投影位置調整装置1において、先ず、制御コマンド送信部11からプロジェクタ4へレンズ位置取得コマンドを送信し、このコマンドを受信した制御コマンド受信部41がレンズ位置記憶部45に保存されている投影レンズの現在の中心位置を取得して投影位置調整装置1へ返送する(ステップST202)。
 続いて、一様白色画像生成部122が一様白色のパターン画像を生成し、パターン画像表示制御部121から画像信号分配器3を介してプロジェクタ4へ送信し、プロジェクタ4がスクリーンにこのパターン画像を投影する(ステップST203)。その後、カメラ信号送受信部141がデジタルカメラ2へ撮像コマンドを送信して、パターン画像が投影されているスクリーンを撮像した撮像画像を取得する(ステップST204)。
 続いて、コーナー検出部142が、取得した撮像画像における投影像(パターン画像)の4隅の座標を検出し(ステップST205)、射影変換式計算部151がこの投影像4隅の座標とプロジェクタ投影像矩形との射影変換行列(プロジェクタ-カメラ座標変換式;P⇔C変換式)を生成する(ステップST206)。プロジェクタ投影像矩形とは、プロジェクタ4,5の表示素子の縦横の画素数(解像度)を表す情報である。
 射影変換部152は、ステップST202で取得したプロジェクタ座標系の投影レンズ中心位置を、P⇔C変換式を用いてカメラ座標系に変換し(ステップST207)、さらに、スクリーン位置記憶部133に保存されているS⇔C変換式を用いてスクリーン座標系に変換する(ステップST208)。変換したスクリーン座標系における投影レンズ中心位置の座標を、プロジェクタ4の目標レンズ中心位置として、レンズ位置記憶部156に保存する(ステップST209)。
 投影位置調整装置1は、プロジェクタ4についてステップST201~ST209の処理を終えると、プロジェクタ5について同様の処理を行い、プロジェクタ5の目標レンズ中心位置をレンズ位置記憶部156に保存する。
 図9は、図6に示す投影像位置・サイズの粗調整処理(ステップST3)を説明するフローチャートである。投影位置調整装置1において、先ず、面積計算部143が、スクリーン位置記憶部133に保存されている撮像画像上のスクリーン4隅の座標を取得し、この4隅の座標で囲まれる四角形の面積(即ち、スクリーン面積)を求める(ステップST301)。
 ステップST302~ST312のループ処理において、nはプロジェクタ台数の変数である。また、n=初期値(1)、終了値(2)、増減値(1)とし、プロジェクタ4,5の2台分の粗調整が終了するまで、ステップST302~ST312を繰り返す。
 一様白色画像生成部122は、一様白色のパターン画像を生成し、パターン画像表示制御部121から画像信号分配器3を介してプロジェクタ4へ送信し、プロジェクタ4がスクリーンにこのパターン画像を投影する(ステップST303)。その後、カメラ信号送受信部141がデジタルカメラ2へ撮像コマンドを送信して、パターン画像が投影されているスクリーンを撮像した撮像画像を取得する(ステップST304)。
 続いて、面積計算部143が、ステップST304で取得した撮像画像における投影像(パターン画像)の領域を抽出し、抽出した画素数を基に投影像面積を計算する(ステップST305)。なお、画素数から投影像面積を計算する方法に限らず、撮像画像における投影像の4隅の座標から投影像面積を計算してもよい。
 続いて、サイズずれ計算部163が、面積計算部143の求めた投影像面積とスクリーン面積との面積比r(=スクリーン面積/投影像面積)を計算し、(ステップST306)、面積比rに対応する適正なサイズずれ補正コマンドを、面積比LUT記憶部157から取得する(ステップST307)。
 続いて、制御コマンド送信部11からプロジェクタ4へレンズ位置取得コマンドを送信し、このコマンドを受信した制御コマンド受信部41がレンズ位置記憶部45に保存されている投影レンズの現在の中心位置を取得して投影位置調整装置1へ返送する(ステップST308)。続くステップST309において、取得した現在の投影レンズ中心位置と、レンズ位置記憶部156に保存されている目標レンズ中心位置とのずれdを計算する。
 図10は、レンズ中心位置のずれdを計算する処理(ステップST309)を説明する図である。
 射影変換部152は、レンズ位置記憶部156に保存されているスクリーン座標系の目標レンズ中心位置を取得し(図10(a))、先に求めたS⇔C変換式を用いてカメラ座標系へ変換し(図10(b))、さらにC⇔P変換式を用いてプロジェクタ座標系へ変換する(図10(c))。続いて位置ずれ計算部161が、射影変換部152の計算したプロジェクタ座標系の投影レンズ中心位置とレンズ位置記憶部156に保存されているプロジェクタ座標系の目標レンズ中心位置とを比較して、プロジェクタ4について目標レンズ中心位置に対する現在の投影レンズ中心位置のずれdを求める(図10(c))。
 あるいは、スクリーン座標系の目標レンズ中心位置をS⇔C変換式を用いてカメラ座標系に変換すると共に、プロジェクタ座標系の現在の投影レンズ中心位置をC⇔P変換式を用いてカメラ座標系に変換して、カメラ座標系において目標レンズ中心位置と現在の投影レンズ中心位置とのずれdを求めてもよい。
 続いて位置ずれ計算部161は、求めたずれdと予め設定されている閾値tDとの比較、および、ステップST306で求めた面積比rについて、|r-1|と予め設定されている閾値tRとの比較を行う(ステップST310)。ずれd<閾値tD、かつ、面積比|r-1|<閾値tRを満たす場合(ステップST310“YES”)、プロジェクタ4の投影像の位置とサイズの粗調整を終了し、続いて、プロジェクタ5の投影像の位置とサイズの粗調整を行う。
 一方、ずれd<閾値tD、かつ、面積比|r-1|<閾値tRを満たさない場合(ステップST310“NO”)、位置ずれ計算部161が、ずれdに対応する適切な位置ずれ補正コマンドを水平垂直移動LUT記憶部158から取得し、制御コマンド送信部11がプロジェクタ4へ送信する(ステップST311)。また、制御コマンド送信部11は、ステップST307で求めたサイズずれ補正コマンドをプロジェクタ4へ送信する(ステップST312)。そして、位置ずれ補正およびサイズ調整後のプロジェクタ4に対して、再びステップST303から処理を開始し、ステップST310の条件を満たすまで位置ずれ補正およびサイズ調整を繰り返す。
 図11は、図6に示す投影レンズ歪みの調整方法(ステップST4)を説明するフローチャートである。ステップST401~ST405のループ処理において、nはプロジェクタ台数の変数である。また、n=初期値(1)、終了値(2)、増減数(1)とし、プロジェクタ4,5の2台分の処理が終了するまで、ステップST401~ST405を繰り返す。また、ステップST402~ST404のループ処理において、nはグレイコードに基づくパターン画像数の変数である。また、n=初期値(1)、終了値(20)、増減数(1)とし、20種類のグレイコードパターン画像を撮像終了するまで、ステップST402~ST404を繰り返す。
 投影位置調整装置1において、先ず、グレイコード生成部123がグレイコードに基づくパターン画像を生成し、パターン画像表示制御部121から画像信号分配器3を介してプロジェクタ4へ送信し、プロジェクタ4がスクリーンにこのパターン画像を投影する(ステップST403)。その後、カメラ信号送受信部141がデジタルカメラ2へ撮像コマンドを送信して、パターン画像が投影されているスクリーンを撮像した撮像画像を取得する(ステップST404)。
 ステップST402~ST404において20種類のグレイコードのパターン画像を撮像し終えると、続いて、対応関係計算部160がこれらの撮像画像を処理して、プロジェクタ4の表示素子とデジタルカメラ2の撮像素子の対応関係を1画素単位で決定し、画素対応記憶部159へ保存する。なお、グレイコードを利用してプロジェクタとデジタルカメラの画素間の対応関係を求める方法は既知のため、詳細な説明は省略する。
 プロジェクタ4についてステップST401~ST405の処理を終了すると、続いてプロジェクタ5についても同様の処理を行い、プロジェクタ5とデジタルカメラ2の画素間の対応関係を求めて画素対応記憶部159へ保存する。
 図12は、プロジェクタ4,5の投影レンズの歪みに起因したずれ(誤差)d(k)を計算する処理(ステップST406~ST410)を説明する図である。
 例えば投影用の画像が長方形の場合、投影レンズの歪みがあると、スクリーン上で投影像が長方形にならず、図12(a)に示すような糸巻型に歪曲したりする。また、プロジェクタ4,5の投影像の歪曲の度合いは、投影レンズの歪みの強度に応じて異なるため、投影像は、プロジェクタ4,5間で投影レンズの歪みに起因したずれが生じることになる。
 そこで、先ず、レンズ歪み補正模擬部153が、投影レンズの歪みを強度k=1に設定し(ステップST406)、強度kをインクリメントして(即ち、kの初期値は0となる)(ステップST407)、図12(a)に示すように、プロジェクタ4の表示素子上で、強度kの歪みを付与したときの投影画像の各画素の位置を計算すると共に、プロジェクタ5の表示素子上で強度kの歪みを付与したときの投影画像の各画素の位置(図12に示すプロジェクタ4,5の表示素子上の座標A1,A2)を計算する(ステップST408)。
 続いて、射影変換部152が、画素対応記憶部159に保存したプロジェクタ4とデジタルカメラ2の画素対応関係、および、プロジェクタ5とデジタルカメラ2の画素対応関係を用いて、プロジェクタ4の強度kの歪みを付与したときのシミュレーション結果画像をプロジェクタ5の表示素子上に投影し、続けて、プロジェクタ4の表示素子4隅とプロジェクタ5の表示素子4隅とが重なるよう射影変換を施す(ステップST409)。その後、誤差評価部154が、強度kの歪みを付与したときのプロジェクタ4とプロジェクタ5の各画素の位置のずれ(誤差d(k))の平均を算出する(ステップST410)。
 1巡目の今回は歪みの強度k=0のため(ステップST411“YES”)、再びステップST407に戻り、2順目で、強度k=1の歪みを付与したときのプロジェクタ4,5の各画素の位置ずれの平均を算出する(ステップST407~ST410)。
 2巡目以降(図12(b)に示す強度k=1のとき等)では、誤差評価部154が、前回の強度の位置ずれの平均値(誤差d(k-1))と、今回の強度の位置ずれの平均値(誤差d(k))とを比較して(ステップST411)、位置ずれの平均値が最小になる場合のk=k-1をレンズ歪み補正量に決定する。決定したレンズ歪み補正量(レンズ歪み補正コマンド)は、制御コマンド送信部11がプロジェクタ4,5それぞれへ送信する(ステップST412)。
 図13は、図6に示す投影像位置・サイズの微調整処理(ステップST5)を説明するフローチャートである。投影位置調整装置1において、先ず、面積計算部143が、スクリーン位置記憶部133に保存したスクリーン4隅の座標を取得し、4隅の座標で囲まれる四角形の面積(即ち、スクリーン面積)を求める(ステップST501)。
 ステップST502~ST515のループ処理において、nはプロジェクタ台数の変数である。また、n=初期値(1)、終了値(2)、増減値(1)とし、プロジェクタ4,5の2台分の微調整が終了するまで、ステップST502~ST515を繰り返す。
 一様白色画像生成部122は、一様白色のパターン画像を生成し、パターン画像表示制御部121から画像信号分配器3を介してプロジェクタ4へ送信し、プロジェクタ4がスクリーンにこのパターン画像を投影する(ステップST503)。その後、カメラ信号送受信部141がデジタルカメラ2へ撮像コマンドを送信して、パターン画像が投影されているスクリーンを撮像した撮像画像を取得する(ステップST504)。
 続いて、コーナー検出部142が、取得した撮像画像における投影像(パターン画像)の4隅の座標を検出し(ステップST505)、射影変換式計算部151がこの投影像4隅の座標とプロジェクタ投影像矩形との射影変換行列(P⇔C変換式)を生成し、射影変換部152がP⇔C変換式を用いて、カメラ座標系の投影像4隅の座標をスクリーン座標系に変換する。
 続いて、コーナー位置判定部155が、スクリーン座標系において、スクリーン4隅の座標が投影像4隅の座標の内側に入っているかどうかを判定する(ステップST506)。スクリーン4隅の座標が投影像内側に入っていない場合(ステップST506“NO”)、コーナー位置判定部155は、図5(a)の位置ずれおよび図5(b)の投影サイズずれが生じていると判定する。その場合、位置ずれ計算部161は、投影像の位置ずれについて、最も効率的に4隅をカバーできる水平方向および垂直方向の移動量を計算し、この移動量に対応する適切な位置ずれ補正コマンドを水平垂直移動LUT記憶部158から取得する(ステップST507)。なお、移動量は、スクリーンの中心位置と投影像の中心位置のずれに基づいて計算してもよいし、スクリーン4隅の座標と投影像4隅の座標とのずれに基づいて計算してもよい。
 また、位置ずれ計算部161は、ステップST507において、求めた位置ずれ補正コマンドに応じてプロジェクタ4が投影像の位置を補正した後の投影像のスクリーン座標系における位置を計算しておく。
 そして、位置ずれ計算部161が水平垂直移動LUT記憶部158から取得した位置ずれ補正コマンドを、制御コマンド送信部11からプロジェクタ4へ送信する(ステップST508)。
 また、サイズずれ計算部163は、位置ずれ補正コマンドに応じた補正後の投影像の位置に基づいて、スクリーンが投影像をカバー可能な拡大率を計算し、面積比LUT記憶部157から適正なサイズずれ補正コマンドを取得して(ステップST509)、制御コマンド送信部11からプロジェクタ4へ送信する(ステップST510)。その後ステップST503から再度処理を開始し、ステップST506および後述するステップST513の両条件を満たすまで、調整を繰り返す。
 一方、スクリーン4隅の座標が投影像内側に入っている場合(ステップST506“YES”)、面積計算部143が投影像の面積を計算する(ステップST511)。続いてサイズずれ計算部163が、投影像面積とスクリーン面積との面積比rを計算し(ステップST512)、面積比rと予め設定されている閾値trとを比較する(ステップST513)。
 面積比rが閾値tr以下の場合(ステップST513“YES”)、プロジェクタ4のレンズ歪みの調整を終了し、プロジェクタ5のレンズ歪みの調整に移る(ステップST502)。一方、面積比rが閾値trより大きい場合(ステップST513“NO”)、サイズずれ計算部163は、投影像がスクリーンにおさまるような縮小率を計算し、面積比LUT記憶部157を参照して適切なサイズずれ補正コマンドを取得し(ステップST514)、制御コマンド送信部11からプロジェクタ4へ送信する(ステップST515)。その後ステップST503から再度処理を開始する。
 図14は、図6に示す投影角歪みの調整処理(ステップST6)を説明するフローチャートである。ステップST601~ST607のループ処理において、nはプロジェクタ台数の変数である。また、n=初期値(1)、終了値(2)、増減値(1)とし、プロジェクタ4,5の2台分の調整が終了するまで、ステップST601~ST607を繰り返す。
 一様白色画像生成部122は、一様白色のパターン画像を生成し、パターン画像表示制御部121から画像信号分配器3を介してプロジェクタ4へ送信し、プロジェクタ4がスクリーンにこのパターン画像を投影する(ステップST602)。その後、カメラ信号送受信部141がデジタルカメラ2へ撮像コマンドを送信して、パターン画像が投影されているスクリーンを撮像した撮像画像を取得する(ステップST603)。
 続いて、コーナー検出部142が、ステップST603で取得した撮像画像における投影像(パターン画像)の4隅の座標を検出する(ステップST605)。その後、射影変換式計算部151が、この投影像4隅の座標とプロジェクタ投影像矩形との射影変換行列(P⇔C変換式)を算出し、射影変換部152が、カメラ座標系の投影像4隅の座標を、P⇔C変換式によりプロジェクタ座標系へ変換する(ステップST605)。
 射影変換部152は、投影像をプロジェクタ座標系へ変換したときの、投影像の形状とプロジェクタ4の表示素子の形状のずれを、投影角歪み補正コマンドとし(ステップST606)、制御コマンド送信部11からプロジェクタ4へ送信する(ステップST607)。
 投影位置調整装置1は、プロジェクタ4についてステップST601~ST607の処理を終えると、プロジェクタ5について同様の処理を行い、プロジェクタ5の投影角歪みを補正する。
 以上より、実施の形態1によれば、画像投影システムは、画像を表示する表示素子、表示素子の表示をスクリーンに投影する投影レンズ、レンズ駆動用コマンドに従って投影レンズの位置を移動してスクリーン上の投影像の位置およびサイズのいずれか一方、または両方を補正するレンズ駆動部43、ならびに、投影領域補正用コマンドに従って表示素子に表示する画像を変形してスクリーン上の投影像の歪みを補正する投影領域補正部44を有するプロジェクタ4,5と、プロジェクタ4,5から各投影像が投影された状態でスクリーンを撮像するデジタルカメラ2と、デジタルカメラ2が撮像した撮像画像に写るスクリーンおよび各投影像に基づいて、スクリーンおよび各投影像が重なるように投影レンズの位置を移動するレンズ駆動用コマンド、ならびに、スクリーンおよび各投影像が重なるように表示素子に表示する画像を変形する投影領域補正用コマンドを算出して、プロジェクタ4,5へ送信する投影位置調整装置1とを備えるように構成した。このため、画像を変形することにより、局所的な歪みを補正でき、投影像間の画素合わせを高精度に実施することができる。また、先に、投影レンズの移動により投影像の位置とサイズを調整しておくことで、画像変形量をできるだけ少なくすることができ、投影像の画質(解像度)の低下を抑制することができる。
 また、実施の形態1によれば、プロジェクタ4,5それぞれは、レンズ駆動部43により投影レンズを移動する都度、投影レンズの最新の絶対位置を保持するレンズ位置記憶部45を有し、投影位置調整装置1において対応関係計算部160が撮像画像に写るスクリーンおよび投影像からスクリーンとプロジェクタ4,5との相対的な位置関係を算出し、位置ずれ計算部161が相対的な位置関係に基づいて、スクリーン上に設定された投影レンズの目標位置とレンズ位置記憶部45に保持された投影レンズの現在の絶対位置とのずれを計算し、このずれを補正する位置ずれ補正コマンドを算出するように構成した。このため、投影レンズの位置が補正された場合でも、補正後の投影レンズの中心位置を、最初に設定しておいた目標レンズ中心位置へ位置合わせすることができる。
 また、実施の形態1によれば、投影位置調整装置1は、プロジェクタ4の表示素子とデジタルカメラ2の撮像素子との画素対応関係、およびプロジェクタ5の表示素子とデジタルカメラ2の撮像素子との画素対応関係を計算する対応関係計算部160を有し、誤差評価部(レンズ歪み計算部)154は、対応関係計算部160の計算した画素対応関係に基づいて、撮像素子を基準にしたプロジェクタ4,5の投影像間の歪みのずれを計算し、この歪みのずれを補正するレンズ歪み補正コマンドを算出するように構成した。このため、プロジェクタ4,5の投影レンズの歪みを補正する際に、デジタルカメラ2のレンズの歪みの影響を抑制することができ、高精度に画素合わせ可能となる。
 また、実施の形態1によれば、誤差評価部(レンズ歪み計算部)154は、プロジェクタ4,5の各投影レンズの位置を補正した後に撮像された撮像画像(グレイコードパターン画像)に基づいて、レンズ歪み補正コマンドを算出するように構成した。このため、デジタルカメラ2のレンズ歪みによるプロジェクタ4,5の表示素子間の位置関係を保つことができる。また、先に投影像の位置およびサイズを補正しておくことで、画像変形量をできるだけ少なくすることができ、投影像の画質(解像度)の低下を抑制することができる。
 また、実施の形態1によれば、投影角歪み計算部162は、プロジェクタ4,5の各投影レンズの位置を補正した後に撮像された撮像画像を用いて、投影角歪み補正コマンドを算出するように構成した。このため、先に投影像の位置およびサイズを補正しておくことで、画像変形量をできるだけ少なくすることができ、投影像の画質(解像度)の低下を抑制することができる。
 なお、実施の形態1では、スクリーン座標系における目標レンズ中心位置を、プロジェクタ4,5のレンズ位置記憶部45に記憶されている現在の投影レンズの絶対位置(プロジェクタ座標系の位置)から図8のフローチャートに沿って算出しているが、この方法に限定されるものではない。例えば、ユーザがスクリーンとプロジェクタとの位置関係を手動で測定して、投影位置調整装置1へ入力し、位置調整装置1が入力された位置関係に基づいてスクリーン座標系における目標レンズ中心位置を算出することも可能である。
 また、実施の形態1では、投影レンズの歪み強度を算出する際に、図11のフローチャートに沿って、グレイコードを利用してデジタルカメラ2とプロジェクタ4,5との画素対応関係を求めているが、この方法に限定されるものではない。例えば、グレイコードに基づくパターン画像の代わりに、細かいチェッカーパターン、または円系マーカを並べたようなパターンといったパターン画像を用いて、デジタルカメラ2とプロジェクタ4,5との対応関係を求めてもよい。ただし、これらのパターン画像を用いた場合の分解能はグレイコードを用いる場合より劣る。
 また、実施の形態1では、図6に示したように、ステップST3において投影像の位置とサイズの粗調整を行った後に、ステップST5において再度調整を行っているが、この手順に限定されるものではない。例えば、初期の設置段階でプロジェクタ4,5の投影像それぞれの位置とサイズがおおよそ合致している場合には、ステップST3の粗調整処理を省略することが可能である。
 なお、投影レンズ歪みの補正(図6のステップST4)と投影角歪みの補正(図6のステップST6)は、順序を逆にすると補正後の投影像4隅の位置がスクリーン4隅の位置から大きくずれてしまう可能性があるため、この順序で行うことが望ましい。
 ここで、プロジェクタ4のレンズ歪み補正前の表示素子を図15(a)、そのときの投影像を図15(b)に示し、レンズ歪み補正後の表示素子を図15(c)、そのときの投影像を図15(d)に示す。レンズ歪み補正後のプロジェクタ4の投影レンズが、図15(b)のように糸巻型の歪みを引き起こすレンズである場合、ステップST4にて図15(a)から図15(c)のように投影画像の表示領域を変形してレンズ歪みを補正することで、投影像4隅の位置が図15(b)から図15(d)のように移動する。そのため、もし、ステップST6の投影角歪み補正を行った後にステップST4のレンズ歪み補正を行うと、ステップST6の投影角歪み補正でスクリーン4隅の位置と合わせたはずの投影像4隅の位置が移動してしまうことになる。
 以上のことから、投影角歪み計算部162は、プロジェクタ4,5の各投影レンズの歪みに起因した各投影像の歪みを補正した後に撮像された撮像画像を用いて、投影角歪み補正コマンドを算出するように構成することが望ましい。
 また、実施の形態1では、図2の設置例に示したように、2台のプロジェクタ4,5を水平方向に並べているが、これに限定されるものではなく、垂直方向に並べる等してもよい。また、2台以上のプロジェクタを使用してもよい。
 上記以外にも、本発明は、その発明の範囲内において、実施の形態を適宜、変更、省略することが可能である。
 この発明に係る画像投影システムは、複数の投影像をスクリーン上に重畳する際に、プロジェクタの投影レンズの位置を移動させて投影像の位置とサイズを調整する方法と、プロジェクタの表示素子に表示する画像を変形させて投影像の歪みを補正する方法とを両方行って投影像を調整するように構成し、投影像の画質(解像度)をできるだけ低下させずに、高精度に画素合わせを行うができるので、スタッキング型の画像投影システムに用いるのに適している。
 1 投影位置調整装置、2 デジタルカメラ、3 画像信号分配器、4,5 プロジェクタ、6 ディスプレイ、7 入力装置、11 制御コマンド送信部、12 プロジェクタ表示処理部、13 ディスプレイ表示処理部、14 カメラ画像処理部、15 制御コマンド計算部、41 制御コマンド受信部、42 投影画像受信部、43 レンズ駆動部、44 投影領域補正部、45 レンズ位置記憶部、46 投影部、121 パターン画像表示制御部、122 一様白色画像生成部、123 グレイコード生成部、131 カメラ画像表示制御部、132 スクリーン位置指定部、133 スクリーン位置記憶部、141 カメラ信号送受信部、142 コーナー検出部、143 面積計算部、151 射影変換式計算部、152 射影変換部、153 レンズ歪み補正模擬部、154 誤差評価部、155 コーナー位置判定部、156 レンズ位置記憶部、157 面積比LUT記憶部、158 水平垂直移動LUT記憶部、159 画素対応記憶部、160 対応関係計算部、161 位置ずれ計算部、162 投影角歪み計算部、163 サイズずれ計算部、431 投影サイズずれ補正部、432 位置ずれ補正部、441 レンズ歪み補正部、442 投影角歪み補正部。

Claims (12)

  1.  複数のプロジェクタから投影される複数の投影像をスクリーン上で重ねて表示する画像投影システムにおいて、
     画像を表示する表示素子、前記表示素子の表示をスクリーンに投影する投影レンズ、レンズ駆動用コマンドに従って前記投影レンズの位置を移動して前記スクリーン上の投影像の位置およびサイズのいずれか一方、または両方を補正するレンズ駆動部、ならびに、投影領域補正用コマンドに従って前記表示素子に表示する前記画像を変形して前記スクリーン上の投影像の歪みを補正する投影領域補正部を有する複数のプロジェクタと、
     前記複数のプロジェクタから複数の投影像が投影された状態で前記スクリーンを撮像する撮像装置と、
     前記撮像装置が撮像した撮像画像に写る前記スクリーンおよび前記複数の投影像に基づいて、前記スクリーンおよび前記複数の投影像が重なるように前記投影レンズの位置を移動する前記レンズ駆動用コマンド、ならびに、前記スクリーンおよび前記複数の投影像が重なるように前記表示素子に表示する前記画像を変形する前記投影領域補正用コマンドを算出して、前記複数のプロジェクタへ送信する投影位置調整装置とを備える
     ことを特徴とする画像投影システム。
  2.  前記投影位置調整装置は、前記レンズ駆動用コマンドの1つとして、前記スクリーンと前記プロジェクタの投影レンズとの位置関係に起因して生じる、前記スクリーンに対する前記投影像の位置ずれを補正する位置ずれ補正コマンドを算出する位置ずれ計算部を有し、
     前記複数のプロジェクタの前記レンズ駆動部それぞれは、前記位置ずれ補正コマンドに従って前記投影レンズを光軸方向に直交する面上の2軸方向に移動して、前記スクリーンに対する前記投影像の位置を補正する
     ことを特徴とする請求項1記載の画像投影システム。
  3.  前記投影位置調整装置は、前記レンズ駆動用コマンドの1つとして、前記スクリーンと前記プロジェクタの投影レンズとの位置関係に起因して生じる、前記スクリーンに対する前記投影像のサイズのずれを補正するサイズずれ補正コマンドを算出するサイズずれ計算部を有し、
     前記複数のプロジェクタの前記レンズ駆動部それぞれは、前記サイズずれ補正コマンドに従って前記投影レンズを光軸方向に移動して、前記スクリーンに対する前記投影像のサイズを補正する
     ことを特徴とする請求項1記載の画像投影システム。
  4.  前記投影位置調整装置は、前記投影領域補正用コマンドの1つとして、前記プロジェクタの投影レンズの歪みに起因して生じる前記投影像の歪みを補正するレンズ歪み補正コマンドを算出するレンズ歪み計算部を有し、
     前記複数のプロジェクタの前記投影領域補正部それぞれは、前記レンズ歪み補正コマンドに従って前記表示素子に表示する画像を変形し、前記投影像の歪みを補正する
     ことを特徴とする請求項1記載の画像投影システム。
  5.  前記投影位置調整装置は、前記投影領域補正用コマンドの1つとして、前記スクリーンに対する前記プロジェクタの投影角度に起因して生じる前記投影像の歪みを補正する投影角歪み補正コマンドを算出する投影角歪み計算部を有し、
     前記複数のプロジェクタの前記投影領域補正部それぞれは、前記投影角歪み補正コマンドに従って前記表示素子に表示する画像を変形し、前記投影像の歪みを補正する
     ことを特徴とする請求項1記載の画像投影システム。
  6.  前記複数のプロジェクタそれぞれは、前記レンズ駆動部により前記投影レンズを移動する都度、前記投影レンズの最新の絶対位置を保持するレンズ位置記憶部を有し、
     前記投影位置調整装置の位置ずれ計算部は、前記撮像画像に写る前記スクリーンおよび前記投影像から前記スクリーンと前記プロジェクタとの相対的な位置関係を算出し、当該相対的な位置関係に基づいて、前記スクリーン上に設定された前記投影レンズの目標位置と前記レンズ位置記憶部に保持された前記投影レンズの絶対位置とのずれを計算し、当該ずれを補正する前記位置ずれ補正コマンドを算出する
     ことを特徴とする請求項2記載の画像投影システム。
  7.  前記投影位置調整装置は、前記プロジェクタの表示素子と前記撮像装置の撮像素子との画素対応関係を計算する対応関係計算部を有し、
     前記レンズ歪み計算部は、前記対応関係計算部の計算した画素対応関係に基づいて、前記撮像素子を基準にした前記複数のプロジェクタの投影像間の歪みのずれを計算し、当該歪みのずれを補正する前記レンズ歪み補正コマンドを算出する
     ことを特徴とする請求項4記載の画像投影システム。
  8.  前記レンズ歪み計算部は、前記複数のプロジェクタの各投影レンズの位置を補正した後に撮像された撮像画像を用いて、前記レンズ歪み補正コマンドを算出することを特徴とする請求項4記載の画像投影システム。
  9.  前記投影角歪み計算部は、前記複数のプロジェクタの各投影レンズの歪みに起因した各投影像の歪みを補正した後に撮像された撮像画像を用いて、前記投影角歪み補正コマンドを算出することを特徴とする請求項5記載の画像投影システム。
  10.  前記投影角歪み計算部は、前記複数のプロジェクタの各投影レンズの位置を補正した後に撮像された撮像画像を用いて、前記投影角歪み補正コマンドを算出することを特徴とする請求項5記載の画像投影システム。
  11.  複数のプロジェクタからスクリーンに投影する複数の投影像が重なるように調整する投影位置調整方法であって、
     前記複数のプロジェクタから複数の投影像が投影された状態で前記スクリーンを撮像し、当該撮像画像に写る前記スクリーンおよび前記複数の投影像に基づいて、前記スクリーンおよび前記複数の投影像が重なるように前記複数のプロジェクタの各投影レンズの位置を移動させ、前記スクリーン上の前記複数の投影像の位置およびサイズのいずれか一方、または両方を補正するレンズ駆動ステップと、
     前記レンズ駆動ステップで前記複数のプロジェクタの各投影レンズの位置を移動した後に前記スクリーンを撮像し、当該撮像画像に写る前記スクリーンおよび前記複数の投影像に基づいて、前記スクリーンおよび前記複数の投影像が重なるように前記複数のプロジェクタの各表示素子に表示する画像を変形させ、前記投影レンズを通して前記スクリーンに投影された前記複数の投影像の歪みを補正する投影領域補正ステップとを備える
     ことを特徴とする投影位置調整方法。
  12.  前記投影領域補正ステップでは、
     前記複数のプロジェクタの各投影レンズの歪みに起因して生じる前記複数の投影像の歪みを補正するレンズ歪み補正ステップと、
     前記レンズ歪み補正ステップで前記複数のプロジェクタの前記複数の投影像の歪みを補正した後に前記スクリーンを撮像し、当該撮像画像に基づいて、前記スクリーンに対する前記複数のプロジェクタの各投影角度に起因して生じる前記複数の投影像の歪みを補正する投影角歪み補正ステップとを有する
     ことを特徴とする請求項11記載の投影位置調整方法。
PCT/JP2013/073030 2012-09-27 2013-08-28 画像投影システムおよび投影位置調整方法 WO2014050415A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012-214303 2012-09-27
JP2012214303A JP2015232583A (ja) 2012-09-27 2012-09-27 画像投影システムおよび投影位置調整方法

Publications (1)

Publication Number Publication Date
WO2014050415A1 true WO2014050415A1 (ja) 2014-04-03

Family

ID=50387824

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2013/073030 WO2014050415A1 (ja) 2012-09-27 2013-08-28 画像投影システムおよび投影位置調整方法

Country Status (2)

Country Link
JP (1) JP2015232583A (ja)
WO (1) WO2014050415A1 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015155957A1 (ja) * 2014-04-09 2015-10-15 パナソニックIpマネジメント株式会社 車両評価装置
CN105939468A (zh) * 2015-03-03 2016-09-14 株式会社理光 图像显示控制装置和方法、图像显示控制***
CN112687213A (zh) * 2020-12-28 2021-04-20 青岛海信激光显示股份有限公司 激光投影设备及其控制方法
CN113759652A (zh) * 2021-09-02 2021-12-07 深圳市炫之风文化创意有限公司 一种视觉沉浸式立体投影设备以及投影方法
CN113837964A (zh) * 2021-09-26 2021-12-24 深圳市火乐科技发展有限公司 镜头畸变校正方法、装置、介质及电子设备
CN114007053A (zh) * 2020-07-28 2022-02-01 精工爱普生株式会社 图像生成方法、图像生成***和记录介质
CN115343898A (zh) * 2021-04-27 2022-11-15 中强光电股份有限公司 投影***及投射影像叠加方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7096664B2 (ja) * 2017-12-15 2022-07-06 キヤノン株式会社 投写制御装置およびその制御方法、ならびに投写システム
WO2024080234A1 (ja) * 2022-10-11 2024-04-18 パナソニックIpマネジメント株式会社 投影装置、補正装置、投影システム、補正方法及びコンピュータプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005252676A (ja) * 2004-03-04 2005-09-15 Seiko Epson Corp マルチプロジェクションシステムのための画像補正方法
JP2006350370A (ja) * 2002-06-12 2006-12-28 Silicon Optix Inc 短い投影距離の投影システムと方法
JP2009186528A (ja) * 2008-02-04 2009-08-20 Seiko Epson Corp プロジェクタ、およびその位置算出方法
JP2010134396A (ja) * 2008-11-10 2010-06-17 Seiko Epson Corp マルチディスプレイシステム、情報処理装置及びマルチディスプレイシステムにおける画像データ処理方法
JP2011248238A (ja) * 2010-05-28 2011-12-08 Canon Inc 投影システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006350370A (ja) * 2002-06-12 2006-12-28 Silicon Optix Inc 短い投影距離の投影システムと方法
JP2005252676A (ja) * 2004-03-04 2005-09-15 Seiko Epson Corp マルチプロジェクションシステムのための画像補正方法
JP2009186528A (ja) * 2008-02-04 2009-08-20 Seiko Epson Corp プロジェクタ、およびその位置算出方法
JP2010134396A (ja) * 2008-11-10 2010-06-17 Seiko Epson Corp マルチディスプレイシステム、情報処理装置及びマルチディスプレイシステムにおける画像データ処理方法
JP2011248238A (ja) * 2010-05-28 2011-12-08 Canon Inc 投影システム

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015155957A1 (ja) * 2014-04-09 2015-10-15 パナソニックIpマネジメント株式会社 車両評価装置
JP2015200586A (ja) * 2014-04-09 2015-11-12 パナソニックIpマネジメント株式会社 車両評価装置
CN106133498A (zh) * 2014-04-09 2016-11-16 松下知识产权经营株式会社 车辆评价装置
CN106133498B (zh) * 2014-04-09 2019-12-13 松下知识产权经营株式会社 车辆评价装置
US10586116B2 (en) 2014-04-09 2020-03-10 Panasonic Intellectual Property Management Co., Ltd. Vehicle evaluation device
CN105939468A (zh) * 2015-03-03 2016-09-14 株式会社理光 图像显示控制装置和方法、图像显示控制***
CN114007053A (zh) * 2020-07-28 2022-02-01 精工爱普生株式会社 图像生成方法、图像生成***和记录介质
CN114007053B (zh) * 2020-07-28 2023-04-25 精工爱普生株式会社 图像生成方法、图像生成***和记录介质
CN112687213A (zh) * 2020-12-28 2021-04-20 青岛海信激光显示股份有限公司 激光投影设备及其控制方法
CN112687213B (zh) * 2020-12-28 2022-07-26 青岛海信激光显示股份有限公司 激光投影设备及其控制方法
CN115343898A (zh) * 2021-04-27 2022-11-15 中强光电股份有限公司 投影***及投射影像叠加方法
US11979689B2 (en) 2021-04-27 2024-05-07 Coretronic Corporation Projection system and projected image stacking method
CN113759652A (zh) * 2021-09-02 2021-12-07 深圳市炫之风文化创意有限公司 一种视觉沉浸式立体投影设备以及投影方法
CN113837964A (zh) * 2021-09-26 2021-12-24 深圳市火乐科技发展有限公司 镜头畸变校正方法、装置、介质及电子设备

Also Published As

Publication number Publication date
JP2015232583A (ja) 2015-12-24

Similar Documents

Publication Publication Date Title
WO2014050415A1 (ja) 画像投影システムおよび投影位置調整方法
JP5338718B2 (ja) 補正情報算出装置、画像処理装置、画像表示システム、および画像補正方法
US9972075B2 (en) Image correction method of projector and image correction system
KR102328020B1 (ko) 하나의 룩업 테이블을 이용한 파노라마 영상 출력 시스템 및 방법
US9348212B2 (en) Image projection system and image projection method
JP4371130B2 (ja) 画像のセットから合成画像を生成するための方法
US8866902B2 (en) Correction information calculating device, image processing apparatus, image display system, and image correcting method
US20200177866A1 (en) Calibration apparatus, chart for calibration, chart pattern generation apparatus, and calibration method
JP3844076B2 (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
US8491128B2 (en) System and method for projection correction by capturing projection image
WO2006025191A1 (ja) マルチプロジェクションシステムにおける幾何補正方法
US20130222776A1 (en) Image projector, method of image projection, and computer-readable storage medium storing program for causing computer to execute image projection
WO2005084017A1 (ja) マルチプロジェクションシステム
JP2010130225A (ja) 投写型表示装置および投写用調整方法
JP2014192808A (ja) 投影装置、プログラム
JP2011139368A (ja) 撮像装置の制御装置および制御方法
CN102365865A (zh) 多投影显示***和屏幕画面形成方法
JP4702050B2 (ja) 画像投影装置、画像投影装置の投影画像補正方法及びプログラム
JP2018125819A (ja) 制御装置、制御方法、プログラム及び記憶媒体
JP2012078490A (ja) 投写型映像表示装置及び画像調整方法
JP2004228619A (ja) プロジェクタの映像の歪み調整方法
JP2000081593A (ja) 投射型表示装置及びそれを用いた映像システム
US8493401B2 (en) Image processing apparatus, image displaying apparatus, and image processing method
CN114339179B (zh) 投影校正方法、装置、存储介质以及投影设备
TWI434069B (zh) 短焦光學互動投影機系統及其應用的影像擷取及鏡頭歪曲像差校正方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13842880

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 13842880

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP