WO2004057531A1 - 画像合成装置、及びプログラム - Google Patents

画像合成装置、及びプログラム Download PDF

Info

Publication number
WO2004057531A1
WO2004057531A1 PCT/JP2002/013337 JP0213337W WO2004057531A1 WO 2004057531 A1 WO2004057531 A1 WO 2004057531A1 JP 0213337 W JP0213337 W JP 0213337W WO 2004057531 A1 WO2004057531 A1 WO 2004057531A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
brightness
common
unit
common image
Prior art date
Application number
PCT/JP2002/013337
Other languages
English (en)
French (fr)
Inventor
Shigeaki Nakata
Tatsuya Honmaru
Original Assignee
Jicoux Datasystems, Inc.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jicoux Datasystems, Inc. filed Critical Jicoux Datasystems, Inc.
Priority to AU2002357631A priority Critical patent/AU2002357631A1/en
Priority to PCT/JP2002/013337 priority patent/WO2004057531A1/ja
Priority to JP2004562001A priority patent/JPWO2004057531A1/ja
Publication of WO2004057531A1 publication Critical patent/WO2004057531A1/ja

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3876Recombination of partial images to recreate the original image

Definitions

  • the present invention relates to an image composition device that generates a composite image from a plurality of images.
  • image composition for generating one composite image field from a plurality of original images has been performed. For example, a plurality of images obtained by photographing small regions at different positions are combined to generate a combined image of one large region.
  • a composite image is synthesized by projecting each original image onto a plane.
  • the synthesized image obtained by image synthesis may not be preferable. For example, if the shooting time is different, the color of each original image is different, and thus the color of each region of the composite image is different. If the brightness of the original image is different, the brightness of each area of the composite image will be different.
  • an object of the present invention is to provide an image synthesizing apparatus and a program capable of solving the above-mentioned problems. This object is achieved by a combination of features described in the independent claims.
  • the dependent claims define further advantageous embodiments of the present invention. Disclosure of the invention
  • a first embodiment of the present invention is an image synthesizing apparatus that generates a synthetic image from a first image and a second image, wherein the first image and the second image overlap each other.
  • a comparison unit that has a common image and compares the brightness of the first common image, which is a common image of the first image, with the brightness of the second common image, which is a common image of the second image, and a comparison result of the comparison unit.
  • An adjustment unit that adjusts at least a part of the brightness of the second image to the brightness of the first image based on the second image and a combined image including the second image and the first image whose brightness is adjusted by the adjustment unit
  • An image synthesizing device comprising: a synthesized image generating unit.
  • the comparison unit compares the brightness of the first common image with the brightness of the second common image for each predetermined color, and the adjustment unit determines at least a part of the second image based on the comparison result of the comparison unit.
  • the brightness of each of the predetermined colors may be adjusted to the brightness of each of the predetermined colors of the first image.
  • the comparing unit further compares the chromaticity of the first common image with the chromaticity of the second common image, and the adjusting unit determines the chromaticity of at least a part of the second image based on the comparison result of the comparing unit. May be further adjusted to the chromaticity of the first image.
  • the comparing unit calculates a brightness difference between each pixel of the second common image and each corresponding pixel of the first common image, and calculates a correction coefficient for each brightness of the pixels of the second image based on the brightness difference.
  • a positive coefficient calculation unit wherein the adjustment unit adjusts the brightness of each pixel of the second image based on the correction coefficient for each brightness.
  • the correction coefficient calculation unit calculates a brightness difference between a pixel in the second common image having a brightness within a predetermined range and a pixel of the first common image corresponding to a pixel of the second common image having a brightness within a predetermined range. May be calculated, and correction coefficients for all the brightnesses of the second image may be calculated based on the brightness difference.
  • the comparison unit calculates the first standard deviation, which is the standard deviation of the brightness distribution of each pixel in the first common image, and the second standard deviation, which is the standard deviation of the brightness distribution of each pixel in the second common image.
  • a correction coefficient calculating unit that calculates a first common value having a brightness within a constant multiple of the first standard deviation from the average value of the brightness in the first common image.
  • a pixel in the image and a pixel in the second common image having a brightness within a constant multiple of the second standard deviation from the average value of the brightness in the second common image and corresponding to a pixel in the second common image.
  • the brightness difference may be calculated, and the correction coefficient may be calculated based on the brightness difference.
  • the comparing unit compares the brightness in an area other than the high brightness pixels. You may.
  • the correction coefficient calculating unit may extract an area where the brightness difference is smaller than a predetermined value from the calculated brightness difference, and calculate the correction coefficient based on the brightness difference in the extracted area.
  • the image combining device further combines the third image to generate a combined image, the third image has a third common image overlapping the second image, and the second image overlaps the third common image.
  • the comparison unit has a common image, and based on a comparison result between the brightness of the first common image and the brightness of the second common image, and a comparison result between the brightness of the third common image and the brightness of the fourth common image.
  • the brightness of at least a part of the third image is further adjusted to the brightness of the first image, and the composite image generating unit compares the second image, the third image, and the first image whose brightness has been adjusted by the adjusting unit.
  • a composite image may be generated.
  • the image synthesizing device further includes a selection unit that selects a specified image as a first image from among the plurality of given images and selects another image as a second image, The brightness of at least a part of the first image may be adjusted to the brightness of the specified first image.
  • the image synthesizing device selects, as the first image, an image having the largest standard deviation of the brightness distribution of each pixel in the common image from the plurality of given images, and selects another image as the second image.
  • the adjustment unit may further include a selection unit that adjusts the brightness of at least a part of the second image to the brightness of the first image having the largest standard deviation.
  • the composite image generation unit replaces the high brightness pixel area with another image. May be used to generate a composite image.
  • a program for causing a computer to function as an image synthesizing apparatus that generates a synthetic image from a first image and a second image, wherein the first image and the second image overlap each other.
  • a comparison unit that compares the brightness of the first common image that is the common image of the first image with the brightness of the second common image that is the common image of the second image
  • An adjustment unit that adjusts the brightness of at least a part of the second image to the brightness of the first image based on the comparison result, and a second image and a first image whose brightness is adjusted by the adjustment unit
  • a program that functions as a composite image generation unit that generates a composite image.
  • FIG. 1 is a diagram showing an example of a configuration of an image synthesizing device 100 according to an embodiment of the present invention.
  • FIG. 2 is a diagram illustrating an example of the operation of the image synthesizing device 100.
  • FIG. 3 is a diagram illustrating an example of the operation of the comparison unit 10.
  • FIG. 3 (a) shows an example of the brightness distribution of the first common image calculated by the deviation calculation unit 20.
  • FIG. 3 (b) shows the brightness distribution of the second common image calculated by the deviation calculation unit 20.
  • 4 shows an example of a distribution.
  • FIG. 4 is a diagram illustrating an example of the distribution of the brightness difference between the pixels of the first common image and the corresponding pixels of the second common image.
  • FIG. 5 is a diagram illustrating an example of the first common image and the second common image.
  • FIG. 6 is a diagram illustrating an example of a combined image combined by the combined image generation unit 60.
  • FIG. 7 is a flowchart showing an example of the operation of the image synthesizing device 100.
  • FIG. 8 is a diagram showing an example of a configuration of a computer 200 functioning as the image synthesizing device 100.
  • FIG. 1 shows an example of a configuration of an image synthesizing apparatus 100 according to an embodiment of the present invention.
  • the image synthesizing device 100 generates a synthesized image of overlapping common images from a plurality of images.
  • a composite image is generated from a first image and a second image having overlapping common images will be described.
  • the image synthesizing device 100 includes a comparing unit 10, a selecting unit 40, an adjusting unit 50, and a synthesized image generating unit 60.
  • the selection unit 40 selects which of the first image and the second image is to be used for adjusting the brightness and chromaticity of another image. For example, the selection unit 40 selects one of the first image and the second image as a reference image based on an instruction signal given in response to an instruction of the user, and adjusts the brightness and color of the other image. Select as the adjustment image to be applied.
  • the selection unit 40 may select the reference image and the adjustment image based on the standard deviation of the chromaticity and lightness distribution of the first image and the second image. For example, the selection unit 40 may select an image having the largest standard deviation of the chromaticity distribution as the reference image. That is, by adjusting the lightness and chromaticity of an image having a large range to the lightness and chromaticity of another image, a more preferable image can be synthesized.
  • the selection unit 40 may select a reference image from a plurality of images based on shooting conditions such as shooting time, weather at the time of shooting, and shooting angle.
  • the selecting unit 40 selects an image photographed under substantially the same photographing conditions from the plurality of images given to the image synthesizing device 100, and the image synthesizing device 100 selects the selected image. Images may be combined to generate a combined image. Further, the selection unit 40 may select an image based on the shooting time and shooting location of a given image, and weather information at the time of shooting at the shooting location. In this example, a case will be described in which the selection unit 40 selects the first image as the reference image and selects the second image as the adjustment image.
  • the comparison unit 10 receives the first image and the second image, and is a common image of the first image.
  • the brightness and chromaticity of the first image or the second image are adjusted by comparing the brightness and chromaticity of the first common image with the brightness and chromaticity of the second common image that is a common image of the second image. Calculate the correction coefficient. Further, it is preferable that the comparing section 10 compares the lightness of the first common image with the lightness of the second common image for each predetermined color.
  • the comparing unit 10 calculates a distribution and a standard deviation of the brightness and chromaticity of the pixel in each common image, and notifies the selecting unit 40 of the deviation calculating unit 20, and the first image and the second image.
  • a correction coefficient calculating unit that calculates a correction coefficient for adjusting the lightness and chromaticity of one of the images based on the difference between the lightness and chromaticity of the image;
  • the correction coefficient calculation unit 30 calculates a correction coefficient according to the reference image and the selected image selected by the selection unit 40. The details of the operation of the deviation calculator 20 and the correction coefficient calculator 30 will be described later.
  • the adjustment unit 50 adjusts the brightness of at least a part of the second image to the brightness of the first image based on the comparison result of the comparison unit 10. That is, the adjustment unit 50 adjusts the brightness and chromaticity of the adjustment image selected by the selection unit 40 according to the correction coefficient calculated by the correction coefficient calculation unit 30. Further, it is preferable that the adjusting unit 50 adjusts the brightness of each of the predetermined colors in at least a part of the second image to the brightness of each of the predetermined colors of the first image.
  • the composite image generation unit 60 generates a composite image including the second image and the first image whose brightness has been adjusted by the adjustment unit 50. Details of the operation of the composite image generation unit 60 will be described later.
  • the image synthesizing device 100 of the present example it is possible to adjust the difference between the brightness and the chromaticity of a plurality of images, and to generate a synthesized image with the unified brightness and chromaticity. That is, since the first common image and the second common image are images obtained by photographing the same area, the brightness difference, the chromaticity difference, and the like between the corresponding pixels are calculated, and the first common image and the second common image are calculated according to the calculated brightness difference. Lightness and chromaticity can be adjusted by correcting the entire pixel value of the first image or the second image.
  • the first common image and the first 2 By correcting the image based on the brightness difference of the common image, the brightness and chromaticity are the same as when combining images taken under the same shooting conditions. Can generate a unified composite image.
  • FIG. 2 is a diagram illustrating an example of the operation of the image composition device 100.
  • the image combining device 100 combines the first image, the second image, and the third image.
  • the first image includes a first common image overlapping the second image
  • the third image includes a third common image overlapping the second image.
  • the second image includes a second common image overlapping the first image and a fourth common image overlapping the third image.
  • the selection unit 40 selects the first image as a reference image, and sequentially selects the second image and the third image as adjustment images.
  • the comparing unit 10 performs the third comparison based on the comparison result between the brightness of the first common image and the brightness of the second common image and the comparison result between the brightness of the third common image and the brightness of the fourth common image. Adjust the brightness of at least part of the image to the brightness of the first image.
  • the correction coefficient calculation unit 30 calculates a correction coefficient based on a difference between brightness and chromaticity in the common image. That is, the correction coefficient calculator 30 calculates the difference between the brightness and chromaticity of the second common image, the brightness and chromaticity of the first common image, the brightness and chromaticity of the third common image, and the fourth common image. The difference between brightness and chromaticity is calculated.
  • the correction coefficient calculating unit 30 calculates a correction coefficient for correcting the second image based on the difference between the brightness and chromaticity of the second common image and the brightness and chromaticity of the first common image, Based on the difference between the brightness and chromaticity of the second common image and the brightness and chromaticity of the first common image, and based on the difference between the brightness and chromaticity of the third common image and the brightness and chromaticity of the fourth common image. Then, a correction coefficient for correcting the third image is calculated.
  • the adjusting unit 50 adjusts the lightness and chromaticity of the entire corresponding second image and the entirety of the third image to the lightness and chromaticity of the first image based on the correction coefficient.
  • the composite image generation unit 60 composites the second image and the third image whose brightness and chromaticity have been adjusted, and the first image by projecting them on one plane to generate a composite image. Further, the composite image generation section 60 may trim the composite image based on a predetermined trimming frame. At this time, for the area of the common image, a combined image is generated using the common image selected by the selection unit 40.
  • the first common image is used for the common image area of the first image and the second image
  • the second common image is used for the common image area of the second image and the third image.
  • the selection unit 40 is configured to, for each common image, There are few images! / You may select a common image.
  • FIG. 3 is a diagram illustrating an example of the operation of the comparison unit 10.
  • the first common image and the second common image are images of the same region
  • the brightness difference, chromaticity difference, etc. of the corresponding pixels are calculated, and the first common image and the second common image are calculated according to the calculated brightness difference, etc.
  • the brightness and the chromaticity can be adjusted.
  • an unnecessary image such as a cloud or a shadow is captured in any of the common images, if the brightness difference is calculated including these image elements, the brightness difference cannot be calculated accurately. .
  • the comparison unit 10 in the present example removes these unnecessary image elements and calculates the lightness difference between the first common image and the second common image.
  • the deviation calculator 20 extracts a first common image and a second common image from the given first image and second image.
  • the deviation calculator 20 extracts the first common image and the second common image based on, for example, the additional information added to the first image and the second image.
  • each common image may be extracted based on the latitude and longitude information of the image capturing area.
  • the information of the common image is added to the first image and the second image in advance, and the comparing unit 10 may extract each common image based on the information.
  • the correction coefficient calculating unit 30 calculates a brightness difference between each pixel of the first common image and each corresponding pixel of the second common image, and calculates a correction coefficient for each brightness of the pixels of the second image based on the brightness difference. Is calculated.
  • the correction coefficient calculation unit 30 calculates a ⁇ pixel in the first common image having a lightness within a predetermined range and a second delta pixel having a lightness within a predetermined range and corresponding to a pixel of the first common image.
  • the brightness difference from the pixel of the common image is calculated, and the correction coefficient is calculated based on the brightness difference.
  • the predetermined range is notified from the deviation calculator 20. It is preferable that the correction coefficient calculating section 30 calculates the correction coefficient for each predetermined color. For example, the correction coefficient calculation unit 30 calculates the correction coefficient for each of the red, blue, and green color elements.
  • the deviation calculating unit 20 calculates the above-described predetermined range based on the brightness distribution of each pixel of the first common image and the second common image. It is preferable that the comparison unit 10 calculates the distribution of the brightness for each predetermined color. For example, the comparison unit 10 has red, blue, + The brightness distribution is calculated for each of the green and green color components.
  • FIG. 3 (a) shows an example of the brightness distribution of the first common image calculated by the deviation calculating section 20.
  • the horizontal axis indicates the intensity of lightness
  • the vertical axis indicates the frequency of each lightness.
  • the deviation calculator 20 calculates the average value of the brightness of the first common image and the first standard deviation, which is the standard deviation of the brightness distribution of each pixel in the first common image, based on the calculated brightness distribution. I do.
  • the deviation calculating unit 20 calculates a range of lightness that is a constant multiple of the first standard deviation from the average value of the lightness of the first common image, and calculates a predetermined range of lightness of the first common image (x 2 to The correction coefficient calculation unit 30 is notified as y 2 ).
  • FIG. 3B shows an example of the brightness distribution of the second common image calculated by the deviation calculating section 20.
  • the horizontal axis indicates the intensity of lightness
  • the vertical axis indicates the frequency of each lightness.
  • the deviation calculator 20 calculates an average value of the brightness of the second common image and a second standard deviation which is a standard deviation of the brightness distribution of each pixel in the second common image based on the calculated brightness distribution. I do. Further, the deviation calculation unit 20 calculates a range of lightness that is a constant multiple of the second standard deviation from the average value of lightness of the second common image, and calculates a predetermined range of lightness of the second common image (x 2 to The correction coefficient calculation unit 30 is notified as y 2 ).
  • the deviation calculator '20 calculates a range obtained by multiplying the first standard deviation and the second standard deviation by the same constant. Thereby, in the first common image and the second common image, it is possible to calculate the brightness range including the brightness of the same number of pixels.
  • the deviation calculating unit 20 in this example the brightness of pixels having high brightness and low brightness compared to the surroundings, such as a cloud or a shadow, can be excluded from a predetermined range. 30 makes it possible to accurately calculate the brightness difference between the first common image and the second common image. Further, the deviation calculator 20 may notify the correction coefficient calculator 30 of a predetermined range of brightness as a predetermined range.
  • FIG. 4 is a diagram illustrating an example of the distribution of the brightness difference between the pixels of the first common image and the corresponding pixels of the second common image.
  • the horizontal axis represents the brightness of the pixels of the second common image
  • the vertical axis represents the brightness difference between the pixels of the second common image and the corresponding pixels of the first common image.
  • the correction coefficient calculator 30 calculates the brightness difference for each pixel of the second common image. Is calculated. Next, the correction coefficient calculation unit 30 determines whether the brightness of each of the pixels of the first common image and the pixels of the second common image is within a predetermined range notified from the deviation calculation unit 20. Extract the brightness difference.
  • the correction coefficient calculation unit 3 the brightness of the pixels of the second common image is within a predetermined brightness range (x 2 ⁇ y 2), and the brightness of the pixels of the corresponding first Common image is a predetermined
  • the lightness difference between pixels within the lightness range ( Xl to yi ) is extracted.
  • the correction coefficient calculation unit 30 calculates a correction coefficient for correcting the brightness of the pixels of the second common image based on the extracted brightness difference. For example, the correction coefficient calculation unit 30 calculates a correction coefficient for the entire brightness of the second image by linearly approximating the extracted brightness difference. Further, the correction coefficient calculating section 30 may calculate the correction coefficient by performing a higher-order approximation.
  • the correction coefficient calculating section 30 in this example it is possible to calculate the brightness difference when an unnecessary image is removed from the same image including unnecessary clouds and shadows, for example. Therefore, the correction coefficient can be calculated with high accuracy.
  • the correction coefficient calculation unit 30 may extract an area where the brightness difference is smaller than a predetermined value from the calculated brightness difference, and calculate the correction coefficient based on the brightness difference in the area. Since the first common image and the second common image photograph the same area, the brightness difference between the corresponding pixels is mostly within the predetermined range, but any one of the images has clouds or shadows. When is photographed, the brightness difference at the relevant location may increase. By extracting a region where the brightness difference is smaller than a predetermined value, the correction coefficient can be calculated with high accuracy.
  • correction coefficient calculation unit 30 may extract a region with a small variation in distribution from the calculated brightness difference, and calculate the correction coefficient based on the brightness difference in the region.
  • FIG. 5 shows an example of the first common image and the second common image.
  • unnecessary clouds 102 are captured in the first common image
  • unnecessary shadows 104 are captured in the second common image.
  • the comparison unit 10 includes the first common image and the second common image.
  • the correction coefficient is calculated based on the brightness difference between the corresponding pixels of the passing image.
  • the cloud 102 and the shadow 100 are calculated in the first common image and the second common image.
  • the correction coefficient is calculated excluding the brightness difference of the pixels in the area corresponding to 4. As a result, the correction coefficient can be accurately calculated.
  • the adjustment unit 50 described with reference to FIG. 1 calculates the brightness of each pixel of the second image based on the correction coefficient for each brightness calculated by the correction coefficient calculation unit 30 described with reference to FIG. Correct for each specified color. Thereby, the brightness and chromaticity of the second image can be adjusted to the brightness and chromaticity of the first image. Further, the comparing unit 10 compares the chromaticity of the first common image with the chromaticity of the second common image in the same manner as the lightness correction coefficient described with reference to FIGS. 50 may adjust at least a part of the chromaticity of the second image to the chromaticity of the first image based on the comparison result of the comparing unit 10.
  • the comparing unit 10 excludes the cloud and the shadow area based on the distribution of the brightness difference, but in other examples, the cloud and the shadow are excluded by the image processing. May be extracted and excluded.
  • the comparison unit 10 may determine the area other than the high-brightness pixels. The lightness at may be compared.
  • FIG. 6 shows an example of a combined image combined by the combined image generation unit 60.
  • the composite image generation unit 60 removes unnecessary cloud and shadow images from the composite image.
  • an unnecessary image is present in the area of the common image in the composite image.
  • the composite image generation unit 60 replaces the second common image with the third image whose brightness and chromaticity have been adjusted.
  • a composite image is generated using the third common image.
  • the composite image generation unit 60 extracts an area of the common image where an unnecessary image is captured by image processing, and places the area in a corresponding area of another common image. You may change it. For example, when the high brightness pixels having brightness higher than a predetermined brightness in the common image are adjacent to each other by a predetermined number of pixels or more, the composite image generation unit 60 determines the high brightness pixel as a cloud, and Alternatively, an image may be synthesized using a corresponding area of another common image.
  • the composite image generation unit 60 extracts the region by image processing and replaces the region with another image. Good.
  • the other images are preferably provided in advance. For example, when a high-brightness pixel having a brightness higher than a predetermined brightness is adjacent to a predetermined number of pixels or more, the composite image generation unit 60 uses another image instead of the high-brightness pixel area. May be synthesized. Further, when there are a plurality of images obtained by photographing the same area, the image synthesizing apparatus 100 may preferentially select an image having a small number of unnecessary image elements to generate a synthesized image.
  • the image synthesizing device 100 in the present example it is possible to easily generate a synthesized image from which unnecessary images have been removed.
  • FIG. 7 is a flowchart illustrating an example of the operation of the image composition device 100.
  • the comparison unit 10 compares the brightness of the common image (S300).
  • the comparing unit 10 compares the brightness of the common image as described with reference to FIGS.
  • the adjusting unit 50 adjusts the brightness of at least a part of the second image based on the comparison result of the comparing unit 10 (S302).
  • the adjustment unit 50 adjusts the brightness of the second image as described with reference to FIGS.
  • the synthesized image generating section 60 generates a synthesized image (S304).
  • the composite image generation unit 60 generates a composite image as described with reference to FIGS.
  • FIG. 8 shows an example of a configuration of a computer 200 functioning as the image synthesizing device 100.
  • the computer 200 stores a program that causes the computer 200 to function as the image synthesizing device 100 described with reference to FIGS.
  • Computer 200 has CPU 700, ROM 702, and RAM 704 , A communication interface 706, a hard disk drive 710, an FD disk drive 712, and a CD-ROM drive 716.
  • the CPU 700 operates based on programs stored in the ROM 702, the RAM 704, the hard disk 710, the FD disk 714, and / or the CD-ROM 718.
  • a program that causes the computer 200 to function as the image synthesizing device 100 includes a computer 200 that has a brightness of a first common image that is a common image of a first image and a brightness of a second common image that is a common image of a second image.
  • a comparison unit 10 that compares the brightness of the second image with the brightness of the first image based on the comparison result of the comparison unit 10; and a brightness adjustment unit 50 that adjusts the brightness of the second image. It is made to function as a composite image generation unit 60 that generates a composite image including the adjusted second image and the first image.
  • the program causes the CPU 700 to function as the image synthesizing device 100.
  • the communication interface 706 communicates with the outside and receives an original image to be combined with an image.
  • a hard disk drive 710 as an example of a storage device stores setting information, a received image, and a program for operating the CPU 700.
  • the ROM 702, the RAM 704, and / or the hard disk drive 7 10 store a program for causing the image composition device 100 to function as the image composition device 100 described with reference to FIGS.
  • the original image to be combined with the image may be stored in a flexible disk 720, a CD-ROM 722, a hard disk drive 7 10 or the like.
  • the FD drive 712 reads the program from the flexible disk 714 and provides it to the C-700.
  • the CD-ROM drive 716 reads the program from the CD-ROM 718 and provides it to the CPU 700.
  • the program may be read directly from the recording medium to the RAM and executed, or may be read into the RAM after being installed in the hard disk drive and executed. Further, the program may be stored on a single recording medium or on a plurality of recording media. The program stored in the recording medium may provide each function in cooperation with the operating system. For example The program may request the operating system to perform some or all of the functions, and provide the functions based on a response from the operating system.
  • Recording media for storing programs include flexible disks, CD-ROMs, optical recording media such as DVDs and PDs, magneto-optical recording media such as MDs, tape media, magnetic recording media, IC cards and miniature media.
  • a semiconductor memory such as a card can be used.
  • a storage device such as a hard disk or a RAM provided in a server system connected to a dedicated communication network or the Internet may be used as a recording medium.
  • the brightness and chromaticity of each image can be adjusted with high accuracy. Also, unnecessary image elements can be removed from the composite image.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)

Abstract

 第1画像及び第2画像から、合成画像を生成する画像合成装置であって、第1画像及び第2画像は重なり合う共通画像を有し、第1画像の共通画像である第1共通画像の明度と、第2画像の共通画像である第2共通画像の明度とを比較する比較部と、比較部の比較結果に基づいて、第2画像の少なくとも一部の明度を、第1画像の明度に調整する調整部と、調整部によって明度が調整された第2画像と第1画像とを含む合成画像を生成する合成画像生成部とを備えることを特徴とする画像合成装置を提供する。

Description

画像合成装置、 及ぴプログラム 技術分野
本発明は、 複数の画像から合成画像を生成する画像合成装置に関する。
背景技術
従来、 複数の元画像から一つの合成画像田を生成する画像合成が行われている。 例 えば、 異なる位置の小領域を撮影した複数の画像を合成し、 一つの大領域の合成画 像を生成している。 概念的には、 それぞれの元画像を平面に投影することによって 合成画像が合成される。
このような画像合成の一例として、 複数の衛星画像を合成して一つの合成画像を 生成する場合がある。 この場合、 異なる緯度経度の位置を撮影した元画像を合成す ることにより、 大領域の合成画像を生成している。
しかし、 従来の画像合成において、 元画像の撮影条件が異なる場合、 画像合成し た合成画像が好ましくない場合がある。 例えば、 撮影時期が異なる場合、 それぞれ の元画像の色味が異なるため、 合成画像のそれぞれの領域において色味が異なって しまう。 また、 元画像の明度が異なる場合、 合成画像のそれぞれの領域において明 度が異なってしまう。
また、 複数の衛星画像を合成して、 大領域の地形情報を有する合成画像を生成す るような場合、 それぞれの衛星画像に雲が撮影されると当該箇所の地形情報が抜け てしまう。
そこで本発明は、上記の課題を解決することのできる画像合成装置、及びプロ グラムを提供することを目的とする。 この目的は、請求の範囲における独立項に 記載の特徴の組み合わせにより達成される。また従属項は本発明の更なる有利な 具体例を規定する。 発明の開示
上記課題を解決する fこめに、本発明の第 1の形態においては、第 1画像及ぴ第 2画像から、合成画像を生成する画像合成装置であって、第 1画像及び第 2画像 は重なり合う共通画像を有し、第 1画像の共通画像である第 1共通画像の明度と、 第 2画像の共通画像である第 2共通画像の明度とを比較する比較部と、比較部の 比較結果に基づいて、第 2画像の少なくとも一部の明度を、第 1画像の明度に調 整する調整部と、調整部によって明度が調整された第 2画像と第 1画像とを含む 合成画像を生成する合成画像生成部とを備えることを特徴とする画像合成装置 を提供する。
比較部は、 所定の色毎に、 第 1共通画像の明度と、 第 2共通画像の明度とを比 較し、 調整部は、 比較部の比較結果に基づいて、 第 2画像の少なくとも一部にお ける所定の色毎の明度を、 第 1画像の所定の色毎の明度に調整してよい。 また、 比較部は、第 1共通画像の色度と第 2共通画像の色度とを更に比較し、調整部は、 比較部の比較結果に基づいて、第 2画像の少なくとも一部の色度を、第 1画像の 色度に更に調整してもよい。
比較部は、第 2共通画像の各画素と、第 1共通画像の対応する各画素との明度 差を算出し、明度差に基づいて第 2画像の画素の明度毎に補正係数を算出する補 正係数算出部を有し、調整部は、 明度毎の補正係数に基づいて、 第 2画像の各画 素の明度を調整してよレ、。補正係数算出部は、所定の範囲内の明度を有する第 2 共通画像における画素と、所定の範囲内の明度を有し第 2共通画像の画素と対応 する第 1共通画像の画素との明度差を算出し、明度差に基づいて第 2画像の全て の明度に対する補正係数を算出してよい。
比較部は、第 1共通画像における各画素の明度の分布の標準偏差である第 1標 準偏差、及び第 2共通画像における各画素の明度の分布の標準偏差である第 2標 準偏差を算出する偏差算出部を更に有し、捕正係数算出部は、第 1共通画像にお ける明度の平均値から、第 1標準偏差の定数倍の範囲内の明度を有する第 1共通 画像における画素と、第 2共通画像における明度の平均値から、第 2標準偏差の 定数倍の範囲内の明度を有し、第 1共通画像の画素と対応する第 2共通画像の画 素との明度差を算出し、 明度差に基づいて補正係数を算出してよい。
比較部は、第 1共通画像及ぴ第 2共通画像において、所定の明度より高い明度 を有する高明度画素が、所定の画素数以上隣接している場合、高明度画素以外の 領域における明度を比較してよい。
補正係数算出部は、算出した明度差において、明度差が所定の値より小さい領 域を抽出し、抽出した領域における明度差に基づいて、補正係数を算出してよい。 画像合成装置は、 第 3画像を更に合成して合成画像を生成し、 第 3画像は、 第 2 画像と重なり合う第 3共通画像を有し、第 2画像は、第 3共通画像と重なり合う 第 4共通画像を有し、比較部は、第 1共通画像の明度と第 2共通画像の明度との 比較結果、及び第 3共通画像の明度と第 4共通画像の明度との比較結果に基づい て、 第 3画像の少なくとも一部の明度を、 第 1画像の明度に更に調整し、 合成画 像生成部は、調整部によって明度が調整された第 2画像及び第 3画像、並びに第 1画像とを含む合成画像を生成してよい。
画像合成装置は、与えられた複数の画像のうち、指定された画像を第 1画像と して選択し、 他の画像を第 2画像として選択する選択部を更に備え、 調整部は、 第 2の画像の少なくとも一部の明度を、指定された第 1の画像の明度に調整して よい。
また、 画像合成装置は、 与えられた複数の画像のうち、 共通画像における各画 素の明度の分布の標準偏差が最も大きい画像を第 1画像として選択し、他の画像 を第 2画像として選択する選択部を更に備えることにより、調整部に第 2画像の 少なくとも一部の明度を、標準偏差が最も大きい画像である第 1画像の明度に調 整させてもよい。
合成画像生成部は、第 1画像及び第 2画像において、所定の明度より高い明度 を有する高明度画素が、所定の画素数以上隣接する場合に、高明度画素の領域に 代えて、 他の画像を用いて合成画像を生成してよい。 本発明の第 2の形態においては、 コンピュータを、第 1画像及ぴ第 2画像から 合成画像を生成する画像合成装置として機能させるプログラムであって、第 1画 像及び第 2画像は重なり合う共通画像を有し、プログラムはコンピュータを、第 1画像の共通画像である第 1共通画像の明度と、第 2画像の共通画像である第 2 共通画像の明度とを比較する比較部と、比較部の比較結果に基づいて、第 2画像 の少なくとも一部の明度を、第 1画像の明度に調整する調整部と、調整部によつ て明度が調整された第 2画像と第 1画像とを含む合成画像を生成する合成画像 生成部として機能させることを特徴とするプログラムを提供する。
尚、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではなく、 これらの特徴群のサブコンビネーションも又、 発明となり うる。 図面の簡単な説明
図 1は、本発明の実施形態に係る画像合成装置 1 0 0の構成の一例を示す図 である。
図 2は、 画像合成装置 1 0 0の動作の一例を説明する図である。
図 3は、 比較部 1 0の動作の一例を説明する図である。 図 3 ( a ) は、 偏差 算出部 2 0が算出した第 1共通画像の明度の分布の一例を示し、 図 3 ( b ) は、 偏差算出部 2 0が算出した第 2共通画像の明度の分布の一例を示す。
図 4は、第 1共通画像の画素と、対応する第 2共通画像の画素との明度差の 分布の一例を示す図である。
図 5は、 第 1共通画像及び第 2共通画像の一例を示す図である。
図 6は、 合成画像生成部 6 0が合成した合成画像の一例を示す図である。 図 7は、 画像合成装置 1 0 0の動作の一例を示すフローチヤ一トである。 図 8は、画像合成装置 1 0 0として機能するコンピュータ 2 0 0の構成の一 例を示す図である。 発明を実施するための最良の形態 以下、 発明の実施の形態を通じて本発明を説明するが、 以下の実施形態は特許請 求の範囲にかかる発明を限定するものではなく、 又実施形態の中で説明されている 特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図 1は、 本発明の実施形態に係る画像合成装置.1 0 0の構成の一例を示す。 画像 合成装置 1 0 0は、 重なり合う共通画像を複数の画像から合成画像を生成する。 本 例においては、 重なり合う共通画像を有する第 1画像及び第 2画像から合成画像を 生成する場合について説明する。
画像合成装置 1 0 0は、 比較部 1 0、 選択部 4 0、 調整部 5 0、 及ぴ合成画像生 成部 6 0を備える。 選択部 4 0は、 第 1画像又は第 2画像のいずれの明度及び色度 に、 他の画像の明度及び色度を調整するかを選択する。 例えば、 選択部 4 0は、 使 用者の指示に応じて与えられる指示信号に基づいて、 第 1画像又は第 2画像の一方 を基準画像として選択し、 他方を明度及ぴ色 が調整されるべき調整画像として選 択する。
また、 他の例においては、 選択部 4 0は、 第 1画像及ぴ第 2画像の色度及び明度 の分布の標準偏差に基づいて、 基準画像及び調整画像を選択してもよい。 例えば、 選択部 4 0は、 色度の分布の標準偏差が最も大きい画像を基準画像として選択して よい。 つまり、 レンジの大きい画像の明度及び色度に、 他の画像の明度及び色度を 調整することにより、 より好ましい画像を合成することができる。 また、 選択部 4 0は、 撮影時期、 撮影時の天候、 撮影角度等の撮影条件に基づいて、 複数の画像か ら基準画像を選択してもよい。 また、 選択部 4 0は、 画像合成装置 1 0 0に与えら れた複数の画像から、 略同一の撮影条件によって撮影された画像を選択し、 画像合 成装置 1 0 0は、 選択された画像を合成して合成画像を生成してもよい。 また、 選 択部 4 0は、 与えられた画像の撮影時及び撮影場所と、 当該撮影場所の撮影時にお ける天候の情報とに基づいて、 画像を選択してもよい。 本例においては、 選択部 4 0が第 1画像を基準画像として選択し、 第 2画像を調整画像として選択する場合に ついて説明する。
比較部 1 0は、第 1画像及び第 2画像を受け取り、第 1画像の共通画像である 第 1共通画像の明度及び色度と、第 2画像の共通画像である第 2共通画像の明度 及び色度とを比較し、第 1画像又は第 2画像の明度及び色度を調整するための補 正係数を算出する。また、比較部 1 0は、所定の色毎に、第 1共通画像の明度と、 第 2共通画像の明度とを比較することが好ましい。
また、 比較部 1 0は、 それぞれの共通画像における画素の明度及ぴ色度の分布及 び標準偏差を算出し、 選択部 4 0に通知する偏差算出部 2 0と、 第 1画像及び第 2 画像の明度及び色度の差分に基づいて、 いずれかの画像の明度及び色度を調整する ための補正係数を算出する補正係数算出部 3 0を有する。 補正係数算出部 3 0は、 選択部 4 0が選択した基準画像及び選択画像に応じて、 補正係数を算出する。 偏差 算出部 2 0及ぴ補正係数算出部 3 0の動作の詳細については後述する。
調整部 5 0は、 比較部 1 0の比較結果に基づいて、 第 2画像の少なくとも一部の 明度を、 第 1画像の明度に調整する。 つまり、 調整部 5 0は、 補正係数算出部 3 0 が算出した補正係数に応じて、 選択部 4 0が選択した調整画像の明度及び色度を調 整する。 また、 調整部 5 0は、 第 2画像の少なくとも一部における所定の色毎の明 度を、 第 1画像の所定の色毎の明度に調整することが好ましい。
合成画像生成部 6 0は、 調整部 5 0によって明度が調整された第 2画像と第 1画 像とを含む合成画像を生成する。 合成画像生成部 6 0の動作の詳細については後述 する。
本例における画像合成装置 1 0 0によれば、 複数の画像の明度及び色度の差を調 整し、 明度及び色度が統一された合成画像を生成することができる。 つまり、 第 1 共通画像及ぴ第 2共通画像は、 同一の領域を撮影した画像であるため、 対応する画 素同士の明度差、 色度差等を算出し、 算出した明度差等に応じて第 1画像又は第 2 画像の全体の画素値を補正することにより、 明度及び色度の調整をすることができ る。 このため、 異なる時期、 異なる天気、 異なる撮影角度等の異なる撮影条件にお いて撮影され、 明度及び色度の異なる複数の衛星画像から画像を合成した場合であ つても、 第 1共通画像及び第 2共通画像の明度差等に基づいて画像を補正すること により、 同一の撮影条件で撮影された画像から合成する場合と同様に明度及び色度 が統一された合成画像を生成することができる。
図 2は、画像合成装置 1 0 0の動作の一例を説明する図である。本例においては、 画像合成装置 1 0 0が、 第 1画像、 第 2画像、 及び第 3画像を合成する場合につい て説明する。 第 1画像は、 第 2画像と重なり合う第 1共通画像を含み、 第 3画像は 第 2画像と重なり合う第 3共通画像を含む。 また、 第 2画像は、 第 1画像と重なり 合う第 2共通画像、 及び第 3画像と重なり合う第 4共通画像を含む。
選択部 4 0は、 第 1画像を基準画像として選択し、 第 2画像及び第 3画像を順次 調整画像として選択する。 比較部 1 0は、 第 1共通画像の明度と第 2共通画像の明 度との比較結果、 及び第 3共通画像の明度と第 4共通画像の明度との比較結果に基 づいて、 第 3画像の少なくとも一部の明度を、 第 1画像の明度に調整する。
補正係数算出部 3 0は、 共通画像における明度及び色度の差分に基づいて補正係 数,を算出する。 つまり、 補正係数算出部 3 0は、 第 2共通画像の明度及び色度と、 第 1共通画像の明度及び色度の差分、 並びに第 3共通画像の明度及び色度と、 第 4 共通画像の明度及ぴ色度の差分を算出する。 捕正係数算出部 3 0は、 第 2共通画像 の明度及び色度と、 第 1共通画像の明度及び色度の差分に基づいて、 第 2画像を補 正するための補正係数を算出し、 第 2共通画像の明度及ぴ色度と、 第 1共通画像の 明度及び色度の差分、 並びに第 3共通画像の明度及ぴ色度と、 第 4共通画像の明度 及び色度の差分に基づいて、 第 3画像を補正するための補正係数を算出する。 調整 部 5 0は当該補正係数に基づいて、 対応する第 2画像の全体及ぴ第 3画像の全体の 明度及び色度を、 第 1画像の明度及び色度に調整する。
合成画像生成部 6 0は、 明度及び色度が調整された第 2画像及び第 3画像と、 第 1画像とを、一つの平面に投影することにより合成し、合成画像を生成する。また、 合成画像生成部 6 0は、 合成画像を所定のトリミング枠に基づいて、 トリミングし てもよい。 このとき、 共通画像の領域については、 選択部 4 0が選択した共通画像 を用いて合成画像を生成する。 本例においては、 第 1画像と第 2画像の共通画像領 域には第 1共通画像を使用し、 第 2画像と第 3画像の共通画像領域には第 2共通画 像を使用する。 選択部 4 0は、 例えばそれぞれの共通画像において、 雲等の不要な 画像が少な!/、共通画像を選択してよい。
図 3は、 比較部 1 0の動作の一例を説明する図である。 前述したように第 1共通 画像及び第 2共通画像は、 同一の領域を撮影した画像であるため、 対応する画素同 士の明度差、 色度差等を算出し、 算出した明度差等に応じて第 1画像又は第 2画像 の全体の画素値を補正することにより、 明度及び色度の調整をすることができる。, し力 し、 いずれかの共通画像に雲や影のような不要な画像が撮影されている場合、 これらの画像要素を含めて明度差を算出すると、 精度よく明度差を算出することが できない。 本例における比較部 1 0は、 これらの不要な画像要素を除去して、 第 1 共通画像と第 2共通画像の明度差等を算出する。
まず、 偏差算出部 2 0は、 与えられた第 1画像及び第 2画像から、 第 1共通画像 及び第 2共通画像を抽出する。 偏差算出部 2 0は、 例えば第 1画像及び第 2画像に 付加された付加情報に基づいて第 1共通画像及び第 2共通画像を抽出する。つまり、 画像の撮影領域の緯度経度の情報等に基づいて、 それぞれの共通画像 抽出してよ レ、。 また、 第 1画像及ぴ第 2画像には、 予め共通画像の情報が付加されており、 比 較部 1 0は、 当該情報に基づいてそれぞれの共通画像を抽出してもよい。
補正係数算出部 3 0は、第 1共通画像の各画素と、第 2共通画像の対応する各 画素との明度差を算出し、明度差に基づいて第 2画像の画素の明度毎に補正係数 を算出する。 ここで、 補正係数算出部 3 0は、 所定の範囲内の明度を有する第 1 共通画像におけ δ画素と、所定の範囲内の明度を有し前記第 1共通画像の画素と 対応する第 2共通画像の画素との明度差を算出し、当該明度差に基づいて補正係 数を算出する。 当該所定の範囲は、 偏差算出部 2 0から通知される。 補正係数算 出部 3 0は、 当該補正係数を、 所定の色毎に算出することが好ましい。 例えば、 補正係数算出部 3 0は、 赤、 青、 及び緑の各色要素毎に、 当該補正係数を算出す る。
偏差算出部 2 0は、第 1共通画像及び第 2共通画像のそれぞれの画素の明度の 分布に基づいて、 上述した所定の範囲を算出する。 比較部 1 0は、 当該明度の分 布を、 所定の色毎に算出することが好ましい。 例えば、 比較部 1 0は、 赤、 青、 + . 及び緑の各色要素毎に、 当該明度の分布を算出する。
3 ( a ) は、 偏差算出部 2 0が算出した第 1共通画像の明度の分布の一例を 示す。 図 3 ( a ) において、 横軸は明度の強度を示し、 縦軸は各明度の度数を示 す。 偏差算出部 2 0は、算出した明度の分布に基づいて、 第 1共通画像の明度の 平均値、及び第 1共通画像における各画素の明度の分布の標準偏差である第 1標 準偏差を算出する。また、偏差算出部 2 0は、第 1共通画像の明度の平均値から、 第 1標準偏差の定数倍である明度の範囲を算出し、第 1共通画像の明度の所定の 範囲 (x 2〜y 2 ) として補正係数算出部 3 0に通知する。
図 3 ( b ) は、偏差算出部 2 0が算出した第 2共通画像の明度の分布の一例を 示す。 図 3 ( b ) において、 横軸は明度の強度を示し、 縦軸は各明度の度数を示 す。 偏差算出部 2 0は、 算出した明度の分布に基づいて、 第 2共通画像の明度の 平均値、及び第 2共通画像における各画素の明度の分布の標準偏差である第 2標 準偏差を算出する。また、偏差算出部 2 0は、第 2共通画像の明度の平均値から、 第 2標準偏差の定数倍である明度の範囲を算出し、第 2共通画像の明度の所定の 範囲 (x 2〜y 2 ) として補正係数算出部 3 0に通知する。 ここで、 偏差算出部 ' 2 0は、第 1標準偏差と第 2標準偏差とを、'同一の定数倍した範囲を算出するこ とが好ましい。 これにより、 第 1共通画像と第 2共通画像において、 同数の画素 の明度をそれぞれ含む明度の範囲を算出することができる。
本例における偏差算出部 2 0によれば、例えば雲や影のような、周囲に比べて 高明度の画素及び低明度の画素の明度を所定の範囲から除くことができ、補正係 数算出部 3 0に第 1共通画像と第 2共通画像の明度差を精度よく算出させるこ とができる。 また、 偏差算出部 2 0は、 予め定められた明度の範囲を、 所定の範 囲として補正係数算出部 3 0に通知してもよい。
図 4は、第 1共通画像の画素と、対応する第 2共通画像の画素との明度差の分 布の一例を示す図である。 図 4において、横軸は第 2共通画像の画素の明度を示 し、 縦軸は、 第 2共通画像の画素と、 対応する第 1共通画像の画素との明度差を 示す。 補正係数算出部 3 0は、 当該明度差を、 第 2共通画像のそれぞれの画素毎 に算出する。 次に、補正係数算出部 3 0は、 第 1共通画像の画素及び第 2共通画 像の画素のそれぞれの明度が、偏差算出部 2 0から通知された所定の範囲内にあ る画素同士の明度差を抽出する。 つまり、補正係数算出部 3 0は、 第 2共通画像 の画素の明度が所定の明度範囲内 (x 2〜y 2 ) であって、 且つ対応する第 1共 通画像の画素の明度が所定の明度範囲内 (X ly i ) である画素同士の明度差 を抽出する。
次に、 補正係数算出部 3 0は、 抽出した明度差に基づいて、 第 2共通画像の画 素の明度を補正するための補正係数を算出する。例えば、補正係数算出部 3 0は 抽出した明度差を直線近似することにより、第 2画像の全てめ明度に対する補正 係数を算出する。 また、補正係数算出部 3 0は、 更に高次の近似をすることによ り、 補正係数を算出してもよい。
本例における補正係数算出部 3 0によれば、例えば不要な雲や影を含む画像同 土から、不要な画像を除去した場合の明度差を算出することができる。このため、 補正係数を精度よく算出することができる。
また、補正係数算出部 3 0は、 算出した明度差において、 明度差が所定の値よ り小さい領域を抽出し、当該領域における明度差に基づいて補正係数を算出して もよい。第 1共通画像と第 2共通画像とは同一の領域を撮影しているため、対応 する画素同士の明度差は、大部分が所定の範囲内にあるが、いずれかの画像に雲 や影等が撮影された場合、 当該箇所の明度差が大きくなる場合がある。 明度差が 所定の値より小さい領域を抽出することにより、補正係数を精度よく算出するこ とができる。
また、補正係数算出部 3 0は、 算出した明度差において、 分布のバラツキが 少ない領域を抽出し、当該領域における明度差に基づいて補正係数を算出しても よい。
図 5は、第 1共通画像及び第 2共通画像の一例を示す。本例において第 1共通 画像には不要な雲 1 0 2が撮影され、第 2共通画像には不要な影 1 0 4が撮影さ れている。 図 4において説明したように、 比較部 1 0は、 第 1共通画像と第 2共 通画像の対応する画素同士の明度差に基づいて補正係数を算出するが、図 4にお いて説明したように第 1共通画像及ぴ第 2共通画像において、雲 1 0 2及ぴ影 1 0 4に対応する領域における画素の明度差については除外して補正係数を算出 する。 これにより、 精度よく補正係数を算出することができる。
図 1に関連して説明した調整部 5 0は、図 4に関連して説明した補正係数算出 部 3 0が算出した明度毎の補正係数に基づいて、第 2画像の各画素の明度を、所 定の色毎に補正する。 これにより、 第 2画像の明度及び色度を、 第 1画像の明度 及び色度に調整することができる。 また、 比較部 1 0は、 図 3及ぴ図 4に関連し て説明した明度の補正係数と同様に、第 1共通画像の色度と第 2共通画像の色度 とを比較し、 調整部 5 0は、 比較部 1 0の比較結果に基づいて、 第 2画像の少な くとも一部の色度を、 第 1画像の色度に調整してもよい。
また、 比較部 1 0は、 図 3及び図 4において説明したように、 明度差の分布に 基づいて雲や影の領域を除外していたが、他の例においては、画像処理によって 雲や影の領域を抽出して除外してもよい。 例えば、 比較部 1 0は、 第 1共通画像 及び第 2共通画像において、所定の明度より高い明度を有する高明度画素が、所 定の画素数以上隣接している場合、高明度画素以外の領域における明度を比較し てもよい。
図 6は、合成画像生成部 6 0が合成した合成画像の一例を示す。本例において、 合成画像生成部 6 0は、合成画像から不要な雲や影の画像を除去する。 まず、合 成画像において、共通画像の領域に不要な画像が有る場合について説明する。例 えば、第 2画像の第 4共通画像に不要な画像が撮影されている場合、合成画像生 成部 6 0は、第 2共通画像に代えて、 明度及び色度が調整された第 3画像の第 3 共通画像を用いて合成画像を生成する。つまり、重なりあう共通画像においては、 不要な画像が撮影されていない共通画像を優先して使用して画像を合成するこ とが好ましい。
また、合成画像生成部 6 0は、共通画像において不要な画像が撮影されている 領域を画像処理により抽出して、当該領域を他の共通画像の対応する領域に置き 換えてもよい。 例えば、 合成画像生成部 6 0は、 共通画像において所定の明度よ り高い明度を有する高明度画素が、所定の画素数以上隣接する場合に、 当該高明 度画素を雲と判定し、当該領域に代えて他の共通画像の対応する領域を用いて画 像を合成してよい。
次に、 合成画像において、 共通画像以外の領域に不要な画像がある場合には、 合成画像生成部 6 0は、 当該領域を画像処理により抽出して、 当該領域を他の画 像に置き換えてよい。 当該他の画像は、 予め与えられていることが好ましい。 例 えば、 合成画像生成部 6 0は、 所定の明度より高い明度を有する高明度画素が、 所定の画素数以上隣接する場合に、高明度画素の領域に代えて、他の画像を用い て画像を合成してよい。 また、 画像合成装置 1 0 0は、 同一の領域を撮影した画 像が複数ある場合、不要な画像要素が少ない画像を優先して選択して合成画像を 生成してもよレ、。
本例における画像合成装置 1 0 0によれば、不要な画像を除去した合成画像を 容易に生成することができる。
図 7は、画像合成装置 1 0 0の動作の一例を示すフローチャートである。まず、 比較段階で、 比較部 1 0が共通画像の明度を比較する (S 3 0 0 ) 。 S 3 0 0に おいて、 比較部 1 0は、 図 1から図 6において説明したように、 共通画像の明度 を比較する。次に、調整段階で、調整部 5 0が比較部 1 0の比較結果に基づいて、 第 2画像の少なくとも一部の明度を調整する (S 3 0 2 ) 。 S 3 0 2において、 調整部 5 0は、 図 1から図 6において説明したように、第 2画像の明度を調整す る。 次に、 画像合成段階で、 合成画像生成部 6 0が合成画像を生成する (S 3 0 4 ) 。 S 3 0 4において、 合成画像生成部 6 0は、 図 1から図 6において説明し たように、 合成画像を生成する。
図 8は、画像合成装置 1 0 0として機能するコンピュータ 2 0 0の構成の一例 を示す。 本例において、 コンピュータ 2 0 0は、 コンピュータ 2 0 0を図 1から 図 6において説明した画像合成装置 1 0 0として機能させるプログラムを格納 する。 コンピュータ 2 0 0は、 C P U 7 0 0と、 R OM 7 0 2と、 R AM 7 0 4 と、 通信インターフェース 706と、 ハードディスクドライブ 7 1 0と、 FDデ イスクドライブ 7 1 2と、 CD— ROMドライブ 7 1 6とを備える。 CPU 70 0は、 ROM 702、 RAM 704、 ハードディスク 7 1 0、 FDディスク 71 4、及び/又は CD— ROM7 1 8に格納されたプログラムに基づいて動作する。 例えば、コンピュータ 200を画像合成装置 1 00として機能させるプログラ ムは、 コンピュータ 200を第 1画像の共通画像である第 1共通画像の明度と、 第 2画像の共通画像である第 2共通画像の明度とを比較する比較部 10と、比較 部 1 0の比較結果に基づいて、第 2画像の少なくとも一部の明度を、第 1画像の 明度に調整する調整部 50と、調整部 50によって明度が調整された第 2画像と 第 1画像とを含む合成画像を生成する合成画像生成部 60として機能させる。例 えば、 プログラムは、 CPU700を、 画像合成装置 1 00として機能させる。 通信ィンターフェース 706は、外部と通信し、画像を合成するべき元画像を 受信する。格納装置の一例としてのハードディスクドライブ 7 1 0は、設定情報、 受信した画像及ぴ C PU 700を動作させるプログラムを格納する。 ROM70 2、 RAM 704、 及び/又はハードディスクドライブ 7 1 0は、 画像合成装置 1 00を図 1から図 6に関連して説明した画像合成装置 1 00として機能させ るためのプログラムを格納する。 また、 画像を合成するべき元画像は、 フレキシ ブルディスク 720、 CD— ROM 722、 ハードディスクドライブ 7 1 0等に 格納されていてもよい。
FDドライブ 712はフレキシブルディスク 714からプログラムを読み取り C Ρϋ 700に提供する。 CD— ROMドライブ 716は CD— ROM718からプ ログラムを読み取り CPU 700に提供する。
また、 プログラムは記録媒体から直接 RAMに読み出されて実行されても、一 且ハードディスクドライブにィンストールされた後に RAMに読み出されて実 行されても良い。更に、上記プログラムは単一の記録媒体に格納されても複数の 記録媒体に格納されても良い。 また記録媒体に格納されるプログラムは、ォペレ ーティングシステムとの共同によつてそれぞれの機能を提供してもよレ、。例えば 、 プログラムは、機能の一部または全部を行うことをオペレーティングシステム に依頼し、オペレーティングシステムからの応答に基づいて機能を提供するもの であってもよレヽ。
プログラムを格納する記録媒体としては、 フレキシブルディスク、 C D— R OM の他にも、 D V D、 P D等の光学記録媒体、 MD等の光磁気記録媒体、テープ媒体、 磁気記録媒体、 I Cカードやミニチュア一カードなどの半導体メモリー等を用いる ことができる。 又、 専用通信ネットワークやインターネットに接続されたサーバシ ステムに設けたハードディスクまたは R AM等の格納装置を記録媒体として使用し てもよい。
以上、 本発明を実施の形態を用いて説明したが、 本発明の技術的範囲は上記実施 の形態に記載の範囲には限定されない。 上記実施の形態に、 多様な変更又は改良を 加えることが可能であることが当業者に明らかである。 その様な変更又は改良を加 えた形態も本 明の技術的範囲に含まれ得ることが、 請求の範囲の記載から明らか である。 産業上の利用可能性
上記説明から明らかなように、本発明によれば、複数の画像を合成して合成画 像を生成する場合に、それぞれの画像の明度及び色度を精度よく調整することが できる。 また、 合成画像から不要な画像要素を除去することができる。

Claims

請 求 の 範 囲
1 . 第 1画像及び第 2画像から、 合成画像を生成する画像合成装置であって、 前記第 1画像及び前記第 2画像は重なり合う共通画像を有し、
前記第 1画像の前記共通画像である第 1共通画像の明度と、前記第 2画像の前 記共通画像である第 2共通画像の明度とを比較する比較部と、
前記比較部の比較結果に基づいて、 前記第 2画像の少なくとも一部の明度を、 前記第 1画像の明度に調整する調整部と、
前記調整部によって明度が調整された前記第 2画像と前記第 1画像とを含む 合成画像を生成する合成画像生成部と
を備えることを特徴とする画像合成装置。
2 . 前記比較部は、 所定の色毎に、 前記第 1共通画像の明度と、 前記第 2共通 画像の明度とを比較し、
前記調整部は、前記比較部の比較結果に基づいて、前記第 2画像の少なくとも 一部における前記所定の色毎の明度を、前記第 1画像の前記所定の色毎の明度に 調整することを特徴とする請求項 1に記載の画像合成装置。
3 . 前記比較部は、前記第 1共通画像の色度と前記第 2共通画像の色度とを更 に比較し、
前記調整部は、前記比較部の比較結果に基づいて、前記第 2画像の少なくとも 一部の色度を、前記第 1画像の色度に更に調整することを特徴とする請求項 1に 記載の画像合成装置。
4 . 前記比較部は、
前記第 2共通画像の各画素と、前記第 1共通画像の対応する各画素との明度差 を算出し、前記明度差に基づいて前記第 2画像の画素の明度毎に補正係数を算出 する補正係数算出部を有し、
前記調整部は、前記明度毎の補正係数に基づいて、前記第 2画像の各画素の明 度を調整することを特徴とする請求項 1に記載の画像合成装置。
5 . 前記補正係数算出部は、所定の範囲内の明度を有する前記第 2共通画像に おける画素と、所定の範囲内の明度を有し前記第 2共通画像の画素と対応する前 記第 1共通画像の画素との明度差を算出し、前記明度差に基づいて前記第 2画像 の全ての明度に対する前記補正係数を算出することを特徴とする請求項 4に記 載の画像合成装置。
6 . 前記比較部は、
前記第 1共通画像における各画素の明度の分布の標準偏差である第 1標準偏 差、及び前記第 2共通画像における各画素の明度の分布の標準偏差である第 2標 準偏差を算出する偏差算出部を更に有し、
前記補正係数算出部は、前記第 1共通画像における明度の平均値から、前記第 1標準偏差の定数倍の範囲内の明度を有する前記第 1共通画像における画素と、 前記第 2共通画像における明度の平均値から、前記第 2標準偏差の前記定数倍の 範囲内の明度を有し、前記第 1共通画像の画素と対応する前記第 2共通画像の画 素との明度差を算出し、前記明度差に基づいて前記補正係数を算出することを特 徴とする請求項 5に記載の画像合成装置。
7 . 前記比較部は、 前記第 1共通画像及び前記第 2共通画像において、所定の 明度より高い明度を有する高明度画素が、 所定の画素数以上隣接している場合、 前記高明度画素以外の領域における明度を比較することを特徴とする請求項 1 に記載の画像合成装置。
8 . 前記補正係数算出部は、 算出した前記明度差において、 前記明度差が所定 の値より小さい領域を抽出し、抽出した前記領域における前記明度差に基づいて、 前記補正係数を算出することを特徴とする請求項 4に記載の画像合成装置。
9 . 前記画像合成装置は、 第 3画像を更に合成して前記合成画像を生成し、 前記第 3画像は、 前記第 2画像と重なり合う第 3共通画像を有し、
前記第 2画像は、 前記第 3共通画像と重なり合う第 4共通画像を有し、 前記比較部は、前記第 1共通画像の明度と前記第 2共通画像の明度との比較結 果、及び前記第 3共通画像の明度と前記第 4共通画像の明度との比較結果に基づ いて、前記第 3画像の少なくとも一部の明度を、前記第 1画像の明度に更に調整 し、
前記合成画像生成部は、前記調整部によつて明度が調整された前記第 2画像及 ぴ前記第 3画像、並びに前記第 1画像とを含む合成画像を生成することを特徴と する請求項 1に記載の画像合成装置。
1 0 . 与えられた複数の画像のうち、指定された画像を前記第 1画像として選 択し、 他の画像を前記第 2画像として選択する選択部を更に備え、
前記調整部は、前記第 2の画像の少なくとも一部の明度を、指定された前記第 1の画像の明度に調整することを特徴とする請求項 1に記載の画像合成装置。
1 1 . 与えられた複数の画像のうち、前記共通画像における各画素の明度の分 布の標準偏差が最も大きい画像を前記第 1画像として選択し、他の画像を前記第 2画像として選択する選択部を更に備え.ることにより、前記調整部に前記第 2画 像の少なくとも一部 < 明度を、前記標準偏差が最も大きい画像である前記第 1画 ' 像の明度に調整させることを特徴とする請求項 1に記載の画像合成装置。
1 2 . 前記合成画像生成部は、前記第 1画像及び前記第 2画像において、 所定 の明度より高い明度を有する高明度画素が、 所定の画素数以上隣接する場合に、 前記高明度画素の領域に代えて、他の画像を用いて前記合成画像を生成すること を特徴とする請求項 1に記載の画像合成装置。
1 3 . コンピュータを、第 1画像及び第 2画像から合成画像を生成する画像合 成装置として機能させるプログラムであって、
前記第 1画像及び前記第 2画像は重なり合う共通画像を有し、
前記プログラムは前記コンピュータを、
前記第 1画像の前記共通画像である第 1共通画像の明度と、前記第 2画像の前 記共通画像である第 2共通画像の明度とを比較する比較部と、
前記比較部の比較結果に基づいて、 前記第 2画像の少なくとも一部の明度を、 前記第 1画像の明度に調整する調整部と、
前記調整部によって明度が調整された前記第 2画像と前記第 1画像とを含む 合成画像を生成する合成画像生成部と して機能させることを特徴とするプログラム
PCT/JP2002/013337 2002-12-20 2002-12-20 画像合成装置、及びプログラム WO2004057531A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
AU2002357631A AU2002357631A1 (en) 2002-12-20 2002-12-20 Image synthesizer and program
PCT/JP2002/013337 WO2004057531A1 (ja) 2002-12-20 2002-12-20 画像合成装置、及びプログラム
JP2004562001A JPWO2004057531A1 (ja) 2002-12-20 2002-12-20 画像合成装置、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2002/013337 WO2004057531A1 (ja) 2002-12-20 2002-12-20 画像合成装置、及びプログラム

Publications (1)

Publication Number Publication Date
WO2004057531A1 true WO2004057531A1 (ja) 2004-07-08

Family

ID=32676926

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2002/013337 WO2004057531A1 (ja) 2002-12-20 2002-12-20 画像合成装置、及びプログラム

Country Status (3)

Country Link
JP (1) JPWO2004057531A1 (ja)
AU (1) AU2002357631A1 (ja)
WO (1) WO2004057531A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010106583A1 (ja) * 2009-03-18 2010-09-23 株式会社パスコ 地表面画像データの生成方法および生成装置
JP2011150733A (ja) * 2004-08-04 2011-08-04 Intergraph Software Technologies Co 非均一分解能で合成イメージを用意する方法
US8346019B2 (en) 2007-10-15 2013-01-01 Nippon Telegraph And Telephone Corporation Image generation method and apparatus, program therefor, and storage medium which stores the program
US8355596B2 (en) 2007-10-15 2013-01-15 Nippon Telegraph And Telephone Corporation Image generation method and apparatus, program therefor, and storage medium which stores the program
JP2013141209A (ja) * 2011-12-30 2013-07-18 Hitachi Ltd 画像霧除去装置及び画像霧除去方法
US20220327659A1 (en) * 2021-04-08 2022-10-13 Raytheon Company Mitigating transitions in mosaic images

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0298789A (ja) * 1988-10-05 1990-04-11 Fujitsu Ltd 画像読取装置
JPH05324344A (ja) * 1992-05-21 1993-12-07 Hitachi Ltd 関数呼出し時の引数処理最適化方法
JPH07193746A (ja) * 1993-10-20 1995-07-28 Philips Electron Nv 画像処理システム
JPH0993430A (ja) * 1995-09-26 1997-04-04 Canon Inc 画像合成方法及び画像合成装置
JPH11102430A (ja) * 1997-09-25 1999-04-13 Sharp Corp 画像処理装置
JPH11242737A (ja) * 1998-02-26 1999-09-07 Ricoh Co Ltd 画像処理方法及び装置並びに情報記録媒体

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0298789A (ja) * 1988-10-05 1990-04-11 Fujitsu Ltd 画像読取装置
JPH05324344A (ja) * 1992-05-21 1993-12-07 Hitachi Ltd 関数呼出し時の引数処理最適化方法
JPH07193746A (ja) * 1993-10-20 1995-07-28 Philips Electron Nv 画像処理システム
JPH0993430A (ja) * 1995-09-26 1997-04-04 Canon Inc 画像合成方法及び画像合成装置
JPH11102430A (ja) * 1997-09-25 1999-04-13 Sharp Corp 画像処理装置
JPH11242737A (ja) * 1998-02-26 1999-09-07 Ricoh Co Ltd 画像処理方法及び装置並びに情報記録媒体

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011150733A (ja) * 2004-08-04 2011-08-04 Intergraph Software Technologies Co 非均一分解能で合成イメージを用意する方法
US8346019B2 (en) 2007-10-15 2013-01-01 Nippon Telegraph And Telephone Corporation Image generation method and apparatus, program therefor, and storage medium which stores the program
US8355596B2 (en) 2007-10-15 2013-01-15 Nippon Telegraph And Telephone Corporation Image generation method and apparatus, program therefor, and storage medium which stores the program
WO2010106583A1 (ja) * 2009-03-18 2010-09-23 株式会社パスコ 地表面画像データの生成方法および生成装置
US8184865B2 (en) 2009-03-18 2012-05-22 Pasco Corporation Method and apparatus for producing land-surface image data
JP2013141209A (ja) * 2011-12-30 2013-07-18 Hitachi Ltd 画像霧除去装置及び画像霧除去方法
US20220327659A1 (en) * 2021-04-08 2022-10-13 Raytheon Company Mitigating transitions in mosaic images
US11769224B2 (en) * 2021-04-08 2023-09-26 Raytheon Company Mitigating transitions in mosaic images

Also Published As

Publication number Publication date
JPWO2004057531A1 (ja) 2006-04-27
AU2002357631A1 (en) 2004-07-14

Similar Documents

Publication Publication Date Title
RU2718119C1 (ru) Устройство обработки информации, способ генерации изображения, способ управления и носитель данных
RU2704608C1 (ru) Устройство управления, способ управления и носитель данных
RU2704244C1 (ru) Способ генерирования изображения виртуальной точки обзора и устройство обработки изображений
CN101527860B (zh) 白平衡控制设备及其控制方法和摄像设备
RU2713238C1 (ru) Устройство управления, способ управления и программа
US9998702B2 (en) Image processing device, development apparatus, image processing method, development method, image processing program, development program and raw moving image format
US8989443B2 (en) Method of improving orientation and color balance of digital images using face detection information
JP5791336B2 (ja) 画像処理装置及びその制御方法
US8077214B2 (en) Signal processing apparatus, signal processing method, program and recording medium
US7822234B2 (en) Perfecting the effect of flash within an image acquisition devices using face detection
US7809162B2 (en) Digital image processing using face detection information
US20040042791A1 (en) Image pickup apparatus with brightness distribution chart display capability
US20080143854A1 (en) Perfecting the optics within a digital image acquisition device using face detection
US20100039525A1 (en) Perfecting of Digital Image Capture Parameters Within Acquisition Devices Using Face Detection
US20070160307A1 (en) Modification of Viewing Parameters for Digital Images Using Face Detection Information
EP2323374A1 (en) Image pickup apparatus, image pickup method, and program
JPWO2006059573A1 (ja) 色彩調整装置及び方法
US20180260941A1 (en) Preserving color in image brightness adjustment for exposure fusion
WO2004057531A1 (ja) 画像合成装置、及びプログラム
JP2001094886A (ja) 撮像装置、撮像装置の制御方法及び記憶媒体
JP2002281379A (ja) 撮像システム
US8035682B2 (en) Moving screen image assembler
US20120249840A1 (en) Electronic camera
JP2011044989A (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
CN103685853A (zh) 图像处理装置和图像处理方法

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A1

Designated state(s): AE AG AL AM AT AU AZ BA BB BG BR BY BZ CA CH CN CO CR CU CZ DE DK DM DZ EC EE ES FI GB GD GE GH GM HR HU ID IL IN IS JP KE KG KP KR KZ LC LK LR LS LT LU LV MA MD MG MK MN MW MX MZ NO NZ OM PH PL PT RO RU SC SD SE SG SK SL TJ TM TN TR TT TZ UA UG US UZ VC VN YU ZA ZM ZW

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): GH GM KE LS MW MZ SD SL SZ TZ UG ZM ZW AM AZ BY KG KZ MD RU TJ TM AT BE BG CH CY CZ DE DK EE ES FI FR GB GR IE IT LU MC NL PT SE SI SK TR BF BJ CF CG CI CM GA GN GQ GW ML MR NE SN TD TG

121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 2004562001

Country of ref document: JP

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established
32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 69(1)EPC. EPO FORM 1205A DATED 05-10-05

122 Ep: pct application non-entry in european phase