JP2010245870A - Lens adapter device for multi-spectral photographing, multi-spectral camera and image processor - Google Patents

Lens adapter device for multi-spectral photographing, multi-spectral camera and image processor Download PDF

Info

Publication number
JP2010245870A
JP2010245870A JP2009092898A JP2009092898A JP2010245870A JP 2010245870 A JP2010245870 A JP 2010245870A JP 2009092898 A JP2009092898 A JP 2009092898A JP 2009092898 A JP2009092898 A JP 2009092898A JP 2010245870 A JP2010245870 A JP 2010245870A
Authority
JP
Japan
Prior art keywords
light
subject
reflecting mirror
image
photographing lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2009092898A
Other languages
Japanese (ja)
Inventor
Takuji Horie
卓二 堀江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2009092898A priority Critical patent/JP2010245870A/en
Publication of JP2010245870A publication Critical patent/JP2010245870A/en
Withdrawn legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a technique for acquiring multi-spectral-image data by using a conventional RGB image-sensing system in spite of a comparatively simple configuration. <P>SOLUTION: A lens adapter 100 for a multi-spectral photographing is arranged between an object Obj and a photographic lens 200. The lens adapter 100 includes light-guide optical systems 108, 110, 114 and 116 for forming a plurality of object images Im1 and Im2 on the imaging surface of the photographic lens 200 by introducing object lights from the object Obj to the plane of incidence of the photographic lens 200 through a plurality of paths Path 1 and Path 2. The lens adapter further includes a spectral-characteristic changing optical system 112 changing the relative spectral distribution of the object light introduced to the plane of incidence of the photographic lens 200 through either path in the object light proceeding through a plurality of the paths Path 1 and Path 2 so as to differ from the relative spectral distribution of the object lights introduced to the plane of incidence of the photographic lens 200 through other paths. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、4以上のバンド数で色分解してマルチスペクトル画像を生成するために用いて好適なマルチスペクトル撮影用レンズアダプタ装置、マルチスペクトル撮影装置、および画像処理装置に関する。   The present invention relates to a lens adapter device for multispectral imaging, a multispectral imaging device, and an image processing device suitable for use in generating a multispectral image by color separation with a band number of 4 or more.

従来の3原色にとらわれない多原色の映像表現を用い、より忠実で自然な色再現を可能とするための一方法として、3バンドよりも多いバンド数の帯域フィルタを用いて撮像する技術が開発されている。本明細書中では、3よりも多いバンド数を「マルチバンド」、3よりも多い原色数からなる画像を「多原色の画像」、そして3よりも多いスペクトルからなる画像を「マルチスペクトルの画像」などと称する。   Developed a technique to capture images using a band filter with more than 3 bands as a method to enable more faithful and natural color reproduction using multi-primary video representations that are not confined to the conventional 3 primary colors. Has been. In the present specification, a band number greater than 3 is referred to as “multi-band”, an image composed of more than 3 primary colors as “multi-primary image”, and an image composed of more than 3 spectra as “multi-spectral image”. Or the like.

マルチスペクトルの画像を得るための技術として、特許文献1に開示されるものがある。この技術では、結像光学系(撮影レンズ)と撮像素子との間に分岐光学系が設けられる。分岐光学系は、結像光学系の一次結像面に形成された被写体像を分割して二つの異なる経路上に導く。これら二つの経路のうち、一の経路上には第1の分光透過特性を有するフィルタが配置され、他の経路上には第2の分光透過特性を有するフィルタが配置される。   As a technique for obtaining a multispectral image, there is one disclosed in Patent Document 1. In this technique, a branching optical system is provided between the imaging optical system (photographing lens) and the image sensor. The branching optical system divides the subject image formed on the primary imaging surface of the imaging optical system and guides it on two different paths. Of these two paths, a filter having the first spectral transmission characteristic is arranged on one path, and a filter having the second spectral transmission characteristic is arranged on the other path.

これら第1、第2の分光等価特性を有するフィルタを透過した被写体光は結像レンズによって撮像素子の受光面上に再結像される。撮像素子は、その受光面上にBGRのカラーフィルタアレイが形成される単板式のものである。第1の分光透過特性を有するフィルタと上記BGRのカラーフィルタアレイとの組み合わせによって3バンドの画像データを得ることができる。また、第2の分光透過特性を有するフィルタと上記BGRのカラーフィルタアレイとの組み合わせによって別の3バンドの画像データを得ることができる。このようにして、合計6バンドの画像データを得ることが可能となる。   The subject light that has passed through the filters having the first and second spectral equivalent characteristics is re-imaged on the light receiving surface of the image sensor by the imaging lens. The image sensor is a single plate type in which a BGR color filter array is formed on the light receiving surface. Three-band image data can be obtained by a combination of the filter having the first spectral transmission characteristic and the BGR color filter array. Further, another three-band image data can be obtained by combining the filter having the second spectral transmission characteristic and the BGR color filter array. In this way, a total of 6 bands of image data can be obtained.

特開2005−260480JP-A-2005-260480

上記技術においては、分岐光学系が必要となる。この分岐光学系は、撮影レンズの一次結像面上の被写体像を撮像素子上に再結像するための再結像光学系を含む。撮影レンズによって形成される被写体像の画質を維持するためには、再結像光学系は複雑な構成を必要とする。また、撮影レンズの一次結像面の後方に分岐光学系が配置されるため、撮影装置が大型化するのを免れない。本発明は、上記の点に鑑みてなされたもので、比較的単純な構成でありながら従来のRGB撮像系を用いてマルチスペクトル画像データを得ることを可能とする技術を提供することを課題とする。   In the above technique, a branching optical system is required. This branching optical system includes a re-imaging optical system for re-imaging the subject image on the primary imaging surface of the photographing lens on the image sensor. In order to maintain the image quality of the subject image formed by the taking lens, the re-imaging optical system requires a complicated configuration. In addition, since the branching optical system is disposed behind the primary imaging plane of the photographing lens, it is inevitable that the photographing apparatus is increased in size. The present invention has been made in view of the above points, and it is an object of the present invention to provide a technique capable of obtaining multispectral image data using a conventional RGB imaging system with a relatively simple configuration. To do.

本発明の第1の態様は、被写体と撮影レンズとの間に配置される、マルチスペクトル撮影用レンズアダプタ装置に適用される。そしてこのマルチスペクトル撮影用レンズアダプタ装置が、
前記被写体からの被写体光を、複数の経路を経て前記撮影レンズの入射面へ導くことにより前記撮影レンズの結像面上に複数の被写体像を形成可能とする導光光学系と、
前記複数の経路を経て進む前記被写体光のうち、いずれかの経路を経て前記撮影レンズの入射面に導かれる被写体光の相対分光分布が他の経路を経て前記撮影レンズの入射面に導かれる被写体光の相対分光分布と異なるように変化させる分光特性変更光学系と
を有することにより上述した課題を解決する。
The first aspect of the present invention is applied to a lens adapter device for multispectral imaging that is disposed between a subject and a taking lens. And this multi-spectral imaging lens adapter device
A light guide optical system capable of forming a plurality of subject images on an imaging surface of the photographing lens by guiding subject light from the subject to an incident surface of the photographing lens through a plurality of paths;
Of the subject light traveling through the plurality of paths, a subject whose relative spectral distribution of the subject light guided to the incident surface of the photographing lens via any one of the paths is guided to the incident surface of the photographing lens via another path The problem described above is solved by having a spectral characteristic changing optical system that changes the relative spectral distribution of light differently.

本発明の第2の態様は、4以上のバンド数のマルチスペクトル画像データを生成可能なマルチスペクトル撮影装置に適用される。そしてこのマルチスペクトル撮像装置が、
1または複数の撮像素子と、
被写体からの被写体光を前記撮像素子に導く撮影レンズと、
前記撮影レンズによって導かれて前記1または複数の撮像素子に入射する被写体光を複数の色に分解する色分解要素と、
前記撮影レンズの入射側に配置される被写体光分割装置とを有し、
前記被写体光分割装置が、
前記被写体からの被写体光を、複数の異なる経路を経て前記撮影レンズの入射面へ導くことにより前記撮影レンズの結像面上に複数の被写体像を形成可能とする導光光学系と、
前記複数の経路を経て進む前記被写体光のうち、いずれかの経路を経て前記撮影レンズの入射面に導かれる被写体光の相対分光分布が他の経路を経て前記撮影レンズの入射面に導かれる被写体光の相対分光分布と異なるように変化させる分光特性変更光光学系と
を有する。
The second aspect of the present invention is applied to a multispectral imaging apparatus capable of generating multispectral image data having four or more bands. And this multispectral imaging device
One or more image sensors;
A photographic lens for guiding subject light from the subject to the image sensor;
A color separation element that separates subject light that is guided by the photographing lens and enters the one or more imaging elements into a plurality of colors;
An object light splitting device disposed on the incident side of the photographing lens;
The subject light splitting device comprises:
A light guide optical system capable of forming a plurality of subject images on an imaging plane of the photographing lens by guiding subject light from the subject to an incident surface of the photographing lens through a plurality of different paths;
Of the subject light traveling through the plurality of paths, a subject whose relative spectral distribution of the subject light guided to the incident surface of the photographing lens via any one of the paths is guided to the incident surface of the photographing lens via another path A spectral characteristic changing optical optical system that changes the relative spectral distribution of light differently.

被写体からの被写体光は、導光光学系によって複数の経路を経て撮影レンズの入射面へ導かれる。これら複数の経路を経て進む被写体光のうち、いずれかの経路を経て撮影レンズの入射面に導かれる被写体光の相対分光分布が他の経路を経て撮影レンズの入射面に導かれる被写体光の相対分光分布と異なるように変化させられる。これにより、上記複数の経路のそれぞれを経て撮影レンズに入射した被写体光によって形成される複数の画像のそれぞれからは、互いに異なる色情報を得ることができ、これらの色情報に基づいてマルチスペクトル画像データを生成することが可能となる。   Subject light from the subject is guided to the incident surface of the photographing lens through a plurality of paths by the light guide optical system. Of the subject light that travels through these multiple paths, the relative spectral distribution of the subject light that is guided to the entrance surface of the photographic lens via one of the paths is relative to the subject light that is guided to the entrance surface of the photographic lens via another path. It is changed to be different from the spectral distribution. Accordingly, different color information can be obtained from each of the plurality of images formed by the subject light incident on the photographing lens through each of the plurality of paths, and the multispectral image can be obtained based on the color information. Data can be generated.

デジタル一眼レフレックスカメラに装着される撮影レンズにレンズアダプタを取り付けた様子を説明する斜視図である。It is a perspective view explaining a mode that the lens adapter was attached to the imaging lens with which a digital single-lens reflex camera is mounted | worn. レンズアダプタの内部構成を説明する平面図である。It is a top view explaining the internal structure of a lens adapter. フィルタの分光透過特性と撮像素子を構成する各色の画素の分光感度との関係を概念的に示す図であり、(a)、(b)は光学フィルタの異なる分光透過特性の例を示し、(c)は赤外域近傍まで感度を有する撮像素子とともに用いて好適な分光透過特性の例を説明する図である。It is a figure which shows notionally the relationship between the spectral transmission characteristic of a filter, and the spectral sensitivity of the pixel of each color which comprises an image sensor, (a), (b) shows the example of the different spectral transmission characteristic of an optical filter, c) is a diagram illustrating an example of spectral transmission characteristics suitable for use with an image sensor having sensitivity up to near the infrared region. 分光透過特性を電気的に切り替え可能なフィルタを説明する図であり、(a)はその内部構成を、(b)はこのフィルタで得られる分光透過特性の例を示す図である。It is a figure explaining the filter which can switch a spectral transmission characteristic electrically, (a) is the internal structure, (b) is a figure which shows the example of the spectral transmission characteristic obtained with this filter. 画像処理部で行われる位置合わせ処理を概念的に説明する図であり、(a)はテンプレートマッチング処理における基準画像を、(b)は位置合わせ画像を示す図である。It is a figure which illustrates notionally the registration process performed by an image process part, (a) is a figure which shows the reference | standard image in a template matching process, (b) is a figure which shows a registration image. 撮影装置の概略的内部構成を説明するブロック図である。It is a block diagram explaining the schematic internal structure of an imaging device. 撮像装置内の画像処理部で行われるマルチスペクトル画像生成処理の手順を説明する概略フローチャートである。It is a schematic flowchart explaining the procedure of the multispectral image generation process performed in the image process part in an imaging device. 2枚のミラーを用いるレンズアダプタの例を説明する平面図である。It is a top view explaining the example of the lens adapter using two mirrors. 2枚のミラーを用いて三つの被写体像を得ることのできるレンズアダプタの例を説明する平面図である。It is a top view explaining the example of the lens adapter which can obtain three to-be-photographed images using two mirrors. 図2に示されるレンズアダプタにビームスプリッタおよびもう1枚のミラーを追加し、得られる二つの被写体像に視差が生じないようにすることができる例を説明する平面図である。FIG. 3 is a plan view for explaining an example in which a beam splitter and another mirror are added to the lens adapter shown in FIG. 2 so that parallax does not occur in two obtained subject images.

図1は、本発明の実施の形態に係る、マルチスペクトル撮影用レンズアダプタ装置100(以下、単に「レンズアダプタ」と称する)が撮影レンズ200に装着される様子を説明する斜視図である。図1において、撮影レンズ200は撮影装置300に対して着脱自在に装着されるものとして説明する。   FIG. 1 is a perspective view for explaining a state in which a multi-spectral imaging lens adapter device 100 (hereinafter simply referred to as a “lens adapter”) according to an embodiment of the present invention is attached to an imaging lens 200. In FIG. 1, description will be made assuming that the photographing lens 200 is detachably attached to the photographing apparatus 300.

本実施の形態において、撮影装置300は撮影レンズ200を取り外して別の撮影レンズに交換可能なデジタル一眼レフレックスカメラであるものとして説明する。しかし、撮影装置300はレフレックスミラーを有しない形式のものであってもよく、撮影レンズ固定式のものであってもよい。撮影装置300はまた、スチルカメラであってもムービーカメラであってもよい。また、撮影装置300が撮影レンズ固定式のものである場合、レンズアダプタ100はその撮影レンズに対して着脱可能に構成されていても取り外し不能に構成されていてもよい。   In the present embodiment, the imaging apparatus 300 will be described as a digital single-lens reflex camera in which the imaging lens 200 can be removed and replaced with another imaging lens. However, the photographing apparatus 300 may be of a type that does not have a reflex mirror, or may be of a photographing lens fixed type. The photographing apparatus 300 may be a still camera or a movie camera. Further, when the photographing apparatus 300 is a photographing lens fixed type, the lens adapter 100 may be configured to be detachable from the photographing lens or not removable.

レンズアダプタ100は、本体部102を有する。本体部102には互いに離隔して設けられる2つの開口部104、106を有する。これらの開口部104、106の奥に第1ミラー108および第2ミラー110が保持される。二つの開口部104、106のうち、一方の開口部104には、分光特性変更光学系としてのフィルタ112が配置される。図1においては、フィルタ112が開口部104に取り付けようとするところが描かれている。フィルタ112の特性については後で詳述する。   The lens adapter 100 has a main body 102. The main body 102 has two openings 104 and 106 that are provided apart from each other. The first mirror 108 and the second mirror 110 are held behind these openings 104 and 106. A filter 112 serving as a spectral characteristic changing optical system is disposed in one of the two openings 104 and 106. In FIG. 1, a place where the filter 112 is to be attached to the opening 104 is depicted. The characteristics of the filter 112 will be described in detail later.

レンズアダプタ100は、本体部102の後方、すなわち撮影レンズ200と対向する側にねじ式またはバヨネット式等の締結要素が設けられている。この締結要素がねじ式のものである場合、本体部102の後方に雄ねじが形成され、撮影レンズ200の先端部分、すなわち被写体光が入射する側の先端部分に切られている雌ねじ(フィルタねじ)と螺合される。これによりレンズアダプタ100と撮影レンズ200とが締結される。締結要素がバヨネット式のものである場合、撮影レンズ200の外周の先端部分近傍にバヨネット締結用の突起または凹部が設けられる。そして本体部102の後方には、撮影レンズ200に設けられた上記突起または凹部と係合するバヨネット機構が設けられる。   The lens adapter 100 is provided with a fastening element such as a screw type or bayonet type on the rear side of the main body 102, that is, on the side facing the photographing lens 200. When this fastening element is of a screw type, a male screw is formed behind the main body 102 and a female screw (filter screw) cut at the tip of the photographing lens 200, that is, the tip of the subject light incident side. And screwed together. Thereby, the lens adapter 100 and the taking lens 200 are fastened. When the fastening element is of a bayonet type, a bayonet fastening protrusion or recess is provided in the vicinity of the distal end portion of the outer periphery of the taking lens 200. A bayonet mechanism that engages with the protrusions or recesses provided on the photographing lens 200 is provided behind the main body 102.

図2は、レンズアダプタ100の内部構成を、撮影レンズ200、撮影装置300とともに示す図であり、これらのレンズアダプタ100、撮影レンズ200、撮影装置300を上側から見た様子を示す図である。   FIG. 2 is a diagram illustrating the internal configuration of the lens adapter 100 together with the photographing lens 200 and the photographing device 300, and is a diagram illustrating the lens adapter 100, the photographing lens 200, and the photographing device 300 as viewed from above.

撮影装置300は、いわゆる単板式のものであっても多板式のものであってもよい。撮影装置300が単板式のものである場合、受光面上に青、緑、赤等のオンチップカラーフィルタがタイル状に配列された撮像素子を用いることが可能である。これらのオンチップカラーフィルタにより、撮像素子に入射する被写体光は複数の色に色分解される。   The photographing apparatus 300 may be a so-called single plate type or multi-plate type. When the imaging apparatus 300 is of a single plate type, an imaging element in which on-chip color filters such as blue, green, and red are arranged in a tile shape on the light receiving surface can be used. By these on-chip color filters, the subject light incident on the image sensor is separated into a plurality of colors.

撮影装置300が多板式のものである場合、撮影レンズ200の射出側にダイクロイックプリズム等の色分解光学要素が設けられる。このダイクロイックプリズムは、白色光を例えば青、緑、赤の成分の光に色分解する。ダイクロイックプリズムには各色成分の光に対応して射出面が設けられており、上記のように色分解された各色の光は、対応する色の射出面に導かれる。各色成分用の射出面に対向するように撮像素子が配置される。   When the photographing apparatus 300 is of a multi-plate type, a color separation optical element such as a dichroic prism is provided on the exit side of the photographing lens 200. This dichroic prism separates white light into light of, for example, blue, green, and red components. The dichroic prism is provided with an exit surface corresponding to the light of each color component, and the light of each color separated as described above is guided to the exit surface of the corresponding color. An image sensor is arranged so as to face the emission surface for each color component.

本明細書中では、撮影装置300は単板式の構成を有するものとし、撮像素子310はベイヤ配列を有する青、緑、赤のオンチップカラーフィルタが受光面上に形成されたものとして説明をする。   In this specification, it is assumed that the photographing apparatus 300 has a single-plate configuration, and the imaging element 310 is assumed that blue, green, and red on-chip color filters having a Bayer array are formed on the light receiving surface. .

レンズアダプタ100は、第1ミラー108と、第2ミラー110と、第3ミラー114と、第4ミラー116と、フィルタ112とを有する。被写体Objからの被写体光の一部は、フィルタ112を透過して第1ミラー108に入射する。この被写体光は第1ミラー108で反射されて第3ミラー114に導かれる。第3ミラー114に導かれた被写体光は、第3ミラー114で反射されて撮影レンズ200に入射し、この撮影レンズ200によって結像されて撮像素子310の受光面上(撮影レンズ200の結像面上)に被写体像Im1を形成する。   The lens adapter 100 includes a first mirror 108, a second mirror 110, a third mirror 114, a fourth mirror 116, and a filter 112. Part of the subject light from the subject Obj passes through the filter 112 and enters the first mirror 108. This subject light is reflected by the first mirror 108 and guided to the third mirror 114. The subject light guided to the third mirror 114 is reflected by the third mirror 114 and is incident on the photographing lens 200, is imaged by the photographing lens 200, and is formed on the light receiving surface of the image sensor 310 (imaging of the photographing lens 200). The subject image Im1 is formed on the surface).

被写体Objからの被写体光の他の一部は第2ミラー110に入射する。この被写体光は第2ミラー110で反射されて第4ミラー116に導かれる。第4ミラー116に導かれた被写体光は、第4ミラー116で反射されて撮影レンズ200に入射し、この撮影レンズ200によって結像されて撮像素子310の受光面上に被写体像Im2を形成する。   Another part of the subject light from the subject Obj enters the second mirror 110. This subject light is reflected by the second mirror 110 and guided to the fourth mirror 116. The subject light guided to the fourth mirror 116 is reflected by the fourth mirror 116 and enters the photographing lens 200, and is imaged by the photographing lens 200 to form a subject image Im2 on the light receiving surface of the image sensor 310. .

このようにして、被写体Objからの被写体光はレンズアダプタ100によって二つの経路、すなわち経路Path1、経路Path2に沿って導かれて撮影レンズ200の入射面に入射する。互いに異なる経路Path1、Path2を経て撮影レンズ200に入射した被写体光は、撮影レンズ200によって撮像素子310の受光面上に結像され、二つの被写体像Im1、Im2が形成される。   In this way, the subject light from the subject Obj is guided by the lens adapter 100 along two paths, that is, the path Path1 and the path Path2, and is incident on the incident surface of the photographing lens 200. The subject light that has entered the photographing lens 200 through different paths Path1 and Path2 is imaged on the light receiving surface of the image sensor 310 by the photographing lens 200, and two subject images Im1 and Im2 are formed.

経路Path1は、第1ミラー108と第3ミラー114とによって画定され、経路Path2は、第2ミラー110と第4ミラー116とによって画定される。図2においては、経路Path1上にフィルタ112が配置される。フィルタ112は、このフィルタ112を透過する前の被写体光の相対分光分布に対してフィルタ112を透過した被写体光の相対分光分布が変化するようにその分光透過特性が定められる。   The path Path1 is defined by the first mirror 108 and the third mirror 114, and the path Path2 is defined by the second mirror 110 and the fourth mirror 116. In FIG. 2, the filter 112 is arranged on the path Path1. The spectral transmission characteristic of the filter 112 is determined so that the relative spectral distribution of the subject light transmitted through the filter 112 changes with respect to the relative spectral distribution of the subject light before passing through the filter 112.

フィルタ112としては、所望の分光透過特性を有する吸収フィルタや干渉フィルタ等、様々な形式のフィルタを用いることができる。また、フィルタ112に代えて、ダイクロイックミラー、ダイクロイックプリズム等を経路Path1上に配置し、不要の波長成分の被写体光を反射または吸収して撮影レンズ200に入射しないようにし、必要な波長成分の被写体光のみが撮影レンズ200に導かれるようにしてもよい。   As the filter 112, various types of filters such as an absorption filter and an interference filter having desired spectral transmission characteristics can be used. Further, instead of the filter 112, a dichroic mirror, a dichroic prism, or the like is disposed on the path Path1 so that object light having an unnecessary wavelength component is reflected or absorbed so as not to enter the photographing lens 200, and an object having a necessary wavelength component Only light may be guided to the taking lens 200.

図2では経路Path1にフィルタ112が配置される例を示しているが、経路Path2に配置してもよいし、互いに分光特性の異なるフィルタ、ミラー、あるいはプリズム等を経路Path1上、経路Path2上の双方に配置してもよい。上述のようにして、経路Path1を経て撮影レンズ200の入射面に導かれる被写体光の相対分光分布が、経路Path2を経て撮影レンズ200の入射面に導かれる被写体光の相対分光分布に対して異なるように構成されている。   Although FIG. 2 shows an example in which the filter 112 is arranged on the path Path1, it may be arranged on the path Path2, or filters, mirrors, prisms, or the like having different spectral characteristics may be arranged on the path Path1 and on the path Path2. You may arrange in both. As described above, the relative spectral distribution of the subject light guided to the incident surface of the photographing lens 200 via the path Path1 is different from the relative spectral distribution of the subject light guided to the incident surface of the photographing lens 200 via the path Path2. It is configured as follows.

図2においてフィルタ112は第1ミラー108の入射側に配置されている例が示されているが、他の位置に配置することも可能である。例えば、第1ミラー108と第3ミラー114との間、あるいは第3ミラー114と撮影レンズ200との間等に配置されていてもよい。また、フィルタ112を経路Path1上に設けるのに代えて、第1ミラー108、第2ミラー110、第3ミラー114、第4ミラー116のうち少なくともいずれかの分光反射特性を他のミラーの分光反射特性に対して異なるものとしてもよい。また、第1ミラー108および第3ミラー114の組み合わせで決まる分光反射特性と、第2ミラー110および第4ミラー116の組み合わせで決まる分光反射特性とが異なるようにすることも可能である。   FIG. 2 shows an example in which the filter 112 is disposed on the incident side of the first mirror 108, but the filter 112 may be disposed at another position. For example, it may be disposed between the first mirror 108 and the third mirror 114 or between the third mirror 114 and the taking lens 200. Further, instead of providing the filter 112 on the path Path1, at least one of the first mirror 108, the second mirror 110, the third mirror 114, and the fourth mirror 116 has the spectral reflection characteristic of the other mirror. It may be different for the characteristics. Further, the spectral reflection characteristic determined by the combination of the first mirror 108 and the third mirror 114 may be different from the spectral reflection characteristic determined by the combination of the second mirror 110 and the fourth mirror 116.

図3は、フィルタ112の分光透過特性を、撮像素子310内における青、緑、赤のオンチップカラーフィルタを有する画素の分光感度特性とともに概念的に例示するグラフである。図3に示されるグラフにおいて、横軸に波長が、縦軸に透過率および感度が取られている。以下では、青、緑、赤のオンチップカラーフィルタを有する画素をそれぞれB画素、G画素、R画素と称する。   FIG. 3 is a graph conceptually illustrating the spectral transmission characteristics of the filter 112 together with the spectral sensitivity characteristics of the pixels having the blue, green, and red on-chip color filters in the image sensor 310. In the graph shown in FIG. 3, the horizontal axis indicates the wavelength, and the vertical axis indicates the transmittance and sensitivity. Hereinafter, pixels having blue, green, and red on-chip color filters are referred to as B pixel, G pixel, and R pixel, respectively.

フィルタ112は一例として、図3(a)から図3(c)に示される分光透過特性A、分光透過特性B、分光透過特性Wのいずれかの分光透過特性を有するものとすることが可能である。図3に例示されるような、波長変化に伴う分光透過率の変化が比較的急峻なものは、干渉フィルタなどを用いることによって実現可能である。   As an example, the filter 112 may have one of the spectral transmission characteristics A, the spectral transmission characteristics B, and the spectral transmission characteristics W shown in FIGS. 3A to 3C. is there. As shown in FIG. 3, a change in spectral transmittance accompanying a change in wavelength is relatively steep, which can be realized by using an interference filter or the like.

図3(a)に例示される分光透過特性A、図3(b)に例示される分光透過特性Bは、上述したように波長変化に伴う分光透過率の変化が比較的急峻な、くし歯型の(矩形波状の)特性を有する。そして、分光透過特性の急変部(立ち上がり部、立ち下がり部)が、B画素、G画素、R画素の分光感度プロファイルをそれらのピーク波長付近で短波長側、長波長側に分断するようにこれら分光透過特性A、分光透過特性Bが定められていることが望ましい。   As described above, the spectral transmission characteristic A illustrated in FIG. 3A and the spectral transmission characteristic B illustrated in FIG. 3B are comb teeth in which the change in spectral transmittance with a change in wavelength is relatively steep. It has the characteristics of a mold (rectangular wave). The sudden change parts (rising part, falling part) of the spectral transmission characteristics are divided so that the spectral sensitivity profiles of the B pixel, G pixel, and R pixel are divided into the short wavelength side and the long wavelength side near their peak wavelengths. It is desirable that the spectral transmission characteristic A and the spectral transmission characteristic B are determined.

フィルタ112が図3(a)に示されるような分光透過特性Aを有する場合、フィルタ112の分光透過特性とB画素、G画素、R画素それぞれの分光感度特性とによって、以下に説明するような総合分光感度特性を得ることができる。すなわち、B画素は、このB画素が元来有している分光感度帯域中、B画素の分光感度特性のピーク波長よりも短波長寄りの被写体光に対してのみ感度を有するようになる。G画素は、このG画素が元来有している分光感度帯域中、G画素の分光感度特性のピーク波長よりも長波長寄りの被写体光に対してのみ感度を有するようになる。R画素は、このR画素が元来有している分光感度帯域中、R画素の分光感度特性のピーク波長よりも短波長寄りの被写体光に対してのみ感度を有するようになる。   When the filter 112 has the spectral transmission characteristic A as shown in FIG. 3A, the filter 112 and the spectral sensitivity characteristics of the B pixel, the G pixel, and the R pixel will be described below. Total spectral sensitivity characteristics can be obtained. That is, the B pixel has sensitivity only to subject light that is closer to a shorter wavelength than the peak wavelength of the spectral sensitivity characteristic of the B pixel in the spectral sensitivity band that the B pixel originally has. The G pixel has sensitivity only to subject light that is closer to a longer wavelength than the peak wavelength of the spectral sensitivity characteristic of the G pixel in the spectral sensitivity band that the G pixel originally has. The R pixel has sensitivity only to subject light that is closer to a shorter wavelength than the peak wavelength of the spectral sensitivity characteristic of the R pixel in the spectral sensitivity band that the R pixel originally has.

フィルタ112が図3(b)に示されるような分光透過特性Bを有する場合、フィルタ112の分光透過特性とB画素、G画素、R画素それぞれの分光感度特性とによって、以下に説明するような総合分光感度特性を得ることができる。すなわち、B画素は、このB画素が元来有している分光感度帯域中、B画素の分光感度特性のピーク波長よりも長波長寄りの被写体光に対してのみ感度を有するようになる。G画素は、このG画素が元来有している分光感度帯域中、G画素の分光感度特性のピーク波長よりも短波長寄りの被写体光に対してのみ感度を有するようになる。R画素は、このR画素が元来有している分光感度帯域中、R画素の分光感度特性のピーク波長よりも長波長寄りの被写体光に対してのみ感度を有するようになる。   When the filter 112 has the spectral transmission characteristic B as shown in FIG. 3B, the filter 112 and the spectral sensitivity characteristics of the B pixel, the G pixel, and the R pixel will be described as follows. Total spectral sensitivity characteristics can be obtained. That is, the B pixel has sensitivity only to subject light that is closer to a longer wavelength than the peak wavelength of the spectral sensitivity characteristic of the B pixel in the spectral sensitivity band that the B pixel originally has. The G pixel has sensitivity only to subject light that is closer to a shorter wavelength than the peak wavelength of the spectral sensitivity characteristic of the G pixel in the spectral sensitivity band that the G pixel originally has. The R pixel has sensitivity only to subject light that is closer to a longer wavelength than the peak wavelength of the spectral sensitivity characteristic of the R pixel in the spectral sensitivity band that the R pixel originally has.

図3(c)に示される分光透過特性Wについて説明すると、可視光帯域中の比較的長い波長(図3(c)の例では680nm近くの波長)にカットオフ波長が設定されていて、そのカットオフ波長よりも短い波長域ではほぼ均一の分光透過特性を有する。この分光透過特性Wを有するフィルタを併用する場合、R画素の分光感度プロファイルは、図3(c)に例示されるように、赤外域にも(あるいは赤外域近くまで)感度を有することが望ましい。   The spectral transmission characteristic W shown in FIG. 3C will be described. A cutoff wavelength is set at a relatively long wavelength in the visible light band (a wavelength near 680 nm in the example of FIG. 3C). In the wavelength range shorter than the cut-off wavelength, it has a substantially uniform spectral transmission characteristic. When the filter having the spectral transmission characteristic W is used in combination, it is desirable that the spectral sensitivity profile of the R pixel has sensitivity in the infrared region (or close to the infrared region) as illustrated in FIG. .

図3(c)に例示される分光透過特性Wを有するフィルタ112が用いられた場合、フィルタ112の分光透過特性とB画素、G画素、R画素それぞれの分光感度特性とによって、以下に説明するような総合分光感度特性を得ることができる。すなわち、B画素、G画素に対しては分光感度の変化を殆どもたらさない。R画素については、フィルタ112の分光透過特性WとR画素の分光感度特性とによって、R画素が元来有している分光感度帯域中、フィルタ112のカットオフ波長よりも短い波長域の被写体光に対してのみ感度を有するようになる。   When the filter 112 having the spectral transmission characteristic W illustrated in FIG. 3C is used, the following description will be made based on the spectral transmission characteristics of the filter 112 and the spectral sensitivity characteristics of the B pixel, the G pixel, and the R pixel. Such an overall spectral sensitivity characteristic can be obtained. That is, the spectral sensitivity hardly changes for the B pixel and the G pixel. For the R pixel, subject light in a wavelength range shorter than the cutoff wavelength of the filter 112 in the spectral sensitivity band originally possessed by the R pixel due to the spectral transmission characteristic W of the filter 112 and the spectral sensitivity characteristic of the R pixel. It has sensitivity only to.

フィルタ112として上記の分光透過特性Wを有するものが経路Path1上または経路Path2上に配置される場合、他方の経路上には上述した分光透過特性Bを有するフィルタを配置することが望ましい。このようなフィルタの組み合わせによっても6バンドの画像データを得ることが可能となる。フィルタ112がこのような分光透過特性を有すると、赤外域に近い波長域での色情報を得ることが可能となるので、皮膚組織の病変部等を識別するような用途で効果を発揮する。   When the filter 112 having the spectral transmission characteristic W is disposed on the path Path1 or the path Path2, it is desirable to dispose the filter having the spectral transmission characteristic B described above on the other path. 6-band image data can also be obtained by such a combination of filters. When the filter 112 has such a spectral transmission characteristic, it is possible to obtain color information in a wavelength region close to the infrared region, which is effective in applications such as identifying lesions in skin tissue.

以上ではフィルタ112として干渉フィルタを用いる例について説明したが、先にも説明したように、フィルタ112としては吸収フィルタやダイクロイックミラー、ダイクロイックプリズム等を用いることも可能である。フィルタ112はさらに、以下で図4を参照して説明するような、分光透過特性を切り替え可能なものを用いてもよい。   Although an example using an interference filter as the filter 112 has been described above, as described above, an absorption filter, a dichroic mirror, a dichroic prism, or the like can be used as the filter 112. The filter 112 may further use a filter capable of switching the spectral transmission characteristics as described below with reference to FIG.

図4は、分光透過特性を電気的に切り替え可能なフィルタ400(以下、特性可変フィルタ400と称する)を説明する図であり、図4(a)には特性可変フィルタ400の概略的構成を分解斜視図によって示し、図4(b)には特性可変フィルタ400で得られる分光透過特性の例を示す。   FIG. 4 is a diagram for explaining a filter 400 (hereinafter referred to as a variable characteristic filter 400) that can electrically switch spectral transmission characteristics. FIG. 4A shows a schematic configuration of the variable characteristic filter 400. FIG. An example of the spectral transmission characteristic obtained by the characteristic variable filter 400 is shown in FIG.

図4(a)において特性可変フィルタ400は、被写体光が透過する順番に、偏光板402と、波長選択性を有する偏光ローテータ404と、偏光変調素子406と、偏光板414とを有する。図4においてこれらの要素は経路Path1またはPath2に沿って離間して配置されているかのように描かれているが、実際には互いに近接するように配置されている。本明細書中では、波長選択性を有する偏光ローテータを「波長選択性偏光ローテータ」と称する。   4A, the variable characteristic filter 400 includes a polarizing plate 402, a polarization rotator 404 having wavelength selectivity, a polarization modulation element 406, and a polarizing plate 414 in the order in which the subject light is transmitted. In FIG. 4, these elements are depicted as if they are spaced apart along the path Path <b> 1 or Path <b> 2, but are actually disposed so as to be close to each other. In the present specification, a polarization rotator having wavelength selectivity is referred to as a “wavelength selective polarization rotator”.

偏光板402は、入射する非直線偏光光を直線偏光光にして出射する、偏光子としての作用を有する。図4(a)において、偏光板402を透過した偏光光は図の上下方向に沿う振動方向を有する。本明細書中ではこれを「縦の振動方向」と称する。また、経路Path1またはPath2に直交する面内で上記縦の振動方向に対して直交する向きの振動方向を「横の振動方向」と称する。   The polarizing plate 402 functions as a polarizer that emits incident nonlinearly polarized light as linearly polarized light. In FIG. 4A, the polarized light transmitted through the polarizing plate 402 has a vibration direction along the vertical direction of the figure. In the present specification, this is referred to as “vertical vibration direction”. Further, a vibration direction in a direction orthogonal to the vertical vibration direction in a plane orthogonal to the path Path1 or Path2 is referred to as a “lateral vibration direction”.

波長選択性偏光ローテータ404は、入射する偏光光の振動方向を、特定の波長帯域の光のみ90°回転させる(P/S変換またはS/P変換する)機能を有するものである。図4(a)においては、入射する光のうち、緑色(以下では緑色をG色、青色をB色、赤色をR色と表記する)の帯域の光に対してのみ旋光作用が働き、入射するG色の偏光光の振動方向に対して直交する方向に振動方向が変換されて出射される。つまり、偏光子としての偏光板402を透過した、縦の振動方向を有するB、G、R各色の直線偏光光のうち、G色の光のみが波長選択性偏光ローテータ404で旋光されて横の振動方向を有する直線偏光光に変換される。   The wavelength selective polarization rotator 404 has a function of rotating the oscillation direction of incident polarized light by 90 ° only for light in a specific wavelength band (P / S conversion or S / P conversion). In FIG. 4A, of the incident light, the optical rotatory action works only for light in the green band (hereinafter, green is represented as G color, blue is represented as B color, and red is represented as R color). The direction of vibration is converted into a direction orthogonal to the direction of vibration of the polarized light of G color to be emitted. That is, only the G color light out of the linearly polarized light of B, G, and R colors having a vertical vibration direction that has passed through the polarizing plate 402 as a polarizer is rotated by the wavelength selective polarization rotator 404 to be It is converted into linearly polarized light having a vibration direction.

偏光変調素子406は、互いに対向しあう面上に透明電極が形成された2枚の透明基板408、410の間に液晶が封入されて構成される素子である。この偏光変調素子402にフレキシブルプリント基板412を介してドライブ電圧が印加されるのに伴い、この偏光変調素子406を透過する光に対する旋光作用を切り替えることが可能に構成される。図4に示す例ではB、G、R各色の直線偏光光の振動方向が90度変えられている。その結果、B色、R色の直線偏光光が横の振動方向を有し、G色の直線偏光光が縦の振動方向を有するように旋光されている。   The polarization modulation element 406 is an element configured by sealing a liquid crystal between two transparent substrates 408 and 410 each having a transparent electrode formed on a surface facing each other. As the drive voltage is applied to the polarization modulation element 402 via the flexible printed circuit 412, the optical rotation action for the light transmitted through the polarization modulation element 406 can be switched. In the example shown in FIG. 4, the vibration direction of the linearly polarized light of each color of B, G, and R is changed by 90 degrees. As a result, the B-polarized light and the R-color linearly polarized light are rotated such that the G-color linearly polarized light has a horizontal vibration direction, and the G-color linearly polarized light has a vertical vibration direction.

偏光板414は、図4(a)においては横の振動方向を有する光のみ透過可能とする、検光子としての作用を有する。図4(a)においては、横方向の振動方向を有するR光、B光のみが偏光板414を透過するものとして示されている。以上に説明した構成により、特性可変フィルタ400に入射する白色光のうち、B色の光、R色の光のみが透過する、図4(b)中で分光透過特性1として示されるような特性に切り替えられる。   The polarizing plate 414 functions as an analyzer that allows only light having a horizontal vibration direction to pass therethrough in FIG. In FIG. 4A, only R light and B light having a horizontal vibration direction are shown as passing through the polarizing plate 414. With the configuration described above, among the white light incident on the characteristic variable filter 400, only the B color light and the R color light are transmitted, and the characteristic as shown as the spectral transmission characteristic 1 in FIG. Can be switched to.

一方、偏光変調素子に印加するドライブ電圧を切り替えることにより、この偏光変調素子406を透過する光の振動方向を変えないようにすることも可能である。その場合、検光子としての偏光板414に入射する光のうち、B光、R光は縦の振動方向を有するものとなり、G光は横の振動方向を有するものとなる。したがって、G光のみが偏光板414を透過可能となり、図4(b)中で分光透過特性2として示されるような特性に切り替えられる。   On the other hand, by switching the drive voltage applied to the polarization modulation element, it is possible to prevent the vibration direction of the light transmitted through the polarization modulation element 406 from being changed. In this case, among the light incident on the polarizing plate 414 as an analyzer, the B light and the R light have a vertical vibration direction, and the G light has a horizontal vibration direction. Accordingly, only the G light can pass through the polarizing plate 414, and the characteristic is switched to the characteristic shown as the spectral transmission characteristic 2 in FIG.

なお、上述したいずれの場合においても、特性可変フィルタ400を出射する光は直線偏光光となっている。撮影装置300が一眼レフタイプの自動焦点調節が可能なカメラ(AFカメラ)では、ファインダ光学系に導かれる被写体光の一部を焦点検出光学系に導くためのハーフミラー等を有する。その場合、特性可変フィルタ400を透過する光が直線偏光光であると、十分な光量の光が焦点検出光学系に導かれない可能性がある。そのようなことが懸念される場合には、特性可変フィルタ400の出射側に、四分の一波長板等の位相板を配設することが望ましい。   In any case described above, the light emitted from the variable characteristic filter 400 is linearly polarized light. The camera (AF camera) in which the photographing apparatus 300 is capable of single-lens reflex automatic focusing includes a half mirror for guiding a part of subject light guided to the finder optical system to the focus detection optical system. In that case, if the light transmitted through the variable characteristic filter 400 is linearly polarized light, there is a possibility that a sufficient amount of light is not guided to the focus detection optical system. In such a case, it is desirable to arrange a phase plate such as a quarter-wave plate on the emission side of the variable characteristic filter 400.

レンズアダプタ100がフィルタ112として上記の特性可変フィルタ400を備える場合、被写体の特性や撮影目的に応じて分光透過特性1および分光透過特性2のいずれかに切り替えることが可能である。この場合、選択された分光透過特性に関連する情報を撮影装置300に出力可能に構成されることが望ましい。   When the lens adapter 100 includes the characteristic variable filter 400 as the filter 112, it is possible to switch to either the spectral transmission characteristic 1 or the spectral transmission characteristic 2 according to the characteristics of the subject and the photographing purpose. In this case, it is desirable that information related to the selected spectral transmission characteristic can be output to the imaging apparatus 300.

以上のように、経路Path1、撮影レンズ200を経て撮像素子310に入射する被写体光の相対分光分布と、経路Path2、撮影レンズ200を経て撮像素子310に入射する被写体光の相対分光分布とは、互いに異なるものとなっている。つまり、図2に示される例においては、経路Path1を経てフィルタ112を透過し、撮影レンズ200を経て被写体像Im1として結像する被写体光に対しては、上述したようにフィルタ112の分光透過特性(分光透過特性Aまたは分光透過特性B)とB画素、G画素、R画素それぞれの分光感度特性とによってそれぞれ決まる総合分光感度特性で撮像が行われる。   As described above, the relative spectral distribution of the subject light incident on the image sensor 310 via the path Path1 and the photographing lens 200 and the relative spectral distribution of the subject light incident on the image sensor 310 via the path Path2 and the photographing lens 200 are as follows. They are different from each other. That is, in the example shown in FIG. 2, as described above, the spectral transmission characteristics of the filter 112 with respect to subject light that passes through the filter 112 via the path Path1 and forms the subject image Im1 via the photographing lens 200. Imaging is performed with a total spectral sensitivity characteristic determined by (spectral transmission characteristic A or spectral transmission characteristic B) and spectral sensitivity characteristics of each of the B pixel, G pixel, and R pixel.

フィルタ112として、分光透過特性A、分光透過特性B、分光透過特性Wのうち、いずれの分光透過特性のフィルタを用いるか、あるいは複数の分光透過特性のフィルタを組み合わせて用いるかは、被写体の特性や撮影の用途等によって適宜選択することが可能である。また、フィルタ112として図4を参照して説明したものを用いる場合、電気的に分光透過特性を切り替えることができるので、撮影目的に応じてフィルタを取り替える手間を省くことが可能となる。   Which filter of spectral transmission characteristics A, spectral transmission characteristics B, and spectral transmission characteristics W is used as the filter 112 or a combination of filters having a plurality of spectral transmission characteristics depends on the characteristics of the subject. It is possible to select appropriately according to the purpose of photographing or the like. Further, when the filter 112 described with reference to FIG. 4 is used, the spectral transmission characteristics can be electrically switched, so that it is possible to save the trouble of replacing the filter in accordance with the photographing purpose.

なお、撮影レンズ200の分光透過特性も被写体像Im1、Im2の分光特性に影響を及ぼすので、上記の総合分光感度特性、そしてB画素、G画素、R画素それぞれの分光感度特性に撮影レンズ200の分光透過特性を加味する必要がある。しかし、本明細書においては発明の理解を容易にすることを目的として撮影レンズ200の分光透過特性は理想的なものであるものとする。ここで、理想的な分光透過特性とは、撮影レンズ200に入射する光の分光分布と撮影レンズ200から出射する分光分布とが一致することを意味する。   Note that the spectral transmission characteristics of the photographing lens 200 also affect the spectral characteristics of the subject images Im1 and Im2, and therefore the above-described total spectral sensitivity characteristics and the spectral sensitivity characteristics of the B pixel, G pixel, and R pixel respectively. It is necessary to consider the spectral transmission characteristics. However, in this specification, it is assumed that the spectral transmission characteristic of the photographing lens 200 is ideal for the purpose of facilitating understanding of the invention. Here, the ideal spectral transmission characteristic means that the spectral distribution of light incident on the photographing lens 200 matches the spectral distribution emitted from the photographing lens 200.

このようにして、一回の撮影操作に応じて二つの被写体像Im1、Im2に基づく画像が得られる。以下の説明において、被写体像Im1に基づく画像を第1画像、被写体像Im2に基づく画像を第2画像と称する。また、第1画像を構成する画像データを第1画像データ、第2画像を構成する画像データを第2画像データと称する。撮像素子310から出力される画像信号を従来の方法で処理した場合、1つの画像データ中に第1画像データおよび第2画像データが含まれる。1つの画像から第1画像および第2画像を切り出して第1画像データおよび第2画像データを抽出する。これらの第1画像データおよび第2画像データに対して、後述するテンプレートマッチング等の画像処理技術を用いた位置合わせの処理をする。   In this way, an image based on the two subject images Im1 and Im2 is obtained in accordance with one shooting operation. In the following description, an image based on the subject image Im1 is referred to as a first image, and an image based on the subject image Im2 is referred to as a second image. In addition, image data constituting the first image is referred to as first image data, and image data constituting the second image is referred to as second image data. When the image signal output from the image sensor 310 is processed by the conventional method, the first image data and the second image data are included in one image data. The first image and the second image are cut out from one image to extract the first image data and the second image data. The first image data and the second image data are subjected to alignment processing using an image processing technique such as template matching described later.

ここで、位置合わせの処理とは、第1画像中の特定の画素に対応する第2画像中の画素を関連づけることを可能とする処理である。つまり、第1画像データ中のある1画素は3つの色情報を有している。その1画素に対応する第2画像データ中の画素を特定し、その画素から3つの色情報を得ることができる。こうして、1つの画素に対応して6つの色情報を得ることが可能となる。   Here, the alignment process is a process that makes it possible to associate a pixel in the second image corresponding to a specific pixel in the first image. That is, a certain pixel in the first image data has three pieces of color information. A pixel in the second image data corresponding to the one pixel can be specified, and three color information can be obtained from the pixel. In this way, it becomes possible to obtain six color information corresponding to one pixel.

ところで、二つの異なる経路Path1、Path2を経て被写体光が撮影レンズ200に入射することにより、視差を生じる。この視差により、第1画像、第2画像を単純に重ね合わせただけでは、画像間でズレを生じる部分が出てくる。   By the way, subject light enters the photographing lens 200 through two different paths Path1 and Path2, and parallax is generated. Due to this parallax, if the first image and the second image are simply overlapped, there will be a portion where a shift occurs between the images.

ここで、経路Path1およびPath2のうち、被写体光が第1ミラー108、第2ミラー110に入射する前の部分の経路同士でなす角度(輻輳角)は0°であるものとする。被写体が遠くに位置する山である等、無限遠にあるとみなしてよいものである場合には、視差の影響は実質的に無いと云って差し支えない。しかし、撮影距離が短くなるにつれて、視差によって二つの画像間に生じるずれは大きくなる。   Here, of the paths Path1 and Path2, it is assumed that the angle (convergence angle) formed between the paths before the subject light enters the first mirror 108 and the second mirror 110 is 0 °. If the object is a mountain that is located far away, such as a mountain that can be regarded as being at infinity, it can be said that there is substantially no influence of parallax. However, as the shooting distance becomes shorter, the difference between the two images due to the parallax increases.

この視差を利用したものがステレオ写真である。つまり、第1画像、第2画像を表示あるいはプリントし、それを裸眼またはビューワを介して観視することにより、脳内で合成された画像によって観視者は立体感を感じることができる。   A stereo photograph uses this parallax. That is, by displaying or printing the first image and the second image and viewing them through the naked eye or the viewer, the viewer can feel a three-dimensional effect by the image synthesized in the brain.

これに対して、先に説明した位置合わせの処理は、いわば上述した視差の影響を減じる処理である。視差の影響は、先にも説明したように撮影距離が短くなるにつれて大きくなる。逆に言えば、被写体としてほぼ無限遠に位置するものだけを撮影する場合には上述した位置合わせの処理は不要となる。したがって、本発明の実施の形態において、被写体が遠景のものに限られる場合には、位置合わせの処理は必ずしも行われる必要はない。   On the other hand, the alignment process described above is a process for reducing the above-described parallax effect. As described above, the influence of parallax increases as the shooting distance decreases. In other words, the above-described alignment process is not necessary when only an object located at almost infinity is photographed. Therefore, in the embodiment of the present invention, when the subject is limited to a distant view, the alignment process is not necessarily performed.

図2に例示されるような、近景に人物が、中景に立木が、そして遠景に山が写っているような状況で第1画像および第2画像を重ねた場合、画像中の山の部分はズレを殆ど生じない。立木の部分では僅かにズレを生じ、人物の部分ではズレが増加する。つまり、これらの画像を単純に重ねたのでは、山の部分ではズレを生じないものの、立木の部分、人物の部分でズレを生じる。仮に人物部分でずれを生じないように二つの画像を重ね合わせると、他の部分でズレを生じる。   When the first image and the second image are overlapped in a situation where a person is in the foreground, a standing tree is in the foreground, and a mountain is in the distance, as illustrated in FIG. Produces almost no deviation. There is a slight shift in the portion of the standing tree, and the shift increases in the portion of the person. That is, if these images are simply overlapped, there will be no shift in the mountains, but there will be shifts in the standing trees and people. If two images are superimposed so that no shift occurs in the person portion, a shift occurs in the other portion.

1つの画像中に含まれる複数の被写体Objと撮影装置300との距離が、被写体ごとに異なることと、二つの被写体像Im1、Im2が視差を有していることとによって、画像内には上述したような不均一なズレを生じる。この不均一なズレを減少させる処理が位置合わせの処理である。つまり、位置合わせの処理とは、複数の画像間(本実施の形態においては第1画像と第2画像との間)で、複数の画像それぞれを構成する各画素の対応位置関係を求める処理をすることを意味する。   The distance between the plurality of subjects Obj included in one image and the photographing apparatus 300 differs for each subject, and the two subject images Im1 and Im2 have parallax, so that the above-described images are included in the image. As a result, non-uniform deviation occurs. The process of reducing this non-uniform shift is the alignment process. In other words, the alignment process is a process for obtaining the corresponding positional relationship between the pixels constituting each of the plurality of images between the plurality of images (between the first image and the second image in the present embodiment). It means to do.

ここで図5を参照して位置合わせの処理の具体例について説明する。図5(a)は位置合わせの基準となる画像(基準画像)を、図5(b)は位置合わせの処理を行う対象の画像(位置合わせ画像)を概念的に示したものである。   A specific example of the alignment process will be described with reference to FIG. FIG. 5A conceptually shows an image serving as a reference for alignment (reference image), and FIG. 5B conceptually shows an image to be subjected to alignment processing (alignment image).

先ず、基準画像上に複数のテンプレート領域が設定される。次に、位置合わせ画像内において、テンプレートマッチング処理および移動ベクトル導出処理が行われる。テンプレートマッチング処理は、基準画像内に設定されたテンプレート領域内の画像要素をテンプレートとして、位置合わせ画像内でこれらのテンプレートと一致度の高い領域(対応領域)を探索する処理である。   First, a plurality of template areas are set on the reference image. Next, template matching processing and movement vector derivation processing are performed in the alignment image. The template matching process is a process of searching for an area (corresponding area) having a high degree of coincidence with these templates in the alignment image using an image element in the template area set in the reference image as a template.

移動ベクトル導出処理は、位置合わせ画像内において対応領域をどの方向にどれくらいの距離(画素数)だけ移動させると基準画像および位置合わせ画像を重ね合わせたときにテンプレート領域と対応領域とが重なり合うかを求める処理である。図5(b)に示される例では、対応領域の中心を結んでできる6つの矩形が、図5(a)の基準画像中においてテンプレート領域の中心を結んでできる6つの矩形に比して歪んでいる。移動ベクトル導出処理で導出された移動ベクトルに基づいて各対応領域を移動させると、この歪みは矯正される。図5(b)に示される、矢印の付いた5つの線によって移動ベクトルを概念的に示している。   In the movement vector deriving process, when the corresponding region is moved in which direction (how many pixels) in the alignment image, the template region and the corresponding region overlap when the reference image and the alignment image are overlapped. This is the processing to be sought. In the example shown in FIG. 5B, the six rectangles formed by connecting the centers of the corresponding regions are distorted as compared to the six rectangles formed by connecting the centers of the template regions in the reference image of FIG. It is out. When each corresponding region is moved based on the movement vector derived by the movement vector deriving process, this distortion is corrected. The movement vector is conceptually shown by five lines with arrows shown in FIG.

ところで、上記のように導出された移動ベクトルは、1つの対応領域に対して1つ与えられるものであり、いわば代表値である。そこで、これらの移動ベクトルは、対応領域の中心に位置する画素(以下、中心画素と称する)に対応するものと定める。次に、これらの代表値をもとに、位置合わせ画像内の全画素に対応する移動ベクトルを求める。それら画素ごとの移動ベクトルは、上記中心画素に対応する移動ベクトルをもとに補間処理、あるいは外挿処理を用いて導出することができる。つまり、移動ベクトル導出対象の画素とその画素の近隣に存在する複数の中心画素との位置関係と、これらの近隣に存在する各中心画素の移動ベクトルとから、補間または外挿の処理によって画素ごとの移動ベクトルを導出する。   By the way, one movement vector derived as described above is given to one corresponding region, which is a representative value. Therefore, these movement vectors are determined to correspond to a pixel located at the center of the corresponding region (hereinafter referred to as a central pixel). Next, based on these representative values, movement vectors corresponding to all the pixels in the alignment image are obtained. The movement vector for each pixel can be derived using interpolation processing or extrapolation processing based on the movement vector corresponding to the center pixel. In other words, each pixel is subjected to interpolation or extrapolation processing based on the positional relationship between the pixel from which the movement vector is derived and a plurality of central pixels existing in the vicinity of the pixel, and the movement vector of each central pixel existing in the vicinity. The movement vector of is derived.

以上で求められた画素ごとの移動ベクトルを位置合わせ画像内の各画素に適用し、位置合わせ画像を変形する処理が行われる。その結果、上述した視差による被写体像Im1、Im2間の位置ズレが解消されて基準画像と位置合わせ画像とが一致する。このようにして、基準画像中の任意の画素に対応する位置合わせ画像中の画素を特定することが可能となる。   The movement vector for each pixel obtained as described above is applied to each pixel in the alignment image, and processing for deforming the alignment image is performed. As a result, the positional deviation between the subject images Im1 and Im2 due to the parallax described above is eliminated, and the reference image and the alignment image match. In this way, it is possible to specify a pixel in the alignment image corresponding to an arbitrary pixel in the reference image.

図2の例では、第1画像および第2画像のうち、いずれか一方の画像を基準画像とすることができ、他方の画像位置合わせ画像とすることができる。このようにして、第1画像中のある画素から得られる3つの色情報と、この画素に対応する、第2画像中の画素から得られる3つの色情報とを統合し、1つの画素に対応する6つの色情報を得ることが可能となる。   In the example of FIG. 2, one of the first image and the second image can be used as the reference image, and the other image alignment image can be used. In this way, the three color information obtained from a certain pixel in the first image and the three color information obtained from the pixel in the second image corresponding to this pixel are integrated to correspond to one pixel. It is possible to obtain six color information.

図6は撮影装置300の内部構成を概略的に説明するブロック図である。撮影装置300は、シャッタドライバ322と、シャッタ320と、撮像素子310と、画像処理部328と、RAM324と、ROM326と、CPU330と、表示制御部332と、モニタ部334と、画像データ記憶部336とを有する。CPU330、表示制御部332、画像データ記憶部336、シャッタドライバ322、画像処理部328、RAM324、そしてROM326は、システムバス338を介して相互に電気的に接続されている。   FIG. 6 is a block diagram schematically illustrating the internal configuration of the photographing apparatus 300. The photographing apparatus 300 includes a shutter driver 322, a shutter 320, an image sensor 310, an image processing unit 328, a RAM 324, a ROM 326, a CPU 330, a display control unit 332, a monitor unit 334, and an image data storage unit 336. And have. The CPU 330, display control unit 332, image data storage unit 336, shutter driver 322, image processing unit 328, RAM 324, and ROM 326 are electrically connected to each other via a system bus 338.

CPU330は、撮影装置300の動作を統括的に制御する。例えば、撮影装置300が記録モードに設定されている場合、CPU330は、焦点調節、測光、露光量調節等の制御を行う。また、撮影装置300が再生モードに設定されている場合、CPU330は、モニタ部334に表示される画像の切り替え、縮小/拡大表示切り替え等のユーザ操作を受け付ける処理を行う。   The CPU 330 comprehensively controls the operation of the photographing apparatus 300. For example, when the photographing apparatus 300 is set to the recording mode, the CPU 330 performs control such as focus adjustment, photometry, exposure adjustment. When the photographing apparatus 300 is set to the playback mode, the CPU 330 performs a process of accepting a user operation such as switching of an image displayed on the monitor unit 334, switching of reduced / enlarged display.

シャッタ320は、撮像素子310の受光面上に入射する被写体光の量を調節するためのものであり、例えばフォーカルプレンシャッタで構成される。シャッタ320は先幕と後幕とを有し、電磁石等を用いた機構によってこれら先幕、後幕は走行しないように係止されている。CPU330がシャッタドライバ322を介して先幕用電磁石に通電し、そして所定の露光時間が経過した後に後幕用電磁石に通電することにより、先幕、後幕の走行開始タイミングを制御して撮像素子310に対して与える露光時間を制御することが可能に構成される。   The shutter 320 is for adjusting the amount of subject light incident on the light receiving surface of the image sensor 310, and is constituted by a focal plane shutter, for example. The shutter 320 has a front curtain and a rear curtain, and these front curtain and rear curtain are locked so as not to travel by a mechanism using an electromagnet or the like. The CPU 330 energizes the front curtain electromagnet via the shutter driver 322, and energizes the rear curtain electromagnet after a predetermined exposure time has elapsed, thereby controlling the travel start timing of the front curtain and rear curtain to thereby control the imaging element. The exposure time given to 310 can be controlled.

撮像素子310は、先にも説明したように、青、緑、赤3色のオンチップカラーフィルタを有するものとすることができる。撮像素子310は、CCDやC−MOSイメージセンサで構成される。本実施の形態において撮像素子310は、二次元配置された光電変換素子のアレーと、これらの光電変換素子のアレーから出力されるアナログ信号にCDS(相関二重サンプリング)、AGC(自動ゲインコントロール)、A/D変換等の処理を行ってデジタルの画像信号を出力するための回路ブロックとを内部に有し、撮像素子310からデジタルの画像信号を出力可能に構成されるものとして説明をする。   As described above, the image sensor 310 can include three on-chip color filters of blue, green, and red. The image sensor 310 is constituted by a CCD or a C-MOS image sensor. In the present embodiment, the image sensor 310 includes a two-dimensionally arranged array of photoelectric conversion elements, and an analog signal output from the array of these photoelectric conversion elements, CDS (correlated double sampling), AGC (automatic gain control). In the following description, it is assumed that a circuit block for performing a process such as A / D conversion and outputting a digital image signal is configured to be capable of outputting a digital image signal from the image sensor 310.

撮像素子310から出力されるデジタルの画像信号は、システムバス338を介してRAM324に転送され、処理前画像データとして一時的に記憶される。RAM324は、メモリアクセス速度に優れるSDRAM等で構成することが望ましい。   A digital image signal output from the image sensor 310 is transferred to the RAM 324 via the system bus 338 and temporarily stored as pre-processing image data. The RAM 324 is preferably composed of an SDRAM or the like that has an excellent memory access speed.

画像処理部328は、ASIC(特定用途向け集積回路)等で構成され、RAM324に一時的に記憶された処理前画像データにデモザイク処理、階調補正処理、カラーバランス調整、アンシャープマスク処理等を行い、画像データを生成する。画像処理部328は、画像切り出し処理部328Aと、テンプレートマッチング処理部328Bと、移動ベクトル導出処理部328Cと、位置合わせ画像変形処理部328Dと、マルチスペクトル画像データ生成部328Eとを有しており、マルチスペクトル画像データを生成する処理も行う。   The image processing unit 328 includes an ASIC (Application Specific Integrated Circuit) or the like, and performs demosaic processing, gradation correction processing, color balance adjustment, unsharp mask processing, and the like on the pre-processing image data temporarily stored in the RAM 324. To generate image data. The image processing unit 328 includes an image cutout processing unit 328A, a template matching processing unit 328B, a movement vector derivation processing unit 328C, a registration image deformation processing unit 328D, and a multispectral image data generation unit 328E. Also, processing for generating multispectral image data is performed.

ROM326は、マスクROMまたはEEPROM等で構成され、CPU330で実行されるプログラムや撮影装置300内で扱われる各種の制御パラメータや各種の情報等が記憶される。なお、ROM326がEEPROMで構成される場合には、ROM326内に記録されるプログラムは一度RAM324上に読み出され、RAM324上のプログラムをCPU330が逐次読み出して実行することがCPU330による処理の速度を増す上で望ましい。   The ROM 326 is configured by a mask ROM, an EEPROM, or the like, and stores a program executed by the CPU 330, various control parameters handled in the photographing apparatus 300, various information, and the like. When the ROM 326 is an EEPROM, the program recorded in the ROM 326 is once read on the RAM 324, and the CPU 330 sequentially reads and executes the program on the RAM 324 to increase the processing speed of the CPU 330. Desirable above.

モニタ部334は、TFTカラー液晶表示素子や有機EL表示素子などを有して構成され、撮影装置300の背面等に設けられる。そして、撮影して得られた画像の表示や各種設定メニューの表示等を行うことが可能に構成される。   The monitor unit 334 includes a TFT color liquid crystal display element, an organic EL display element, and the like, and is provided on the back surface of the photographing apparatus 300 or the like. And it is comprised so that the display of the image obtained by image | photographing, the display of various setting menus, etc. can be performed.

以上に説明したレンズアダプタ100を撮影レンズ200に装着した後、ユーザ(撮影者)は撮影装置300を操作して撮影を行う。なお、レンズアダプタ100が有するフィルタ112の分光透過特性に関する情報が事前に撮影装置300に入力されることが望ましい。例えば、ROM326にはフィルタ112の種類を特定可能な情報と、その情報に対応する分光透過特性の情報とが事前に記憶されていてもよい。その場合、ユーザが撮影装置300を操作してフィルタ112の種類を特定可能な情報を入力すればよい。あるいは、レンズアダプタ100がCPUやROM等を有していて、レンズアダプタ100と撮影装置300とが電気的に接続可能に構成されていてもよい。その場合、撮影装置300の電源を投入した際に、CPU330がレンズアダプタ100からフィルタ112の種類を特定可能な情報、あるいはフィルタ112の分光透過特性に関する情報を読み出し可能に構成されていてもよい。   After the lens adapter 100 described above is attached to the photographing lens 200, the user (photographer) operates the photographing device 300 to perform photographing. It is desirable that information regarding the spectral transmission characteristics of the filter 112 included in the lens adapter 100 is input to the imaging apparatus 300 in advance. For example, the ROM 326 may store in advance information that can specify the type of the filter 112 and information on spectral transmission characteristics corresponding to the information. In that case, the user may input information that can identify the type of the filter 112 by operating the photographing apparatus 300. Alternatively, the lens adapter 100 may include a CPU, a ROM, and the like, and the lens adapter 100 and the imaging device 300 may be configured to be electrically connectable. In that case, when the imaging apparatus 300 is turned on, the CPU 330 may be configured to be able to read information that can identify the type of the filter 112 from the lens adapter 100 or information related to the spectral transmission characteristics of the filter 112.

CPU330は、ユーザがレリーズ操作をするのに応じて撮影レンズ200の絞りの開度やシャッタ320のシャッタ速度を制御して露光動作を行う。なお、CPU330は、撮影をする際に、フィルタ112の分光透過特性に対応する露出倍数に応じて撮像素子310にゲイン制御信号を発し、以下のようにゲイン制御をしてもよい。すなわち、CPU330は、被写体像Im2が形成される領域の画素から出力されるアナログ画像信号を増幅する際のゲインと、被写体像Im1が形成される領域の画素から出力されるアナログ信号を増幅する際のゲインとを、上記露出倍数に応じて互いに独立して制御してもよい。つまり、フィルタ112によって撮像素子310に入射する光の量が減じられる場合、その減衰比に応じて上記ゲインを制御してもよい。   The CPU 330 performs an exposure operation by controlling the aperture of the photographing lens 200 and the shutter speed of the shutter 320 according to the user performing a release operation. Note that the CPU 330 may issue a gain control signal to the image sensor 310 in accordance with the exposure multiple corresponding to the spectral transmission characteristic of the filter 112 and perform gain control as described below when photographing. That is, the CPU 330 amplifies an analog signal output from a pixel in the area where the subject image Im1 is amplified and a gain when amplifying the analog image signal output from the pixel in the area where the subject image Im2 is formed. May be controlled independently of each other in accordance with the exposure multiple. That is, when the amount of light incident on the image sensor 310 is reduced by the filter 112, the gain may be controlled according to the attenuation ratio.

画像切り出し処理部328Aは、撮影装置300で撮影をして得られた1つの画像中から第1画像および第2画像を切り出す処理を行う。テンプレートマッチング処理部328Bは、例えば第1画像を基準画像、第2画像を位置合わせ画像として、基準画像中に複数のテンプレート領域を設定する。テンプレートマッチング処理部328Bは続いて、基準画像中にテンプレートとして定めた画像要素と一致度の高い領域(対応領域)を位置合わせ画像内で探索する。   The image cutout processing unit 328A performs a process of cutting out the first image and the second image from one image obtained by photographing with the photographing apparatus 300. The template matching processing unit 328B sets a plurality of template areas in the reference image, for example, using the first image as the reference image and the second image as the alignment image. Subsequently, the template matching processing unit 328B searches the alignment image for an area (corresponding area) having a high degree of coincidence with the image element defined as the template in the reference image.

移動ベクトル導出処理部328Cは、テンプレートマッチング処理部328Bにおける上記処理結果をもとに、先に説明した方法によって位置合わせ画像の画素ごとの移動ベクトルを導出する処理を行う。   The movement vector derivation processing unit 328C performs processing for deriving a movement vector for each pixel of the alignment image by the method described above based on the processing result in the template matching processing unit 328B.

位置合わせ画像変形処理部328Dは、移動ベクトル導出処理部328Cで導出された画素ごとの移動ベクトルを位置合わせ画像内の各画素に適用し、位置合わせ画像を変形する処理を行う。   The alignment image deformation processing unit 328D applies the movement vector for each pixel derived by the movement vector derivation processing unit 328C to each pixel in the alignment image, and performs a process of deforming the alignment image.

マルチスペクトル画像データ生成部328Eは、基準画像(第1画像)および変形処理後の位置合わせ画像(第2画像)のそれぞれから得られる3バンドの画像データをもとに6バンドのマルチスペクトル画像データを生成する処理を行う。   The multispectral image data generation unit 328E generates 6-band multispectral image data based on 3-band image data obtained from each of the reference image (first image) and the alignment image after deformation processing (second image). Process to generate.

図7は、画像処理部328で実行されるマルチスペクトル画像データ生成処理の処理手順を概略的に説明するフローチャートである。この処理は、撮影装置300で1回の撮影が行われるたびに画像処理部328で実行される。あるいは、撮影時にはいわゆるロー(RAW)データで記録され、後でユーザが撮影装置300を操作して、ローデータからマルチスペクトル画像データを生成する処理をするコマンドが選択されたときに実行されるものであってもよい。   FIG. 7 is a flowchart schematically illustrating a processing procedure of multispectral image data generation processing executed by the image processing unit 328. This process is executed by the image processing unit 328 every time shooting is performed by the shooting apparatus 300. Alternatively, it is recorded as so-called raw (RAW) data at the time of photographing, and is executed when the user operates the photographing apparatus 300 later to select a command for processing to generate multispectral image data from raw data. It may be.

画像処理部328は、S700において1つの画像から第1画像および第2画像を切り出し、続くS702で基準画像中にテンプレート領域を設定する処理を行う。S704において画像処理部328は、テンプレートマッチング処理を行う。S704でのテンプレートマッチング処理結果に基づき、画像処理部328はS706において動きベクトル導出処理を行う。この処理の結果、位置合わせ画像中に含まれる画素のそれぞれに対応する動きベクトルが導出される。   The image processing unit 328 cuts out the first image and the second image from one image in S700, and performs a process of setting a template region in the reference image in subsequent S702. In step S704, the image processing unit 328 performs template matching processing. Based on the result of the template matching process in S704, the image processing unit 328 performs a motion vector derivation process in S706. As a result of this processing, a motion vector corresponding to each pixel included in the alignment image is derived.

S706で導出された画素ごとの動きベクトルに基づき、画像処理部328はS708において、位置合わせ画像変形の処理を行う。S710において画像処理部328は、以下に説明するマルチスペクトル画像データ生成処理を行う。すなわち、画像処理部328は、基準画像中の或る1画素のRGB画像データと、この1画素に対応する位置合わせ画像中の画素のRGB画像データとから、6バンドの画像データを生成する処理を行う。画像処理部328は、1つの画像中の全画素に対してS710の処理を行い、1画面分のマルチスペクトル画像データを生成する。   Based on the pixel-by-pixel motion vector derived in S706, the image processing unit 328 performs alignment image deformation processing in S708. In S710, the image processing unit 328 performs multispectral image data generation processing described below. That is, the image processing unit 328 generates 6-band image data from the RGB image data of a certain pixel in the reference image and the RGB image data of the pixel in the alignment image corresponding to the one pixel. I do. The image processing unit 328 performs the processing of S710 on all the pixels in one image, and generates multispectral image data for one screen.

ところで、上記視差によって、第1画像には写っているけれども第2画像には写っていない部分、あるいはその逆の部分が存在しうる。例えば、手前の人物等によって視界が遮られる背景部分の近傍にそのような部分が存在しうる。このような部分では6バンドの画像データを得ることができない。そのような部分に対しては、その部分の周辺部の色情報に基づいて補間処理をすることもできる。   By the way, due to the parallax, there may be a portion that is reflected in the first image but not in the second image, or vice versa. For example, such a portion may exist in the vicinity of a background portion whose view is blocked by a person in front. In such a portion, 6-band image data cannot be obtained. For such a portion, interpolation processing can be performed based on the color information of the peripheral portion of the portion.

画像処理部328はS712において、表示制御部332や画像データ記憶部336などに出力する処理を行い、一連のマルチスペクトル画像データ生成処理を完了する。   In step S712, the image processing unit 328 performs processing for output to the display control unit 332, the image data storage unit 336, and the like, and completes a series of multispectral image data generation processing.

以上に説明したように、本発明の実施の形態に係るレンズアダプタ100を用いることにより、撮影装置300内に再結像光学系等を含む複雑な光学系を組み込むことなく、1回の露光動作でマルチスペクトル画像データを生成することが可能となる。つまり、レンズアダプタ100中の異なる経路を経て撮影レンズ200に入射する被写体光の相対分光分布が互いに異なるように構成されることにより、撮影装置300が有する色分解要素、すなわちオンチップカラーフィルタやダイクロイックプリズム等で得られる色数よりも多くの色情報を得ることが可能となる。   As described above, by using the lens adapter 100 according to the embodiment of the present invention, one exposure operation can be performed without incorporating a complicated optical system including a re-imaging optical system in the photographing apparatus 300. Can generate multispectral image data. That is, color separation elements of the photographing apparatus 300, that is, an on-chip color filter or dichroic, are configured so that the relative spectral distributions of the subject light incident on the photographing lens 200 through different paths in the lens adapter 100 are different from each other. More color information than the number of colors obtained by a prism or the like can be obtained.

以上では被写体像Im1に基づく第1画像および被写体像Im2に基づく第2画像から1つのマルチスペクトル画像を生成する例について説明したが、以下のようにしてマルチスペクトルのステレオ画像を生成することも可能である。   Although an example in which one multispectral image is generated from the first image based on the subject image Im1 and the second image based on the subject image Im2 has been described above, a multispectral stereo image can also be generated as follows. It is.

以上では、第1画像を基準画像、第2画像を位置合わせ画像としてマルチスペクトル画像を生成する手順について説明した。ここでは、このマルチスペクトル画像を第1マルチスペクトル画像と称する。マルチスペクトルのステレオ画像を生成する場合、この第1マルチスペクトル画像に加えて以下で説明する第2マルチスペクトル画像を生成する。すなわち、第2マルチスペクトル画像は、第2画像を基準画像、第1画像を位置合わせ画像として、先に説明した第1マルチスペクトル画像を生成するのと同様の手順を経て生成する。   The procedure for generating a multispectral image using the first image as the reference image and the second image as the alignment image has been described above. Here, this multispectral image is referred to as a first multispectral image. When generating a multispectral stereo image, a second multispectral image described below is generated in addition to the first multispectral image. That is, the second multispectral image is generated through the same procedure as that for generating the first multispectral image described above, using the second image as the reference image and the first image as the alignment image.

このようにして得られる第1マルチスペクトル画像および第2マルチスペクトル画像をプリントまたは表示して、裸眼またはビューワ等を用いて観視すると、マルチスペクトルのステレオ画像を鑑賞することが可能となる。   When the first multispectral image and the second multispectral image obtained in this way are printed or displayed and viewed using the naked eye or a viewer, a multispectral stereo image can be viewed.

以上では、撮影装置300内でマルチスペクトル画像データが生成される例について説明をしたが、撮影装置300とは別の情報処理装置、例えばコンピュータ等で上記画像処理が行われてマルチスペクトル画像データが生成されるものであってもよい。   In the above, an example in which multispectral image data is generated in the imaging apparatus 300 has been described. However, the above-described image processing is performed by an information processing apparatus different from the imaging apparatus 300, such as a computer, so It may be generated.

図2に内部構成が示されるレンズアダプタ100の別例について図8、図9、図10を参照して説明する。これらの図8、図9、図10において、図2中に示される構成要素と同様の構成要素には同じ符号を付してその説明を省略する。また、図2中に示される構成要素と同様の機能を有するものには図2中で付されているのと同じ符号に適宜アルファベットを付して詳細な説明は省略する。   Another example of the lens adapter 100 whose internal configuration is shown in FIG. 2 will be described with reference to FIG. 8, FIG. 9, and FIG. 8, 9, and 10, the same components as those shown in FIG. 2 are denoted by the same reference numerals, and the description thereof is omitted. 2 having the same functions as those shown in FIG. 2 are appropriately assigned the same reference numerals as those in FIG. 2 and detailed description thereof is omitted.

図8に示されるレンズアダプタ100Aは、フィルタ112と、第1ミラー108Aと、第2ミラー114Aとを有する。被写体Objからの被写体光の一部は、フィルタ112を透過して第1ミラー108Aに入射する。この被写体光は第1ミラー108Aで反射されて第2ミラー114Aに導かれる。第2ミラー114Aに導かれた被写体光は、第2ミラー114Aで反射されて撮影レンズ200に入射し、この撮影レンズ200によって結像されて撮像素子310の受光面上に被写体像Im1を形成する。   A lens adapter 100A illustrated in FIG. 8 includes a filter 112, a first mirror 108A, and a second mirror 114A. Part of the subject light from the subject Obj passes through the filter 112 and enters the first mirror 108A. This subject light is reflected by the first mirror 108A and guided to the second mirror 114A. The subject light guided to the second mirror 114A is reflected by the second mirror 114A and enters the photographing lens 200, and is imaged by the photographing lens 200 to form a subject image Im1 on the light receiving surface of the image sensor 310. .

撮影レンズ200の入射面に入射する被写体光(の光束)のうち、略半分は上記第1ミラー108Aと第2ミラー114Aとによって画定される経路Path1に沿って導かれ、撮影レンズ200の入射面に入射する。上記被写体光のうち、残りの略半分は、上記第1ミラー108Aも第2ミラー114Aも経ることなく、撮影レンズ200の入射面に直接入射する経路Path2を経る。そして、撮影レンズ200によって結像されて撮像素子310の受光面上に被写体像Im2を形成する。   Approximately half of the subject light (the light beam) incident on the incident surface of the photographing lens 200 is guided along a path Path1 defined by the first mirror 108A and the second mirror 114A, and the incident surface of the photographing lens 200 is obtained. Is incident on. The remaining substantially half of the subject light passes through a path Path2 that directly enters the incident surface of the photographing lens 200 without passing through the first mirror 108A or the second mirror 114A. Then, an image is formed by the photographing lens 200 to form a subject image Im2 on the light receiving surface of the image sensor 310.

図8に示す例においても輻輳角は0度とすることが望ましい。なお、図8に示される例では、経路Path1中、被写体Objからの被写体光が第1ミラー108Aに入射するまでの部分と、経路Path2とが撮影レンズ200の光軸に対して傾斜している。この傾斜を無くすには、第1ミラー108A、第2ミラー114Aの配置や角度を変えるとともに、経路Path2中に楔状のプリズムを配置してもよい。そのようにして、経路Path1中、被写体Objからの被写体光が第1ミラー108Aに入射するまでの部分および経路Path2の双方が撮影レンズ200の光軸に対して平行となるようにすることができる。   In the example shown in FIG. 8, it is desirable that the convergence angle is 0 degree. In the example shown in FIG. 8, a portion of the path Path1 until the subject light from the subject Obj enters the first mirror 108A and the path Path2 are inclined with respect to the optical axis of the photographing lens 200. . In order to eliminate this inclination, the arrangement and angle of the first mirror 108A and the second mirror 114A may be changed, and a wedge-shaped prism may be arranged in the path Path2. In this way, both the portion of the path Path1 until the subject light from the subject Obj enters the first mirror 108A and the path Path2 can be made parallel to the optical axis of the photographing lens 200. .

図9に示されるレンズアダプタ100Bは、フィルタ112A、112B、112Cと、第1ミラー108Bと、第2ミラー110Bとを有する。なお、フィルタ112A、112B、112Cについては、必ずしも全てを有する必要はなく、これらのフィルタのうち、少なくとも1枚を有するものであってもよい。また、これらのフィルタに代えて、第1ミラー108Bおよび第2ミラー110Bのうち、少なくともいずれかの反射面にフィルタ作用を有する層を形成してもよい。   A lens adapter 100B illustrated in FIG. 9 includes filters 112A, 112B, and 112C, a first mirror 108B, and a second mirror 110B. Note that the filters 112A, 112B, and 112C are not necessarily required to have all, and may have at least one of these filters. Further, instead of these filters, a layer having a filter action may be formed on at least one of the reflecting surfaces of the first mirror 108B and the second mirror 110B.

被写体Objからの被写体光の一部は、第1ミラー108Bに入射する。この被写体光は第1ミラー108Bで反射されて撮影レンズ200に入射し、この撮影レンズ200によって結像されて撮像素子310の受光面上に被写体像Im1を形成する。   Part of the subject light from the subject Obj enters the first mirror 108B. The subject light is reflected by the first mirror 108B and enters the photographing lens 200, and is imaged by the photographing lens 200 to form a subject image Im1 on the light receiving surface of the image sensor 310.

被写体Objからの被写体光の別の一部は、第2ミラー110Bに入射する。この被写体光は第2ミラー110Bで反射されて撮影レンズ200に入射し、この撮影レンズ200によって結像されて撮像素子310の受光面上に被写体像Im2を形成する。   Another part of the subject light from the subject Obj enters the second mirror 110B. This subject light is reflected by the second mirror 110B and enters the photographing lens 200, and is imaged by the photographing lens 200 to form a subject image Im2 on the light receiving surface of the image sensor 310.

被写体Objからの被写体光のうち、第1ミラー108Bにも第2ミラー110Bにも入射しないで撮影レンズ200に直接入射する光は、この撮影レンズ200によって結像されて撮像素子310の受光面上に被写体像Im3を形成する。   Of the subject light from the subject Obj, the light that directly enters the photographing lens 200 without entering the first mirror 108B or the second mirror 110B is imaged by the photographing lens 200 and is formed on the light receiving surface of the image sensor 310. A subject image Im3 is formed.

撮影レンズ200の入射面に入射する被写体光のうち、略1/3は上記第1ミラー108Bによって画定される経路Path1に沿って導かれる。上記被写体光のうち、別の略1/3は上記第2ミラー110Bによって画定される経路Path2に沿って導かれる。そして、上記被写体光のうち、残りの略1/3は、上記第1ミラー108Bにも第2ミラー1110Bにも反射されることなく、撮影レンズ200の入射面に直接入射する経路Path3を経る。そして、撮影レンズ200によって結像されて撮像素子310の受光面上に被写体像Im3を形成する。   Of the subject light incident on the incident surface of the photographic lens 200, approximately 3 is guided along a path Path1 defined by the first mirror 108B. Another approximately 1/3 of the subject light is guided along a path Path2 defined by the second mirror 110B. The remaining approximately 1/3 of the subject light passes through a path Path3 that directly enters the incident surface of the photographing lens 200 without being reflected by the first mirror 108B or the second mirror 1110B. Then, an image is formed by the photographing lens 200 to form a subject image Im3 on the light receiving surface of the image sensor 310.

これらの被写体像Im1、Im2、Im3のうち、被写体像Im1およびIm2は、被写体像Im3に対して左右が逆の反転像となっている。したがって、これらの被写体像Im1、Im2、Im3に基づく画像を切り出す処理をした後、被写体像Im1、Im2に基づく画像については左右反転処理をする。   Of these subject images Im1, Im2, and Im3, the subject images Im1 and Im2 are reversed images that are opposite to the subject image Im3. Therefore, after performing processing for cutting out images based on these subject images Im1, Im2, and Im3, the images based on the subject images Im1 and Im2 are subjected to left-right reversal processing.

経路Path1、Path2、Path3のそれぞれを経て撮影レンズ200の入射面に導かれる被写体光の相対分光分布が互いに異なるように構成される場合、撮像素子310から出力される画像信号を処理して9バンドのマルチスペクトル画像データを生成することが可能となる。   When the relative spectral distributions of the subject light guided to the incident surface of the photographing lens 200 through each of the paths Path1, Path2, and Path3 are different from each other, the image signal output from the image sensor 310 is processed and 9 bands are processed. Multispectral image data can be generated.

図9に示されるレンズアダプタ100Bを用いてマルチスペクトルのステレオ画像データを生成する場合、以下のようにすることが可能である。ここで被写体像Im1に基づく画像を第1画像、被写体像Im2に基づく画像を第2画像、被写体像Im3に基づく画像を第3画像と称する。左右反転処理後の第1画像を基準画像とし、第3画像を位置合わせ画像として、先に説明した画像処理を行い、第1のマルチスペクトル画像を得る。次に、左右反転処理後の第2画像を基準画像とし、第3画像を位置合わせ画像として、同じく先に説明した画像処理を行い、第2のマルチスペクトル画像を得る。これら第1、第2のマルチスペクトル画像のマルチスペクトル画像データをもとにプリントまたは表示して、裸眼またはビューワ等を用いて観視することによりマルチスペクトルのステレオ画像を鑑賞することが可能となる。   When generating multispectral stereo image data using the lens adapter 100B shown in FIG. 9, it is possible to do the following. Here, an image based on the subject image Im1 is referred to as a first image, an image based on the subject image Im2 is referred to as a second image, and an image based on the subject image Im3 is referred to as a third image. The first multispectral image is obtained by performing the above-described image processing using the first image after left-right reversal processing as a reference image and the third image as a registration image. Next, the second multispectral image is obtained by performing the above-described image processing using the second image after the left-right reversal processing as a reference image and the third image as a registration image. It is possible to view a multispectral stereo image by printing or displaying based on the multispectral image data of the first and second multispectral images and viewing with the naked eye or a viewer. .

図10に示されるレンズアダプタ100Cは、図2に示されるレンズアダプタ100が有する構成要素に加えてビームスプリッタ1000と第5ミラー1002とを有するものである。   A lens adapter 100C illustrated in FIG. 10 includes a beam splitter 1000 and a fifth mirror 1002 in addition to the components included in the lens adapter 100 illustrated in FIG.

分岐光学要素としてのビームスプリッタ1000は、被写体Objからの被写体光の一部分を反射して第5ミラー1002に導く一方、上記被写体光の残りの部分を透過して第2ミラー110に導く。第5ミラー1002に導かれた被写体光は、この第5ミラー1002で反射され、フィルタ112に導かれる。つまり、ビームスプリッタ1000、第5ミラー1002、第1ミラー108、および第3ミラー114によって経路Path1が画定され、ビームスプリッタ1000、第2ミラー110、および第4ミラー116によって経路Path2が画定される。   The beam splitter 1000 as a branching optical element reflects a part of the subject light from the subject Obj and guides it to the fifth mirror 1002, while transmitting the remaining part of the subject light to the second mirror 110. The subject light guided to the fifth mirror 1002 is reflected by the fifth mirror 1002 and guided to the filter 112. That is, the path Path1 is defined by the beam splitter 1000, the fifth mirror 1002, the first mirror 108, and the third mirror 114, and the path Path2 is defined by the beam splitter 1000, the second mirror 110, and the fourth mirror 116.

フィルタ112の配設位置については、経路Path1またはPath2中の任意の位置に配置することが可能である。   The filter 112 can be disposed at any position in the path Path1 or Path2.

なお、経路Path1を画定するミラーに関しては、ビームスプリッタ1000および第3ミラー114の角度を変更することにより、第5ミラー1002および第1ミラー108のうち、いずれかを省略することも可能である。その場合、経路Path1上に存在する反射面の数が奇数となるので被写体像Im1は被写体像Im2に対して左右が逆の反転像となる。したがって、これらの被写体像Im1、Im2に基づく画像を切り出す処理をした後、被写体像Im1に基づく画像については左右反転処理をする必要がある。   Regarding the mirror that defines the path Path1, any of the fifth mirror 1002 and the first mirror 108 can be omitted by changing the angles of the beam splitter 1000 and the third mirror 114. In this case, since the number of reflecting surfaces present on the path Path1 is an odd number, the subject image Im1 is a reverse image that is opposite to the subject image Im2. Therefore, after the image based on the subject images Im1 and Im2 is cut out, the image based on the subject image Im1 needs to be horizontally reversed.

図10に示されるレンズアダプタ100Cは、図2に示されるレンズアダプタ100にビームスプリッタ1000と第5ミラー1002と加えたものである。レンズアダプタ100Cが、これらのビームスプリッタ1000と第5ミラー1002とを有することにより、先に説明した視差を生じることが無い。従って、マルチスペクトル画像データを得る際の画像処理に際して動きベクトル導出処理、位置合わせ画像変形処理等を省略することが可能となる。   A lens adapter 100C shown in FIG. 10 is obtained by adding a beam splitter 1000 and a fifth mirror 1002 to the lens adapter 100 shown in FIG. Since the lens adapter 100C includes the beam splitter 1000 and the fifth mirror 1002, the parallax described above does not occur. Accordingly, it is possible to omit motion vector derivation processing, alignment image deformation processing, and the like in image processing when obtaining multispectral image data.

本発明は、電子式のスチルカメラ、ムービーカメラの撮影レンズに装着するレンズアダプタに適用可能であり、これらのスチルカメラ、ムービーカメラの撮影レンズは固定式であっても交換式であってもよい。本発明はまた、電子式のスチルカメラ、ムービーカメラなどにも適用可能である。   The present invention can be applied to a lens adapter that is attached to a photographing lens of an electronic still camera or movie camera. The photographing lens of these still camera or movie camera may be fixed or replaceable. . The present invention is also applicable to electronic still cameras, movie cameras, and the like.

100、100A、100B、100C … レンズアダプタ
108、108A、108B … 第1ミラー
110、110B、114A … 第2ミラー
112、112A、112B、112C … フィルタ
114 … 第3ミラー
116 … 第4ミラー
200 … 撮影レンズ
300 … 撮影装置
328 … 画像処理部
328A … 画像切り出し処理部
328B … テンプレートマッチング処理部
328C … 移動ベクトル導出処理部
328D … 位置合わせ画像変形処理部
328E … マルチスペクトル画像データ生成部
334 … モニタ部
336 … 画像データ記憶部
310 … 撮像素子
400 … 特性可変フィルタ
402、414 … 偏光板
404 … 波長選択性偏光ローテータ
406 … 変更変調素子
1000 … ビームスプリッタ
1002 … 第5ミラー
100, 100A, 100B, 100C ... Lens adapter 108, 108A, 108B ... First mirror 110, 110B, 114A ... Second mirror 112, 112A, 112B, 112C ... Filter 114 ... Third mirror 116 ... Fourth mirror 200 ... Shooting Lens 300 ... Imaging device 328 ... Image processing unit 328A ... Image cutout processing unit 328B ... Template matching processing unit 328C ... Movement vector derivation processing unit 328D ... Alignment image deformation processing unit 328E ... Multispectral image data generation unit 334 ... Monitor unit 336 Image data storage unit 310 Image sensor 400 Characteristic variable filter 402, 414 Polarizing plate 404 Wavelength selective polarization rotator 406 Change modulation element 1000 Beam splitter 1002 Fifth mirror

Claims (11)

被写体と撮影レンズとの間に配置される、マルチスペクトル撮影用レンズアダプタ装置であって、
前記被写体からの被写体光を、複数の経路を経て前記撮影レンズの入射面へ導くことにより前記撮影レンズの結像面上に複数の被写体像を形成可能とする導光光学系と、
前記複数の経路を経て進む前記被写体光のうち、いずれかの経路を経て前記撮影レンズの入射面に導かれる被写体光の相対分光分布が他の経路を経て前記撮影レンズの入射面に導かれる被写体光の相対分光分布と異なるように変化させる分光特性変更光学系と
を有することを特徴とするマルチスペクトル撮影用レンズアダプタ装置。
A lens adapter device for multispectral imaging, which is disposed between a subject and a photographic lens,
A light guide optical system capable of forming a plurality of subject images on an imaging surface of the photographing lens by guiding subject light from the subject to an incident surface of the photographing lens through a plurality of paths;
Of the subject light traveling through the plurality of paths, a subject whose relative spectral distribution of the subject light guided to the incident surface of the photographing lens via any one of the paths is guided to the incident surface of the photographing lens via another path A lens adapter device for multispectral imaging, comprising: a spectral characteristic changing optical system that changes the relative spectral distribution of light differently.
前記導光光学系は、互いに離隔した位置において前記被写体光を反射する第1および第2の反射鏡と、
前記第1の反射鏡で反射された被写体光をさらに反射して前記撮影レンズの入射面に向かうように導く第3の反射鏡と、
前記第2の反射鏡で反射された被写体光をさらに反射して前記撮影レンズの入射面に向かうように導く第4の反射鏡とを有し、
前記分光特性変更光学系は、前記第1の反射鏡と前記第3の反射鏡とを含む光学要素によって画定される第1の経路、および前記第2の反射鏡と前記第4の反射鏡とを含む光学要素によって画定される第2の経路のうち、少なくともいずれかの経路に配設されることを特徴とする請求項1に記載のマルチスペクトル撮影用レンズアダプタ装置。
The light guiding optical system includes first and second reflecting mirrors that reflect the subject light at positions separated from each other;
A third reflecting mirror that further reflects the subject light reflected by the first reflecting mirror and guides it toward the incident surface of the photographing lens;
A fourth reflecting mirror that further reflects the subject light reflected by the second reflecting mirror and guides it toward the incident surface of the photographing lens;
The spectral characteristic changing optical system includes a first path defined by an optical element including the first reflecting mirror and the third reflecting mirror, and the second reflecting mirror and the fourth reflecting mirror. The lens adapter device for multispectral imaging according to claim 1, wherein the lens adapter device is disposed in at least one of the second paths defined by the optical element including
前記導光光学系は、
前記撮影レンズの入射面に入射する前記被写体光の内、略半分を反射する第1の反射鏡と、
前記第1の反射鏡で反射された被写体光をさらに反射して前記撮影レンズの入射面に向かうように導く第2の反射鏡とを有し、
前記分光特性変更光学系は、前記第1の反射鏡および前記第2の反射鏡を含む光学要素によって画定される第1の経路、および前記第1の反射鏡も前記第2の反射鏡も経ることなく、前記撮影レンズの入射面に前記被写体光が直接入射する第2の経路のうち、少なくともいずれかの経路に配設されることを特徴とする請求項1に記載のマルチスペクトル撮影用レンズアダプタ装置。
The light guide optical system is:
A first reflecting mirror that reflects approximately half of the subject light incident on the incident surface of the photographing lens;
A second reflecting mirror that further reflects the subject light reflected by the first reflecting mirror and guides it toward the incident surface of the photographing lens;
The spectral characteristic changing optical system passes through a first path defined by an optical element including the first reflecting mirror and the second reflecting mirror, and both the first reflecting mirror and the second reflecting mirror pass through. The multispectral imaging lens according to claim 1, wherein the multispectral imaging lens is disposed on at least one of the second paths in which the subject light directly enters the incident surface of the photographing lens. Adapter device.
前記導光光学系は、
互いに離隔した位置において前記被写体光を反射して前記撮影レンズの入射面に導く第1および第2の反射鏡であって、前記撮影レンズの入射面に入射する前記被写体光の内、それぞれが略1/3を反射する、第1および第2の反射鏡を有し、
前記分光特性変更光学系は、前記第1の反射鏡を含む光学要素によって画定される第1の経路、前記第2の反射鏡を含む光学要素によって画定される第2の経路、および前記第1の反射鏡も前記第2の反射鏡も経ることなく、前記撮影レンズの入射面に前記被写体光が直接入射する第3の経路のうち、少なくともいずれかの経路に配設されることを特徴とする請求項1に記載のマルチスペクトル撮影用レンズアダプタ装置。
The light guide optical system is:
First and second reflecting mirrors that reflect the subject light at positions separated from each other and guide the subject light to the incident surface of the photographing lens, and each of the subject light incident on the incident surface of the photographing lens is approximately Having first and second reflectors that reflect 1/3;
The spectral characteristic changing optical system includes a first path defined by an optical element including the first reflecting mirror, a second path defined by an optical element including the second reflecting mirror, and the first And at least one of the third paths in which the subject light is directly incident on the incident surface of the photographing lens without passing through the reflecting mirror and the second reflecting mirror. The lens adapter device for multispectral imaging according to claim 1.
前記導光光学系は、
前記被写体光を透過光と反射光とに分割する分岐光学要素と、
前記透過光を前記撮影レンズの入射面に導くために設けられる第1の導光ユニットであって、複数の反射鏡を含む、第1の導光ユニットと、
前記反射光を前記撮影レンズの入射面に導くために設けられる第2の導光ユニットであって、複数の反射鏡を含む、第2の導光ユニットとを有し、
前記分光特性変更光学系は、前記分岐光学要素と前記第1の導光ユニットとによって画定される第1の経路、および前記分岐光学要素と前記第2の導光ユニットとによって画定される第2の経路のうち、少なくともいずれかの経路に配設されることを特徴とする請求項1に記載のマルチスペクトル撮影用レンズアダプタ装置。
The light guide optical system is:
A branching optical element that divides the subject light into transmitted light and reflected light;
A first light guide unit provided to guide the transmitted light to the incident surface of the photographing lens, the first light guide unit including a plurality of reflecting mirrors;
A second light guide unit provided to guide the reflected light to the incident surface of the photographing lens, the second light guide unit including a plurality of reflecting mirrors;
The spectral characteristic changing optical system includes a first path defined by the branch optical element and the first light guide unit, and a second path defined by the branch optical element and the second light guide unit. The lens adapter device for multispectral imaging according to claim 1, wherein the lens adapter device is disposed on at least one of the paths.
4以上のバンド数のマルチスペクトル画像データを生成可能なマルチスペクトル撮影装置であって、
1または複数の撮像素子と、
被写体からの被写体光を前記撮像素子に導く撮影レンズと、
前記撮影レンズによって導かれて前記1または複数の撮像素子に入射する被写体光を複数の色に分解する色分解要素と、
前記撮影レンズの入射側に配置される被写体光分割装置とを有し、
前記被写体光分割装置が、
前記被写体からの被写体光を、複数の異なる経路を経て前記撮影レンズの入射面へ導くことにより前記撮影レンズの結像面上に複数の被写体像を形成可能とする導光光学系と、
前記複数の経路を経て進む前記被写体光のうち、いずれかの経路を経て前記撮影レンズの入射面に導かれる被写体光の相対分光分布が他の経路を経て前記撮影レンズの入射面に導かれる被写体光の相対分光分布と異なるように変化させる分光特性変更光光学系と
を有することを特徴とするマルチスペクトル撮影装置。
A multispectral imaging apparatus capable of generating multispectral image data having four or more bands,
One or more image sensors;
A photographic lens for guiding subject light from the subject to the image sensor;
A color separation element that separates subject light that is guided by the photographing lens and enters the one or more imaging elements into a plurality of colors;
An object light splitting device disposed on the incident side of the photographing lens;
The subject light splitting device comprises:
A light guide optical system capable of forming a plurality of subject images on an imaging plane of the photographing lens by guiding subject light from the subject to an incident surface of the photographing lens through a plurality of different paths;
Of the subject light traveling through the plurality of paths, a subject whose relative spectral distribution of the subject light guided to the incident surface of the photographing lens via any one of the paths is guided to the incident surface of the photographing lens via another path A multispectral imaging apparatus, comprising: a spectral characteristic changing optical optical system that changes the light so as to be different from a relative spectral distribution of light.
前記導光光学系は、互いに離隔した位置において前記被写体光を反射する第1および第2の反射鏡と、
前記第1の反射鏡で反射された被写体光をさらに反射して前記撮影レンズの入射面に向かうように導く第3の反射鏡と、
前記第2の反射鏡で反射された被写体光をさらに反射して前記撮影レンズの入射面に向かうように導く第4の反射鏡とを有し、
前記分光特性変更光学系は、前記第1の反射鏡と前記第3の反射鏡とを含む光学要素によって画定される第1の経路、および前記第2の反射鏡と前記第4の反射鏡とを含む光学要素によって画定される第2の経路のうち、少なくともいずれかの経路に配設されることを特徴とする請求項6に記載のマルチスペクトル撮影装置。
The light guiding optical system includes first and second reflecting mirrors that reflect the subject light at positions separated from each other;
A third reflecting mirror that further reflects the subject light reflected by the first reflecting mirror and guides it toward the incident surface of the photographing lens;
A fourth reflecting mirror that further reflects the subject light reflected by the second reflecting mirror and guides it toward the incident surface of the photographing lens;
The spectral characteristic changing optical system includes a first path defined by an optical element including the first reflecting mirror and the third reflecting mirror, and the second reflecting mirror and the fourth reflecting mirror. The multispectral imaging apparatus according to claim 6, wherein the multispectral imaging apparatus is disposed in at least one of the second paths defined by the optical element including
前記導光光学系は、
前記撮影レンズの入射面に入射する前記被写体光の内、略半分を反射する第1の反射鏡と、
前記第1の反射鏡で反射された被写体光をさらに反射して前記撮影レンズの入射面に向かうように導く第2の反射鏡とを有し、
前記分光特性変更光学系は、前記第1の反射鏡および前記第2の反射鏡を含む光学要素によって画定される第1の経路、および前記第1の反射鏡も前記第2の反射鏡も経ることなく、前記撮影レンズの入射面に前記被写体光が直接入射する第2の経路のうち、少なくともいずれかの経路に配設されることを特徴とする請求項6に記載のマルチスペクトル撮影装置。
The light guide optical system is:
A first reflecting mirror that reflects approximately half of the subject light incident on the incident surface of the photographing lens;
A second reflecting mirror that further reflects the subject light reflected by the first reflecting mirror and guides it toward the incident surface of the photographing lens;
The spectral characteristic changing optical system passes through a first path defined by an optical element including the first reflecting mirror and the second reflecting mirror, and both the first reflecting mirror and the second reflecting mirror pass through. The multispectral imaging apparatus according to claim 6, wherein the multispectral imaging apparatus is arranged on at least one of the second paths in which the subject light is directly incident on the incident surface of the photographing lens.
前記導光光学系は、
互いに離隔した位置において前記被写体光を反射して前記撮影レンズの入射面に導く第1および第2の反射鏡であって、前記撮影レンズの入射面に入射する前記被写体光の内、それぞれが略1/3を反射する、第1および第2の反射鏡を有し、
前記分光特性変更光学系は、前記第1の反射鏡を含む光学要素によって画定される第1の経路、前記第2の反射鏡を含む光学要素によって画定される第2の経路、および前記第1の反射鏡も前記第2の反射鏡も経ることなく、前記撮影レンズの入射面に前記被写体光が直接入射する第3の経路のうち、少なくともいずれかの経路に配設されることを特徴とする請求項6に記載のマルチスペクトル撮影装置。
The light guide optical system is:
First and second reflecting mirrors that reflect the subject light at positions separated from each other and guide the subject light to the incident surface of the photographing lens, and each of the subject light incident on the incident surface of the photographing lens is approximately Having first and second reflectors that reflect 1/3;
The spectral characteristic changing optical system includes a first path defined by an optical element including the first reflecting mirror, a second path defined by an optical element including the second reflecting mirror, and the first And at least one of the third paths in which the subject light is directly incident on the incident surface of the photographing lens without passing through the reflecting mirror and the second reflecting mirror. The multispectral imaging apparatus according to claim 6.
前記導光光学系は、
前記被写体光を透過光と反射光とに分割する分岐光学要素と、
前記透過光を前記撮影レンズの入射面に導くために設けられる第1の導光ユニットであって、複数の反射鏡を含む、第1の導光ユニットと、
前記反射光を前記撮影レンズの入射面に導くために設けられる第2の導光ユニットであって、複数の反射鏡を含む、第2の導光ユニットとを有し、
前記分光特性変更光学系は、前記分岐光学部材と前記第1の導光ユニットとによって画定される第1の経路、および前記分岐光学部材と前記第2の導光ユニットとによって画定される第2の経路のうち、少なくともいずれかの経路に配設されることを特徴とする請求項6に記載のマルチスペクトル撮影装置。
The light guide optical system is:
A branching optical element that divides the subject light into transmitted light and reflected light;
A first light guide unit provided to guide the transmitted light to the incident surface of the photographing lens, the first light guide unit including a plurality of reflecting mirrors;
A second light guide unit provided to guide the reflected light to the incident surface of the photographing lens, the second light guide unit including a plurality of reflecting mirrors;
The spectral characteristic changing optical system includes a first path defined by the branch optical member and the first light guide unit, and a second path defined by the branch optical member and the second light guide unit. The multispectral imaging apparatus according to claim 6, wherein the multispectral imaging apparatus is disposed on at least one of the paths.
請求項6から10のいずれか1つに記載のマルチスペクトル撮影装置を用いて撮影し、得られた画像データを処理して前記マルチスペクトル画像データを生成する画像処理装置であって、
前記撮像レンズの結像面上に形成される前記複数被写体像に基づく複数の画像を切り出す処理をする画像切り出し処理部と、
前記複数の画像間で、当該の複数の画像それぞれを構成する各画素の対応位置関係を求める処理をする位置合わせ処理部と、
ひとつ一つの画素に対する色情報を前記複数の画像から抽出して統合し、前記4以上のバンド数のマルチスペクトル画像データを生成するマルチスペクトル画像生成処理部と
を有することを特徴とする画像処理装置。
An image processing apparatus that captures an image using the multispectral imaging apparatus according to any one of claims 6 to 10 and processes the obtained image data to generate the multispectral image data.
An image cutout processing unit that performs a process of cutting out a plurality of images based on the plurality of subject images formed on the imaging surface of the imaging lens;
An alignment processing unit that performs a process of obtaining a corresponding positional relationship of each pixel constituting each of the plurality of images between the plurality of images;
An image processing apparatus comprising: a multispectral image generation processing unit that extracts and integrates color information for each pixel from the plurality of images and generates multispectral image data having the number of bands of 4 or more. .
JP2009092898A 2009-04-07 2009-04-07 Lens adapter device for multi-spectral photographing, multi-spectral camera and image processor Withdrawn JP2010245870A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009092898A JP2010245870A (en) 2009-04-07 2009-04-07 Lens adapter device for multi-spectral photographing, multi-spectral camera and image processor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009092898A JP2010245870A (en) 2009-04-07 2009-04-07 Lens adapter device for multi-spectral photographing, multi-spectral camera and image processor

Publications (1)

Publication Number Publication Date
JP2010245870A true JP2010245870A (en) 2010-10-28

Family

ID=43098401

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009092898A Withdrawn JP2010245870A (en) 2009-04-07 2009-04-07 Lens adapter device for multi-spectral photographing, multi-spectral camera and image processor

Country Status (1)

Country Link
JP (1) JP2010245870A (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013012999A (en) * 2011-06-30 2013-01-17 Canon Inc Image processing apparatus, imaging apparatus, control method, and program
JP2013072771A (en) * 2011-09-28 2013-04-22 Topcon Corp Spectrum image acquisition device
WO2014020791A1 (en) * 2012-08-02 2014-02-06 パナソニック株式会社 Polarized color imaging device
JP2014035430A (en) * 2012-08-08 2014-02-24 Olympus Corp Imaging apparatus and focus direction determination method of the same
JP2016171474A (en) * 2015-03-13 2016-09-23 日本電産コパル株式会社 Comparison image photographing apparatus
JP2018526664A (en) * 2015-06-15 2018-09-13 アグローウィング エルティーディー Multispectral imaging device
WO2018180808A1 (en) * 2017-03-30 2018-10-04 国立大学法人奈良先端科学技術大学院大学 Image capture device and image processing device
WO2021010103A1 (en) * 2019-07-17 2021-01-21 富士フイルム株式会社 Filter and imaging device

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013012999A (en) * 2011-06-30 2013-01-17 Canon Inc Image processing apparatus, imaging apparatus, control method, and program
JP2013072771A (en) * 2011-09-28 2013-04-22 Topcon Corp Spectrum image acquisition device
JPWO2014020791A1 (en) * 2012-08-02 2016-07-21 パナソニックIpマネジメント株式会社 Polarized color imaging device
WO2014020791A1 (en) * 2012-08-02 2014-02-06 パナソニック株式会社 Polarized color imaging device
CN103703770A (en) * 2012-08-02 2014-04-02 松下电器产业株式会社 Polarized color imaging device
US9118796B2 (en) 2012-08-02 2015-08-25 Panasonic Intellectual Property Management Co., Ltd. Polarization color image capture device
JP2014035430A (en) * 2012-08-08 2014-02-24 Olympus Corp Imaging apparatus and focus direction determination method of the same
JP2016171474A (en) * 2015-03-13 2016-09-23 日本電産コパル株式会社 Comparison image photographing apparatus
JP2018526664A (en) * 2015-06-15 2018-09-13 アグローウィング エルティーディー Multispectral imaging device
WO2018180808A1 (en) * 2017-03-30 2018-10-04 国立大学法人奈良先端科学技術大学院大学 Image capture device and image processing device
JPWO2018180808A1 (en) * 2017-03-30 2020-02-06 国立大学法人 奈良先端科学技術大学院大学 Imaging device and image processing device
JP7058881B2 (en) 2017-03-30 2022-04-25 国立大学法人 奈良先端科学技術大学院大学 Image pickup device and image processing device
WO2021010103A1 (en) * 2019-07-17 2021-01-21 富士フイルム株式会社 Filter and imaging device
JPWO2021010103A1 (en) * 2019-07-17 2021-01-21
JP7416798B2 (en) 2019-07-17 2024-01-17 富士フイルム株式会社 Filters and imaging devices

Similar Documents

Publication Publication Date Title
JP2010245870A (en) Lens adapter device for multi-spectral photographing, multi-spectral camera and image processor
JP6983663B2 (en) Multispectral imager and multispectral camera
US7515818B2 (en) Image capturing apparatus
JP4717363B2 (en) Multispectral imaging device and adapter lens
JP5066420B2 (en) Color separation optical system and imaging apparatus
US20170264811A1 (en) Phase detection autofocus using opposing filter masks
US9264612B2 (en) Imaging apparatus and photographing support method
US9229238B2 (en) Three-chip camera apparatus
JP2008211631A (en) Focal point detection element, focal point detector, and imaging apparatus
US20190058837A1 (en) System for capturing scene and nir relighting effects in movie postproduction transmission
KR20140065335A (en) Focus detection apparatus, focus detection method, and image capturing apparatus
US20180067327A1 (en) Multi-wavelength beam splitting systems for simultaneous imaging of a distant object in two or more spectral channels using a single camera
JP2007187942A (en) Prism optical system and imaging apparatus
JP2008177903A (en) Imaging device
US20060054794A1 (en) Light receiving unit and image taking apparatus
JP2009153074A (en) Image photographing apparatus
JP2010102281A (en) Lens adapter for visible light/infrared light photography
JP2004109863A (en) Focus detector, image pickup device provided with the same, and photographing lens
JP2004354714A (en) Lens system for visible light/infrared light photography
US9857663B1 (en) Phase detection autofocus system and method
JP6983531B2 (en) Distance measuring device, distance measuring system, and distance measuring method
JP2010062742A (en) Camera
WO2023123095A1 (en) Camera system including multiple lenses and multiple image sensors, method for controlling the same, and electronic deivice
WO2018235709A1 (en) Distance measuring camera and distance measurement method
JP2018182470A (en) Stereoscopic image pickup apparatus adopting wavelength selective polarization separation method

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20120703