JP7350673B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP7350673B2
JP7350673B2 JP2020030264A JP2020030264A JP7350673B2 JP 7350673 B2 JP7350673 B2 JP 7350673B2 JP 2020030264 A JP2020030264 A JP 2020030264A JP 2020030264 A JP2020030264 A JP 2020030264A JP 7350673 B2 JP7350673 B2 JP 7350673B2
Authority
JP
Japan
Prior art keywords
modulation element
phase modulation
image
imaging device
image sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020030264A
Other languages
Japanese (ja)
Other versions
JP2021135351A (en
Inventor
和幸 田島
悠介 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2020030264A priority Critical patent/JP7350673B2/en
Publication of JP2021135351A publication Critical patent/JP2021135351A/en
Application granted granted Critical
Publication of JP7350673B2 publication Critical patent/JP7350673B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、撮像装置に関する。 The present invention relates to an imaging device.

スマートフォン等の電子機器に搭載するデジタルカメラには薄型化が求められている。デジタルカメラの薄型化技術として、例えば、特許文献1には、レンズを用いない撮像装置であって、パターンを有する変調器を透過した光が画像センサ上で生じさせる射影パターンから、入射光の入射角を相互相関演算により求めることで、被写体の撮像画像を得ることができる撮像装置が記載されている。 Digital cameras installed in electronic devices such as smartphones are required to be thinner. As a technique for reducing the thickness of a digital camera, for example, Patent Document 1 describes an imaging device that does not use a lens, in which the incidence of incident light is An imaging device is described that can obtain a captured image of a subject by determining the angle by a cross-correlation calculation.

また、特許文献2には、円環同心円状のシリンドリカルレンズを位相変調素子として用い、画像センサ上に被写体を構成する各点からの光による円環状の射影像を射影し、射影像における明線のデューティー比を0.5以下として高調波を発生させ、画像センサからの出力画像に対して同心円状パターンの高調波を乗算してモアレ縞を生成し、モアレ縞のフーリエ変換を行うことで被写体が写った画像を生成する撮像装置が記載されている。 Furthermore, in Patent Document 2, a toric concentric cylindrical lens is used as a phase modulation element to project a toric projected image of light from each point constituting an object onto an image sensor, and a bright line in the projected image is disclosed. By setting the duty ratio of 0.5 or less to generate harmonics, multiplying the output image from the image sensor by the harmonics of a concentric pattern to generate moiré fringes, and performing Fourier transform on the moiré fringes, the subject An imaging device that generates an image in which a person is captured is described.

特開2018-061109号公報Japanese Patent Application Publication No. 2018-061109 特開2018-195870号公報Japanese Patent Application Publication No. 2018-195870

特許文献2に記載の撮像装置では、円環同心円状のシリンドリカルレンズからなる位相変調素子による射影像に含まれる明線のデューティー比が場所ごとに異なるため、現像結果として得られる画像の周波数成分が均一ではなくなり、例えば、低周波成分が欠落したり、高周波成分が増加したりする等の画質劣化が生じ得る。 In the imaging device described in Patent Document 2, the duty ratio of the bright line included in the projected image by the phase modulation element consisting of a ring-concentric cylindrical lens differs depending on the location, so the frequency components of the image obtained as a development result vary. This may result in image quality deterioration such as loss of low frequency components or increase in high frequency components.

本発明は、上記の点に鑑みてなされたものであり、位相変調素子を用いた撮像装置における現像結果として得られる画像の画質劣化を抑止できるようにすることを目的とする。 The present invention has been made in view of the above points, and it is an object of the present invention to make it possible to suppress deterioration in image quality of images obtained as a result of development in an imaging device using a phase modulation element.

本願は、上記課題の少なくとも一部を解決する手段を複数含んでいるが、その例を挙げるならば、以下の通りである。 The present application includes a plurality of means for solving at least part of the above problems, examples of which are as follows.

上記課題を解決するため、本発明の一態様に係る撮像装置は、同心円状の複数の円環から形成され、入射光の位相を変調する位相変調素子と、前記位相変調素子を介して被写体の光学像が射影される画像センサと、前記画像センサから入力される画像信号に対して所定の現像処理を行うことにより現像画像を生成する画像処理部と、を備え、前記位相変調素子を形成する前記複数の円環は、前記被写体の前記光学像を前記画像センサに照射する際の焦点距離がそれぞれ異なることを特徴とする。 In order to solve the above problems, an imaging device according to one aspect of the present invention includes a phase modulation element that is formed from a plurality of concentric rings and that modulates the phase of incident light, and a phase modulation element that modulates the phase of incident light. The phase modulation element is formed by comprising an image sensor onto which an optical image is projected, and an image processing section that generates a developed image by performing a predetermined development process on an image signal input from the image sensor. The plurality of rings have different focal lengths when irradiating the optical image of the subject onto the image sensor.

本発明によれば、位相変調素子を用いた撮像装置における現像結果として得られる画像の画質劣化を抑止することができる。 According to the present invention, it is possible to suppress deterioration in image quality of an image obtained as a result of development in an imaging device using a phase modulation element.

上記した以外の課題、構成、及び効果は、以下の実施形態の説明により明らかにされる。 Problems, configurations, and effects other than those described above will be made clear by the description of the embodiments below.

図1は、本発明の第1の実施形態に係る撮像装置の基本的な構成例を示す図である。FIG. 1 is a diagram showing a basic configuration example of an imaging device according to a first embodiment of the present invention. 図2は、従来の位相変調素子を介して画像センサに入射される並行光の入射の一例を示す図である。FIG. 2 is a diagram illustrating an example of incidence of parallel light incident on an image sensor via a conventional phase modulation element. 図3は、図1の位相変調素子を介して画像センサに入射される並行光の入射の一例を示す図である。FIG. 3 is a diagram illustrating an example of the incidence of parallel light that is incident on the image sensor via the phase modulation element of FIG. 1. 図4は、従来の位相変調素子を用いた場合の現像結果を説明する図であり、図4(A)は規格化周波数とMTFとの関係を示す図、図4(B)は現像結果の具体例を示す図である。FIG. 4 is a diagram explaining the development result when a conventional phase modulation element is used. FIG. 4(A) is a diagram showing the relationship between the normalized frequency and MTF, and FIG. 4(B) is a diagram explaining the development result. FIG. 3 is a diagram showing a specific example. 図5は、図1の位相変調素子を用いた場合の現像結果を説明する図であり、図5(A)は規格化周波数とMTFとの関係を示す図、図5(B)は現像結果の具体例を示す図である。FIG. 5 is a diagram explaining the development result when the phase modulation element of FIG. 1 is used. FIG. 5(A) is a diagram showing the relationship between the normalized frequency and MTF, and FIG. It is a figure showing a specific example. 図6は、本発明の第2の実施形態に係る撮像装置の位相変調素子の形状の一例を示す図である。FIG. 6 is a diagram showing an example of the shape of the phase modulation element of the imaging device according to the second embodiment of the present invention. 図7は、本発明の第3の実施形態に係る撮像装置の基本的な構成例を示す図である。FIG. 7 is a diagram showing a basic configuration example of an imaging device according to a third embodiment of the present invention. 図8は、高調波係数とデューティ比の関係を示す図である。FIG. 8 is a diagram showing the relationship between harmonic coefficient and duty ratio. 図9は、本発明の第4の実施形態に係る撮像装置の基本的な構成例を示す図である。FIG. 9 is a diagram showing a basic configuration example of an imaging device according to a fourth embodiment of the present invention.

以下、本発明の複数の実施形態について図面を参照して説明する。なお、各実施形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。また、以下の実施形態において、その構成要素(要素ステップ等も含む)は、特に明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。また、「Aからなる」、「Aよりなる」、「Aを有する」、「Aを含む」と言うときは、特にその要素のみである旨明示した場合等を除き、それ以外の要素を排除するものでないことは言うまでもない。同様に、以下の実施形態において、構成要素等の形状、位置関係等に言及するときは、特に明示した場合および原理的に明らかにそうでないと考えられる場合等を除き、実質的にその形状等に近似または類似するもの等を含むものとする。 Hereinafter, a plurality of embodiments of the present invention will be described with reference to the drawings. In addition, in all the figures for explaining each embodiment, the same reference numerals are attached to the same members in principle, and repeated explanations thereof will be omitted. In addition, it goes without saying that in the following embodiments, the constituent elements (including elemental steps, etc.) are not necessarily essential, except when specifically specified or when it is considered to be clearly essential in principle. stomach. In addition, when we say "consists of A," "consists of A," "has A," or "contains A," other elements are excluded, unless it is specifically stated that only that element is included. Needless to say, this is not something you should do. Similarly, in the following embodiments, when referring to the shape, positional relationship, etc. of components, etc., the shape, etc. are substantially This shall include things that approximate or are similar to.

<本発明の第1の実施形態に係る撮像装置100の構成例>
図1は、本発明の第1の実施形態に係る撮像装置100の基本的な構成例を示している。
<Configuration example of imaging device 100 according to the first embodiment of the present invention>
FIG. 1 shows a basic configuration example of an imaging device 100 according to a first embodiment of the present invention.

撮像装置100は、一般的なカメラが備える被写体の光学像を画像センサ上に結像させるための撮像レンズを用いることなく、被写体を撮像することができる、いわゆるレンズレスカメラである。 The imaging device 100 is a so-called lensless camera that can image a subject without using an imaging lens for forming an optical image of the subject on an image sensor, which is included in a general camera.

撮像装置100は、位相変調素子102、画像センサ103、及び画像処理部106を備える。 The imaging device 100 includes a phase modulation element 102, an image sensor 103, and an image processing unit 106.

位相変調素子102は、画像センサ103の受光面と距離dだけ離して配置されている。位相変調素子102は、円環同心円状の複数の曲率半径がそれぞれ異なるシリンドリカルレンズ104から形成される。位相変調素子102は、被写体101の光学像を画像センサ103に射影する。シリンドリカルレンズ104は、本発明の円環に相当する。 The phase modulation element 102 is placed a distance d apart from the light receiving surface of the image sensor 103. The phase modulation element 102 is formed from a plurality of concentric circular cylindrical lenses 104 each having a different radius of curvature. Phase modulation element 102 projects an optical image of subject 101 onto image sensor 103 . The cylindrical lens 104 corresponds to a ring according to the present invention.

画像センサ103は、面状に配列された複数の受光素子を有し、位相変調素子102を通過した光画像(射影像)を電気信号である画像信号に変換して画像処理部106に出力する。画像センサ103は、例えば、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)等のイメージセンサからなる。 The image sensor 103 has a plurality of light receiving elements arranged in a planar manner, converts the optical image (projected image) that has passed through the phase modulation element 102 into an image signal that is an electrical signal, and outputs the image signal to the image processing unit 106. . The image sensor 103 is, for example, an image sensor such as a CMOS (Complementary Metal Oxide Semiconductor) or a CCD (Charge Coupled Device).

画像処理部106は、画像センサ103から入力される画像信号に対して所定の現像処理を行う。具体的には、画像センサ103から入力される画像信号に対して、位相変調素子102に対応する同心円状のパターンを乗算することによりモアレ縞を生成する。また、画像処理部106は、生成したモアレ縞に対して、フーリエ変換演算を行い、その絶対値をとることで被写体101が写った撮像画像を生成する。画像処理部106は、例えば、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等からなる。 The image processing unit 106 performs predetermined development processing on the image signal input from the image sensor 103. Specifically, moiré fringes are generated by multiplying the image signal input from the image sensor 103 by a concentric pattern corresponding to the phase modulation element 102 . Further, the image processing unit 106 performs a Fourier transform calculation on the generated moire fringes, and generates a captured image in which the subject 101 is captured by taking the absolute value. The image processing unit 106 includes, for example, a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit).

<画像処理部106による現像処理の原理>
次に、画像処理部106による現像処理の原理について説明する。
<Principle of development processing by image processing unit 106>
Next, the principle of development processing by the image processing unit 106 will be explained.

位相変調素子102を成す複数のシリンドリカルレンズ104のうち、位相変調素子102の中心を0番として外周側に向かって1,2、・・・とインクリメントされる円環番号nのシリンドリカルレンズ104の中心の半径位置rは、位相Φを用いて次式(1)として表すことができる。 Among the plurality of cylindrical lenses 104 forming the phase modulation element 102, the cylindrical lens 104 with a ring number n is incremented as 1, 2, etc. toward the outer circumference with the center of the phase modulation element 102 being number 0. The center radial position r n can be expressed as the following equation (1) using the phase Φ.

Figure 0007350673000001
Figure 0007350673000001

円環番号nのシリンドリカルレンズ104は、その切り替わり半径が、隣接するシリンドリカルレンズ104n-1,104n+1それぞれの中心位置との中間にくるように形成されている。よって、円環番号nのシリンドリカルレンズ104の外側境界は(r+rn+1)/2、内側境界は(r+rn-1)/2と計算できる。これにより、シリンドリカルレンズ104の幅Lは、外側境界と内側境界との幅(r+1-rn-1)/2として計算することができ、式(1)を用いれば、次式(2)として表すことができる。 The cylindrical lens 104 n with the ring number n is formed so that its switching radius is located midway between the center positions of the adjacent cylindrical lenses 104 n-1 and 104 n+1 . Therefore, the outer boundary of the cylindrical lens 104 n with the ring number n can be calculated as (r n +r n+1 )/2, and the inner boundary can be calculated as (r n +r n-1 )/2. As a result, the width L n of the cylindrical lens 104 n can be calculated as the width (r n +1-r n-1 )/2 between the outer boundary and the inner boundary, and using equation (1), the following equation can be calculated. (2).

Figure 0007350673000002
Figure 0007350673000002

複数のシリンドリカルレンズ104から形成された位相変調素子102は、画像センサ103上に幅w、周期Pの複数の円環状明線105からなる光学像(射影像)を射影する。該射影像は、同心円状パターン中心からの半径r、そこでの球面波の位相Φ(r)、波面の曲がりの大きさを決める係数βを用いて次式(3)として近似することができる。 The phase modulation element 102 formed from a plurality of cylindrical lenses 104 projects an optical image (projection image) consisting of a plurality of toric bright lines 105 having a width w n and a period P n onto the image sensor 103 . The projected image can be approximated by the following equation (3) using the radius r from the center of the concentric pattern, the phase Φ(r) of the spherical wave there, and the coefficient β that determines the magnitude of the curve of the wavefront.

Figure 0007350673000003
Figure 0007350673000003

次に、図2は、位相変調素子102を従来の位相変調素子110に置換した場合において画像センサ103に入射される並行光の入射の一例を示している。 Next, FIG. 2 shows an example of the incidence of parallel light incident on the image sensor 103 when the phase modulation element 102 is replaced with a conventional phase modulation element 110.

同図に示されるように、位相変調素子110に角度θで平行光が入射した場合、各シリンドリカルレンズによって集光された光は距離δ=d・tanθだけずれて画像センサ103上に射影像を作り出す。画像処理部106では、この射影像に対して中心がそろった同心円パターンを乗算することで、次式(4)に示される強度分布を得る。 As shown in the figure, when parallel light is incident on the phase modulation element 110 at an angle θ 0 , the light focused by each cylindrical lens is shifted by a distance δ = d・tan θ and forms a projected image on the image sensor 103. create. The image processing unit 106 multiplies this projected image by a concentric pattern whose centers are aligned, thereby obtaining an intensity distribution expressed by the following equation (4).

Figure 0007350673000004
Figure 0007350673000004

この展開式の第4項が、射影像と同心円パターンとのずれの方向に真直ぐな等間隔の縞模様を重なり合った領域一面に作ることがわかる。このような縞と縞の重ね合わせによって相対的に低い空間周波数で生じる縞はモアレ縞と呼ばれる。このように真直ぐな等間隔の縞は、モアレ稿画像に対して2次元フーリエ変換を行うことによって得られる空間周波数分布に鋭いピークを生じる。そして、ピークとなる周波数の値からδの値、すなわち光線の入射角θを求めることが可能となる。このような全面で一様に等間隔で得られるモアレ縞は、同心円状パターン配置の対称性から、ずれの方向によらず同じピッチで生じることは明らかである。 It can be seen that the fourth term of this expansion formula creates a straight, equally spaced striped pattern over the overlapping area in the direction of the deviation between the projected image and the concentric pattern. The fringes that occur at a relatively low spatial frequency due to the superposition of such fringes are called moiré fringes. Such straight, equally spaced stripes produce sharp peaks in the spatial frequency distribution obtained by performing two-dimensional Fourier transform on the Moiré manuscript image. Then, it becomes possible to determine the value of δ, that is, the incident angle θ of the light ray, from the value of the peak frequency. It is clear that such moiré fringes, which are uniformly spaced over the entire surface, occur at the same pitch regardless of the direction of deviation due to the symmetry of the concentric pattern arrangement.

式(4)の展開式から鋭いピークを持つ成分のみを抽出すれば、次式(5)となる。 If only the components with sharp peaks are extracted from the expansion of equation (4), the following equation (5) is obtained.

Figure 0007350673000005
Figure 0007350673000005

式(5)のフーリエスペクトルは次式(6)となる。 The Fourier spectrum of equation (5) is expressed as the following equation (6).

Figure 0007350673000006
Figure 0007350673000006

ただし、式(6)において、Fはフーリエ変換の演算を表し、u,vは、x,y方向の空間周波数座標、括弧を伴うδはデルタ関数である。 However, in equation (6), F represents a Fourier transform operation, u and v are spatial frequency coordinates in the x and y directions, and δ with parentheses is a delta function.

式(6)から、検出画像の空間周波数スペクトルにおいて、モアレ縞の空間周波数のピークがu=±δβ/πの位置に生じることがわかる。 From equation (6), it can be seen that in the spatial frequency spectrum of the detected image, the peak of the spatial frequency of the moiré fringes occurs at the position of u=±δβ/π.

このピークのスペクトル像が無限遠の光束を示す輝点であり、画像処理部106による現像結果、すなわち、撮像装置100によって撮像された画像である。以下、このスペクトル像を現像画像と称する。 The spectral image of this peak is a bright spot indicating an infinitely distant luminous flux, and is the result of development by the image processing unit 106, that is, the image captured by the imaging device 100. Hereinafter, this spectral image will be referred to as a developed image.

<位相変調素子102の特徴>
次に、本実施形態における位相変調素子102を成す複数のシリンドリカルレンズ104の焦点距離f、画像センサ103に射影される円環状明線105の幅wと周期Pとのデューティー比(w/P)の関係、デューティー比の現像画像の画質に対する影響について説明する。
<Characteristics of phase modulation element 102>
Next , the duty ratio ( w The relationship of n /P n ) and the influence of the duty ratio on the image quality of the developed image will be explained.

図2に示された従来の場合、各シリンドリカルレンズの焦点距離fと、位相変調素子110と画像センサ103との距離dとが一致しており、画像センサ103上に射影される円環状明線105の幅wは円環番号nによらずほぼ均一であった。そして、円環状明線105の幅wと周期Pとのデューティー比は円環番号nごとに異なるものであった。より詳細には、円環番号nの小さい側(位相変調素子110の中心側)ではデューティー比が小さく、円環番号nの大きい側(位相変調素子110の外周側)ではデューティー比が大きかった。この結果、現像画像の周波数成分が均一ではなくなり、低周波成分が欠落し、高周波成分が増加する等の画質劣化が生じていた。 In the conventional case shown in FIG . The width w n of the line 105 was substantially uniform regardless of the ring number n. The duty ratio between the width w n and the period P n of the annular bright line 105 was different for each annular number n. More specifically, the duty ratio was small on the side with the smaller ring number n (the center side of the phase modulating element 110), and the duty ratio was larger on the side with the larger ring number n (the outer peripheral side of the phase modulating element 110). As a result, the frequency components of the developed image are no longer uniform, resulting in image quality deterioration such as loss of low frequency components and increase in high frequency components.

このような問題を解決するため、本実施形態における位相変調素子102は、画像センサ103上に射影される円環状明線105の幅wと周期Pとのデューティー比が円環番号nに拘らず一定値になるように、位相変調素子102の各シリンドリカルレンズ104の焦点距離fを円環番号nに応じて変更している。 In order to solve such a problem, the phase modulation element 102 in this embodiment has a duty ratio of the width w n and the period P n of the annular bright line 105 projected onto the image sensor 103 to the annular number n. The focal length f n of each cylindrical lens 104 of the phase modulation element 102 is changed according to the ring number n so that the value remains constant regardless of the distance.

図3は、位相変調素子102を用いた場合において画像センサ103に入射される並行光の入射の一例を示している。同図の場合、位相変調素子102の各シリンドリカルレンズ104は、円環番号nが小さいほど、焦点距離fが長くなるように形成されている。 FIG. 3 shows an example of parallel light incident on the image sensor 103 when the phase modulation element 102 is used. In the case of the figure, each cylindrical lens 104 of the phase modulation element 102 is formed so that the smaller the ring number n is, the longer the focal length f n becomes.

なお、図3に示された各シリンドリカルレンズ104の形状は、被写体101側が凸状に、画像センサ103側が平面状に形成されているが、反対に、被写体101側が平面状に、画像センサ103側が凸状に形成されていてもよい。 Note that each cylindrical lens 104 shown in FIG. 3 has a convex shape on the subject 101 side and a flat shape on the image sensor 103 side; It may be formed in a convex shape.

図3に示された本実施形態の場合、各シリンドリカルレンズ104の焦点距離fと、位相変調素子102と画像センサ103との距離dとは一致せず、画像センサ103上に射影される円環状明線105の幅wはそれぞれ異なるが、デューティー比は円環番号nに拘らず均一となるように各シリンドリカルレンズ104の焦点距離fが設定されている。 In the case of this embodiment shown in FIG. 3, the focal length f n of each cylindrical lens 104 and the distance d between the phase modulation element 102 and the image sensor 103 do not match, and the circle projected onto the image sensor 103 Although the width w n of the annular bright line 105 is different, the focal length f n of each cylindrical lens 104 is set so that the duty ratio is uniform regardless of the ring number n.

次に、デューティー比が均一となるように各シリンドリカルレンズ104の焦点距離fを計算する方法について説明する。 Next, a method of calculating the focal length f n of each cylindrical lens 104 so that the duty ratio becomes uniform will be explained.

図2に示された例では、画像センサ103上に照射される照射像の円環状明線105は完全に集光されているが、実際には、位相変調素子110を成す各シリンドリカルレンズによって集光される幅には制限がある。これは光の回折現象によるものである。 In the example shown in FIG. 2, the annular bright line 105 of the irradiation image irradiated onto the image sensor 103 is completely focused, but in reality, it is focused by each cylindrical lens forming the phase modulation element 110. There is a limit to the width of the light. This is due to the phenomenon of light diffraction.

円環状明線105の明線幅tは、円環番号nのシリンドリカルレンズの幅L、屈折率N、焦点距離fを用い、またシリンドリカルレンズが左右対称であると仮定した場合、次式(7)として表すことができる。 The bright line width t n of the toric bright line 105 is calculated as follows using the width L n , refractive index N, and focal length f n of the cylindrical lens with the toric number n, and assuming that the cylindrical lens is symmetrical. It can be expressed as equation (7).

Figure 0007350673000007
Figure 0007350673000007

また、位相変調素子102と画像センサ103との距離dと、任意デューティー比dutyと、焦点距離fとの関係は、次式(8)として表すことができる。 Further, the relationship between the distance d between the phase modulation element 102 and the image sensor 103, the arbitrary duty ratio duty, and the focal length f can be expressed as the following equation (8).

Figure 0007350673000008
Figure 0007350673000008

さらに、式(8)を変形すれば、次式(9)を得ることができる。 Furthermore, by transforming equation (8), the following equation (9) can be obtained.

Figure 0007350673000009
Figure 0007350673000009

さらに、式(7)を用いて式(9)を展開すれば、次式(10)となる。 Furthermore, by expanding equation (9) using equation (7), the following equation (10) is obtained.

Figure 0007350673000010
Figure 0007350673000010

解の公式を用いて式(10)を焦点距離fについて解けば、次式(11)を得ることができる。 By solving equation (10) for focal length f using the solution formula, the following equation (11) can be obtained.

Figure 0007350673000011
Figure 0007350673000011

式(11)より、位相変調素子102の各シリンドリカルレンズ104の焦点距離fはそれぞれ異なる値となり、図3に示されたように、画像センサ103上での円環状明線105の明線幅wは円環番号nが小さいほど、すなわち、位相変調素子102の中心に近いほど明線幅wが太くなることがわかる。 From equation (11), the focal length f n of each cylindrical lens 104 of the phase modulation element 102 has a different value, and as shown in FIG. It can be seen that the smaller the ring number n, that is, the closer to the center of the phase modulation element 102, the thicker the bright line width w n becomes .

なお、射影像のデューティー比は、式(9)におけるdutyの値を変えることで自由に設定することが可能である。 Note that the duty ratio of the projected image can be freely set by changing the value of duty in equation (9).

次に、位相変調素子102の各シリンドリカルレンズ104の焦点距離fを変えたことによる効果について、図4及び図5を参照して説明する。 Next, the effect of changing the focal length f of each cylindrical lens 104 of the phase modulation element 102 will be explained with reference to FIGS. 4 and 5.

図4は、図2に示された従来の場合に対応し、同図(A)は規格化周波数と射影像のMTF(Modulation Transfer Function)との関係を示し、図中の直線は理想状態を示している。同図(B)は現像画像の一例を示している。図5は、射影像のデューティー比を円環番号nに拘らず一定値0.5となるように各シリンドリカルレンズ104の焦点距離fを設定した場合に対応し、同図(A)は規格化周波数と射影像のMTFとの関係を示し、図中の直線は理想状態を示している。同図(B)は現像画像の一例を示している。 FIG. 4 corresponds to the conventional case shown in FIG. 2, and FIG. It shows. FIG. 2B shows an example of a developed image. FIG. 5 corresponds to the case where the focal length f of each cylindrical lens 104 is set so that the duty ratio of the projected image is a constant value of 0.5 regardless of the ring number n, and FIG. The relationship between frequency and MTF of a projected image is shown, and the straight line in the figure shows an ideal state. FIG. 2B shows an example of a developed image.

図4(A)と図5(A)を比較すると、図4(A)では低周波領域にMTFの落ち込みがあり、理想状態から隔たりがあることがわかる。この射影像に対して現像処理を行うと、現像画像に含まれる低周波成分の信号が弱くなるため、図4(B)に示すように、エッジが強調された不自然な現像画像が得られることになる。 Comparing FIG. 4(A) and FIG. 5(A), it can be seen that in FIG. 4(A) there is a drop in MTF in the low frequency region, and there is a difference from the ideal state. When developing processing is performed on this projected image, the signal of the low frequency component included in the developed image becomes weak, resulting in an unnatural developed image with emphasized edges, as shown in FIG. 4(B). It turns out.

一方、図5(A)では、図4(A)のような低周波領域におけるMTFの落ち込みがなく、理想状態に近いことがわかる。よって、この射影像に対して現像処理を行ってられた現像画像(図5(B))は、図4(B)に比べて画質が改善されたものとなる。 On the other hand, in FIG. 5(A), there is no drop in MTF in the low frequency region as in FIG. 4(A), and it can be seen that the state is close to the ideal state. Therefore, the developed image (FIG. 5(B)) obtained by performing development processing on this projected image has improved image quality compared to FIG. 4(B).

<本発明の第2の実施形態に係る撮像装置の構成例>
本発明の第2の実施形態に係る撮像装置(不図示)は、上述した第1の実施形態に係る撮像装置(図1)における位相変調素子102を成す円環同心円状のシリンドリカルレンズ104の切り替わり半径を変更したものである。
<Configuration example of imaging device according to second embodiment of the present invention>
The imaging device (not shown) according to the second embodiment of the present invention is configured by switching the annular concentric cylindrical lens 104 forming the phase modulation element 102 in the imaging device (FIG. 1) according to the first embodiment described above. The radius has been changed.

図6は、第2の実施形態に係る撮像装置における位相変調素子102を成す円環同心円状のシリンドリカルレンズ104の形状の一例を示している。 FIG. 6 shows an example of the shape of a ring-concentric cylindrical lens 104 forming the phase modulation element 102 in the imaging device according to the second embodiment.

第2の実施形態では、位相変調素子102を成す円環同心円状のシリンドリカルレンズ104の切り替わり半径が、Cos(βr2+Φ)=-1を満たす位置にくるように形成されている。すなわち、切り替わり半径r=√((2nπ+π―Φ)/β)とする。 In the second embodiment, the switching radius of the annular concentric cylindrical lens 104 n forming the phase modulation element 102 is formed at a position satisfying Cos(βr n 2+Φ)=−1. That is, the switching radius r n =√((2nπ+π−Φ)/β).

第2の実施形態の場合、円環状のシリンドリカルレンズ104を介して画像センサ103上に照射される射影像が、式(2)で示される同心円状パターンとよりよく一致するので、現像処理の過程で生成されるモアレ縞もより理想的なものになり、最終的に得られる現像画像もより画質が改善されたものとなる。 In the case of the second embodiment, the projected image irradiated onto the image sensor 103 through the annular cylindrical lens 104 better matches the concentric pattern shown by equation (2), so the development process The moire fringes generated in this process also become more ideal, and the final developed image also has improved image quality.

<本発明の第3の実施形態に係る撮像装置300の構成例>
次に、図7は、本発明の第3の実施形態に係る撮像装置300の基本的な構成例を示している。撮像装置300は、撮像装置100(図1)に対して、現像高調波次数入力部301を追加し、画像処理部106の内部に高調波パターン乗算部302を追加したものである。なお、撮像装置300のその他の構成要素のうち、撮像装置100の構成要素と共通するものについては同一の符号を付してその説明を省略する。
<Configuration example of imaging device 300 according to third embodiment of the present invention>
Next, FIG. 7 shows a basic configuration example of an imaging device 300 according to a third embodiment of the present invention. The imaging device 300 is the same as the imaging device 100 (FIG. 1) by adding a development harmonic order input section 301 and adding a harmonic pattern multiplication section 302 inside the image processing section 106. Note that among the other components of the imaging device 300, those that are common to the components of the imaging device 100 are given the same reference numerals, and the description thereof will be omitted.

撮像装置300は、射影像に含まれる高調波成分を用いた現像処理(以下、高調波現像処理と称する)により、撮像装置100よりも解像度が高い現像画像を生成するものである。 The imaging device 300 generates a developed image with higher resolution than the imaging device 100 by performing development processing using harmonic components included in the projected image (hereinafter referred to as harmonic development processing).

高調波を用いた現像処理の原理について説明する。上述したように、位相変調素子102を成す円環状のシリンドリカルレンズ104の集光断面強度分布が、局所的にピッチPの周期構造であり、明線の中心位置を原点として半径方向に座標xで表す位置の点光源による射影像強度I(x)とすれば、射影像強度I(x)は次式(12)に示すようにフーリエ級数展開できる。 The principle of development processing using harmonics will be explained. As described above, the focused cross-sectional intensity distribution of the annular cylindrical lens 104 constituting the phase modulation element 102 has a locally periodic structure with a pitch P, and has a coordinate x in the radial direction with the center position of the bright line as the origin. Assuming that the projected image intensity I(x) by a point light source at the position represented is I(x), the projected image intensity I(x) can be expanded into a Fourier series as shown in the following equation (12).

Figure 0007350673000012
Figure 0007350673000012

ここで簡単のため、シリンドリカルレンズ104の断面強度分布が幅wの矩形であると仮定すれば、式(12)における展開係数a,aは次式(13)によって求めることができる。 For simplicity, assuming that the cross-sectional intensity distribution of the cylindrical lens 104 is a rectangle with a width w, the expansion coefficients a 0 and a k in equation (12) can be determined by the following equation (13).

Figure 0007350673000013
Figure 0007350673000013

式(13)におけるAは、断面強度分布幅がwのときの矩形強度値である。ここで、輪帯幅内の強度の積分値Awを一定値Cとした場合、展開係数a,aは、次式(14)で表すことができる。 A in equation (13) is a rectangular intensity value when the cross-sectional intensity distribution width is w. Here, when the integral value Aw of the intensity within the annular width is set to a constant value C, the expansion coefficients a 0 and a k can be expressed by the following equation (14).

Figure 0007350673000014
Figure 0007350673000014

式(14)の展開係数a,aは、それぞれ直流成分、k倍高調波成分である。 The expansion coefficients a 0 and a k in Equation (14) are a DC component and a k-th harmonic component, respectively.

図8は、直流成分a=C/P=1とした場合におけるデューティー比の変化に対するk倍高調波成分の変化を示している。 FIG. 8 shows the change in the k-th harmonic component with respect to the change in the duty ratio when the DC component a 0 =C/P=1.

図8によれば、デューティー比が小さくなるほど、フーリエ展開の高調波成分が増えて射影像の変調成分の変調度が向上することを示している。ここで、k=1は基本周波数成分であり、通常の射影像成分である。k=2以上が実際の高調波成分となる。高調波成分は、デューティー比が0.5以下で顕著に増加するため、高調波成分を撮影画像の再構成に用いる場合には、デューティー比を0.5以下することが望ましい。 According to FIG. 8, it is shown that as the duty ratio becomes smaller, the harmonic components of the Fourier expansion increase, and the degree of modulation of the modulation component of the projected image improves. Here, k=1 is a fundamental frequency component and is a normal projected image component. The harmonic components with k=2 or more become actual harmonic components. Since harmonic components increase significantly when the duty ratio is 0.5 or less, when using the harmonic components to reconstruct a photographed image, it is desirable to set the duty ratio to 0.5 or less.

このように分解される高調波成分に対しても、現像処理にて高調波成分のみの同心円状のパターンを乗算すると高調波成分どうしのモアレ縞が形成される。このようなモアレ縞は、入射する光線の角度を反映したピッチと方向を持っており、多数の点光源からのパターンのモアレ縞がそれぞれピッチまたは方向が異なる状態で合成されている。ピッチまたは方向が異なるモアレ縞は、2次元フーリエ変換によって周波数分解すると、ピッチが原点からの距離に、方向が原点からの方向に対応した輝点に変換される。これはある点光源からの光を表す輝点であり、カメラによって結像されたのと同じ画像を得ることができる。点光源が多数同時に存在する場合でも、各点高原からの光を同時にそれぞれの輝点に分解して変換できるので、結局、被写体の像を得ることができる。 When the harmonic components decomposed in this manner are multiplied by a concentric pattern of only the harmonic components in the development process, moiré fringes of the harmonic components are formed. Such moire fringes have pitches and directions that reflect the angles of incident light rays, and the moire fringes of patterns from multiple point light sources are combined with each having a different pitch or direction. When moire fringes with different pitches or directions are frequency-resolved by two-dimensional Fourier transform, they are converted into bright spots whose pitches correspond to distances from the origin and whose directions correspond to the directions from the origin. This is a bright spot representing light from a point light source, and the same image as that captured by a camera can be obtained. Even when a large number of point light sources exist at the same time, the light from each point plateau can be simultaneously decomposed and converted into each bright spot, so that an image of the subject can be obtained after all.

モアレ稿が2次元フーリエ変換されて得られる現像画像の視野の最外周の点像は、最も細かいモアレ縞の空間周波数成分によるものである。そして、最も細かいモアレ縞のピッチは、基本的に現像処理にて乗算される同心円状のパターンの最外周のピッチに等しい。すなわち、現像画像領域の直径または一辺の大きさは、現像処理に用いられる同心円状のパターンの最外周のピッチに反比例する。 The point image at the outermost periphery of the field of view of the developed image obtained by two-dimensional Fourier transformation of the Moire draft is due to the spatial frequency component of the finest Moire fringe. The pitch of the finest moiré fringes is basically equal to the pitch of the outermost periphery of the concentric pattern multiplied in the development process. That is, the diameter or side size of the developed image area is inversely proportional to the pitch of the outermost periphery of the concentric pattern used in the development process.

一方、2次元フーリエ変換に高速フーリエ変換(FFT(Fast Fourier Transform))を採用して離散的に変換した場合、画像センサ103からの出力画像の全域に亘って生じているモアレ縞の周期パターンのフーリエ変換の結果は、空間周波数に応じた位置の1画素に変換される。そして、周期パターンが生じている領域の直径または一辺の大きさが画像センサ103の幅の1/2になるとフーリエ変換された点像は2倍に大きくなる。すなわち、現像画像領域の直径または一辺の大きさを、解像できる点像の大きさで除算した実質的な一辺の解像点数は、周期パターンが生じている領域の直径または一辺の大きさを、現像処理で用いる同心円状のパターンの最外周のピッチで割った値に等しくなる。 On the other hand, if fast Fourier transform (FFT) is used for the two-dimensional Fourier transform and the transform is performed discretely, the periodic pattern of moiré fringes occurring over the entire area of the output image from the image sensor 103 The result of the Fourier transform is transformed into one pixel at a position according to the spatial frequency. When the diameter or side size of the region where the periodic pattern occurs becomes 1/2 the width of the image sensor 103, the Fourier-transformed point image becomes twice as large. In other words, the actual number of resolution points per side, which is obtained by dividing the diameter or size of one side of the developed image area by the size of the point image that can be resolved, is the diameter or size of one side of the area where the periodic pattern occurs. , is equal to the value divided by the pitch of the outermost circumference of the concentric pattern used in the development process.

したがって、高調波成分を用いる第3の実施形態における位相変調素子102の同心円パターンの大きさを、その最外周のピッチを単位として表した大きさは、現像画像の直径または一辺の実質的な解像点数よりも、用いる高調波次数分の一に小さくなることになる。 Therefore, the size of the concentric pattern of the phase modulation element 102 in the third embodiment using harmonic components, expressed in terms of the pitch of the outermost periphery, is a practical solution of the diameter or side of the developed image. The number of image points is smaller than the number of harmonics used.

逆に言えば、高調波成分を用いて現像画像の解像度を向上させるためには、位相変調素子102の最外周のピッチを、位相変調素子102の大きさを現像画像領域の直径または一辺の実質的な解像点数で除算した値より2倍以上大きくしておけばよい。または、現像画像領域の直径または一辺の大きさを、解像できる2つの点像の画素間隔で除算した直径または一辺の解像点数が、位相変調素子102の大きさを位相変調素子102の最外周のピッチで除算した値の2倍以上となるようにすればよい。 Conversely, in order to improve the resolution of the developed image using harmonic components, the pitch of the outermost periphery of the phase modulation element 102 and the size of the phase modulation element 102 must be adjusted to the diameter of the developed image area or the substantial size of one side. It is sufficient to set the value to be at least twice as large as the value divided by the number of resolution points. Alternatively, the size of the phase modulation element 102 can be calculated by dividing the diameter or the size of one side of the developed image area by the pixel interval of two point images that can be resolved. It may be set to be at least twice the value divided by the pitch of the outer periphery.

図7に戻る。現像高調波次数入力部301は、画像処理部106の高調波パターン乗算部302に対して、現像処理における高調波次数kを入力する。現像高調波次数入力部301は、例えば、撮像装置300の筐体に設けられたスイッチやダイアル、タッチパネル等の入力デバイスからなる。高調波パターン乗算部302は、現像処理にて、現像高調波次数入力部301から入力された高調波次数kに応じた同心円状のパターンを画像センサ103から出力される画像信号に乗算する。これによってモアレ画像が得られる。画像処理部106では、これを2次元フーリエ変換し、その絶対値をとることで現像画像を得ることができる。 Return to FIG. 7. The development harmonic order input unit 301 inputs the harmonic order k in the development process to the harmonic pattern multiplication unit 302 of the image processing unit 106 . The development harmonic order input unit 301 includes, for example, an input device such as a switch, a dial, or a touch panel provided on the casing of the imaging device 300. The harmonic pattern multiplication unit 302 multiplies the image signal output from the image sensor 103 by a concentric pattern corresponding to the harmonic order k input from the development harmonic order input unit 301 during development processing. A moiré image is thereby obtained. The image processing unit 106 can obtain a developed image by subjecting this to two-dimensional Fourier transform and taking its absolute value.

第3の実施形態によれば、位相変調素子102のピッチを、本来必要なピッチよりも粗くできるため、画像センサ103と位相変調素子102の間隔を広くして視野を狭く、現像画像を大きくしても、回折による格子パターンのぼけの影響が少ない現像画像を得ることができる。 According to the third embodiment, the pitch of the phase modulation element 102 can be made coarser than originally required, so the distance between the image sensor 103 and the phase modulation element 102 can be widened to narrow the field of view and enlarge the developed image. However, even if the lattice pattern is blurred due to diffraction, a developed image can be obtained.

また、位相変調素子102の射影像における直流成分に対する変調成分の比率を高くすることができるため、被写体101を構成する多数の点光源からの射影像が重なりあった場合にも、射影像の変調度低下を抑え、モアレ縞のコントラストを改善することができ、現像画像の解像度を向上させることができる。 Furthermore, since the ratio of the modulation component to the DC component in the projected image of the phase modulating element 102 can be increased, even when the projected images from a large number of point light sources forming the subject 101 overlap, the projected image can be modulated. It is possible to suppress a decrease in optical density, improve the contrast of moiré fringes, and improve the resolution of a developed image.

<本発明の第4の実施形態に係る撮像装置400の構成例>
上述した第3の実施形態では、モアレ縞以外の元の同心円パターン成分や、現像処理にて乗算する高調波パターンが残留し、ノイズとなってしまうことがある。以下に説明する第4の実施形態は、該ノイズを除去を目的とした構成を有する。
<Configuration example of imaging device 400 according to fourth embodiment of the present invention>
In the third embodiment described above, the original concentric pattern components other than the moire fringes and the harmonic pattern multiplied in the development process may remain, resulting in noise. The fourth embodiment described below has a configuration aimed at removing the noise.

図9は、本発明の第4の実施形態に係る撮像装置400の基本的な構成例を示している。撮像装置400は、撮像装置100(図1)の位相変調素子102を位相変調素子401に置換するとともに、現像高調波次数入力部402を追加し、画像処理部106の内部に3倍周波数パターン乗算部403及び3倍周波数モアレ抽出部404を追加したものである。3倍周波数パターン乗算部403及び3倍周波数モアレ抽出部404は、本発明の高調波パターン乗算部及び高調波モアレ抽出部に相当する。なお、撮像装置400のその他の構成要素のうち、撮像装置100(図1)の構成要素と共通するものについては同一の符号を付してその説明を省略する。 FIG. 9 shows a basic configuration example of an imaging device 400 according to the fourth embodiment of the present invention. The imaging device 400 replaces the phase modulation element 102 of the imaging device 100 (FIG. 1) with a phase modulation element 401, adds a development harmonic order input section 402, and performs triple frequency pattern multiplication inside the image processing section 106. 403 and a triple frequency moiré extraction section 404 are added. The triple frequency pattern multiplication section 403 and the triple frequency moiré extraction section 404 correspond to the harmonic pattern multiplication section and harmonic moiré extraction section of the present invention. Note that among the other components of the imaging device 400, those that are common to the components of the imaging device 100 (FIG. 1) are given the same reference numerals, and the description thereof will be omitted.

位相変調素子401は、位相Φが異なる9枚の同心円パターンを同一面上に縦横3×3に配置したものであり、各同心円パターンそれぞれは円環同心円状の複数のシリンドリカルレンズによって形成されている。各同心円パターンを形成する、それぞれの中心からn番目のシリンドリカルレンズの中心の半径位置は、式(1)で与えられる。 The phase modulation element 401 has nine concentric circular patterns having different phases Φ F arranged in a 3×3 matrix on the same plane, and each concentric circular pattern is formed by a plurality of circular concentric cylindrical lenses. There is. The radial position of the center of the nth cylindrical lens from the center forming each concentric pattern is given by equation (1).

以下、高調波を含む同心円パターンのモアレ縞からノイズを除去してモアレ縞成分を抽出できることを理論的に説明する。 Hereinafter, it will be theoretically explained that noise can be removed from the moire fringe of a concentric pattern including harmonics and the moire fringe component can be extracted.

まず、被写体101を構成する複数の点光源のうちのp番目の点光源の強度Aを用い、画像センサ103上に射影された多数の高調波を含む各同心円パターンを次式(15)によって表す。 First, using the intensity A p of the p-th point light source among the plurality of point light sources that constitute the subject 101, each concentric circle pattern including a large number of harmonics projected onto the image sensor 103 is calculated using the following equation (15). represent.

Figure 0007350673000015
Figure 0007350673000015

式(15)におけるx,yは画像センサ103上の局所的な位置座標、kは高調波次数、βは同心円パターンのピッチを反映した定数、Φは同心円パターンの位相である。 In equation (15), x and y are local position coordinates on the image sensor 103, k is the harmonic order, β is a constant reflecting the pitch of the concentric pattern, and Φ F is the phase of the concentric pattern.

さらに、N個の点光源によって画像センサ103上に照射された射影像に対応する画像信号に、k’次の高調波成分を乗算して得られる強度分布は、式(15)を用いて次式(16)のように表される。 Furthermore, the intensity distribution obtained by multiplying the image signal corresponding to the projected image irradiated onto the image sensor 103 by the N point light sources by the k' order harmonic component can be calculated as follows using equation (15). It is expressed as in equation (16).

Figure 0007350673000016
Figure 0007350673000016

式(16)におけるΦは現像処理にて乗算する仮想的な同心円パターンの位相、rは半径座標の2乗であり、r=x+yである。 In equation (16), Φ B is the phase of the virtual concentric pattern multiplied in the development process, r 2 is the square of the radial coordinate, and r 2 =x 2 +y 2 .

簡単のため、点光源の位置の2次の項を無視すれば、式(16)は次式(17)に変形できる。 For simplicity, if the second-order term of the position of the point light source is ignored, equation (16) can be transformed into the following equation (17).

Figure 0007350673000017
Figure 0007350673000017

式(17)の最後の項がrの位相変動のない直線的なモアレ縞となる成分である。それ以外の項はすべてノイズであり、除去することが必要となる。さらに簡単のため、信号となるモアレ成分とノイズとを合わせて、式(17)を次式(18)に変形する。 The last term in equation (17) is a component that forms a linear moiré fringe with no phase variation of r2 . All other terms are noise and need to be removed. For further simplification, equation (17) is transformed into the following equation (18) by combining the moiré component serving as a signal and noise.

Figure 0007350673000018
Figure 0007350673000018

式(18)におけるθ1kp,θ2kpはそれぞれノイズの位相項と、信号のモアレ成分を含む位相項である。これに対して位相変調素子401の位相Φと、現像処理における仮想的な同心円パターンの位相Φを含む複素指数関数を乗じて各位相で2重積分すれば、次式(19)に示すように信号成分の位相項のみを抽出することができる。 θ 1kp and θ 2kp in equation (18) are a phase term of noise and a phase term including a moiré component of the signal, respectively. On the other hand, if this is multiplied by a complex exponential function including the phase Φ F of the phase modulation element 401 and the phase Φ B of the virtual concentric pattern in the development process and double integrated at each phase, the following equation (19) is obtained. Thus, only the phase term of the signal component can be extracted.

Figure 0007350673000019
Figure 0007350673000019

なお、式(19)では、任意の項を抽出できることを示すために第k項を抜き出しているが、モアレ成分であったk’項を抽出すれば、それが信号となるN個の点光源によるモアレ縞の合成の強度分布である。 Note that in Equation (19), the kth term is extracted to show that any term can be extracted, but if the k' term, which was a moiré component, is extracted, it will become a signal for N point light sources. This is the intensity distribution of the composite moiré fringes.

換言すれば、信号となるk倍高調波によるモアレ縞成分は次式(20)に示すように抽出できる。 In other words, the moiré fringe component due to the k-th harmonic, which becomes a signal, can be extracted as shown in the following equation (20).

Figure 0007350673000020
Figure 0007350673000020

式(20)をフーリエ変換した結果が次式(21)となり、p番目の点光源が点光源の位置(x,y)に比例した位置に、点光源の強度Aに比例した輝度の輝点を生じる強度分布を得ることができ、被写体が写った現像画像を得られることがわかる。 The result of Fourier transformation of equation (20) is the following equation (21), where the p-th point light source is located at a position proportional to the position of the point light source (x p , y p ), and the brightness is proportional to the intensity A p of the point light source. It can be seen that an intensity distribution that produces bright spots can be obtained, and a developed image that shows the subject can be obtained.

Figure 0007350673000021
Figure 0007350673000021

式(21)の右辺のF[]はフーリエ変換の演算を表す。このとき現像画像の明るさは高調波の展開係数αに比例しており、できるだけ展開係数αが大きい高次項を選ぶことが必要であることがわかる。 F[] on the right side of equation (21) represents a Fourier transform operation. At this time, the brightness of the developed image is proportional to the harmonic expansion coefficient α k , and it is understood that it is necessary to select a high-order term whose expansion coefficient α k is as large as possible.

また、式(21)の右辺で行う、モアレ縞成分の抽出のための積分は、実際にはその位相値をあまり細かく選ぶことはできない。換言すれば、異なる次数間でのエリアジングの生じない程度のサンプリング点数に抑える必要がある。しかしながら、本実施形態で示している3倍高調波を用いる場合は、少なくとも3倍高調波成分が抽出できるサンプリング点数が必要であり、3倍高調波の1周期を3点はサンプリングしないと三角関数の直交性が成り立たない。同時に基本周波数成分も1周期全体をサンプリングしないとノイズを除去できない。基本周波数成分1周期には3倍高調波が3周期分含まれるため、結局、3×3の9点の位相サンプリングが必要となる。 Furthermore, in the integration for extracting the moiré fringe component, which is performed on the right side of equation (21), the phase value cannot actually be selected very precisely. In other words, it is necessary to limit the number of sampling points to a level that does not cause aliasing between different orders. However, when using the third harmonic shown in this embodiment, the number of sampling points from which at least the third harmonic component can be extracted is required, and if one period of the third harmonic is not sampled at three points, the trigonometric function Orthogonality does not hold. At the same time, noise cannot be removed unless the entire fundamental frequency component is sampled over one period. Since one cycle of the fundamental frequency component includes three cycles of the third harmonic, phase sampling at nine points (3×3) is required.

このため、本実施形態では、位相Φ~Φの9点の位相サンプリングを行うため、位相変調素子401には位相Φ~Φにそれぞれ対応する同心円パターンを並べて配置している。 Therefore, in this embodiment, in order to perform phase sampling at nine points of phases Φ 1 to Φ 9 , concentric patterns corresponding to phases Φ 1 to Φ 9 , respectively, are arranged in the phase modulation element 401.

撮像装置400の説明に戻る。現像高調波次数入力部402は、画像処理部106の3倍周波数パターン乗算部403に対して、現像処理における高調波次数kを入力する。現像高調波次数入力部402は、例えば、撮像装置400の筐体に設けられたスイッチやダイアル、タッチパネル等の入力デバイスからなる。3倍周波数パターン乗算部403は、画像センサ103から出力された画像信号の3×3の各位相エリアに対して、上述した位相が異なる3倍周波数の同心円開口パターンを乗算する。なお、式(19)における仮想的な同心円パターンの位相積分は、乗算する仮想的な同心円パターンが3倍高調波成分だけでよいので、その位相サンプリングは最小で3点あればよい。 Returning to the description of the imaging device 400. The development harmonic order input unit 402 inputs the harmonic order k in the development process to the triple frequency pattern multiplication unit 403 of the image processing unit 106 . The development harmonic order input unit 402 includes, for example, an input device such as a switch, a dial, or a touch panel provided on the casing of the imaging device 400. The triple frequency pattern multiplication unit 403 multiplies each 3×3 phase area of the image signal output from the image sensor 103 by the triple frequency concentric aperture pattern having a different phase as described above. Note that in the phase integral of the virtual concentric pattern in equation (19), since the virtual concentric pattern to be multiplied only needs to be a triple harmonic component, the phase sampling only needs to be at three points at the minimum.

3倍周波数モアレ抽出部404は、3倍周波数パターン乗算部402による乗算結果として得られるモアレ縞に対し、式(9)に示した演算を行い、さらに、2次元フーリエ変換を行い、絶対値をとって現像画像を生成する。このようにして生成された現像画像は、第3の実施形態によって得られる現像画像に比べてノイズが除去されたものとなる。 The triple frequency moiré extraction unit 404 performs the calculation shown in equation (9) on the moire fringes obtained as a result of the multiplication by the triple frequency pattern multiplication unit 402, and further performs two-dimensional Fourier transformation to calculate the absolute value. and generate a developed image. The developed image generated in this manner has noise removed compared to the developed image obtained by the third embodiment.

第4の実施形態によれば、第3の実施形態と同様に現像画像の解像度を向上させることができ、さらに、現像画像のノイズを除去することが可能となる。 According to the fourth embodiment, as in the third embodiment, it is possible to improve the resolution of the developed image, and furthermore, it is possible to remove noise from the developed image.

本発明は、上述した実施形態に限定されるものではなく、様々な変形が可能である。例えば、上述した実施形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施形態の構成の一部を他の実施形態の構成に置き換えたり、追加したりすることが可能である。 The present invention is not limited to the embodiments described above, and various modifications are possible. For example, the embodiments described above have been described in detail to explain the present invention in an easy-to-understand manner, and the present invention is not necessarily limited to having all the configurations described. Further, it is possible to replace or add a part of the configuration of one embodiment to the configuration of another embodiment.

また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。 Further, each of the above-mentioned configurations, functions, processing units, processing means, etc. may be partially or entirely realized in hardware by designing, for example, an integrated circuit. Furthermore, each of the above configurations, functions, etc. may be realized by software by a processor interpreting and executing a program for realizing each function. Information such as programs, tables, files, etc. that implement each function can be stored in a memory, a recording device such as a hard disk, an SSD (Solid State Drive), or a recording medium such as an IC card, SD card, or DVD. Further, the control lines and information lines are shown to be necessary for explanation purposes, and not all control lines and information lines are necessarily shown in the product. In reality, almost all components may be considered to be interconnected.

100・・・撮像装置、101・・・被写体、102・・・位相変調素子、103・・・画像センサ、104・・・シリンドリカルレンズ、105・・・円環状明線、106・・・画像処理部、110・・・位相変調素子、300・・・撮像装置、301・・・現像高調波次数入力部、302・・・高調波パターン乗算部、400・・・撮像装置、401・・・位相変調素子、402・・・現像高調波次数入力部 100... Imaging device, 101... Subject, 102... Phase modulation element, 103... Image sensor, 104... Cylindrical lens, 105... Annular bright line, 106... Image processing 110... Phase modulation element, 300... Imaging device, 301... Development harmonic order input unit, 302... Harmonic pattern multiplication unit, 400... Imaging device, 401... Phase Modulation element, 402...Development harmonic order input section

Claims (10)

同心円状の複数の円環から形成され、入射光の位相を変調する位相変調素子と、
前記位相変調素子を介して被写体の光学像が射影される画像センサと、
前記画像センサから入力される画像信号に対して所定の現像処理を行うことにより現像画像を生成する画像処理部と、
を備え、
前記位相変調素子を形成する前記複数の円環は、前記被写体の前記光学像を前記画像センサに照射する際の焦点距離がそれぞれ異なり、
前記位相変調素子を形成する円環番号nの前記円環の前記焦点距離f[m]は、
f=-d(L -w )/(L (duty-1))
によって計算され、
前記円環番号nは、前記位相変調素子の中心を0番として外周側に向かって1ずつインクリメントされる番号であり、
前記dは、前記位相変調素子と前記画像センサとの距離[m]であり、
前記L は、前記円環番号nの前記円環の幅[m]であり、
前記w は、前記位相変調素子により前記画像センサに射影される複数の円環状明線のうち、前記円環番号nに対応する前記円環状明線の幅[m]であり、
前記dutyは、前記円環番号nに対応する前記円環状明線の幅w と周期P とのデューティー比(w /P )であって、前記円環番号nに拘わらず所定の一定値である
ことを特徴とする撮像装置。
a phase modulation element formed from a plurality of concentric rings and modulating the phase of incident light;
an image sensor on which an optical image of a subject is projected through the phase modulation element;
an image processing unit that generates a developed image by performing predetermined development processing on the image signal input from the image sensor;
Equipped with
The plurality of rings forming the phase modulation element have different focal lengths when irradiating the optical image of the subject onto the image sensor,
The focal length f [m] of the ring with ring number n forming the phase modulation element is:
f=-d( Ln - wn )/( Ln (duty-1))
calculated by
The ring number n is a number that is incremented by 1 toward the outer circumference from number 0 at the center of the phase modulation element,
The d is the distance [m] between the phase modulation element and the image sensor,
The L n is the width [m] of the ring with the ring number n,
The w n is the width [m] of the circular bright line corresponding to the circular ring number n among the plurality of circular bright lines projected onto the image sensor by the phase modulation element,
The duty is a duty ratio (w n /P n ) between the width w n and the period P n of the annular bright line corresponding to the annular number n, and is a duty ratio (w n /P n ) of the annular bright line corresponding to the annular number n. An imaging device characterized by a constant value.
同心円状の複数の円環から形成され、入射光の位相を変調する位相変調素子と、
前記位相変調素子を介して被写体の光学像が射影される画像センサと、
前記画像センサから入力される画像信号に対して所定の現像処理を行うことにより現像画像を生成する画像処理部と、
を備え、
前記位相変調素子を形成する前記複数の円環は、前記被写体の前記光学像を前記画像センサに照射する際の焦点距離がそれぞれ異なり、
前記位相変調素子を形成する円環番号nの円環の中心位置r [m]は、
=√((2nπ-Φ)/β)
であり、
前記円環番号nは、前記位相変調素子の中心を0番として外周側に向かって1ずつインクリメントされる番号であり、
前記Φは、前記位相変調素子により前記画像センサに射影される複数の円環状明線からなる射影像を近似する球面波における前記円環状明線の中心からの距離rでの位相[rad]であり、
前記βは、前記球面波の波面の曲がりの大きさを決める係数[rad/m であって、
前記円環番号nに対応する前記円環状明線の幅w と周期P とのデューティー比(w /P )は、前記円環番号nに拘わらず所定の一定値である
ことを特徴とする撮像装置。
a phase modulation element formed from a plurality of concentric rings and modulating the phase of incident light;
an image sensor on which an optical image of a subject is projected through the phase modulation element;
an image processing unit that generates a developed image by performing predetermined development processing on the image signal input from the image sensor;
Equipped with
The plurality of rings forming the phase modulation element have different focal lengths when irradiating the optical image of the subject onto the image sensor,
The center position r n [m] of the ring with ring number n forming the phase modulation element is:
r n =√((2nπ−Φ)/β)
and
The ring number n is a number that is incremented by 1 toward the outer circumference from number 0 at the center of the phase modulation element,
The Φ is the phase [rad] at a distance r from the center of the toroidal bright line in a spherical wave that approximates a projected image consisting of a plurality of toric bright lines projected onto the image sensor by the phase modulation element. can be,
The β is a coefficient [rad/m 2 ] that determines the degree of curvature of the wavefront of the spherical wave, and
The duty ratio (w n /P n ) between the width w n and the period P n of the circular bright line corresponding to the circular ring number n is a predetermined constant value regardless of the circular ring number n. Characteristic imaging device.
同心円状の複数の円環から形成され、入射光の位相を変調する位相変調素子と、
前記位相変調素子を介して被写体の光学像が射影される画像センサと、
前記画像センサから入力される画像信号に対して所定の現像処理を行うことにより現像画像を生成する画像処理部と、
を備え、
前記位相変調素子を形成する前記複数の円環は、前記被写体の前記光学像を前記画像センサに照射する際の焦点距離がそれぞれ異なり、
前記位相変調素子を形成する円環番号nの前記円環の幅L [m]は、
=(√((2π(n+1)-Φ)/β)-√((2π(n―1)-Φ)/β))/2
であり、
前記円環番号nは、前記位相変調素子の中心を0番として外周側に向かって1ずつインクリメントされる円環番号であり、
前記Φは、前記位相変調素子により前記画像センサに射影される複数の円環状明線からなる射影像を近似する球面波における前記円環状明線の中心からの距離rでの位相[rad]であり、
前記βは、前記球面波の波面の曲がりの大きさを決める係数[rad/m であって、
前記円環番号nに対応する前記円環状明線の幅w と周期P とのデューティー比(w /P )は、前記円環番号nに拘わらず所定の一定値である
ことを特徴とする撮像装置。
a phase modulation element formed from a plurality of concentric rings and modulating the phase of incident light;
an image sensor on which an optical image of a subject is projected through the phase modulation element;
an image processing unit that generates a developed image by performing predetermined development processing on the image signal input from the image sensor;
Equipped with
The plurality of rings forming the phase modulation element have different focal lengths when irradiating the optical image of the subject onto the image sensor,
The width L n [m] of the ring with ring number n forming the phase modulation element is:
L n = (√((2π(n+1)-Φ)/β)-√((2π(n-1)-Φ)/β))/2
and
The ring number n is a ring number that is incremented by 1 toward the outer circumference from number 0 at the center of the phase modulation element,
The Φ is the phase [rad] at a distance r from the center of the toroidal bright line in a spherical wave that approximates a projected image consisting of a plurality of toric bright lines projected onto the image sensor by the phase modulation element. can be,
The β is a coefficient [rad/m 2 ] that determines the degree of curvature of the wavefront of the spherical wave, and
The duty ratio (w n /P n ) between the width w n and the period P n of the circular bright line corresponding to the circular ring number n is a predetermined constant value regardless of the circular ring number n. Characteristic imaging device.
同心円状の複数の円環から形成され、入射光の位相を変調する位相変調素子と、
前記位相変調素子を介して被写体の光学像が射影される画像センサと、
前記画像センサから入力される画像信号に対して所定の現像処理を行うことにより現像画像を生成する画像処理部と、
を備え、
前記位相変調素子を形成する前記複数の円環は、前記被写体の前記光学像を前記画像センサに照射する際の焦点距離がそれぞれ異なり、
前記位相変調素子を形成する前記複数の円環の切替わり半径である円環番号nの円環の中心位置r [m]は、
=√((2nπ+π-Φ)/β)
であり、
前記円環番号nは、前記位相変調素子の中心を0番として外周側に向かって1ずつインクリメントされる円環番号であり、
前記Φは、前記位相変調素子により前記画像センサに射影される複数の円環状明線からなる射影像を近似する球面波における前記円環状明線の中心からの距離rでの位相[rad]であり、
前記βは、前記球面波の波面の曲がりの大きさを決める係数[rad/m であって、
前記円環番号nに対応する前記円環状明線の幅w と周期P とのデューティー比(w /P )は、前記円環番号nに拘わらず所定の一定値である
ことを特徴とする撮像装置。
a phase modulation element formed from a plurality of concentric rings and modulating the phase of incident light;
an image sensor on which an optical image of a subject is projected through the phase modulation element;
an image processing unit that generates a developed image by performing predetermined development processing on the image signal input from the image sensor;
Equipped with
The plurality of rings forming the phase modulation element have different focal lengths when irradiating the optical image of the subject onto the image sensor,
The center position r n [m] of the ring with ring number n, which is the switching radius of the plurality of rings forming the phase modulation element, is:
r n =√((2nπ+π−Φ)/β)
and
The ring number n is a ring number that is incremented by 1 toward the outer circumference from number 0 at the center of the phase modulation element,
The Φ is the phase [rad] at a distance r from the center of the toroidal bright line in a spherical wave that approximates a projected image consisting of a plurality of toric bright lines projected onto the image sensor by the phase modulation element. can be,
The β is a coefficient [rad/m 2 ] that determines the degree of curvature of the wavefront of the spherical wave, and
The duty ratio (w n /P n ) between the width w n and the period P n of the circular bright line corresponding to the circular ring number n is a predetermined constant value regardless of the circular ring number n. Characteristic imaging device.
請求項1~4のいずれか一項に記載の撮像装置であって、
前記位相変調素子を形成する前記複数の円環は、曲率半径がそれぞれ異なる
ことを特徴とする撮像装置。
The imaging device according to any one of claims 1 to 4,
An imaging device, wherein the plurality of rings forming the phase modulation element have different radii of curvature.
請求項1~4のいずれか一項に記載の撮像装置であって、
前記位相変調素子は、円環同心円状の複数のシリンドリカルレンズから形成される
ことを特徴とする撮像装置。
The imaging device according to any one of claims 1 to 4,
The imaging device is characterized in that the phase modulation element is formed from a plurality of ring-concentric cylindrical lenses.
請求項1~4のいずれか一項に記載の撮像装置であって、
前記位相変調素子を形成する前記円環の前記焦点距離は、前記位相変調素子の中心側ほど長い
ことを特徴とする撮像装置。
The imaging device according to any one of claims 1 to 4,
The focal length of the ring forming the phase modulation element is longer toward the center of the phase modulation element. The imaging device.
請求項1~4のいずれか一項に記載の撮像装置であって、
前記画像処理部における前記現像処理の高調波次数を設定する現像高調波次数入力部、
を備え、
前記画像処理部は、前記画像センサから入力される前記画像信号に対し、設定された前記高調波次数に応じた高調波パターンを乗算する高調波パターン乗算部、を有する
ことを特徴とする撮像装置。
The imaging device according to any one of claims 1 to 4,
a development harmonic order input unit for setting a harmonic order of the development process in the image processing unit;
Equipped with
The image processing unit includes a harmonic pattern multiplication unit that multiplies the image signal input from the image sensor by a harmonic pattern according to the set harmonic order. .
請求項8に記載の撮像装置であって、
前記位相変調素子には、位相が異なる複数の同心円パターンが同一面上に配置されている
ことを特徴とする撮像装置。
The imaging device according to claim 8,
An imaging device characterized in that the phase modulation element has a plurality of concentric circular patterns having different phases arranged on the same plane.
請求項8に記載の撮像装置であって、
前記画像処理部は、高調波パターン乗算部が前記画像センサから入力される前記画像信号に対して前記高調波パターンを乗算することによって得られるモアレ稿から、設定された前記高調波次数に応じたモアレ稿成分を抽出する
ことを特徴とする撮像装置。
The imaging device according to claim 8,
The image processing unit is configured to generate a moiré pattern according to the set harmonic order from a moiré draft obtained by the harmonic pattern multiplication unit multiplying the image signal input from the image sensor by the harmonic pattern. An imaging device characterized by extracting moiré draft components.
JP2020030264A 2020-02-26 2020-02-26 Imaging device Active JP7350673B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020030264A JP7350673B2 (en) 2020-02-26 2020-02-26 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020030264A JP7350673B2 (en) 2020-02-26 2020-02-26 Imaging device

Publications (2)

Publication Number Publication Date
JP2021135351A JP2021135351A (en) 2021-09-13
JP7350673B2 true JP7350673B2 (en) 2023-09-26

Family

ID=77661084

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020030264A Active JP7350673B2 (en) 2020-02-26 2020-02-26 Imaging device

Country Status (1)

Country Link
JP (1) JP7350673B2 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007122055A (en) 2005-10-27 2007-05-17 Samsung Electro-Mechanics Co Ltd Optical system having multiple curvature lens and manufacturing method thereof
US20100028903A1 (en) 2007-02-01 2010-02-04 Silke Hofmann Method and device for examining the attachment or detachment of living or dead cells or cell-like particles or other surface accumulations on surfaces by means of plasmon resonance and use of said method and said device
JP2018195870A (en) 2017-05-12 2018-12-06 株式会社日立製作所 Imaging apparatus

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007122055A (en) 2005-10-27 2007-05-17 Samsung Electro-Mechanics Co Ltd Optical system having multiple curvature lens and manufacturing method thereof
US20100028903A1 (en) 2007-02-01 2010-02-04 Silke Hofmann Method and device for examining the attachment or detachment of living or dead cells or cell-like particles or other surface accumulations on surfaces by means of plasmon resonance and use of said method and said device
JP2018195870A (en) 2017-05-12 2018-12-06 株式会社日立製作所 Imaging apparatus

Also Published As

Publication number Publication date
JP2021135351A (en) 2021-09-13

Similar Documents

Publication Publication Date Title
JP6820908B2 (en) Imaging device
JP6491332B2 (en) Imaging device
JP6688716B2 (en) Imaging device and imaging method
JP6721698B2 (en) Imaging device
WO2018110120A1 (en) Imaging device
WO2018221019A1 (en) Image processing device, imaging system, image processing method, and recording medium
JPWO2018221025A1 (en) Imaging device, image processing device, imaging system, image processing method, and recording medium
US10488561B2 (en) Imaging device
US10863120B2 (en) Imaging device, imaging module, and imaging method
CN109900249B (en) Distance measuring device and distance measuring method
JP7350673B2 (en) Imaging device
JP6646619B2 (en) Imaging device
JPWO2019131382A1 (en) Imaging device
WO2020059181A1 (en) Imaging device and imaging method
JP6864604B2 (en) Imaging device
JP2023016864A (en) Imaging apparatus and method
JP6947891B2 (en) Mobile information terminal
JP2020065265A (en) Imaging apparatus
JP7159118B2 (en) Imaging device
CN110278350B (en) Image pickup apparatus
JP7137290B2 (en) Imaging device
JP2021064000A (en) Imaging device
Tian et al. CFZA Camera: a high-resolution lensless imaging technique based on compound
JP2019140681A (en) Imaging apparatus and image generation method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220404

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230329

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230913

R151 Written notification of patent or utility model registration

Ref document number: 7350673

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151