JP6344236B2 - 画像処理装置および撮像装置 - Google Patents
画像処理装置および撮像装置 Download PDFInfo
- Publication number
- JP6344236B2 JP6344236B2 JP2014524899A JP2014524899A JP6344236B2 JP 6344236 B2 JP6344236 B2 JP 6344236B2 JP 2014524899 A JP2014524899 A JP 2014524899A JP 2014524899 A JP2014524899 A JP 2014524899A JP 6344236 B2 JP6344236 B2 JP 6344236B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- microlens
- light
- unit
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 81
- 230000003287 optical effect Effects 0.000 claims description 19
- 238000004364 calculation method Methods 0.000 claims description 6
- 239000002131 composite material Substances 0.000 description 32
- 239000000203 mixture Substances 0.000 description 15
- 230000015572 biosynthetic process Effects 0.000 description 14
- 238000003786 synthesis reaction Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 11
- 230000004907 flux Effects 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 8
- 230000004048 modification Effects 0.000 description 8
- 238000012986 modification Methods 0.000 description 8
- 238000000034 method Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 210000001747 pupil Anatomy 0.000 description 5
- 230000009467 reduction Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000001308 synthesis method Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
- H01L27/14601—Structural or functional details thereof
- H01L27/14625—Optical elements or arrangements associated with the device
- H01L27/14627—Microlenses
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Power Engineering (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Condensed Matter Physics & Semiconductors (AREA)
- Electromagnetism (AREA)
- Computer Hardware Design (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Image Input (AREA)
Description
本実施の形態のデジタルカメラは、マイクロレンズアレイを介して撮影することにより取得された画像信号が奥行き情報等の波面情報を有することを利用して、数値処理によってユーザが所望する焦点位置を有する画像データを生成する。撮影レンズを介して入射した被写体光束は、マイクロレンズアレイの近傍に結像する。このとき、被写体の位置に応じて光束が結像する位置は撮影レンズの光軸方向に異なるものとなり、さらに被写体が三次元物体であれば被写体光束は同一平面上には結像しない。本実施の形態のデジタルカメラは、ユーザが所望する光軸方向の結像位置に結像する被写体の像を再現した画像データを生成(合成)する。以下、この生成された画像データを合成画像データと称する。合成画像データは、結像光学系の焦点があたかも当該結像位置(実際の結像位置ではなくユーザが所望する位置)にあるように見える。そこで、以下の説明において、この結像位置のことを焦点位置と呼ぶこととする。
(1)デジタルカメラ1は、撮影レンズL1を透過した光束が入射するよう二次元状に配置された複数のマイクロレンズ120から成るマイクロレンズアレイ12と、複数のマイクロレンズ120の各々に対応して当該マイクロレンズ120の後側に配置された複数の撮像画素130を有する撮像素子13とを備える。制御回路101は、複数のマイクロレンズ120の各々に対応する複数の撮像画素130の出力に基づいて、撮影レンズL1の任意の像面における像の画像データを合成する画像合成部105と、画像合成部105により合成された画像データをフーリエ変換するフーリエ変換部106と、複数のマイクロレンズ120に入射した光束の光学的な広がりを表すポイントスプレッドファンクションのフーリエ像でフーリエ変換の結果を実効的に除算する除算部107と、除算部107による除算の結果を逆フーリエ変換し、目的画像データを作成する逆フーリエ変換部108と、を備える。このようにしたので、コントラストの高さと分解能の高さを両立した画像データを合成することができる。
以下、図面を用いて、本発明の第2の実施の形態であるデジタルカメラについて説明する。なお、第1の実施の形態と同一の箇所には第1の実施の形態と同一の符号を付し、説明を省略する。
レンズ交換可能なデジタルカメラに本発明を適用した実施形態について上述したが、本発明はこのような実施の形態に限定されない。例えばレンズ一体型のカメラ等についても本発明を適用することが可能である。
マイクロレンズ120の配列および形状は、第1および第2の実施の形態で述べたものに限定されない。また、撮像素子13の撮像面における各撮像画素の配列および形状についても同様である。例えば、各マイクロレンズ120により被覆される撮像画素130が、マイクロレンズ120毎に分離していてもよい。
ウィナーフィルタを用いずに真の光強度f(x)を求めてもよい。すなわち、上式(5)ではなく(4)を用いてF(u)を求めるように除算部107を構成してもよい。
上記実施の形態では、画像合成部105により合成された合成画像に対して、フーリエ変換部106、除算部107、逆フーリエ変換部108の処理により、マイクロレンズ120による入射光束の重畳を解き、コントラストの高い画像を求めるようにした。しかし、合成前の画像の空間周波数成分が高い部分にハイパスフィルターを加え、低下するコントラストをあらかじめ補完しておくようにしてもよい。
とあらわすことができる。
と考えることができる。
日本国特許出願2012年第156940号(2012年7月12日出願)
Claims (6)
- 複数のマイクロレンズ毎に複数設けられた受光部の出力データから被写体の任意の焦点面の画像を生成する画像生成部と、
前記画像生成部により生成された前記画像を前記マイクロレンズの光学特性により補正する補正部と、を有する画像処理装置。 - 請求項1記載の画像処理装置において、
前記画像生成部で生成された前記画像の画素の数が前記マイクロレンズの数よりも多い画像処理装置。 - 請求項1または2記載の画像処理装置において、
前記マイクロレンズの光学特性は、前記マイクロレンズに入射した光束の光学的な広がりを表す特性である画像処理装置。 - 請求項3記載の画像処理装置において、
前記マイクロレンズに入射した光束の光学的な広がりを表す特性は、前記マイクロレンズに入射した光束の光学的な広がりを表すポイントスプレッドファンクションである画像処理装置。 - 請求項4に記載の画像処理装置において、
前記補正部は、前記画像生成部により生成された前記画像をフーリエ変換するフーリエ変換部と、前記ポイントスプレッドファンクションのフーリエ像で前記フーリエ変換部によるフーリエ変換の結果を実効的に除算する演算部と、前記演算部による前記除算の結果を逆フーリエ変換する逆フーリエ変換部とを有する画像処理装置。 - 請求項1から5の何れか1項に記載の画像処理装置を有する撮像装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012156940 | 2012-07-12 | ||
JP2012156940 | 2012-07-12 | ||
PCT/JP2013/069193 WO2014010734A1 (ja) | 2012-07-12 | 2013-07-12 | 撮像装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018099866A Division JP6516045B2 (ja) | 2012-07-12 | 2018-05-24 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2014010734A1 JPWO2014010734A1 (ja) | 2016-06-23 |
JP6344236B2 true JP6344236B2 (ja) | 2018-06-20 |
Family
ID=49916173
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014524899A Active JP6344236B2 (ja) | 2012-07-12 | 2013-07-12 | 画像処理装置および撮像装置 |
JP2018099866A Active JP6516045B2 (ja) | 2012-07-12 | 2018-05-24 | 画像処理装置 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018099866A Active JP6516045B2 (ja) | 2012-07-12 | 2018-05-24 | 画像処理装置 |
Country Status (4)
Country | Link |
---|---|
US (2) | US9838618B2 (ja) |
JP (2) | JP6344236B2 (ja) |
CN (2) | CN108337419A (ja) |
WO (1) | WO2014010734A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5671842B2 (ja) * | 2010-06-03 | 2015-02-18 | 株式会社ニコン | 画像処理装置および撮像装置 |
CN105812623B (zh) * | 2014-12-30 | 2018-10-16 | 深圳超多维科技有限公司 | 微透镜阵列成像装置与成像方法 |
KR102554417B1 (ko) * | 2018-06-18 | 2023-07-11 | 삼성전자주식회사 | 이미지 센서 |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1219395C (zh) * | 2002-01-30 | 2005-09-14 | 株式会社理光 | 摄像装置和摄像方法 |
US7173663B2 (en) * | 2002-10-31 | 2007-02-06 | Freescale Semiconductor, Inc. | Automatic exposure control system for a digital camera |
US20050133879A1 (en) * | 2003-04-07 | 2005-06-23 | Takumi Yamaguti | Solid-state imaging device, signal processing device, camera, and spectral device |
US20070279618A1 (en) * | 2004-10-15 | 2007-12-06 | Matsushita Electric Industrial Co., Ltd. | Imaging Apparatus And Image Improving Method |
EP1958433B1 (en) * | 2005-06-03 | 2018-06-27 | Universität Zürich | Photoarray for detecting time-dependent image data |
JP4826152B2 (ja) | 2005-06-23 | 2011-11-30 | 株式会社ニコン | 画像合成方法及び撮像装置 |
JP4444936B2 (ja) * | 2006-09-19 | 2010-03-31 | 富士フイルム株式会社 | 撮影装置および方法並びにプログラム |
US7792423B2 (en) * | 2007-02-06 | 2010-09-07 | Mitsubishi Electric Research Laboratories, Inc. | 4D light field cameras |
US8229294B2 (en) * | 2007-12-10 | 2012-07-24 | Mitsubishi Electric Research Laboratories, Inc. | Cameras with varying spatio-angular-temporal resolutions |
JP5187145B2 (ja) * | 2008-11-07 | 2013-04-24 | 株式会社ニコン | 画像合成装置および方法 |
JP5463718B2 (ja) * | 2009-04-16 | 2014-04-09 | ソニー株式会社 | 撮像装置 |
JP2010258689A (ja) | 2009-04-23 | 2010-11-11 | Canon Inc | 画像復元装置 |
JP5499778B2 (ja) * | 2010-03-03 | 2014-05-21 | 株式会社ニコン | 撮像装置 |
JP5671842B2 (ja) * | 2010-06-03 | 2015-02-18 | 株式会社ニコン | 画像処理装置および撮像装置 |
CN103155542A (zh) * | 2010-09-24 | 2013-06-12 | 富士胶片株式会社 | 图像拾取装置和图像拾取设备 |
JP5466766B2 (ja) * | 2010-10-01 | 2014-04-09 | 富士フイルム株式会社 | 撮像装置 |
US20140176592A1 (en) * | 2011-02-15 | 2014-06-26 | Lytro, Inc. | Configuring two-dimensional image processing based on light-field parameters |
JP2012222742A (ja) * | 2011-04-13 | 2012-11-12 | Sony Corp | 撮像素子および撮像装置 |
US9270948B2 (en) * | 2011-04-27 | 2016-02-23 | Panasonic Intellectual Property Management Co., Ltd. | Image pick-up device, method, and system utilizing a lens having plural regions each with different focal characteristics |
CN105866917A (zh) * | 2011-05-31 | 2016-08-17 | 株式会社尼康 | 镜头镜筒及相机机身 |
US10097778B2 (en) * | 2013-05-02 | 2018-10-09 | Rayence Co., Ltd. | Image sensor and method for improving readout speed |
-
2013
- 2013-07-12 CN CN201810281528.9A patent/CN108337419A/zh active Pending
- 2013-07-12 WO PCT/JP2013/069193 patent/WO2014010734A1/ja active Application Filing
- 2013-07-12 US US14/413,288 patent/US9838618B2/en active Active
- 2013-07-12 CN CN201380036923.6A patent/CN104471924B/zh active Active
- 2013-07-12 JP JP2014524899A patent/JP6344236B2/ja active Active
-
2017
- 2017-11-08 US US15/807,103 patent/US10341580B2/en active Active
-
2018
- 2018-05-24 JP JP2018099866A patent/JP6516045B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
US10341580B2 (en) | 2019-07-02 |
US20180070027A1 (en) | 2018-03-08 |
CN108337419A (zh) | 2018-07-27 |
CN104471924A (zh) | 2015-03-25 |
JP2018186508A (ja) | 2018-11-22 |
JP6516045B2 (ja) | 2019-05-22 |
US9838618B2 (en) | 2017-12-05 |
CN104471924B (zh) | 2018-05-01 |
US20150319351A1 (en) | 2015-11-05 |
JPWO2014010734A1 (ja) | 2016-06-23 |
WO2014010734A1 (ja) | 2014-01-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5671842B2 (ja) | 画像処理装置および撮像装置 | |
JP6149339B2 (ja) | 表示装置 | |
JP4941332B2 (ja) | 撮像装置 | |
WO2010053178A1 (ja) | 撮像装置および画像処理方法 | |
JP6516045B2 (ja) | 画像処理装置 | |
KR20150047112A (ko) | 촬상장치, 그 제어 방법 및 기억매체 | |
US20150287208A1 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium | |
JP2016001853A (ja) | 画像処理装置、撮像装置、制御方法及びプログラム | |
JP6036799B2 (ja) | 画像処理装置 | |
JP6190119B2 (ja) | 画像処理装置、撮像装置、制御方法、及びプログラム | |
WO2017126242A1 (ja) | 撮像装置、及び、画像データ生成方法 | |
JP2017034722A (ja) | 画像処理装置および撮像装置 | |
JP6102061B2 (ja) | 画像処理装置 | |
JP5743769B2 (ja) | 画像処理装置および画像処理方法 | |
JP2016031446A (ja) | 撮像装置及びその制御方法 | |
JP6891935B2 (ja) | 画像表示装置 | |
JP2016082325A (ja) | 撮像装置、画像処理装置および画像処理プログラム | |
WO2021171980A1 (ja) | 画像処理装置及びその制御方法並びにプログラム | |
JP6491539B2 (ja) | 撮像装置及びその制御方法、システムならびにプログラム | |
JP2019003665A (ja) | 画像処理装置 | |
JP2015220599A (ja) | 情報処理装置、制御方法、プログラム及び記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160711 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160711 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170919 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171116 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180424 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180507 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6344236 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |