JP6006389B1 - 撮像装置、撮像方法及び撮像プログラム - Google Patents
撮像装置、撮像方法及び撮像プログラム Download PDFInfo
- Publication number
- JP6006389B1 JP6006389B1 JP2015167096A JP2015167096A JP6006389B1 JP 6006389 B1 JP6006389 B1 JP 6006389B1 JP 2015167096 A JP2015167096 A JP 2015167096A JP 2015167096 A JP2015167096 A JP 2015167096A JP 6006389 B1 JP6006389 B1 JP 6006389B1
- Authority
- JP
- Japan
- Prior art keywords
- image
- processing
- pixel
- chromatic aberration
- aberration correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 37
- 238000012545 processing Methods 0.000 claims abstract description 330
- 238000012937 correction Methods 0.000 claims abstract description 131
- 230000004075 alteration Effects 0.000 claims abstract description 128
- 238000000034 method Methods 0.000 claims abstract description 56
- 230000008569 process Effects 0.000 claims abstract description 49
- 239000000203 mixture Substances 0.000 claims description 18
- 230000002194 synthesizing effect Effects 0.000 claims description 5
- 230000015572 biosynthetic process Effects 0.000 claims description 4
- 238000003786 synthesis reaction Methods 0.000 claims description 4
- 230000005540 biological transmission Effects 0.000 abstract description 7
- 238000010586 diagram Methods 0.000 description 14
- 239000002131 composite material Substances 0.000 description 13
- 230000003287 optical effect Effects 0.000 description 13
- 238000012546 transfer Methods 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000000605 extraction Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 238000003491 array Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000001454 recorded image Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 230000006854 communication Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000007175 bidirectional communication Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
- H04N25/611—Correction of chromatic aberration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/672—Focus control based on electronic image sensor signals based on the phase difference signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/673—Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/48—Increasing resolution by shifting the sensor relative to the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
- Image Processing (AREA)
- Geometry (AREA)
- Studio Devices (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
Abstract
Description
図1は本発明の第1の実施の形態に係る撮像装置を示すブロック図である。図2は収差補正のために必要な画素範囲(ブロック)を説明するための説明図であり、画素ずらし高解像度処理を行わない通常解像度処理時と画素ずらし高解像度処理時とを比較して示すものである。
G’2=(Gr4+Gb7)/2
G’3=(Gr1+Gb6)/2
G’4=(Gr2+Gb5)/2
G’5=(Gr6+Gb1)/2
G’6=(Gr5+Gb2)/2
G’7=(Gr8+Gb4)/2
G’8=(Gr7+Gb3)/2
また、画素補間部53は、図7の画素R’1〜R’4の画素値R’1〜R’4については、それぞれこれらの画素の周辺の同色の画素の画素値を用いて求める。同様に、画素補間部53は、図7の画素B’1〜B’4の画素値B’1〜B’4については、それぞれこれらの画素の周辺の同色の画素の画素値を用いて求める。
R’2=(R3+R4+(右R1)+(上R5))/4
R’3=(R2+R6+R7+R8)/4
R’4=(R4+R5+R6+(右R8))/4
B’1=(B3+B5+B6+(左B7))/4
B’2=(B1+B5+B7+B8)/4
B’3=(B3+B4+(左B2)+(下B6))/4
B’4=(B1+B2+B4+(下B8))/4
Bayer画素抽出部54は、生成した合成画像(高解像度画像)を出力DMA部55に与える。出力DMA部55は、入力された高解像度画像をバス30にDMA転送する。このように、画素ずらし合成処理部27は、重複する位置において取得した輝度相当色(ここでは緑色)の複数の画素データを平均して、この重複する位置における合成後の画素データとすることにより、ノイズを低減して高画質化を図るようにしている。図5と図7との比較から明らかなように、画素ずらし高解像度処理モードにおいては、水平方向に2倍かつ垂直方向に2倍の解像度の高解像度画像が得られるようになっている。
図13は本発明の第2の実施の形態において採用される動作フローを示すフローチャートである。図13において図11と同一の手順には同一符号を付して説明を省略する。
この場合、色収差を表す色収差式は、色収差係数がa(i),b(i),c(i)(iはR画像又はB画像を示す)とすると、例えば、下記(2)式によって示すことができる。なお、r’(x,y,i)は、R画像又はB画像において、座標(x,y)の画素が色収差によってずれた位置までの中心座標からの距離を示している。
制御部45は、読み込んだ色収差係数を用いて上記(2)式のr’(x,y,i)を求める。制御部45は、例えば、色収差の量を下記(3)式によって求める。
制御部45は、画面内の最大色ずれ量DX,DYを、例えば、下記(4)式によって求める。
制御部45は、次のステップS42において、色ずれ量が所定の閾値を超えるか否かを判定する。例えば、この閾値としては、パイプラインAの各処理部のバッファメモリに記憶できるような領域のサイズに基づく値を設定してもよい。例えば、制御部45は、求めた最大色ずれ量DX,DYの範囲がパイプラインAの各処理部のバッファメモリが記憶できるような領域のサイズに含まれるか否かを判定し、含まれる場合には色ずれ量は閾値以内であると判定し、含まれない場合には色ずれ量は閾値を超えるものと判定してもよい。
Claims (8)
- 所定の色配列の画素を有し画素ずらしによって前記色配列に対応した複数枚の色配列画像を取得可能な撮像素子と、
前記複数枚の色配列画像が与えられてそれぞれに色収差補正処理を行う色収差補正処理部と、
前記色収差補正処理部により色収差補正処理された複数枚の色配列画像を画素ずらし合成処理して画素ずらし高解像度画像を得る画素ずらし合成処理部と、
前記画素ずらし高解像度画像に対してデモザイキング処理を行うデモザイキング処理部と
を具備したことを特徴とする撮像装置。 - 前記デモザイキング処理後の画素ずらし高解像度画像に対して、歪曲収差補正処理を行う歪曲収差補正処理部
を具備したことを特徴とする請求項1に記載の撮像装置。 - 前記色収差補正処理部による処理が可能な第1の画像処理パイプラインと、
前記デモザイキング処理部及び前記歪曲収差補正処理部による一連の処理が可能な第2の画像処理パイプラインと、
前記複数枚の色配列画像に対して前記第1の画像処理パイプラインにより前記色収差補正処理を実行させ、前記色収差補正処理後の複数枚の色配列画像に対して前記画素ずらし合成処理部により前記画素ずらし合成処理を実行させ、前記画素ずらし合成処理後の画素ずらし高解像度画像に対して前記第2の画像処理パイプラインにより前記デモザイキング処理及び前記歪曲収差補正処理を実行させる制御部と、
を具備したことを特徴とする請求項2に記載の撮像装置。 - 前記色収差補正処理部、前記デモザイキング処理部及び前記歪曲収差補正処理部による一連の処理が可能な第3の画像処理パイプラインを具備し、
前記制御部は、前記撮像素子から前記色配列に対応した1枚の色配列画像が出力される場合には、前記1枚の色配列画像に対して前記第3の画像処理パイプラインによる処理を実行させる
ことを特徴とする請求項3に記載の撮像装置。 - 前記色収差補正処理部は前記第1及び第3の画像処理パイプラインにおいて共通の処理部であり、前記デモザイキング処理部及び前記歪曲収差補正処理部は前記第2及び第3の画像処理パイプラインにおいて共通の処理部であり、前記第1乃至第3の画像処理パイプラインの各処理部のバッファメモリは、前記撮像素子から前記色配列に対応した1枚の色配列画像が出力される場合に対応した容量値に設定される
ことを特徴とする請求項4に記載の撮像装置。 - 前記色収差補正処理部における色収差補正処理のための色収差特性の情報を記録するメモリ
を具備したことを特徴とする請求項1乃至5のいずれか1つに記載の撮像装置。 - 所定の色配列の画素を有する撮像素子の画素ずらし撮影によって前記色配列に対応した複数枚の色配列画像を取得し、
前記複数枚の色配列画像が与えられてそれぞれに色収差補正処理を行い、
色収差補正処理された複数枚の色配列画像を画素ずらし合成処理して画素ずらし高解像度画像を得、
前記画素ずらし高解像度画像に対してデモザイキング処理を行う
ことを特徴とする撮像方法。 - コンピュータに、
所定の色配列の画素を有する撮像素子の画素ずらし撮影によって前記色配列に対応した複数枚の色配列画像を取得し、
前記複数枚の色配列画像が与えられてそれぞれに色収差補正処理を行い、
色収差補正処理された複数枚の色配列画像を画素ずらし合成処理して画素ずらし高解像度画像を得、
前記画素ずらし高解像度画像に対してデモザイキング処理を行う
手順を実行させることを特徴とする撮像プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015167096A JP6006389B1 (ja) | 2015-08-26 | 2015-08-26 | 撮像装置、撮像方法及び撮像プログラム |
PCT/JP2016/053212 WO2017033471A1 (ja) | 2015-08-26 | 2016-02-03 | 撮像装置、撮像方法及び撮像プログラム |
US15/890,340 US10306164B2 (en) | 2015-08-26 | 2018-02-06 | Image pickup apparatus, image pickup method, and recording medium having recorded image pickup program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015167096A JP6006389B1 (ja) | 2015-08-26 | 2015-08-26 | 撮像装置、撮像方法及び撮像プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6006389B1 true JP6006389B1 (ja) | 2016-10-12 |
JP2017046186A JP2017046186A (ja) | 2017-03-02 |
Family
ID=57123206
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015167096A Active JP6006389B1 (ja) | 2015-08-26 | 2015-08-26 | 撮像装置、撮像方法及び撮像プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US10306164B2 (ja) |
JP (1) | JP6006389B1 (ja) |
WO (1) | WO2017033471A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019191258A (ja) * | 2018-04-19 | 2019-10-31 | オリンパス株式会社 | 撮像装置、撮像プログラム、撮像方法 |
US11195319B1 (en) * | 2018-10-31 | 2021-12-07 | Facebook Technologies, Llc. | Computing ray trajectories for pixels and color sampling using interpolation |
KR20210141070A (ko) | 2020-05-15 | 2021-11-23 | 삼성전자주식회사 | 복수의 카메라를 이용한 이미지 촬영 방법 및 그 전자 장치 |
JP7344188B2 (ja) | 2020-09-18 | 2023-09-13 | 株式会社東芝 | 画像処理装置、及び画像処理システム |
CN114581380A (zh) * | 2022-02-16 | 2022-06-03 | 合肥埃科光电科技股份有限公司 | 一种基于fpga的色散矫正方法及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09224180A (ja) * | 1996-02-15 | 1997-08-26 | Matsushita Electric Ind Co Ltd | 撮像装置 |
WO2009125673A1 (ja) * | 2008-04-07 | 2009-10-15 | アキュートロジック株式会社 | 動画処理装置及び動画処理方法、動画処理プログラム |
JP2009260620A (ja) * | 2008-04-16 | 2009-11-05 | Canon Inc | 画像処理装置及び画像処理方法 |
JP2013017142A (ja) * | 2011-07-06 | 2013-01-24 | Sony Corp | 画像処理装置、撮像装置、画像処理方法及びプログラム |
WO2016031764A1 (ja) * | 2014-08-28 | 2016-03-03 | 株式会社日立国際電気 | 撮像装置及び撮像方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2635917B2 (ja) | 1992-09-11 | 1997-07-30 | 株式会社東芝 | 電子スチルカメラ |
JP4772281B2 (ja) | 2003-07-28 | 2011-09-14 | オリンパス株式会社 | 画像処理装置及び画像処理方法 |
JP2005354610A (ja) * | 2004-06-14 | 2005-12-22 | Canon Inc | 画像処理装置、画像処理方法および画像処理プログラム |
US8866920B2 (en) * | 2008-05-20 | 2014-10-21 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
JP5523017B2 (ja) * | 2009-08-20 | 2014-06-18 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP5438579B2 (ja) * | 2010-03-29 | 2014-03-12 | キヤノン株式会社 | 画像処理装置及びその制御方法 |
US9426362B2 (en) * | 2015-01-16 | 2016-08-23 | Mems Drive, Inc. | Three-axis OIS for super-resolution imaging |
-
2015
- 2015-08-26 JP JP2015167096A patent/JP6006389B1/ja active Active
-
2016
- 2016-02-03 WO PCT/JP2016/053212 patent/WO2017033471A1/ja active Application Filing
-
2018
- 2018-02-06 US US15/890,340 patent/US10306164B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09224180A (ja) * | 1996-02-15 | 1997-08-26 | Matsushita Electric Ind Co Ltd | 撮像装置 |
WO2009125673A1 (ja) * | 2008-04-07 | 2009-10-15 | アキュートロジック株式会社 | 動画処理装置及び動画処理方法、動画処理プログラム |
JP2009260620A (ja) * | 2008-04-16 | 2009-11-05 | Canon Inc | 画像処理装置及び画像処理方法 |
JP2013017142A (ja) * | 2011-07-06 | 2013-01-24 | Sony Corp | 画像処理装置、撮像装置、画像処理方法及びプログラム |
WO2016031764A1 (ja) * | 2014-08-28 | 2016-03-03 | 株式会社日立国際電気 | 撮像装置及び撮像方法 |
Also Published As
Publication number | Publication date |
---|---|
US10306164B2 (en) | 2019-05-28 |
WO2017033471A1 (ja) | 2017-03-02 |
JP2017046186A (ja) | 2017-03-02 |
US20180167569A1 (en) | 2018-06-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9906716B2 (en) | Image pickup apparatus, image pickup method, and recording medium for controlling pixel shifts | |
JP6415113B2 (ja) | 撮像装置、画像処理方法 | |
US10142557B2 (en) | Image pickup apparatus, image pickup method, and non-transitory computer-readable medium storing computer program | |
JP6006389B1 (ja) | 撮像装置、撮像方法及び撮像プログラム | |
US8169489B2 (en) | Multi view imaging device and method for correcting image blur | |
KR20080006605A (ko) | 촬상 장치 | |
US10187594B2 (en) | Image pickup apparatus, image pickup method, and non-transitory computer-readable medium storing computer program | |
JP2018006827A (ja) | 撮像装置、撮像プログラム、撮像方法 | |
JP2007274599A (ja) | 撮像装置 | |
JP2012129927A (ja) | 撮像装置 | |
JP2010283504A (ja) | 撮像装置、撮像方法、および、撮像プログラム | |
JP6562487B2 (ja) | 撮像装置、画像処理方法 | |
JP6381112B2 (ja) | 撮像装置、撮像方法、プログラム | |
JP5397048B2 (ja) | デジタルカメラ、及びその撮影感度設定方法とプログラム | |
JP5622459B2 (ja) | 画像記録装置及び画像再生装置 | |
JP5066476B2 (ja) | 撮像装置 | |
JP2009260567A (ja) | 撮像装置 | |
JP2009147468A (ja) | カメラ | |
JP2017224915A (ja) | 撮像装置、再生装置および画像処理装置 | |
JP2010258757A (ja) | 動画記録装置、撮像装置、動画記録方法、動画記録プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160727 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160816 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160908 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6006389 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |