JP2017118197A - 画像処理装置、画像処理方法、および撮像装置 - Google Patents
画像処理装置、画像処理方法、および撮像装置 Download PDFInfo
- Publication number
- JP2017118197A JP2017118197A JP2015249036A JP2015249036A JP2017118197A JP 2017118197 A JP2017118197 A JP 2017118197A JP 2015249036 A JP2015249036 A JP 2015249036A JP 2015249036 A JP2015249036 A JP 2015249036A JP 2017118197 A JP2017118197 A JP 2017118197A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- pixel
- image
- interpolation
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 113
- 238000003384 imaging method Methods 0.000 title claims abstract description 46
- 238000003672 processing method Methods 0.000 title claims abstract description 7
- 238000000034 method Methods 0.000 claims description 41
- 238000006243 chemical reaction Methods 0.000 claims description 31
- 230000008569 process Effects 0.000 claims description 28
- 238000003860 storage Methods 0.000 claims description 20
- 239000011295 pitch Substances 0.000 description 66
- 238000012546 transfer Methods 0.000 description 33
- 238000012937 correction Methods 0.000 description 27
- 230000000875 corresponding effect Effects 0.000 description 26
- 230000003287 optical effect Effects 0.000 description 20
- 230000000295 complement effect Effects 0.000 description 19
- 238000010586 diagram Methods 0.000 description 14
- 238000009825 accumulation Methods 0.000 description 12
- 230000002093 peripheral effect Effects 0.000 description 9
- 102000004381 Complement C2 Human genes 0.000 description 6
- 108090000955 Complement C2 Proteins 0.000 description 6
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 6
- 102000016918 Complement C3 Human genes 0.000 description 5
- 108010028780 Complement C3 Proteins 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 4
- 102000016917 Complement C1 Human genes 0.000 description 4
- 108010028774 Complement C1 Proteins 0.000 description 4
- 230000007423 decrease Effects 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000002950 deficient Effects 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000009792 diffusion process Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000004907 flux Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 1
- 229910052782 aluminium Inorganic materials 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
- H04N2209/046—Colour interpolation to calculate the missing colour values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/048—Picture signal generators using solid-state devices having several pick-up sensors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Color Television Image Signal Generators (AREA)
- Image Processing (AREA)
Abstract
【解決手段】第1の画像データおよび第2の画像データは、各画素値が、撮像素子が備えるカラーフィルタを構成する複数の色成分の1つに対応する画像データである。また、第2の画像データは、第1の画像データと撮影範囲が重複し、かつ第1の画像データより解像度の高い画像データである。そして、第1の画像データの色補間を、第2の画総データを参照して行う。色補間処理は、第2の画像データを構成する画素値のうち、第1の画像データにおける補間対象の画素の位置に対応する位置もしくは対応する位置に最も近い位置の画素値を参照して行う。
【選択図】図7
Description
また、特許文献2は、2つの撮像素子で得た画像を色補間処理後に合成しており、色補間処理の精度向上については考慮されていない。
図1は本発明の実施形態に共通するデジタルカメラ1000の機能構成を模式的に示すブロック図である。
デジタルカメラ1000は、第1の撮像素子1100と、第2の撮像素子1200と、撮影レンズ2000からの入射光を二つの方向に分割する半透過ミラー1300と、カメラ制御部1400と、信号処理部1500と、操作部1900とを有する。
列AD部1141は、垂直転送線1140の電圧とランプ信号生成部1142が出力するランプ信号とが入力される比較器と、ADクロックが入力されるカウンタとを有する。比較器は、ランプ信号の電圧が垂直転送線1140の電圧以下であればLowレベルを、ランプ信号の電圧が垂直転送線1140の電圧より高くなるとHighレベルを出力する。
その一方で、カウント値あたりの電圧(量子化ステップ)が大きくなるため、A/D変換の分解能、すなわち画像の階調数が少なくなる。
なお、図5は集光レンズ2100の光軸に対する第1の撮像素子と第2の撮像素子の位置ずれは無視しているが、実際には製造上の組み立て誤差による位置ずれが存在する。
同様に、第2の撮像素子1200の有効画素中心から、撮影レンズ2000の光軸中心までの水平方向の距離をDh2、垂直方向の距離をDv2とする。また、デジタルカメラ1000に対向させた物体が撮像面上に投影された場合の正立像方向と、第2の撮像素子1200の垂直方向との角度ずれをDa2とする。
組立後のずれ量の差、Dh2−Dh1、Dv2−Dv1、Da2−Da1をパラメータとして、色成分ごとにアフィン変換処理をすることによって、第2の撮像素子1200と第1の撮像素子1100とで撮影された画像間の組み立て誤差を補正することができる。
パラメータDh2−Dh1、Dv2−Dv1、Da2−Da1は、位置合わせ調整値として製造時に例えばカメラ制御部1400が有する不揮発性メモリに登録しておき、補正の際に読み出して使用することができる。上述のパラメータ(位置合わせ調整値)は、規準チャートを第1の撮像素子1100と第2の撮像素子1200のそれぞれで撮影した画像から算出することができる。
本実施形態では、図6(a)に示した、光軸に対する位置ずれに加え、第1の撮像素子1100と第2の撮像素子1200との相対的な角度ずれ、つまりDθ2−Dθ1、Dφ2−Dφ1の影響についても補正する。
撮像素子に2次元状に規則的に配置された画素は、画素ピッチを1単位として、2組の整数を用いて(n,m)で位置を表すことが出来る。本実施形態では、座標を(水平座標,垂直座標)とし、有効画素部に配置された左上端の画素の座標を(0,0)とする。
カラーフィルタが原色ベイヤー配列であるため、Rプレーンでは、B画素、Gr画素、Gb画素のそれぞれの画素位置を補間する必要がある。B画素の位置を第1の補間パターンで、Gr画素の位置を第2の補間パターンで、Gb画素の位置は第3の補間パターンでそれぞれ補間する。
同様に、Bプレーンでは、R画素、Gb画素、Gr画素の画素位置を補間する必要がある。R画素の位置を第1の補間パターンで、Gb画素の位置を第2の補間パターンで、Gr画素の位置を第3の補間パターンでそれぞれ補間する。
図9(a)の左側に示すように、第1の撮像素子1100においてB画素が配置されている場所の仮想R画素(R補1)の中心を座標(i1,j1)とする。従って、第1の画像データ1510のR補1の左上、左下、右上、右下に隣接するR画素はそれぞれR(i1−1,j1−1)、R(i1−1,j1+1)、R(i1+1,j1−1)、R(i1+1,j1+1)である。これらは、実際に配置されているR画素である。
従って、座標(i2,j2)に最も近いR画素は、左に1/4、上に1/4だけずれた、R’(i2−1/4,j2−1/4)である。
図9(a)の右側に示すように、第1の撮像素子1100においてR画素が配置されている場所の仮想B画素(B補1)の中心を座標(i1,j1)とする。従って、第1の画像データ1510のB補1の左上、左下、右上、右下に隣接するB画素はそれぞれB(i1−1,j1−1)、B(i1−1,j1+1)、B(i1+1,j1−1)、B(i1+1,j1+1)である。これらは、実際に配置されているB画素である。
従って、座標(i2,j2)に最も近いB画素は、左に1/4、上に1/4だけずれた、B’(i2−1/4,j2−1/4)である。
図10(a)の左側に示すように、第1の撮像素子1100においてGr画素が配置されている場所の仮想R画素(R補2)の中心を座標(i1,j1)とする。従って、Rプレーンで第1の画像データ1510のR補2の左に隣接する画素はR(i1−1,j1)、右に隣接する画素はR(i1+1,j1)である。R補2の上と下に隣接する画素はB画素であるため、R画素は存在しない。しかし、第1の補間パターンによる補間の完了後であれば、補間されたR★上(i1,j1−1)とR★下(i1,j1+1)を用いることができる。
従って、座標(i2,j2)に最も近いR画素は、左に1/4、上に1/4だけずれた、R’(i2−1/4,j2−1/4)である。
図10(a)の右側に示すように、第1の撮像素子1100においてGb画素が配置されている場所の仮想B画素(B補2)の中心を座標(i1,j1)とする。従って、第1の画像データ1510のB補2の左に隣接する画素はB(i1−1,j1)、右に隣接する画素はB(i1+1,j1)である。B補2の上と下に隣接する画素は、R画素であるため、B画素は存在しない。しかし、第1の補間パターンによる補間の完了後であれば、補間された画素B★上(i1,j1−1)とB★下(i1,j1+1)を用いることができる。
従って、座標(i2,j2)に最も近いB画素は、右に1/4、下に1/4だけずれた、B’(i2+1/4,j2+1/4)である。
図11(a)の左側に示すように、第1の撮像素子1100においてGb画素が配置されている場所の仮想R画素(R補3)の中心を座標(i1,j1)とする。従って、Rプレーンで第1の画像データ1510のR補3の上に隣接する画素はR(i1,j1−1)、下に隣接する画素はR(i1,j1+1)である。R補3の左と右に隣接する画素はB画素であるため、R画素は存在しない。しかし、第1の補間パターンによる補間の完了後であれば、補間されたR★左(i1−1,j1)とR★右(i1+1,j1)を用いることができる。
従って、座標(i2,j2)に最も近いR画素は、左に1/4、上に1/4だけずれた、R’(i2−1/4,j2−1/4)である。
図11(b)の右側に示すように、第1の撮像素子1100においてGr画素が配置されている場所の仮想B画素(B補3)の中心を座標(i1,j1)とする。従って、第1の画像データ1510のB補3の上に隣接する画素はB(i1,j1−1)、下に隣接する画素はB(i1,j1+1)である。B補3の左と右に隣接する画素は、R画素であるため、B画素は存在しない。しかし、第1の補間パターンによる補間の完了後であれば、補間された画素B★左(i1−1,j1)とB★右(i1+1,j1)を用いることができる。
従って、座標(i2,j2)に最も近いB画素は、右に1/4、下に1/4だけずれた、B’(i2+1/4,j2+1/4)である。
S10で参照補間部1501は、G成分(Gプレーン)に関する第3の画像データ1525の前処理を行う。本実施形態において参照補間部1501は、後述するデモザイキングにおいて補間対象の画素の周囲8方向の画素値を考慮した適応的な補間を行う。
S1020で参照補間部1501は、補正対象画素の色に応じて処理を分岐する。まず、Gの場合について説明する。
S1110で参照補間部1501は、α’kの算出に用いる閾値thを以下の式(3)に従って算出する。
|αk|>thを満たさない周辺画素については、係数α’k=th−|αk|とする。これにより、中央の画素と値の類似度が高い周辺画素ほど、係数α’kの値が大きくなる。
S110で参照補間部1501は、第3の画像データ1525において第1の画像データ1510の補間対象の画素の座標に対応した画素を、図8〜図11で示したようにR’中央とする。そして参照補間部1501は、R’中央とその周囲8方向の画素の値を以下の式(8)に従って算出する。
S1210で参照補間部1501は、β’kの算出に用いる閾値thを以下の式(10)に従って算出し、処理をS1220に進める。
|βk|>thを満たさない周辺画素については、係数β’k=th−|βk|とする。これにより、中央の画素と値の類似度が高い周辺画素ほど、係数β’kの値が大きくなる。
S210で参照補間部1501は、第3の画像データ1525において第1の画像データ1510の補間対象の画素の座標に対応した画素を、図8〜図11で示したようにB’中央とする。そして参照補間部1501は、B’中央とその周囲8方向の画素の値を以下の式(17)に従って算出する。
S1310で参照補間部1501は、γ’kの算出に用いる閾値thを以下の式(19)に従って算出し、処理をS1320に進める。
|γk|>thを満たさない周辺画素については、係数γ’k=th−|γk|とする。これにより、中央の画素と値の類似度が高い周辺画素ほど、係数γ’kの値が大きくなる。
また、Σγ’がゼロの場合は、B’左上、B’上、B’右上、B’左、B’右、B’左下、B’下、B’右下の8画素が全て同じ値であり、式(11)のγ’k=th−|γk|が全てのγ’kでゼロとなる。従って、Σγ’がゼロであるとき、最適なγ’は一意に決まり、参照補間部1501はS1380で以下の式(22)のようにγ’を決定する。
同様に、デモザイキングおよびデモザイキングパラメータについても、8方向を考慮した適応補間を例示したが、第3の画像データの解像度がより高い場合には、より多くの方向の画素を考慮した補間を行うことで、補間精度を向上させることができる。
次に、本発明の第2実施形態について説明する。本実施形態では物理的な画素ピッチが同じ2つの撮像素子の読出画素ピッチを異ならせて得られる、解像度の異なる画像データに関するデモザイキングについて説明する。
一方、第1の撮像素子1100’の読出画素ピッチをΔx’1、Δy’1をΔx’1>Δx1、Δy’1>Δy1とし、第2の撮像素子1200の読出画素ピッチΔx’2、Δy’2をΔx’2=Δx2、Δy’2=Δy2として、解像度の異なる第1および第2の画像データを読み出す。
例えば、画素1120(1)、画素1120(2)、画素1120(3)を接続する加算配線が設けられており、同様に画素1120(4)、画素1120(5)、画素1120(6)を接続する加算配線が設けられている。また、垂直OB画素部1112’においてもOB画素の加算配線が設けられている。加算配線で接続する画素(加算する画素)の組み合わせは、設計時に決められている。
前述の方法でFD1123の接続で加算した画素1120(1)、画素1120(2)、画素1120(3)を列AD部1141で変換したデジタル値を水平転送部1170で記憶する。このとき、同様に画素1120(7)、画素1120(8)、画素1120(9)を加算したデジタル値、および画素1120(13)、画素1120(14)、画素1120(15)を加算したデジタル値を水平転送部1170で記憶する。
その後、これら3つのデジタル値をさらに加算器で加算し、除算器もしくはビットシフト演算器によって1/9に除算することで最終的に9画素の平均値を取得できる。
画素から信号を読み出すための制御動作として非加算読出、加算読出の一例を説明したが、他の制御動作によって読み出しを行ってもよい。
第1実施形態では撮像素子の物理的な画素ピッチが異ならせることで、第2の画像データ1525よりも低解像度の第1の画像データ1510を得た。本実施形態では撮像素子の読出画素ピッチを異ならせることで第1実施形態と同様の第1および第2の画像データ1510および1525を得ている。
なお、第1の画像データの形式は第1および第2実施形態において説明したものに限らず、物理的な画素ピッチと読出画素ピッチの組み合わせによって、解像度、アスペクト比などが異なる様々な画像データを得ることができる。
次に、本発明の第3実施形態について説明する。本実施形態は、信号処理部の構成以外は第1および第2実施形態と共通であってよいため、信号処理部に関して説明する。図16は本実施形態におけるデータ処理の概略を、信号処理部1500’の機能構成例とともに模式的に示した図である。図16において第1実施形態(図7)と共通の構成には同じ参照数字を付してある。なお、第1実施形態と同じ構成の第1の撮像素子1100を用いるものとして図示しているが、第2実施形態の構成としてもよい。本実施形態の信号処理部1500’では、解像度変換部1503の後段に参照画像記憶部1504が設けられている。
S310で信号処理部1500は、第1の画像データを第1の撮像素子1100から取得する。
そして、S320で信号処理部1500は、第1の画像データと、参照画像記憶部1504に記憶されている第3の画像データの元になった第2の画像データとの撮影開始時刻の差ΔFが所定値(ライフタイム)より大きいか否か判定する。ΔFが所定値より大きいと判定されなければ、信号処理部1500は処理をS340に進め、参照画像記憶部1504に記憶されている第3の画像データを用いてデモザイキングを実行する。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (15)
- 第1の画像データと、前記第1の画像データと撮影範囲が重複し、かつ前記第1の画像データより解像度の高い第2の画像データとを取得する取得手段と、
前記第2の画像データを参照して、前記第1の画像データの色補間処理を実行する補間手段と、を有し、
前記第1の画像データの各画素値は、前記第1の画像データを得るために用いた撮像素子が備えるカラーフィルタを構成する複数の色成分のうちの1つの色成分に対応し、
前記第2の画像データの各画素値は、前記第2の画像データを得るために用いた撮像素子が備えるカラーフィルタを構成する複数の色成分のうちの1つの色成分に対応し、
前記補間手段は、前記第2の画像データを構成する画素値のうち、前記第1の画像データにおける補間対象の画素の位置に対応する位置もしくは対応する位置に最も近い位置の画素値を参照して前記補間対象の画素についての色補間処理を実行する、
ことを特徴とする画像処理装置。 - 前記第2の画像データの解像度が、前記第1の画像データの解像度の2のn乗倍(nは整数)であることを特徴とする請求項1に記載の画像処理装置。
- 前記第2の画像データの解像度が、前記第1の画像データの解像度の2のn乗倍(nは整数)でない場合、前記第2の画像データから、前記第1の画像データの解像度の2のn乗倍の解像度を有する第3の画像データを生成する変換手段をさらに有し、
前記補間手段は前記第3の画像データが生成された場合には、前記第3の画像データを参照して前記第1の画像データの色補間処理を実行することを特徴とする請求項1または請求項2に記載の画像処理装置。 - 前記第2の画像データまたは前記第3の画像データを記憶する記憶手段をさらに有し、
前記補間手段は、前記記憶手段に記憶された画像データを参照して前記第1の画像データの色補間処理を実行することを特徴とする請求項3に記載の画像処理装置。 - 前記補間手段は、前記第1の画像データの撮影時刻と、前記記憶手段に記憶された画像データの撮影時刻との差が所定値より大きい場合、前記記憶手段に記憶された画像データを参照せずに前記第1の画像データの色補間処理を実行することを特徴とする請求項4に記載の画像処理装置。
- 前記補間手段は、前記記憶手段に記憶された画像データを参照して前記第1の画像データの色補間処理を実行する場合、前記第1の画像データのうち、前記補間対象の画素の周辺の画素の値と、前記記憶手段に記憶された画像データにおいて前記周辺の画素に対応する位置の画素の値との差の合計が所定値以下であれば、前記記憶手段に記憶された画像データを参照して前記補間対象の画素の色補間処理を実行することを特徴とする請求項4または請求項5に記載の画像処理装置。
- 前記第1の画像データと前記第2の画像データが、並行して撮影された画像データであることを特徴とする請求項1から請求項6のいずれか1項に記載の画像処理装置。
- 第1の撮像素子と、
第2の撮像素子と、
請求項1から請求項7のいずれか1項に記載の画像処理装置と、を有し、
前記第1の画像データは前記第1の撮像素子を用いて取得され、前記第2の画像データは前記第2の撮像素子を用いて取得されることを特徴とする撮像装置。 - 前記第2の撮像素子は、前記第1の撮像素子よりも物理的な画素ピッチが小さいことを特徴とする請求項8に記載の撮像装置。
- 前記第1の撮像素子の画素の光電変換領域の面積が、前記第2の撮像素子の画素の光電変換領域の面積よりも大きいことを特徴とする請求項9に記載の撮像装置。
- 前記第1の撮像素子にて蓄積された電荷に応じた電圧をA/D変換して前記第1の画像データを生成する第1のA/D変換手段と、
前記第2の撮像素子にて蓄積された電荷に応じた電圧をA/D変換して前記第2の画像データを生成する第2のA/D変換手段と、を有し、
前記第2のA/D変換手段の分解能は、前記第1のA/D変換手段の分解能よりも低いことを特徴とする請求項9または10に記載の撮像装置。 - 前記第1の撮像素子および前記第2の撮像素子は物理的な画素ピッチが等しく、前記第1の撮像素子の読出画素ピッチが前記第2の撮像素子の読出画素ピッチより大きいことを特徴とする請求項8に記載の撮像装置。
- 前記第1の撮像素子および前記第2の撮像素子は物理的な画素ピッチが等しく、前記第1の画像データは、前記第1の撮像素子から加算読出を行って生成され、前記第2の画像データは、前記第2の撮像素子から非加算読出を行って生成されることを特徴とする請求項8に記載の撮像装置。
- 画像処理装置が実行する画像処理方法であって、
第1の画像データと、前記第1の画像データと撮影範囲が重複し、かつ前記第1の画像データより解像度の高い第2の画像データとを取得する工程と、
前記第2の画像データを参照して、前記第1の画像データの色補間処理を実行する工程と、を有し、
前記第1の画像データの各画素値は、前記第1の画像データを得るために用いた撮像素子が備えるカラーフィルタを構成する複数の色成分のうちの1つの色成分に対応し、
前記第2の画像データはの各画素値は、前記第2の画像データを得るために用いた撮像素子が備えるカラーフィルタを構成する複数の色成分のうちの1つの色成分に対応し、
前記色補間処理を実行する工程では、前記第2の画像データを構成する画素値のうち、前記第1の画像データにおける補間対象の画素の位置に対応する位置もしくは対応する位置に最も近い位置の画素値を参照して前記補間対象の画素についての色補間処理を実行する、
ことを特徴とする画像処理方法。 - コンピュータを、請求項1から請求項7のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015249036A JP6711612B2 (ja) | 2015-12-21 | 2015-12-21 | 画像処理装置、画像処理方法、および撮像装置 |
US15/384,711 US10306192B2 (en) | 2015-12-21 | 2016-12-20 | Image processing apparatus, image processing method and image capture apparatus for demosaicing |
CN201611186373.8A CN107018395B (zh) | 2015-12-21 | 2016-12-20 | 图像处理装置、图像处理方法和摄像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015249036A JP6711612B2 (ja) | 2015-12-21 | 2015-12-21 | 画像処理装置、画像処理方法、および撮像装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017118197A true JP2017118197A (ja) | 2017-06-29 |
JP2017118197A5 JP2017118197A5 (ja) | 2019-01-10 |
JP6711612B2 JP6711612B2 (ja) | 2020-06-17 |
Family
ID=59066870
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015249036A Active JP6711612B2 (ja) | 2015-12-21 | 2015-12-21 | 画像処理装置、画像処理方法、および撮像装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10306192B2 (ja) |
JP (1) | JP6711612B2 (ja) |
CN (1) | CN107018395B (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102443218B1 (ko) * | 2016-01-06 | 2022-09-15 | 삼성전자주식회사 | 전자 장치 및 그의 동작 방법 |
CN106504218B (zh) | 2016-11-29 | 2019-03-12 | Oppo广东移动通信有限公司 | 控制方法、控制装置及电子装置 |
CN106454054B (zh) | 2016-11-29 | 2019-03-19 | Oppo广东移动通信有限公司 | 控制方法、控制装置及电子装置 |
CN106604001B (zh) | 2016-11-29 | 2018-06-29 | 广东欧珀移动通信有限公司 | 图像处理方法、图像处理装置、成像装置及电子装置 |
CN106507068B (zh) | 2016-11-29 | 2018-05-04 | 广东欧珀移动通信有限公司 | 图像处理方法及装置、控制方法及装置、成像及电子装置 |
CN106341670B (zh) | 2016-11-29 | 2017-09-22 | 广东欧珀移动通信有限公司 | 控制方法、控制装置及电子装置 |
CN106454288B (zh) | 2016-11-29 | 2018-01-19 | 广东欧珀移动通信有限公司 | 控制方法、控制装置、成像装置及电子装置 |
US10567645B2 (en) * | 2017-05-17 | 2020-02-18 | Samsung Electronics Co., Ltd. | Method and apparatus for capturing video data |
TWI743394B (zh) * | 2018-09-13 | 2021-10-21 | 華碩電腦股份有限公司 | 投影方法及投影機 |
JP7175697B2 (ja) | 2018-09-28 | 2022-11-21 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
JPWO2021053449A1 (ja) * | 2019-09-20 | 2021-03-25 | ||
KR20220156242A (ko) * | 2021-05-18 | 2022-11-25 | 에스케이하이닉스 주식회사 | 이미지 처리 장치 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000078463A (ja) * | 1998-08-28 | 2000-03-14 | Nikon Corp | 画像取り込み装置 |
JP2001218099A (ja) * | 2000-02-03 | 2001-08-10 | Nikon Corp | 多板式撮像装置および画像データ処理用記録媒体 |
JP2003101886A (ja) * | 2001-09-25 | 2003-04-04 | Olympus Optical Co Ltd | 撮像装置 |
JP2007336561A (ja) * | 2006-06-16 | 2007-12-27 | Samsung Electronics Co Ltd | 映像生成装置及び方法 |
US20100201831A1 (en) * | 2009-02-10 | 2010-08-12 | Weinstein Larry R | Digital camera with asymmetrically configured sensors |
JP2011223221A (ja) * | 2010-04-08 | 2011-11-04 | Nippon Hoso Kyokai <Nhk> | 撮影装置および画像統合プログラム |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001169301A (ja) | 1999-12-03 | 2001-06-22 | Nikon Corp | 多板式撮像装置および画像データ処理用記録媒体 |
US7855752B2 (en) * | 2006-07-31 | 2010-12-21 | Hewlett-Packard Development Company, L.P. | Method and system for producing seamless composite images having non-uniform resolution from a multi-imager system |
JP4412323B2 (ja) * | 2006-12-28 | 2010-02-10 | 株式会社日立製作所 | 映像処理装置及び映像表示装置 |
JP5062196B2 (ja) | 2009-02-16 | 2012-10-31 | ソニー株式会社 | 撮像装置および方法、並びにプログラム |
US8553106B2 (en) * | 2009-05-04 | 2013-10-08 | Digitaloptics Corporation | Dual lens digital zoom |
US9930316B2 (en) * | 2013-08-16 | 2018-03-27 | University Of New Brunswick | Camera imaging systems and methods |
JP2013546238A (ja) | 2010-10-22 | 2013-12-26 | ユニバーシティ オブ ニュー ブランズウィック | カメラ撮像システムおよび方法 |
JP5888914B2 (ja) | 2011-09-22 | 2016-03-22 | キヤノン株式会社 | 撮像装置およびその制御方法 |
CN109963059B (zh) * | 2012-11-28 | 2021-07-27 | 核心光电有限公司 | 多孔径成像***以及通过多孔径成像***获取图像的方法 |
CN108989648B (zh) * | 2013-08-01 | 2021-01-15 | 核心光电有限公司 | 具有自动聚焦的纤薄多孔径成像***及其使用方法 |
EP3148177A4 (en) * | 2014-10-22 | 2018-01-24 | Yulong Computer Telecommunication Technologies (Shenzhen) Co., Ltd. | Image generation method based on dual camera module and dual camera module |
-
2015
- 2015-12-21 JP JP2015249036A patent/JP6711612B2/ja active Active
-
2016
- 2016-12-20 US US15/384,711 patent/US10306192B2/en active Active
- 2016-12-20 CN CN201611186373.8A patent/CN107018395B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000078463A (ja) * | 1998-08-28 | 2000-03-14 | Nikon Corp | 画像取り込み装置 |
JP2001218099A (ja) * | 2000-02-03 | 2001-08-10 | Nikon Corp | 多板式撮像装置および画像データ処理用記録媒体 |
JP2003101886A (ja) * | 2001-09-25 | 2003-04-04 | Olympus Optical Co Ltd | 撮像装置 |
JP2007336561A (ja) * | 2006-06-16 | 2007-12-27 | Samsung Electronics Co Ltd | 映像生成装置及び方法 |
US20100201831A1 (en) * | 2009-02-10 | 2010-08-12 | Weinstein Larry R | Digital camera with asymmetrically configured sensors |
JP2011223221A (ja) * | 2010-04-08 | 2011-11-04 | Nippon Hoso Kyokai <Nhk> | 撮影装置および画像統合プログラム |
Also Published As
Publication number | Publication date |
---|---|
US10306192B2 (en) | 2019-05-28 |
CN107018395B (zh) | 2019-05-03 |
JP6711612B2 (ja) | 2020-06-17 |
US20170180681A1 (en) | 2017-06-22 |
CN107018395A (zh) | 2017-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6711612B2 (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
US8786731B2 (en) | Image pickup apparatus and image pickup apparatus control method that generates an image with transformed number of pixels | |
US20230328395A1 (en) | Image capturing device, image processing device and display device for setting different exposure conditions | |
US9615017B2 (en) | Focus detection apparatus and method, method of controlling focus detection apparatus, and image capturing apparatus | |
JP6372983B2 (ja) | 焦点検出装置およびその制御方法、撮像装置 | |
JP5128726B1 (ja) | 固体撮像素子および当該素子を備える撮像装置 | |
JP2014179939A (ja) | 信号処理装置および信号処理方法 | |
JP6678504B2 (ja) | 撮像装置及びその制御方法、プログラム並びに記憶媒体 | |
JP4997359B2 (ja) | 撮像装置及び混色補正方法 | |
US11882375B2 (en) | Imaging element, imaging apparatus, operation method of imaging element, and program | |
JP5657184B2 (ja) | 撮像装置及び信号処理方法 | |
TW201143384A (en) | Camera module, image processing apparatus, and image recording method | |
JPWO2018198766A1 (ja) | 固体撮像装置および電子機器 | |
US9237282B2 (en) | Solid-state imaging device and camera module including AD converting units for respective pixels | |
JPWO2012147515A1 (ja) | 撮像装置及び撮像方法 | |
JP5033711B2 (ja) | 撮像装置及び撮像装置の駆動方法 | |
JP2016066848A (ja) | 撮像装置およびその制御方法 | |
US11985423B2 (en) | Imaging element, imaging apparatus, operation method of imaging element, and program improving real-time output of shake degree information | |
JP2012075050A (ja) | 固体撮像素子、撮像装置、黒レベル決定方法 | |
JP2019140648A (ja) | 撮像装置及び撮像装置の制御方法 | |
JP6545013B2 (ja) | 画像形成方法、画像形成装置、および画像形成プログラム | |
US20210203899A1 (en) | Image processing device, image processing method, and imaging device | |
JP6579859B2 (ja) | 撮像装置、画像処理装置、画像処理方法およびプログラム | |
JP2014120795A (ja) | 光電変換装置、光電変換システム、光電変換装置の駆動方法、光電変換システムの駆動方法 | |
JP2009124524A (ja) | 撮像装置および撮像画素データ補正方法並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181119 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181119 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190819 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190927 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191126 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200427 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200528 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6711612 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |