JP4302391B2 - 画素補間装置及び画素補間方法並びにデジタルカメラ - Google Patents
画素補間装置及び画素補間方法並びにデジタルカメラ Download PDFInfo
- Publication number
- JP4302391B2 JP4302391B2 JP2002345009A JP2002345009A JP4302391B2 JP 4302391 B2 JP4302391 B2 JP 4302391B2 JP 2002345009 A JP2002345009 A JP 2002345009A JP 2002345009 A JP2002345009 A JP 2002345009A JP 4302391 B2 JP4302391 B2 JP 4302391B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- data
- pixel data
- interpolation
- evaluation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 43
- 238000011156 evaluation Methods 0.000 claims description 103
- 238000005070 sampling Methods 0.000 claims description 49
- 238000001514 detection method Methods 0.000 claims description 27
- 238000012935 Averaging Methods 0.000 claims description 10
- 238000012545 processing Methods 0.000 description 25
- 238000010586 diagram Methods 0.000 description 23
- 230000015654 memory Effects 0.000 description 6
- 230000000717 retained effect Effects 0.000 description 5
- 230000001174 ascending effect Effects 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 3
- 238000006731 degradation reaction Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 101000710013 Homo sapiens Reversion-inducing cysteine-rich protein with Kazal motifs Proteins 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000010422 painting Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Color Image Communication Systems (AREA)
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
- Facsimile Image Signal Circuits (AREA)
Description
【発明の属する技術分野】
本発明は、画素補間装置及び画素補間方法に関する。
【0002】
【従来の技術】
デジタルカメラに搭載されるCCDセンサやCMOSセンサなどの撮像センサにおいては、入射光を着色するために受光素子上に色フィルタアレイが形成されている。単板の撮像センサを搭載するデジタルカメラの場合、受光素子上には、各画素に一対一対応する色フィルタが配列しており、撮像センサの出力信号は各画素に単色成分のみを有するため、フルカラーの画像データを得るには各画素に不足している色成分を補間するいわゆる画素補間処理を行う必要がある。例えば、R(赤),G(緑),B(青)の原色系の色フィルタからなる色フィルタアレイを採用した場合、R成分のみを有する画素に対しては、周辺画素を参照して不足しているG成分及びB成分を画素補間しなければならない。この種の画素補間方法としてはバイリニア補間法やバイキュービック補間法などが周知技術である。
【0003】
しかしながら、この種の画素補間処理によって、本来存在しない偽色信号やドットノイズと称する信号が発生するという周知の問題がある。偽色信号を低減する従来技術は、例えば特許文献1(特開2001−8037号公報)及び特許文献2(特開2000−165892号公報)に開示されており、ドットノイズを低減する従来技術は、例えば許文献3(特開2001−54125号公報)に開示されている。
【0004】
【特許文献1】
特開2001−8037号公報
【特許文献2】
特開2000−165892号公報
【特許文献3】
特開2001−054125号公報
【0005】
【発明が解決しようとする課題】
従来の画素補間方法では、上記偽色信号やドットノイズを低減するためには演算量の増大及びメモリ使用量の増大が避けられなかった。これらは、回路規模の増大や電力消費量の増加、製造コストの上昇を招いてしまう。
【0006】
以上の状況に鑑みて本発明の目的は、比較的簡易な構成及び方法で、ドットノイズ及び偽色信号などの画質劣化を抑制し得る画素補間装置及び画素補間方法を提供する点にある。
【0007】
【課題を解決するための手段】
上記目的を達成するため、第1の発明は、各画素に単一の色成分を有する入力画像データを、各画素に複数種の色成分を有するカラー画像データに変換する画素補間装置であって、前記入力画像データのうち着目画素を含む所定のサンプリング範囲の画素データを保持するレジスタ群と、前記サンプリング範囲内に設定されている複数のブロック領域における前記画素データを用いて各前記ブロック領域の明るさを規定する評価値を算出する評価値算出部と、前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記ブロック領域の中から参照領域を選択する領域選択部と、前記領域選択部で選択された前記参照領域内の前記画素データを用いて当該着目画素に欠けている色成分を補間する補間部と、を備え、前記評価値算出部は、各前記ブロック領域内の全ての前記画素データの値を加算した加算値を用いて前記評価値を算出し、前記領域選択部は、前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記評価値の中で中央の値に近い評価値を持つ前記参照領域を所定数選択するソート回路と、前記ソート回路で選択された前記参照領域内の前記画素データを前記レジスタ群から取り込み前記補間部に与えるデータ選択回路と、を備え、前記補間部は、前記参照領域内の同種の色成分を平均化することで当該着目画素に欠けている色成分を補間することを特徴としている。
【0011】
第2の発明は、各画素に単一の色成分を有する入力画像データを、各画素に複数種の色成分を有するカラー画像データに変換する画素補間装置であって、前記入力画像データのうち着目画素を含む所定のサンプリング範囲の画素データを保持するレジスタ群と、前記サンプリング範囲内に設定されている複数のブロック領域における前記画素データを用いて各前記ブロック領域の明るさを規定する評価値を算出する評価値算出部と、前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記ブロック領域の中から参照領域を選択する領域選択部と、前記領域選択部で選択された前記参照領域内の前記画素データを用いて当該着目画素に欠けている色成分を補間する補間部と、を備え、前記評価値算出部は、各前記ブロック領域内の全ての前記画素データの値を加算した加算値を用いて前記評価値を算出し、前記領域選択部は、前記評価値間の大小関係を算出するソート回路と、前記ソート回路で算出された前記大小関係に基づいて当該サンプリング範囲の輝度パターンを検出する検出回路と、当該輝度パターンに応じて、前記画素データを前記レジスタ群から選択的に取り込むデータ選択回路と、を備えており、前記検出回路は、前記輝度パターンとして、高輝度領域のエッジの種類を検出する機能を有し、前記補間部は、当該輝度パターンに応じて、前記データ選択回路で取り込まれた前記画素データを用いて当該着目画素に欠けている色成分を補間する補間部であって、前記エッジの種類が検出された場合は、当該着目画素に対して当該エッジの方向に配列し且つ輝度成分を主体とする同種の色成分を平均化することで当該着目画素に欠けている色成分を補間し、前記エッジの種類が検出されない場合は、前記評価値間の大小関係に基づいて複数の前記評価値の中で中央の値に近い評価値を持つ前記参照領域を所定数選択し、当該参照領域内の同種の色成分を平均化することで当該着目画素に欠けている色成分を補間する機能を有することを特徴としている。
【0013】
第3の発明では、第1または第2の発明の画素補間装置において、前記レジスタ群は、3行3列の前記サンプリング範囲の前記画素データを保持する。
【0014】
そして、第4の発明は、第1〜第3の発明のうち何れかの画素補間装置を搭載したデジタルカメラである。
【0015】
次に、第5の発明は、各画素に単一の色成分を有する入力画像データを、各画素に複数種の色成分を有するカラー画像データに変換する画素補間方法であって、(a)前記入力画像データのうち所定のサンプリング範囲の画素データを保持する工程と、(b)前記サンプリング範囲内に設定されている複数のブロック領域における前記画素データを用いて各前記ブロック領域の明るさを規定する評価値を算出する工程と、(c)前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記ブロック領域の中から参照領域を選択する工程と、(d)前記工程(c)で選択された前記参照領域内の前記画素データを用いて当該着目画素に欠けている成分を補間する工程と、を備え、前記工程(b)は、各前記ブロック領域内の全ての前記画素データの値を加算した加算値を用いて前記評価値を算出する工程を含み、前記工程(c)は、前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記評価値の中で中央の値に近い評価値を持つ前記参照領域を所定数選択する工程を含み、前記工程(d)は、前記参照領域内の同種の色成分を平均化することで当該着目画素に欠けている色成分を補間する工程を含むことを特徴としている。
【0019】
第6の発明は、各画素に単一の色成分を有する入力画像データを、各画素に複数種の色成分を有するカラー画像データに変換する画素補間方法であって、(a)前記入力画像データのうち所定のサンプリング範囲の画素データを保持する工程と、(b)前記サンプリング範囲内に設定されている複数のブロック領域における前記画素データを用いて各前記ブロック領域の明るさを規定する評価値を算出する工程と、(c)前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記ブロック領域の中から参照領域を選択する工程と、(d)前記工程(c)で選択された前記参照領域内の前記画素データを用いて当該着目画素に欠けている成分を補間する工程と、を備え、前記工程(b)は、各前記ブロック領域内の全ての前記画素データの値を加算した加算値を用いて前記評価値を算出する工程を含み、前記工程(c)は、(c−1)前記評価値間の大小関係を算出する工程と、(c−2)前記工程(c−1)で算出された前記大小関係に基づいて当該サンプリング範囲の輝度パターンを検出する工程と、(c−3)前記工程(c−2)で検出された当該輝度パターンに応じて、前記工程(a)で保持した前記画素データを選択的に取り込む工程と、を備えており、前記工程(c−2)は、前記輝度パターンとして、高輝度領域のエッジの種類を検出する工程を含み、前記工程(d)は、当該輝度パターンに応じて、前記工程(c−3)で取り込まれた前記画素データを用いて当該着目画素に欠けている色成分を補間する工程であって、前記工程(c−2)で前記エッジの種類が検出された場合は、当該着目画素に対して当該エッジの方向に配列し且つ輝度成分を主体とする同種の色成分を平均化することで当該着目画素に欠けている前記色成分を補間し、前記工程(c−2)で前記エッジの種類が検出されない場合は、前記評価値間の大小関係に基づいて複数の前記評価値の中で中央の値に近い評価値を持つ前記参照領域を所定数選択し、当該参照領域内の同種の色成分を平均化することで当該着目画素に欠けている色成分を補間する工程を含むことを特徴としている。
【0021】
そして、第7の発明では、第5または第6の発明の画素補間方法において、前記工程(a)は、3行3列の前記サンプリング範囲の前記画素データを保持する工程を含む。
【0022】
【発明の実施の形態】
以下、本発明の種々の実施形態について説明する。
【0023】
<第1の実施形態>
図1は、本発明の第1の実施形態に係る画素補間装置1を概略的に示すブロック図である。この画素補間装置1は、RAWデータ(入力画像データ)を3×3画素の範囲(以下、サンプリング範囲と呼ぶ。)で保持するレジスタ群10と、FIFO(First-In First-Out)メモリ11,12と、処理部13とを備えて構成されている。本実施形態では、画素補間装置1は、単板のCCDセンサやCMOSセンサなどの撮像センサを搭載したデジタルカメラに組み込まれ、その撮像センサは、原色系(RGB系)のベイヤー配列の色フィルタアレイを有するものとする。
【0024】
レジスタ群10は、タイミング・ジェネレータ(図示せず)から供給されたクロック信号(図示せず)に同期して、画素単位で入力する8ビットのRAWデータを順次シフトさせつつ保持する9個のレジスタ20A〜20Iを備えており、レジスタ20A〜20Iの各々が1画素データを保持する。レジスタ群10は、3組のシフトレジスタ20A〜20C、20D〜20F及び20G〜20Iを備えており、第1のシフトレジスタ20A〜20Cと第2のシフトレジスタ20D〜20Fとの間にFIFOメモリ11が介在し、第2のシフトレジスタ20D〜20Fと第3のシフトレジスタ20G〜20Iとの間にFIFOメモリ12が介在している。この構成によって、レジスタ群10は、2次元配列の画像データであるRAWデータの中の3行3列のサンプリング範囲の画素データを保持することになる。
【0025】
また、レジスタ20A〜20Iが出力した画素データDA〜DIは、処理部13に入力させられている。この処理部13は、入力する画素データDA〜DIを用いて後述する画素補間処理を実行し、その結果、着目画素に関して、R成分の8ビット信号、G成分の8ビット信号及びB成分の8ビット信号を並列に出力する。
【0026】
図2は、レジスタ群10に記憶される3行3列の保持データ21を模式的に示す図である。この保持データ21は画素データDA〜DIから構成されており、画素データDA,DB,DC,DD,DE,DF,DG,DH及びDIはそれぞれ画素値P(0,0),P(0,1),P(0,2),P(1,0),P(1,1),P(1,2),P(2,0),P(2,1)及びP(2,2)を有する。なお、この明細書において「画素値」とは、R成分、G成分またはB成分のうち何れかのkビット階調(2k階調)値を意味する(kは2以上の整数)。
【0027】
図3は、上記処理部13の構成を概略的に示すブロック図である。この処理部13は、評価値算出部30、領域選択部31及び補間部32を備えている。評価値算出部30は、第1〜第4加算器30a〜30dを備えて構成される。上記サンプリング範囲には4つのブロック領域が設定されており、第1加算器30aは、第1のブロック領域における画素データDA,DB及びDDを加算して得た評価データDS1を出力し、第2加算器30bは、第2のブロック領域における画素データDB,DC及びDFを加算して得た評価データDS2を出力し、第3加算器30cは、第3のブロック領域における画素データDD,DG及びDHを加算して得た評価データDS3を出力し、第4加算器30dは、第4のブロック領域における画素データDF,DH及びDIを加算して得た評価データDS4を出力する。
【0028】
また図4に、前記第1〜第4のブロック領域の保持データ21A〜21Dを模式的に示す。第1のブロック領域は、サンプリング範囲の左上方に設定され、画素値P(0,0),P(0,1)及びP(1,0)を持つ保持データ21Aを含み、第2のブロック領域は、サンプリング範囲の右上方に設定され、画素値P(0,1),P(0,2)及びP(1,2)を持つ保持データ21Bを含み、第3のブロック領域は、サンプリング範囲の左下方に設定され、画素値P(1,0),P(2,0)及びP(2,1)を持つ保持データ21Cを含み、第4のブロック領域は、サンプリング範囲の右下方に設定され、画素値P(1,2),P(2,1)及びP(2,2)を持つ保持データ21Dを含む。サンプリング範囲中心の着目画素の値P(1,1)は、これら第1〜第4のブロック領域から除外されている。
【0029】
また上記評価データDS1〜DS4が持つ評価値(加算値)S1〜S4は、各ブロック領域の明るさを規定する量であり、次式(1)に基づいて算出される。
【0030】
【数1】
【0031】
なお、本実施形態では、評価値S1〜S4として画素値の加算値を採用するが、本発明ではこの限りでは無く、前記加算値を用いた量、例えば平均値を採用してもよい。
【0032】
また領域選択部31は、ソート回路33とデータ選択回路34とを備えている。ソート回路33は、評価値算出部30から並列に入力する評価データDS1〜DS4を昇順または降順にソートして、評価値S1〜S4間の大小関係を算出する。次に、ソート回路33は、上記第1〜第4のブロック領域の中から、評価値S1〜S4の中で中央の値(メディアン)に近い評価値を持つ参照領域を2個選択し、その選択結果を示す選択制御データSRをデータ選択回路34に出力する。データ選択回路34には、上記レジスタ群10が出力した画素データDA〜DIが入力している。このデータ選択回路34は、ソート回路33から入力した選択制御データSRに従って、ソート回路33で選択された2個の参照領域内の画素データのみを選択し、選択データSD1〜SD6として補間部32に出力する。
【0033】
そして補間部32は、入力する選択データSD1〜SD6を用いて当該着目画素に欠けている色成分を補間し、その結果、R成分、G成分及びB成分の画像信号を出力する。
【0034】
以上の構成を有する画素補間装置1による画素補間処理の例を、図5のフローチャートを参照しつつ以下に説明する。図6は、ベイヤー配列の色フィルタアレイを持つ撮像センサが出力したRAWデータの画素配列を模式的に示す図である。図示する通り、このRAWデータは、R,G,R,G,…,G,B,G,B,…の色成分の画素配列を有している。
【0035】
先ずステップST1では、図1に示すレジスタ群10が、画素単位で入力するRAWデータ(図6)のうちサンプリング範囲の画素データDA〜DIを保持する。次いで、図3に示す評価値算出部30が、レジスタ群10から取り込んだ画素データDA〜DIを用いて、サンプリング範囲に設定された第1〜第4のブロック領域の評価値S1〜S4を算出する(ステップST2)。評価値算出部30は、評価値S1〜S4をそれぞれ持つ評価データDS1〜DS4を領域選択部31のソート回路33に出力する。
【0036】
次に、ソート回路33が、評価データDS1〜DS4を降順にソートして、評価値S1〜S4の大小関係を算出する(ステップST3)。本例での大小関係は、S3>S1>S2>S4、である。次に、ソート回路33は、第1〜第4のブロック領域の中から、複数の評価値の中で中央の値(メディアン)に近い評価値を持つ参照領域を2個選択する(ステップST4)。本例では、4つの評価値S1〜S4の中で中央の値に最も近い評価値と次に近い評価値とを持つ第1及び第2のブロック領域が参照領域として選択される。
【0037】
次の補間処理(ステップST5)では、データ選択回路34が、第1及び第2のブロック領域の画素データDA,DB,DC,DD及びDFを選択データSD1〜SD5として補間部32に出力した後、補間部32は、バイリニア補間法あるいは最隣接補間法で画素補間を実行する。
【0038】
図7及び図8は、前記画素補間(ステップST5)を説明するための図であり、サンプリング範囲の保持データ21の画素配列を模式的に示している。図7に示すように、着目画素がR成分のみを有する場合、補間部32は、この着目画素に対して上方及び左右方向に隣接する3画素のG成分を平均化することで不足のG成分を補間(バイリニア補間)すると共に、この着目画素に対して斜め上方に隣接する2画素のB成分を平均化することで不足のB成分を補間(バイリニア補間)する。他方、図8に示すように、着目画素がG成分のみを有する場合は、補間部32は、この着目画素に対して左右方向に隣接する2画素のR成分を平均化することで不足のR成分を補間(バイリニア補間)すると共に、この着目画素に対して上方のB成分で不足のB成分を補間(最隣接補間)する。
【0039】
以上の画素補間処理によって、補間部32は1画素のRGBの画像信号を出力する。なお、補間部32から出力されたRGBの画像信号に輪郭強調処理を施すことで、画質を向上させてもよい。
【0040】
このように第1の実施形態に係る画素補間装置1及び画素補間方法によれば、少ない演算量で、偽色信号やドットノイズなどの画質劣化を効果的に抑制し得る画素補間処理を実行することが可能である。また、小回路規模の画素補間装置1を低コストで製造でき、低消費電力で画素補間処理を実行することができる。しかも、3×3画素の小さなサンプリング範囲を採用しても画質劣化を効果的に抑制できることから、FIFOメモリ11,12の数が2本で済むため、回路規模と電力消費量と製造コストとを抑えることができる。
【0041】
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。本実施形態に係る画素補間装置は、処理部13の構成を除いて、図1に示した画素補間装置1と同じ構成を有する。図9は、第2の実施形態に係る処理部13Aの構成を模式的に示す図である。図9に示す構成要素のうち、図3に示した符号と同一符号を付されたものは、図3に示した構成要素と同じ構成を有するためその詳細な説明を省略する。
【0042】
この処理部13Aは、評価値算出部30、領域選択部40及び補間部44を備えている。評価値算出部30は第1〜第4加算器30a〜30dを備えており、上述した第1〜第4のブロック領域における画素データを加算して得た評価データDS1〜DS4を領域選択部40に出力する。
【0043】
また領域選択部40は、ソート回路41と検出回路42とデータ選択回路43とを備えている。ソート回路41は、評価値算出部30から並列に入力する評価データDS1〜DS4を昇順または降順にソートして、評価値S1〜S4間の大小関係を算出する。またソート回路41は、評価データDS1〜DS4を昇順または降順に並べ替えたデータM1〜M4と、前記大小関係を示すソート情報SRTとを検出回路42に出力する。
【0044】
また検出回路42は、後述する方法に従って、前記ソート情報SRTに基づいてサンプリング範囲のRAWデータの輝度パターンを検出し、その検出結果である検出データDR0,DR1をデータ選択回路43と補間部44とに出力する。本実施の形態では、前記輝度パターンとして後述する高輝度領域のエッジ(縁部)の種類が検出される。
【0045】
データ選択回路43は、検出回路42から入力する検出データDR0により、検出された輝度パターンに応じて、レジスタ群10から入力する画素データDA〜DIを選択的に取り込み、選択データSD1〜SD5として補間部44に出力する。そして、補間部44は、検出回路42から入力する検出データDR1により、検出された輝度パターンに応じて、選択データSD1〜SD5を用いて当該着目画素に欠けている色成分を補間し、その結果、R成分、G成分及びB成分の画像信号を出力する。
【0046】
以上の構成を有する処理部13Aを備えた画素補間装置による画素補間処理の例を、図10のフローチャートを参照しつつ以下に説明する。
【0047】
先ずステップST1では、図1に示すレジスタ群10が、画素単位で入力するRAWデータ(図6)のうちサンプリング範囲の画素データDA〜DIを保持する。次いで、図9に示す評価値算出部30が、レジスタ群10から取り込んだ画素データDA〜DIを用いて、サンプリング範囲に設定されている第1〜第4のブロック領域の評価値S1〜S4を算出する(ステップST2)。評価値算出部30は、評価値S1〜S4をそれぞれ持つ評価データDS1〜DS4を領域選択部40のソート回路41に出力する。
【0048】
次に、ソート回路41が、評価データDS1〜DS4を降順にソートして評価値S1〜S4の大小関係を算出する(ステップST3)。このときソート回路41は、評価データDS1〜DS4を降順に並べ替えたデータM1〜M4と、ソート情報SRTとを検出回路42に出力する。
【0049】
次に、検出回路42は、ソート情報SRTに基づいてサンプリング範囲の輝度パターンを検出する検出処理を行う(ステップST10)。本例の検出回路42が検出し得る輝度パターンを図11〜図18に示す。図11〜図18に示す例では、着目画素で輝度成分を主体とするG成分が不足しており、保持データ21に対する画像の高輝度領域45とそれ以外の低輝度領域とが示されている。なお、図11〜図18は、着目画素がR成分のみを有する場合を示しているが、着目画素がB成分のみを有する場合も同様に検出可能である。
【0050】
図11〜図14に示すように、高輝度領域45のエッジの方向が略水平方向に向くとき、当該エッジ45hは「横エッジ」と呼ばれ、図15〜図18に示すように、エッジの方向が略垂直方向に向くとき、当該エッジ45vは「縦エッジ」と呼ばれる。また、図11及び図12は、高輝度領域45がサンプリング範囲の上方に位置する場合を、図13及び図14は、高輝度領域45がサンプリング範囲の下方に位置する場合を、図15及び図16は、高輝度領域45がサンプリング範囲の左方に位置する場合を、図17及び図18は、高輝度領域45がサンプリング範囲の右方に位置する場合を、それぞれ表している。
【0051】
検出回路42は、評価値S1〜S4に関して次式(2A)の大小関係を満たすソート情報SRTを受けた場合に、サンプリング範囲上方の高輝度領域の横エッジ54h(図11または図12)を検出する。
【0052】
【数2】
【0053】
ここで、上式(2A)中、演算子min{x,y}は、入力変数x,yのうち値が小さい方の変数を出力し、演算子max{x,y}は、入力変数x,yのうち値が大きい方の変数を出力する。変数x,yが同じ値を持つ場合は、変数xが出力される。
【0054】
また検出回路42は、次式(2B)の大小関係を満たすソート情報SRTを受けた場合に、サンプリング範囲下方の高輝度領域の横エッジ45h(図13または図14)を検出する。
【0055】
【数3】
【0056】
また検出回路42は、次式(3A)の大小関係を満たすソート情報SRTを受けた場合に、サンプリング範囲左方の縦エッジ45v(図15または図16)を検出する。
【0057】
【数4】
【0058】
そして検出回路42は、次式(3B)の大小関係を満たすソート情報SRTを受けた場合に、サンプリング範囲右方の高輝度領域の縦エッジ45v(図17または図18)を検出する。
【0059】
【数5】
【0060】
次いで、ステップST10aの条件分岐処理において、上記ステップST10で検出した検出パターンの種類に応じた補間処理(ステップST11〜ST15、ST4,ST5)が選択される。
【0061】
着目画素にG成分が不足しており、且つ図11及び図12に示す横エッジ45hが検出された場合(I=1)、ステップST10aからステップST11に処理が移行する。ここで、データ選択回路43は、検出データDR0に基づいて、当該着目画素に対して左右方向に隣接する2画素のG成分を選択して補間部44に供給し、補間部44は、検出データDR1に基づいて、これら2画素のG成分を平均化することで不足のG成分を補間する。数式で表現すれば、補間されるG成分の画素値IPGについて、IPG=(P(1,0)+P(1,2))/2、が成立する。次いで、補間部44は、着目画素に不足しているR成分またはB成分をバイリニア補間法などで補間する(ステップST15)。
【0062】
また、着目画素にG成分が不足しており、且つ図13及び図14に示す横エッジ45hが検出された場合は(I=2)、ステップST10aからステップST12に処理が移行し、上記ステップST11と同じ処理が実行された後に、上記ステップST15の処理が実行される。
【0063】
また、着目画素にG成分が不足しており、且つ図17及び図18に示す縦エッジ45vが検出された場合は(I=3)、ステップST10aからステップST13に処理が移行する。ここで、データ選択回路43は、検出データDR0に基づいて、当該着目画素に対して上下方向に隣接する2画素のG成分を選択して補間部44に供給し、補間部44は、検出データDR1に基づいて、これら2画素のG成分を平均化することで不足のG成分を補間する。数式で表現すれば、補間されるG成分の画素値IPGについて、IPG=(P(0,1)+P(2,1))/2、が成立する。次いで、補間部44は、着目画素に不足しているR成分またはB成分をバイリニア補間法などで補間する(ステップST15)。
【0064】
また、着目画素にG成分が不足しており、且つ図15及び図16に示す縦エッジ45vが検出された場合は(I=4)、ステップST10aからステップST14に処理が移行し、上記ステップST13と同じ処理が実行された後に、上記ステップST15が実行される。
【0065】
そして、図11〜図18に示す輝度パターンの何れも検出されなかった場合は(I=5)、ステップST10aからステップST4に処理が移行する。ここで、ソート回路33は、上記第1〜第4のブロック領域の中から、複数の評価値の中で中央の値に近い評価値を持つ参照領域を2個選択する(ステップST4)。
【0066】
次の補間処理(ステップST5)では、上記第1の実施形態の補間処理(図5;ステップST5)と同様に、データ選択回路43が、前記ステップST4で選択された2個の参照領域の画素データを選択データSD1〜SD5として補間部44に出力した後、補間部44は、検出データDR1に応じて、バイリニア補間法あるいは最隣接補間法で画素補間を実行する。
【0067】
以上のように第2の実施形態に係る画素補間装置及び画素補間方法によれば、サンプリング範囲の輝度パターンに応じて適応型の補間処理を実行できるため、偽色信号やドットノイズの発生をさらに効果的に抑制し得て、画質の向上が可能となる。
【0068】
【発明の効果】
以上の如く、本発明に係る画素補間装置及び画素補間方法によれば、少ない演算量で、偽色信号やドットノイズなどの発生を効果的に抑制し得る画素補間処理を実現できる。同時に、小回路規模の画素補間装置を低コストで製造でき、低消費電力で画素補間処理を実行することが可能である。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係る画素補間装置を概略的に示すブロック図である。
【図2】レジスタ群に記憶される3行3列の保持データを模式的に示す図である。
【図3】第1の実施形態に係る画素補間装置の処理部の構成を概略的に示すブロック図である。
【図4】第1〜第4のブロック領域の保持データを模式的に示す図である。
【図5】第1の実施形態に係る画素補間処理の例を示すフローチャートである。
【図6】RAWデータの画素配列を模式的に示す図である。
【図7】第1の実施形態に係る画素補間処理の一工程を説明するための図である。
【図8】第1の実施形態に係る画素補間処理の一工程を説明するための図である。
【図9】本発明の第2の実施形態に係る画素補間装置の処理部の構成を模式的に示す図である。
【図10】第2の実施形態に係る画素補間処理の一工程を説明するための図である。
【図11】輝度パターンの一例を模式的に示す図である。
【図12】輝度パターンの一例を模式的に示す図である。
【図13】輝度パターンの一例を模式的に示す図である。
【図14】輝度パターンの一例を模式的に示す図である。
【図15】輝度パターンの一例を模式的に示す図である。
【図16】輝度パターンの一例を模式的に示す図である。
【図17】輝度パターンの一例を模式的に示す図である。
【図18】輝度パターンの一例を模式的に示す図である。
【符号の説明】
1 画素補間装置
10 レジスタ群
11,12 FIFOメモリ
13,13A 処理部
30 評価値算出部
30a〜30d 加算器
31,40 領域選択部
32,44 補間部
33,41 ソート回路
34,43 データ選択回路
42 検出回路
Claims (7)
- 各画素に単一の色成分を有する入力画像データを、各画素に複数種の色成分を有するカラー画像データに変換する画素補間装置であって、
前記入力画像データのうち着目画素を含む所定のサンプリング範囲の画素データを保持するレジスタ群と、
前記サンプリング範囲内に設定されている複数のブロック領域における前記画素データを用いて各前記ブロック領域の明るさを規定する評価値を算出する評価値算出部と、
前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記ブロック領域の中から参照領域を選択する領域選択部と、
前記領域選択部で選択された前記参照領域内の前記画素データを用いて当該着目画素に欠けている色成分を補間する補間部と、
を備え、
前記評価値算出部は、各前記ブロック領域内の全ての前記画素データの値を加算した加算値を用いて前記評価値を算出し、
前記領域選択部は、
前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記評価値の中で中央の値に近い評価値を持つ前記参照領域を所定数選択するソート回路と、
前記ソート回路で選択された前記参照領域内の前記画素データを前記レジスタ群から取り込み前記補間部に与えるデータ選択回路と、を備え、
前記補間部は、前記参照領域内の同種の色成分を平均化することで当該着目画素に欠けている色成分を補間することを特徴とする画素補間装置。 - 各画素に単一の色成分を有する入力画像データを、各画素に複数種の色成分を有するカラー画像データに変換する画素補間装置であって、
前記入力画像データのうち着目画素を含む所定のサンプリング範囲の画素データを保持するレジスタ群と、
前記サンプリング範囲内に設定されている複数のブロック領域における前記画素データを用いて各前記ブロック領域の明るさを規定する評価値を算出する評価値算出部と、
前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記ブロック領域の中から参照領域を選択する領域選択部と、
前記領域選択部で選択された前記参照領域内の前記画素データを用いて当該着目画素に欠けている色成分を補間する補間部と、
を備え、
前記評価値算出部は、各前記ブロック領域内の全ての前記画素データの値を加算した加算値を用いて前記評価値を算出し、
前記領域選択部は、
前記評価値間の大小関係を算出するソート回路と、
前記ソート回路で算出された前記大小関係に基づいて当該サンプリング範囲の輝度パターンを検出する検出回路と、
当該輝度パターンに応じて、前記画素データを前記レジスタ群から選択的に取り込むデータ選択回路と、
を備えており、
前記検出回路は、前記輝度パターンとして、高輝度領域のエッジの種類を検出する機能を有し、
前記補間部は、当該輝度パターンに応じて、前記データ選択回路で取り込まれた前記画素データを用いて当該着目画素に欠けている色成分を補間する補間部であって、前記エッジの種類が検出された場合は、当該着目画素に対して当該エッジの方向に配列し且つ輝度成分を主体とする同種の色成分を平均化することで当該着目画素に欠けている色成分を補間し、前記エッジの種類が検出されない場合は、前記評価値間の大小関係に基づいて複数の前記評価値の中で中央の値に近い評価値を持つ前記参照領域を所定数選択し、当該参照領域内の同種の色成分を平均化することで当該着目画素に欠けている色成分を補間する機能を有することを特徴とする画素補間装置。 - 請求項1または請求項2記載の画素補間装置であって、前記レジスタ群は、3行3列の前記サンプリング範囲の前記画素データを保持する、画素補間装置。
- 請求項1〜請求項3の何れか1項に記載の画素補間装置を搭載したデジタルカメラ。
- 各画素に単一の色成分を有する入力画像データを、各画素に複数種の色成分を有するカラー画像データに変換する画素補間方法であって、
(a)前記入力画像データのうち所定のサンプリング範囲の画素データを保持する工程と、
(b)前記サンプリング範囲内に設定されている複数のブロック領域における前記画素データを用いて各前記ブロック領域の明るさを規定する評価値を算出する工程と、
(c)前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記ブロック領域の中から参照領域を選択する工程と、
(d)前記工程(c)で選択された前記参照領域内の前記画素データを用いて当該着目画素に欠けている成分を補間する工程と、
を備え、
前記工程(b)は、各前記ブロック領域内の全ての前記画素データの値を加算した加算値を用いて前記評価値を算出する工程を含み、
前記工程(c)は、前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記評価値の中で中央の値に近い評価値を持つ前記参照領域を所定数選択する工程を含み、
前記工程(d)は、前記参照領域内の同種の色成分を平均化することで当該着目画素に欠けている色成分を補間する工程を含むことを特徴とする画素補間方法。 - 各画素に単一の色成分を有する入力画像データを、各画素に複数種の色成分を有するカラー画像データに変換する画素補間方法であって、
(a)前記入力画像データのうち所定のサンプリング範囲の画素データを保持する工程と、
(b)前記サンプリング範囲内に設定されている複数のブロック領域における前記画素データを用いて各前記ブロック領域の明るさを規定する評価値を算出する工程と、
(c)前記評価値間の大小関係を算出し当該大小関係に基づいて複数の前記ブロック領域の中から参照領域を選択する工程と、
(d)前記工程(c)で選択された前記参照領域内の前記画素データを用いて当該着目画素に欠けている成分を補間する工程と、
を備え、
前記工程(b)は、各前記ブロック領域内の全ての前記画素データの値を加算した加算値を用いて前記評価値を算出する工程を含み、
前記工程(c)は、
(c−1)前記評価値間の大小関係を算出する工程と、
(c−2)前記工程(c−1)で算出された前記大小関係に基づいて当該サンプリング範囲の輝度パターンを検出する工程と、
(c−3)前記工程(c−2)で検出された当該輝度パターンに応じて、前記工程(a)で保持した前記画素データを選択的に取り込む工程と、
を備えており、
前記工程(c−2)は、前記輝度パターンとして、高輝度領域のエッジの種類を検出する工程を含み、
前記工程(d)は、当該輝度パターンに応じて、前記工程(c−3)で取り込まれた前記画素データを用いて当該着目画素に欠けている色成分を補間する工程であって、前記工程(c−2)で前記エッジの種類が検出された場合は、当該着目画素に対して当該エッジの方向に配列し且つ輝度成分を主体とする同種の色成分を平均化することで当該着目画素に欠けている前記色成分を補間し、前記工程(c−2)で前記エッジの種類が検出されない場合は、前記評価値間の大小関係に基づいて複数の前記評価値の中で中央の値に近い評価値を持つ前記参照領域を所定数選択し、当該参照領域内の同種の色成分を平均化することで当該着目画素に欠けている色成分を補間する工程を含むことを特徴とする画素補間方法。 - 請求項5または請求項6記載の画素補間方法であって、前記工程(a)は、3行3列の前記サンプリング範囲の前記画素データを保持する工程を含む、画素補間方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002345009A JP4302391B2 (ja) | 2002-11-28 | 2002-11-28 | 画素補間装置及び画素補間方法並びにデジタルカメラ |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002345009A JP4302391B2 (ja) | 2002-11-28 | 2002-11-28 | 画素補間装置及び画素補間方法並びにデジタルカメラ |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004180059A JP2004180059A (ja) | 2004-06-24 |
JP4302391B2 true JP4302391B2 (ja) | 2009-07-22 |
Family
ID=32706295
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002345009A Expired - Fee Related JP4302391B2 (ja) | 2002-11-28 | 2002-11-28 | 画素補間装置及び画素補間方法並びにデジタルカメラ |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4302391B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4333997B2 (ja) | 2004-08-24 | 2009-09-16 | シャープ株式会社 | 画像処理装置、撮影装置、画像処理方法、画像処理プログラムおよび記録媒体 |
JP4968662B2 (ja) | 2005-12-26 | 2012-07-04 | 株式会社メガチップス | 画像処理装置 |
RU2006104439A (ru) | 2006-02-15 | 2007-09-20 | Самсунг Электроникс Ко. | Способ интерполяции цифрового изображения |
US8724895B2 (en) | 2007-07-23 | 2014-05-13 | Nvidia Corporation | Techniques for reducing color artifacts in digital images |
JP4703666B2 (ja) * | 2008-02-08 | 2011-06-15 | シャープ株式会社 | 画像処理装置、撮影装置、画像処理方法、画像処理プログラムおよび記録媒体 |
WO2013001869A1 (ja) * | 2011-06-30 | 2013-01-03 | 富士フイルム株式会社 | 撮像装置及び撮像プログラム |
JP7081200B2 (ja) * | 2018-02-22 | 2022-06-07 | セイコーエプソン株式会社 | 画像表示装置、及び画像表示装置の制御方法 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11146409A (ja) * | 1997-11-07 | 1999-05-28 | Minolta Co Ltd | ビデオカメラ |
JP3498553B2 (ja) * | 1997-11-10 | 2004-02-16 | ミノルタ株式会社 | ビデオカメラ |
JPH11262025A (ja) * | 1998-03-16 | 1999-09-24 | Toshiba Corp | 画像入力装置および画像補正方法 |
JP2000023085A (ja) * | 1998-06-30 | 2000-01-21 | Nikon Corp | デジタルカメラおよび画像信号処理用記憶媒体 |
JP4097815B2 (ja) * | 1998-11-24 | 2008-06-11 | 株式会社リコー | 画像処理装置および画像処理方法 |
JP2000188762A (ja) * | 1998-12-21 | 2000-07-04 | Nikon Corp | 補間処理装置および補間処理プログラムを記録した記録媒体 |
JP2000217123A (ja) * | 1999-01-20 | 2000-08-04 | Canon Inc | 撮像装置及び前記撮像装置における画像処理方法 |
JP2000217124A (ja) * | 1999-01-20 | 2000-08-04 | Canon Inc | 撮像装置及び前記撮像装置における画像処理方法 |
JP4317619B2 (ja) * | 1999-07-22 | 2009-08-19 | メディア・テック・ユーエスエイ・インコーポレーテッド | 画像処理装置 |
JP3657826B2 (ja) * | 1999-08-09 | 2005-06-08 | 株式会社メガチップス | 画素補間方法 |
JP4317624B2 (ja) * | 1999-09-10 | 2009-08-19 | メディア・テック・ユーエスエイ・インコーポレーテッド | 画像処理装置 |
JP2001197512A (ja) * | 2000-01-14 | 2001-07-19 | Mitsubishi Electric Corp | 色成分生成装置およびこれを用いた多色画像撮像装置、並びに色成分生成方法 |
JP4451044B2 (ja) * | 2002-02-21 | 2010-04-14 | 株式会社メガチップス | 混成画素補間装置および混成画素補間方法 |
-
2002
- 2002-11-28 JP JP2002345009A patent/JP4302391B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2004180059A (ja) | 2004-06-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100978688B1 (ko) | 디지털 이미지의 컬러 아티팩트 저감 기법 | |
US7990447B2 (en) | Solid-state image sensor | |
US9013611B1 (en) | Method and device for generating a digital image based upon a selected set of chrominance groups | |
JP5591261B2 (ja) | 画像処理装置 | |
US9392241B2 (en) | Image processing apparatus and image processing method | |
TWI386049B (zh) | A solid-state imaging device, and a device using the solid-state imaging device | |
US7570288B2 (en) | Image processor | |
EP1793620A1 (en) | Image processing device and method, imaging device, and computer program | |
US8253816B2 (en) | Video signal processing for generating a level mixed signal | |
JP2003101886A (ja) | 撮像装置 | |
JP3942569B2 (ja) | 撮像装置および画像データの変換方法 | |
JP2010141663A (ja) | 撮像装置 | |
US8471936B2 (en) | Imaging device and signal processing method | |
JP2008258909A (ja) | 信号処理回路 | |
JP4302391B2 (ja) | 画素補間装置及び画素補間方法並びにデジタルカメラ | |
JP4725520B2 (ja) | 画像処理装置、非撮像色信号算出装置及び画像処理方法 | |
US9270954B2 (en) | Imaging device | |
JP4635769B2 (ja) | 画像処理装置、画像処理方法および撮像装置 | |
JP3730063B2 (ja) | 色成分生成装置および色成分生成方法並びにこれを用いた多色画像撮像装置 | |
JP2005311455A (ja) | 撮像装置、ノイズリダクション装置およびノイズリダクション方法並びにプログラム | |
JP4385748B2 (ja) | 画像信号処理装置及び画像信号処理方法 | |
JP2008131291A (ja) | 撮像装置 | |
JP3660504B2 (ja) | カラー固体撮像装置 | |
JP2004088285A (ja) | 画像処理装置 | |
JP5056927B2 (ja) | 画像処理装置、画像処理方法および撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051124 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080118 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080318 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080515 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080515 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090421 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090422 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120501 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120501 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150501 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |