JP2004536518A - デモザイク処理プロセスにおけるバイラテラルフィルタリング - Google Patents
デモザイク処理プロセスにおけるバイラテラルフィルタリング Download PDFInfo
- Publication number
- JP2004536518A JP2004536518A JP2003514501A JP2003514501A JP2004536518A JP 2004536518 A JP2004536518 A JP 2004536518A JP 2003514501 A JP2003514501 A JP 2003514501A JP 2003514501 A JP2003514501 A JP 2003514501A JP 2004536518 A JP2004536518 A JP 2004536518A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- mosaic pattern
- intensity
- image information
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000002146 bilateral effect Effects 0.000 title claims abstract description 19
- 238000000034 method Methods 0.000 title claims description 35
- 238000001914 filtration Methods 0.000 title abstract description 20
- 239000003086 colorant Substances 0.000 claims abstract description 17
- 230000003595 spectral effect Effects 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 8
- 230000007704 transition Effects 0.000 abstract description 41
- 230000000694 effects Effects 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 abstract description 4
- 230000002950 deficient Effects 0.000 description 13
- 238000013459 approach Methods 0.000 description 11
- 238000012935 Averaging Methods 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 230000000994 depressogenic effect Effects 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000010348 incorporation Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000013179 statistical model Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
【解決手段】カラーモザイクパターン(10)が出力画像(20、22および24)に変換される場合に急峻な強度遷移におけるアーティファクトを低減するために、バイラテラルフィルタリングのフレームワークにデモザイク処理畳み込みカーネル(kp,c)が組込まれる。強度を考慮せずに選択されるウィンドウ内のバイラテラルフィルタリングの結果として、物理的に近接する画素I(a,b)の強度値には、より遠い画素の強度値より大きい重みが与えられ、同時に、量的に類似する(すなわち、測光的に類似する)強度値には、量的に非類似の強度値より大きい重みが与えられる。デモザイク処理操作において測光的類似性を使用することにより、急峻な強度遷移の一方の側の画素に対し補間された強度値を確定する際に、急峻な強度遷移の反対側に対する画素の影響が低減される。
【選択図】図1
Description
【0001】
本発明は、包括的には画像情報を操作することに関し、特に異なる色の強度値のモザイクパターンから画像を復元する方法およびシステムに関する。
【背景技術】
【0002】
デジタルカラー画像は、画像の各ポイントにおいて色の強度を表す画素値のアレイからなる。
一般的には、画像を生成するために3つの色が使用され、それらの色の各々の強度は、各画素に対して特定される。
画像を復元する際、3つの強度は、画素単位で結合されることにより、プリントされるかまたは見る人に表示される画像を確定する。
【0003】
従来のカラー写真術は、カラースペクトルの異なる領域に感度を有する3つのオーバーラップする色検知層を利用する。
通常は、赤、緑および青が、3つの選択された色である。
しかしながら、デジタルカメラは、単一アレイのセンサに限定されるため、1つの「層」しかない。
この層内において、各センサは特定の色の強度を確定する。
結果として、センサアレイは、従来の意味のカラー画像ではなく、個々のカラーサンプルの集まりを生成する。
アレイ内の個々の画素への色の割当を、カラーフィルタアレイ(CFA)またはカラー「モザイクパターン」と呼ぶこともある。
本来のカラー画像を生成するために、各画素にカラーサンプルの完全なセットがある場合、欠落情報を推定するために相当量の計算が必要である。
計算上の操作を、一般に「デモザイク処理(demosaicing)」と呼ぶ。
【0004】
各画素において1つの色のみが検知されるため、スペクトル情報の2/3が欠落する。
特定画素において欠落情報を生成するために、近傍画素からの情報を使用してもよい。
その理由は、特定画像の同じ領域における画素間に統計的依存性があるためである。
複数のデモザイク処理アルゴリズムが利用可能である。
「双線形補間」は、デモザイク処理操作の複雑性を最小限にするよう試みる手法である。
双線形補間アルゴリズムは、同じ色のセンサのみからの色強度を補間する。
すなわち、赤色センサは、緑色および青色センサとは独立して扱われ、緑色センサは、赤色および青色センサとは独立して扱われ、青色センサは、赤色および緑色センサとは独立して扱われる。
所与の画素において赤色強度値を提供するために、指定されたサイズの近傍において(たとえば、中心に所与の画素を有する9つのセンサの近傍において)赤色センサによって測定される値が補間される。
センサのモザイクパターンがベイヤー(Bayer)パターン(すなわち、カーネル内に対角線上に配置される2つの緑色センサと1つの赤色センサと1つの青色センサとを有する、繰返しの2×2センサアレイカーネル)である場合、双線形補間アルゴリズムは、12の畳み込みカーネルを使用して画像を復元することができる。
しかしながら、デモザイク処理操作において異なる色を分離する手法は、比較的低レベルの計算オーバヘッドを提供するが、復元される画像には、従来のカラー写真術の鮮鋭性が欠ける。
後述するように、アーティファクトを最小化することと鮮鋭性を最大化することとの間には望ましくないトレードオフがある。
【0005】
別の手法は、Wober他に対する米国特許第5,475,769号(特許文献1)に述べられている。
この手法では、カラーセンサはもはや他の色のセンサとは無関係であるようには扱われない。
双線形補間手法のように、定義されたサイズの画素の近傍をモザイクパターンに関して「移動(move)」させ、近傍の中心にある画素に対して強度値を確定する。
近傍の各画素は、中心画素に対する色感度に対して重みが付けられる。
各センサ画素の欠落した色強度値は、各色帯域に対し近傍の重み付き画素を平均化することによって推定される。
近傍データと画素データとは、A*W=Xの形式を有する行列およびベクトル表現で配置される。
ここで、Aは近傍値の行列であり、Wは重み係数を表すベクトルであり、Xは中心画素の特定波長の色成分のベクトルである。
重み係数は、線形最小平均二乗誤差(linear minimum mean square error(LMMSE))解を用いて確定することができる。
【0006】
単一画素アレイを、各々が同じ色のセンサを有する、複数の別々の画素の平面から構成されるものと見てもよい。
画素はオーバーラップしないため、あらゆる平面のセンサは異なる位置にある。
複数の単色平面にわたって重み付き平均をとるデモザイク処理手法は、サンプル位置間の統計的依存性を利用する。
実際には、カメラ光学系による画像のぼけにより、単色平面のうちの1つのセンサに正確に存在する真のオブジェクトエッジ(すなわち、イメージングされているオブジェクトのうちの1つのエッジ)が、他の色平面でも見られることになる。
その理由は、他の単色平面のセンサへのぼけにより画像が広がるためである。
【0007】
カメラ光学系によってもたらされるぼけは、画像を復元するデモザイク処理操作において役立つが、デモザイク処理操作は、ぼけを増大させてはならず、すなわち復元された画像に他のいかなるアーティファクトも付加してはならない。
デモザイク処理アルゴリズムの目標は、本来の色鮮鋭なプリントまたは表示を提供するように画像を忠実に復元することでなければならない。
1つの問題は、補間手法が強度の急峻な変化においてアーティファクトをもたらす傾向にある、ということである。
急峻な遷移の例として、照明が不足した部屋で取込まれるデジタルピクチャは、いかなる照明源に沿っても鮮鋭な遷移を有することになる。
鮮鋭な遷移はまた、2つの明るい色の間の境界でも発生する。
ほとんどの既知の補間アルゴリズムは、遷移を特定することに依存しない近傍内の推定を提供するため、遷移に沿って発生する平均化は、遷移の一方の側の高強度値と反対側の低強度値との両方を考慮する。
空間不変補間は、遷移に沿って画像をぼんやりさせる。
すなわち、復元された画像は、その鮮鋭性を幾分か喪失する。
鮮鋭化喪失の程度は、部分的に、急峻な強度遷移においてアーティファクトの導入を制御することに対する重要性によって決まる(すなわち、鮮鋭性/アーティファクトトレードオフがある)。
【0008】
鮮鋭性を増大させるように設計される空間不変手法を、David TaubmanのGeneralized Image Demosaicing and Enhancement(一般化画像デモザイク処理および拡張(GIDE))手法と呼んでもよい。
GIDEは、センサ特性と、関連イメージングシステムおよび広義定常(Wide Sense Stationary(WSS))雑音のモデルと、先の画像統計モデルと、を含む要素の点から、オリジナルシーン復元の誤差推定を最小化する。
その手法は、David Taubmanによる「Generalized Wiener Reconstruction of Images from Colour Sensor Data Using a Scale Invariant Prior」、Proceedings of the International Conference on Image Processing(ICIP2000)(Vancouver、Canada、September、2000)と題された出版物(非特許文献1)において概説されている。
本手法は、ほとんどの場合に十分に作用するが、強度の急峻な変化のエッジにおいて「過鮮鋭化する(oversharpen)」傾向がある。
すなわち、第1の強度レベルから大幅に高い第2の強度レベルまでの急峻な遷移がある場合、遷移の直前の画素の補間された画素値は、第1のレベルより大幅に下に低下する可能性があり、一方急峻な遷移およびその直後に配置される画素は、第2の強度レベルより大幅に上の補間された画素値が割当てられる可能性がある。
過鮮鋭化により、復元された画像にアーティファクトがもたらされる。
アーティファクトは、他の手法によってもたらされるものより視覚的に不快ではないが、はっきり目に見える。
【0009】
空間可変手法は、各々がイーストマン・コダック・カンパニー(Eastman Kodak Company)に譲渡されている、Laroche他に対する米国特許第5,373,322号とHibbardに対する同第5,382,976号(特許文献2,3)とにおいて述べられている。
Laroche他の特許は、クロミナンス値を補間することに関連し、一方Hibbard特許は、輝度値を補間するために同じ技法を使用する。
Laroche他に関し、デジタルプロセッサは、特定の関心画素からの垂直画像方向と水平画像方向とにおけるクロミナンス値間の差から勾配値を取得する。
勾配値は、追加のクロミナンス値の補間のために好ましい向きとして方向のうちの一方を選択するために、互いに比較される。
そして、好ましい向きに一致するように選択される値に対し、補間が実行される。
勾配値の比較を実行することにより、エッジアーティファクトが低減され画像鮮鋭性が向上する。
【0010】
Matraszek他に対する米国特許第5,875,040号(特許文献4)は、画素補間が実行される前に方向を計算する、別のイーストマン・コダック・カンパニー特許である。
Matraszek他の特許は、ソース画像の欠陥領域における欠陥画素を補正するために使用される。
その方法は、欠陥領域を有する画像の非欠陥領域においてエッジを探索するステップを含む。
一旦非欠陥領域のエッジが特定されると、欠陥領域に対する画素信号は、エッジの方向によって確定される欠陥画素からの方向に位置する非欠陥画素の画素信号に基づく。
好ましくは、エッジの検出において方向角と大きさとがともに計算される。
エッジ方向角は、考慮されている画素における勾配方向に対して垂直であると定義される。
エッジの位置を特定する1つの方法は、欠陥領域に隣接する寸法が制限された「スライディング」ウィンドウとして、非欠陥領域を選択することとして説明され、ウィンドウは、局所的な非欠陥領域を画定する。
この特許では、ウィンドウの中心またはウィンドウの端部を欠陥領域から分離する幾分かの事前選択された距離がある可能性があるため、隣接が必ずしも直接隣接することを意味しない、ということに言及している。
そして、勾配フィールドを使用して、ウィンドウのエッジの位置を特定することができる。
上述した方法を使用して、画素値を非欠陥領域からの画素値に基づかせることができる。
【0011】
特定画素値の確定において他の画素値が選択される方向を適当に選択することにより、アーティファクトの導入を制御することができる。
しかしながら、最初に方向を確定しその後画素値を確定するプロセスは、計算上複雑である。多数の反復が必要である可能性がある。
【特許文献1】
米国特許第5,475,769号
【特許文献2】
米国特許第5,373,322号
【特許文献3】
米国特許第5,382,976号
【特許文献4】
米国特許第5,875,040号
【非特許文献1】
David Taubmanによる「Generalized Wiener Reconstruction of Images from Colour Sensor Data Using a Scale Invariant Prior」、Proceedings of the International Conference on Image Processing(ICIP2000)(Vancouver、Canada、September、2000)
【発明の開示】
【発明が解決しようとする課題】
【0012】
必要なことは、高レベルの計算オーバヘッドなしに、色情報のモザイクパターンから画像を忠実に復元する方法およびシステムである。
【課題を解決するための手段】
【0013】
後述するバイラテラルフィルタリングを使用することにより、デモザイク処理操作において強度遷移の保存が向上する。
結果として、色画素のモザイクパターンにおける近傍画素間の補間は、強度の影響を受けないウィンドウ内の画素値の相対位置と測光的類似性とを含む要素に基づく。
「強度の影響を受けない」とは、ウィンドウの位置が、画像内の測光的類似性または非類似性の関数ではないことを意味する。
むしろ、測光的類似性は、ウィンドウの位置が確定された後の要素である。
このため、特定画素に対する強度値を確定するための固定向きのウィンドウ内では、物理的に近接する画素の強度値に対し、より離れた画素の強度値より大きい重みが与えられ、同時に、量的に類似する強度値には、量的に類似しない強度値よりも大きい重みが与えられる。
急峻な強度遷移の一方の側において補間された強度値を確定する際に急峻な強度遷移の反対側における画素の影響を低減することにより、復元された画像において遷移の鮮鋭性が向上する。
このため、鮮鋭性とアーティファクトのない復元との間の従来のトレードオフは、少なくとも部分的に除去される。
【0014】
本発明を双線形補間デモザイク処理で使用してもよいが、別の実施形態は、近傍の略中心(正確な中心は、所与のサイズのウィンドウのパラメータ次第では、いかなる画素の物理的位置とも一致しない場合があるため、「略」中心)において画素の強度値を確定する際に、モザイクパターンの所与のサイズのウィンドウ内の強度値のすべてが考慮される、というものである。
このため、デモザイク処理は、少なくともPs×Ptの異なる畳み込みカーネルを利用することを含み、Psが所与のサイズの近傍内のあり得る色配置の数であり、Ptがモザイクパターンの異なる色の数である。
ベイヤーパターンの場合、Ps=4およびPt=3であり、そのため12の畳み込みカーネルがあることになる。
【0015】
バイラテラルフィルタリングでは、近傍画素の強度値間の測光的類似性を示す類似性関数が、近傍画素位置の相対位置の確定とアルゴリズム的に結合される。
復元される画像の各画素に対し、類似性関数は、関連画素の近傍が選択された後に適用される。
アルゴリズム的結合の結果として、選択された近傍内の強度値間の統計的依存性は、より確実に推定される。
一実施形態では、類似性関数は、相対位置の確定によって乗算される係数を定める。
この実施形態では、絶対的な測光的非類似性が小さい場合は「1」に近接する係数を返し、測光的非類似性が増大するにしたがって「0」に向かう。
このため、類似性関数は、強度が低速に変化する画像領域にはほとんど影響を与えないが、画像内の高コントラスト遷移の周囲ではアーティファクトを抑止する。
【0016】
デモザイク処理プロセスを、緑色画像平面、赤色画像平面および青色画像平面等、複数の単色画像平面を形成するものとみなしてもよい。
一実施形態では、各出力画像平面は、オリジナルモザイクパターンと同数の画素を有し、各画素は強度値を有する。
このため、各画素位置には3つの強度値(すなわち、各単色画像に対して1つの強度値)が割当てられ、各強度値は、画素位置の選択された他の画素位置に対する相対位置と、選択された画素位置の強度値に対する測光的類似性とに基づく。
ウィンドウの位置および向きが強度に影響を受けないため、選択された画素位置は、略中心として特定の画素位置を有する所与のサイズのウィンドウ内に含まれるものである。
なお、本発明の実施に対してウィンドウの形状は重要ではない。
【0017】
本発明を実施するシステムは、センサが色特定であるセンサの2次元アレイを含む。
重要ではないが、センサをベイヤーパターンに配置してもよい。
センサアレイには、モザイクパターンを表すフォーマットで信号を受取る入力が接続される。
デモザイク処理プロセスソフトウェア/ハードウェアは、オリジナルモザイクパターンの別個の画素位置の各々において異なる色の各々の強度値を生成することができる。
デモザイク処理能力は、モザイクパターンの空間情報にアクセスし、強度値が画素位置の相対位置とスペクトル情報の測光的類似性との両方に基づいて生成されるようにスペクトル情報を処理するように構成される、バイラテラルフィルタを有する。
一実施形態では、デモザイク処理能力はまた、モザイクパターン内の第1の画素位置と第2の画素位置との相対位置の計算に応答する第1の入力を有し、また第1の画素位置と第2の画素位置とに含まれるスペクトル情報間の測光的類似性の計算に応答する第2の入力を有する、乗算器も有する。
モザイクパターンがベイヤーパターンである実施形態の場合、適応係数を有する12の格納された畳み込みカーネルが利用される。
【発明の効果】
【0018】
本発明の利点は、ウィーナ(Wiener)フィルタ等の既知の線形復元フィルタを、遷移およびテクスチャの影響を受けるように変更することができる、ということである。
適応的であることに加えて、バイラテラルフィルタリングを有するデモザイク処理は、反復を必要としない。
これは、補間が発生することができる前に急峻な強度(色または輝度)のエッジを特定しなければならないシステムとは対照的である。
プロセスを、わずかな量の計算オーバヘッドを追加するのみで空間可変となるようにすることにより、遷移およびテクスチャの影響を受けるようにすることができる。
デモザイク処理においてアーティファクトを「補正」するためにバイラテラルフィルタリングを適用することを、実質的にアーティファクトがない画像の復元において鮮鋭性を向上させるためにデジタルカメラ等のアプリケーションで使用することができる。
【発明を実施するための最良の形態】
【0019】
図1を参照すると、画像センサアレイ10は、ベイヤーパターンと呼ばれる配置に従うモザイクパターンによって表される。
センサアレイは、複数の別個の色特定検出器を使用してそのサンプルを獲得するカラーサンプリングデバイスである。
アレイは、1500列および1500行を有してもよいが、MおよびNの値は本発明には重要ではない。
【0020】
センサアレイ10を使用して取込まれる画像を、4つの入力画像平面12、14、16および18に分解されていると考えてもよい。
各入力画像平面は2つの条件を満たす。
第1に、平面は、水平および垂直サンプリング間隔内に同数のサンプルを有する。
第2に、複数の画像平面が同じ色特性を有することができるが、所与の入力画像平面のサンプルのすべてが同一の色特性を有していなければならない。
たとえば、画像平面12および18は、文字「G」で示すように緑色サンプルを含む。
画像平面14は、文字「B」で示すように青色に特有のサンプルのすべてを含み、一方画像平面16は、文字「R」で示すようにセンサアレイ10からの赤色サンプルのすべてを含む。
例示する実施形態はベイヤーパターンを示すが、いかなる規則的なサンプリング格子を図1に示す画像平面のセットに分解することも可能である。
【0021】
図1において、合計3つの異なる色(Pt=3)があり、画素の2×2近傍内に4つのあり得る色配置(Ps=4)がある。
あり得る色配置の数は、4つのイメージング平面12、14、16および18で一貫している。
この例示する実施形態では、デモザイク処理は、12の畳み込みカーネル(Ps×Pt=12)を利用する。
12の畳み込みカーネルは、入力画像平面のいずれが、補間が発生する可動近傍の現中心にある画素に対するサンプルを含むかに基づき、および、いずれの単色出力平面20、22および24が目下構成されているかに基づき、選択される。
各単色出力平面は、入力画像平面12、14、16および18の強度値から導出される補間された強度値を含む。
出力強度値を導出する技法は、本技術分野において既知である。
たとえば、線形補間を使用してもよい。
しかしながら、一実施形態では、Generalized Image Demosaicing and Enhancement(GIDE)手法を使用する。
この手法では、畳み込みカーネルを生成する際に、捕捉装置(たとえば、センサアレイ10用の集光光学系)のシーン統計量と物理的特性とが考慮される。
【0022】
単色出力平面20、22および24の強度値を導出する既知の手法の問題は、出力平面から形成される最終画像に、アーティファクトがしばしば導入される、ということである。
特に、アーティファクトは、取込まれた画像内の急峻な強度遷移の結果として導入されることが多い。
ここで図2を参照すると、センサアレイ10を横切る距離の関数としての強度のグラフが、平坦域30の両側に2つの急峻な遷移26および28を含むものとして示されている。
図2に示す反応は、平坦域30に対応する画素が光源をイメージングし、平坦域の両側の画素が暗い領域をイメージングする場合に、発生する可能性がある。
図2の反応の平坦領域は平滑ではないが、その理由は、イメージング信号を取込む際に幾分かの雑音が生成されるためである。
【0023】
1つのアーティファクト源は、双線形補間を参照する場合にもっとも明確に理解される。
上述したように、双線形補間は、画素値を、同じ色のセンサの近傍の画素値に基づかせる。
例として、図1の赤色画像平面16内の画素の場合、補間ステップにおいて同じ画像平面の画素値のみが考慮される。
ベイヤーパターンが赤色画素と青色画素との交互の行を有するため、復元された画像において急峻な強度遷移のエッジが近接して見える場合、対角線状に延在する急峻な強度遷移は、モザイクパターンの容易に検出可能な残存物を有する。
この残存物は、遷移に沿った交互の赤色画素と青色画素との対角線パターンとして現れる。
【0024】
第2のアーティファクト源を、図2および図3を参照して説明する。
図1のセンサアレイ10によって取込まれるような、図2の急峻な遷移26および28は、単色出力平面20、22および24の強度値が補間に対する単純な平均化手法を使用して確定される場合にぼやける。
たとえば、急峻な遷移26より前の補間された強度値は、画素の少なくともいくつかが平坦域30に対応する強度値によって平均化されるため、不正確に高いように確定されることになる。
同様に、平坦域30の初期強度値は、急峻な遷移26の直前の画素で平均化されるため不正確に低くなる。
急峻な下方への遷移28において、同様な「平滑化」が発生する。
結果としての応答32を、図3に表す。
かかる応答は、デモザイク処理が線形フィルタリングとともに使用される場合に発生する可能性が最も高い。
【0025】
GIDE手法と他の補間手法とは、この「平滑化」問題を、別のタイプのカラーアーティファクトを提示する方法で対処する。
このアーティファクトを、「過鮮鋭化(oversharpening)」と呼んでもよい。
また図2および図3を参照すると、単純な平均化によってもたらされる誤差を克服するために急峻な遷移26に先立つ画素を「低下させ(depressed)」てもよい。
同様に、平均化問題を克服するために、急峻な遷移26のすぐ後に続く画素を上昇させてもよい。
しかしながら、過補償が発生することが多く、そのため急峻な遷移の直前の画素に低すぎる値が割当てられ、遷移の直後の画素に、統計的に高すぎる値が割当てられることになる。
応答における同様の上昇および下降のハンプは、第2の急峻な遷移28の両側において反対の順序ではあるが発生する。
【0026】
本発明によれば、バイラテラルフィルタリングのフレームワークにデモザイク処理畳み込みカーネルを組込むことにより、アーティファクトが回避される。
このため、強度値を補間するための基礎として相対位置を利用することに加えて、測光的類似性が考慮される。
図4を参照すると、バイラテラルフィルタリングの使用により、平坦域30の両側における急峻な遷移26および28が保存される。
したがって、プロセスにより、より鮮鋭な最終画像がレンダリングされる。
雑音除去(デモザイク処理とは対照的に)を実行するためにかかるフィルタリングを使用することは、C. TomasiおよびR. Manduchiにより、「Bilateral Filtering for Gray and Color Images」、Proceedings of the 1998 IEEE International Conference on Computer Vision, Bombay, Indiaと題された出版物において説明されている。
【0027】
本明細書で使用する「相対位置」は、強度値が考慮されている2つの画素の座標を考慮することを言う。
図1を参照すると、第1の画素i,jの第2の画素a,bに対する相対位置を、単純に座標i−a,j−bに基づいて確定してもよい。
デモザイク処理操作において、「可動」ウィンドウが使用され、強度値が補間されている画素i,jは略中心に位置し、近傍における他の画素(ξ)の各々の強度値と比較される。
本発明によれば、ウィンドウの形状は重要ではなく、可動ウィンドウの位置および向きは、急峻な遷移の影響を受けない。
すなわち、所与の画素のウィンドウは強度の影響を受けない。
【0028】
本明細書で使用する「測光的類似性」とは、2つの画素値が量的に類似している程度を言う。
図2を参照すると、急峻な上方の遷移26より前の領域の画素値は、測光的に類似している。
同様に、平坦域30に位置合せされた画素の強度値は、測光的に類似している。
しかしながら、急峻な遷移26の両側の画素の強度値は、測光的に類似していない。
【0029】
バイラテラルフィルタリングのフレームワークに線形補間畳み込みカーネルを組込むことにより、図1のセンサアレイ10によって取込まれた入力画像Iのすべての画素位置(i,j)に対して、以下の式に従ってフィルタリングされた出力h(i,j)が返される。
【0030】
【数1】
【0031】
ここで、k(・,・)は、相対位置を考慮する事前定義された2次元空間カーネルであり、s(・)は、測光的類似性を組込む事前定義された1次元類似性関数である。
このため、k(i−a,j−b)は、画素位置(i,j)と近くの画素位置(a,b)との間の相対位置に応答し、一方s[I(i,j)−I(a,b)]は、位置(i,j)および(a,b)における強度値が類似する程度に応答する。
一実施形態では、空間カーネルはGIDEによって確定され、それによりバイラテラルフィルタリングへの組込みを、BiGIDEと呼んでもよい。
しかしながら、他のデモザイク処理カーネルを使用してもよい。
【0032】
式1を使用する実施形態は利点を有するが、バイラテラルフィルタリングのフレームワークに畳み込みカーネルを組込む他のアルゴリズムを使用してもよい。
しかしながら、式1が使用される場合、絶対非類似性値が小さい場合は「1」に近い値を返し、測光的非類似性が増大するにしたがい「0」に向かう値を返す、類似性関数に対して特に関心が持たれている。
たとえば、図2では、平坦域30に沿った強度値が測光的に類似しており、そのため、類似性関数は「1」かまたはそれに近い値を返す。
一方、急峻な遷移26の両側の強度値は測光的に非類似であり、そのため類似性関数は、実質的に「0」により近い値を返す。
その最も単純な形態において、類似性関数はガウスであってもよく、「1」の頂点は、2つの強度値が同一であるという確定に対応する。
この場合、類似性関数は、強度値が低速でのみ変化する画像領域のデモザイク処理ではわずかな役割しか果たさないが、画像の高コントラスト領域では、アーティファクトの混和を低減するように作用する。
【0033】
図5は、バイラテラルフィルタリングなしに線形畳み込みによりデモザイク処理を可能にする、従来技術による構成を示す。
図1の単色出力平面20、22および24のうちの1つを形成するための値を累算するために、加算デバイス34を使用する。
加算デバイスは、センサアレイ10の各座標位置i,jに対してC個の値を出力する。
ここでCは、出力画像プロセスにおける色平面の望ましい数である。
各出力色平面は、1からCまでの範囲である整数値をとる、記号cによってインデックス付けされる。
通常は、Cは3に等しい。
各出力値に対し、加算デバイスは、略中心に画素i,jを有する可動ウィンドウ内に位置する、センサアレイ10の画素a,bの各々に対する入力を受取る。
利用される適当な畳み込みカーネル(k)の選択は、出力の位置pと色cとによって決まる。
図1の実施形態では、上述したように12の畳み込みカーネルkp,cがあることになる。
【0034】
図5の従来技術によるアプリケーションは、hc(i,j)の値を確定する際に使用される乗算器36を含む。
略中心に画素i,jを有するウィンドウ内の画素の各々における強度値は、適当なカーネルkp,cからの結果によって乗算される。
この結果は、相対的な位置決めに応答する。
このプロセスは、単色出力平面22の各画素に対して繰返し、また図1の他の2つの単色出力平面20および24を形成する際にも繰返す。
【0035】
カーネルkp,cから乗算器36に入力を提供する際に相対位置は考慮されるが、測光的類似性は考慮されない。
ここで図6を参照すると、本発明は、差分回路38と類似性関数デバイス40とを追加することにより、システムが、略中心に画素i,jを有する近傍を画定する可動ウィンドウ内における相対位置と測光的類似性との両方に応答する、補間された強度値hc(i,j)の確定を行うようにする。
差分回路38は、画素i,jの強度値と近傍内の画素a,bにおける強度値との測光的「距離」を確定する。
これは、略中心に画素i,jを有する近傍内の各画素に対して逐次発生する。
【0036】
差分回路38の出力は、類似性関数デバイス40によって受取られる測光的距離である。
一実施形態では、デバイス40によって使用される類似性関数はガウスであり、「1」の頂点は、画素i,jと画素a,bとにおける強度値が同一であるという判断の結果として出力される。
しかしながら、類似性関数デバイスの出力は、差分回路38の出力の絶対値が増大するにしたがい「0」に向かう傾向がある。
【0037】
乗算器42は、測光的類似性に応答する類似性関数デバイス40からの第1の入力を有し、画素i,jおよびa,bの相対位置に応答する第2の入力を有する。
この第2の入力は、図5に関して説明したものと同一であってもよい。
類似性関数デバイス40が「1」の出力を有する場合(すなわち、画素i,jにおける強度が画素a,bにおける強度と等しい場合)、加算デバイス34への入力は、図5に関して説明した入力と同一となる。
一方、2つの画素における強度値が測光的に「遠い」場合、2つの画素の物理的近接は、従来技術による構成より影響を及ぼさない。
【0038】
図6の実施形態は正規化を利用する。
このため、この実施形態は式1の特徴のすべてを組込む。
その理由は、式1の分母が、正規化を達成するように設計されているためである。
乗算器の出力は、乗算器36と第2の加算デバイス43とに向けられる。
式1の分母は、第2の加算デバイス43の出力であり、一方分子は、第1の加算デバイス34の出力である。
除算器45は、加算デバイスの2つの出力を受取り、hc(i,j)を計算する。
正規化は本発明に重要ではなく、そのため、第2の加算デバイスと除算器とを除去することができる。
図6において、各種コンポーネントを、コンピュータソフトウェアで(たとえば、アプリケーションプログラムの異なるモジュールで)、ハードウェアで、またはソフトウェアとハードウェアとの組合せで実施してもよい。
【0039】
図7は、本発明の第2実施形態を示す。
このシステム44では、図5で説明したものなどの畳み込みシステムを使用して、事前デモザイク処理された画像
【数2】
が生成され、その値は、差分モジュール38への入力として選択的に使用される。
このため、画像の事前デモザイク処理が、色特定値を提供するために発生する。
3つの色平面が形成されている場合、畳み込みシステムは、各画素に対して3つの異なる強度値を提供する。
差分モジュール38への入力として選択される
【数3】
の色成分は、エントリI(a,b)のものと同じモザイク色であり、m(a,b)と指定される。
選択された色成分は、
【数4】
と指定される。
このため、たとえば、モザイク画像における画素(a,b)が赤色(m(a,b)=赤色)である場合、
【数5】
の赤色成分が考慮される。
残りの操作は、図6に関して説明したものと同一である。
【産業上の利用可能性】
【0040】
本発明は、画像情報の操作のために利用可能である。
【図面の簡単な説明】
【0041】
【図1】本発明の一実施形態によるデモザイク処理操作の概略描写である。
【図2】強度測度がフィルタリングされていない、図1の出力平面のうちの1つにわたる距離の関数としての強度のプロットである。
【図3】強度の同じ測定のプロットであるが、従来技術によるフィルタリングがなされているもののプロットである。
【図4】図2と同じ強度のプロットであるが、本発明によるバイラテラルフィルタリングがなされているプロットである。
【図5】従来技術によるデモザイク処理システムの選択されたコンポーネントの概略図である。
【図6】本発明によるバイラテラルフィルタリングを有するデモザイク処理システムの一実施形態の選択されたコンポーネントの概略図である。
【図7】本発明によるバイラテラルフィルタリングを有するデモザイク処理システムの第2実施形態の概略図である。
【符号の説明】
【0042】
10・・・画像センサアレイ、
12〜18・・・画像平面、
20〜24・・・単色出力平面、
16,28・・・遷移、
30・・・平坦域、
32・・・応答、
36・・・乗算器、
38・・・差分回路、
40・・・類似性関数デバイス、
43・・・加算デバイス、
45・・・除算器、
44・・・システム、
Claims (10)
- 画像情報を操作する方法であって、
画素位置のモザイクパターンから捕捉される強度値(10)として前記画像情報を受取るステップであって、前記画素位置のモザイクパターンにおいて、前記モザイクパターンの異なる画素位置が異なる色に特有である、受け取るステップと、
前記モザイクパターンの前記画素位置に対し複数の色を表す補間された強度値(20、22および24)を確定することにより前記画像情報をデモザイク処理するステップであって、
補間された強度値(hci,j)の各確定が、特定の前記画素位置(i,j)に特有であり、かつ、近傍の画素位置(a,b)を選択するステップであって、該選択が、前記画素位置の相対位置に基づき、前記近傍内の前記画素位置に対する前記強度値(I(a,b))の測光的類似性とは無関係である、選択するステップと、
前記補間された強度値の前記確定を、前記近傍内の前記画素位置の相対位置と該近傍内の該画素位置に対する前記強度値の前記測光的類似性(40)との両方に基づかせるステップと
を含むデモザイク処理するステップと
を含む方法。 - デモザイク処理する前記ステップは、
少なくともPs×Ptの異なる畳み込みカーネル(kp,c)を利用すること
を含み、
Psは、所与のサイズのウィンドウ内の、該ウィンドウが前記モザイクパターン内で操作される際のあり得る色配置の数であり、
Ptは、前記モザイクパターンにおける前記異なる色の数であり、
PsとPtとの各々は1より大きい
請求項1記載の画像情報を操作する方法。 - 前記画像情報を受取る前記ステップは、
Ps=4であるモザイクパターン内の3つの色(Pt=3)の強度を表すデータ(10)を受取ること
を含む
請求項2記載の画像情報を操作する方法。 - 前記画像情報を受取る前記ステップは、
前記モザイクパターンがパターン
R G R G
G B G B
R G R G
G B G B
の拡張である、画素センサのアレイ(10)を利用すること
を含む
請求項2記載の画像情報を操作する方法。 - 前記補間された強度値(hc(i,j))の前記確定を相対位置と測光的類似性との両方に基づかせる前記ステップは、
前記近傍内の前記画素位置(a,b)の強度値(I(a,b))間の前記測光的類似性を示す類似性関数(40)を適用すること
を含み、該類似性関数は、前記相対位置の確定とアルゴリズム的に結合されることにより、前記補間された強度値を確定する
請求項1記載の画像情報を操作する方法。 - 前記補間された強度値(hc(i,j))の前記確定を相対位置と前記測光的類似性(40)との両方に基づかせる前記ステップは、
前記近傍における互いの画素位置(a,b)に関する前記特定画素位置(i,j)の相対位置と、
前記近傍における互いの画素位置に関する前記特定画素位置の前記測光的類似性と、
前記相対位置と前記測光的類似性との前記確定に応答する補間された強度値と、
を確定することと
を含む
請求項1記載の画像情報を操作する方法。 - 画像情報を操作するシステムであって、
モザイクパターンを表すフォーマットの2次元アレイセンサ(10)からの入力であって、異なる色に関連するスペクトル情報が前記モザイクパターンの別個の画素位置(i,j)に格納される、入力と、
前記別個の画素位置の各々において前記異なる色の各々に対する強度値(hc(i,j))を生成することが可能なデモザイク処理であって、前記モザイクパターンの前記スペクトル情報のセットにアクセスし、前記スペクトル情報のセットの各々を、当該デモザイク処理によって生成される前記強度値が前記各セットに関連する画素位置の相対位置と前記各セット内のスペクトル情報の測光的類似性との両方に基づくように処理するよう構成される、バイラテラルフィルタ(38、40、42)を含む、デモザイク処理と、
を具備するシステム。 - 前記デモザイク処理は、
前記各セットに関連する第1の画素位置と第2の画素位置との相対位置に応答する第1の入力
を備え、
前記第1および第2の画素位置のスペクトル情報の前記測度的類似性に応答する第2の入力(40)を有する、乗算器(42)
を含む
請求項7記載の画像情報を操作するシステム。 - 前記バイラテラルフィルタは、前記測光的類似性(40)の点から類似性関数を適用するように構成され、
該類似性関数は、スペクトル情報の非類似性によりゼロに向かって減衰する係数を提供する
請求項7記載の画像情報を操作するシステム。 - 前記デモザイク処理は、
前記モザイクパターン(10)の前記スペクトル情報から前記強度値hc(i,j)を導出する少なくともPs×Ptの畳み込みカーネル
を含み、
Psは、所与のサイズのウィンドウ内の、該ウィンドウが前記モザイクパターン内で操作される際のあり得る色配置の数であり、
Ptは、前記モザイクパターンにおける前記異なる色の数であり、
前記PsとPtとの各々は1より大きい
請求項7記載の画像情報を操作するシステム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US09/814,672 US6816197B2 (en) | 2001-03-21 | 2001-03-21 | Bilateral filtering in a demosaicing process |
PCT/US2002/008555 WO2003009231A2 (en) | 2001-03-21 | 2002-03-20 | Bilateral filtering in a demosaicing process |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004536518A true JP2004536518A (ja) | 2004-12-02 |
Family
ID=25215694
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003514501A Pending JP2004536518A (ja) | 2001-03-21 | 2002-03-20 | デモザイク処理プロセスにおけるバイラテラルフィルタリング |
Country Status (5)
Country | Link |
---|---|
US (1) | US6816197B2 (ja) |
EP (1) | EP1371015B1 (ja) |
JP (1) | JP2004536518A (ja) |
DE (1) | DE60236581D1 (ja) |
WO (1) | WO2003009231A2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006068025A1 (ja) * | 2004-12-20 | 2006-06-29 | Nikon Corporation | 画像処理方法 |
JP2007174276A (ja) * | 2005-12-22 | 2007-07-05 | Sony Corp | 画像信号処理装置、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム |
JP2014515587A (ja) * | 2011-06-01 | 2014-06-30 | ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティー | デジタル画像装置用の画像処理パイプラインの学習 |
Families Citing this family (53)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6989862B2 (en) * | 2001-08-23 | 2006-01-24 | Agilent Technologies, Inc. | System and method for concurrently demosaicing and resizing raw data images |
JP4451044B2 (ja) * | 2002-02-21 | 2010-04-14 | 株式会社メガチップス | 混成画素補間装置および混成画素補間方法 |
US20030169353A1 (en) * | 2002-03-11 | 2003-09-11 | Renato Keshet | Method and apparatus for processing sensor images |
JP3947969B2 (ja) * | 2002-05-15 | 2007-07-25 | ソニー株式会社 | 画像処理装置、および画像処理方法、記録媒体、並びにプログラム |
US7269295B2 (en) * | 2003-07-31 | 2007-09-11 | Hewlett-Packard Development Company, L.P. | Digital image processing methods, digital image devices, and articles of manufacture |
US7430334B2 (en) * | 2003-07-31 | 2008-09-30 | Hewlett Packard Development Company, L.P. | Digital imaging systems, articles of manufacture, and digital image processing methods |
US7324704B2 (en) * | 2003-09-11 | 2008-01-29 | Primax Electronics Ltd. | Method of repairing scratches in digital images |
US7440016B2 (en) * | 2003-12-22 | 2008-10-21 | Hewlett-Packard Development Company, L.P. | Method of processing a digital image |
US7720303B2 (en) * | 2004-04-28 | 2010-05-18 | Hewlett-Packard Development Company, L.P. | Polynomial approximation based image filter methods, systems, and machine-readable media |
US7388987B2 (en) * | 2004-05-28 | 2008-06-17 | Hewlett-Packard Development Company, L.P. | Computing dissimilarity measures |
US7124957B2 (en) * | 2004-11-24 | 2006-10-24 | Optoelectronics Co., Ltd. | Apparatus for reading a color symbol |
US7412107B2 (en) * | 2004-12-17 | 2008-08-12 | The Regents Of The University Of California, Santa Cruz | System and method for robust multi-frame demosaicing and color super-resolution |
US7653240B1 (en) * | 2005-04-22 | 2010-01-26 | Texas Instruments Incorporated | Color filter array and method |
US20070058050A1 (en) * | 2005-09-12 | 2007-03-15 | Manuel Innocent | Reconstructing a full color image from an image encoded by a bayer pattern |
US7512677B2 (en) * | 2005-10-20 | 2009-03-31 | Uplogix, Inc. | Non-centralized network device management using console communications system and method |
US7783121B1 (en) | 2005-11-29 | 2010-08-24 | Adobe Systems Incorporated | Method and apparatus for applying a filter to an image with a large range of pixel values |
US20070133902A1 (en) * | 2005-12-13 | 2007-06-14 | Portalplayer, Inc. | Method and circuit for integrated de-mosaicing and downscaling preferably with edge adaptive interpolation and color correlation to reduce aliasing artifacts |
US8005297B2 (en) * | 2006-01-18 | 2011-08-23 | Qualcomm Incorporated | Method and apparatus for adaptive and self-calibrated sensor green channel gain balancing |
US20080123997A1 (en) * | 2006-11-29 | 2008-05-29 | Adams James E | Providing a desired resolution color image |
US8832290B2 (en) * | 2007-02-23 | 2014-09-09 | Microsoft Corporation | Smart pre-fetching for peer assisted on-demand media |
US8594451B2 (en) * | 2007-03-30 | 2013-11-26 | Omnivision Technologies, Inc. | Edge mapping incorporating panchromatic pixels |
US7889949B2 (en) * | 2007-04-30 | 2011-02-15 | Microsoft Corporation | Joint bilateral upsampling |
US7825965B2 (en) * | 2007-09-07 | 2010-11-02 | Seiko Epson Corporation | Method and apparatus for interpolating missing colors in a color filter array |
US8630507B2 (en) | 2007-09-14 | 2014-01-14 | Entropic Communications Inc. | Image data processing and arrangements therefor |
US8212837B1 (en) * | 2007-10-02 | 2012-07-03 | Grandeye, Ltd. | Color processing pipelines generating a lower color bit-depth image compared to an unprocessed image from a wide-angle camera |
US20090092338A1 (en) * | 2007-10-05 | 2009-04-09 | Jeffrey Matthew Achong | Method And Apparatus For Determining The Direction of Color Dependency Interpolating In Order To Generate Missing Colors In A Color Filter Array |
US8135237B2 (en) * | 2008-02-25 | 2012-03-13 | Aptina Imaging Corporation | Apparatuses and methods for noise reduction |
US8229212B2 (en) * | 2008-04-08 | 2012-07-24 | Qualcomm Incorporated | Interpolation system and method |
EP2164268A1 (en) * | 2008-09-15 | 2010-03-17 | Telefonaktiebolaget LM Ericsson (PUBL) | Image processing for aberration correction |
US8165394B2 (en) * | 2008-09-18 | 2012-04-24 | Microsoft Corporation | Reconstruction of image in a Bayer pattern |
US8189080B2 (en) * | 2009-04-03 | 2012-05-29 | Sony Corporation | Orientation-based approach for forming a demosaiced image, and for color correcting and zooming the demosaiced image |
US8463035B2 (en) * | 2009-05-28 | 2013-06-11 | Gentex Corporation | Digital image processing for calculating a missing color value |
US8428385B2 (en) * | 2009-06-24 | 2013-04-23 | Flir Systems, Inc. | Non-uniformity error correction with a bilateral filter |
US20110055367A1 (en) * | 2009-08-28 | 2011-03-03 | Dollar James E | Serial port forwarding over secure shell for secure remote management of networked devices |
US20110055899A1 (en) * | 2009-08-28 | 2011-03-03 | Uplogix, Inc. | Secure remote management of network devices with local processing and secure shell for remote distribution of information |
US8724928B2 (en) | 2009-08-31 | 2014-05-13 | Intellectual Ventures Fund 83 Llc | Using captured high and low resolution images |
US8285033B2 (en) * | 2010-04-01 | 2012-10-09 | Seiko Epson Corporation | Bi-affinity filter: a bilateral type filter for color images |
US8160380B2 (en) | 2010-07-08 | 2012-04-17 | Seiko Epson Corporation | Bi-affinity filter: A bilateral type filter for color images |
US8417047B2 (en) * | 2011-03-01 | 2013-04-09 | Microsoft Corporation | Noise suppression in low light images |
KR101248808B1 (ko) * | 2011-06-03 | 2013-04-01 | 주식회사 동부하이텍 | 경계 영역의 잡음 제거 장치 및 방법 |
US9769430B1 (en) | 2011-06-23 | 2017-09-19 | Gentex Corporation | Imager system with median filter and method thereof |
US9041838B2 (en) | 2012-02-14 | 2015-05-26 | Gentex Corporation | High dynamic range imager system |
US20150022869A1 (en) * | 2013-07-17 | 2015-01-22 | Samsung Electronics Co., Ltd. | Demosaicing rgbz sensor |
US9875556B2 (en) * | 2015-08-17 | 2018-01-23 | Flir Systems, Inc. | Edge guided interpolation and sharpening |
EP3249604B1 (en) * | 2016-05-23 | 2019-06-26 | Sony Mobile Communications Inc | Methods, devices and computer program products for demosaicing an image captured by an image sensor comprising a color filter array |
US10366674B1 (en) * | 2016-12-27 | 2019-07-30 | Facebook Technologies, Llc | Display calibration in electronic displays |
US10638055B2 (en) * | 2018-01-15 | 2020-04-28 | Qualcomm Incorporated | Aperture simulation |
FR3078852B1 (fr) * | 2018-03-07 | 2020-04-03 | Centre National De La Recherche Scientifique (Cnrs) | Procede de reconstruction d'une image couleur acquise par un capteur recouvert d'une mosaique de filtres couleurs |
KR102179549B1 (ko) * | 2018-06-22 | 2020-11-17 | 재단법인 실감교류인체감응솔루션연구단 | 스테레오 카메라의 동기화 장치, 스테레오 카메라 및 스테레오 카메라의 동기화 방법 |
US10949953B2 (en) | 2019-03-13 | 2021-03-16 | Apple Inc. | Directional bilateral filtering of raw image data |
WO2021003594A1 (en) * | 2019-07-05 | 2021-01-14 | Baidu.Com Times Technology (Beijing) Co., Ltd. | Systems and methods for multispectral image demosaicking using deep panchromatic image guided residual interpolation |
KR20210017460A (ko) * | 2019-08-08 | 2021-02-17 | 에스케이하이닉스 주식회사 | 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템 |
CN113888405B (zh) * | 2021-08-23 | 2023-08-15 | 西安电子科技大学 | 基于分簇自适应膨胀卷积神经网络的去噪去马赛克方法 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4642678A (en) | 1984-09-10 | 1987-02-10 | Eastman Kodak Company | Signal processing method and apparatus for producing interpolated chrominance values in a sampled color image signal |
US5475769A (en) | 1992-07-13 | 1995-12-12 | Polaroid Corporation | Method and apparatus for recovering image data through the use of a color test pattern |
US5373322A (en) | 1993-06-30 | 1994-12-13 | Eastman Kodak Company | Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients |
US5382976A (en) | 1993-06-30 | 1995-01-17 | Eastman Kodak Company | Apparatus and method for adaptively interpolating a full color image utilizing luminance gradients |
US5828406A (en) | 1994-12-30 | 1998-10-27 | Eastman Kodak Company | Electronic camera having a processor for mapping image pixel signals into color display pixels |
US5506619A (en) | 1995-03-17 | 1996-04-09 | Eastman Kodak Company | Adaptive color plan interpolation in single sensor color electronic camera |
US5875040A (en) | 1995-12-04 | 1999-02-23 | Eastman Kodak Company | Gradient based method for providing values for unknown pixels in a digital image |
DE69924308T2 (de) * | 1998-01-20 | 2006-03-09 | Hewlett-Packard Development Co., L.P., Houston | Farbbildaufnahmegerät |
US7030917B2 (en) * | 1998-10-23 | 2006-04-18 | Hewlett-Packard Development Company, L.P. | Image demosaicing and enhancement system |
US6404918B1 (en) * | 1999-04-30 | 2002-06-11 | Hewlett-Packard Company | Image demosaicing method utilizing directional smoothing |
US20030193567A1 (en) * | 2002-04-12 | 2003-10-16 | Hubel Paul M. | Digital camera media scanning methods, digital image processing methods, digital camera media scanning systems, and digital imaging systems |
-
2001
- 2001-03-21 US US09/814,672 patent/US6816197B2/en not_active Expired - Lifetime
-
2002
- 2002-03-20 EP EP02775686A patent/EP1371015B1/en not_active Expired - Fee Related
- 2002-03-20 DE DE60236581T patent/DE60236581D1/de not_active Expired - Lifetime
- 2002-03-20 WO PCT/US2002/008555 patent/WO2003009231A2/en active Search and Examination
- 2002-03-20 JP JP2003514501A patent/JP2004536518A/ja active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006068025A1 (ja) * | 2004-12-20 | 2006-06-29 | Nikon Corporation | 画像処理方法 |
US7945111B2 (en) | 2004-12-20 | 2011-05-17 | Nikon Corporation | Image processing method for adaptively filtering image data |
JP5023702B2 (ja) * | 2004-12-20 | 2012-09-12 | 株式会社ニコン | 画像処理方法、画像処理プログラム、記録媒体及び画像処理装置 |
JP2007174276A (ja) * | 2005-12-22 | 2007-07-05 | Sony Corp | 画像信号処理装置、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム |
JP4501855B2 (ja) * | 2005-12-22 | 2010-07-14 | ソニー株式会社 | 画像信号処理装置、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム |
JP2014515587A (ja) * | 2011-06-01 | 2014-06-30 | ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティー | デジタル画像装置用の画像処理パイプラインの学習 |
Also Published As
Publication number | Publication date |
---|---|
EP1371015B1 (en) | 2010-06-02 |
WO2003009231A2 (en) | 2003-01-30 |
DE60236581D1 (de) | 2010-07-15 |
US20020186309A1 (en) | 2002-12-12 |
US6816197B2 (en) | 2004-11-09 |
EP1371015A2 (en) | 2003-12-17 |
WO2003009231A3 (en) | 2003-08-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2004536518A (ja) | デモザイク処理プロセスにおけるバイラテラルフィルタリング | |
EP2130175B1 (en) | Edge mapping incorporating panchromatic pixels | |
EP2130176B1 (en) | Edge mapping using panchromatic pixels | |
EP1038159B1 (en) | A new edge-detection based noise removal algorithm | |
US6618503B2 (en) | Image demosaicing method utilizing directional smoothing | |
US7486844B2 (en) | Color interpolation apparatus and color interpolation method utilizing edge indicators adjusted by stochastic adjustment factors to reconstruct missing colors for image pixels | |
TWI430202B (zh) | 使用全色像素之銳化方法 | |
US7305123B2 (en) | Color interpolation method of an image acquired by a digital sensor by directional filtering | |
US20080253678A1 (en) | Denoise method on image pyramid | |
CN113228628A (zh) | 用于转换非拜尔图案颜色滤波器阵列图像数据的***和方法 | |
Hore et al. | An edge-sensing generic demosaicing algorithm with application to image resampling | |
JP2001095001A (ja) | 画像のデモザイク方法 | |
JP2006135919A (ja) | カラー撮像画像データの補間方法およびプログラム | |
CN110430403A (zh) | 一种图像处理方法和装置 | |
Su et al. | Demosaicing of color images using pixel level data-dependent triangulation | |
Karch et al. | Robust super-resolution by fusion of interpolated frames for color and grayscale images | |
Guarnera et al. | Adaptive color demosaicing and false color removal | |
Chang et al. | Directionally weighted color interpolation for digital cameras | |
Asiq et al. | Efficient colour filter array demosaicking with prior error reduction | |
CN115018817A (zh) | 划痕检测方法、装置、电子设备和可读存储介质 | |
Yang et al. | Quality evaluation of color demosaicing according to image resolution | |
Ousguine et al. | A new image interpolation using laplacian operator | |
Jeong et al. | Edge-Adaptive Demosaicking for Reducing Artifact along Line Edge | |
Kim | Full channel color restoration approach using directional interpolation | |
KR20110035632A (ko) | 디지털 카메라에서 결여된 색상 성분을 복원하는 방법 및 그 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060816 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060904 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20061128 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20061205 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070725 |