JP6080190B2 - デモザイク化の方法 - Google Patents

デモザイク化の方法 Download PDF

Info

Publication number
JP6080190B2
JP6080190B2 JP2016542953A JP2016542953A JP6080190B2 JP 6080190 B2 JP6080190 B2 JP 6080190B2 JP 2016542953 A JP2016542953 A JP 2016542953A JP 2016542953 A JP2016542953 A JP 2016542953A JP 6080190 B2 JP6080190 B2 JP 6080190B2
Authority
JP
Japan
Prior art keywords
color
demosaicing
image
interpolation
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016542953A
Other languages
English (en)
Other versions
JP2017502598A (ja
Inventor
ジアン、カイガオ
カオ、ジシェン
ワン、ミンギュ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Publication of JP2017502598A publication Critical patent/JP2017502598A/ja
Application granted granted Critical
Publication of JP6080190B2 publication Critical patent/JP6080190B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • G06T2207/20032Median filtering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
    • H04N2209/046Colour interpolation to calculate the missing colour values

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本開示は、概ね撮像および画像処理に関し、より具体的には画像デモザイク化のためのシステムおよび方法に関するが、これに限定されない。
従来の複数のデジタルカメラは、複数の光イメージセンサアレイを用いることにより、複数の画像を得る。しかし、光がこれらのセンサアレイに入る前に、光は、まず、光の1つの波長のみがセンサアレイのいずれかの所定のセンサ画素に入ることを可能にするカラーフィルタアレイ(CFA)を通過する。これは、各画素が1つの色のみ、典型的には赤色、緑色、または青色を含むモザイク画像をもたらす。このモザイク画像をフルカラー画像に変換する処理は、「デモザイク化」と呼ばれる。
当技術分野において、様々なデモザイク化方法が存在する。しかし、これらの方法の多くは、色彩のエイリアス等の擬色アーティファクト、ジッパー効果(いくつかの隣接する画素上の強度における突然の不自然な変化)、パープルフリンジおよび画像解像度の損失を含む、変換画像における所望でない複数の効果をもたらす。
更に、最も通常の複数のデモザイク化方法は、高いノイズから低いノイズに渡る複数の画像に対して十分な画像変換を提供することができない。従って、そのような複数のデモザイク化方法は、様々な画像上で用いられるには十分に堅牢ではない。
他の従来の複数のデモザイク化方法は、大きな計算上の複雑性を有し、これは、所望でない緩慢な画像処理速度をもたらし、従来の携帯式カメラシステムにおいて利用可能なハードウェアおよび/またはソフトウェアを用いる高速処理ができない。
上記を考慮すると、従来の複数の画像デモザイク化システムおよび方法の前述した障害および欠陥の克服に努める場合に、改善された画像デモザイク化システムおよび方法に対する必要性が存在する。
レンズ、モザイク化フィルタ、センサアレイ、およびカメラデバイスを含む、デジタル画像を取り込むためのデジタルカメラシステムの一実施形態を図示する、例示的な図である。
補間デモザイク化によりトリプレットRGB画像データに変換される例示的なモザイク化済みRGB画像を図示する、例示的な図である。
モザイク化済みRGB画像の例示的な部分を図示する、例示的な図である。
デジタル画像を生成、処理、および提示するための方法のフローチャートである。
図3aにおいて図示される方法の一部である、モザイク化済みデジタル画像を取得するための下位方法のフローチャートである。
図3aにおいて図示される方法の一部である、画像を適合デモザイク化するための下位方法のフローチャートである。
図4において図示される方法の一部である、画像の適合デモザイク化のための下位方法のフローチャートである。
複数のデモザイク化済み画像のピーク信号対ノイズ比(PSNR)と比較される、複数のモザイク化済み画像の信号対ノイズ比(SNR)のグラフを図示する。
図6aのグラフにおいて図示される複数の結果の表を示す。
図面は縮尺通りに描かれず、類似の複数の構造または機能の要素は、図面を通して例示的目的のために同一の参照番号により概ね表されることに留意されたい。また、図面は、専ら好ましい実施形態の説明を容易にすることを意図することに留意されたい。図面は、説明される実施形態の全ての態様を図示せず、本開示の範囲を限定しない。
現在利用可能な複数のデモザイク化システムおよび方法は、最適な画像補間を提供できず、膨大なソフトウェアまたはハードウェアのオーバヘッドを必要とするので、高品質の画像処理を提供しつつ、様々な信号対ノイズ比(SNR)で動作し、最小の計算時間およびオーバヘッドを必要とする、改善された複数のデモザイク化システムおよび方法は、所望であることが明らかであり、デジタルカメラシステム等の広範なデジタル撮像用途のための基礎を提供し得る。この成果は、図1aにおいて図示されるデジタルカメラシステム100により、本明細書において開示される一実施形態に従って得られ得る。
図1aを参照すると、レンズ105、モザイク化フィルタ110、センサアレイ115、およびカメラデバイス120を含むデジタルRGBカメラシステム100が、抽象的に示される。カメラデバイス120は、センサアレイ115に動作可能に接続され、プロセッサ121(または処理モジュール)、メモリ122、およびディスプレイ123を備える。様々な実施形態において、RGBカメラシステム100は、好適なカメラハウジング(図示せず)内に配置され得る。
図1aにおいて図示されるように、光101は、レンズ105に入り、レンズ105は、光101をモザイク化フィルタ110に合焦する。モザイク化フィルタ110は、マトリックス内に配置された複数の半透明の赤色画素111R、緑色画素111G、および青色画素111Bを備え得る。光101は、モザイク化フィルタ110を通過し、受光済みの光をデジタル信号に変換する、複数の対応するセンサ画素116を有するセンサアレイ115に至る。センサアレイ115は、図1bにおいて図示されるモザイク化済みデジタル画像130を生成する。図1aに留まると、モザイク化フィルタ110は、複数の半透明の赤色画素111R、緑色画素111G、および青色画素111Bのパターンを含み、各センサ画素116が赤色光、青色光、または緑色光の値のみを記録するように、光の他の全ての波長を実質的に遮断する。
このモザイク化済みデジタル画像130は、本明細書において説明される補間により、従来のRGBトリプレット画像140に変換され得る。例えば、従来のRGB画像における各画素は、赤色、緑色、および青色の成分を含み、これらの成分は、可視光のフルスペクトルからの当該画素の色を定義するべく組み合わされる。従って、従来のRGBトリプレット画像140は、赤色部分141、緑色部分142、および青色部分143を備え、これらは、集合的にフルカラーRGB画像を規定する。
モザイク化済みデジタル画像130をRGBトリプレット画像140に変換するべく、補間処理により、不明の情報が追加され得る。別の様式で述べれば、モザイク化済みデジタル画像130は、形成されたときにRGBトリプレット画像140内に存在する全情報の3分の1を有するのみであり、従ってこの周囲の画素に基づいて値を推測することにより、不明情報が追加され得る。例えば、図1bに示されるように、モザイク化済みデジタル画像130は、9×9のアレイの画素を備え、各画素の値は、赤色の値、緑色の値、または青色値に対して知られている。
しかし、RGBトリプレット画像140に変換する場合、赤色部分141、緑色部分142、および青色部分143の各々に対する9×9画像が生成され得る。例えば、赤色部分141については、所定の画素位置に対する複数の赤色値の多くは、モザイク化済みデジタル画像130内に存在する値から、すでに141K(赤色部分141における任意の場所の「R」により示される画素141K)であると知られている。しかし、残余の画素値(赤色部分141の所定の場所におけるブランク画素により示される画素141I)は、赤色部分141の完全な9x9のアレイの赤色値が存在し得るように、補間され得る。同様に、そのような補間は、緑色部分142および青色部分143についても行われる。緑色部分142は、知られている画素142Kを含み、補間され得る、知られていない画素142Iを含む。青色部分143は、知られている画素143Kを含み、補間され得る、知られていない画素143Iを含む。
図1aおよび図1bは、モザイク化フィルタ110および取り込まれたモザイク化済みデジタル画像130を、ベイヤーフィルタパターン内にあるものとして図示し、全ての赤色111R、または青色画素111Bに対して2つの緑色画素111Gが存在し、R−Gのオフセットの交互に繰り返す複数の行、およびB−Gの交互に繰り返す複数の画素を有する。また、図2は、ベイヤーフィルタパターンを有するモザイク化済みデジタル画像を図示し、図2は、以下の開示を通して、様々な例においてより詳細に参照される。従来、そのようなベイヤーフィルタパターンは、デジタル撮像において使用される。しかし、いくつかの実施形態において、デモザイク化および/または補間の複数の方法は、様々な好適なパターン構成において、2またはこれより多い画素色を備える他の複数のフィルタパターンに適用され得る。例えば、いくつかの実施形態において、全ての緑色画素111G、または青色画素111Bに対して2つの赤色画素111Rが存在し、または4つの画素色が存在する(例えば、CMYK)画像を、フィルタを用いて取り込むことが所望であることがある。従って、本開示は、RGB撮像のみに限定されず、これに代えて様々な撮像方法、システム、およびプロトコルに適用され得る。
プロセッサ121、メモリ122、およびディスプレイ123を含む抽出デジタルRGBカメラシステム100が図示されるが、更なる複数の実施形態は、任意の好適なセットのコンポーネントを含み得、いくつかの実施形態において、プロセッサ121、メモリ122、および/またはディスプレイ123のいずれかは、複数であるか、または存在しないことがある。一実施形態において、メモリ122は、本明細書において説明される複数の方法のいずれかを実行するための複数の命令を格納し、本明細書において論じられる複数のデジタル画像130、140を格納し得る。ディスプレイ123は、複数のデジタル画像130、140を表示するように構成され、様々な実施形態において、液晶ディスプレイ(LCD)、発光ダイオード(LED)ディスプレイ、有機発光ダイード(OLED)ディスプレイ、デジタル光プロジェクション(DLP)ディスプレイ等を備え得る。
一眼レフ(SLR)レンズを用いる抽出デジタルRGBカメラシステム100が図示されるが、様々な実施形態において、ピンホールレンズ、生物学的レンズ、簡易な凸ガラスレンズ等を含む、任意の好適なレンズシステムが用いられ得る。更に、様々な実施形態による複数のレンズは、マクロレンズ、ズームレンズ、望遠レンズ、魚眼レンズ、広角レンズ等を含む、一定の複数の撮像特性を用いて構成され得る。
更に、デジタルRGBカメラシステム100は、可視スペクトル中の光を検出し、それから複数の画像を生成するべく用いられ得るが、いくつかの実施形態において、デジタルRGBカメラシステム100は、ガンマ線、X線、紫外線、赤外光、マイクロ波、電波等を含む、他の波長の光を検出するように適合され得る。更に、デジタルRGBカメラシステム100は、静止画、動画、および三次元画像等に適合され得る。従って、本開示は、本明細書において示され、説明される例示的なデジタルRGBカメラシステム100を限定するものと解釈されるべきではない。図3aは、一実施形態よる、デジタル画像を生成、処理、および提示するための方法300のフローチャートである。本方法は、下位方法305において開始し、モザイク化済み画像130(図1aに示される)が取得される。下位方法ブロック400において、モザイク化済み画像130は、RGBトリプレット画像140(図1bに示される)を生成するべくデモザイク化され、ブロック335において、このRGBトリプレット画像140は、格納される。ブロック340で、任意の好適なレンダリング等による、カメラデバイス120のディスプレイ123の表現、またはその他の好適なディスプレイもしくはスクリーンの表現を備え得る、デモザイク化済み画像が提示される。
図3bは、モザイク化済みデジタル画像130を生成するための下位方法305Aのフローチャートである。方法300Aは、ブロック310において開始し、光101(図1aに示される)は、レンズ105(図1aに示される)を通して受光され得る。ブロック315において、光101は、モザイク化フィルタ110(図1aに示される)を通して受光され、ブロック320において、光101は、イメージセンサアレイ115(図1aに示される)において受光される。ブロック325において、モザイク化済み画像130が、生成および格納される。例えば、モザイク化済み画像130は、メモリ122内に格納され、メモリ122は、バッファまたは他の好適なメモリデバイスを含み得る。更なる複数の実施形態において、モザイク化済み画像130を取得するための様々な他の好適な方法300が存在し得る。例えば、モザイク化済み画像130は、メモリから取得され、インターネットからダウンロードされ、サーバ等から受信され得る。
図4は、画像をデモザイク化するための下位方法400Aのフローチャートである。下位方法400Aは、図3aにおいて下位方法ブロック400として図示される。方法400Aは、ブロック410において開始し、ノイズレベルインデックスが取得される。様々な実施形態において、ノイズレベルインデックスは、デジタルカメラのISO(スイス国ジュネーブ市の国際標準化機構)感度値、複数のカメラ自動利得制御(AGC)インデックス、カメラデジタル利得制御(DGC)インデックス等の全体性に基づいて算出される、外的パラメータであり得る。
判断ブロック420において、ノイズレベルインデックスが閾値よりも大きいか否かが、判断される。いくつかの実施形態において、そのような閾値は、特定のハードウェアおよび複数の設定構成に基づいて、手動で判断され得る。例えば、ユーザは、複数の異なるノイズレベルを有する複数の画像を用いてデジタルカメラの所定の構成を試験し、双線形デモザイク化が適合デモザイク化よりも好ましい閾値を視覚的または分析的に判断し、1つのデモザイク化方法が別のものに対して選択される閾値レベルを設定し得る。いくつかの実施形態において、最適な閾値は、所定のカメラにおける集団定性実験および集団計量実験により算出され得る。例えば、判断された1つの最適な閾値は、0.76になり得る。
ノイズレベルが閾値よりも大きい場合、下位方法400Aは、適合デモザイク化が実行される下位方法ブロック500まで継続する。そのような方法500の一例は、本明細書において、図5に関連して更に詳細に示され、説明される。しかし、ノイズレベルが閾値よりも小さい場合、方法400Aは、双線形デモザイク化が実行されるブロック430まで継続する。
双線形デモザイク化は、任意の好適な様式で実行され得る。例えば、一実施形態において、双線形デモザイク化は、他の複数の色の色強度を取得するべく、複数の隣接する画素との相関関係を用いる。再び図2を参照すると、位置Rにおいて緑色色値を取得するべく、鉛直方向および/または水平方向の複数の最近傍に存在する複数の緑色画素値に依存する、以下の補間方法が用いられ得る。
Figure 0006080190
例えば、3つのカラーチャネルR、G、Bが複数の相関関係を有し、複数の隣接する画素強度が多くの場合、円滑に変化することを考慮して、補間は、周囲の複数の値に基づき得る。従って、水平方向の勾配
Figure 0006080190
および鉛直方向の勾配
Figure 0006080190
の算出は、補間方向を選択するべく用いられ得る。例えば、図2の画素Rは、これらの異なる複数の方向の異なる傾きを有し得る。
Figure 0006080190
Figure 0006080190
上述の実施形態において、
Figure 0006080190
の場合、複数の鉛直方向の補間値が選択され得る。例えば、図2を参照すると、Rにおける緑色値は、鉛直方向の複数の最近傍値を平均し、または(G+G)/2を算出することにより、鉛直方向の補間を用いて算出され得る。
他方、
Figure 0006080190
の場合、複数の水平方向の補間値が選択され得る。例えば、図2を参照すると、Rにおける複数の緑色値は、水平方向の複数の最近傍値を平均し、または(G+G)/2を算出することにより、水平方向の補間を用いて算出され得る。
しかし、
Figure 0006080190
の場合、4つの最近傍値は、平均され、補間値として用いられ得る。例えば、図2を参照すると、4つの最近傍値は、(G+G+G+G)/4を算出することにより、Rにおける緑色値を取得するべく、平均され得る。
図5は、図4において図示される方法の一部である、画像の適合デモザイク化のための下位方法500のフローチャートである。下位方法500は、ループブロック505において、全ての画素位置130(図1bを参照されたい)に対して開始する。ブロック510において、所定の画素位置130の知られた色に基づいて、当該画素位置に対するΔVおよびΔHの値が判断され、ブロック515において、画素位置130に対する補間方向が選択される。
例えば、図2を参照すると、知られた赤色画素位置RのΔVおよびΔHの値の計算は、次式のように実行され得る。
ΔH=|(R+R)/2−R)|
ΔV=|(R+R)/2−R)|
各画素のΔVおよびΔHの値の取得は、水平方向または鉛直方向の補間が用いられるべきであるか否かを判断するべく用いられ得る。例えば、いくつかの実施形態において、ΔH>ΔVの場合、水平方向の補間が選択されるべきであると判断される。他方、ΔH<ΔVの場合、鉛直方向の補間が選択されるべきであると判断される。 ΔH=ΔVの場合、任意の選択が行われ、または値を取得するべく、4つの最近傍値は平均され得る。
更なる複数の実施形態において、鉛直方向または水平方向の補間を用いるか否かを判断する他の好適な複数の方法が用いられ、そのような複数の方法は、簡易であるか、または複雑になり得る。例えば、上記の方法は、各方向における1つの最近傍画素を用いる。しかし、いくつかの実施形態において、各方向における2または3より多い最近傍値が用いられ得る。複数の方法は、いくつかの実施形態において、同時に使用され、または組み合われ得る。
いくつかの実施形態において、潜在的な複数のエッジを推定および特定し、そのような複数のエッジ全体における補間を回避することが所望であることがある。例えば、図2を参照すると、画素RのΔVおよびΔHの値の計算は、次式のように実行され得る。
ΔH=|(G−G)|
ΔV=|(G−G)|
いくつかの実施形態において、エッジ検出および/または急激な複数の強度変化に対してラプラス演算を用いることが所望であることがある。例えば、図2を参照すると、画素RのΔVおよびΔHの値の計算は、次式のように実行され得る。
ΔH=|(G−G)|+|R−R+R−R
ΔV=|(G−G)|+|R−R+R−R
様々な実施形態において、選択方法は、カメラデバイス120(図1aを参照されたい)の複数の機能に対する計量時間および内部の格納コスト、または複数の画像を処理し得る他のデバイスに基づき得る。
ブロック520において、ループは、全ての知られていない緑色画素142Iに対して開始する。ブロック525において、所定の知られていない緑色画素142Iに対する鉛直方向の補間値または水平方向の補間値は、選択された方向に基づいて判断され、ループブロック550において、全ての知られていない緑色画素142Iに対するループは、終了する。全ての画素位置130に対するループは、ブロック535において終了する。
例えば、いくつかの実施形態において、水平方向の緑色補間値は、以下のように判断され得る。R(・)、G(・)、およびB(・)は、それぞれベイヤーマップ上の赤色画素、緑色画素、および青色画素を表すものとする。G(x)−R(x)は、段階的に変化するものと仮定する。換言すれば、この差分画像の高周波部分は、G(x)よりも急速に変化する。水平方向の補間値RGRGを計算するべく、ベイヤーマップにおけるそれぞれの行(例えば、図2において205とラベリングされた画素[R、G、R、G、R]の行)が用いられる。行205において、例えば、奇数の番号が付けられた複数の緑色画素、および偶数の番号が付けられた複数の赤色画素は、全て任意の数量である。ランダム信号は、P(x)として表され、P(x)およびP(x)は、知られた複数の信号の奇数および偶数の値とする。
Figure 0006080190
Figure 0006080190
(x)およびG(x)がそれぞれ、G(x)の奇数の信号および偶数の信号である場合、G(x)は知られており、ベイヤーデータから直接に取得され得るが、G(x)は、取得されることができない。例えば、図2の行205を参照すると、緑色値の画素GおよびGが知られている。これらの画素は、すでに緑色画素データのみを含むからである。他方、画素R、R、およびRは、赤色値のみを含み、従ってこれらの画素位置において緑色値は、知られていない。
従って、G(x)=G(x)+G(x)であり、式中、全てのG(x)の値は、すでに知られている(例えば、図1bにおいて示される緑色部分442において「G」とラベリングされたの画素142K)。しかし、G(x)の複数の値(例えば、図1bに示される緑色部分442のブランク画素142I)は、初期には知られておらず、補間され得る。従って、これは、ほぼレイジーウェーブレットの構造である。
現在の知られていない複数の値G(x)を取得するべく、G(x)は、線形フィルタhを通過したものと仮定する。換言すれば、G'(x)=h(x)×G(x)である。G(x)は帯域限定信号であり、h(x)は理想的なローパスフィルタであると仮定すると、次式が導かれ得る。
G'(x)=h(x)×G(x)+h(x)×G(x)+h(x)×G(x)+h(x)×G(x)
従って、ローパスフィルタh(x)は、以下の複数の特性を有する。
(x)×G(x)=0であり、式中、xは偶数である。
(x)×G(x)=0であり、式中、xは偶数である。
(x)×G(x)=0であり、式中、xは奇数である。
(x)×G(x)=0であり、式中、xは奇数である。
従って、上記の複数の方程式は、以下のように書き換えられ得る。
Figure 0006080190
従って、この式を用いれば、G(x)およびR(x)を用いて全ての不明の緑色画素値を補間することが可能である。換言すれば、複数の隣接する緑色画素G(x)および知られている複数の赤色画素値R(x)からの知られている複数の値を用いて、RGRGR行における不明の複数の画素値G(x)の補間は、行われ得る。複数のGBGBG行の補間は、複数の隣接する緑色画素G(x)および知られている複数の青色画素値B(x)からの複数の値を用いて、同様に行われ得る。この同一の解析は、複数のRGRGR列またはGBGBG列に適用され、複数の鉛直方向の緑色画素補間値を判断し得る。
上述の複数の制約を満たすゼロ位相の有限インパルス応答(FIR)フィルタh(x)を取得することは、以下の最適化の問題を解決することにより行われ得る。
Figure 0006080190
式中、^は、フーリエ変換を表し、w(・)は、重み付け関数である。フィルタh(x)の設定値を取得するそのような最適化は、Matlab最適化ツールボックス(マサチューセッツ州NatickのThe MathWorks,Inc.)等を用いることを含むがこれに限定されない、様々な好適な方法で行われ得る。
補間済み緑色値に対する隣接する赤色画素および緑色画素の効果を考慮するべく、衝撃係数δを導入し、次式のようにhを判断することが可能である。
h=[0067]+[−0.25,0,0.5,0,−0.25]×δ
いくつかの実施形態において、衝撃係数δは1に設定されるが、更なる複数の実施形態において、衝撃係数δは、その他の好適な値を取り得る。
図5の方法500に戻ると、ループブロック540は、全ての知られていない赤色画素値および青色画素値141I、143Iに対するループを開始し、ブロック545において、知られていない赤色値141Iおよび/または青色値143Iに対する水平方向または鉛直方向の補間値は、画素位置130に対して選択された補間方向に基づいて算出される。ループブロック550において、全ての知られていない赤色画素値141Iおよび青色画素値143Iに対するループは、終了する。
例えば、水平方向または鉛直方向のすでに知られ、または補間された全ての緑色値を用いて、方法500は、複数の知られていない青色値および/または赤色値の各々に対する鉛直方向または水平方向の補間値を見出すことにより継続する。図1bを参照すると、RGBトリプレット画像140の赤色部分および青色部分141、143に対する多くの値は、未だに知られておらず(すなわち、画素141Iおよび143I)、従って補間され得る。例えば、赤色部分141において、「R」とマークされた画素141Kは、モザイク化済み画像130から知られるが、ブランク画素141Iは、知られておらず、補間され得る。同様に、青色部分143において、「B」とマークされた画素143Kは、モザイク化済み画像130から知られるが、ブランク画素143Iは、知られておらず、補間され得る。
様々な実施形態において、知られていない青色画素値および/または赤色画素値141I、143Iの補間は、以下のように実行され得る。例えば、上述のように、差分画像R−Gは、限定された帯域であり、ナイキスト標本抽出率よりも実質的に小さい周波数を有すると仮定される。従って、差分画像R−Gは、すでに知られた差分画像R−Gにより再構成され得る。同様に、差分画像B−Gは、すでに知られた差分画像B−Gにより再構成され得る。従って、以下の複数の方程式は、R−GおよびB−Gを算出するべく、それぞれ用いられ得、式中、Lはローパスフィルタである。
R−G=L×(R−G
B−G=L×(B−G
従って、所定の画素位置130に対する知られていない赤色値および/または青色値は、水平方向または鉛直方向に補間され得る。一実施形態において、Lは、ローパスフィルタであり、L=[1/4 1/2 1/4;1/2 11/2;1/4 1/2 1/4]であり得る。しかし、更なる複数の実施形態において、Lは、任意の好適なローパスフィルタであるか、または他のタイプのフィルタであり得る。
図5の方法500に再び戻ると、ブロック555において、メジアンフィルタは、完成されたトリプレットRGB画像140に適用され得る。ブロック599において、本方法500が実行される。例えば、様々な実施形態において、上述の補間方法は、いくつかの擬色または他の所望でない複数の効果を生成し得る。R−G差分画像およびB−G差分画像における段階的な変化率の仮定を考慮して、メジアンフィルタは、擬色または他の所望でない複数の効果を除去し、または是正するべく適用され得る。例えば、いくつかの実施形態において、メジアンフィルタの適用は、画像中の小さい複数の変化を抑制しつつ、複数の詳細を保存する利益を提供し得る。いくつかの実施形態において、メジアンフィルタは、任意の所望の回数だけ繰り返し適用し、画像に対する所望の効果を生成し得る。
以下の複数の例は、好ましい複数の実施形態を明示するべく、含められる。以下に続く、複数の例において開示された複数の技術が良好に機能することを発見された複数の技術を表し、実施のための好ましい複数の形態を構成するものとみなされ得ることを当業者は理解されたい。しかし、当業者は、本開示に鑑みて、開示され、実施形態の趣旨および範囲を逸脱することなく、同一または類似の結果をなおも取得する、多くの変更が特定の複数の実施形態において行われ得ることを理解されたい。
例1
本明細書において説明される適合デモザイク化方法は、色彩ポーキュパインモアレ試験の目標画像上で用いられ、同一の試験の目標画像上で用いられた他の複数のデモザイク化方法と比較された。例えば、試験は、双線形デモザイク化、勾配可変数(Variable Number of Gradients(VNG))デモザイク化、パターンドピクセルグルーピング(Patterned Pixel Grouping(PPG))デモザイク化、DCBデモザイク化(www.linuxphoto.org)、適応フィルタリングデモザイク化(AFD)、および色彩差異分散(Variance of Color Differences(VCD))デモザイク化を用いて実行された。本明細書において説明される適合デモザイク化方法を用いて処理された複数の試験目標画像は、他の複数の方法と比較して、より良好な色彩回復効果およびより良好な擬色除去能力を示した。
例2
64×64信号ブロックを解析し、本方法の様々なステップを実施する複数のモジュールに対する加算オペレーションおよび乗算オペレーションの数に関する統計を取る例において、上述の例示的な複数の実施形態の計算コストが、算出された(メジアンフィルタリングを含まない)。例えば、モジュール1は、水平方向および鉛直方向のG補間、ならびに水平方向のみのRおよびB補間のステップを含んだ。モジュール2は、鉛直方向のRおよびBの補間を含んだ。モジュール3は、算出されたΔH値およびΔV値に基づく水平方向もしくは鉛直方向の補間の選択を含んだ。モジュール4は、メジアンフィルタリングの準備を含んだ。以下の表(メジアンフィルタリングを用いない)は、結果を示し、本明細書において説明される例示的な複数の本実施形態が相対的に極小の計算オーバヘッドで実行され得ることを図示する。これは、本方法がハードウェアおよび/またはソフトウェアにより実行されるか否かに関係なく、所望であり得る。
Figure 0006080190
例3
5つの異なるノイズレベルの建物の外部におけるモザイク化済み画像は、本明細書において説明される例示的な複数の実施形態を用いてデモザイク化された。5つのモザイク化済み画像の信号対ノイズ比(SNR)は、それぞれ10、20、40、60、および100であった。図6aは、デモザイク化済み画像のピーク信号対ノイズ比(PSNR)と比較される各モザイク化済み画像のSNRのグラフ600を図示し、図6bは、図6aのグラフ600において図示される複数の結果の表605を示す。複数の画像およびデータは、説明される本実施形態が、様々なSNRレベルにおいて堅牢なデモザイク化を提供することを示す。
説明される複数の実施形態は、様々な変更形態および代替形態に受容可能であり、それらの特定の例は、図面において例として示され、本明細書において詳細に説明された。しかし、説明される複数の実施形態は、開示される特定の形態または方法に限定されるものではなく、むしろ、本開示は、全ての変更形態、均等物、および代替形態を包含するものであることを理解されたい。
(項目1)
モザイク化済み画像の適合デモザイク化の方法であって、
第1の色、第2の色、および第3の色を含むモザイクパターンを有する上記モザイク化済み画像を受信するステップと、
上記モザイク化済み画像をデモザイク化し、適合デモザイク化済み画像を生成するステップとを備え、
上記適合デモザイク化は、
水平方向もしくは鉛直方向における上記第1の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第2の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第3の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、方法。
(項目2)
上記第2の色および上記第3の色の知られていない複数の画素の上記部分の複数の値を補間する上記ステップは、上記第1の色の知られていない複数の画素の上記部分に対する第1の複数の値の補間に基づく、項目1に記載の方法。
(項目3)
上記第2の色および上記第3の色の知られていない複数の画素の上記部分の複数の値を補間する上記ステップは、上記第1の色の知られていない複数の画素の上記部分に対する第1の複数の値の補間後に行われる、項目1または2に記載の方法。
(項目4)
上記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、項目1から3のいずれか1項に記載の方法。
(項目5)
上記第1の色は、緑色であり、上記第2の色は、赤色であり、上記第3の色は、青色である、項目1から4のいずれか1項に記載の方法。
(項目6)
水平方向の補間または鉛直方向の補間は、画素位置の知られた色データに基づいて選択される、項目1から5のいずれか1項に記載の方法。
(項目7)
水平方向の補間および鉛直方向の補間のうち1つを選択することは、それぞれ鉛直方向および水平方向の最近傍画素の比較を含む、項目1から6のいずれか1項に記載の方法。
(項目8)
水平方向の補間および鉛直方向の補間のうち1つを選択することは、水平方向の勾配を算出することと、鉛直方向の勾配を算出することとを含む、項目1から7のいずれか1項に記載の方法。
(項目9)
水平方向の補間および鉛直方向の補間のうち1つは、所与の各画素位置について選択され、
上記第1の色、上記第2の色、および上記第3の色の上記知られていない複数の画素の補間は、選択された補間方向を用いて、該画素位置に対して実行される、項目1から8のいずれか1項に記載の方法。
(項目10)
所与の画素位置に対する水平方向の補間または鉛直方向の補間を選択することは、類似の複数の近傍画素色値のうち最も少ない変化を有する該画素位置において補間方向を識別することに基づく、項目1から9のいずれか1項に記載の方法。
(項目11)
上記適合デモザイク化は、上記デモザイク化済み画像にメジアンフィルタを適用することを更に含む、項目1から10のいずれか1項に記載の方法。
(項目12)
上記デモザイク化済み画像をディスプレイ上に表示するステップを更に備える、項目1から11のいずれか1項に記載の方法。
(項目13)
上記モザイク化済み画像を受信する上記ステップは、イメージセンサアレイから上記モザイク化済み画像を受信するステップを有する、項目1から12のいずれか1項に記載の方法。
(項目14)
レンズおよびモザイク化フィルタを通過する感知された光に基づいて、上記モザイク化済み画像を生成するステップを更に備える、項目1から13のいずれか1項に記載の方法。
(項目15)
モザイク化済み画像の適合デモザイク化の方法であって、
第1の色、第2の色、および第3の色を有するモザイクパターンを含む上記モザイク化済み画像を受信するステップと、
上記モザイク化済み画像に対するノイズレベルインデックスを取得するステップと、
上記ノイズレベルインデックスが閾値よりも大きいか否かを判断するステップと、
上記ノイズレベルインデックスが上記閾値よりも大きくない場合に、上記モザイク化済み画像に双線形デモザイク化を実行し、双線形デモザイク化済み画像を生成するステップと、
上記ノイズレベルインデックスが上記閾値よりも大きい場合に、上記モザイク化済み画像に適合デモザイク化を実行し、適合デモザイク化済み画像を生成するステップとを備え、
上記適合デモザイク化は、
水平方向もしくは鉛直方向における上記第1の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第2の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第3の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、方法。
(項目16)
上記第2の色および上記第3の色の知られていない複数の画素の上記部分の上記複数の値を補間する上記ステップは、上記第1の色の知られていない複数の画素の上記部分に対する第1の複数の値の補間に基づく、項目15に記載の方法。
(項目17)
上記第2の色および上記第3の色の知られていない複数の画素の上記部分の複数の値を補間する上記ステップは、上記第1の色の知られていない複数の画素の上記部分に対する第1の複数の値の上記補間の後に行われる、項目15または16に記載の方法。
(項目18)
上記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、項目15から17のいずれか1項に記載の方法。
(項目19)
上記第1の色は、緑色であり、上記第2の色は、赤色であり、上記第3の色は、青色である、項目15から18のいずれか1項に記載の方法。
(項目20)
水平方向の補間または鉛直方向の補間は、画素位置の知られた色データに基づいて選択される、項目15から19のいずれか1項に記載の方法。
(項目21)
水平方向の補間および鉛直方向の補間のうち1つを選択することは、それぞれ鉛直方向および水平方向の最近傍画素の比較を含む、項目15から20のいずれか1項に記載の方法。
(項目22)
水平方向の補間および鉛直方向の補間のうち1つを選択することは、水平方向の勾配を算出することと、鉛直方向の勾配を算出することとを含む、項目15から21のいずれか1項に記載の方法。
(項目23)
水平方向の補間および鉛直方向の補間のうち1つは、所与の各画素位置について選択され、
上記第1の色、上記第2の色、および上記第3の色の上記知られていない複数の画素の補間は、選択された補間方向を用いて、該画素位置に対して実行される、項目15から22のいずれか1項に記載の方法。
(項目24)
所与の画素位置に対する水平方向の補間または鉛直方向の補間を選択することは、類似の複数の近傍画素色値のうち最も少ない変化を有する該画素位置において補間方向を識別することに基づく、項目15から23のいずれか1項に記載の方法。
(項目25)
上記適合デモザイク化は、上記デモザイク化済み画像にメジアンフィルタを適用することを更に含む、項目15から24のいずれか1項に記載の方法。
(項目26)
上記デモザイク化済み画像をディスプレイ上に表示するステップを更に備える、項目15から25のいずれか1項に記載の方法。
(項目27)
上記モザイク化済み画像を受信する上記ステップは、イメージセンサアレイから上記モザイク化済み画像を受信するステップを有する、項目15から26のいずれか1項に記載の方法。
(項目28)
レンズおよびモザイク化フィルタを通過する感知された光に基づいて、上記モザイク化済み画像を生成するステップを更に備える、項目15から27のいずれか1項に記載の方法。
(項目29)
レンズと、
モザイク化フィルタと、
上記レンズおよび上記モザイク化フィルタを通過する感知された光に基づいて、第1の色、第2の色、および第3の色を含むモザイクパターンを有するモザイク化済み画像を生成するように動作可能なイメージセンサアレイと、
水平方向もしくは鉛直方向における上記第1の色の知られていない複数の画素の部分に対する複数の値を補間し、
水平方向もしくは鉛直方向における上記第2の色の知られていない複数の画素の部分に対する複数の値を補間し、
水平方向もしくは鉛直方向における上記第3の色の知られていない複数の画素の部分に対する複数の値を補間することにより、
知られていない複数の画素の補間により、上記モザイク化済み画像をデモザイク化し、デモザイク化済み画像を生成するように動作可能な処理モジュールとを備える、カメラシステム。
(項目30)
上記処理モジュールは、上記第1の色の上記知られていない複数の画素の上記部分に対する第1の複数の値の上記補間に基づいて、上記第2の色および上記第3の色の上記知られていない複数の画素の上記部分に対する上記複数の値を補間する、項目29に記載のカメラシステム。
(項目31)
上記処理モジュールは、上記第1の色の知られていない複数の画素の上記部分に対する第1の複数の値の上記補間の後に、上記第2の色および上記第3の色の知られていない複数の画素の上記部分に対する上記複数の値を補間する、項目29または30に記載のカメラシステム。
(項目32)
上記モザイク化フィルタは、ベイヤーフィルタであり、
上記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、項目29から31のいずれか1項に記載のカメラシステム。
(項目33)
上記第1の色は、緑色であり、上記第2の色は、赤色であり、上記第3の色は、青色である、項目29から32のいずれか1項に記載のカメラシステム。
(項目34)
上記処理モジュールは、補間により上記モザイク化済み画像をデモザイク化し、
水平方向または鉛直方向の補間は、画素位置の知られている色データに基づいて選択される、項目29から33のいずれか1項に記載のカメラシステム。
(項目35)
上記処理モジュールは、鉛直方向および水平方向のそれぞれの最近傍画素の比較により、上記第1の色、上記第2の色、および上記第3の色の補間された上記知られていない複数の画素の各々に対する水平方向および鉛直方向の補間のうち1つを選択する、項目29から34のいずれか1項に記載のカメラシステム。
(項目36)
上記処理モジュールは、水平方向の勾配を算出し、鉛直方向の勾配を算出することにより、水平方向の補間および鉛直方向の補間のうち1つを選択する、項目29から35のいずれか1項に記載のカメラシステム。
(項目37)
上記処理モジュールは、所与の各画素位置に対する水平方向の補間および鉛直方向の補間、ならびに選択された補間方向を用いて該画素位置に対して実行される、上記第1の色、上記第2の色、および上記第3の色の上記知られていない複数の画素の補間のうち1つを選択する、項目29から36のいずれか1項に記載のカメラシステム。
(項目38)
上記処理モジュールは、類似の複数の近傍画素色値のうち最も少ない変化を有する所与の画素位置における補間方向を識別することにより、該画素位置に対する水平方向の補間または鉛直方向の補間を選択する、項目29から37のいずれか1項に記載のカメラシステム。
(項目39)
上記処理モジュールは、補間により上記モザイク化済み画像をデモザイク化し、
上記デモザイク化済み画像を生成することは、メジアンフィルタを、上記デモザイク化済み画像に適用することを更に含む、項目29から38のいずれか1項に記載のカメラシステム。
(項目40)
上記モザイク化済み画像および上記デモザイク化済み画像を格納するように構成されたメモリを更に備える、項目29から39のいずれか1項に記載のカメラシステム。
(項目41)
上記デモザイク化済み画像を表示するように構成されたディスプレイを更に備える、項目29から40のいずれか1項に記載のカメラシステム。
(項目42)
レンズと、
モザイク化フィルタと、
上記レンズおよび上記モザイク化フィルタを通過する感知された光に基づいて、第1の色、第2の色、および第3の色を含むモザイクパターンを有するモザイク化済み画像を生成する、イメージセンサアレイと、
上記モザイク化済み画像に対するノイズレベルインデックスを判断し、
上記ノイズレベルインデックスが閾値よりも大きいか否かを判断し、
上記ノイズレベルインデックスが上記閾値よりも大きくない場合に、上記モザイク化済み画像に双線形デモザイク化を実行し、双線形デモザイク化済み画像を生成し、
上記ノイズレベルインデックスが上記閾値よりも大きい場合に、上記モザイク化済み画像に適合デモザイク化を実行し、適合デモザイク化済み画像を生成することにより、
知られていない複数の画素値の補間により、上記モザイク化済み画像をデモザイク化し、デモザイク化済み画像を生成するように動作可能な処理モジュールとを備え、
上記適合デモザイク化は、
水平方向もしくは鉛直方向における上記第1の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第2の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第3の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、カメラシステム。
(項目43)
上記処理モジュールは、上記第1の色の知られていない複数の画素の上記部分に対する第1の複数の値の上記補間に基づいて、上記第2の色および上記第3の色の知られていない複数の画素の上記部分に対する上記複数の値を補間する、項目42に記載のカメラシステム。
(項目44)
上記処理モジュールは、上記第1の色の知られていない複数の画素の上記部分に対する第1の複数の値の上記補間の後に、上記第2の色および上記第3の色の知られていない複数の画素の上記部分に対する複数の値を補間する、項目42または43に記載のカメラシステム。
(項目45)
上記モザイク化フィルタは、ベイヤーフィルタであり、
上記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、項目42から44のいずれか1項に記載のカメラシステム。
(項目46)
上記第1の色は、緑色であり、上記第2の色は、赤色であり、上記第3の色は、青色である、項目42から45のいずれか1項に記載のカメラシステム。
(項目47)
上記処理モジュールは、補間により上記モザイク化済み画像をデモザイク化し、
水平方向または鉛直方向の補間は、画素位置の知られている色データに基づいて、上記処理モジュールにより選択される、項目42から46のいずれか1項に記載のカメラシステム。
(項目48)
上記処理モジュールは、鉛直方向および水平方向のそれぞれの最近傍画素の比較により、上記第1の色、上記第2の色、および上記第3の色の補間された上記知られていない複数の画素の各々に対する水平方向および鉛直方向の補間のうち1つを選択する、項目42から47のいずれか1項に記載のカメラシステム。
(項目49)
上記処理モジュールは、水平方向の勾配を算出し、鉛直方向の勾配を算出することにより、水平方向の補間および鉛直方向の補間のうち1つを選択する、項目42から48のいずれか1項に記載のカメラシステム。
(項目50)
上記処理モジュールは、所与の各画素位置に対する水平方向の補間および鉛直方向の補間、ならびに選択された補間方向を用いて該画素位置に対して実行される、上記第1の色、上記第2の色、および上記第3の色の上記知られていない複数の画素の補間のうち1つを選択する、項目42から49のいずれか1項に記載のカメラシステム。
(項目51)
上記処理モジュールは、類似の複数の近傍画素色値のうち最も少ない変化を有する所与の画素位置における補間方向を識別することにより、該画素位置に対する水平方向の補間または鉛直方向の補間を選択する、項目42から50のいずれか1項に記載のカメラシステム。
(項目52)
上記処理モジュールは、補間により上記モザイク化済み画像をデモザイク化し、メジアンフィルタを上記デモザイク化済み画像に適用することにより、上記デモザイク化済み画像を生成する、項目42から51のいずれか1項に記載のカメラシステム。
(項目53)
上記モザイク化済み画像および上記デモザイク化済み画像を格納するように構成されたメモリを更に備える、項目42から52のいずれか1項に記載のカメラシステム。
(項目54)
上記デモザイク化済み画像を表示するように構成されたディスプレイを更に備える、項目42から53のいずれか1項に記載のカメラシステム。

Claims (14)

  1. モザイク化済み画像のデモザイク化の方法であって、
    第1の色、第2の色、および第3の色を有するモザイクパターンを含む前記モザイク化済み画像を受信するステップと、
    前記モザイク化済み画像に対するノイズレベルインデックスを取得するステップと、
    前記ノイズレベルインデックスが閾値よりも大きいか否かを判断するステップと、
    前記ノイズレベルインデックスが前記閾値よりも大きくない場合に、前記モザイク化済み画像に双線形デモザイク化を実行し、双線形デモザイク化済み画像を生成するステップと、
    前記ノイズレベルインデックスが前記閾値よりも大きい場合に、前記モザイク化済み画像にデモザイク化を実行し、デモザイク化済み画像を生成するステップとを備え、
    前記デモザイク化は、
    水平方向もしくは鉛直方向における前記第1の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
    水平方向もしくは鉛直方向における前記第2の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
    水平方向もしくは鉛直方向における前記第3の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、デモザイク化の方法
  2. 前記第2の色および前記第3の色の知られていない複数の画素の前記部分の前記複数の値を補間する前記ステップは、前記第1の色の知られていない複数の画素の前記部分に対する第1の複数の値の補間に基づく、請求項に記載のデモザイク化の方法
  3. 前記第2の色および前記第3の色の知られていない複数の画素の前記部分の複数の値を補間する前記ステップは、前記第1の色の知られていない複数の画素の前記部分に対する第1の複数の値の前記補間の後に行われる、請求項1または2に記載のデモザイク化の方法。
  4. 前記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、請求項からのいずれか1項に記載のデモザイク化の方法
  5. 前記第1の色は、緑色であり、前記第2の色は、赤色であり、前記第3の色は、青色である、請求項からのいずれか1項に記載のデモザイク化の方法
  6. 前記水平方向の補間または前記鉛直方向の補間は、画素位置の知られた色データに基づいて選択される、請求項からのいずれか1項に記載のデモザイク化の方法
  7. 前記水平方向の補間および前記鉛直方向の補間のうち1つを選択することは、それぞれ前記鉛直方向および前記水平方向の最近傍画素の比較を含む、請求項からのいずれか1項に記載のデモザイク化の方法
  8. 前記水平方向の補間および前記鉛直方向の補間のうち1つを選択することは、前記水平方向の勾配を算出することと、前記鉛直方向の勾配を算出するステップを含む、請求項からのいずれか1項に記載のデモザイク化の方法
  9. 前記水平方向の補間および前記鉛直方向の補間のうち1つは、所定の各画素位置について選択され、
    前記第1の色、前記第2の色、および前記第3の色の前記知られていない複数の画素の補間は、選択された補間方向を用いて、該画素位置に対して実行される、請求項からのいずれか1項に記載のデモザイク化の方法
  10. 所定の画素位置に対する前記水平方向の補間または前記鉛直方向の補間を選択することは、類似の複数の近傍画素位置のうち最も少ない変化を有する該画素位置において補間方向を識別することに基づく、請求項からのいずれか1項に記載のデモザイク化の方法
  11. 前記デモザイク化は、前記デモザイク化済み画像にメジアンフィルタを適用するステップを更に含む、請求項から10のいずれか1項に記載のデモザイク化の方法
  12. 前記デモザイク化済み画像をディスプレイに表示するステップを更に備える、請求項から11のいずれか1項に記載のデモザイク化の方法
  13. 前記デモザイク化済み画像を受信する前記ステップは、イメージセンサアレイから前記デモザイク化済み画像を受信するステップを有する、請求項から12のいずれか1項に記載のデモザイク化の方法
  14. レンズおよびモザイク化フィルタを通過する感知された光に基づいて、前記デモザイク化済み画像を生成するステップを更に備える、請求項から13のいずれか1項に記載のデモザイク化の方法
JP2016542953A 2014-09-15 2014-09-15 デモザイク化の方法 Expired - Fee Related JP6080190B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2014/086558 WO2016041133A1 (en) 2014-09-15 2014-09-15 System and method for image demosaicing

Publications (2)

Publication Number Publication Date
JP2017502598A JP2017502598A (ja) 2017-01-19
JP6080190B2 true JP6080190B2 (ja) 2017-02-15

Family

ID=55532424

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016542953A Expired - Fee Related JP6080190B2 (ja) 2014-09-15 2014-09-15 デモザイク化の方法

Country Status (4)

Country Link
US (2) US10565681B2 (ja)
JP (1) JP6080190B2 (ja)
CN (1) CN105993169B (ja)
WO (1) WO2016041133A1 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3214600B1 (en) * 2016-03-04 2019-02-06 Aptiv Technologies Limited Method for processing high dynamic range (hdr) data from a nonlinear camera
US10262399B2 (en) * 2017-01-09 2019-04-16 Samsung Electronics Co., Ltd. Image denoising with color-edge contrast preserving
CN107274371A (zh) * 2017-06-19 2017-10-20 信利光电股份有限公司 一种显示屏及终端设备
US10337923B2 (en) * 2017-09-13 2019-07-02 Qualcomm Incorporated Directional interpolation and cross-band filtering for hyperspectral imaging
CN107767352A (zh) * 2017-11-16 2018-03-06 北京经纬恒润科技有限公司 一种adas图像色彩重建方法及装置
EP3522106A1 (en) * 2018-01-31 2019-08-07 InterDigital CE Patent Holdings A filter array enabling easy demosaicing
US10567724B2 (en) * 2018-04-10 2020-02-18 GM Global Technology Operations LLC Dynamic demosaicing of camera pixels
CN110858894B (zh) * 2018-08-23 2021-11-26 瑞昱半导体股份有限公司 色彩重建装置与方法
KR102669938B1 (ko) 2019-01-09 2024-05-27 삼성전자주식회사 이미지 처리 프로세서, 이미지 처리 시스템 및 이미지 처리 프로세서의 동작 방법
WO2020177123A1 (en) * 2019-03-07 2020-09-10 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Color imaging system
TWI703872B (zh) 2019-05-15 2020-09-01 瑞昱半導體股份有限公司 影像色彩還原與增強電路
CN110634103A (zh) * 2019-08-28 2019-12-31 天津大学 基于生成对抗网络的图像去马赛克方法
US11776088B2 (en) * 2020-03-11 2023-10-03 Samsung Electronics Co., Ltd. Electronic device generating image data and converting the generated image data and operating method of the electronic device
WO2021207034A1 (en) 2020-04-06 2021-10-14 Boston Scientific Scimed, Inc. Image processing systems and methods of using the same
KR20220010285A (ko) * 2020-07-17 2022-01-25 에스케이하이닉스 주식회사 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법
RU2764395C1 (ru) 2020-11-23 2022-01-17 Самсунг Электроникс Ко., Лтд. Способ и устройство для совместного выполнения дебайеризации и устранения шумов изображения с помощью нейронной сети
KR20220079123A (ko) 2020-12-04 2022-06-13 삼성전자주식회사 이미지 장치 및 이미지 장치의 동작 방법
TWI760993B (zh) * 2020-12-24 2022-04-11 鴻海精密工業股份有限公司 圖像處理裝置、方法及具有該圖像處理裝置之鏡頭模組
CN114666469B (zh) * 2020-12-24 2023-11-14 富泰华工业(深圳)有限公司 图像处理装置、方法及具有该图像处理装置的镜头模组
JP2023010159A (ja) * 2021-07-09 2023-01-20 株式会社ソシオネクスト 画像処理装置および画像処理方法
CN113259636B (zh) * 2021-07-14 2021-09-14 贝壳找房(北京)科技有限公司 用于对图像去马赛克的方法、装置以及电子设备、介质

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020167602A1 (en) * 2001-03-20 2002-11-14 Truong-Thao Nguyen System and method for asymmetrically demosaicing raw data images using color discontinuity equalization
US7502505B2 (en) * 2004-03-15 2009-03-10 Microsoft Corporation High-quality gradient-corrected linear interpolation for demosaicing of color images
US7418130B2 (en) * 2004-04-29 2008-08-26 Hewlett-Packard Development Company, L.P. Edge-sensitive denoising and color interpolation of digital images
GB2426881B (en) * 2005-06-01 2010-12-29 Snell & Wilcox Ltd Method and apparatus for spatial interpolation of colour images
KR100700017B1 (ko) * 2005-12-29 2007-03-26 엠텍비젼 주식회사 조정 가능한 임계값을 이용한 컬러 보간 장치
CN101867832B (zh) * 2005-12-29 2011-09-07 安泰科技有限公司 阈值确定装置和阈值确定方法
US8108211B2 (en) * 2007-03-29 2012-01-31 Sony Corporation Method of and apparatus for analyzing noise in a signal processing system
US7859580B2 (en) * 2007-10-16 2010-12-28 Aptina Imaging Corporation Method and apparatus for anisotropic demosaicing of image data
US8564680B1 (en) * 2007-12-13 2013-10-22 Marvell International Ltd. Method and apparatus for noise management for color data synthesis in digital image and video capture systems
US8422771B2 (en) * 2008-10-24 2013-04-16 Sharp Laboratories Of America, Inc. Methods and systems for demosaicing
US8638342B2 (en) * 2009-10-20 2014-01-28 Apple Inc. System and method for demosaicing image data using weighted gradients
US8482636B2 (en) * 2010-05-05 2013-07-09 DigitalOptics Corporation Europe Limited Digital zoom on bayer
JP5672941B2 (ja) * 2010-10-21 2015-02-18 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US20130002936A1 (en) * 2011-06-30 2013-01-03 Nikon Corporation Image pickup apparatus, image processing apparatus, and storage medium storing image processing program
JP2013066146A (ja) * 2011-08-31 2013-04-11 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
US10210599B2 (en) * 2013-08-09 2019-02-19 Intuitive Surgical Operations, Inc. Efficient image demosaicing and local contrast enhancement
CN104038746B (zh) * 2014-06-12 2016-06-08 北京英泰智软件技术发展有限公司 一种bayer格式图像数据插值方法

Also Published As

Publication number Publication date
US20170178292A1 (en) 2017-06-22
CN105993169B (zh) 2019-07-26
US10565681B2 (en) 2020-02-18
US20200184598A1 (en) 2020-06-11
WO2016041133A1 (en) 2016-03-24
JP2017502598A (ja) 2017-01-19
CN105993169A (zh) 2016-10-05

Similar Documents

Publication Publication Date Title
JP6080190B2 (ja) デモザイク化の方法
US9179113B2 (en) Image processing device, and image processing method, and program
US9582863B2 (en) Image processing apparatus, image processing method, and program
TWI451754B (zh) 改善缺陷色彩及全色彩色濾光器陣列影像
US7839437B2 (en) Image pickup apparatus, image processing method, and computer program capable of obtaining high-quality image data by controlling imbalance among sensitivities of light-receiving devices
US6816197B2 (en) Bilateral filtering in a demosaicing process
KR101703354B1 (ko) 화상 처리 장치, 화상 처리 방법, 및 기록 매체
JP2018535443A (ja) 位相検出オートフォーカスの算術
JP2018535442A (ja) 位相検出オートフォーカスのノイズ低減
JP5306563B2 (ja) 撮像装置及び画像生成方法
US8111299B2 (en) Demosaicking single-sensor camera raw data
JP2011528866A (ja) 汎用的に詰め合わせたピクセル配列のカメラシステムおよび方法
Hore et al. An edge-sensing generic demosaicing algorithm with application to image resampling
JP2013066157A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2000134634A (ja) 画像変換方法
JPWO2018230119A1 (ja) 撮像装置と撮像素子および画像処理方法
JP2011041210A (ja) 信号処理装置、撮像装置及び信号処理方法
KR101243285B1 (ko) 베이어 컬러 필터 배열 카메라를 사용한 다중 스펙트럼 기반 컬러 영상 생성장치 및 방법
JP2009095012A (ja) 補間方向の判定方法、色補間方法および色補間装置
KR20190036253A (ko) 그라디언트 기반 rgbw cfa 디모자킹 장치 및 방법
JP6818461B2 (ja) 撮像装置、画像処理装置、画像処理方法および画像処理プログラム
Jeong et al. Edge-Adaptive Demosaicking for Reducing Artifact along Line Edge
KR20150094350A (ko) 에지 정보를 이용한 디모자이킹 방법 및 장치
JOURNES A study of image quality assessment and color image reconstruction algorithms for mono-sensor camera
ES2301292B1 (es) Metodo de prediccion lineal optima para la reconstruccion de la imagen en camaras digitales con sensor de mosaico.

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160706

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160706

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20160706

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20161128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170111

R150 Certificate of patent or registration of utility model

Ref document number: 6080190

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees