JP2008011532A - イメージ復元方法及び装置 - Google Patents

イメージ復元方法及び装置 Download PDF

Info

Publication number
JP2008011532A
JP2008011532A JP2007166750A JP2007166750A JP2008011532A JP 2008011532 A JP2008011532 A JP 2008011532A JP 2007166750 A JP2007166750 A JP 2007166750A JP 2007166750 A JP2007166750 A JP 2007166750A JP 2008011532 A JP2008011532 A JP 2008011532A
Authority
JP
Japan
Prior art keywords
image
sensing
sub
region
sensing area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007166750A
Other languages
English (en)
Inventor
Kiei Sei
基 榮 成
Seishu Kim
聖 洙 金
Du-Sik Park
斗 植 朴
Hoyoung Lee
晧 榮 李
Shoyo Kin
昌 容 金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electro Mechanics Co Ltd
Original Assignee
Samsung Electro Mechanics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electro Mechanics Co Ltd filed Critical Samsung Electro Mechanics Co Ltd
Publication of JP2008011532A publication Critical patent/JP2008011532A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/41Extracting pixel data from a plurality of image sensors simultaneously picking up an image, e.g. for increasing the field of view by combining the outputs of a plurality of sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】 小型化されたカメラモジュールを介して獲得したイメージを高解像度のイメージに復元するイメージ復元方法及び装置を提供する。
【解決手段】複数のレンズ及び該レンズに各々対応する複数のイメージセンシング領域を含むカメラモジュールを通じてカラー別に分離された複数の原イメージを獲得する段階、センシング領域に対応して、複数のピクセルグループに区分される第1中間イメージを生成する段階、各カラー別原イメージで同じ位置のピクセルが有するピクセル情報を、第1中間イメージで前記位置に対応するピクセルグループの所定ピクセルにマッピングして第2中間イメージを生成する段階、及び第2中間イメージを補間して最終イメージを生成する段階を含むが、ピクセルグループはカラーフィルターの配列パターンに対応する複数のピクセルを含む。
【選択図】図9A

Description

本発明は、イメージ復元方法に係り、より詳細には、小型化されたカメラモジュールを介して獲得したイメージを高解像度のイメージに復元する方法に関する。
デジタルカメラ、カメラフォンのように高解像度のカメラモジュールを含むデジタル装置の普及が広がっている。カメラモジュールは、一般的にレンズ及びイメージセンサーを含んで構成される。ここで、レンズは、被写体からの反射光を集束する役割を果たし、イメージセンサーは、レンズにより集束された光を検知して電気的な映像信号に変換する役割を果たす。イメージセンサーは、大きく撮像管と固体イメージセンサーとに分けられ、固体イメージセンサーの代表例として、電荷結合素子(Charge Coupled Device;CCD)、金属酸化物半導体(Metal Oxide Silicon;MOS)がある。
図1は、従来のカメラモジュールの原理を示す図面である。
カメラモジュールでは、口径比が大きいほど、明るい像が得られ、F数(F/#)が大きいほど鮮明できれいな像が得られる。ここで、口径比は、レンズの口径Dを焦点距離fで割った値、すなわち、D/fを意味するものであって、像の輝度は、口径比の自乗に比例する。一方、F数は、口径比の逆数、すなわち、f/Dを意味する。F数が大きいほど、カメラモジュールのイメージセンサーに到達する単位面積当り光量は減少し、F数が小さいほど、イメージセンサーに到達する単位面積当り光量は増加して明るく、かつ高解像度の映像が得られる。
図1に示されたように、レンズの口径が大きいほど、解像度が高まる長所があるが、物体の像を結ぶための焦点距離が延びるので、カメラモジュールの小型化には限界がある。一方、レンズの口径が小さな場合、物体の像を結ぶための焦点距離も減少するので、カメラモジュールの小型化は可能であるが、高解像度のイメージは得難いという問題がある。
これにより、多様な発明(例えば、特許文献1)が提示されたが、前記問題点は相変らず残っている。
韓国公開特許第2003−0084343号公報
本発明は、前記問題点を改善するために案出されたものであって、小型化されたカメラモジュールを通じて得た低解像度のイメージから高解像度のイメージを復元しうるイメージ復元方法及び装置を提供するところにその目的がある。
本発明の目的は、以上で言及した目的に制限されず、言及されていない他の目的は下の記載から当業者に明確に理解されうる。
前記目的を達成するための本発明の一実施例によるイメージ復元方法は、複数のレンズ及び前記レンズに各々対応する複数のイメージセンシング領域を含むカメラモジュールを通じてカラー別に分離された複数の原イメージを獲得する段階、前記センシング領域に対応して、複数のピクセルグループに区分される第1中間イメージを生成する段階、前記各カラー別原イメージで同じ位置のピクセルが有するピクセル情報を、前記第1中間イメージで前記位置に対応するピクセルグループの所定ピクセルにマッピングして第2中間イメージを生成する段階、及び前記第2中間イメージを補間して最終イメージを生成する段階を含むが、前記ピクセルグループは、前記カラーフィルターの配列パターンに対応する複数のピクセルを含む。
また、前記目的を達成するための本発明の一実施例によるイメージ復元方法は、複数のレンズ及び前記レンズに各々対応する複数のイメージセンシング領域を含むカメラモジュールを通じてカラー別に分離された複数の原イメージを獲得する段階と、前記各カラー別原イメージで同じ位置のピクセルが有するピクセル情報を、前記カラーフィルターの配列パターンによって再配置して中間イメージを生成する段階と、前記中間イメージをデモザイクして最終イメージを生成する段階と、を含む。
また、前記目的を達成するための本発明の他の一実施例によるイメージ復元装置は、複数のレンズ及び前記レンズに各々対応するイメージセンシング領域を含むカメラモジュールを介して獲得されたカラー別に分離された複数の原イメージを入力される入力モジュールと、前記センシング領域に対応して、複数のピクセルグループに区分される第1中間イメージを生成し、前記各カラー別原イメージで同じ位置のピクセルが有するピクセル情報を、前記第1中間イメージで前記位置に対応するピクセルグループの所定ピクセルにマッピングして、第2中間イメージを生成する中間イメージ生成モジュールと、前記第2中間イメージを補間して最終イメージを生成する最終イメージ生成モジュールと、を備えるが、前記ピクセルグループは、前記カラーフィルターの配列パターンに対応する複数のピクセルを備える。
また、前記目的を達成するための本発明のまた他の実施形態によるイメージ復元装置は、 入射光を集光するために互いに異なる色相の複数のレンズを含み、前記各レンズ領域に対応する複数のイメージセンシング領域を通じてカラー別に分離された複数の原イメージを獲得するカメラモジュールおよび、前記複数の原イメージに基づいて最終イメージを生成するイメージ生成モジュールと、を備える。
その他の実施例の具体的な事項は詳細な説明及び図面に含まれている。
本発明によるイメージ復元方法及び装置によれば、次のような効果が1つあるいはそれ以上ある。
カメラモジュールを小型化すると同時に、高解像度のイメージが得られる。
カメラモジュールが小型化されるので、カメラモジュールが装着されるデジタル機器の設計自由度を増加させうる。
イメージセンサーの内部にカラーフィルター層及びカラーフィルター層を平坦化するための平坦層が形成されていないので、マイクロレンズとフォトダイオード間の間隔が狭くなり、平坦層の厚さによる光損失及び信号干渉現象を減少させうる。
カラーフィルターをイメージセンサー上に形成せず、別途の基板に形成することによって、イメージセンサーの生産工程を単純化させ、イメージセンサー上にカラーフィルターをパターニングする工程が省略されるので、カラーフィルター層の形成に使われるインクを節約できる。
互いに異なる透過度を有するカラーフィルターを使用することによって、イメージセンサー部の構造を変更せずとも、高感度センシング領域と低感度センシング領域とを同時に具現できる。
本発明の利点及び特徴、そしてこれを達成する方法は添付された図面に基づいて詳細に後述されている実施例を参照すれば明確になる。
しかし、本発明は以下で開示される実施例に限定されるものではなく、この実施例から外れて多様な形に具現でき、本明細書で説明する実施例は本発明の開示を完全にし、本発明が属する技術分野で当業者に発明の範ちゅうを完全に報せるために提供されるものであり、本発明は請求項及び発明の詳細な説明により定義されるだけである。一方、明細書全体に亙って同一な参照符号は同一な構成要素を示す。
以下、添付された図面を参照して本発明の実施例によるイメージ復元装置及び方法について説明する。
図1は、本発明の実施例によるイメージ復元装置100の構造を示すブロック図である。示されたイメージ復元装置100は、入射光を集光してカラー別に分離された複数の原イメージを生成するカメラモジュール200、カメラモジュール200から提供されたカラー別原イメージを基盤にして最終イメージを生成するイメージ生成モジュール800及びイメージ生成モジュール800から提供された最終イメージをディスプレイするディスプレイモジュール900を備える。
まず、図3ないし図7Bを参照してカメラモジュール200について説明する。
図3は、本発明の第1実施例によるカメラモジュール200を示す斜視図である。示されたカメラモジュール200は、レンズ部300、フィルター部400及びイメージセンサー部500を備える。
レンズ部300は、入射光を集光する複数のレンズ310、320、330、340を備え得る。ここで、レンズの数は制限されず、複数のレンズ310、320、330、340は、同一平面上に多様な形で配置されうる。例えば、複数のレンズ310、320、330、340は、横方向または縦方向に一列に配置されるか、横×縦の行列形態に配置されうる。以下、本明細書では説明の便宜上、レンズ部300が4個のレンズを含み、横×縦2×2の形で配置された場合を実施例として説明する。
また、各レンズ310、320、330、340は互いに同一な位置に存在したり、互いに異なる位置に存在し得る。例えば前記レンズ310、320、330、340がすべて基準位置に存在する場合、前記各レンズ310、320、330、340の位置は互いに同一なものとしてみなされ得る。ここで基準位置とは所定レンズが対応するサブフィルタリング領域の中心を意味する。これとは異なり第1レンズ310は基準位置から右側に一ピクセル分だけ移動された位置に存在し、第2レンズ320は基準位置に、第3レンズ330は基準位置から下側に一ピクセル分だけ移動された位置に、そして第4レンズ340は基準位置から右側下の対角線方向に移動された位置に存在し得る。
フィルター部400は、複数のレンズ310、320、330、340により集光された光をフィルタリングして元の基本色に具現する役割を果たす。このためにフィルター部400は、複数のレンズ310、320、330、340に対応して、互いに異なる色相のカラーフィルターが形成される複数のサブフィルタリング領域410、420、430、440からなることが望ましい。例えば、前述したように、レンズ部300が2×2の行列形態に配置された4個のレンズを備える場合、フィルター部400は2×2の形態に配置された第1サブフィルタリング領域410、第2サブフィルタリング領域420、第3サブフィルタリング領域430及び第4サブフィルタリング領域440を有する。
また、フィルタリング領域は、各サブフィルタリング領域に形成されるカラーフィルターの透過度によって第1フィルタリング領域410、420、430と第2フィルタリング領域440とに区分されうる。この際、第1フィルタリング領域は、複数のサブフィルタリング領域を含みうる。一方、第2フィルタリング領域は、単一サブフィルタリング領域を含む。
本発明の実施例によって、第2フィルタリング領域に該当するサブフィルタリング領域には、第1フィルタリング領域に該当するサブフィルタリング領域に形成されたカラーフィルターに比べて、透過度の高いカラーフィルターが形成されることが望ましい。例えば、第1フィルタリング領域に含まれる第1サブフィルタリング領域410には赤色カラーフィルターが、第2サブフィルタリング領域420には緑色カラーフィルターが、第3サブフィルタリング領域430には青色カラーフィルターが形成されることが望ましい。一方、第2フィルタリング領域に含まれる第4サブフィルタリング領域440には赤色、緑色及び青色に比べて透過度の高い色、例えば、灰色カラーフィルターが形成されることが望ましい。前記例において、それぞれのカラーフィルターは、青色、赤色及び緑色の順序で透過度が高まり、灰色カラーフィルターは緑色カラーフィルターよりさらに高い透過度を有する。
他の実施例によって、第4サブフィルタリング領域440には灰色以外のカラーフィルターが形成されることもある。例えば、白色(white;no color filter)、黄色、シアン及びマゼンタのうち、いずれか1つの色を有するカラーフィルターが形成されうる。しかし、第4サブフィルタリング領域に形成されるカラーフィルターの色は、前述した例に限定されず、第1フィルタリング領域のサブフィルタリング領域に形成されたカラーフィルターに比べて高い透過度を有するカラーフィルターであれば、本発明の範囲に属すると見なし得る。
このように、第2フィルタリング領域440に該当するサブフィルタリング領域に、第1フィルタリング領域410、420、430に該当するサブフィルタリング領域に各々形成されるカラーフィルターの透過度より高い透過度を有するカラーフィルターを形成すれば、各サブフィルタリング領域を通過する光量に差が発生する。これは後述するイメージセンサー部500に到達する光量に差が発生するということを意味し、イメージセンサー部500に高感度センシング機能及び低感度センシング機能が同時に具現されることを意味する。
具体的に、イメージセンサー部500のセンシング領域510、520、530、540は、複数のサブフィルタリング領域410、420、430、440に各々対応する複数のサブセンシング領域510、520、530、540に区分しうる。ところが複数のサブセンシング領域510、520、530、540のうち、第2フィルタリング領域に含まれたサブフィルタリング領域と対応するサブセンシング領域に到達する光の量は、第1フィルタリング領域410、420、430に含まれたサブフィルタリング領域と対応するサブセンシング領域に到達する光の量より多い。よって、第2フィルタリング領域に含まれたサブフィルタリング領域と対応するサブセンシング領域は、第1フィルタリング領域410、420、430に含まれたサブフィルタリング領域と対応するサブセンシング領域に比べて相対的に高感度センシング機能を有している。
前述した例によれば、イメージセンサー部500のセンシング領域は、第1サブフィルタリング領域410、第2サブフィルタリング領域420、第3サブフィルタリング領域430及び第4サブフィルタリング領域440に各々対応する第1サブセンシング領域510、第2サブセンシング領域520、第3サブセンシング領域530及び第4サブセンシング領域540に区分しうる。この際、第4サブセンシング領域540に到達する光量は、第1サブセンシング領域510に到達する光量より多い。なぜなら、第4サブセンシング領域540に対応する第4サブフィルタリング領域440には、灰色カラーフィルターが形成されており、第1サブセンシング領域510に対応する第1サブフィルタリング領域410には、灰色カラーフィルターより透過度の低い赤色カラーフィルターが形成されているからである。よって、第4サブセンシング領域540は、第1サブセンシング領域510に比べて相対的に高感度センシング機能を有する。同様に、第2サブセンシング領域520に到達する光量は、第4サブセンシング領域540に到達する光量より少なく、第3サブセンシング領域530に到達する光量も第4サブセンシング領域540に到達する光量より少ないために、第2サブセンシング領域520及び第3サブセンシング領域530は、各々第4サブセンシング領域540に比べて低感度センシング機能を有すると言える。
前述したような構成要素に加えて、フィルター部400は所定波長の光、例えば、赤外線を遮断するための赤外線遮断フィルター460を選択的に含みうる。この際、赤外線遮断フィルター460は、イメージセンサーに到達する赤外線を遮断し、可視光線領域のイメージ情報がき損されることを防止する役割を果たす。すなわち、イメージセンサーの感度は、赤外線にも反応するが、赤外線遮断フィルター460を使用すれば、赤外線が遮断されるので、可視光線領域のイメージ情報がき損されることを防止しうる。従来イメージセンサーの構造によれば、カラーフィルターと赤外線遮断フィルターとを統合して具現できないが、本発明によれば、カラーフィルター470と赤外線遮断フィルター460とを統合して製作しうる。
赤外線遮断フィルター460は、基板450とカラーフィルター層470との間に形成されるか、カラーフィルター層470の上部に設けられうる。または基板450の一面にカラーフィルター層470が形成された場合、赤外線遮断フィルター460は基板450の他面に形成されることもある。図4Aないし図4Cは、図3のIII−III’線に沿って切開した断面図を示すものであって、カラーフィルター及び赤外線遮断フィルター460の形成位置についての多様な実施例を示している。図4Aは、基板450の一面に赤外線遮断フィルター460及びカラーフィルターが順次に形成されたことを示しており、図4Bは、基板450の一面にカラーフィルター及び赤外線遮断フィルター460が順次に形成されたことを示している。一方、図4Cは、基板450の一面にはカラーフィルターが形成されており、基板450の他面には赤外線遮断フィルター460が形成されていることを示している。
一方、前述したフィルター部400は、互いに異なる色のカラーフィルターが形成された複数の基板を各々多数のサブ基板に分割した後、互いに異なる色のカラーフィルターを有するサブ基板を組合わせる工程を経て生成されうる。図5は、フィルター部400の生成工程を示す平面図である。例えば、図4Cに示されたような構造のフィルター部400を生成するためには、まず、第1、第2、第3及び第4基板の一面に赤外線遮断フィルター460層を形成する。次いで、各基板の他面に各々赤色、緑色、青色及び灰色カラーフィルターを塗布してカラーフィルター層470を形成する。次いで、各基板を4等分して、4個のサブ基板に分離する。そして、互いに異なる色のカラーフィルターが形成されたサブ基板を各々組合わせて、図4Cに示されたような構造のフィルター部400を生成する。前述したような工程によれば、カラーフィルターのパターニング工程が省略されるので、カラーフィルターの形成に使われるインクを節約する効果がある。
一方、イメージセンサー部500は、各サブフィルタリング領域410、420、430、440を通過した光を感知して、電気信号に変換する役割を果たす。このためにイメージセンサー部500は、各サブフィルタリング領域410、420、430、440を通過した光を感知する光感知部(図示せず)及び光感知部により感知された光を電気的な信号に変換してデータ化する回路部(図示せず)を含んで構成される。
ここで、図6を参照してイメージセンサー部500についてさらに具体的に説明する。図6は、イメージセンサー部を構成する単位ピクセルに対する断面図である。
図6を参照すれば、基板550上には受光素子560、例えば、フォトダイオード(PD)が形成される。この際、受光素子560間には各々素子分離膜570a、570bが形成される。
受光素子560の上部には、回路部を形成するための金属配線層590が形成される。この際、受光素子560と金属配線層590との間には絶縁層(IMD;Inter−Metal Dielectric)580aが形成され、金属配線層590は受光素子560に入射される光の経路を遮断しないように設計されることが望ましい。図6は、一層の金属配線層590が形成されていることを示しているが、金属配線層590は、場合によって複数の層に形成されることもある。この際、各金属配線層590は、各金属配線層を絶縁するための絶縁層580bが形成される。
絶縁層580bの最上部には、受光素子560の光感度を増加させるためのマイクロレンズ(Micro Lens;ML)595が形成される。一般的に、フォトダイオード560は、単位ピクセル領域の全領域を占めるものでなく、単位ピクセルのうち、一定部分のみを占める。したがって、ピクセル領域でフォトダイオード560が占める面積を示す比率(fill factor)が1より小さな値を有し、これは入射光の一部が損失されるということを意味する。ところが、絶縁層580bの最上部にマイクロレンズ595を形成すれば、入射光がマイクロレンズ595により集光されるために受光素子560に収斂される光量を増加させうる。
また、前述した形のイメージセンサー部500は、従来の技術に比べて、カラーフィルター層470及びカラーフィルター層470を平坦化するための平坦層(図7B参照)が形成されないので、光損失及び信号干渉(クロストーク)が減少する。さらに具体的な説明のために図7A及び図7Bを参照する。
図7A及び図7Bは、マイクロレンズ595に傾いて入射される光の収斂程度をマイクロレンズと受光素子との距離によって示す図面である。ここで、図7Aは、本発明の実施例によるイメージセンサーでの単位ピクセルの断面図を、図7Bは、従来技術によるイメージセンサーでの単位ピクセルの断面図を示す。
図7Bを参照すれば、一般的に、マイクロレンズ595の焦点の位置は、受光素子560の位置に固定されるが、この場合、マイクロレンズ595に垂直に入射される光は受光素子560にいずれも収斂される。しかし、マイクロレンズ595に一定角度に傾いて入射される光は、該当ピクセルの受光素子560に全て収斂されず、損失されるか、隣接したピクセルの受光素子560に入射されて信号干渉を誘発する。ところが、本発明のように、カラーフィルター層470及び平坦化層が除去されれば、マイクロレンズ595と受光素子560との間隔が狭くなるので、図7Aに示されたように、マイクロレンズ595に一定角度に傾いて入射される光も該当ピクセルの受光素子560に収斂される。これにより、隣接したピクセルの受光素子560に入射される光量は減少し、信号干渉も減少する。
前述したような構造のピクセルは多数個が集まってセンシング領域510、520、530、540を形成する。ここで、センシング領域は、前述したフィルター部400の各サブフィルタリング領域に対応する複数のサブセンシング領域510、520、530、540に区分されうる。すなわち、前述した例によれば、イメージセンサー部500のセンシング領域510、520、530、540は、第1サブフィルタリング領域410、第2サブフィルタリング領域420、第3サブフィルタリング領域430及び第4サブフィルタリング領域440に各々対応する第1サブセンシング領域510、第2サブセンシング領域520、第3サブセンシング領域530及び第4サブセンシング領域540に区分されうる。この際、第1サブセンシング領域510は、赤色カラーフィルターを通過した光を感知し、第2サブセンシング領域520は緑色カラーフィルターを通過した光を感知し、第3サブセンシング領域530は青色カラーフィルターを通過した光を感知し、第4サブセンシング領域540は灰色カラーフィルターを通過した光を感知する。その結果、カラー別に分離された複数の原イメージ(図8Bの511、521、531及び541参照)が得られる。
一方、複数のサブセンシング領域510、520、530、540に区分されたセンシング領域510、520、530、540は、光感度によって低感度センシング領域と高感度センシング領域とに区分されうる。この際、低感度センシング領域と高感度センシング領域は、各サブセンシング領域に到達する光量によって区分される。ところが、各サブセンシング領域に到達する光量は、各サブセンシング領域と対応するサブフィルタリング領域に形成されているカラーフィルターによって変わる。したがって、カラーフィルターの透過度によって第1フィルタリング領域と第2フィルタリング領域とに区分されたフィルタリング領域のうち、第1フィルタリング領域及び第2フィルタリング領域に各々対応するセンシング領域を低感度センシング領域及び高感度センシング領域に区分しうる。
さらに具体的に、前述した例によれば、第1サブセンシング領域510、第2サブセンシング領域520及び第3サブセンシング領域530は低感度センシング領域に該当し、第4サブセンシング領域540は高感度センシング領域に該当する。これは、第4サブフィルタリング領域440に形成された灰色カラーフィルターは第1サブフィルタリング領域410、第2サブフィルタリング領域420及び第3サブフィルタリング領域430に各々形成された赤色、緑色及び青色カラーフィルターに比べて透過度が高く、第4サブセンシング領域540に到達する光量は第1サブセンシング領域510、第2サブセンシング領域520及び第3サブセンシング領域530各々に到達する光量より多いからである。
このように、イメージセンサー部500に低感度センシング領域及び高感度センシング領域が具現されれば、後述するイメージ生成モジュールは高感度センシング領域から得た輝度情報Y’及び低感度センシング領域から得た輝度情報Yを用いてイメージを復元しうる。したがって、照度差の大きい環境でも、鮮明な映像を具現しうる。すなわち、広域逆光補正機能(WDR;Wide Dynamic Range)を具現しうる。
また図2を参照すれば、イメージ生成モジュール800は、カメラモジュール200からカラー別に分離された複数の原イメージ511、521、531、541を提供され、最終イメージ(図9Bの90)を生成する役割を果たす。このためにイメージ生成モジュールは、入力モジュール810、中間イメージ生成モジュール820及び最終イメージ生成モジュール830を含んで構成される。
入力モジュール810は、カメラモジュール200から提供されるカラー別に分離された複数の原イメージ511、521、531、541を入力される。すなわち、入力モジュール810は、第1サブセンシング領域510により獲得された赤色イメージ、第2サブセンシング領域520により獲得された緑色イメージ、第3サブセンシング領域530により獲得された青色イメージ及び第4サブセンシング領域540により獲得された灰色イメージを入力される。この際、赤色イメージ、緑色イメージ及び青色イメージは、後述する最終イメージ生成モジュール830を通じて最終イメージ90の生成に必要なカラー情報を提供する役割を果たす。一方、灰色イメージは、最終イメージ90の生成に必要な輝度情報を提供する役割を果たす。
また、入力モジュール810は、カメラモジュール200から提供されるカラー別原イメージ551、521、531、541の感度が不均一な場合、特定の原イメージの感度を基準として残りの原イメージの感度を調節し得る。例えば入力モジュールは810はカラー別原イメージの感度のうち最小値を基準として各原イメージの感度を調節し得る。具体的に、第1原イメージ511、第2原イメージ521、第3原イメージ531および第4原イメージ541の感度がそれぞれ5、7、10、9である場合、入力モジュール810は第1原イメージ511の感度を基準として残りのイメージの感度を5に調整する。
一方、カメラモジュール200で各レンズ310、320、330、340の位置が固定されていたとしても外部の衝撃などによって各レンズ310、320、330、340の位置が逸れる現象が発生し得る。このように各レンズ310、320、330、340が逸れると、各サブセンシング領域510、520、530、540上に原イメージ511、521、531、541が形成されるとき、事前指定された位置を外れた位置に生成され、これによって鮮明な映像を得ることが難しくなる。したがって光学的不一致(optical misalignment)によって、事前指定された位置から外れた位置に原イメージ511、521、531、541が生成されたとしてもこれを補正する必要がある。
入力モジュール810はカラー別原イメージ511、521、531、541の位置が事前指定された位置に符合しない場合、前記カラー別原イメージ511、521、531、541の位置を補正する。具体的に、被写体によって反射される光がレンズ300およびフィルター400を経てセンシング領域に到達すれば、各レンズ310、320、330、340に対応するサブセンシング領域510、520、530、540上に形成されたカラー別原イメージの位置をチェックしてカラー別原イメージの位置を補正する。より詳細な説明のために図8を参照する。
図8は各サブセンシング領域上に形成されたカラー別原イメージを例示した図である。
図8を参照すれば、第2原イメージ521の位置は事前指定された位置700と同一であるのに比べ、第1原イメージ511の位置は事前指定された位置700に比べ左側に一ピクセル分だけ移動されているのが分かる。そして第3原イメージ531の場合、事前指定された位置700に比べ下側に一ピクセル分だけ移動されているのが分かる。そして第4原イメージ541の場合、事前指定された位置700に比べ右側下の対角線方向に移動されているのが分かる。
この場合、入力モジュール810は第1原イメージ511の全体的な位置を右側に一ピクセル分だけ移動させ、第3原イメージの全体的な位置を上側に一ピクセル分だけ移動させることによって、光学的不一致により発生した原イメージの位置を正常に補正することができる。第4原イメージ541の場合、第4原イメージを上側に一ピクセル分だけ移動させた後、改めて左側に一ピクセル分だけ移動させることによって位置を補正することができる。また、第4原イメージは541は左側に一ピクセル分だけ移動させた後、改めて上側に一ピクセル分だけ移動させることによって位置を補正することができる。
前述したように、入力モジュール810によって感度および位置が補正されたカラー別原イメージ511、521、531、541は、後述する中間イメージ生成モジュール820に提供される。
中間イメージ生成モジュール820は、入力モジュール810から提供された各カラー別原イメージ511、521、531、541で同じ位置のピクセルが有するピクセル情報を再配置し、前記カラー別原イメージより高い解像度を有する中間イメージを生成する。この際、中間イメージは、イメージセンサー部500のセンシング領域510、520、530、540と同じ解像度を有することが望ましい。例えば、前述したイメージセンサー部500の各サブセンシング領域が4×4の解像度を有する場合、中間イメージは全体センシング領域510、520、530、540と同じ8×8の解像度を有することが望ましい。中間イメージは後述する最終イメージ生成モジュール830に提供される。
最終イメージ生成モジュール830は、中間イメージ生成モジュール820から提供された中間イメージを基盤に最終イメージ90を生成する役割を果たす。中間イメージ及び最終イメージ生成についてのさらに具体的な説明は、図9Aないし図11Bを参照して後述する。
ディスプレイモジュール900は、最終イメージ生成モジュール830から提供された最終イメージ90をディスプレイする役割を果たす。このようなディスプレイモジュール900は、例えば、平板ディスプレイ、タッチスクリーンなどの形で具現されうるが、これに限定されるものではない。
次いで、図9A及び図9Bを参照して本発明の実施例によるイメージ復元方法を説明する。ここで、図9Aは、本発明の実施例によるイメージ復元方法を示すフローチャートであり、図9Bは、カメラモジュール200を通じてカラー別に分離された複数の原イメージ511、521、531、541が獲得される過程を示す図面である。
説明の便宜のためにフィルター部400の第1サブフィルタリング領域410には赤色フィルターが、第2サブフィルタリング領域420には緑色フィルターが、第3サブフィルタリング領域430には青色フィルターが形成され、第4サブフィルタリング領域440には灰色フィルターが形成されていると仮定する。そして、イメージセンサー部500のセンシング領域510、520、530、540は、横×縦8×8個のピクセルで構成され、それぞれのサブセンシング領域510、520、530、540は横×縦4×4個のピクセルからなると仮定する。
まず、所定の被写体10からの反射光は4個のレンズ310、320、330、340を通じて各々集光される(S810)。
各レンズ310、320、330、340を通じて集光された光は、各レンズ310、320、330、340に対応するサブフィルタリング領域410、420、430、440を透過する(S820)。
各サブフィルタリング領域410、420、430、440を透過した光は、各サブフィルタリング領域410、420、430、440に対応するサブセンシング領域510、520、530、540に各々収斂される。その結果、各サブセンシング領域510、520、530、540を通じてカラー別に分離された複数の原イメージ511、521、531、541が獲得される(S830)。この際、各サブセンシング領域510、520、530、540により獲得されたイメージは、全体センシング領域510、520、530、540の解像度に比べて1/4に該当する解像度を有する。すなわち、全体センシング領域510、520、530、540の解像度が8×8であるために、複数の原イメージ511、521、531、541は、各々4×4の解像度を有する。前記S830段階は、カラー別原イメージの感度が不均一な場合、カラー別原イメージの感度を補正する段階と、カラー別原イメージの位置が事前指定された位置から外れた場合、前記カラー別原イメージの位置を補正する段階を含み得る。
この後、イメージ生成モジュール800は、複数のカラー別原イメージを基盤にして各カラー別原イメージ511、521、531、541より高解像度を有する最終イメージ90を生成する(S840)。最終イメージ生成段階についてのさらに具体的な説明は、図10Aないし図11Bを参照して後述する。
イメージ生成モジュール800により生成された最終イメージ90は、ディスプレイモジュール900を通じてディスプレイされる(S850)。
次いで、図10A及び図10Bを参照して本発明の第1実施例による最終イメージ生成段階について説明する。ここで、図10Aは、第1実施例による最終イメージ生成方法をさらに具体的に示すフローチャートであり、図10Bは、図10Aに示された最終イメージ生成過程を示す図面である。
本発明の第1実施形態による最終イメージ生成方法は、カメラモジュール200でレンズ部330を構成する複数個のレンズ310、320、330、340がすべて基準位置に存在する場合に適用され得る。
まず、カメラモジュール200から複数のカラー別原イメージ511、521、531、541が提供されれば、中間イメージ生成モジュール820はセンシング領域510、520、530、540に対応する解像度を有する第1中間イメージを生成する。例えば、図10Bのように、センシング領域と同じ解像度を有する第1中間イメージを生成する(S841)。
ここで、第1中間イメージは、カラーフィルターの配列パターンに対応する多数のピクセルを含む多数のピクセルグループ610、620、630、640に区分しうる。例えば、横×縦に各々2×2個の仮想ピクセルを単位とする多数のピクセルグループ610、620、630、640に区分しうる。ここで、各ピクセルグループ610、620、630、640は、カラー情報及び輝度情報がマッピングされるメインピクセル611、621、631、641及び、メインピクセル611、621、631、641の周辺に位置し、情報を保持していないサブピクセル612、622、632、642に区分しうる。
メインピクセルの位置は、該当ピクセルグループで多様な位置に指定されうる。例えば、図10Bのように、2×2の各ピクセルグループで、最初行の第1列に該当する位置がメインピクセルの位置に指定されうる。他の例としては、各ピクセルグループで、最初行の第2列に該当する位置がメインピクセルの位置に指定されることもある。
このように、第1中間イメージが生成されれば、中間イメージ生成モジュール820は、各カラー別原イメージで同じ位置のピクセルが有するピクセル情報を、前記位置に対応するピクセルグループのメインピクセルにマッピングする。例えば、中間イメージ生成モジュール820は、各カラー別原イメージの第1行と第1列に位置したピクセルのピクセル情報を、第1中間イメージで第1行と第1列に位置したピクセルグループ610のメインピクセル611にマッピングする。同様に、中間イメージ生成モジュール820は、各カラー別原イメージの第1行と第2列に位置したピクセルのピクセル情報を、第1中間イメージで第1行と第2列に位置したピクセルグループ620のメインピクセル621にマッピングする。
また、中間イメージ生成モジュール820は、各カラー別原イメージで同じ位置のピクセルが有するピクセル情報のうち、カラー情報を基盤に輝度情報を算出し、前記算出された輝度情報を各ピクセルグループのメインピクセルにマッピングする。
例えば、中間イメージ生成モジュール820は、赤色、緑色及び青色イメージの最初行と最初列に位置したピクセルで提供されたカラー情報を基盤に輝度情報を算出する。そして、第1中間イメージで第1行と第1列に位置したピクセルグループのメインピクセルに算出された輝度情報をマッピングする。
図10Bを参照すれば、各ピクセルグループのメインピクセルには、第1、第2及び第3サブセンシング領域510、520、530から各々提供された赤色(R)、緑色(G)、青色(B)のカラー情報、第4サブセンシング領域540から提供された輝度情報(Y’)及び、3色のカラー情報から検出された輝度情報(Y)がマッピングされていることが分かる。一例として、第1ピクセルグループ610のメインピクセル611には、赤色イメージ511で第1行の第1列に位置したピクセルが有する赤色カラー情報(R)、緑色イメージ521で最初行の最初列に位置したピクセルが有する緑色カラー情報(G)、青色イメージ531で第1行の第1列に位置したピクセルが有する青色カラー情報(B)、灰色イメージ541で第1行の第1列に位置したピクセルが有する輝度情報(Y’)及び、3個のカラー情報を基盤として検出された輝度情報(Y)がマッピングされていることが分かる。同様に、第2ピクセルグループ620のメインピクセル621には、赤色イメージ511で第1行の第2列に位置したピクセルが有する赤色カラー情報(R)、緑色イメージ521で第1行の第2列に位置したピクセルが有する緑色カラー情報(G)、青色イメージ531で第1行の第2列に位置したピクセルが有する青色カラー情報(B)、灰色イメージ541で第1行の第2列に位置したピクセルが有する輝度情報(Y’)及び、既提供の3個のカラー情報を基盤にして検出された輝度情報(Y)がマッピングされていることが分かる。
これにより、中間イメージ生成モジュール820は、各ピクセルグループのメインピクセルに3個のカラー情報及び2個の輝度情報がマッピングされた第2中間イメージ600を生成する(S842)。この場合、第2中間イメージ600で、各グループの主ピクセルは3個のカラー情報がすべてマッピングされるため、後続に進行される処理過程でデモザイクが省略され得る。
次いで、中間イメージ生成モジュール820は、補間法を使用して、第2中間イメージ600を補間する(S843)。すなわち、中間イメージ生成モジュール820は、各ピクセルグループ610、620、630、640のメインピクセル611、621、631、641が保有した情報を基盤にして、サブピクセルに記録されるピクセル情報を算出する。
この際、中間イメージ生成モジュール820は、多様なアルゴリズムによって第2中間イメージ600を補間しうる。一例として、第2中間イメージ600で各サブピクセルに記録されるピクセル情報は該当サブピクセルと隣接したメインピクセルが有する情報から算出しうる。具体的に、図10Bで、第1ピクセルグループ610のメインピクセル611と第2ピクセルグループ620のメインピクセル621との間に位置したサブピクセル612に記録されるピクセル情報は、2つのメインピクセル611、621が有するピクセル情報の平均値に指定されうる。同様に、第2ピクセルグループ620のメインピクセル621と第3ピクセルグループ630のメインピクセル631間に位置したサブピクセル622に記録されるピクセル情報は、2つのメインピクセル621、631が有するピクセル情報の平均値に指定されうる。
このような方法により第2中間イメージ600の補間がなされれば、最終イメージ生成モジュール830は補間された第2中間イメージをデブラーリング(de−blurring)する(S844)。その結果、各サブセンシング領域を通じて得られた低解像度(すなわち、サブセンシング領域の解像度)のカラー別原イメージから高解像度(すなわち、サブセンシング領域の解像度×4)の最終イメージ90を生成する。
次いで、図11A及び図11Bを参照して本発明の第2実施例による最終イメージ生成段階について説明する。ここで、図11Aは、第2実施例による最終イメージ生成方法をさらに具体的に示すフローチャートであり、図11Bは、図11Aのピクセル情報を再配置する段階S846を示す図面である。
本発明の第2実施形態による最終イメージ生成方法は、カメラモジュール200でレンズ部330を構成する複数個のレンズが所定レンズの位置を基準として所定ピクセル分だけ移動された位置に存在する場合に適用され得る。以下の説明では第2レンズの位置を中心として第1レンズは右側に一ピクセル分だけシフトしており、第3レンズは下側に一ピクセル分だけシフトしており、第4レンズは右側下の対角線方向にシフトしている場合を例として説明するものとする。
カメラモジュール200から複数のカラー別原イメージ511、521、531、541が提供されれば、中間イメージ生成モジュール820は、各カラー別原イメージ511、521、531、541で同じ位置のピクセルが有するピクセル情報をカラーフィルターの配列パターンによって再配置して中間イメージ60を生成する(S846)。
具体的に、中間イメージ60は、カラーフィルターの配列パターンに対応する複数のピクセルを含む複数のピクセルグループに区分しうる。例えば、フィルター部400に形成されたカラーフィルターのパターンが1×4の行列形態を有する場合、中間イメージ60は、横×縦各々1×4のピクセルを単位とする複数のピクセルグループに区分されることが望ましい。もし、フィルター部400に形成されたカラーフィルターのパターンが2×2の行列形態を有する場合、中間イメージは横×縦各々2×2のピクセルを単位とする複数のピクセルグループに区分されることが望ましい。
図11Bは、仮想イメージが横×縦各々2×2のピクセルを単位とする複数のピクセルグループ61、62、63、64に区分されている場合を示している。図11Bを参照すれば、各カラー別原イメージ511、521、531、541で第1行の第1列に位置したピクセルが有するピクセル情報は中間イメージ60の第1行の第1列に位置したピクセルグループ61にカラーフィルターのパターンによってマッピングされていることが分かる。
図11Bのような中間イメージ60が生成されれば、中間イメージ生成モジュール820は、中間イメージをデモザイクする(S847)。デモザイクされた中間イメージは、最終イメージ生成モジュール830に提供される。
次いで、最終イメージ生成モジュール830は、デモザイクされた中間イメージをデブラーリングする(848)。その結果、各サブセンシング領域を通じて得られた低解像度(すなわち、サブセンシング領域の解像度×4)のカラー別原イメージから高解像度(すなわち、サブセンシング領域の解像度×4)の最終イメージ90を生成する。
次いで、本発明の第2実施例によるカメラモジュール20について説明する。図12は、本発明の第2実施例によるカメラモジュール20の構造を示す斜視図である。本発明の第2実施例によるカメラモジュール20は、図3の第1実施例によるカメラモジュール200に比べて、下記を除いては同じ構成要素を有する。
すなわち、第2実施例によるカメラモジュール20は、レンズ部30を構成する複数のレンズ31、32、33、34が互いに異なる色を有する。ここで、レンズ部30は透過度によって第1グループと第2グループとに区分しうる。この際、第1グループは複数のレンズを備え、第2グループは1つのレンズを備えうる。
ここで、第2グループに含まれるレンズ34は、第1グループに含まれるレンズ31、32、33に比べて透過度の高い色を有することが望ましい。例えば、4個のレンズのうち、第1グループは赤色の第1レンズ31、緑色の第2レンズ32、青色の第3レンズ33を備える場合、第2グループに含まれる第4レンズ34は赤色、緑色及び青色各々に比べて透過度の高い色、例えば、灰色を有することが望ましい。
このように、複数のレンズ31、32、33、34が各々互いに異なる色を有する場合、フィルター部40には別途のカラーフィルター層が形成されない。図示していないが、フィルター部40には赤外線遮断フィルターが選択的に形成されうる。
そして、イメージセンサー部500のセンシング領域は、各レンズ31、32、33、34に対応する複数のサブセンシング領域510、520、530、540に分割され、各サブセンシング領域510、520、530、540を通じて各レンズによりカラー別に分離された原イメージ511、521、531、541が得られる。
以上、添付図を参照して本発明によるイメージ復元方法及び装置について説明したが、本発明が属する技術分野で当業者ならば本発明がその技術的思想や必須特徴を変更せずとも他の具体的な形に実施されうるということが理解できるであろう。したがって、前述した実施例は全ての面で例示的なものであって、限定的なものではないと理解せねばならない。
本発明のイメージ復元方法及び装置は、デジタルカメラ関連の技術分野に好適に適用されうる。
従来のカメラモジュールの原理を示す図である。 本発明の実施例によるイメージ復元装置の構造を示すブロック図である。 本発明の第1実施例によるカメラモジュールの内部構造を示す斜視図である。 図3のフィルター部の構造に対する多様な実施例を例示した例示図である。 図3のフィルター部の構造に対する多様な実施例を例示した例示図である。 図3のフィルター部の構造に対する多様な実施例を例示した例示図である。 図4Cに示されたフィルター部の工程過程を例示した例示図である。 図3のイメージセンサー部を構成する単位ピクセルに対する断面図である。 図6のマイクロレンズに傾いて入射される光の収斂程度をマイクロレンズと受光素子との距離によって示す図である。 図6のマイクロレンズに傾いて入射される光の収斂程度をマイクロレンズと受光素子との距離によって示す図である。 図3の各サブセンシング領域上に形成されたカラー別原イメージを例示した図である。 本発明の実施例によるイメージ復元方法を説明するための図である。 本発明の実施例によるイメージ復元方法を説明するための図である。 第1実施例による最終イメージ生成段階S840をさらに具体的に示す図である。 第1実施例による最終イメージ生成段階S840をさらに具体的に示す図である。 第2実施例による最終イメージ生成段階S840をさらに具体的に示す図である。 第2実施例による最終イメージ生成段階S840をさらに具体的に示す図である。 本発明の第2実施例によるカメラモジュールの内部構造を示す斜視図である。
符号の説明
10 被写体
100 イメージ復元装置
200 カメラモジュール
300 レンズ部
400 フィルター部
410 第1サブフィルタリング領域
420 第2サブフィルタリング領域
430 第3サブフィルタリング領域
440 第4サブフィルタリング領域
470G 緑色カラーフィルター
480R 赤色カラーフィルター
500 イメージセンサー部
510 第1サブセンシング領域
520 第2サブセンシング領域
530 第3サブセンシング領域
540 第4サブセンシング領域
560 受光素子
570a、570b 素子分離膜
580a、580b 絶縁層
590 金属配線層
595 マイクロレンズ
800 信号処理部
810 入力モジュール
820 中間イメージ生成モジュール
830 最終イメージ生成モジュール
900 ディスプレイモジュール

Claims (42)

  1. 複数のレンズ及び前記レンズに各々対応する複数のイメージセンシング領域を含むカメラモジュールを通じてカラー別に分離された複数の原イメージを獲得する段階と、
    前記センシング領域に対応して、複数のピクセルグループに区分される第1中間イメージを生成する段階と、
    前記各カラー別原イメージで同じ位置のピクセルが有するピクセル情報を、前記第1中間イメージで前記位置に対応するピクセルグループの所定ピクセルにマッピングして第2中間イメージを生成する段階と、
    前記第2中間イメージを補間して最終イメージを生成する段階と、を含むが、
    前記ピクセルグループは、前記カラーフィルターの配列パターンに対応する複数のピクセルを含むイメージ復元方法。
  2. 前記カラー別に分離された複数の原イメージを獲得する段階は、
    前記複数の原イメージの位置が前記各イメージセンシング領域内の定められた位置から外れた場合、前記複数の原イメージの位置を補正する段階を含む請求項1に記載のイメージ復元方法。
  3. 前記カラー別に分離された複数の原イメージを獲得する段階は、
    前記複数の原イメージの感度が不均一な場合、前記複数の原イメージの感度のうち最低感度を基準として前記複数の原イメージの感度を補正する段階を含む請求項1に記載のイメージ復元方法。
  4. 前記複数の原イメージを獲得する段階は、
    前記複数のレンズを用いて入射光を集光する段階と、
    前記各レンズの領域に対応して、互いに異なる色相のカラーフィルターが形成された複数のフィルタリング領域を通じて前記入射光をフィルタリングする段階と、
    前記複数のフィルタリング領域と所定間隔に離隔されて形成され、前記各フィルタリング領域に対応する前記複数のイメージセンシング領域を通じて前記カラー別に分離された複数の原イメージを獲得する段階と、を含む請求項1記載のイメージ復元方法。
  5. 前記フィルタリング領域は、前記カラーフィルターの透過度によって第1フィルタリング領域と第2フィルタリング領域とに区分され、前記第1フィルタリング領域に形成されるカラーフィルターの透過度は、前記第2フィルタリング領域に形成されるカラーフィルターの透過度より高く、前記センシング領域は、前記第1フィルタリング領域及び前記第2フィルタリング領域に各々対応する第1センシング領域と第2センシング領域とに区分され、前記第1センシング領域に含まれたサブセンシング領域に収斂される光量は、前記第2センシング領域に含まれたサブセンシング領域に収斂される光量より多い請求項4記載のイメージ復元方法。
  6. 前記ピクセル情報は、前記第1センシング領域に含まれるサブセンシング領域から提供された輝度情報及び前記第2センシング領域に含まれるサブセンシング領域から提供されたカラー情報を含む請求項5記載のイメージ復元方法。
  7. 前記複数の原イメージを獲得する段階は、
    互いに異なる色相を有する前記複数のレンズを用いて入射光を集光する段階と、
    前記各レンズの領域に対応する前記複数のイメージセンシング領域を通じて前記カラー別に分離された複数の原イメージを獲得する段階を含む請求項1記載のイメージ復元方法。
  8. 前記レンズは、前記レンズの透過度によって第1レンズ部と第2レンズ部とに区分され、前記第1レンズ部に含まれるレンズの透過度は、前記第2レンズ部に含まれるレンズの透過度より高く、前記センシング領域は、前記第1レンズ部及び前記第2レンズ部に各々対応する第1センシング領域と第2センシング領域とに区分され、前記第1センシング領域に含まれるサブセンシング領域に収斂される光量は、前記第2サブセンシング領域に含まれるサブセンシング領域に収斂される光量より多い請求項7記載のイメージ復元方法。
  9. 前記ピクセル情報は、前記第1センシング領域に含まれるサブセンシング領域から提供された輝度情報及び前記第2センシング領域に含まれるサブセンシング領域から提供されたカラー情報を含む請求項8記載のイメージ復元方法。
  10. 前記複数のレンズは、同一平面上に位置する請求項1記載のイメージ復元方法。
  11. 複数のレンズ及び前記レンズに各々対応する複数のイメージセンシング領域を含むカメラモジュールを通じてカラー別に分離された複数の原イメージを獲得する段階と、
    前記各カラー別原イメージで同じ位置のピクセルが有するピクセル情報を、前記カラーフィルターの配列パターンによって再配置して中間イメージを生成する段階と、
    前記中間イメージをデモザイクして最終イメージを生成する段階と、を含むイメージ復元方法。
  12. 前記複数のレンズのうち、所定レンズを除外した残りのレンズは、前記所定レンズの位置を基準として所定ピクセルの分だけ移動される位置に存在する請求項11に記載のイメージ復元方法。
  13. 前記カラー別に分離された原イメージを獲得する段階は、
    前記複数の原イメージの位置が前記各イメージセンシング領域内の定められた位置から外れた場合、前記複数の原イメージの位置を補正する段階を含む請求項11に記載のイメージ復元方法。
  14. 前記カラー別に分離された複数の原イメージを獲得する段階は、
    前記複数の原イメージの感度が不均一な場合、前記複数の原イメージの感度のうち最低感度を基準として前記複数の原イメージの感度を補正する段階を含む請求項11に記載のイメージ復元方法。
  15. 前記複数の原イメージを獲得する段階は、
    前記複数のレンズを用いて入射光を集光する段階と、
    前記各レンズの領域に対応して、互いに異なる色相のカラーフィルターが形成された複数のフィルタリング領域を通じて前記入射光をフィルタリングする段階と、
    前記複数のフィルタリング領域と所定間隔に離隔されて形成され、前記各フィルタリング領域に対応する前記複数のイメージセンシング領域を通じて前記カラー別に分離された複数の原イメージを獲得する段階と、を含む請求項11記載のイメージ復元方法。
  16. 前記フィルタリング領域は、前記カラーフィルターの透過度によって第1フィルタリング領域と第2フィルタリング領域とに区分され、前記第1フィルタリング領域に形成されるカラーフィルターの透過度は、前記第2フィルタリング領域に形成されるカラーフィルターの透過度より高く、前記センシング領域は、前記第1フィルタリング領域及び前記第2フィルタリング領域に各々対応する第1センシング領域と第2センシング領域とに区分され、前記第1センシング領域に含まれたサブセンシング領域に収斂される光量は、前記第2センシング領域に含まれたサブセンシング領域に収斂される光量より多い請求項15記載のイメージ復元方法。
  17. 前記ピクセル情報は、前記第1センシング領域に含まれるサブセンシング領域から提供された輝度情報及び前記第2センシング領域に含まれるサブセンシング領域から提供されたカラー情報を含む請求項16記載のイメージ復元方法。
  18. 前記複数の原イメージを獲得する段階は、
    互いに異なる色相を有する前記複数のレンズを用いて入射光を集光する段階と、
    前記各レンズの領域に対応する前記複数のイメージセンシング領域を通じて前記カラー別に分離された複数の原イメージを獲得する段階を含む請求項11記載のイメージ復元方法。
  19. 前記レンズは、前記レンズの透過度によって第1レンズ部と第2レンズ部とに区分され、前記第1レンズ部に含まれるレンズの透過度は、前記第2レンズ部に含まれるレンズの透過度より高く、前記センシング領域は、前記第1レンズ部及び前記第2レンズ部に各々対応する第1センシング領域と第2センシング領域とに区分され、前記第1センシング領域に含まれるサブセンシング領域に収斂される光量は、前記第2サブセンシング領域に含まれるサブセンシング領域に収斂される光量より多い請求項18記載のイメージ復元方法。
  20. 前記ピクセル情報は、前記第1センシング領域に含まれるサブセンシング領域から提供された輝度情報及び前記第2センシング領域に含まれるサブセンシング領域から提供されたカラー情報を含む請求項19記載のイメージ復元方法。
  21. 前記複数のレンズは、同一平面上に位置する請求項11記載のイメージ復元方法。
  22. 複数のレンズ及び前記レンズに各々対応するイメージセンシング領域を含むカメラモジュールを介して獲得されたカラー別に分離された複数の原イメージを入力される入力モジュールと、
    前記センシング領域に対応して、複数のピクセルグループに区分される第1中間イメージを生成し、前記各カラー別原イメージで同じ位置のピクセルが有するピクセル情報を、前記第1中間イメージで前記位置に対応するピクセルグループの所定ピクセルにマッピングして、第2中間イメージを生成する中間イメージ生成モジュールと、
    前記第2中間イメージを補間して最終イメージを生成する最終イメージ生成モジュールと、を備えるが、
    前記ピクセルグループは、前記カラーフィルターの配列パターンに対応する複数のピクセルを備えるイメージ復元装置。
  23. 前記入力モジュールは、
    前記カラー別に分離された原イメージが前記イメージセンシング領域内の定められた位置から外れた場合、前記複数の原イメージの位置を補正する請求項22に記載のイメージ復元装置。
  24. 前記入力モジュールは、
    前記複数の原イメージの感度が不均一な場合、前記複数の原イメージの感度のうち最低感度を基準として前記複数の原イメージの感度を補正する請求項22に記載のイメージ復元装置。
  25. 前記カメラモジュールは、
    入射光を集光する前記複数のレンズを備えるレンズ部と、
    前記各レンズの領域に対応して、互いに異なる色相のカラーフィルターが形成された複数のフィルタリング領域を通じて前記入射光をフィルタリングするフィルター部と、
    前記複数のフィルタリング領域と所定間隔に離隔されて形成され、前記各フィルタリング領域に対応する前記複数のイメージセンシング領域を通じて前記カラー別に分離された複数の原イメージを獲得するイメージセンサー部を備える請求項22記載のイメージ復元装置。
  26. 前記フィルタリング領域は、前記カラーフィルターの透過度によって第1フィルタリング領域と第2フィルタリング領域とに区分され、前記第1フィルタリング領域に形成されるカラーフィルターの透過度は、前記第2フィルタリング領域に形成されるカラーフィルターの透過度より高く、前記センシング領域は、前記第1フィルタリング領域及び前記第2フィルタリング領域に各々対応する第1センシング領域と第2センシング領域とに区分され、前記第1センシング領域に含まれたサブセンシング領域に収斂される光量は、前記第2センシング領域に含まれたサブセンシング領域に収斂される光量より多い請求項25記載のイメージ復元装置。
  27. 前記ピクセル情報は、前記第1センシング領域に含まれるサブセンシング領域から提供された輝度情報及び前記第2センシング領域に含まれるサブセンシング領域から提供されたカラー情報を含む請求項26記載のイメージ復元装置。
  28. 前記カメラモジュールは、
    互いに異なる色相を有し、入射光を集光する前記複数のレンズを備えるレンズ部と、
    前記各レンズの領域に対応する前記複数のイメージセンシング領域を通じて前記カラー別に分離された複数の原イメージを獲得するイメージセンサー部と、を備える請求項22記載のイメージ復元装置。
  29. 前記レンズは、前記レンズの透過度によって第1レンズ部と第2レンズ部とに区分され、前記第1レンズ部に含まれるレンズの透過度は、前記第2レンズ部に含まれるレンズの透過度より高く、前記センシング領域は、前記第1レンズ部及び前記第2レンズ部に各々対応する第1センシング領域と第2センシング領域とに区分され、前記第1センシング領域に含まれるサブセンシング領域に収斂される光量は、前記第2サブセンシング領域に含まれるサブセンシング領域に収斂される光量より多い請求項28記載のイメージ復元装置。
  30. 前記ピクセル情報は、前記第1センシング領域に含まれるサブセンシング領域から提供された輝度情報及び前記第2センシング領域に含まれるサブセンシング領域から提供されたカラー情報を含む請求項29記載のイメージ復元装置。
  31. 前記複数のレンズは、同一平面上に位置する請求項22記載のイメージ復元装置。
  32. 複数のレンズ及び前記レンズに各々対応するイメージセンシング領域を含むカメラモジュールを通じてカラー別に分離された複数の原イメージを入力される入力モジュールと、
    前記各カラー別原イメージで同じ位置のピクセルが有するピクセル情報を、前記カラーフィルターの配列パターンによって再配置して中間イメージを生成する中間イメージ生成モジュールと、
    前記中間イメージをデモザイクして最終イメージを生成する最終イメージ生成モジュールと、を備えるイメージ復元装置。
  33. 前記複数のレンズのうち所定レンズを除外した残りのレンズは、前記所定レンズの位置を基準として所定ピクセル分だけ移動された位置に存在する請求項32に記載のイメージ復元装置。
  34. 前記入力モジュールは、
    前記複数の原イメージの位置が前記各イメージセンシング領域内の定められた位置から外れた場合、前記複数の原イメージの位置を補正する請求項32に記載のイメージ復元装置。
  35. 前記入力モジュールは、
    前記複数の原イメージの感度が不均一な場合、前記複数の原イメージの感度のうち最低感度を基準として前記複数の原イメージの感度を補正する請求項32に記載のイメージ復元装置。
  36. 前記カメラモジュールは、
    入射光を集光する前記複数のレンズを備えるレンズ部と、
    前記各レンズの領域に対応して、互いに異なる色相のカラーフィルターが形成された複数のフィルタリング領域を通じて前記入射光をフィルタリングするフィルター部と、
    前記複数のフィルタリング領域と所定間隔に離隔されて形成され、前記各フィルタリング領域に対応する前記複数のイメージセンシング領域を通じて前記カラー別に分離された複数の原イメージを獲得するイメージセンサー部を備える請求項32記載のイメージ復元装置。
  37. 前記フィルタリング領域は、前記カラーフィルターの透過度によって第1フィルタリング領域と第2フィルタリング領域とに区分され、前記第1フィルタリング領域に形成されるカラーフィルターの透過度は、前記第2フィルタリング領域に形成されるカラーフィルターの透過度より高く、前記センシング領域は、前記第1フィルタリング領域及び前記第2フィルタリング領域に各々対応する第1センシング領域と第2センシング領域とに区分され、前記第1センシング領域に含まれたサブセンシング領域に収斂される光量は、前記第2センシング領域に含まれたサブセンシング領域に収斂される光量より多い請求項36記載のイメージ復元装置。
  38. 前記ピクセル情報は、前記第1センシング領域に含まれるサブセンシング領域から提供された輝度情報及び前記第2センシング領域に含まれるサブセンシング領域から提供されたカラー情報を含む請求項37記載のイメージ復元装置。
  39. 前記カメラモジュールは、
    互いに異なる色相を有する前記複数のレンズと、
    前記各レンズの領域に対応する前記複数のイメージセンシング領域を通じて前記カラー別に分離された複数の原イメージを獲得するイメージセンサー部と、を備える請求項32記載のイメージ復元装置。
  40. 前記レンズは、前記レンズの透過度によって第1レンズ部と第2レンズ部とに区分され、前記第1レンズ部に含まれるレンズの透過度は、前記第2レンズ部に含まれるレンズの透過度より高く、前記センシング領域は、前記第1レンズ部及び前記第2レンズ部に各々対応する第1センシング領域と第2センシング領域とに区分され、前記第1センシング領域に含まれるサブセンシング領域に収斂される光量は、前記第2サブセンシング領域に含まれるサブセンシング領域に収斂される光量より多い請求項39記載のイメージ復元装置。
  41. 前記ピクセル情報は、前記第1センシング領域に含まれるサブセンシング領域から提供された輝度情報及び前記第2センシング領域に含まれるサブセンシング領域から提供されたカラー情報を含む請求項40記載のイメージ復元装置。
  42. 前記複数のレンズは、同一平面上に位置する請求項32記載のイメージ復元装置。
JP2007166750A 2006-06-26 2007-06-25 イメージ復元方法及び装置 Pending JP2008011532A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20060057661 2006-06-26
KR1020060105349A KR100827242B1 (ko) 2006-06-26 2006-10-27 이미지 복원 방법 및 장치

Publications (1)

Publication Number Publication Date
JP2008011532A true JP2008011532A (ja) 2008-01-17

Family

ID=38473901

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007166750A Pending JP2008011532A (ja) 2006-06-26 2007-06-25 イメージ復元方法及び装置

Country Status (5)

Country Link
US (1) US20080030596A1 (ja)
EP (1) EP1873713A3 (ja)
JP (1) JP2008011532A (ja)
KR (1) KR100827242B1 (ja)
CN (1) CN101106641B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019097169A (ja) * 2017-11-24 2019-06-20 三星電子株式会社Samsung Electronics Co.,Ltd. 映像復元装置及び方法

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5505761B2 (ja) * 2008-06-18 2014-05-28 株式会社リコー 撮像装置
KR101086501B1 (ko) 2008-11-26 2011-11-25 주식회사 하이닉스반도체 이미지 데이터 프로세싱 방법, 이미지센서 및 집적회로
JP2011035737A (ja) * 2009-08-03 2011-02-17 Olympus Corp 撮像装置、電子機器、画像処理装置及び画像処理方法
JP5404376B2 (ja) * 2009-12-24 2014-01-29 株式会社東芝 カメラモジュール及び画像処理装置
CN103081479A (zh) * 2010-09-03 2013-05-01 索尼公司 编码装置、编码方法、解码装置和解码方法
CN109005392B (zh) * 2017-06-07 2021-01-12 联发科技股份有限公司 一种去马赛克方法及其电路
KR102653106B1 (ko) * 2018-10-18 2024-04-01 삼성전자주식회사 영상 처리 장치 및 방법
KR20210028808A (ko) 2019-09-04 2021-03-15 삼성전자주식회사 이미지 센서 및 이를 포함하는 촬상 장치
KR20210051242A (ko) 2019-10-30 2021-05-10 삼성전자주식회사 멀티 렌즈 영상 복원 장치 및 방법
WO2021174529A1 (zh) * 2020-03-06 2021-09-10 Oppo广东移动通信有限公司 图像传感器、成像装置、电子设备、图像处理***及信号处理方法
KR20230111379A (ko) 2022-01-18 2023-07-25 삼성전자주식회사 이미지 센서 및 이미징 장치

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135796A (ja) * 2000-10-25 2002-05-10 Canon Inc 撮像装置
JP2002209226A (ja) * 2000-12-28 2002-07-26 Canon Inc 撮像装置
JP2005176040A (ja) * 2003-12-12 2005-06-30 Canon Inc 撮像装置
WO2005060636A2 (en) * 2003-12-18 2005-07-07 Agilent Technologies, Inc. Color image sensor with imaging elements imaging on respective regions of sensor elements
WO2005072370A2 (en) * 2004-01-26 2005-08-11 Digital Optics Corporation Thin camera having sub-pixel resolution
JP2006066596A (ja) * 2004-08-26 2006-03-09 Fuji Photo Film Co Ltd 撮像素子、着色マイクロレンズアレイの製造方法、および画像撮影装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6611289B1 (en) * 1999-01-15 2003-08-26 Yanbin Yu Digital cameras using multiple sensors with multiple lenses
KR100748325B1 (ko) * 2001-06-28 2007-08-09 매그나칩 반도체 유한회사 이미지센서
KR20030039713A (ko) * 2001-11-14 2003-05-22 주식회사 하이닉스반도체 이미지센서 및 그 제조 방법
US20050128509A1 (en) * 2003-12-11 2005-06-16 Timo Tokkonen Image creating method and imaging device
KR20050103027A (ko) * 2004-04-23 2005-10-27 매그나칩 반도체 유한회사 노치 필터를 갖는 이미지센서 및 그 제조 방법
KR100640972B1 (ko) * 2004-07-15 2006-11-02 동부일렉트로닉스 주식회사 씨모스 이미지 센서 및 그의 제조 방법

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135796A (ja) * 2000-10-25 2002-05-10 Canon Inc 撮像装置
JP2002209226A (ja) * 2000-12-28 2002-07-26 Canon Inc 撮像装置
JP2005176040A (ja) * 2003-12-12 2005-06-30 Canon Inc 撮像装置
WO2005060636A2 (en) * 2003-12-18 2005-07-07 Agilent Technologies, Inc. Color image sensor with imaging elements imaging on respective regions of sensor elements
WO2005072370A2 (en) * 2004-01-26 2005-08-11 Digital Optics Corporation Thin camera having sub-pixel resolution
JP2006066596A (ja) * 2004-08-26 2006-03-09 Fuji Photo Film Co Ltd 撮像素子、着色マイクロレンズアレイの製造方法、および画像撮影装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019097169A (ja) * 2017-11-24 2019-06-20 三星電子株式会社Samsung Electronics Co.,Ltd. 映像復元装置及び方法
JP7264624B2 (ja) 2017-11-24 2023-04-25 三星電子株式会社 映像復元装置及び方法

Also Published As

Publication number Publication date
EP1873713A2 (en) 2008-01-02
US20080030596A1 (en) 2008-02-07
EP1873713A3 (en) 2010-01-20
CN101106641B (zh) 2010-09-08
KR20070122347A (ko) 2007-12-31
CN101106641A (zh) 2008-01-16
KR100827242B1 (ko) 2008-05-07

Similar Documents

Publication Publication Date Title
JP2008011532A (ja) イメージ復元方法及び装置
US10158832B2 (en) Lens and color filter arrangement, super-resolution camera system and method
JP2008005488A (ja) カメラモジュール
CN204697179U (zh) 具有像素阵列的图像传感器
JP5106256B2 (ja) 撮像装置
JP5538553B2 (ja) 固体撮像素子及び撮像装置
US8339489B2 (en) Image photographing apparatus, method and medium with stack-type image sensor, complementary color filter, and white filter
US7864233B2 (en) Image photographing device and method
JP5589146B2 (ja) 撮像素子及び撮像装置
US20170347042A1 (en) Imaging systems with high dynamic range and phase detection pixels
EP1860887B1 (en) Image capturing device and method
US9535197B2 (en) Color filter array, image sensor including the same, and infrared data acquisition method using the same
US20110317048A1 (en) Image sensor with dual layer photodiode structure
US20110058072A1 (en) Camera sensor correction
JP2015521411A (ja) πフィルタ群を用いてパターン化されたカメラモジュール
US20080122946A1 (en) Apparatus and method of recovering high pixel image
WO2007087119A2 (en) Method and apparatus for producing bayer color mosaic interpolation for imagers
JP4642816B2 (ja) 画質が向上するイメージセンサ及びこれを用いたイメージ感知方法
KR20220063575A (ko) 색분리 렌즈 어레이를 적용한 영상 획득 장치 및 방법
WO2021157237A1 (ja) 電子機器
JP2012211942A (ja) 固体撮像素子及び撮像装置
JP2006211631A (ja) 固体撮像装置および撮像装置
JP2005175893A (ja) 2板式カラー固体撮像装置及びデジタルカメラ

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091008

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091110

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100406