JP4161295B2 - 画像センサのダイナミックレンジを拡大するカラー画像撮像システム - Google Patents

画像センサのダイナミックレンジを拡大するカラー画像撮像システム Download PDF

Info

Publication number
JP4161295B2
JP4161295B2 JP2002123538A JP2002123538A JP4161295B2 JP 4161295 B2 JP4161295 B2 JP 4161295B2 JP 2002123538 A JP2002123538 A JP 2002123538A JP 2002123538 A JP2002123538 A JP 2002123538A JP 4161295 B2 JP4161295 B2 JP 4161295B2
Authority
JP
Japan
Prior art keywords
pixel
color
pixel group
dynamic range
intensity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002123538A
Other languages
English (en)
Other versions
JP2003022440A5 (ja
JP2003022440A (ja
Inventor
ロバート・ダブリュ・ジョーンズ
Original Assignee
マイクロン テクノロジー, インク.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by マイクロン テクノロジー, インク. filed Critical マイクロン テクノロジー, インク.
Publication of JP2003022440A publication Critical patent/JP2003022440A/ja
Publication of JP2003022440A5 publication Critical patent/JP2003022440A5/ja
Application granted granted Critical
Publication of JP4161295B2 publication Critical patent/JP4161295B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Input (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、概ねディジタル画像処理システムに係り、より具体的には明暗部間のコントラストの高い画像を撮像するよう設けたディジタル画像処理システムに関する。
【0002】
【従来の技術】
ディジタルカメラなどのカラーディジタル画像処理システムは、撮りたいと思うシーンのディジタル撮像に、概ね電荷結合素子(CCD)か相補型金属酸化物半導体(CMOS)のどちらかの単一画像センサを用いている。画像センサは一般に、フォトダイオードなどの、入射光の強度に比例する電気的な応答を生成する光学的検出器の密接配置アレイを含むものである。個々の光学的検出器のダイナミックレンジは、最低端側の電気的な応答の生成が必要な最小光量と、それを超えると光学的検出器の電気的な応答が最高端側で変化しなくなる最大光量(飽和位置)とによって規定される。
【0003】
高コントラスト画像の撮像時には、画像センサのダイナミックレンジが一つの重要な特性となる。画像の明部及び/又は暗部が画像センサのダイナミックレンジを超えると、撮像された画像の品質が損なわれる。画像明部の特徴を十分に撮像できるよう画像センサ感度を調整(すなわち、露出時間を減少させることで)した場合は、暗部の特徴が撮像されない。同様に、画像暗部の特徴を十分に撮像できるよう画像センサ感度を調整(すなわち、露出時間を増やすことで)した場合は、明部の特徴が十分に撮像されない。
【0004】
ディジタル画像センサを用いて高コントラストのシーンを撮像する公知の技術は、第1の画像の明部撮像用と第2の画像の暗部撮像用に設定された画像センサ感度をもって、同一シーンの2つの画像を高速連写して撮像する方法を含むものである。2つの画像は、そこで明部と暗部の両方の特徴を含む合成画像の生成に用いられる。図1は、第1の露出時間を使用して第1の画像102において撮像される明部(すなわち背景風景)の特徴を撮像し、第2の露出時間を使用して第2の画像104の暗部(すなわち前景の人)の特徴を撮像する2画像技法の一例を表わすものである。第1の画像からの明部の特徴と第2の画像からの暗部の特徴は、次に明部ならびに暗部両方の特徴を含む合成画像106の生成に用いられる。
【0005】
【発明が解決しようとする課題】
2画像技法は画像センサのダイナミックレンジを延長できるが、合成画像の生成前に2つの画像の保存用に十分なメモリが必要であり、合成画像の生成に十分な処理能力を必要とする。2画像技法のメモリ及び処理要件に加え、第1及び第2の画像の撮像間で起こるどんなシーン変化も合成画像の品質を劣化させることになる。
【0006】
ディジタル画像処理システムを用いた高コントラスト画像の撮像に付随する課題を考慮したときに、必要とされるのは、ディジタル画像処理システムのダイナミックレンジを拡大するためのシステム及び方法である。
【0007】
【課題を解決するための手段】
ディジタル画像処理システムのダイナミックレンジを拡大するための方法及びシステムは、明部と暗部に異なる感度を有する画素を備えた画像センサを用い、高コントラスト画像の明部及び暗部からの画像データの同時撮像を含む。異なる感度画素からの画像データはその後、明部と暗部の両方からの特徴を含む最終画像の生成に用いられる。この手法は1つの画像センサを用いて全画像データを同時撮像するため、これには従来の2画像技法の半分の時間と半分のメモリしか必要でない。多重画像を最終画像に融合させる必要がないので、2画像技法に比べこの技法が必要とする処理能力と時間はより少ないものとなる。加えて、全画像データが同時撮像されるため、たとえ相当の動きが含まれるシーンの場合でも、画像データの時間的な一貫性は維持される。
【0008】
ディジタル画像処理システムの一実施形態は、同じ第1のカラーに対し第1の感度を有する第1画素群と、同じカラーに対し第2の感度を有する第2画素群とを備えた画像センサを含むものである。2つの画素群により撮像された画素データは、この画像データをモザイク解除された画像データの生成に用いる前に、共通のスケールへ合わせられる。スケーリングされた画像データがモザイク解除プロセスで用いられ、全ての画素位置における第1のカラー用に強度値が決定される。感度の異なる2つの画素によって第1のカラー画像データを撮像することから生じるモザイク解除された強度値の誤りは訂正され、元々の高コントラストカラー画像を正確に表わす最終画像が生成される。
【0009】
ディジタル画像処理システムによるカラー画像の撮像方法は、第1の受光感度を保有する第1の画素群による特定色画像データの撮像と、第2の受光感度を保有する第2の画素群による特定色画像データの同時撮像とを含み、第1の画素群からの特定色画像データと第2の画素群からの特定色画像データは第1のカラーに関するものであり、第1及び第2の受光感度は共通のダイナミックレンジを含むものである。追加のステップにおいて、第1の画素群からの画像データ及び第2の画素群からの画像データを共通のスケールに合わせ、第1のカラーの強度値がスケーリング済み特定色画像データを用いる画素について決定され、第1及び第2の画素群の共通のダイナミックレンジ外にあると判定された強度値は訂正される。
【0010】
本発明の他の態様及び効果は、添付図面を併せ参照し、本発明原理の例示により図解する、以下の詳細な説明から明らかになろう。
【0011】
【発明の実施の形態】
図2は、カラーディジタル画像の撮像に用いるディジタル画像処理システム208を表わすものである。ディジタル画像処理システムは、シャッタ210と撮像光学系212と画像センサ214と画像処理装置216とメモリ218とディスプレイ220を含む。一実施形態では、ディジタル画像処理システムはディジタル静止画像の撮像に用いる手持ち式ディジタルカメラである。他の実施形態では、ディジタル画像処理システムは、ディジタル映像を撮像するのに用いるディジタルビデオカメラである。
【0012】
シャッタ210と撮像光学系212は、ディジタル画像処理システムにおいて周知の従来装置である。同様に、メモリ218とディスプレイ220は、ディジタル画像処理システムにおいて周知の従来装置である。一実施形態では、シャッタと撮像光学系とメモリとディスプレイは、画像センサ214と画像処理装置216に一体化されてディジタルカメラとなる。画像センサと画像処理装置は本発明の要旨であり、下記により詳しく説明する。
【0013】
画像センサ214は、画素と呼ぶ個別光学的検出器アレイであり、これらの画素が個別に光を検出し、入射光量に比例する電気的な応答を生成する。一般の光学的検出器には、CCDとCMOS装置が含まれる。CCDとCMOS装置は、両方とも照明に感応するだけである。従って、これらの光学的探知器は、異なるカラーどうしを識別することはできない。カラー識別を果たすべく、カラーフィルタ技術を適用して光をいわゆる原色、通常は赤と緑と青に分離することができる。一般のフィルタ技術は、カラーフィルタアレイ(CFA, Color Filter Array)を用いており、それが画像センサに被覆されて入射光をバイヤーパターン(Bayer pattern)でもって分離する。バイヤーパターンは、(垂直と水平の)各次元における2つの異なるカラー画素からなる周期を有する周期的なパターンである。水平方向にあっては、単一周期に緑色画素と赤色画素或いは青色画素と緑色画素のどちらかが含まれる。垂直方向にあっては、単一周期に緑色画素と青色画素或いは赤色画素と緑色画素のどちらかが含まれる。バイヤーパターンを用いる画像センサでは、緑色画素の数は赤色又は青色画素の2倍である。緑色画素数の違いの理由は、人間の目が赤、緑、青に対し等感度ではないことにある。従って、「真色」画像として知覚されるシーンの創成には、より多くの緑色画素が必要になる。
【0014】
図3は、2つの異なる感度をもった緑色画素(GとG)の分布を含む特定色画素314のアレイを表わすものである。図3の実施形態では、バイヤーパターン画素分布が用いられ、これにより緑色画素数は赤色或いは青色画素数の2倍となる。水平方向にあっては、一方の周期に青色画素(B)と第1感度の緑色画素(G)が含まれ、他方の周期に第2感度の緑色画素(G)と赤色画素(R)が含まれる。垂直方向にあっては、一方の周期に青色画素(B)と第2感度の緑色画素(G)が含まれ、他方の周期に第1感度の緑色画素(G)と赤色画素(R)が含まれる。上記の緑色画素分布を想定した場合、画像センサの大面積領域上では、画素Gの総数はほぼ画素Gの総数に等しくなる。画素Gに対する画素Gの比率が、後述する誤り訂正方法における重要な因子となる。画像センサの色スペクトルを赤、緑、青に分割したが、他の実施形態ではこれとは異ならしめるよう色スペクトルを分割することもできる。
【0015】
図3の本実施形態では、画素Gは場面の暗部(すなわち陰の部分)により影響を受け、画素Gは場面の明部(すなわちハイライト部分)により影響を受ける。すなわち、画素Gがシーン暗部の特徴を区別するのにより適しており、一方で画素Gはシーン明部の特徴を区別するのにより適している。一実施形態では、画素Gは画素Gに比べ4倍は高感度であり、これにより画素Gの画素Gに対する感度は4対1となる。例えば、画素Gと画素Gを同じ期間に亙って同一強度の光にさらしたとき、画素Gは画素Gの出力値の4倍高い出力値を生成する。
【0016】
一実施形態では、画素感度は画像センサ内の増幅器回路によって決まる。調節可能な画像センサでは、画像センサに送られる制御信号でもって画素増幅器回路の利得を調整することができる。好ましくは、異なるカラー画素についての増幅器利得は、画素の標的である特定色のダイナミックレンジの中央に設定される。例えば、赤色画素の増幅器利得は、赤色のダイナミックレンジの想定中心に設定される。一実施形態では、画素Gと画素Gの利得は、撮像対象画像のコントラストの想定レベルに応えるよう調整することができる。画素Gと画素Gの調整された利得は、G出力フィールドとG出力フィールドのスケールを反映しなければならない。画素出力フィールドのスケーリングを、下記にさらに詳しく説明する。
【0017】
図4は、画素を比較的明るい光の同じ光量にさらしたときの、それらの最小出力と最大出力に対する画素Gと画素Gからの出力例を表わす。図4に示すように、明るい光は画素Gのダイナミックレンジの最上端を上回り、それ故に画素Gの出力は入射光強度を正確に反映しない値となる。具体的には、画素Gの出力は、画素Gのダイナミックレンジにおいて取り得る最大値に限定される。例えば、画素が10ビットの出力フィールドを有する場合、明るい状況下での画素Gの出力値は1,023である。対照的に、明るい光は画素Gのダイナミックレンジを上回らず、それ故に画素Gの出力は明るい入射光の強度を正確に反映する有効な出力となる。画素Gが明るい状況下において不正確な出力を生成するので、図3の光学的センサが生成する画像データ内の誤りを最終画像において訂正しなければならない。誤り訂正の技術を、図9,10を参照して下記に説明する。
【0018】
図2に戻ってこれを参照するに、画像センサ214から生成された画像データは画像処理ユニット216へ転送される。画像処理ユニットは画像センサから画像データを受け取り、この画像データを用いて最終画像の表示に用い得る画像データの完全セットを生成する。図5は、図2の画像処理ユニットの実施形態の拡大図である。図5の実施形態では、画像処理装置516は、スケーリングユニット524とモザイク解除ユニット(demosaic unit)526と誤り訂正ユニット528とプロセッサ530とを含む。
【0019】
スケーリングユニット524は、赤、緑、青画素からの出力をスケーリングし、これにより全ての出力値が共通スケール上にあるようにするものである。図6は、10ビット出力フィールドを共通の12ビット出力フィールドにスケーリング時の2を底とする対数スケール上の画素R,G,G,Bの相対的なダイナミックレンジを表わすものである。図7は、画素R,G,G,B相互の12ビットスケーリング出力フィールドを表わす。図6は、G及びG出力値について、画素GとGの感度比が4対1(G/G=4/1)である場合の画素G,Gの出力値の相対的スケールを表わすものである。すなわち、画素Gと画素Gを同じ期間に亙って同じ強度の光にさらしたときに、画素Gの出力値は画素Gの出力値の4倍は高いものとなる。4対1の感度比を想定した場合、画素G,Gの出力値は2つのビット(両方とも零)をG出力フィールドの最上端に付加することにより、また2つのビット(両方とも零)をG出力フィールドの最下端に付加することによって、共通のスケールに合わせられ、これにより画素Gの12ビット出力フィールドは、
:00XXXXXXXXXX
となり、画素Gの12ビット出力フィールドは、
:XXXXXXXXXX00
となる。
【0020】
図6に示すように、スケーリングされた画素Gは0〜1,023の範囲の値をカバーしており、スケーリングされた画素Gは0〜4,092の範囲の値をカバーしている。画素を組み合わせて用いるとき、画素G,Gの組み合わせによりカバーされる全ダイナミックレンジは、値0〜4,092を含む。すなわち、画素G,Gを同じ画像センサ上で組み合わせて用いたときに、10ビット出力フィールドの画素G,Gが合成的に12ビット出力フィールドとして見えるようになる。画素G,Gの全ダイナミックレンジは0〜4,092であるが、共通のダイナミックレンジの上端は、画素Gによって上位2ビットが零である12ビット出力フィールドの最大値1,023に設定される。10ビット出力フィールドに2つのビットを付加して12ビット出力フィールドを作成することで、赤色画素と青色画素(R,G)は緑色画素と同一スケールとされる。図6,7に示す実施形態では、赤色画素と青色画素は、赤色及び青色出力フィールドの上端に1ビット(ビット0)を付加し、赤色及び青色出力フィールドの下端に1ビット(ビット0)を付加することにより、共通スケールに合わせてある。このスケーリングを想定したときに、画素R,Bの12ビット出力フィールドは、
R,G:0XXXXXXXXXX0
となる。
【0021】
画素R,G,G,Bの相対的な解像度は、図6の棒のハッチング密度により示される。具体的には、画素Gの解像度は(比較的密集したハッチングにより示されるように)最高であり、画素Gの解像度は(比較的幅広のハッチングにより示されるように)最低であり、画素R,Bの解像度は画素Gと画素Gの間にある。
【0022】
図5を参照するに、一旦全ての画素値を共通のスケールに合わせると、画素R,G,G,Bの画素値は、モザイク画像としてモザイク解除ユニット526へ転送される。モザイク解除ユニットは、入力モザイク画像をモザイク解除するよう動作し、これにより得られたモザイク解除画像が3原色(赤、緑、青)全てに対し強度値をもつようになる。すなわち、モザイク解除された画像の各画素は、赤、緑、青に対し強度値をもたねばならない。モザイク解除ユニットは、同色の囲繞画素から利用可能な強度値を用いて入力モザイク画像の各画素について失われた強度値を推定する。モザイク解除画像生成用に、図3の画像センサと併せ用いることのできる、異なるモザイク解除技法ならびにアルゴリズムが多数存在する。1つの基本的モザイク解除技法は、同色の近傍画素の平均強度値を見出すことによる特定色についての強度値算出を含む。例えば図8を参照する。赤色画素位置に関する緑色強度値は、直接囲繞する画素G,Gに対する緑色画素値の平均値として算出される。すなわち、図8に示した赤色画素に関する緑色強度値は、G赤色画素位置=(G+G+G+G)/4のごとく算出される。図8を参照して説明した計算は4つの緑色画素だけを考慮しているが、通常のモザイク解除技法は強度値を決定するためにもっと大きな画素値のセットを用いる。
【0023】
モザイク解除ユニットの出力は、各画素位置について赤、緑、青の強度値を含むモザイク解除画像となる。図4を参照して上記した如く、緑色画素Gは暗部に対しより影響を受け、画素Gのダイナミックレンジの上端を上回る明部について範囲制限された出力値(すなわち、1,023)を与える。範囲制限された出力値は、共通ダイナミックレンジの上端を上回るモザイク解除された緑色強度値を人工的に低くさせる。明部に関するモザイク解除強度値の一部が人工的に低い値を含むため、モザイク解除ユニットから出力される画像は依然として画素G,Gによってカバーされる全ダイナミックレンジを欠くものとなろう。
【0024】
誤り訂正ユニット528は、2つの異なる感度を有する分布画素を使用することから生じる強度値誤りを修正する。図6を参照するに、モザイク解除された緑色画素の強度値が画素G,Gの共通ダイナミックレンジの上端を上回る場合(すなわち、点A)、そこで画素Gの少なくとも一部に入射する光が画素Gのダイナミックレンジの上端を上回るものと見なすことができる。光が画素Gのダイナミックレンジの上端を上回るにも拘わらず、画素Gの出力は1,023に範囲制限され、それ故にモザイク解除された緑色強度値は人工的に低く保たれる。画素Gが明部に対しより影響を受けるため、画素Gは入射光に応答して正確な出力値をもたらすものと見なされる。
【0025】
画像センサの単位表面積当たり、画素Gの数が画素Gの数にほぼ等しい一実施形態では、モザイク解除された緑色強度値は、画素G,Gの共通ダイナミックレンジを上回るモザイク解除強度値が正確な画素Gの値と画素Gのダイナミックレンジの上端との間の差分の約半分を表わす。これは、モザイク解除に用いられる画素値の半分が画素Gの値(有効読み取り値を表わす)であり、かつまたモザイク解除に用いられる画素値の他の半分が画素Gの値であり、これが最大出力値1,023に範囲制限されるからである。モザイク解除された緑色強度値の誤りを訂正するため、モザイク解除された緑色強度値と画素Gの最大強度値(すなわち、共通ダイナミックレンジの上端)との間の差分は2倍され、誤り訂正された緑色強度値を生成する。図9は、画素Gのダイナミックレンジを上回るモザイク解除された緑色強度値についての誤り訂正を表わす。図9に示すように、モザイク解除された緑色強度値が画素Gの最大強度値をXだけ上回る場合、誤り訂正される緑色強度値は2倍され、かくして最終的なモザイク解除された緑色強度値は画素Gの最大強度値を2Xだけ上回ることになる。図9の例では誤り訂正強度値が線形関数により決定されるが、他の実施形態では、誤り訂正強度値は非線形関数[f(x)]によって決定してもよい。
【0026】
一実施形態では、共通ダイナミックレンジ内にあるモザイク解除された緑色強度強度は誤り訂正されず、また共通ダイナミックレンジ外にあるモザイク解除された緑色強度値は誤り訂正されるが、画素Gのダイナミックレンジの上端を超えることはない。
【0027】
プロセッサ530は、撮像画像データ上で追加の画像処理を実行する。一実施形態では、プロセッサがモザイク解除ユニット526と誤り訂正ユニット528をサポートする。
【0028】
図10は、本発明の一実施形態になるディジタル画像処理システムを備えるカラー画像撮像方法のプロセスフロー線図を表わす。ステップ1002において、特定色画像データが第1の受光感度を有する第1の画素群をもって撮像される。ステップ1004において、特定色画像データが第2の受光感度を有する第2の画素群により同時に撮像され、ここでは第1の画素群からの特定色画像データと第2の画素群からの特定色画像データは第1のカラーに関するものであり、かつまた第1及び第2の受光感度は共通のダイナミックレンジを含むものである。ステップ1006おいて、第1の画素群からの画像データ及び第2の画素群からの画像データは共通のスケールに合わせられる。ステップ1008において、画素に対する第1のカラーの強度値が、第1及び第2の画素群からの特定色画像データを用いて決定される。ステップ1010において、第1及び第2の画素群の共通ダイナミックレンジ外にある決定済み強度値が訂正される。
【0029】
赤、緑、青の画素出力値を共通スケールへスケーリングする方法は、モザイク解除プロセス前に到来させるものとして説明したが、このことは必須要件でない。他の実施形態では、赤、緑、青の画素出力値を共通スケールへ合わせる前に、モザイク解除することもできる。画像センサは10ビット出力フィールドを有する画素をもって説明したが、出力フィールドのビット数は任意のビット数とし得る。例えば、8ビット出力フィールドを用いることもできる。加えて、4対1の感度/スケーリング比を上記に説明したが、他の感度/スケーリング比を用いることもできる。スケーリングを容易にするには、係数2の比率が好ましい。例えば、極端に高いコントラストをもったシーンでは、画素G,Gは図6,7を参照して説明したごとく(すなわち、画素Gは、2ビットでシフトして)スケーリングされるが、よりコントラストの低いシーンでは、画素G,Gは画素R,Gと同様、10ビットフィールドの画素Gを1ビットだけシフトさせることでスケーリングすることができる。
【0030】
図3のアレイでは画素G,Gの分布はほぼ均一であるが、他のアレイの実施形態では異なる感度の同色画素の分布は不均一でもよい。画素G,Gが不均一分布をもつ実施形態では、モザイク解除した緑色強度値における誤り訂正に用いる関数は、不均一分布を十分に償うのに必要なだけ調整される。加えて、緑色画素は2つの異なる感度をもって説明したが、他の特定色画素を緑色画素に代えるか或いは加え、異なる感度をもって用いることもできる。
本発明の態様を以下に例示する。
1.カラー画像を撮像するディジタル画像処理システムであって、画像センサ(214)であって、第1のカラーについて第1のスケール上で特定色画像データを生成する第1の受光感度を有する第1の画素群と、第1のカラーについて第2のスケール上で特定色画像データを生成する第2の受光感度を有する第2の画素群で、前記第1及び第2の画素群が共通のダイナミックレンジを有し、その受光感度に前記第1の画素群の受光感度が重複する前記第2の画素群とを有する前記画像センサと、前記第1及び第2の画素群から画像データを受信し、該画像データを共通スケール上に出力するスケーリングユニット(524)と、前記第1及び第2の画素群から生成されたスケーリング済み特定色画像データを用い、前記第1のカラーの強度値を決定するモザイク解除ユニット(526)と、第1及び第2の画素群の共通ダイナミックレンジ外にある第1のカラーのモザイク解除強度値について、該第1のカラーのモザイク解除強度値を訂正する誤り訂正ユニット(528)とを備えるディジタル画像処理システム。
2.前記誤り訂正ユニット(528)が、共通ダイナミックレンジの上端を上回るモザイク解除強度値を増大させることにより、第1のカラーのモザイク解除強度値を訂正する、上記1記載のディジタル画像処理システム。
3.前記画像センサ(214)が、均一分布する第1及び第2の画素群を有する、上記2記載のディジタル画像処理システム。
4.前記誤り訂正ユニット(528)が、前記共通ダイナミックレンジの上端を上回るモザイク強度値を、超過強度値と共通ダイナミックレンジの上端との間の差分の2倍だけ増大させる、上記3記載のディジタル画像処理システム 。
5.前記画像センサ(214)の第1及び第2の画素群は、2つの異なる感度にて緑色画像データを撮像する、上記1記載のディジタル画像処理システム。
6.前記画像センサ(214)がさらに、第2のカラーの画像データを撮像する第3の画素群と、第3のカラーの画像データを撮像する第4の画素群を含む、上記1記載のディジタル画像処理システム。
7.前記画像センサ(214)の第1及び第2の画像群が緑色画像データを撮像し、第3の画素群が赤色画像データを撮像し、第4の画素群が青色画像データを撮像する、上記6記載のディジタル画像処理システム。
8.ディジタル画像処理システムを用いてカラー画像を撮像する方法であって、第1の受光感度を有する第1の画素群を用いて前記特定色画像データを撮像するステップ(1002)と、第2の受光感度を有する第2の画素群を用いて前記特定色画像データを同時に撮像するステップ(1004)であって、前記第1の画素群からの特定色画像データと前記第2の画素群からの特定色画像データが第1のカラーに関するものであり、かつまた前記第1及び第2の受光感度が共通ダイナミックレンジを含む前記ステップと、前記第1の画素群からの画像データと前記第2の画素群からの画像データを共通スケールに合わせるステップ(1006)と、前記スケーリングした特定色画像データを用いる画素について前記第1のカラーの強度値を決定するステップ(1008)と、前記第1及び第2の画素群の共通ダイナミックレンジ外にある決定済みの強度値について、該決定済み強度値を訂正するステップ(1010)とを含む、方法。
9.前記訂正ステップ(1010)が、共通ダイナミックレンジの上端を上回る強度値を増大させるステップを含む、上記8記載の方法。
10.前記訂正ステップ(1010)が、共通ダイナミックレンジの上端を上回る強度値を、超過強度値と共通ダイナミックレンジの上端との間の差分の2倍だけ増大させるステップを含む、上記8記載の方法。
【図面の簡単な説明】
【図1】最終画像の生成用に第1の画像の細部と第2の画像の細部を用いる従来の2画像技法を表わす図である。
【図2】カラーディジタル画像の撮像に用いるディジタル画像処理システムを表わす図である。
【図3】本発明の一実施形態に従って2つの異なる感度を有する緑色画素分布を含む特定色画素のアレイを表わす図である。
【図4】比較的明るい光に画素をさらしたときに、最小出力と最大出力に対する画素G,Gからの出力例を表わす図である。
【図5】
本発明の実施形態になる図2の画像処理装置の一実施例の拡大図である。
【図6】画素が10ビット出力フィールドを有し、画素G,Gの感度比が4対1(G/G=4/1)であるケースにおける図3に示した画素R,G,G,Bの出力値の相対的スケールを表わす図である。
【図7】図6に示した画素R,G,G,Bのスケーリング済み12ビット出力フィールドを表わす図である。
【図8】赤色画素用のモザイク解除した緑色強度値の算出に用いる特定色画素列を表わす図である。
【図9】画素Gの最高ダイナミックレンジを上回るモザイク解除された緑色強度値用の誤り訂正方式例を表わす図である。
【図10】本発明の一実施形態になるディジタル画像処理システムを用いたカラー画像撮像方法の処理フロー線図である。
【符号の説明】
208 ディジタル画像処理システム
210 シャッタ
212 撮像光学系
214,314 画像センサ
216 画像処理装置
218 メモリ
220 ディスプレイ
516 画像処理装置
524 スケーリングユニット
526 モザイク解除ユニット
528 誤り訂正ユニット
530 プロセッサ

Claims (10)

  1. カラー画像を撮像するディジタル画像処理システムであって、
    画像センサであって、第1のカラーについて第1の強度スケール上で特定色の出力値を生成する第1の受光感度を有する第1の画素群と、
    前記第1のカラーについて第2の強度スケール上で特定色の出力値を生成する、前記第1の受光感度の所定倍の受光感度を有する第2の画素群で、前記第1及び第2の画素群が共通のダイナミックレンジを有し、その受光感度に前記第1の画素群の受光感度が重複する前記第2の画素群と、を有する前記画像センサと、
    前記第1及び第2の画素群から前記出力値を受信し、該出力値を共通の強度スケール上に出力するスケーリングユニットと、
    前記第1及び第2の画素群から生成された、前記共通の強度スケール上にスケーリングされた特定色の出力値を用い、前記第1のカラーの強度値を決定するモザイク解除ユニットと、
    第1及び第2の画素群の共通ダイナミックレンジ外にある第1のカラーのモザイク解除強度値について、該第1のカラーのモザイク解除強度値を訂正する誤り訂正ユニットと、を備えており
    該誤り訂正ユニットは、共通ダイナミックレンジの上端を上回るモザイク解除強度値を大きくすることにより、第1のカラーのモザイク解除強度値を訂正する、
    ディジタル画像処理システム。
  2. 前記画像センサが、均一分布する第1及び第2の画素群を有しており
    前記スケーリングユニットは、前記共通の強度スケール上に、前記第1の受光感度の所定倍の受光感度を表すために、前記第1の画素群の前記出力値の最下端に1または複数の0ビットを付加する、請求項記載のディジタル画像処理システム。
  3. 前記誤り訂正ユニットが、前記共通ダイナミックレンジの上端を上回るモザイク解除強度値を、超過強度値と共通ダイナミックレンジの上端との間の差分の2倍だけ増大させる、請求項記載のディジタル画像処理システム 。
  4. 前記第1および第2の画素群の感度は、画像の想定されるコントラストレベルに応えるように調整される、請求項1記載のディジタル画像処理システム。
  5. 前記画像センサの第1及び第2の画素群は、2つの異なる感度にて緑色画像データを撮像する、請求項1記載のディジタル画像処理システム。
  6. 前記第1画素群と第2の画素群の感度の比率が、1対4である、請求項5記載のディジタル画像処理システム。
  7. 前記画像センサがさらに、第2のカラーの画像データを撮像する第3の画素群と、第3のカラーの画像データを撮像する第4の画素群を含む、請求項1記載のディジタル画像処理システム。
  8. 前記画像センサの第1及び第2の画像群が緑色画像データを撮像し、第3の画素群が赤色画像データを撮像し、第4の画素群が青色画像データを撮像する、請求項記載のディジタル画像処理システム。
  9. ディジタル画像処理システムを用いてカラー画像を撮像する方法であって、
    第1の受光感度を有する第1の画素群を用いて前記特定色画像データを撮像するステップと、
    第2の受光感度を有する第2の画素群を用いて前記特定色画像データを同時に撮像するステップであって、前記第1の画素群からの特定色の出力値と前記第2の画素群からの特定色の出力値が第1のカラーに関するものであり、かつまた前記第1及び第2の受光感度が共通ダイナミックレンジを含む前記ステップと、
    前記第1の画素群からの前記出力値と前記第2の画素群からの前記出力値を共通の強度スケールに合わせるステップと、
    前記スケーリングした特定色の出力値を用いる画素について前記第1のカラーの強度値を決定するステップと、
    前記第1及び第2の画素群の共通ダイナミックレンジ外にある決定済みの強度値について、該決定済み強度値を訂正するステップであって、共通ダイナミックレンジの上端を上回る強度値を大きくするステップと、を含む、方法。
  10. 前記訂正ステップが、共通ダイナミックレンジの上端を上回る強度値を、超過強度値と共通ダイナミックレンジの上端との間の差分の2倍だけ大きくするステップを含む、請求項記載の方法。
JP2002123538A 2001-05-02 2002-04-25 画像センサのダイナミックレンジを拡大するカラー画像撮像システム Expired - Fee Related JP4161295B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/847,968 2001-05-02
US09/847,968 US6924841B2 (en) 2001-05-02 2001-05-02 System and method for capturing color images that extends the dynamic range of an image sensor using first and second groups of pixels

Publications (3)

Publication Number Publication Date
JP2003022440A JP2003022440A (ja) 2003-01-24
JP2003022440A5 JP2003022440A5 (ja) 2005-07-21
JP4161295B2 true JP4161295B2 (ja) 2008-10-08

Family

ID=25301977

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002123538A Expired - Fee Related JP4161295B2 (ja) 2001-05-02 2002-04-25 画像センサのダイナミックレンジを拡大するカラー画像撮像システム

Country Status (3)

Country Link
US (1) US6924841B2 (ja)
EP (1) EP1255410A3 (ja)
JP (1) JP4161295B2 (ja)

Families Citing this family (67)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4088959B2 (ja) * 2001-01-09 2008-05-21 ソニー株式会社 画像処理装置および方法、並びに記録媒体
US7308375B2 (en) * 2001-05-14 2007-12-11 Jensen Nanette C System and method for determining light source current
US6989862B2 (en) * 2001-08-23 2006-01-24 Agilent Technologies, Inc. System and method for concurrently demosaicing and resizing raw data images
US20030151689A1 (en) * 2002-02-11 2003-08-14 Murphy Charles Douglas Digital images with composite exposure
US20030169353A1 (en) * 2002-03-11 2003-09-11 Renato Keshet Method and apparatus for processing sensor images
US7034957B2 (en) * 2002-04-15 2006-04-25 Shang-Yu Yang Method for increasing signal to noise ratio
JP2004048561A (ja) * 2002-07-15 2004-02-12 Fuji Photo Film Co Ltd 撮像装置及び測光装置
JP4465958B2 (ja) * 2002-12-18 2010-05-26 株式会社ニコン カラー撮像装置
US7633537B2 (en) * 2002-12-18 2009-12-15 Nikon Corporation Color image sensor, color filter array and color imaging device
US7598986B2 (en) * 2003-01-10 2009-10-06 Fujifilm Corporation Image pick-up apparatus and white balance control method
US7430011B2 (en) * 2003-01-22 2008-09-30 Omnivision Technologies, Inc. Image sensor having dual automatic exposure control
JP4131192B2 (ja) * 2003-04-25 2008-08-13 コニカミノルタオプト株式会社 撮像装置、画像処理装置及び画像記録装置
US7269295B2 (en) * 2003-07-31 2007-09-11 Hewlett-Packard Development Company, L.P. Digital image processing methods, digital image devices, and articles of manufacture
US7430334B2 (en) * 2003-07-31 2008-09-30 Hewlett Packard Development Company, L.P. Digital imaging systems, articles of manufacture, and digital image processing methods
DE10340166B4 (de) * 2003-09-01 2016-12-08 Robert Bosch Gmbh Verfahren zur Erweiterung des Dynamik-Bereichs eines Halbleiter-Bildsensors
KR101081000B1 (ko) 2003-10-23 2011-11-09 소니 가부시키가이샤 화상 처리 장치 및 화상 처리 방법과 기록 매체
JP4118916B2 (ja) * 2003-11-11 2008-07-16 オリンパス株式会社 マルチスペクトル画像撮影装置
JP4128585B2 (ja) * 2003-12-22 2008-07-30 三菱電機株式会社 画素信号処理装置及び画素信号処理方法
US20050140804A1 (en) * 2003-12-29 2005-06-30 Eastman Kodak Company Extended dynamic range image sensor capture using an array of fast and slow pixels
JP2008546204A (ja) * 2005-06-03 2008-12-18 フジフィルム・エレクトロニック・マテリアルズ・ユーエスエイ・インコーポレイテッド 前処理組成物
JP4886248B2 (ja) * 2005-08-31 2012-02-29 キヤノン株式会社 焦点検出用固体撮像装置及び、同装置を用いたカメラシステム
US10298834B2 (en) 2006-12-01 2019-05-21 Google Llc Video refocusing
US7616243B2 (en) * 2007-03-07 2009-11-10 Altasens, Inc. Method and apparatus for improving and controlling dynamic range in an image sensor
JP4325703B2 (ja) * 2007-05-24 2009-09-02 ソニー株式会社 固体撮像装置、固体撮像装置の信号処理装置および信号処理方法、ならびに撮像装置
US20090059039A1 (en) * 2007-08-31 2009-03-05 Micron Technology, Inc. Method and apparatus for combining multi-exposure image data
US7884866B2 (en) * 2007-09-14 2011-02-08 Ricoh Company, Ltd. Imaging apparatus and imaging method
JP5103341B2 (ja) * 2007-09-28 2012-12-19 富士フイルム株式会社 固体撮像素子及び撮像装置
JP5045421B2 (ja) * 2007-12-21 2012-10-10 ソニー株式会社 撮像装置、色ノイズ低減方法および色ノイズ低減プログラム
KR101639382B1 (ko) * 2008-08-27 2016-07-13 삼성전자주식회사 높은 동적 범위를 가지는 영상을 생성하는 장치 및 방법
US8218068B2 (en) 2009-04-01 2012-07-10 Omnivision Technologies, Inc. Exposing pixel groups in producing digital images
US8605177B2 (en) * 2009-09-16 2013-12-10 Altasens, Inc. Image sensor with wide dynamic range
JP5697371B2 (ja) 2010-07-07 2015-04-08 キヤノン株式会社 固体撮像装置および撮像システム
JP5751766B2 (ja) 2010-07-07 2015-07-22 キヤノン株式会社 固体撮像装置および撮像システム
JP2012034350A (ja) * 2010-07-07 2012-02-16 Canon Inc 固体撮像装置及び撮像システム
JP5885401B2 (ja) 2010-07-07 2016-03-15 キヤノン株式会社 固体撮像装置および撮像システム
JP5643555B2 (ja) 2010-07-07 2014-12-17 キヤノン株式会社 固体撮像装置及び撮像システム
JP5656484B2 (ja) 2010-07-07 2015-01-21 キヤノン株式会社 固体撮像装置および撮像システム
US8415623B2 (en) 2010-11-23 2013-04-09 Raytheon Company Processing detector array signals using stacked readout integrated circuits
JP2013077879A (ja) * 2011-09-29 2013-04-25 Sony Corp 撮像装置と撮像方法およびプログラム
US8432466B2 (en) 2011-09-29 2013-04-30 International Business Machines Corporation Multiple image high dynamic range imaging from a single sensor array
GB2499668B (en) 2012-02-27 2019-03-06 Apical Ltd Exposure controller
US8948545B2 (en) * 2012-02-28 2015-02-03 Lytro, Inc. Compensating for sensor saturation and microlens modulation during light-field image processing
US9858649B2 (en) 2015-09-30 2018-01-02 Lytro, Inc. Depth-based image blurring
JP6029430B2 (ja) * 2012-11-20 2016-11-24 キヤノン株式会社 画像処理装置及び画像処理方法
US10334151B2 (en) 2013-04-22 2019-06-25 Google Llc Phase detection autofocus using subaperture images
US9467628B2 (en) * 2014-08-26 2016-10-11 Sensors Unlimited, Inc. High dynamic range image sensor
US10444931B2 (en) 2017-05-09 2019-10-15 Google Llc Vantage generation and interactive playback
US10546424B2 (en) 2015-04-15 2020-01-28 Google Llc Layered content delivery for virtual and augmented reality experiences
US10341632B2 (en) 2015-04-15 2019-07-02 Google Llc. Spatial random access enabled video system with a three-dimensional viewing volume
US10565734B2 (en) 2015-04-15 2020-02-18 Google Llc Video capture, processing, calibration, computational fiber artifact removal, and light-field pipeline
US10469873B2 (en) 2015-04-15 2019-11-05 Google Llc Encoding and decoding virtual reality video
US10419737B2 (en) 2015-04-15 2019-09-17 Google Llc Data structures and delivery methods for expediting virtual reality playback
US10540818B2 (en) 2015-04-15 2020-01-21 Google Llc Stereo image generation and interactive playback
US11328446B2 (en) 2015-04-15 2022-05-10 Google Llc Combining light-field data with active depth data for depth map generation
US10275898B1 (en) 2015-04-15 2019-04-30 Google Llc Wedge-based light-field video capture
US10567464B2 (en) 2015-04-15 2020-02-18 Google Llc Video compression with adaptive view-dependent lighting removal
US10440407B2 (en) 2017-05-09 2019-10-08 Google Llc Adaptive control for immersive experience delivery
US10412373B2 (en) 2015-04-15 2019-09-10 Google Llc Image capture for virtual reality displays
US9979909B2 (en) 2015-07-24 2018-05-22 Lytro, Inc. Automatic lens flare detection and correction for light-field images
US10298888B2 (en) * 2015-08-25 2019-05-21 Kabushiki Kaisha Toshiba Adaptive analyzer of sensitivity difference of same color pixels and adaptive corrector of sensitivity difference of same color pixels
US10275892B2 (en) 2016-06-09 2019-04-30 Google Llc Multi-view scene segmentation and propagation
US10679361B2 (en) 2016-12-05 2020-06-09 Google Llc Multi-view rotoscope contour propagation
US10594945B2 (en) 2017-04-03 2020-03-17 Google Llc Generating dolly zoom effect using light field image data
US10474227B2 (en) 2017-05-09 2019-11-12 Google Llc Generation of virtual reality with 6 degrees of freedom from limited viewer data
US10354399B2 (en) 2017-05-25 2019-07-16 Google Llc Multi-view back-projection to a light-field
US10545215B2 (en) 2017-09-13 2020-01-28 Google Llc 4D camera tracking and optical stabilization
US10965862B2 (en) 2018-01-18 2021-03-30 Google Llc Multi-camera navigation interface

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4647975A (en) 1985-10-30 1987-03-03 Polaroid Corporation Exposure control system for an electronic imaging camera having increased dynamic range
US6204881B1 (en) 1993-10-10 2001-03-20 Canon Kabushiki Kaisha Image data processing apparatus which can combine a plurality of images at different exposures into an image with a wider dynamic range
US6388709B1 (en) * 1995-04-21 2002-05-14 Canon Kabushiki Kaisha Image sensing apparatus with optical modulation elements having transmission characteristics controllable by pixel
WO1997017800A1 (en) * 1995-11-07 1997-05-15 California Institute Of Technology An image sensor with high dynamic range linear output
JPH10189930A (ja) 1996-12-20 1998-07-21 Ricoh Co Ltd 固体撮像素子
US6275259B1 (en) * 1998-02-02 2001-08-14 International Business Machines Corporation Digital automatic gain control circuit for image system
US6137100A (en) * 1998-06-08 2000-10-24 Photobit Corporation CMOS image sensor with different pixel sizes for different colors
US6724426B1 (en) * 1999-03-08 2004-04-20 Micron Technology, Inc. Multi junction APS with dual simultaneous integration
US6864916B1 (en) 1999-06-04 2005-03-08 The Trustees Of Columbia University In The City Of New York Apparatus and method for high dynamic range imaging using spatially varying exposures
US6697114B1 (en) * 1999-08-13 2004-02-24 Foveon, Inc. Triple slope pixel sensor and arry
US6710804B1 (en) * 2000-01-18 2004-03-23 Eastman Kodak Company CMOS active pixel image sensor with extended dynamic range and sensitivity
US6909461B1 (en) * 2000-07-13 2005-06-21 Eastman Kodak Company Method and apparatus to extend the effective dynamic range of an image sensing device
US6765611B1 (en) * 2000-11-21 2004-07-20 Eastman Kodak Company Method for compressing an image from a sparsely sampled extended dynamic range image sensing device
US6646246B1 (en) * 2000-11-21 2003-11-11 Eastman Kodak Company Method and system of noise removal for a sparsely sampled extended dynamic range image sensing device
US6943831B2 (en) * 2001-01-24 2005-09-13 Eastman Kodak Company Method and apparatus to extend the effective dynamic range of an image sensing device and use residual images

Also Published As

Publication number Publication date
EP1255410A2 (en) 2002-11-06
EP1255410A3 (en) 2004-05-26
US6924841B2 (en) 2005-08-02
US20020163583A1 (en) 2002-11-07
JP2003022440A (ja) 2003-01-24

Similar Documents

Publication Publication Date Title
JP4161295B2 (ja) 画像センサのダイナミックレンジを拡大するカラー画像撮像システム
US8934035B2 (en) Correction of non-uniform sensitivity in an image array
US7817196B1 (en) Techniques of modifying image field data by extrapolation
US7151560B2 (en) Method and apparatus for producing calibration data for a digital camera
JP4773369B2 (ja) 画像フィールドデータを修正するための技術
US8462220B2 (en) Method and apparatus for improving low-light performance for small pixel image sensors
US8160381B2 (en) Method and apparatus for image noise reduction using noise models
US7408576B2 (en) Techniques for modifying image field data as a function of radius across the image field
JP3988457B2 (ja) 撮像装置及び固体撮像素子の信号処理方法
US8259179B2 (en) Compensating for non-uniform illumination of object fields captured by a camera
EP1206119A2 (en) Method and apparatus for exposure control for an extended dynamic range image sensing device
US8891899B2 (en) Methods, systems and apparatuses for pixel value correction using multiple vertical and/or horizontal correction curves
US7233352B2 (en) Method and apparatus for color non-uniformity correction in a digital camera
EP1206130A1 (en) Method and system for generating a low resolution image from a sparsely sampled extended dynamic range image
JP2002064754A (ja) 撮像装置の有効ダイナミックレンジを拡張する方法及び装置
US20030184673A1 (en) Automatic exposure control for digital imaging
JP2005198319A (ja) 撮像素子および方法
JP5414691B2 (ja) 画像処理装置及び画像処理方法
US8218021B2 (en) Image capture apparatus, method of controlling the same, and program
JP2002112276A (ja) カラー固体撮像装置
JP7414538B2 (ja) 撮像装置及びその制御方法
JP3902852B2 (ja) 撮像装置、信号処理方法及びコンピュータ読み取り可能な記憶媒体
JPH09275527A (ja) デジタルスチルカメラ
JP2018056848A (ja) 撮像装置、撮像装置の制御方法
JPH11218796A (ja) 画像撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041209

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20070727

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20070807

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080207

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20080222

TRDD Decision of grant or rejection written
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080616

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080616

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080617

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080710

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110801

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4161295

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110801

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110801

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120801

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130801

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees