JP4333544B2 - 画像処理方法、及び画像処理装置、半導体装置、電子機器、画像処理プログラム、並びにコンピュータ読み取り可能な記録媒体 - Google Patents

画像処理方法、及び画像処理装置、半導体装置、電子機器、画像処理プログラム、並びにコンピュータ読み取り可能な記録媒体 Download PDF

Info

Publication number
JP4333544B2
JP4333544B2 JP2004292364A JP2004292364A JP4333544B2 JP 4333544 B2 JP4333544 B2 JP 4333544B2 JP 2004292364 A JP2004292364 A JP 2004292364A JP 2004292364 A JP2004292364 A JP 2004292364A JP 4333544 B2 JP4333544 B2 JP 4333544B2
Authority
JP
Japan
Prior art keywords
pixel
value
color
luminance signal
conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004292364A
Other languages
English (en)
Other versions
JP2005260908A (ja
Inventor
真一 荒崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2004292364A priority Critical patent/JP4333544B2/ja
Priority to US11/056,352 priority patent/US7801355B2/en
Publication of JP2005260908A publication Critical patent/JP2005260908A/ja
Application granted granted Critical
Publication of JP4333544B2 publication Critical patent/JP4333544B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H04N25/136Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
    • H04N2209/046Colour interpolation to calculate the missing colour values

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Image Processing (AREA)

Description

本発明は、CCDやCMOSなどのカラー撮像センサを備えたデジタルカメラなどに用いられる画像処理装置などに係り、特に色補間処理によって発生する偽色の排除処理を目的とした画像処理方法、及び画像処理装置、半導体装置、電子機器、画像処理プログラム、並びにコンピュータ読み取り可能な記録媒体に関するものである。
一般に、デジタルビデオカメラやデジタルスチルカメラなどのデジタルカメラには、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像センサを3個使用した3板式と1個だけしか使用しない単板式とに大別される。
この3板式のデジタルカメラは、入射光をダイクロイックミラーなどで赤(R)、緑(G)、青(B)の三原色に色分解し、色分解した光情報を3個の撮像センサによってそれぞれR、G、Bのデジタル画像に変換するものであり、光学系の構造は複雑になるものの高画質の画像を得ることができることから、主に業務用のデジタルビデオカメラや高級デジタルスチルカメラなどに利用されている。
これに対し、単板式のデジタルカメラは、1個の撮像センサ上にR、G、B各色をブロック状に並べた色フィルタを装着し、各画素について対応する色フィルタを透過してきた光情報をそれぞれデジタル化するようにしたものであり、3板式のそれに比べると画質はやや劣るものの、小型・軽量、低消費電力、低価格であるため、主に民生用のデジタルビデオカメラやデジタルスチルカメラとして極めて多く利用されている。
ちなみに、最近では民生用カラービデオカメラでも3板式のものを採用したものが製品化されてきている。また、撮像センサを2個用いる2板式もあり、この2板式は上記2つの方式の中間的な特徴を持つ方式であるが、現在ではあまり用いられていない。
そして、このような単板式のデジタルカメラにあっては、その構造上、欠落している色成分を予測補間するといった色補間処理が必要となってくるが、この色補間処理は、後に詳述するように注目画素周囲の画素値から推測によりその画素にない色のデータを生成するものであることから、画像のエッジ部などの画素値に急激な変化がある部分では、正確な値を算出できないことが多い。この結果、このように正確な値が算出できていないエッジ部には、本来と異なる色のバランスを持つ画素が発生してこれが偽色となって出現したり、画像がぼやけたりなどの画質を低下させる要因の1つとなっている。
そのため、従来では、例えば以下の特許文献1などに示すように、簡易的な色補間処理によって得られたRGBデータをさらに輝度成分Yと色差成分Cと変換してから、それぞれの成分に高域強調や低域強調フィルタ処理を施すことによって画像特性の改善を図るようにしている。
一方、以下の特許文献2や3などに示すように、広い領域の画素データを用いて適応的に色補間を行うことで、偽色の発生や画像のぼやけといった画質低下を回避することを可能とした色補間方法も提案されている。
特開2003−244711号公報 特開2002−10280号公報 特開2001−231052号公報
ところで、前記従来技術のうち、特許文献1の方法は、色補間処理によって得られたRGBデータをさらに輝度成分Yと色差成分Cと変換するための変換式が固定されたものであることから、簡易的な色補間を施す際の処理単位(例えば、2×2画素単位や3×3画素単位)内である特定の色の値が大きいと、その値が大きい色の解像度に支配されてしまい、全体の解像度が低下してしまったようにみえることがある。
例えば、R画素及びB画素がそれぞれ1つずつで、残りが2つの画素がG画素からなる2×2画素の単位で色補間処理を行う場合、1つしか存在しないR画素(あるいはB画素)の値が極端に大きくとなると、そのR画素(あるいはB画素)の影響を強く受けた色補間処理が行われて実質的にR画素の解像度で画像が生成されたようになる。その結果、解像度が本来のセンサ解像度の半分のセンサを用いて得られたような低い解像度の画像となってしまうことが考えられる。
一方、前記特許文献2は、広い領域の画素データを用いて色補間処理を行うことから、多数のラインメモリなどが必要となったり、処理途中にて複雑な計算を用いる必要が出てくるため、全体として処理負荷が増大するといったおそれがある。また、RGBモザイク配列において、Gについては画素間の相関を利用して補間を行い、RとBについてはGデータの相関を利用して補間に利用する画素を決定するようになっているため、処理の切り換えポイントが画像のエッジ部などで頻繁に発生すると、滑らかなエッジが再現できないといった問題が発生するおそれがある。
また、両技術共に、特定色を正確に算出してから他の色を算出することを前提としているため、その算出処理が別途必要となり、これも処理負荷を増大させる要因になり得ると考えられる。
そこで、本発明はこのような課題を有効に解決するために案出されたものであり、その目的は、画像処理負荷が少なく、かつ解像度の低下を回避できると共に滑らかで自然なエッジを確実に再現することができる新規な画像処理方法、及び画像処理装置、半導体装置、電子機器、画像処理プログラム、並びにコンピュータ読み取り可能な記録媒体を提供するものである。
〔発明1〕上記課題を解決するために本発明1の画像処理方法は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める工程と、当該色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換してそれぞれの信号に所定のフィルタリング処理を施す工程と、を有し、前記変換式を前記色データの各色の大きさに基づいて変化させるようにしたことを特徴とするものである。
すなわち、前述したように、単板式カラー撮像センサが出力する画素データに対する色補間処理によって得られた色データを、さらに輝度成分Yと色差成分Cと変換するための変換式は、固定されたものであることから、簡易的な色補間を施す際の処理単位内で1画素しかない、例えば「R」や「B」の値が大きすぎると、その色の解像度に支配されてしまい、全体の解像度が低下してしまったようにみえることがある。
そこで、本発明は、色補間処理後の色データを輝度成分Yと色差成分Cと変換するための変換式を前記色データの各色の大きさに基づいて能動的に変化させるようにしたものである。
これによって、ある特定の色の値が大きい場合には、その影響を少なくするように(YC)変換式を変化させることができるため、その色の解像度に支配されてしまうようなことがなくなって解像度の低下を回避できる。
また、色補間処理自体には手を加えることなく、従来の簡易的な色補間処理をそのまま利用することができるため、滑らかで自然なエッジを確実に再現できると共に、画像処理負荷の増大を招くこともない。
なお、本発明でいう、「色データ」とは、1画素ごとに「R(赤)」、「G(緑)」、「B(青)」フィルタを配置した3色フィルタ(一般的に原色フィルタと呼ばれている)で得られる色データの他に、1画素ごとに「C(シアン)」、「M(マゼンタ)」、「Y(イエロ)」、「G(グリーン)」のフィルタを配置した4色フィルタ(一般的に補色フィルタと呼ばれている)で得られる色データをも含むものであり、また、原色フィルタに青紫のような色フィルタを加えたようなあらゆる色フィルタで得られる色データを対象としている(特に明示しない限り、以下の「画像処理方法」、「画像処理装置」、「画像処理プログラム」、「電子機器」、「画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体」においても同じである)。
また、本発明でいう「Y」とは、輝度のようなものであるが輝度そのものを指すものではなく、色補間で得られたデータに対して解像度を決定する支配的なパラメータを指すものである。一般的には、これらは輝度信号であるが、本発明では色空間の輝度信号を正確に算出するのではなく、空間的な位置情報を優先した信号を輝度と呼ぶものとする(以下の「画像処理方法」、「画像処理装置」、「画像処理プログラム」、「電子機器」、「画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体」においても同じである)。
〔発明2〕発明2の画像処理方法は、
発明1に記載の画像処理方法において、前記変換式に使用する係数に、用意された所定の数値を用いることを特徴とするものである。
すなわち、(YC)変換式に使用する係数に自由な係数を用いると、ハードウェア化した場合に乗算器を合成する必要があり、ハードウェア資源をいたずらに浪費することがある。そのため、本発明のように変換式に使用する係数に予め用意された所定の数値、例えば、「0.125」、「0.25」、「0.5」、「0.725」、「1.0」などの2^n(n整数)とそれに類する係数に限定して用いれば、ハードウェア資源を大幅に節約することができる。また、ソフトウェアで考えた場合には、乗算処理よりも高速な演算を実現することが可能となる。なお、後述する実施の形態で用いている係数は、その限定の元で生成してあり、また、その条件下での実験で十分な効果を得ている。
〔発明3〕発明3の画像処理方法は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める工程と、当該色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換してそれぞれの信号に所定のフィルタリング処理を施す工程と、各画素ごとに前記色補間処理で求められた色データのなかから最大値を検出する工程と、当該最大値と特定色の値との大きさの比を求める工程と、その比に基づいて前記変換式を決定する工程と、を有することを特徴とするものである。
すなわち、前述したように従来のYC変換処理で用いる変換式は、各係数の数値などが固定されたものであることから、例えば「R」や「B」の値が大きすぎると、その色の解像度に支配されてしまい、全体の解像度が低下してしまったようにみえることがある。
そのため、本発明は色データの各色のなかから最大値を有する色を検出し、その色に輝度データが支配されないように当該最大値と他の色の値との大きさの比を求め、その比に基づいて前記変換式を決定するようにしたものである。
これによって、発明1と同様に、ある特定の色の値が大きい場合には、生成される輝度データへのその色の寄与率を下げてその影響を少なくするように変換式を決定することができるため、その色の解像度に支配されるのを防止して解像度の低下を回避することが可能となる。
また、色補間処理自体には手を加えることなく、従来の簡易的な色補間処理をそのまま利用することができるため、滑らかで自然なエッジを確実に再現できると共に、画像処理
負荷の増大を招くこともない。
〔発明4〕発明4の画像処理方法は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又は前記R画素及びB画素のうちいずれか1つの画素を中心としてその周囲に前記いずれか1つの画素とは異なる色の画素が存在する3×3画素単位、あるいは前記R画素とB画素がそれぞれ2つ存在する3×3画素単位として、
色補間処理を施して各画素ごとにRGBの色データを算出する固定と、当該色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換してそれぞれの信号に所定のフィルタリング処理を施す工程と、を有し、前記変換式のうち、輝度信号Yは、R×K1+G×K2+B×K1(但し、K1+K2+K1=1.0)にて算出すると共に、前記色差信号C(Cb、Cr)は、前記RとYとの差分、及び前記BとYの差分にてそれぞれ算出し、かつ、前記K1及びK2の値を前記色補間処理で算出された色データのRGB各色の大きさに基づいて変化させるようにしたことを特徴とするものである。
これによって、発明1及び2と同様に、解像度の低下や画像処理負荷の増大を回避できると共に、2×2画素単位あるいは3×3画素単位で、「K1」あるいは「K2」のいずれか一方のみのパラメータを操作するだけで変換式を決定することができるため、変動する適切な変換式を容易に決定することができる。
なお、後述するように単板式のカラー撮像センサの色フィルタは、モザイク配列の配色となっており、殆どが2×2画素単位の繰り返しで構成されている。そして、RGB3色の場合は2×2画素のなかにGが千鳥状に配置されており、また、これに青紫を加えた場合やCMYG4色の場合は2×2画素のなかにそれぞれ異なった色が1つずつ配置されているのが一般的である。
〔発明5〕発明5の画像処理方法は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める工程と、当該色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換してそれぞれの信号に所定のフィルタリング処理を施す工程とを有し、前記変換式は少なくとも2種類以上有し、当該複数の変換式のなかから、前記色データの各色の大きさに基づいて前記変換式を選択して用いるようにしたことを特徴とするものである。
すなわち、前記1〜4の発明は、従来固定的であった変換式を色データに基づいて最適に変化させるようにしたものであるのに対し、本発明は、予め前記変換式を少なくとも2種類以上用意しておき、当該複数の変換式のなかから、前記色データの各色の大きさに基づいて最適な変換式を切り換えて用いるようにしたものである。
これによって前記発明1と同様な効果を得ることができると共に、1画素ごとに1つの変換式を変化させる方法に比べてより高速にYC変換処理を実現することができる。
〔発明6〕発明6の画像処理方法は、
請求項5に記載の画像処理方法において、前記色補間処理は、前記単板式のカラー撮像センサの各画素ごとに、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又は前記R画素及びB画素のうちいずれか1つの画素を中心としてその周囲に前記いずれか1つの画素とは異なる色の画素が存在する3×3画素単位、あるいは前記R画素とB画素がそれぞれ2つ存在する3×3画素単位として実施するものであって、前記R画素又はB画素のうちいずれか一方の値と他の色の値の大きさに応じて前記変換式を切り換えるようにすることを特徴とするものである。
これによって、2×2画素単位、又は3×3画素単位で実施されるような、いわゆる簡易的な色補間処理によって特に生じやすい解像度の低下を効果的に回避することができる。
〔発明7〕本発明7の画像処理方法は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める工程と、当該色データを2種類以上の変換式を用いてそれぞれ独立に輝度信号Yと色差信号Cとに変換してからそれぞれの輝度信号Y同士と色差信号C同士を所定の係数を用いて合成し、合成後の輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施す工程とを、有することを特徴とするものである。
すなわち、前記1〜6の発明は原則として1つの色データに対して1つの変換式を用いてYC変換するのに対し、本発明は、1つの色データを2種類以上の変換式を用いてそれぞれ独立に輝度信号Yと色差信号CとにYC変換してからそれぞれの輝度信号Y同士と色差信号C同士を所定の係数を用いて合成し、合成後の輝度信号Yと色差信号Cに対してフィルタリング処理を施すようにしたものである。
これによって、前記発明1と同様な効果を得ることができると共に、発明4と同様にいずれか1つの変換式を代えるだけで多種類の変換式を決定することができるため、変動する適切な変換式を容易に決定することができる。
〔発明8〕発明8の画像処理方法は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める工程と、当該色データを2種類以上の変換式を用いてそれぞれ独立に輝度信号Yと色差信号Cとに変換してそれぞれの信号に所定のフィルタリング処理を施し、フィルタリング処理後の輝度信号Yと色差信号Cを再度色データに逆変換処理して逆変換後の各色データを所定の係数を用いて合成する工程と、を有することを特徴とするものである。
すなわち、前記発明6は、1つの色データを2種類以上の変換式を用いてそれぞれ独立に輝度信号Yと色差信号CとにYC変換してからそれぞれの輝度信号Y同士と色差信号C同士を所定の係数を用いて合成して合成後の輝度信号Yと色差信号Cに対してフィルタリング処理を施すようにしたのに対し、本発明は、1つの色データを2種類以上の変換式を用いてそれぞれ独立に輝度信号Yと色差信号CとにYC変換した後、そのままそれぞれの信号に所定のフィルタリング処理を施し、フィルタリング処理後の輝度信号Yと色差信号Cを再度色データに逆変換処理して逆変換後の各色データを所定の係数を用いて合成するようにものである。
これによって、前記発明1と同様な効果を得ることができると共に、その合成比を変えるだけで、多数の変換式を用意しなくとも多数の様々なパターンの処理結果を得ることができる。
〔発明9〕発明9の画像処理方法は、
発明7又は8に記載の画像処理方法において、前記色補間処理は、前記単板式のカラー撮像センサの各画素ごとに、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又は前記R画素及びB画素のうちいずれか1つの画素を中心としてその周囲に前記いずれか1つの画素とは異なる色の画素が存在する3×3画素単位、あるいは前記R画素とB画素がそれぞれ2つ存在する3×3画素単位で実施するものであることを特徴とするものである。
これによって、2×2画素単位、又は3×3画素単位で実施されるような、いわゆる簡易的な色補間処理によって特に生じやすい解像度の低下を、少ない変換式でも効果的に回避することができる。
〔発明10〕発明10の画像処理装置は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める色補間処理部と、当該色補間処理部で求められた前記色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換部と、当該YC変換部で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、を備え、前記YC変換部は、前記変換式を前記色データの各色の大きさに基づいて変化させるようになっていることを特徴とするものである。
これによって、発明1と同様に、ある特定の色の値が大きい場合には、その影響を少なくするように変換式を変化させることができるため、その色の解像度に支配されてしまうようなことがなくなって解像度の低下を回避できる。
また、色補間処理自体には手を加えることなく、従来の簡易的な色補間処理をそのまま利用することができるため、滑らかで自然なエッジを確実に再現できると共に、画像処理負荷の増大を招くこともない。
〔発明11〕発明11の画像処理装置は、
発明10に記載の画像処理装置において、前記YC変換部は、前記変換式に使用する係数に、用意された所定の数値を用いるようになっていることを特徴とするものである。
これによって、発明2と同様にハードウェア資源を大幅に節約することができ、また、ソフトウェアで考えた場合には、乗算処理よりも高速な演算を実現することが可能となる。
〔発明12〕発明12の画像処理装置は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める色補間処理部と、当該色補間処理部で求められた前記色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換部と、当該YC変換部で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、を備え、
前記YC変換部は、前記色補間処理で算出された色データの各色のなかから最大値を有する色を検出し、当該最大値と他の色の値との大きさの比を求め、その比に基づいて前記変換式を決定するようになっていることを特徴とするものである。
これによって、発明1と同様に、解像度の低下を回避できると共に、色補間処理自体には何ら手を加えることなく、従来の簡易的な色補間処理をそのまま利用することができるため、滑らかで自然なエッジを確実に再現できると共に、画像処理負荷の増大を招くこともない。
〔発明12〕発明12の画像処理装置は、
画像処理装置単板式のカラー撮像センサが出力する1画素1色の画素データに対して、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又はR画素及びB画素のうちいずれか1つの画素を中心としてその周囲に他の色の画素が存在する3×3画素単位、あるいは前記R画素とB画素がそれぞれ2つ存在する3×3画素単位で色補間処理を施して各画素ごとにRGBデータを算出する色補間処理部と、当該色補間処理部で算出された前記RGBデータを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換部と、当該YC変換部で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すようにしたフィルタリング部と、を備え、前記YC変換部は、前記変換式のうち、輝度信号Yは、R×K1+G×K2+B×K1(但し、K1+K2+K1=1.0)に基づいて算出すると共に、前記色差信号C(Cb、Cr)は、前記RとYとの差分、及び前記BとYの差分にそれぞれ基づいて算出し、かつ、前記K1及びK2の値を前記色補間処理で算出されたRGBデータの各色の大きさに基づいて変化させるようになっていることを特徴とするものである。
これによって、発明1と同様に、解像度の低下や画像処理負荷の増大を回避できると共に、2×2画素単位あるいは3×3画素単位で、K1あるいはK2のいずれか一方のみのパラメータを操作するだけで変換式を決定することができるため、変動する適切な変換式を容易に決定することができる。
〔発明13〕発明13の画像処理装置は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める色補間処理部と、当該色補間処理部で算出された前記色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換部と、当該YC変換部で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、を備え、
前記YC変換部は、前記変換式を2種類以上備え、前記色データごとの各色の大きさに基づいて前記変換式を切り換えるようになっていることを特徴とするものである。
これによって前記発明1と同様な効果を得ることができると共に、1画素ごとに1つの変換式を変化させる方法に比べてより高速にYC変換処理を実現することができる。
〔発明14〕発明14の画像処理装置は、
発明13に記載の画像処理装置において、前記色補間処理部における色補間処理は、前記単板式のカラー撮像センサの各画素ごとに、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又は前記R画素及びB画素のうちいずれか1つを中心としてその周囲に他の色の画素が存在する3×3画素単位、あるいはR画素とB画素がそれぞれ2つ存在する3×3画素単位で実施するものであって、前記R画素又はB画素のうちいずれか一方の値の大きさに応じて前記変換式を切り換えるようになっていることを特徴とするものである。
これによって、2×2画素単位、又は3×3画素単位で実施されるような、いわゆる簡易的な色補間処理によって特に生じやすい解像度の低下を効果的に回避することができる。
〔発明15〕発明15の画像処理装置は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを算出する色補間処理部と、当該色補間処理部で算出された前記色データを2種類以上の変換式を用いてそれぞれ独立に輝度信号Yと色差信号Cとに変換してからそれぞれの輝度信号Y同士と色差信号C同士を所定の係数を用いて合成するYC変換部と、当該YC変換部で合成した後の輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、を備えたことを特徴とするものである。
これによって、前記発明1と同様な効果を得ることができると共に、発明4と同様にいずれか1つの変換式を代えるだけで多種類の変換式を決定することができるため、変動する適切な変換式を容易に決定することができる。
〔発明16〕発明16の画像処理装置は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを算出する色補間処理部と、当該色補間処理部で算出された前記色データをそれぞれ異なる変換式を用いて独自にそれぞれ輝度信号Yと色差信号Cとに変換するYC変換部と、当該各YC変換部でそれぞれ変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、当該フィルタリング部でフィルタリング後の輝度信号Yと色差信号Cを独自にそれぞれ色データに逆変換する逆変換部と、当該逆変換部で変換された各色データを所定の係数を用いて合成するデータ合成部と、を備えたことを特徴とするものである。
これによって、前記発明1と同様な効果を得ることができると共に、その混合比を代えるだけで、多数の変換式を用意しなくとも多数の様々なパターンの処理結果を得ることができる。
〔発明17〕発明17の画像処理装置は、
発明15又は16に記載の画像処理装置において、前記色補間処理部における色補間処理は、前記単板式のカラー撮像センサの各画素ごとに、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又はR画素及びB画素のうちいずれか1つを中心としてその周囲に他の色の画素が存在する3×3画素単位、あるいはR画素とB画素がそれぞれ2つ存在する3×3画素単位で実施するようになっていることを特徴とするものである。
これによって、2×2画素単位、又は3×3画素単位で実施されるような、いわゆる簡易的な色補間処理によって特に生じやすい解像度の低下を、少ない変換式でも効果的に回避することができる。
〔発明18〕発明18の半導体装置は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める色補間処理部と、当該色補間処理部で求められた前記色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換部と、当該YC変換部で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、を備え、前記YC変換部は、前記変換式を前記色データの各色の大きさに基づいて変化させるようになっていることを特徴とするものである。
これによって、発明1や10などと同様な効果が得られると共に、ASIC(Application Specific Integrated Circuit)などの1チップ素子の形態で提供することができるため、小型のデジタルビデオカメラやデジタルスチルカメラなどに容易に搭載して活用することができる。
〔発明19〕発明19の半導体装置は、
発明18に記載の半導体装置において、前記YC変換部は、前記変換式に使用する係数に、用意された所定の数値を用いるようになっていることを特徴とするものである。
これによって、発明2や11などと同様な効果が得られると共に、発明18と同様に、ASICなどの1チップ素子の形態で提供することができるため、小型のデジタルビデオカメラやデジタルスチルカメラなどに容易に搭載して活用することができる。
〔発明20〕発明20の半導体装置は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める色補間処理部と、当該色補間処理部で求められた前記色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換部と、当該YC変換部で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、を備えた半導体装置であって、
前記YC変換部は、前記色補間処理で算出された色データの各色のなかから最大値を有する色を検出し、当該最大値と他の色の値との大きさの比を求め、その比に基づいて前記変換式を決定するようになっていることを特徴とするものである。
これによって、発明1や12などと同様な効果が得られると共に、発明18と同様に、ASICなどの1チップ素子の形態で提供することができるため、小型のデジタルビデオカメラやデジタルスチルカメラなどに容易に搭載して活用することができる。
〔発明21〕発明21の半導体装置は、
画像処理装置単板式のカラー撮像センサが出力する1画素1色の画素データに対して、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又はR画素及びB画素のうちいずれか1つを中心としてその周囲に他の色の画素が存在する3×3画素単位、あるいは前記R画素とB画素がそれぞれ2つ存在する3×3画素単位で色補間処理を施して各画素ごとにRGBデータを算出する色補間処理部と、当該色補間処理部で算出された前記RGBデータを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換部と、当該YC変換部で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すようにしたフィルタリング部と、を備えた半導体装置であって、前記YC変換部は、前記変換式のうち、輝度信号Yは、R×K1+G×K2+B×K1(但し、K1+K2+K1=1.0)に基づいて算出すると共に、前記色差信号C(Cb、Cr)は、前記RとYとの差分、及び前記BとYの差分にそれぞれ基づいて算出し、かつ、前記K1及びK2の値を前記色補間処理で算出されたRGBデータの各色の大きさに基づいて変化させるようになっていることを特徴とするものである。
これによって、発明1や13などと同様な効果が得られると共に、発明18と同様に、ASICなどの1チップ素子の形態で提供することができるため、小型のデジタルビデオカメラやデジタルスチルカメラなどに容易に搭載して活用することができる。
〔発明22〕発明22の半導体装置は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める色補間処理部と、当該色補間処理部で算出された前記色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換部と、当該YC変換部で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、を備えた半導体装置であって、
前記YC変換部は、前記変換式を2種類以上備え、前記色データごとの各色の大きさに基づいて前記変換式を切り換えるようになっていることを特徴とするものである。
これによって前記発明1や14などと同様な効果が得られると共に、発明18と同様に、ASICなどの1チップ素子の形態で提供することができるため、小型のデジタルビデオカメラやデジタルスチルカメラなどに容易に搭載して活用することができる。
〔発明23〕発明14の半導体装置は、
発明22に記載の半導体装置において、前記色補間処理部における色補間処理は、前記単板式のカラー撮像センサの各画素ごとに、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又は前記R画素及びB画素のうちいずれか1つを中心としてその周囲に他の色の画素が存在する3×3画素単位、あるいはR画素とB画素がそれぞれ2つ存在する3×3画素単位で実施するものであって、前記R画素又はB画素のうちいずれか一方の値の大きさに応じて前記変換式を切り換えるようになっていることを特徴とするものである。
これによって、発明15などと同様な効果が得られると共に、発明18と同様に、ASICなどの1チップ素子の形態で提供することができるため、小型のデジタルビデオカメラやデジタルスチルカメラなどに容易に搭載して活用することができる。
〔発明23〕発明23の半導体装置は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを算出する色補間処理部と、当該色補間処理部で算出された前記色データを2種類以上の変換式を用いてそれぞれ独立に輝度信号Yと色差信号Cとに変換してからそれぞれの輝度信号Y同士と色差信号C同士を所定の係数を用いて合成するYC変換部と、当該YC変換部で合成した後の輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、を備えたことを特徴とするものである。
これによって、前記発明1や15などと同様な効果が得られると共に、発明18と同様に、ASICなどの1チップ素子の形態で提供することができるため、小型のデジタルビデオカメラやデジタルスチルカメラなどに容易に搭載して活用することができる。
〔発明24〕発明24の半導体装置は、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを算出する色補間処理部と、当該色補間処理部で算出された前記色データをそれぞれ異なる変換式を用いて独自にそれぞれ輝度信号Yと色差信号Cとに変換するYC変換部と、当該各YC変換部でそれぞれ変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、当該フィルタリング部でフィルタリング後の輝度信号Yと色差信号Cを独自にそれぞれ色データに逆変換する逆変換部と、当該逆変換部で変換された各色データを所定の係数を用いて合成するデータ合成部と、を備えたことを特徴とするものである。
これによって、前記発明1や16などと同様な効果が得られると共に、発明18と同様に、ASICなどの1チップ素子の形態で提供することができるため、小型のデジタルビデオカメラやデジタルスチルカメラなどに容易に搭載して活用することができる。
〔発明25〕発明25の半導体装置は、
発明23又は24に記載の半導体装置において、前記色補間処理部における色補間処理は、前記単板式のカラー撮像センサの各画素ごとに、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又はR画素及びB画素のうちいずれか1つを中心としてその周囲に他の色の画素が存在する3×3画素単位、あるいはR画素とB画素がそれぞれ2つ存在する3×3画素単位で実施するようになっていることを特徴とするものである。
これによって、発明17などと同様な効果が得られると共に、発明18と同様に、ASICなどの1チップ素子の形態で提供することができるため、小型のデジタルビデオカメラやデジタルスチルカメラなどに容易に搭載して活用することができる。
〔発明26〕発明26の電子機器は、
前記発明10〜17のいずれかに記載の画像処理装置を備えたことを特徴とするものである。
これによって、画像処理速度が速く、かつ解像度の低下がない高画質な画像を表示できる電子機器を提供することができる。
ここで、本発明でいう「電子機器」とは、デジタル画像を扱うことができるものであれば特に限定されるものでなく、デジタルカメラ、デジタルスチルカメラ、デジタルムービーカメラ、携帯電話に装備されたカメラ、Webカメラ、監視カメラ、ネットワークカメラなどが含まれる。
〔発明27〕発明27の電子機器は、
前記発明18〜25のいずれかに記載の半導体装置を備えたことを特徴とするものである。
これによって、画像処理速度が速く、かつ解像度の低下がない高画質な画像を表示できる電子機器を提供することができる。
〔発明28〕発明28の画像処理プログラムは、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める色補間手段と、当該色補間手段で算出された前記色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換手段と、当該YC変換手段で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング手段と、をコンピュータに実現させる画像処理プログラムであって、
前記YC変換手段は、前記変換式を前記色データの各色の大きさに基づいて変化させるようになっていることを特徴とするものである。
これによって、発明1と同様に、解像度の低下を回避できると共に、滑らかで自然なエッジを確実に再現でき、画像処理負荷の増大を招くこともない。
また、専用のコンピュータシステムのみならず、パソコン(PC)などの汎用のコンピュータシステムを用いてソフトウェア上で実現することができるため、専用のハードウェアを用意して実現する場合に比べて、経済的かつ容易にその機能を実現することができる。また、プログラムの書き換えだけで容易にその機能の改変を行うこともできる。
〔発明29〕発明29の画像処理プログラムは、
発明28に記載の画像処理プログラムにおいて、前記YC変換部は、前記変換式に使用する係数に、用意された所定の数値を用いるようになっていることを特徴とするものである。
これによって、発明2と同様にハードウェア資源を大幅に節約することができ、また、ソフトウェアで考えた場合には、乗算処理よりも高速な演算を実現することが可能となる。
〔発明30〕発明30の画像処理プログラムは、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを算出する色補間処理部と、当該色補間処理部で算出された前記色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換部と、当該YC変換部で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、をコンピュータに実現させる画像処理プログラムであって、前記YC変換部は、前記色補間処理で算出された色データの各色のなかから最大値を有する色を検出し、当該最大値と他の色の値との大きさの比を求め、その比に基づいて前記変換式を決定するようになっていることを特徴とするものである。
これによって、発明3などと同様な効果が得られるばかりでなく、発明19と同様に、専用のコンピュータシステムのみならず、パソコン(PC)などの汎用のコンピュータシステムを用いてソフトウェア上で実現することができるため、専用のハードウェアを用意して実現する場合に比べて、経済的かつ容易にその機能を実現することができる。また、プログラムの書き換えだけで容易にその機能の改変を行うこともできる。
〔発明31〕発明31の画像処理プログラムは、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又はR画素及びB画素のうちいずれか1つを中心としてその周囲に他の色の画素が存在する3×3画素単位、あるいは前記R画素とB画素がそれぞれ2つ存在する3×3画素単位で色補間処理を施して各画素ごとにRGBデータを算出する色補間処理部と、当該色補間処理部で算出された前記RGBデータを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換部と、当該YC変換部で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すようにしたフィルタリング部と、をコンピュータに実現させる画像処理プログラムであって、
前記YC変換部は、前記変換式のうち、輝度信号Yは、R×K1+G×K2+B×K1(但し、K1+K2+K1=1.0)に基づいて算出すると共に、前記色差信号C(Cb、Cr)は、前記RとYとの差分、及び前記BとYの差分にそれぞれ基づいて算出し、かつ、前記K1及びK2の値を前記色補間処理で算出されたRGBデータの各色の大きさに基づいて変化させるようになっていることを特徴とするものである。
これによって、発明4などと同様な効果が得られると共に、発明20などと同様に、専用のハードウェアを用意して実現する場合に比べて、経済的かつ容易にその機能を実現することができる。また、プログラムの書き換えだけで容易にその機能の改変を行うこともできる。
〔発明32〕発明32の画像処理プログラムは、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを算出する色補間手段と、当該色補間手段で算出された前記色データを所定の変換式を用いて輝度信号Yと色差信号Cとに変換するYC変換手段と、当該YC変換手段で変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング手段と、を少なくともコンピュータに実現させる画像処理プログラムであって、前記YC変換手段は、前記変換式を2種類以上備え、前記色データごとの各色の大きさに基づいて前記変換式を切り換えて用いるようになっていることを特徴とするものである。
これによって、発明5などと同様な効果が得られると共に、発明20などと同様に、専用のハードウェアを用意して実現する場合に比べて、経済的かつ容易にその機能を実現することができる。また、プログラムの書き換えだけで容易にその機能の改変を行うこともできる。
〔発明33〕発明33の画像処理プログラムは、
発明32に記載の画像処理プログラムにおいて、前記色補間処理部における色補間処理は、前記単板式のカラー撮像センサの各画素ごとに、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又はR画素及びB画素のうちいずれか1つを中心としてその周囲に他の色の画素が存在する3×3画素単位、あるいはR画素とB画素がそれぞれ2つ存在する3×3画素単位で実施するものであって、前記R画素又はB画素のうちいずれか一方の値の大きさに応じて前記変換式を切り換えるようになっていることを特徴とするものである。
これによって、発明6などと同様な効果が得られると共に、発明20などと同様に、専用のハードウェアを用意して実現する場合に比べて、経済的かつ容易にその機能を実現することができる。また、プログラムの書き換えだけで容易にその機能の改変を行うこともできる。
〔発明34〕発明34の画像処理プログラムは、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める色補間処理部と、当該色補間処理部で求められた前記色データを2種類以上の変換式を用いてそれぞれ独立に輝度信号Yと色差信号Cとに変換してからそれぞれの輝度信号Y同士と色差信号C同士を所定の係数を用いて合成するYC変換部と、当該YC変換部で合成した後の輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング部と、を備えたことを特徴とするものである。
これによって、発明7などと同様な効果が得られると共に、発明19などと同様に、専用のハードウェアを用意して実現する場合に比べて、経済的かつ容易にその機能を実現することができる。また、プログラムの書き換えだけで容易にその機能の改変を行うこともできる。
〔発明35〕発明35の画像処理プログラムは、
単板式のカラー撮像センサが出力する1画素1色の画素データに対して色補間処理を施して各画素ごとに色データを求める色補間手段と、当該色補間手段で求められた前記色データをそれぞれ異なる変換式を用いて独自にそれぞれ輝度信号Yと色差信号Cとに変換するYC変換手段と、当該各YC変換手段でそれぞれ変換された輝度信号Yと色差信号Cに対してそれぞれ所定のフィルタリング処理を施すフィルタリング手段と、当該フィルタリング部でフィルタリング後の輝度信号Yと色差信号Cを独自にそれぞれ色データに逆変換する逆変換手段と、当該逆変換手段で変換された各色データを所定の係数を用いて合成するデータ合成手段と、をコンピュータで実現させることを特徴とするものである。
これによって、発明8などと同様な効果が得られると共に、発明20などと同様に、専用のハードウェアを用意して実現する場合に比べて、経済的かつ容易にその機能を実現することができる。また、プログラムの書き換えだけで容易にその機能の改変を行うこともできる。
〔発明36〕発明36の画像処理プログラムは、
発明34又は35に記載の画像処理プログラムにおいて、前記色補間処理部における色補間処理は、前記単板式のカラー撮像センサの各画素ごとに、赤のフィルタが設けられたR画素及び青のフィルタが設けられたB画素がそれぞれ1つずつのみ存在する2×2画素単位、又はR画素及びB画素のうちいずれか1つの画素を中心としてその周囲に他の色の画素が存在する3×3画素単位、あるいはR画素とB画素がそれぞれ2つ存在する3×3画素単位で実施するようになっていることを特徴とするものである。
これによって、発明9などと同様な効果が得られると共に、発明20などと同様に、専用のハードウェアを用意して実現する場合に比べて、経済的かつ容易にその機能を実現することができる。また、プログラムの書き換えだけで容易にその機能の改変を行うこともできる。
〔発明37〕発明37のコンピュータ読み取り可能な記録媒体は、
前記発明28〜36のいずれかに記載の画像処理プログラムを記録したことを特徴とするものである。
これにより、前記発明28〜36のいずれかに記載の画像処理プログラムをCD−ROMやDVD−ROM、FDなどの記録媒体を介して容易に授受することが可能となる。
〔発明38〕発明38の画像処理方法は、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する工程と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から、前記R値と前記B値と前記G値のうち値が大きい色に対応する前記K1または前記K2の値が他の前記K1と前記K2の値より小さく設定されている第1の変換式を選択し、前記第1の変換式に基づき輝度信号Yを算出し、前記R値と前記輝度信号Yとの差分と前記B値と前記輝度信号Yとの差分に基づき色差信号Cを算出するYC変換処理工程と、
前記輝度信号Yを高域強調フィルタに、前記色差信号Cを低域強調フィルタにかけるフィルタリング処理を施す工程と、を有する、ことを特徴とする。
〔発明39〕発明39の画像処理方法は、
発明38において、前記複数の変換式が前記K1と前記K2と前記K3との組み合わせにより設定されていることを特徴とする。
〔発明40〕発明40の画像処理方法は、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する工程と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換処理工程と、
前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成する合成処理工程と、
前記第3の輝度信号Yを高域強調フィルタに、前記第3の色差信号Cを低域強調フィルタにかけるフィルタリング処理を施す工程と、を有する、ことを特徴とする。
〔発明41〕発明41の画像処理方法は、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する工程と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換処理工程と、
前記第1の輝度信号Yおよび前記第2の輝度信号Yを高域強調フィルタに、前記第1の色差信号Cおよび前記第2の色差信号Cを低域強調フィルタにかけるフィルタリング処理を施す工程と、
前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成する合成処理工程と、を有する、ことを特徴とする。
〔発明42〕発明42の画像処理方法は、
発明37ないし41において、前記色補間処理は、前記単板式のカラー撮像センサの各画素ごとに、赤色に対応するR画素及び青色に対応するB画素がそれぞれ1つずつのみ存在する2×2画素単位、又は赤色に対応するR画素及び青色に対応するB画素のうちいずれか1つの画素を中心としてその周囲に前記いずれか1つの画素とは異なる色の画素が存在する3×3画素単位、あるいは赤色に対応するR画素と青色に対応するB画素がそれぞれ2つ存在する3×3画素単位で実施するものであることを特徴とする。
〔発明43〕発明43の画像処理装置は、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から、前記R値と前記B値と前記G値のうち値が大きい色に対応する前記K1または前記K2の値が他の前記K1と前記K2の値より小さく設定されている第1の変換式を選択し、前記第1の変換式に基づき輝度信号Yを算出し、前記R値と前記輝度信号Yとの差分と前記B値と前記輝度信号Yとの差分に基づき色差信号Cを算出するYC変換部と、
前記輝度信号Yを高域強調フィルタに、前記色差信号Cを低域強調フィルタにかけるフィルタリング処理を施すフィルタリング部と、を有する、ことを特徴とする。
〔発明44〕発明44の画像処理装置は、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換部と、
前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成部と、
前記第3の輝度信号Yを高域強調フィルタに、前記第3の色差信号Cを低域強調フィルタにかけるフィルタリング部と、を有する、ことを特徴とする。
〔発明45〕発明45の画像処理装置は、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換部と、
前記第1の輝度信号Yおよび前記第2の輝度信号Yを高域強調フィルタに、前記第1の色差信号Cおよび前記第2の色差信号Cを低域強調フィルタにかけるフィルタリング部と、
前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成部と、を有する、ことを特徴とする。
〔発明46〕発明46の半導体装置は、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から、前記R値と前記B値と前記G値のうち値が大きい色に対応する前記K1または前記K2の値が他の前記K1と前記K2の値より小さく設定されている第1の変換式を選択し、前記第1の変換式に基づき輝度信号Yを算出し、前記R値と前記輝度信号Yとの差分と前記B値と前記輝度信号Yとの差分に基づき色差信号Cを算出するYC変換部と、
前記輝度信号Yを高域強調フィルタに、前記色差信号Cを低域強調フィルタにかけるフィルタリング処理を施すフィルタリング部と、を有する、ことを特徴とする。
〔発明47〕発明47の半導体装置は、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換部と、
前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成部と、
前記第3の輝度信号Yを高域強調フィルタに、前記第3の色差信号Cを低域強調フィルタにかけるフィルタリング部と、を有する、ことを特徴とする。
〔発明48〕発明48の半導体装置は、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換部と、
前記第1の輝度信号Yおよび前記第2の輝度信号Yを高域強調フィルタに、前記第1の色差信号Cおよび前記第2の色差信号Cを低域強調フィルタにかけるフィルタリング部と、
前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成部と、を有する、ことを特徴とする。
〔発明49〕発明49の電子機器は、
発明43ないし45の画像処理装置を備えたことを特徴とする。
〔発明50〕発明50の電子機器は、
前記請求項46ないし48の半導体装置を備えたことを特徴とする。
〔発明51〕発明51の画像処理プログラムは、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間手段と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から、前記R値と前記B値と前記G値のうち値が大きい色に対応する前記K1または前記K2の値が他の前記K1と前記K2の値より小さく設定されている第1の変換式を選択し、前記第1の変換式に基づき輝度信号Yを算出し、前記R値と前記輝度信号Yとの差分と前記B値と前記輝度信号Yとの差分に基づき色差信号Cを算出するYC変換手段と、
前記輝度信号Yを高域強調フィルタに、前記色差信号Cを低域強調フィルタにかけるフィルタリング処理を施すフィルタリング手段と、を有する、ことを特徴とする。
〔発明52〕発明52の画像処理プログラムは、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間手段と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換手段と、
前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成手段と、
前記第3の輝度信号Yを高域強調フィルタに、前記第3の色差信号Cを低域強調フィルタにかけるフィルタリング手段と、を有する、ことを特徴とする。
〔発明53〕発明53の画像処理プログラムは、
赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間手段と、
前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換手段と、
前記第1の輝度信号Yおよび前記第2の輝度信号Yを高域強調フィルタに、前記第1の色差信号Cおよび前記第2の色差信号Cを低域強調フィルタにかけるフィルタリング手段と、
前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成手段と、を有する、ことを特徴とする。
〔発明54〕発明54のコンピュータ読み取り可能な記録媒体は、
前記請求項51〜53の画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体である。
以下、本発明を実施するための最良の形態を添付図面を参照しながら詳述する。
図1は、本発明に係る画像処理装置100の実施の1形態を示したものである。
図示するように、この画像処理装置100は、任意の被写体を捉えるためのカメラレンズ(以下、単に「レンズ」と称す)10と、このレンズ10を介して通過してきた画像を取り込むための単板式のカラー撮像センサ20と、このカラー撮像センサ20で取り込まれた画像に対して簡易的な色補間処理を実施する色補間処理部30と、この色補間処理部30で色補間処理された後の色(RGB)データを輝度成分(Y)と色差成分(CbCr)との分離するYC変換部40と、このYC変換部40で分離された輝度成分(Y)と色差成分(CbCr)に対して所定のフィルタリング処理を施すフィルタリング部50と、このフィルタリング部50でフィルタリング処理されたYC信号を元の色(RGB)信号に変換処理する逆変換部60と、この逆変換部60で色信号に戻された後の画像データをホワイトバランス処理やγ補正処理などの所定の画像処理を経てから視覚的に出力する画像出力部70とから主に構成されている。
また、フィルタリング部50は、輝度成分Yに対して前記色補間処理部30で失われる画像のエッジなどの輪郭情報を補償あるいは強調して画像の鮮明化を図るための輪郭強調部52と、色差成分Cに対して前記色補間処理に伴って生じた偽色を排除する偽色処理部54とから構成されている。
そして、この画像処理装置100を構成するレンズ10、カラー撮像センサ20、色補間処理部30、YC変換部40、フィルタリング部50、逆変換部60、画像出力部70などは、いずれも基本的には従来と同様のものをそのまま適用可能となっており、そのうち特にYC変換部40の部分が本発明の特徴部分を構成するようになっている。
すなわち、このYC変換部40は、後に詳述するが、複数のYC変換式を備え、色補間処理部30から送られる各画素の色データごとに最適なYC変換式を選択して色補間処理後の色データを輝度成分(Y)と色差成分(CbCr)と分離する機能を提供するようになっている。
また、この画像処理装置100を構成する色補間処理部30、YC変換部40、フィルタリング部50、逆変換部60などにおける各処理機能は、具体的には中央演算処理装置や主記憶装置などからなるハードウェアと、各処理用に製作された専用のソフトウェア(処理プログラム)とからなるコンピュータシステムによって実現されるようにすることもできる。
すなわち、この画像処理装置100を実現するためのコンピュータシステムは、例えば図2に示すように、各種制御や演算処理を担う中央演算処理装置であるCPU(Central Processing Unit)90と、主記憶装置(Main Strage)に用いられるRAM(Random Access Memory)91と、読み出し専用の記憶装置であるROM(Read Only Memory)92と、ハードディスクドライブ装置(HDD)や半導体メモリなどの補助記憶装置(Secondary Storage)93、及びモニタ(LCD(液晶ディスプレイ)やCRT(陰極線管))などからなる出力装置94や、入力装置95(すなわち、本発明にあってはカラー撮像センサ20)と、これらの入出力インターフェース(I/F)96などとの間を、PCI(Peripheral Component Interconnect)バスやISA(Industrial Standard Architecture;アイサ)バスなどからなるプロセッサバス、メモリバス、システムバス、入出力バスなどの各種内外バス97によってバス接続したものである。
そして、例えば、CD−ROMやDVD−ROM、フレキシブルディスクなどの記録媒体、あるいは通信ネットワーク(LAN、WAN、インターネットなど)Nを介して供給される各種制御用プログラムやデータなどを補助記憶装置93などにインストールすると共にそのプログラムやデータを必要に応じて主記憶装置91にロードし、その主記憶装置91にロードされたプログラムに従ってCPU90が各種リソースを駆使して所定の制御及び演算処理を行い、その処理結果(処理データ)をバス97を介して出力装置94に出力して表示すると共に、そのデータを必要に応じて補助記憶装置93によって形成されるデータベースに適宜記憶、保存(更新)処理するようにしたものである。
また、このカラー撮像センサ20は、従来と同様にCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像センサをそのまま適用したものであり、また、単板式のものについて特に顕著な効果が得られるというものであって、単板式のみならず2板式でも適用可能である。
また、画像出力部70は、直接的には処理前後の画像を視覚的に表示するものであり、CRTやLCDなどのソフトコピー装置の他、レーザープリンタやインクジェットプリンタなどのハードコピー装置に加え、いわゆるグラフィックアクセラレータやビデオカードなどと称される画像出力専用の回路(基板)なども含まれる。
なお、このカラー撮像センサ20を用いた画像処理装置では、他にカラー撮像センサ20などをコントロールするためのブロック(例えば露出制御など)や、色を処理するためのブロック(例えば、オートホワイトバランス)などが必要になることがあるが、本発明にはそれらのブロックは関与するところが少なく、従来の技術などを用いれば構成することができるので、本実施の形態では割愛する。
また、これら各部10,20,30,40,50,60,70は、携帯用デジタルカメラやハンディビデオカメラなどのように1つのケーシング内に一体的に収容されていても良く、また、各部のうち一部、例えば液晶モニタなどからなる画像出力部70だけが物理的に独立した形態であっても良い。
次に、このような構成をした本発明の画像処理装置100による画像処理方法の一例について説明する。
先ず、単板式のカラー撮像センサ20で取り込まれた画像データは、センサ固有のノイズ除去処理や明るさを調整するゲイン調整処理などを経てA/D変換された後、図3に示すように、色補間処理部30に送られ、この色補間処理部30によってすべての画素に対して簡易的な色補間処理が施されて(ステップS101)からYC変換部40に送られる。
ここで、この色補間処理部30で行われる簡易的な色補間処理の例について、図4〜図7などを用いて簡単に説明する。
この色補間処理部30における色補間処理とは、単板式のCCDなどのカラー撮像センサ20などによって撮像された画像データの場合に、各画素ごとに欠落している色情報を近傍の同色画素から予測補間し、1画素にRGBなどの各原色信号を復元する処理のことである。
例えば、単板式のCCD上に装着される赤、緑、青の各色をブロック状に並べたカラーフィルタの配列が、図4に示すようにB(青:Blue)及びR(赤:Red)がそれぞれ1つずつで、G(緑:Green)が2つのフィルムからなる基本パターンが縦横に配置されている場合であって、色補間処理の対象となる注目画素が図中中央に位置している「R1」と仮定すると、この注目画素「R1」に相当する画素には「赤」に関する色情報しか存在しない。
そのため、図5(a)に示すように、注目画素「R1」についての「赤」に関する色情報はそのまま採用することになるが、「緑」に関する色情報(Gip)については同図(b)に示すように、その注目画素「R1」を囲む周囲近傍の「緑」に関する画素の色情報の平均値、すなわち、注目画素「R1」の上下左右に位置する4つの「緑」に関する画素「G1」、「G4」、「G2」、「G3」の画素値を求め、その画素値の平均値((G1+G4+G2+G3)×0.25)がその注目画素「R1」の「緑」に関する色情報(Gip)として予測補間されることになる。
また、同じくその注目画素「R1」についての「青」に関する色情報(Bip)は同図(c)に示すように、注目画素「R1」を囲む周囲近傍の「青」に関する画素の色情報の平均値、すなわち、注目画素「R1」の斜め上下左右に位置する4つの「青」に関する画素「B1」、「B4」、「B2」、「B3」の画素値を求め、その画素値の平均値((B1+B4+B2+B3)×0.25)が同じくその注目画素「R1」の「青」に関する色情報(Bip)として予測補間されることになる。
そして、このような色補間処理をすべての画素に対してシーケンシャル的に、あるいは複数の領域に分割して同時並行的に行うことで、各画素ごとに欠落している色成分を予測補間して画像本来の色を再現するようにしている。
なお、このように3×3画素単位で色補間処理するパターンでは、前記のように1つの「R(R1)」画素を中心とするパターンの他に、図6(A)に示すように、1つの「B(B1)」を中心とするパターンと、同図(B)に示すように、「G(G4)」を中心とするパターンの3つのパターンが考えられる。そして、図6(B)のパターンでは、「G」は、その注目画素の重みを大きくした5つの「G」の重みつき平均値が、また、「R」は、その注目画素の上下に位置する2つの画素(R2,R4)の平均値が、また、「B」は、その注目画素の左右に位置する2つの画素(B1、B2)の平均値がそれぞれその注目画素のR値及びB値として採用されることになる。
また、このような簡易的な色補間処理としては、前記のように3×3画素単位で実施する他に、図7に示すように2×2画素単位で実施する方法も一般的に用いられている。このような2×2画素単位で実施する場合は、各画素間の格子部分に色補間処理対象となる注目画素が存在するものと仮定し、その注目画素の「R値」及び「B値」については、その2×2パターン内に1つずつある「R(R1)」及び「B(B1)」をそのまま利用し、「G値」については、そのパターン内に2つずつある「G(G1、(G3))」の平均値を利用するようにしている。
そして、このように色補間処理部30における色補間処理は、その周囲の画素値を利用して推測によりその(注目)画素にない色のデータを生成するようになっていることから、画像のエッジ部などの画素値に急激な変化がある部分では、正確な値を算出することができずに本来と異なる色のバランスを持つ画素が発生しやすくなる。
このため、これを排除するために色補間処理によって生成された色データに対してその後のフィルタリング処理が必要となってくる。
すなわち、図3のフローに示すように、色補間処理が施された色データは、その後、YC変換部40に送られ、ここで輝度信号(Y)と色差信号(C)とに変換処理される(ステップS103)。
このYC変換部40における色(RGB)データから輝度信号(Y)と色差信号(C)への変換処理は、その色データの値によって複数用意されたYC変換式のいずれかを選択して利用することになる。
例えば、色補間処理部30で得られた色データがRGB値である場合、先ず、「G」の値に対して「R」と「B」の値がどれほど大きい値になるかを判定し、以下のようにt1<t2<t3…といった複数の閾値を決めるパラメータを設定してそれぞれに異なった複数のYC変換式A、B、C…を作成し、これをYC変換部40に保存する。
R、B < G×t1 → 変換式A
G×t1≦ R、B < G×t2 → 変換式B
G×t2≦ R、B < G×t3 → 変換式C
G×t3≦ …
図8は、このYC変換式として5つのYC変換式A〜Eの一例を示したものであり、図9は、その閾値条件と使用する変換式との関係を示したものである。
図8に示す5つのYC変換式A〜Eの場合では、輝度信号Yは、R×K1+G×K2+B×K1(但し、K1+K2+K1=1.0)に基づいて算出されると共に、色差信号C(Cb、Cr)は、前記「R」と「Y」との差分、及び前記「B」と「Y」の差分にそれぞれ基づいて算出されている。
例えば、図8のYC変換式Aでは、係数「K1」が「0.25」、係数「K2」が「0.5」となっており、全輝度信号Yに対する「G」の値は、「0.5」、「R」及び「B」の値はそれぞれ「0.25」ずつとなっている。また、色差信号「Cb」は、「R」と「Y」との差分である「−0.25、−0.5、0.75」、色差信号「Cr」は、「B」と「Y」の差分である「0.75、−0.5、−0.25」となっている。
図9(1)は、4つの閾値「t1(1.125)」、「t2(1.375)」、「t3(1.625)」、「t4(1.875)」を用いて色補間処理部30で得られた色データを5つのパターンに振り分け、それぞれのパターンに対して前記5つのYC変換式A〜Eを割り当てる例を示したものである。
従って、この図9(1)のテーブルによれば、色補間処理部30で得られたRGB値を解析した結果、「R」又は「B」の値が、「G」×1.125よりも小さい場合は、YC変換式Aが選択され、「G」×1.125以上で、かつ「G」×1.375よりも小さい場合はYC変換式Bが選択される。さらに、「R」又は「B」の値が、「G」×1.375以上で、かつ「G」×1.625よりも小さい場合YC変換式Cが選択されることになる。すなわち、「R」又は「B」の値が大きくなるに従って、「G」の値も大きくなる変換式が選択されて、「R」又は「B」の値による影響が低減されるようになっている。
また、同図(2)、(3)は、それぞれ2つ及び1つの閾値を用いて色データを3つ及び2つのパターンに振り分け、それぞれのパターンに対して前記5つのYC変換式A〜Eのうち適当なYC変換式を割り当てる例を示したものである。
このように本発明の特徴部分であるYC変換処理は、予め複数のYC変換式を用意しておき、そのYC変換式のなかから色データの値に応じて適当なYC変換式を選択するようにしたものであり、これによって簡易的な色補間を施す際の処理単位内で1画素しかない、「R」や「B」の値が大きすぎるような場合でも、その色の解像度に支配されることなく、全体の解像度の低下を未然に回避することができる。
また、色補間処理部30における色補間処理自体には何ら手を加えることなく、従来の簡易的な色補間処理をそのまま利用することができるため、滑らかで自然なエッジを確実に再現できると共に、画像処理負荷の増大を招くこともない。
なお、本実施の形態でいう、「色データ」とは、1画素ごとに「R(赤)」、「G(緑)」、「B(青)」フィルタを配置した3色フィルタ(一般的に原色フィルタと呼ばれている)で得られる色データの他に、1画素ごとに「C(シアン)」、「M(マゼンタ)」、「Y(イエロ)」、「G(グリーン)」のフィルタを配置した4色フィルタ(一般的に補色フィルタと呼ばれている)で得られる色データをも含むものであり、また、原色フィルタに青紫のような色フィルタを加えたようなあらゆる色フィルタで得られる色データも含むものである。また、使用するYC変換式の数(種類)は、特に限定するものでないが一般に多いほどより適したYC変換処理を達成することが可能であるが、その分適したYC変換式を選択するなどのハードウェア、ソフトウェア的な処理負荷が増大し、反対に少ないと期待した画質向上がみられない。従って、実際に発明者が行った実験によるサンプル画像の検証だけでも2種類の切り換えでは、従来方式よりも画質的に劣化する部分が発生することから、少なくとも3種類の切り換えは必須であり、望ましくは、5種類以上のYC変換式を用意して適宜切り換えて用いることが好ましい。
そして、このようにしてYC変換部40で最適なYC変換式が選択されたならば、そのYC変換式によって色データを輝度信号(Y)と色差信号(C)とに分離し、分離された輝度信号(Y)と色差信号(C)のうち、輝度信号(Y)は、フィルタリング部50の輪郭強調部52に送られ、この輪郭強調部52によって、例えば、ハイパスフィルタ(HPF:High Pass Filter:高域強調フィルタ)がかけられて、色補間処理に伴ってなまった輝度画像のエッジ部が鮮鋭化(シャープにする)されて輪郭が補償・強調される。すなわち、前記のような色補間処理には、欠落して色情報の予測補間効果と共に低い空間周波数成分が強調されるLPF効果が生じるため、画像のエッジ部がなまり、高い空間周波数成分が減少する。そのため、この輪郭強調部52によってなまった画像の高い空間周波数成分をここでは、HPFで強調することによって輝度画像の鮮鋭化を図るようにしている。
一方、色差信号(C)は、同じくフィルタリング部50の偽色処理部54へ送られ、ここでローパスフィルタ(LPF:Low Pass Filter:低域強調フィルタ)などを用いて色補間処理に伴って発生した偽色を排除するための処理が実施される(ステップS107)。
そして、このようにしてそれぞれ所定のフィルタリング処理が実施された輝度信号(Y)と色差信号(C)は、逆変換部60へ送られて元の色(RGB)データに変換された後、ホワイトバランス処理などの汎用の画像処理を経てから、画像出力部70に送られてもLCDモニタなどに表示されたり、プリントアウトされて鑑賞などに供されることになる。
次に、図10〜図14は、本発明に係る画像処理装置100の他の実施の形態を示したものである。
図示するように、本実施の形態は、前述したYC変換部40、フィルタリング部50、逆変換部60を複数系統(図では2系統)用意し、それぞれの系統で色補間処理後の色データを独立して並列処理し、それぞれの系統で得られた各色データをその後流側に新設されたデータ合成部80で所定の割合に応じて合成するようにしたものである。
すなわち、前記実施の形態のよる方法は、異なったYC変換式によって変換されたYCデータを1つの同じプレーン上の画像とみなしてフィルタリング処理を行うようにしたものであるため、閾値の僅かな違いによりYC変換式が変化するとYCの値は全く異なるものとなる場合が考えられる。例えば、(R、G、B)=(100,200,150)を図8に示したYC変換式Aを用いてYC変換すると、
(Y、Cb、Cr)=(162.5、−12.5、−62.5)となるが、YC変換式Eを用いてYC変換すると、
(Y、Cb、Cr)=(200、−50、−100)となり、その結果が大きく異なる場合がある。
従って、これらは異なるプレーンと考えることができるため、本実施の形態では、各YC変換式ごとにプレーンを用意してそれぞれにフィルタリング処理を施して色データを作成し、画素ごとに適切なYC変換式で作成された色データを選択し、選択された色データを合成することが適当であるが、それぞれに対して独立にプレーンを用意すると、並列して計算すべき処理が非常に多数になってしまう。例えば、図8に示したような5つのYC変換式を用いる場合を考えると、「YC変換→フィルタリング→逆変換」といった処理の流れが5系統(5パス)必要となる。
しかし、実際には5つの変換式すべてのパスを用意する必要はない。例えば、図8に示す変換式Cは、変換式AとEの変換式を1:1の割合で合成したものと同一である(実施には、フィルタリング処理などの影響により微妙な結果の差は生ずるものの同等と考えることができる)。
従って、例えば、図8に示したYC変換式A、Eといった2つのYC変換式を用い、それぞれ2つの変換式による処理は全く独立にそれぞれ算出し、色補間処理後の各色データの比に応じてデータ合成部80で合成するようにすれば、前記実施の形態と同様な結果が得られると共に、その合成比を変えるだけで、多数のYC変換式を用意しなくとも多数の様々なパターンの処理結果を得ることができる。
ここで、2つの色データの合成割合は、図11(1)〜(3)のテーブルに示すように、それぞれ4つ、2つ、1つの閾値を用いた5通り、3通り、2通りなどが考えられる。例えば、図11(1)のテーブルでは、「R」又は「B」の値が、「G」×1.125よりも小さい場合は、YC変換式Aで変換された値のみを用い、「G」×1.125以上、「G」×1.375未満の場合は、YC変換式Aを用いて変換された値を「0.75」の割合で、YC変換式Eを用いて変換された値を「0.25」の割合で併用することで最適な色データを得ることが可能となる。
ここで、各YC変換式による変換結果の合成率の選択肢を図11(3)のように2つだけにすると、閾値の不適切さによるエッジの適切な再現性が低下する傾向がみられることから、閾値設定の余裕の観点からも各YC変換式による変換結果の合成率の選択肢は多い方がより適切な色データ(画像)を得ることができる。特に、本実施の形態では合成率の選択肢を多少増やしてもハードウェア的、ソフトウェア的に煩雑さは殆ど変わらないと考えられるため、実際の検証結果からも合成率の選択肢は、5段階程度が望ましいと考えられる。
なお、図12は、本実施の形態で用いた5つのYC変換式A〜Eに対応する逆変換式(YC→RGB)の一例を示したものである。
また、本実施の形態では、画素値としてすべて「輝度」に関する値を用いて記述したが、「輝度」に代わって「濃度」に関する値を用いても同様の処理が可能である。
但し、「輝度」は、光量に比例し、値が大きくなるほど明るくなる(例えば、輝度が2倍になると光量も2倍となる)が、「濃度」は値が大きくなるほど暗くなるという性質がある。すなわち、「濃度」は、10を底とする対数で光の伝送を定義するようになっており、濃度が2倍になると、光量は1/10倍となる。
従って、前記画素値として「輝度」に代わって「濃度」に関する値を使用する場合は、切り換え条件を変更するか、あるいは、濃度を輝度に変換するといった処理が必要となってくる。
また、前記実施の形態では、YC変換式の係数として予め用意された所定の係数を用いたり、また、YC変換式自体を予め用意された、いくつかのYC変換式のなかから選択するようにしているが、処理ごとに、最適な係数あるいはYC変換式を作成してこれを使用するようにしても良い。例えば、図13に示すようにR/G、B/Gの比のうち、いずれか大きい値を示す方を選択し、その値に基づいて各係数K1〜K9を決定することができる。ここで、図13の横軸は算出される比の値、縦軸はそれぞれの比の値において使用すべき各係数K1〜K9の値を示している。
また、前述したように、各画素ごとに前記色補間処理で求められた色データのなかから最大値を検出し、当該最大値と特定色の値との大きさの比を求め、その比に基づいて前記変換式を決定するに際し、その比に基づいて変換式を選択する他のバリエーションとしては、以下に示すものが考えられる。
すなわち、前記実施の形態では、Yの算出において、RとBに係る係数が同一になるように制御している(K1=K3)が、GとR、Bの比の大きさを比較して独立に制御することも可能となる。このバリエーションでは、特定の色(G)と特定色以外の色(R、B)との比に基づいて特定色外の色それぞれの比を独立に求めて変換式を制御するという処理となる。
係数の変化のさせ方について、図13などに示すようなYC変換式をベースに考えると、Cb=B−Y、Cr=R−Yにて定義して算出されるようになっているので、Yの変換式だけを決定すれば、CbとCrは計算により求まるので省略する。
そこで、Y=K1・R+K2・G+K3・B(Y=0.25R+0.5G+0.25Bを基本)としてK1〜K3を定義する。
R/Gの比の範囲より、図14の図表に従って基本式からK1はαだけ減算し、K2はαだけ加算する。また、B/Gの比の範囲より、図15の図表に従って基本式からK1はβだけ減算し、K2はβだけ加算する。
従って、各R/GとB/Gのそれぞれの比によって、
K1=K1−α、K2=K1+α+β、K3=K2−β
に従って変換式を生成でき、作成した変換式を用いてYCbCr変換を実施できる。
なお、逆変換式は、ガウス消去法などの手法を用いて算出することができるので省略する。
また、本発明に係る画像処理プログラムは、ハードディスクドライブ装置(HDD)や不揮発性半導体記録媒体以外に、適宜交換・流通可能な記録媒体、例えば、FD、HD、MDなどの磁気記憶型記録媒体、図16に示すように、CD−ROM、DVD−ROMなどの光学的読取方式記録媒体R、MOなどの磁気・光学的記録媒体などのコンピュータ読み取り可能な記録媒体に記録可能であり、これらの記録媒体を利用すれば、所望するユーザなどに対して本発明の画像処理プログラムを容易に提供することができる。
また、本実施の形態では単板式の撮像センサを用い、1画素1色の画像データの場合について説明したが、本発明の画像処理方法法は、いわゆる2板式の撮像センサで得られる1画素二色の画像データについても適用可能である。
本発明に係る画像処理装置の実施の1形態を示すブロック図である。 画像処理装置を実現するハードウェア構成を示すブロック図である。 色補間処理から画像出力までの流れを示すフローチャート図である。 カラーフィルタの配列パターンの一例を示す図である。 3×3画素単位の色補間処理の一例を示す説明図である。 カラーフィルタの色補間処理パターンを示す図である。 2×2画素単位の色補間処理一例を示す図である。 YC変換式の例を示す図である。 色データの閾値条件と使用するYC変換式との対応関係の例を示す図である。 本発明に係る画像処理装置の他の実施の形態を示すブロック図である。 色データの閾値条件と変換式合成の重みとの対応関係を示す図である。 本実施の形態で用いたYC変換式に対応する逆変換式の一例を示す図である。 変換式で用いられる係数とその比との関係を示すグラフ図である。 R/Gの比に基づく係数αに関する図表である。 B/Gの比に基づく係数βに関する図表である。 本発明に係る画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体の一例を示す概念図である。
符号の説明
10…カメラレンズ、20…カラー撮像センサ、30…色補間処理部、40…YC変換
部、50…フィルタリング部、52…輪郭強調部、54…偽色処理部、60…逆変換部、70…画像出力部、80…データ合成部、90…CPU、91…RAM、92…ROM、93…補助記憶装置、94…出力装置、95…入力装置(カラー撮像センサ)、96…入出力インターフェース、97…バス、100…画像処理装置、R…コンピュータ読み取り可能な記録媒体。

Claims (17)

  1. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する工程と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から、前記R値と前記B値と前記G値のうち値が大きい色に対応する前記K1または前記K2の値が他の前記K1と前記K2の値より小さく設定されている第1の変換式を選択し、前記第1の変換式に基づき輝度信号Yを算出し、前記R値と前記輝度信号Yとの差分と前記B値と前記輝度信号Yとの差分に基づき色差信号Cを算出するYC変換処理工程と、
    前記輝度信号Yを高域強調フィルタに、前記色差信号Cを低域強調フィルタにかけるフィルタリング処理を施す工程と、を有する、ことを特徴とする画像処理方法。
  2. 請求項1に記載の画像処理方法において、
    前記複数の変換式が前記K1と前記K2と前記K3との組み合わせにより設定されていることを特徴とする画像処理方法。
  3. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する工程と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換処理工程と、
    前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成する合成処理工程と、
    前記第3の輝度信号Yを高域強調フィルタに、前記第3の色差信号Cを低域強調フィルタにかけるフィルタリング処理を施す工程と、を有する、ことを特徴とする画像処理方法。
  4. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する工程と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換処理工程と、
    前記第1の輝度信号Yおよび前記第2の輝度信号Yを高域強調フィルタに、前記第1の色差信号Cおよび前記第2の色差信号Cを低域強調フィルタにかけるフィルタリング処理を施す工程と、
    前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成する合成処理工程と、を有する、ことを特徴とする画像処理方法。
  5. 請求項1ないし4のいずれか一項に記載の画像処理方法において、
    前記色補間処理は、前記単板式のカラー撮像センサの各画素ごとに、赤色に対応するR画素及び青色に対応するB画素がそれぞれ1つずつのみ存在する2×2画素単位、又は赤色に対応するR画素及び青色に対応するB画素のうちいずれか1つの画素を中心としてその周囲に前記いずれか1つの画素とは異なる色の画素が存在する3×3画素単位、あるいは赤色に対応するR画素と青色に対応するB画素がそれぞれ2つ存在する3×3画素単位で実施するものであることを特徴とする画像処理方法。
  6. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から、前記R値と前記B値と前記G値のうち値が大きい色に対応する前記K1または前記K2の値が他の前記K1と前記K2の値より小さく設定されている第1の変換式を選択し、前記第1の変換式に基づき輝度信号Yを算出し、前記R値と前記輝度信号Yとの差分と前記B値と前記輝度信号Yとの差分に基づき色差信号Cを算出するYC変換部と、
    前記輝度信号Yを高域強調フィルタに、前記色差信号Cを低域強調フィルタにかけるフィルタリング処理を施すフィルタリング部と、を有する、ことを特徴とする画像処理装置。
  7. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換部と、
    前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成部と、
    前記第3の輝度信号Yを高域強調フィルタに、前記第3の色差信号Cを低域強調フィルタにかけるフィルタリング部と、を有する、ことを特徴とする画像処理装置。
  8. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換部と、
    前記第1の輝度信号Yおよび前記第2の輝度信号Yを高域強調フィルタに、前記第1の色差信号Cおよび前記第2の色差信号Cを低域強調フィルタにかけるフィルタリング部と、
    前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成部と、を有する、ことを特徴とする画像処理装置。
  9. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から、前記R値と前記B値と前記G値のうち値が大きい色に対応する前記K1または前記K2の値が他の前記K1と前記K2の値より小さく設定されている第1の変換式を選択し、前記第1の変換式に基づき輝度信号Yを算出し、前記R値と前記輝度信号Yとの差分と前記B値と前記輝度信号Yとの差分に基づき色差信号Cを算出するYC変換部と、
    前記輝度信号Yを高域強調フィルタに、前記色差信号Cを低域強調フィルタにかけるフィルタリング処理を施すフィルタリング部と、を有する、ことを特徴とする半導体装置。
  10. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換部と、
    前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成部と、
    前記第3の輝度信号Yを高域強調フィルタに、前記第3の色差信号Cを低域強調フィルタにかけるフィルタリング部と、を有する、ことを特徴とする半導体装置。
  11. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間処理部と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換部と、
    前記第1の輝度信号Yおよび前記第2の輝度信号Yを高域強調フィルタに、前記第1の色差信号Cおよび前記第2の色差信号Cを低域強調フィルタにかけるフィルタリング部と、
    前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成部と、を有する、ことを特徴とする半導体装置。
  12. 前記請求項6ないし8のいずれか1項に記載の画像処理装置を備えたことを特徴とする電子機器。
  13. 前記請求項9ないし11のいずれか1項に記載の半導体装置を備えたことを特徴とする電子機器。
  14. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間手段と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から、前記R値と前記B値と前記G値のうち値が大きい色に対応する前記K1または前記K2の値が他の前記K1と前記K2の値より小さく設定されている第1の変換式を選択し、前記第1の変換式に基づき輝度信号Yを算出し、前記R値と前記輝度信号Yとの差分と前記B値と前記輝度信号Yとの差分に基づき色差信号Cを算出するYC変換手段と、
    前記輝度信号Yを高域強調フィルタに、前記色差信号Cを低域強調フィルタにかけるフィルタリング処理を施すフィルタリング手段と、を有する、ことを特徴とする画像処理プログラム。
  15. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間手段と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換手段と、
    前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成手段と、
    前記第3の輝度信号Yを高域強調フィルタに、前記第3の色差信号Cを低域強調フィルタにかけるフィルタリング手段と、を有する、ことを特徴とする画像処理プログラム。
  16. 赤色に対応するR画素と青色に対応するB画素と緑色に対応するG画素とを有する単板式のカラー撮像センサから出力される、前記R画素に対応するR画素データに色補間処理を施して前記R画素に対応するR画素色データを生成し、前記G画素に対応するR画素データに色補間処理を施して前記R画素に対応するG画素色データを生成し、前記B画素に対応するB画素データに色補間処理を施して前記B画素に対応するB画素色データを生成する色補間手段と、
    前記R画素色データに含まれるR値とG値とB値のうち、前記G値に対する前記R値と前記B値との大きさに基づき閾値条件を判定し、前記閾値条件に基づき式R×K1+G×K2+B×K1(ただし、前記R値をR、前記G値をG、前記B値をBとし、K1+K2+K1=1.0とする。)を有する複数の変換式の中から第1の変換式と第2の変換式とを選択し、前記第1の変換式に基づき第1の輝度信号Yを算出し、前記R値と前記第1の輝度信号Yとの差分と前記B値と前記第1の輝度信号Yとの差分に基づき第1の色差信号Cを算出し、前記第2の変換式に基づき第2の輝度信号Yを算出し、前記R値と前記第2の輝度信号Yとの差分と前記B値と前記第2の輝度信号Yとの差分に基づき第2の色差信号Cを算出するYC変換手段と、
    前記第1の輝度信号Yおよび前記第2の輝度信号Yを高域強調フィルタに、前記第1の色差信号Cおよび前記第2の色差信号Cを低域強調フィルタにかけるフィルタリング手段と、
    前記第1の輝度信号Yと前記第2の輝度信号Yとをテーブルに基づき合成し第3の輝度信号Yを生成し、前記第1の色差信号Cと前記第2の色差信号Cとをテーブルに基づき合成し第3の色差信号Cを生成するデータ合成手段と、を有する、ことを特徴とする画像処理プログラム。
  17. 前記請求項14〜16のいずれか1項に記載の画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2004292364A 2004-02-13 2004-10-05 画像処理方法、及び画像処理装置、半導体装置、電子機器、画像処理プログラム、並びにコンピュータ読み取り可能な記録媒体 Expired - Fee Related JP4333544B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004292364A JP4333544B2 (ja) 2004-02-13 2004-10-05 画像処理方法、及び画像処理装置、半導体装置、電子機器、画像処理プログラム、並びにコンピュータ読み取り可能な記録媒体
US11/056,352 US7801355B2 (en) 2004-02-13 2005-02-11 Image processing method, image processing device, semiconductor device, electronic apparatus, image processing program, and computer-readable storage medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004036799 2004-02-13
JP2004292364A JP4333544B2 (ja) 2004-02-13 2004-10-05 画像処理方法、及び画像処理装置、半導体装置、電子機器、画像処理プログラム、並びにコンピュータ読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JP2005260908A JP2005260908A (ja) 2005-09-22
JP4333544B2 true JP4333544B2 (ja) 2009-09-16

Family

ID=34889324

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004292364A Expired - Fee Related JP4333544B2 (ja) 2004-02-13 2004-10-05 画像処理方法、及び画像処理装置、半導体装置、電子機器、画像処理プログラム、並びにコンピュータ読み取り可能な記録媒体

Country Status (2)

Country Link
US (1) US7801355B2 (ja)
JP (1) JP4333544B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI352315B (en) * 2008-01-21 2011-11-11 Univ Nat Taiwan Method and system for image enhancement under low
JP5078147B2 (ja) * 2008-03-04 2012-11-21 株式会社リコー 画像処理装置及び画像撮像装置
US7995840B2 (en) 2008-03-28 2011-08-09 Seiko Epson Corporation Image processing apparatus, image processing method, and program for attaining image processing
WO2011021518A1 (ja) 2009-08-19 2011-02-24 日本電気株式会社 画像処理方法、画像処理装置及びプログラム
JP2015088810A (ja) * 2013-10-29 2015-05-07 耕太郎 滝上 色差信号を利用した画像処理方法
EP3424403B1 (en) * 2016-03-03 2024-04-24 Sony Group Corporation Medical image processing device, system, method, and program
CN106791477B (zh) * 2016-11-29 2019-07-19 Oppo广东移动通信有限公司 图像处理方法、图像处理装置、成像装置及制造方法
CN108833118B (zh) * 2018-07-25 2021-12-10 合肥学院 应用含参数Thiele型有理插值的安全访问方法及***
US20210304426A1 (en) * 2020-12-23 2021-09-30 Intel Corporation Writing/drawing-to-digital asset extractor

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5140413A (en) * 1986-11-14 1992-08-18 Canon Kabushiki Kaisha Image processing apparatus including processing means for moving image and performing conversion
JP2000232655A (ja) 1999-02-12 2000-08-22 Fuji Photo Film Co Ltd 画像処理方法および装置並びに記録媒体
JP4032579B2 (ja) 1999-10-14 2008-01-16 セイコーエプソン株式会社 単板式固体撮像素子の色補間方法および単板式固体撮像素子の色補間処理プログラムを記録した記録媒体
JP4006908B2 (ja) 1999-11-26 2007-11-14 セイコーエプソン株式会社 単板式固体撮像素子の色補間方法および単板式固体撮像素子の色補間処理プログラムを記録した記録媒体
US7330209B2 (en) * 1999-12-20 2008-02-12 Texas Instruments Incorporated Digital still camera system and complementary-color-filtered array interpolation method
JP2001231052A (ja) 2000-02-17 2001-08-24 Matsushita Electric Ind Co Ltd 固体撮像素子出力信号処理方法およびそれを用いたカメラ
JP2001258040A (ja) 2000-03-10 2001-09-21 Seiko Epson Corp 単板式固体撮像素子の色補間方法および単板式固体撮像素子の色補間処理プログラムを記録した記録媒体
JP2002010280A (ja) 2000-06-27 2002-01-11 Fujitsu Ltd 画素補間方法、画素補間装置及びカラー撮像装置
JP2003244711A (ja) 2002-02-15 2003-08-29 Seiko Epson Corp 単板式撮像装置のための色信号処理方法、単板式撮像装置および色信号処理プログラム
US7729563B2 (en) * 2002-08-28 2010-06-01 Fujifilm Corporation Method and device for video image processing, calculating the similarity between video frames, and acquiring a synthesized frame by synthesizing a plurality of contiguous sampled frames
FI115942B (fi) * 2002-10-14 2005-08-15 Nokia Corp Menetelmä kuvien interpoloimiseksi ja terävöittämiseksi

Also Published As

Publication number Publication date
JP2005260908A (ja) 2005-09-22
US7801355B2 (en) 2010-09-21
US20050190200A1 (en) 2005-09-01

Similar Documents

Publication Publication Date Title
JP5677040B2 (ja) 画像処理装置およびその制御方法
US7502505B2 (en) High-quality gradient-corrected linear interpolation for demosaicing of color images
JP5045421B2 (ja) 撮像装置、色ノイズ低減方法および色ノイズ低減プログラム
JP4861667B2 (ja) 画像処理装置及び画像処理方法
US20100265352A1 (en) Image processing apparatus, control method therefor, and storage medium
US20100141809A1 (en) Image processing apparatus, image pickup apparatus, storage medium for storing image processing program, and image processing method
US7801355B2 (en) Image processing method, image processing device, semiconductor device, electronic apparatus, image processing program, and computer-readable storage medium
US8625893B2 (en) Image processing device and image processing method
WO2005112470A1 (ja) 画像処理装置および画像処理プログラム
JP2005167974A (ja) 画像処理方法及び画像処理装置、画像処理プログラム並びに半導体装置
US7489822B2 (en) Image processing apparatus and method for detecting a direction of an edge in the vicinity of a pixel of interest and generating all color signals for each pixel by interpolation using color signals of a pixel of interest and its neighbor pixels, and a recording medium having a program recorded thereon for causing the apparatus to perform the method
TWI387352B (zh) 畫素插補電路、畫素插補方法及記錄媒體
JP3458080B2 (ja) カラー撮像装置
US20080111893A1 (en) Image processing apparatus, imaging apparatus, and computer readable medium
JP2006114006A (ja) 階調変換装置、プログラム、電子カメラ、およびその方法
JP4708180B2 (ja) 画像処理装置
JP4122082B2 (ja) 信号処理装置およびその処理方法
JP2005051393A (ja) 撮像装置
JP4385890B2 (ja) 画像処理方法及び周波数成分補償部、当該周波数成分補償部を含む画像処理装置並びに画像処理プログラム
JP4139587B2 (ja) 単板式カラーディジタルカメラにおける撮像画像の補間装置および方法
JP2001292455A (ja) 画像処理方法および装置並びに記録媒体
JP3946913B2 (ja) 信号生成方法および装置並びに記録媒体
JP4139672B2 (ja) 単板式カラーディジタルカメラによる撮像画像の補間装置および補間方法
JP6857102B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP4887582B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060726

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090602

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090615

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120703

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4333544

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120703

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130703

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees