JPH10178650A - 電子カメラ及び画像処理方法 - Google Patents

電子カメラ及び画像処理方法

Info

Publication number
JPH10178650A
JPH10178650A JP9061385A JP6138597A JPH10178650A JP H10178650 A JPH10178650 A JP H10178650A JP 9061385 A JP9061385 A JP 9061385A JP 6138597 A JP6138597 A JP 6138597A JP H10178650 A JPH10178650 A JP H10178650A
Authority
JP
Japan
Prior art keywords
filter
color
signal
interpolation
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9061385A
Other languages
English (en)
Other versions
JP3707187B2 (ja
Inventor
Shigeatsu Takizawa
成温 滝澤
Hirotetsu Ko
博哲 洪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP06138597A priority Critical patent/JP3707187B2/ja
Priority to US08/928,095 priority patent/US6388706B1/en
Publication of JPH10178650A publication Critical patent/JPH10178650A/ja
Application granted granted Critical
Publication of JP3707187B2 publication Critical patent/JP3707187B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/403Edge-driven scaling; Edge-based scaling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H04N25/136Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

(57)【要約】 【課題】カラーモザイクフィルタを用いる単板式電子カ
メラにおいて、補間処理を改善し、色再現性を向上させ
る。 【解決手段】RGBのモザイクフィルタを用いる電子カ
メラにおいて、注目画素を中心とする5×5画素領域内
で、R,G,Bの各信号別に平均値R’,G’,B’を
計算する(S3)。そして、例えばBフィルタが積層さ
れた注目画素においては、当該注目画素における信号値
をBとしたときに、Gの補間値gを、g=G’+B−
B’として求め、Rの補間値rを、r=R’+B−B’
として求める(S4)。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は電子カメラ及び画像
処理方法に関し、詳しくは、光電変換素子とカラーフィ
ルタを用いた単板式の電子カメラにおいて、画素毎にフ
ィルタ色と異なる色の信号値を補間により求める電子カ
メラ、及び、該電子カメラ等において用いられる画像の
圧縮,復元処理の方法に関する。
【0002】
【従来の技術】従来から、CCD等の光電変換素子の各
画素それぞれにカラーフィルタを重ね、カラー画像信号
を得る単板式電子カメラが知られている。前記単板式電
子カメラにおいては、例えば図2に示すように、高解像
度が要求される輝度信号(Green信号) を得るためのG
reenフィルタを市松状に配列する一方、残りの部分に比
較的解像度が要求されない2種類の色信号(Red,Blu
e信号) を得るためのRed,Blue フィルタそれぞれが
市松状になるように配列したモザイク状のカラーフィル
タが用いられている。
【0003】また、前記カラーフィルタとしては、図2
に示すようなR,G,Bからなるものの他、〔W,G,
Cy,Ye〕、〔G,Cy,Ye〕、〔Mg,G,C
y,Ye〕などの組み合わせからなるものもある。尚、
Wはホワイト、Cyはシアン、Yeはイエロー、Mgは
マゼンタを示す。上記のような単板式電子カメラにおい
ては、例えばR,G,Bからなるカラーフィルタを用い
る場合には、各画素毎にR,G,Bのいずれか1つの情
報のみが得られることになるため、画像信号について補
間計算を行い、各画素毎にR,G,Bのデータがそれぞ
れに得られるようにする場合があった。
【0004】例えば、米国特許4642678号には、
R,G,Bのモザイクフィルタを用いる構成において、
Rフィルタ又はBフィルタの画素においてGreen信号値
を補間により求めるときに、注目画素に隣接する4つの
Gフィルタ画素の平均値を、注目画素のGreen信号値と
する構成の開示がある。また、Red信号値,Blue 信号
値を補間により求めるときに、注目画素に隣接するRed
フィルタ,Blue フィルタの画素の信号値と、当該隣接
画素において補間されたGreen信号値と、注目画素にお
けるGreen信号値(Gフィルタ画素であればオリジナル
信号値、R,Bフィルタ画素であれば補間値)とに基づ
いて、Red信号値,Blue 信号値を線形補間する構成の
開示がある。
【0005】また、日本写真学会ファインイメージング
シンポジウム論文集(1995年)の「新開発の圧縮および
補間処理を用いたデジタルカメラ」には、エッジのパタ
ーン認識を行って、認識されたパターンに適した補間方
向を設定し、該補間方向の画素の信号値を用いて補間を
行う構成の開示がある。更に、米国特許5373322
号には、図2に示したようなR,G,Bのモザイクフィ
ルタを備えた構成において、例えばGreen信号の補間に
おいては、注目画素に対する色信号Blue ,Redの勾配
を求め、この勾配から補間に適した方向を決定して補間
値を求める構成の開示がある。
【0006】以下に、図2に示すRフィルタの画素R34
におけるG信号G34、及び、Bフィルタの画素B43にお
けるG信号G43の補間演算の例を示す。G34の補間演算
においては、まず、R32,R36,R14,R54からR34に
対する勾配を下式から計算する。 Hdiff=|(R32+R36)/2−R34| Vdiff=|(R14+R54)/2−R34| ここで、Hdiffは、R34に対し水平方向の勾配を表し、
Vdiffは垂直方向の勾配を表すことになる。
【0007】そして、Hdiff<Vdiffのときには、 G34=(G33+G35)/2 とし、Hdiff>Vdiffのときには、 G34=(G24+G44)/2 とし、Hdiff=Vdiffのときには、 G34=(G24+G44+G33+G35)/4 とする。
【0008】同様にして、G43の補間演算においては、
まず、B41,B45,B23,B63からB43に対する勾配を
下式から計算する。 Hdiff=|(B41+B45)/2−B43| Vdiff=|(B23+B63)/2−B43| そして、Hdiff<Vdiffのときには、 G43=(G42+G44)/2 とし、Hdiff>Vdiffのときには、 G43=(G33+G53)/2 とし、Hdiff=Vdiffのときには、 G43=(G33+G53+G42+G44)/4 とする。
【0009】一方、R信号,B信号の補間は、Gフィル
タの画素と当該画素に隣接するRフィルタ,Bフィルタ
の画素の信号を用いて線形補間を行う構成となってい
る。以下に、R信号R33,R43,R44の補間演算式を示
す。 R33=((R32−G32)+(R34−G34))/2+G33 R43=((R32−G32)+(R34−G34)+(R52−G5
2)+(R54−G54))/4+G43 R44=((R34−G34)+(R54−G54))/2+G44 また、B信号B33,B34,B44の補間演算式を以下に示
す。
【0010】B33=((R23−G23)+(R43−G43))/
2+G33 B34=((R23−G23)+(R25−G25)+(B43−G4
3)+(R45−G45))/4+G34 B44=((B43−G43)+(B45−G45))/2+G44 一方、前記電子カメラにおいては、従来から、画像デー
タを圧縮処理して半導体メモリ等に記録することが行わ
れており、該圧縮処理には直交変換符号化を用いた方法
が主として使用されている。
【0011】例えばJPEG圧縮では、RGB信号は、
8×8画素を1単位としてDCT(Descrete Cosine Tr
ansform)で直交変換された後、量子化され、ハフマン符
号化されて、圧縮データとなる。圧縮データは保存又は
伝送され、圧縮データを解凍(伸長)する際には、上述
の逆をたどって画像が復元される。上記のように、直交
変換符号化は、画像領域を複数のブロックに分割して行
うため、解凍画像(伸長画像)においてブロックの継ぎ
目が不自然になる現象(以下、ブロック歪みという)が
発生するという問題があり、該ブロック歪みを低減する
ための方法が種々提案されていた。
【0012】例えば特開昭63−236088号公報に
は、ブロック同士がオーバーラップするようにして直交
変換符号化を行われる構成の開示があり、特開平3−1
66823号公報には、画像の平坦部と判断された部分
についてローパスフィルタを施す構成の開示あり、ま
た、特開平4−2273号公報には、ブロックの境界付
近にランダムノイズを付加したりローパスフィルタを施
す構成の開示があり、更に、特開平6−113147号
公報には、ブロック歪みを持つ画像に対して、境界から
歪みの有無を判断して、歪みのある部分にローパスフィ
ルタをかける構成の開示ある。
【0013】
【発明が解決しようとする課題】ところで、前記米国特
許4642678号に開示されるモザイクフィルタにお
ける補間方法では、Blue フィルタ画素において、Red
信号値を補間により求める際に、Green,Redの信号値
のみを用いており、同様に、Redフィルタ画素で、Blu
e 信号を補間する際は、Green,Blue の信号値のみを
用いる構成となっており、Bフィルタ画素におけるR信
号値の補間、Rフィルタ画素におけるB信号値の補間に
おいては、注目画素の信号値を補間演算に用いない構成
であるため、前記補間方法では色の再現性及び鮮鋭性が
低くなってしまうという問題があった。
【0014】また、エッジのパターン認識を行って補間
演算の方向を決定する方法では、画像のパターンを判別
するために演算負担が大きく、補間処理が遅くなってし
まうという問題があり、また、前述の場合と同様に、注
目画素の信号値を使わずに、G,B又はG,Rの信号値
に基づいてB,R信号値を補間するため、色の再現性が
低いという問題があった。
【0015】更に、米国特許5373322号の場合に
は、輝度信号であるG信号の補間を、色信号であるR,
B信号の勾配から決定しているため、Gの勾配と無関係
に補正が行われることになってしまうという問題があ
り、また、色信号の補間についても、補間されたG信号
を使って線形補間を行っているため、画像全体の色の再
現性が低いという問題があり、また、勾配を判断するた
めに処理が遅くなってしまうという欠点がある。
【0016】また、前記各従来技術においては、1次元
方向の画素、又は、注目画素に隣接する画素を使い補間
を行っているが、かかる構成では、参照する画素が少な
いために色の再現性が低いという問題があった。一方、
前記従来のブロック歪みを低減する方法において、ブロ
ックをオーバーラップさせる場合には、標準的な圧縮方
法と異なる処理を行う必要が生じてしまうという問題が
あり、ランダムノイズを付加する構成では、ノイズの加
算によって画像が荒れるという問題あった。また、平坦
部を判別してローパスフィルタをかける構成や、ブロッ
ク歪みの有無を判断してローパスフィルタをかける構成
の場合には、判別処理が要求されるため演算負担が高く
なり、また、判別処理が不適切であると処理によって却
って画質を低下させてしまう可能性があった。
【0017】本発明は上記問題点に鑑みなされたもので
あり、単板式の電子カメラにおいて、色の再現性及び鮮
鋭性が高く、然も、処理時間の短い補間処理を提供する
ことを目的とする。また、本発明は、簡単な画像処理
で、画質の低下を伴わずにブロック歪みを低減できる方
法を提供することを目的とする。
【0018】
【課題を解決するための手段】そのため請求項1記載の
発明は、光電変換素子とカラーフィルタを用いた単板式
の電子カメラにおいて、注目画素を中心とする所定領域
内でフィルタ色別に信号値の平均値を計算し、該平均値
と注目画素の信号値とに基づいて、前記注目画素のフィ
ルタ色と異なる色の信号値を補間する構成とした。
【0019】前記カラーフィルタとしては、R,G,B
のモザイクフィルタの他、〔W,G,Cy,Ye〕、
〔G,Cy,Ye〕、〔Mg,G,Cy,Ye〕などの
組み合わせからなるものであっても良い。そして、補間
処理を施す注目画素を中心に所定領域を設定し、前記所
定領域内において同じ色のフィルタが積層された画素の
信号値の平均を求め、該平均値と注目画素における信号
値とによって、補間値が計算される構成としてある。
【0020】請求項2記載の発明は、Greenのカラーフ
ィルタとBlue 及びRed以外のカラーフィルタを用いた
単板式の電子カメラにおいて、注目画素を中心とする所
定領域内でフィルタ色別に信号値の平均値を計算し、そ
の平均値をBlue ,Red信号に変換し、該平均値と注目
画素の信号値とに基づいて、前記注目画素のフィルタ色
と異なる色の信号値を補間する構成とした。
【0021】かかる構成では、Blue 及びRed以外の
W,Cy,Ye,Mgなどのカラーフィルタを用いる場
合に、これらの信号の平均値をBlue ,Red信号に変換
して、補間演算に用いる。請求項3記載の発明では、注
目画素の信号値と、前記所定領域内で注目画素と同じ色
のカラーフィルタをもつ画素の信号値の平均値と、前記
所定領域内で前記注目画素について補間する色と同じ色
のカラーフィルタをもつ画素の信号値の平均値とに基づ
いて、前記注目画素のカラーフィルタと異なるフィルタ
色の信号値を補間する構成とした。
【0022】例えば、R,G,Bのモザイクフィルタを
用いる場合であって、Redフィルタが積層された注目画
素においてGreen信号を補間するときには、注目画素を
中心とする所定領域内で、Redフィルタが積層された画
素(注目画素を含む)の信号値の平均値R’を計算する
と共に、前記所定領域内でGreenフィルタが積層された
画素の信号値の平均値G’を計算し、注目画素で得られ
た信号値をRとしたときに、Green信号の補間値Gを、 G=R+G’−R’ として求めることができる。即ち、注目画素のRed信号
と、所定領域内のRed信号の平均値との偏差を、所定領
域内のGreen信号の平均値に加算した値を、Redフィル
タが積層された注目画素におけるGreen信号の補間値と
するものである。
【0023】請求項4記載の発明では、前記カラーフィ
ルタが少なくともGreenフィルタを有し、Green以外の
フィルタ色の注目画素についてGreen信号値を補間によ
り求めるときに、注目画素の信号値をX、前記所定領域
内で注目画素と同じ色のカラーフィルタをもつ画素の信
号値の平均値をX’、前記所定領域内でGreenフィルタ
をもつ画素の信号値の平均値をG’としたときに、前記
注目画素についてのGreen信号の補間値gを、 g=G’+β(X−X’) として求め、注目画素がGreenフィルタ色の注目画素で
あるとき、その信号値をGとしたときに、 g=G’+β(G−G’) としてGreen信号の補間値gを求める構成とした。
【0024】上記補間値gによると、βを大きくすると
画像の鮮鋭性が高くなり、小さくするとぼけることにな
る。ここで、最終的にR,G,Bの信号を得る必要があ
る場合であっても、注目画素のフィルタ色は、R,Bの
以外のYe,Cy,Mg,Wなどのいずれであっても良
く、R,G,Bモザイクフィルタ以外のカラーフィルタ
にも適用できる補間式となっている。
【0025】請求項5記載の発明では、前記カラーフィ
ルタがRed,Green, Blue フィルタをそれぞれ有し、
注目画素についてRed,Blue の信号値それぞれ補間に
より求めるときに、注目画素の信号値をX、前記所定領
域内で注目画素と同じ色のカラーフィルタをもつ画素の
信号値の平均値をX’、前記所定領域内でRedフィルタ
をもつ画素の信号値の平均値をR’、前記所定領域内で
Blue フィルタをもつ画素の信号値の平均値をB’とし
たときに、Red,Blue 信号の補間値r,bを、 r=R’+β(X−X’) b=B’+β(X−X’) として求める構成とした。
【0026】上記構成においても、βを大きくすると画
像の鮮鋭性が高くなり、小さくするとぼけることにな
る。請求項6記載の発明では、前記カラーフィルタが少
なくともGreenフィルタを有する一方、Red,Blue フ
ィルタ以外のフィルタ色を有する構成であって、注目画
素についてRed,Blue の信号値それぞれ補間により求
めるときに、前記所定領域内でフィルタ色別に計算した
信号値の平均値をRed,Blue の信号値r’,b’に変
換し、注目画素の信号値をX、前記所定領域内で注目画
素と同じ色のカラーフィルタをもつ画素の信号値の平均
値をX’としたときに、Red,Blue信号の補間値r,
bを、 r=r’+β(X−X’) b=b’+β(X−X’) として求める構成とした。
【0027】カラーフィルタとして、例えばG,Cy,
Yeの組み合わせからなるモザイクフィルタを用いる場
合であって、Cy,Yeのフィルタをもつ画素におい
て、Red及びBlue 信号値を補間によって求めるときに
は、領域内でのG,Cy,Yeそれぞれの平均値G’,
Cy’,Ye’を求める一方、該平均値をb’,r’に
色変換する。そして、変換されたb’,r’を、前記補
間式r=r’+β(X−X’),b=b’+β(X−
X’)に代入することで、Red及びBlue 信号値を補間
によって求めることができる。
【0028】請求項7記載の発明では、前記βを光学系
の変調伝達関数MTFに応じて可変に設定する構成とし
た。光学系のMTF(Modulation Transfer Function)
は、レンズの絞り、焦点距離によって変化するので、M
TF劣化を補正すべく、前記βを可変に設定する。請求
項8記載の発明では、前記所定領域を、前記注目画素を
中心とする5×5画素の領域とする構成とした。
【0029】色の再現性を考えると、領域を広くするこ
とが望まれるが、領域を広くするとエッジ付近で偽色が
増加するため、5×5画素程度とすることが好ましい。
請求項9記載の発明では、前記所定領域内で、同一フィ
ルタ色の画素が、ライン上の同一位置に並ぶ複数ライン
について、該複数ライン上の同一位置かつ同一色の信号
の和をそれぞれ記憶するメモリを備え、該メモリの記憶
値を用いて補間を行う構成とした。
【0030】かかる構成によると、領域内の信号平均を
求めるときに、予めメモリに縦方向(1次元)の加算結
果が記憶されているから、2次元の平均(信号の総和)
を求める際における処理内容が簡略化されることにな
る。一方、請求項10記載の発明は、レンズによる周辺減
光の補正を、ホワイトバランス調整とゲイン調整との少
なくとも一方と同時に行うことを特徴とする。
【0031】かかる構成によると、画像の中心に対して
周辺部分の明るさが低下する現象である周辺減光の補正
が、ホワイトバランス調整又はゲイン調整と同時に、或
いは、ホワイトバランス調整及びゲイン調整と同時に行
われる。前記同時補正とは、例えば、ホワイトバランス
調整やゲイン調整のために信号値に係数を乗算して補正
するときに、ホワイトバランス調整やゲイン調整のため
に設定された係数を周辺減光の補正のための係数で補正
して用いることによって実現される。
【0032】一方、請求項11記載の発明は、画像領域を
複数のブロックに分割し、各ブロックの画像データにつ
いての2次元直交変換符号化によりディジタル画像デー
タの圧縮,復元を行う画像処理方法であって、圧縮前に
高周波成分を強調する処理を行う一方、解凍後に高周波
成分を低減する処理を行うよう構成した。かかる構成に
よると、JPEG圧縮のように画像領域を複数ブロック
に分割して2次元直交変換符号化を行って画像データの
圧縮を行う前に、高周波成分を強調する処理が施され、
この高周波成分が強調された画像について圧縮処理を施
す。そして、解凍(伸長)後には、高周波成分を低減す
る処理を施す。即ち、予め全領域について高周波成分を
強調しておき、解凍後の高周波成分の低減(ローパスフ
ィルタ)をブロック歪みの有無や平坦部の判別を行うこ
となく施すことができるようにして、ブロック歪みの低
減を簡単な画像処理で行えるようにしたものである。
【0033】請求項12記載の発明では、前記各ブロック
の境界部分を検出し、前記高周波成分の処理を前記検出
された境界部分について行わせる構成とした。例えば、
JPEG圧縮では8×8画素を1ブロックとして2次元
直交変換符号化が行われるから、解凍後にこの8×8画
素で区分される各ブロックの境界を検出し、該境界部
分、即ち、ブロック歪みが発生する部分について高周波
成分の処理を施す。
【0034】請求項13記載の発明では、前記圧縮を行う
画像データが、電子カメラにおいて光電変換素子で得ら
れた画像データであって、かつ、圧縮されたディジタル
画像データを記録する前記電子カメラの半導体メモリか
ら読み出した画像データについて前記復元を行わせる構
成とした。かかる構成によると、光学像を光電変換素子
で画像データに変換し、この画像データを半導体メモリ
に圧縮して記録する電子カメラにおいて、前記圧縮前に
高周波成分を強調する処理が施され、また、圧縮された
画像データを前記半導体メモリから読み出して解凍(伸
長)した後に、高周波成分を低減する処理が施されるこ
とになる。
【0035】請求項14記載の発明では、前記光電変換素
子が、モザイク状のカラーフィルタを備えたものである
構成とした。例えば単板式電子カメラにおいては、CC
D等の光電変換素子の各画素それぞれにカラーフィルタ
を重ねてカラー画像信号を得る構成が知られており、例
えばGreenフィルタを市松状に配列する一方、残りの部
分に比較的解像度が要求されない2種類の色信号(Re
d,Blue 信号) を得るためのRed,Blue フィルタそ
れぞれが市松状になるように配列したカラーフィルタが
用いられる。このように異なる色のフィルタを規則的に
並べることから、本願ではかかるカラーフィルタをモザ
イク状のカラーフィルタと称するが、フィルタ色や配列
を限定するものではない。
【0036】請求項15記載の発明では、前記電子カメラ
において、前記注目画素のフィルタ色と異なる色の信号
値を補間して求める処理が行われる構成であり、前記圧
縮前の高周波成分を強調する処理を、前記補間処理と同
時に行う構成とした。例えばR,G,Bからなるカラー
フィルタを用いる場合には、各画素毎にR,G,Bのい
ずれか1つの情報のみが得られることになるため、画像
信号について補間計算を行い、各画素毎にR,G,Bの
データがそれぞれに得られるようにするが、このときに
高周波成分を強調する処理を同時に行わせ、高周波成分
を強調するための処理を簡略化するものである。例えば
補間計算で用いる係数によって高周波成分を強調できれ
ば、補間計算と同時に高周波成分の強調処理が行えるこ
とになる。
【0037】尚、前記補間処理としては、請求項1〜9
に記載された補間処理を用いることができ、特に、請求
項4〜6に記載される演算式の係数βの設定によって容
易に高周波成分の強調が行える。請求項16記載の発明で
は、前記高周波成分の処理を、コンボリューションによ
って行う構成とした。
【0038】かかる構成によると、コンボリューション
(畳み込み演算)によって、高周波成分の強調又は低減
処理を行わせる。請求項17記載の発明では、前記高周波
成分の処理を、輝度信号についてのみ行う構成とした。
かかる構成によると、例えば、RGB信号をYCC信号
(輝度Y信号と色C信号とからなる信号)に変換して前
記輝度Y信号についてのみ高周波成分の強調処理を施
し、解凍後に輝度Y信号についてのみ高周波成分を低減
する処理を施してから、YCC信号をRGB信号に変換
する。
【0039】
【発明の効果】請求項1記載の発明によると、補間処理
を施す注目画素を中心とした所定領域内での色別の平均
値と、注目画素における信号値とに基づいて、補間処理
が施されることにより、色の再現性及び鮮鋭性を高くで
きると共に、比較的簡単な処理で補間値が求められると
いう効果がある。
【0040】請求項2記載の発明によると、Redフィル
タ,Blue フィルタを備えないカラーフィルタを用いる
場合であっても、色の再現性及び鮮鋭性が高く、然も、
簡単な処理の補間を行わせることができるという効果が
ある。請求項3記載の発明によると、注目画素の信号値
と、所定領域内で注目画素と同じフィルタ色の画素の平
均値とを比較することで、注目画素の信号値の所定領域
内における特徴に応じて補間値を求めることができ、以
て、高い色再現性を得られるという効果がある。
【0041】請求項4記載の発明によると、補間処理に
よってエッジを強調することができ、以て、鮮鋭性の高
い画像が得られるという効果がある。請求項5記載の発
明によると、エッジの強調を行わせつつ、色の再現性が
良い補間処理ができるという効果がある。請求項6記載
の発明によると、カラーフィルタが、G,Ye,Mg,
CyなどのRedフィルタ,Blue フィルタを備えないカ
ラーフィルタであっても、簡便かつ色再現性良く、R,
Bの補間値を得られるという効果がある。
【0042】請求項7記載の発明によると、レンズの絞
りや焦点距離の変化によるMTFの劣化を、補間処理に
おいて補正することができるという効果がある。請求項
8記載の発明によると、エッジ部における偽色を少なく
できるという効果がある。請求項9記載の発明による
と、所定領域内での平均値(信号値の総和)の演算を効
率良く行え、処理速度を速めることができるという効果
がある。
【0043】請求項10記載の発明によると、レンズによ
る周辺減光を簡便に補正することができるという効果が
ある。請求項11記載の発明によると、簡単な画像処理
で、画質の低下を伴わずにブロック歪みを低減できると
いう効果がある。請求項12記載の発明によると、簡単な
画像処理で、画質の低下を伴わずにブロック歪みをより
効果的に低減できるという効果がある。
【0044】請求項13記載の発明によると、電子カメラ
において、簡単な画像処理で、画像データの圧縮,解凍
に伴う画質の低下を抑止できるという効果がある。請求
項14記載の発明によると、モザイク状のカラーフィルタ
を用いる電子カメラにおいて、ブロック歪みと共にアー
ティファクトも同時に低減できるという効果がある。
【0045】請求項15記載の発明によると、モザイク状
のカラーフィルタの補間処理を利用して高周波成分の強
調を行わせることができ、高周波成分の強調のための機
能を別途設ける必要がなく、信号処理を簡略化できると
いう効果がある。請求項16記載の発明によると、高周波
成分の処理の自由度が高く、正確な補正をかけることが
できるという効果がある。
【0046】請求項17記載の発明によると、輝度Y信号
のみを処理対象とすることで、高周波成分の処理におけ
る演算負担を軽くできるという効果がある。
【0047】
【発明の実施の形態】以下に本発明の実施の形態を説明
する。図1は、実施例に係る単板式の電子カメラの信号
変換経路の概略を示すブロック図である。図1におい
て、図示しない被写体からの光学像は、撮影レンズ1を
介して光電変換素子としてのCCD(Charge Coupled D
evice)2上に、該CCDに積層された各種フィルタを介
して照射され、CCD2では、前記被写体の光学像を光
電変換して電気信号に変換する。
【0048】前記各種のフィルタとしては、例えば、空
間周波数の低域のみを通過させる低域通過フィルタ3、
赤外線をカットする赤外線カットフィルタ4、RGB又
はCMYGなどの色フィルタの組み合わせからなるモザ
イクフィルタ5が用いられる。前記CCD2から出力さ
れた電気信号はA/D変換された後、画像メモリ6に一
旦記憶される。
【0049】前記画像メモリ6に記憶された画像データ
は、画像処理部7の画像補間部7aにおいて補間処理さ
れ、更に、色変換処理部7bにおいて色変換処理が施さ
れる。次に、画像データは、ガンマ変換部8で階調特性
の調整が施された後、画像圧縮部9において、必要に応
じてJPEG(Joint Photographic coding ExpertsGro
up)等の画像圧縮処理が施される。
【0050】記録部10では、圧縮後の画像データを、例
えばメモリカードや光磁気ディスク等の記録媒体に記録
する。ここで、図1に示す信号変換経路の一連の処理
は、CPU11によって制御されるものとする。次に、前
記画像補間部7aにおける補間処理について詳しく説明
する。
【0051】尚、以下の補間処理の説明においては、図
2に示すようなRGBのモザイクフィルタを用いるもの
とする。図2のモザイクフィルタは、Greenフィルタを
市松状に配列する一方、残りの部分にRed,Blue フィ
ルタそれぞれが等分に市松状になるように配列したもの
である。図1の画像メモリ6から読み出された画像デー
タは、図3に示す平均値計算部21において、注目画素を
中心とした5×5画素の領域内で、各フィルタ色毎に平
均値が計算される。
【0052】色の再現性を考えると、5×5画素以上の
大きさの領域で各フィルタ色毎の平均値を計算させる構
成としても良いが、領域を広くするとエッジ付近で偽色
が増加するため、5×5画素程度の領域とすることが好
ましい。一方、図3の補間計算部22では、以下のように
して補間値を求める。例えば、図2においてRフィルタ
画素R34及びBフィルタ画素B43の各画素(注目画素)
に対応するGreen信号G34,G43は、次式から補間され
る。
【0053】G34=R34+G'34 −R'34 G43=B43+G'43 −B'43 ここで、G'34 ,R'34 は、注目画素であるR34を中心
とした5×5画素領域内のGreen信号, Red信号の平均
値を示し、G'43 ,B'43 は、注目画素であるB43を中
心とした5×5画素領域内のGreen信号,Blue 信号の
平均値を示し、具体的には、それぞれ下式に従って求め
られる。
【0054】G'34 =(G13+G15+G22+G24+G26
+G33+G35+G42+G44+G46+G53+G55)/12 G'43 =(G22+G24+G31+G33+G35+G42+G44
+G51+G53+G55+G62+G64)/12 R'34 =(R12+R14+R16+R32+R34+R36+R52
+R54+R56)/9 B'43 =(B21+B23+B25+B41+B43+B45+B61
+B63+B65)/9 尚、平均値を求める範囲は5×5画素領域に限定され
ず、3×3画素,3×5画素,5×3画素,7×5画素
などであっても良く、また、重み付けを行っても良い。
【0055】また、Gフィルタ画素G33,Bフィルタ画
素B43,Gフィルタ画素G44に対応するRed信号の補間
値R33,R43,R44は以下のようにして求められる。 R33=G33+R'33 −G'33 R43=B43+R'43 −B'43 R44=G44+R'44 −G'44 ここで、前述と同様に、R'33 ,G'33 は、注目画素G
33を中心とした5×5画素領域内のRed信号,Green信
号の平均値を示し、R'43 ,B'43 は、注目画素B43を
中心とした5×5画素領域内のRed信号,Blue 信号の
平均値を示し、更に、R'44 ,G'44 は、注目画素G44
を中心とした5×5画素領域内のRed信号,Green信号
の平均値を示す。
【0056】更に、Gフィルタ画素G33,Rフィルタ画
素B34,Gフィルタ画素G44に対応するBlue 信号の補
間値B33,B34,B44は以下のようにして求められる。 B33=G33+B'33 −G'33 B34=R34+B'34 −R'34 B44=G44+B'44 −G'44 ここでも、B'33 ,B'34 ,B'44 は、G33,R34,G
44をそれぞれ中心とした5×5画素領域内のBlue 信号
の平均値を示す。
【0057】上記の補間演算をまとめると、表1に示す
ようになる。表1において、BGRは、注目画素の信号
値を示し、gbrは、補間値を示す。
【0058】
【表1】
【0059】上記表1に示すように、注目画素の信号値
と、注目画素を中心とする所定領域内の色別の信号値の
平均値とに基づいて補間値を計算させることで、高い色
再現性を得られることになる。前記表1の変形例とし
て、補間式に係数βをもたせることにより、補間された
画像の特徴を変えることが可能であり、これを表2に示
す。
【0060】
【表2】
【0061】表2に示すβは、値を大きくすると画像の
鮮鋭性が高くなり、小さくするとぼけることになる。但
し、β=0の場合、各注目画素のカラーフィルタに応じ
て表3のようにしても良い。
【0062】
【表3】
【0063】上記では、図2に示したRGBモザイクフ
ィルタの補間方法について説明したが、フィルタの種類
を限定するものではなく、YMCG,YCGなどの組み
合わせからなる種々のモザイクフィルタに適応でき、こ
こでは、図4〜図6に示すような構成のモザイクフィル
タの場合について説明する。尚、図4〜図6は、各色フ
ィルタの組み合わせの基本形を示すものであり、CCD
2の画素数に応じて同じパターンのフィルタ構成が繰り
返されることになる。
【0064】図7は、前記図4〜図6に示すような構成
のモザイクフィルタを用いる場合の画像補間部7aの構
成を示すものであり、図1の画像メモリ6から読み出さ
れた画像信号は、平均値計算部31において、注目画素を
中心とした5×5画素の領域内で、各色毎に平均値が計
算される。そして、変換式計算部32において、RGB以
外の信号がRGB信号に変換される。
【0065】更に、補間値計算部33において、所定の補
間式により補間値が求められる。例えば、図4に示すY
MCGモザイクフィルタの場合には、数1に従ってYM
C信号が、変換式計算部32においてRGB信号に変換さ
れる。
【0066】
【数1】
【0067】上記数1において、Ye’,Mg’,C
y’,G’は、注目画素を中心とした5×5画素領域内
におけるYe信号値,Mg信号値,Cy信号値,G信号
値それぞれの平均値であり、前記平均値計算部31で計算
され、b’,g’,r’は、前記Ye’,Mg’,C
y’,G’に基づき変換されたR,G,Bの平均値を示
す。
【0068】また、図4に示すYMCGモザイクフィル
タの場合には、表4に示す補間式により、前記補間値計
算部33において補間値が求められる。
【0069】
【表4】
【0070】但し、β=0の場合、注目画素Gにおける
出力値は、g=Gとしても良い。表4において、G,Y
e,Mg,Cyは注目画素の信号値を示し、g,b,r
は、補間値を示す。一方、図5に示すYCGWモザイク
フィルタの場合には、数2に従ってWYC信号がRGB
信号に変換される。
【0071】
【数2】
【0072】ここでも、W’,Ye’,Cy’,G’
は、注目画素を中心とした5×5画素領域内におけるW
信号,Ye信号値,Cy信号値,G信号値それぞれの平
均値であり、前記平均値計算部31で計算され、b’,
g’,r’は、前記W’,Ye’,Cy’,G’に基づ
き変換されたR,G,Bの平均値を示す。また、図5に
示すYCGWモザイクフィルタの場合には、表5に示す
補間式により補間値が求められる。
【0073】
【表5】
【0074】但し、β=0の場合、注目画素Gにおける
出力値は、g=Gとしても良い。表5において、W,Y
e,Cy,Gは、注目画素の信号値を示し、g,b,r
は補間値を示す。更に、図6に示すGCYモザイクフィ
ルタの場合には、数3に従ってGYC信号がRGB信号
に変換される。
【0075】
【数3】
【0076】数3において、Ye’,Cy’,G’は、
注目画素を中心とした5×5画素領域内におけるYe信
号値,Cy信号値,G信号値それぞれの平均値であり、
前記平均値計算部31で計算され、b’,g’,r’は、
前記Ye’,Cy’,G’に基づき変換されたR,G,
Bの平均値を示す。また、図6に示すYCGモザイクフ
ィルタの場合には、表6に示す補間式により補間値が求
められる。
【0077】
【表6】
【0078】但し、β=0の場合、注目画素Gにおける
出力値は、g=Gとしても良い。表6において、G,Y
e,Cyは注目画素の信号値を示し、g,b,rが補間
値を示す。ところで、前記係数βは、固定値として与え
ても良いが、下記に示すように光学系のMTFに応じて
可変に設定する構成としても良い。
【0079】前記補間マトリクスの周波数特性は、係数
βに応じて図10に示すように変化する。前記図10は、原
色モザイクフィルタのRed又はBlueのカラーフィ
ルタが積層された画素におけるRed信号又はBlue
信号の補間マトリクスの縦,横方向の周波数特性を表す
ものであり、βを1以上にすると、補間マトリクスはバ
ンドパスフィルタの特性を持つようになることが分か
る。
【0080】一方、光学系のMTFは、レンズの絞りや
焦点距離に応じて変化するから、カメラ内で使用するレ
ンジの絞りや焦点距離に合わせてMTFを測定し、その
MTF劣化を補正する目的でβを可変に設定することが
できる。例えばCCDで撮影した画像のMTFが、図11
に示すような特性を示すとき、このMTFを補正するに
はその逆特性に近似した補間マトリクスが必要となり、
例えば、1/2ナイキスト周波数に注目して近似させる
と次のようになる。
【0081】補間マトリクスの周波数特性をPhnypとす
ると、Phnypは、表7の補間マトリクスをフーリエ変換
し、次式で表される。 Phnyp=−0.333 +1.333 β
【0082】
【表7】
【0083】逆特性の振幅をFhnypとすると、 β=(Fhnyp+0.333 )/1.333 となる。また、注目する周波数は、人間の目の分解能が
最も高い周波数としても良いし、全周波数帯域にも平均
的に合わせることも可能である。また、レンズのMTF
は、画像の中心から同心円上に変化するため、この変化
に合わせてMTFを測定し、βを画素位置毎に可変に設
定することもできる。
【0084】次に、画像補間における効率的な計算方法
について説明する。ここでは、図2のRGBモザイクフ
ィルタを用いる場合であって、5×5画素の領域内で平
均値を計算する例を示す。後述するように、平均値の計
算のために画像の横方向に対して4ライン分のメモリが
必要となり、該メモリをadd2,add3,add20, add30とし
て、以下に計算手順を示す。
【0085】(1)図2における左端の画素がそれぞれG1
1,G31,G51である上から1番目,3番目,5番目の
3ラインにおける縦方向の3画素の和を、add3に入力す
る。つまり、各ラインの横方向の画素を、line1[i], li
ne2[i], line3[i], ・・・・(i=1〜横方向の画素
数)としたときに、 add3[i]=line1[i]+line3[i]+line5[i] とする。
【0086】 例えば、 add3[1]=line1[1]+line3[1]+line5[1] =G11+G31+G51 add3[2]=line1[2]+line3[2]+line5[2] =R12+R32+R52 となる。
【0087】(2)図2における左端の画素がそれぞれB2
1,B41である上から2番目,4番目の2ラインにおけ
る縦方向の2画素の和をadd2に入力する。 add2[i]=line2[i]+line4[i] 例えば、 add2[1]=line2[1]+line4[1] =B21+B41 add2[2]=line2[2]+line4[2] =G22+G42 となる。
【0088】(3)注目画素G33を中心とした5×5画素
領域内におけるR信号,G信号,B信号それぞれの平均
値R33’,G33’,B33’を、次のようにして計算す
る。 R’=add3[2] +add3[4] G’=add2[2] +add2[4] +add3[1] +add3[3] +add3
[5] B’=add2[1] +add2[3] +add2[5] R33’=R’/6 G33’=G’/13 B33’=B’/6 (4)図2でG33の右隣のR34を注目画素としたときの各
色の平均値は次のようになる。
【0089】R’=R' +add3[6] G’=G’−add3[1] +add2[6] B’=B’−add2[1] R34’=R’/9 G34’=G’/12 B34’=B’/4 尚、R' +add3[6] のR’は、G33で求めたR信号の総
和であり、G’−add3[1] +add2[6] におけるG’、
B’−add2[1] におけるB’も同様である。
【0090】(5)更に、R34の右隣のG35を注目画素と
したときの各色の平均値は次のようになる。 R’=R’−add3[2] G’=G’+add3[7] −add2[2] B’=B’+add2[7] R35’=R’/6 G35’=G’/13 B35’=B’/6 尚、R’−add3[2] のR’は、R34で求めたR信号の総
和であり、G’+add3[7] −add2[2] におけるG’、
B’+add2[7] におけるB’も同様である。
【0091】(6)上記の計算を横方向に順次繰り返す。 (7)次に、B41のラインに注目画素を移す。ここでは、
次式で横方向の和を求め、前記(3) 〜(6) の手順で同様
に計算する。 add20[i]=add2[i] add30[i]=add3[i] add2[i] =add30[i]−line1[i] 又は add2[i] =add3
[i] +line5[i] add3[i] =add20[i]+line6[i] 尚、add20[i],add30[i]の各ラインメモリは、上記のよ
うにadd2[i] ,add3[i] の更新設定において前回値を退
避させるために必要となる。
【0092】(8) (3)〜(7) を繰り返し、全ての画素に
対して平均値を計算する。上記のようにして、ラインメ
モリを用いれば、注目画素毎に5×5画素領域内に含ま
れる各画素の信号をその都度合計する場合に比べ、計算
量を低減でき、以て、効率の良く補間処理が行える。と
ころで、上記補間計算は、補間前の画像データをコンピ
ュータへ転送することにより、ソフトウェアによっても
実現でき、ソフトウェア処理による補間方法の例を図8
又は図9のフローチャートに示す。
【0093】図8のフローチャートは、RGBモザイク
フィルタを用いたときのソフトウェア処理による補間を
示す。まず、画像データを読み込み(S1)、続いて全
画素について補間計算が終了しているか否かを判別する
(S2)。全画素について補間計算が終了していない場
合には、注目画素の近隣の画素(5×5画素領域内の画
素)について各色毎の平均値R’,G’,B’を計算す
る(S3)。
【0094】そして、前記平均値R’,G’,B’を用
いて、補間値r,g,bを計算する(S4)。前記計算
した補間値を出力すると(S5)、次の注目画素をセッ
トし(S6)、前記S2に戻って全画素について補間が
終了したか否かを判別させ、全画素について終了するま
で、前記S3〜S6の処理を繰り返す。
【0095】図9のフローチャートは、図4のYMCG
モザイクフィルタを用いたときのソフトウェア処理によ
る補間を示す。まず、画像データを読み込み(S11)、
続いて全画素について補間計算が終了しているか否かを
判別する(S12)。全画素について補間計算が終了して
いない場合には、注目画素の近隣の画素について各色毎
の平均値Ye’,Mg’,Cy’,G’を計算する(S
13)。
【0096】次に、前記平均値Ye’,Mg’,C
y’,G’を、r’,g’,b’に変換する(S14)。
そして、前記r’,g’,b’を用いて、補間値r,
g,bを計算する(S15)。前記計算した補間値を出力
すると(S16)、次の注目画素をセットし(S17)、前
記S12に戻って全画素について補間が終了したか否かを
判別させ、全画素について終了するまで、前記S13〜S
17の処理を繰り返す。
【0097】ところで、電子カメラにおいては、CCD
の画素毎の出力ばらつきを補正するホワイトバランス調
整とゲイン調整とが一般的に行われるが、前記ホワイト
バランス調整又は/及びゲイン調整と同時に、レンズの
周辺減光の補正を行わせれば、計算量を軽減して前記周
辺減光の補正を行わせることができる。例えば、前述の
ように補間処理されたr,g,bの信号に係数Ar,A
g,Abを乗算して、ホワイトバランス,ゲイン調整を
行う際に、ホワイトバランス,ゲイン調整を行う係数A
r,Ag,Abに対して周辺減光を補正するための係数
を乗算して補正し、該補正された係数Ar,Ag,Ab
を用いて、調整後の信号値r0 ,g0 ,b0 を得るよう
にする。ここで、周辺減光の補正のための係数をαとす
ると、該係数αは、一般に知られているコサインの4乗
則で決まり、簡単に表すと下式のようになる。
【0098】α=1/cos4ω 前記ωは、図12に示すように、焦点距離,軸外像点と軸
上像点との距離で決まる値であり、それぞれの距離を
f,xとすると、 ω=tan -1(x/f) となる。CCD上では、αは、全画素数の1/8だけ変
化することになり、カメラ内にこの数のαのデータを持
っていれば良いことになる。そして、この係数αとホワ
イトバランス,ゲイン調整のために設定された係数A
r,Ag,Abとを乗算して新たな係数Ar,Ag,A
bをメモリに記録し、この記録された係数Ar,Ag,
Abと、補間処理されたr,g,bの信号との乗算を行
わせる。
【0099】画像の縦,横のサイズをH,Wとすると、
ホワイトバランス調整,ゲイン調整,周辺減光補正とを
個別に行う場合には、3×H×Wの回数の乗算処理が必
要になるが、上記のようにして周辺減光の補正を行え
ば、乗算処理の回数は、3×(H×W/4+H/2)と
なり、乗算処理の回数を軽減できる。尚、周辺減光の補
正は、ホワイトバランス調整とゲイン調整とのいずれか
一方と同時に行わせる構成であっても良いし、両者と同
時に行わせる構成であっても良い。
【0100】次に、上記のような補間処理が行われる単
板式の電子カメラにおける画像データの圧縮,解凍(伸
長)について説明する。図13は、図1に示した電子カメ
ラの構成をより詳細に示すものであり、図示しない被写
体からの光学像は、撮影レンズ51、低域通過フィルタ5
2、赤外線カットフィルタ53、RGB又はCMYGなど
の色フィルタの組み合わせからなるモザイクフィルタ54
を介してCCD(Charge Coupled Device)55上に照射さ
れ、CCD55では、前記被写体の光学像を光電変換して
電気信号に変換する。
【0101】前記CCD55から出力された電気信号はA
/D変換された後、画像メモリ56に一旦記憶される。前
記画像メモリ56に記録された画像データは、まず、マト
リクス(1)57により、標準光源下で撮影したとの信号
値に近づくように変換される。次に、マトリクス(2)
58により、人間の網膜への刺激に近づくように変換され
る。但し、マトリクス(1)57とマトリクス(2)58と
の処理順序は逆でも良い。
【0102】次に、ゲインコントロール59で、適当な白
色点になるように、3つの値がそれぞれ係数倍され、こ
れにより、ホワイトバランスが取られる。次に、マトリ
クス(3)60により、信号値をCRTに表示したときに
適当になるように変換し、更に、ガンマコントロール61
により、CRTのガンマ特性に合わせて階調カーブが調
整される。
【0103】更に、画像圧縮部62でJPEG圧縮などに
よって画像データを圧縮する処理が施され、該圧縮され
た画像データが半導体メモリ63に記録される。CPU64
は、フリッカー判別装置65からの信号等が入力され、前
記各処理部の動作を制御する一方、外部インターフェイ
ス66を介して外部からの信号を入力する。また、メモリ
67は、前記CPU64によってデータの書き込み,読み出
しが行われるメモリである。
【0104】ここで、前記画像圧縮部62では、図14に示
すようにして圧縮及び解凍(伸長)を行う。図14に示す
ように、圧縮前にまず画像データの高周波成分を強調す
る処理が行われ、その後に、8×8画素ブロック単位に
DCT(Descrete Cosine Transform)を行い、量子化さ
れ、ハフマン符号化されて、圧縮データとなる。圧縮デ
ータを解凍(伸長)する際には、上述の逆をたどるが、
解凍後に高周波成分を低減する処理が施される。
【0105】上記のようにして、圧縮前に高周波成分を
強調する処理を施し、解凍後に高周波成分を低減する処
理を施す構成とすれば、画像の平坦部やブロック歪みの
有無を判別することなく、解凍後の高周波成分を低減す
る処理(ローパスフィルタ)によって、圧縮処理に伴う
ブロック歪みを低減することができる。尚、8×8画素
を1ブロックとしてDCT変換を行うJPEG圧縮で
は、ブロック境界が8画素毎に設定され、この境界部分
にブロック歪みが発生するので、この8画素毎のブロッ
ク境界部分についてのみ高周波成分の処理を施す構成と
すれば、より効果的にブロック歪みを低減できる。
【0106】図14に示す構成では、RGB信号それぞれ
について高周波成分の強調,低減を行わせることになる
が、図15に示すように、圧縮前にRGB信号をYCC信
号(輝度Y信号と色C信号となる信号)に変換し、輝度
Y信号についてのみ高周波成分を強調する処理を行って
から圧縮処理を実行し、解凍後には、輝度Y信号につい
てのみ高周波成分を低減する処理を行ってからRGB信
号に変換して出力するようにしても良い。上記のように
して輝度Y信号についてのみ高周波成分を強調する処理
を行わせる構成であれば、高周波成分の強調,低減処理
の計算負担が軽減されることになる。
【0107】尚、RGB信号とYCC信号との間の変換
はマトリクス演算によって行わせることができ、例えば
Y,Ery,Ebyへの変換マトリクスは、 0.299 0.587 0.144 0.701 -0.587 -0.144 -0.299 -0.587 0.886 であり、また、逆変換マトリクスは、 0.971 1.000 -0.029 0.971 -0.509 -0.223 0.971 0.000 0.971 となる。但し、マトリクスには種々の変形例がある。
【0108】前記高周波成分の強調,低減処理は、ハー
ドウェア,ソフトウェアのいずれによって行わせても良
く、また、圧縮時にはDCT変換の後に強調処理を行わ
せ、解凍時にはDCT変換の前に低減処理を行わせる構
成としても良い。また、高周波成分の強調,低減処理の
方法としては、公知の種々の方法を用いることができる
が、コンボリューションフィルタを用いることで、正確
に高周波成分を処理できる。また、高周波成分の処理に
フリーリエ変換を用いても良い。
【0109】更に、圧縮前の高周波成分の強調処理を、
前記モザイルフィルタの画素信号の補間演算と同時に行
わせる構成とすることができる。例えば前記表2に示す
ような補間演算を行わせる場合には、係数βを大きくす
ると画像の鮮鋭性が高くなる(高周波成分が強調され
る)から、例えばβ=2程度として、ブロック歪みを低
減するための圧縮前の高周波成分の強調処理と補間演算
とを同時に行わせる構成とすることができる。
【0110】尚、モザイクフィルタの種類が異なる場合
には、前記表4〜表6に示す補間演算式を用い、その係
数βにより高周波成分の強調を図れば良い。また、上記
では、単板式のモザイクフィルタを用いた電子カメラに
おける圧縮処理について述べたが、ブロック歪みを減少
させるための高周波成分についての圧縮前の強調と解凍
後の低減処理は、前記電子カメラに限定されることなく
適宜に適用できる。
【図面の簡単な説明】
【図1】実施例における電子カメラの信号変換経路を示
すブロック図。
【図2】RGBモザイクフィルタの構成を示す図。
【図3】画像補間部の詳細を示すブロック図。
【図4】YMCGモザイクフィルタの基本構成を示す
図。
【図5】YCGWモザイクフィルタの基本構成を示す
図。
【図6】YCGモザイクフィルタの基本構成を示す図。
【図7】R,Bフィルタを備えないモザイクフィルタを
用いる場合の画像補間部の詳細を示すブロック図。
【図8】RGBモザイクフィルタにおける補間計算のソ
フトウェア処理を示すフローチャート。
【図9】YMCGモザイクフィルタにおける補間計算の
ソフトウェア処理を示すフローチャート。
【図10】補間マトリクスの周波数特性と、補間処理係数
βとの相関を示す線図。
【図11】MTFの特性例とこれに対応すべき係数βの特
性とを示す線図。
【図12】ピント面における軸上像点と軸外像点との距離
を示す説明図。
【図13】実施例の電子カメラの信号変換経路を詳細に示
すブロック図。
【図14】圧縮処理及び解凍処理の流れを示すブロック
図。
【図15】YCC変換を伴う圧縮処理及び解凍処理の流れ
を示すブロック図。
【符号の説明】
1 撮影レンズ 2 CCD(光電変換素子) 3 低域通過フィルタ 4 赤外線カットフィルタ 5 モザイクフィルタ 6 画像メモリ 7 画像処理部 7a 画像補間部 7b 色変換処理部 8 ガンマ変換部 9 画像圧縮部 10 記録部

Claims (17)

    【特許請求の範囲】
  1. 【請求項1】光電変換素子とカラーフィルタを用いた単
    板式の電子カメラにおいて、 注目画素を中心とする所定領域内でフィルタ色別に信号
    値の平均値を計算し、該平均値と注目画素の信号値とに
    基づいて、前記注目画素のフィルタ色と異なる色の信号
    値を補間することを特徴とする電子カメラ。
  2. 【請求項2】GreenのカラーフィルタとBlue 及びRed
    以外のカラーフィルタを用いた単板式の電子カメラにお
    いて、 注目画素を中心とする所定領域内でフィルタ色別に信号
    値の平均値を計算し、その平均値をBlue ,Red信号に
    変換し、該平均値と注目画素の信号値とに基づいて、前
    記注目画素のフィルタ色と異なる色の信号値を補間する
    ことを特徴とする電子カメラ。
  3. 【請求項3】注目画素の信号値と、前記所定領域内で注
    目画素と同じ色のカラーフィルタをもつ画素の信号値の
    平均値と、前記所定領域内で前記注目画素について補間
    する色と同じ色のカラーフィルタをもつ画素の信号値の
    平均値とに基づいて、前記注目画素のカラーフィルタと
    異なるフィルタ色の信号値を補間することを特徴とする
    請求項1又は2に記載の電子カメラ。
  4. 【請求項4】前記カラーフィルタが少なくともGreenフ
    ィルタを有し、Green以外のフィルタ色の注目画素につ
    いてGreen信号値を補間により求めるときに、注目画素
    の信号値をX、前記所定領域内で注目画素と同じ色のカ
    ラーフィルタをもつ画素の信号値の平均値をX’、前記
    所定領域内でGreenフィルタをもつ画素の信号値の平均
    値をG’としたときに、前記注目画素についてのGreen
    信号の補間値gを、 g=G’+β(X−X’) として求め、注目画素がGreenフィルタ色の注目画素で
    あるとき、その信号値をGとしたときに、 g=G’+β(G−G’) としてGreen信号の補間値gを求めることを特徴とする
    請求項1又は2に記載の電子カメラ。
  5. 【請求項5】前記カラーフィルタがRed,Green, Blu
    e フィルタをそれぞれ有し、注目画素についてRed,B
    lue の信号値それぞれ補間により求めるときに、注目画
    素の信号値をX、前記所定領域内で注目画素と同じ色の
    カラーフィルタをもつ画素の信号値の平均値をX’、前
    記所定領域内でRedフィルタをもつ画素の信号値の平均
    値をR’、前記所定領域内でBlue フィルタをもつ画素
    の信号値の平均値をB’としたときに、Red,Blue 信
    号の補間値r,bを、 r=R’+β(X−X’) b=B’+β(X−X’) として求めることを特徴とする請求項1記載の電子カメ
    ラ。
  6. 【請求項6】前記カラーフィルタが少なくともGreenフ
    ィルタを有する一方、Red,Blueフィルタ以外のフィ
    ルタ色を有する構成であって、注目画素についてRed,
    Blue の信号値それぞれ補間により求めるときに、前記
    所定領域内でフィルタ色別に計算した信号値の平均値を
    Red,Blue の信号値r’,b’に変換し、注目画素の
    信号値をX、前記所定領域内で注目画素と同じ色のカラ
    ーフィルタをもつ画素の信号値の平均値をX’としたと
    きに、Red,Blue 信号の補間値r,bを、 r=r’+β(X−X’) b=b’+β(X−X’) として求めることを特徴とする請求項2記載の電子カメ
    ラ。
  7. 【請求項7】前記βを光学系の変調伝達関数MTFに応
    じて可変に設定することを特徴とする請求項4〜6のい
    ずれか1つに記載の電子カメラ。
  8. 【請求項8】前記所定領域を、前記注目画素を中心とす
    る5×5画素の領域とすることを特徴とする請求項1〜
    7のいずれか1つに記載の電子カメラ。
  9. 【請求項9】前記所定領域内で、同一フィルタ色の画素
    が、ライン上の同一位置に並ぶ複数ラインについて、該
    複数ライン上の同一位置かつ同一色の信号の和をそれぞ
    れ記憶するメモリを備え、該メモリの記憶値を用いて補
    間を行うことを特徴とする請求項1〜8のいずれか1つ
    に記載の電子カメラ。
  10. 【請求項10】レンズによる周辺減光の補正を、ホワイト
    バランス調整とゲイン調整との少なくとも一方と同時に
    行うことを特徴とする電子カメラ。
  11. 【請求項11】画像領域を複数のブロックに分割し、各ブ
    ロックの画像データについての2次元直交変換符号化に
    よりディジタル画像データの圧縮,復元を行う画像処理
    方法であって、 圧縮前に高周波成分を強調する処理を行う一方、解凍後
    に高周波成分を低減する処理を行うよう構成したことを
    特徴とする画像処理方法。
  12. 【請求項12】前記各ブロックの境界部分を検出し、前記
    高周波成分の処理を前記検出された境界部分について行
    わせることを特徴とする請求項11記載の画像処理方法。
  13. 【請求項13】前記圧縮を行う画像データが、電子カメラ
    において光電変換素子で得られた画像データであって、
    かつ、圧縮されたディジタル画像データを記録する前記
    電子カメラの半導体メモリから読み出した画像データに
    ついて前記復元を行わせることを特徴とする請求項11又
    は12に記載の画像処理方法。
  14. 【請求項14】前記光電変換素子が、モザイク状のカラー
    フィルタを備えたものであることを特徴とする請求項13
    記載の画像処理方法。
  15. 【請求項15】前記電子カメラにおいて、前記注目画素の
    フィルタ色と異なる色の信号値を補間して求める処理が
    行われる構成であり、前記圧縮前の高周波成分を強調す
    る処理を、前記補間処理と同時に行うことを特徴とする
    請求項14記載の画像処理方法。
  16. 【請求項16】前記高周波成分の処理を、コンボリューシ
    ョンによって行うことを特徴とする請求項11〜15のいず
    れか1つに記載の画像処理方法。
  17. 【請求項17】前記高周波成分の強調処理を、輝度信号に
    ついてのみ行うことを特徴とする請求項15記載の画像処
    理方法。
JP06138597A 1996-09-18 1997-03-14 電子カメラ Expired - Lifetime JP3707187B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP06138597A JP3707187B2 (ja) 1996-09-18 1997-03-14 電子カメラ
US08/928,095 US6388706B1 (en) 1996-09-18 1997-09-12 Image processing method for actively edge-enhancing image data obtained by an electronic camera

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP8-246423 1996-09-18
JP24642396 1996-09-18
JP8-275047 1996-10-17
JP27504796 1996-10-17
JP06138597A JP3707187B2 (ja) 1996-09-18 1997-03-14 電子カメラ

Publications (2)

Publication Number Publication Date
JPH10178650A true JPH10178650A (ja) 1998-06-30
JP3707187B2 JP3707187B2 (ja) 2005-10-19

Family

ID=27297485

Family Applications (1)

Application Number Title Priority Date Filing Date
JP06138597A Expired - Lifetime JP3707187B2 (ja) 1996-09-18 1997-03-14 電子カメラ

Country Status (2)

Country Link
US (1) US6388706B1 (ja)
JP (1) JP3707187B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100390847B1 (ko) * 2001-06-30 2003-07-12 주식회사 하이닉스반도체 이미지 센서의 칼라 보간 장치
KR100607805B1 (ko) * 2004-05-06 2006-08-02 매그나칩 반도체 유한회사 이미지센서에서의 다크 컨디션 판별 방법 및 컬러 보정 방법
US7362894B2 (en) 2003-01-14 2008-04-22 Sony Corporation Image processing apparatus and method, recording medium, and program
US7706608B2 (en) 2004-06-14 2010-04-27 Canon Kabushiki Kaisha Image processing device, image processing method and image processing program

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3925588B2 (ja) * 1997-11-25 2007-06-06 セイコーエプソン株式会社 画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体
JP4006075B2 (ja) * 1998-01-30 2007-11-14 キヤノン株式会社 Cmosセンサ及び撮像システム
JP3969836B2 (ja) * 1998-04-24 2007-09-05 キヤノン株式会社 信号処理装置および撮像用信号処理方法
US6642956B1 (en) * 1998-05-29 2003-11-04 Agilent Technologies, Inc. Digital image processor for a digital camera
US6646245B2 (en) * 1999-01-22 2003-11-11 Intel Corporation Focal plane averaging implementation for CMOS imaging arrays using a split photodiode architecture
JP4162111B2 (ja) * 1999-07-27 2008-10-08 富士フイルム株式会社 画像処理方法および装置並びに記録媒体
JP3736219B2 (ja) * 1999-08-13 2006-01-18 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置及び方法
US7330209B2 (en) * 1999-12-20 2008-02-12 Texas Instruments Incorporated Digital still camera system and complementary-color-filtered array interpolation method
JP2001285644A (ja) * 2000-03-31 2001-10-12 Sony Corp ラインメモリの制御方法
KR100722596B1 (ko) * 2001-04-19 2007-05-28 가부시끼가이샤 도시바 화상처리방법과 화상처리장치
US6937274B2 (en) * 2001-12-17 2005-08-30 Motorola, Inc. Dynamic range compression of output channel data of an image sensor
CN101778203B (zh) * 2002-12-27 2012-06-06 株式会社尼康 图像处理装置
EP1447977A1 (en) * 2003-02-12 2004-08-18 Dialog Semiconductor GmbH Vignetting compensation
EP1564681A1 (en) * 2004-02-13 2005-08-17 Dialog Semiconductor GmbH Vignetting compensation algorithm
US20050185836A1 (en) * 2004-02-24 2005-08-25 Wei-Feng Huang Image data processing in color spaces
TWI243239B (en) * 2004-03-31 2005-11-11 Benq Corp Digital still camera for detecting chromaticity coordinate and related color temperature and method thereof
JP4534594B2 (ja) * 2004-05-19 2010-09-01 ソニー株式会社 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
US20060119724A1 (en) * 2004-12-02 2006-06-08 Fuji Photo Film Co., Ltd. Imaging device, signal processing method on solid-state imaging element, digital camera and controlling method therefor and color image data generating method
US20080055455A1 (en) * 2006-08-31 2008-03-06 Micron Technology, Inc. Imbalance determination and correction in image sensing
JP4894594B2 (ja) 2007-04-05 2012-03-14 ソニー株式会社 画像処理装置
US7920171B2 (en) * 2007-05-18 2011-04-05 Aptina Imaging Corporation Methods and apparatuses for vignetting correction in image signals
US7825965B2 (en) * 2007-09-07 2010-11-02 Seiko Epson Corporation Method and apparatus for interpolating missing colors in a color filter array
JP5075795B2 (ja) * 2008-11-14 2012-11-21 株式会社東芝 固体撮像装置
DE112009005314B4 (de) * 2009-10-13 2019-08-08 Canon Kabushiki Kaisha Bildaufnahmegerät
KR20110135720A (ko) * 2010-06-11 2011-12-19 삼성전자주식회사 촬영 환경에 따른 렌즈 쉐이딩 보상 테이블을 생성하기 위한 장치 및 방법
JP5503497B2 (ja) * 2010-10-26 2014-05-28 パナソニック株式会社 画像信号処理装置、画像信号処理方法およびプログラム
TWI458347B (zh) 2010-12-20 2014-10-21 Ind Tech Res Inst 影像擷取裝置及其方法
US9323984B2 (en) * 2014-06-06 2016-04-26 Wipro Limited System and methods of adaptive sampling for emotional state determination

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4642678A (en) 1984-09-10 1987-02-10 Eastman Kodak Company Signal processing method and apparatus for producing interpolated chrominance values in a sampled color image signal
JPS63263088A (ja) 1987-04-20 1988-10-31 Lion Corp γ−リノレン酸含有菌体内脂質
JP3034887B2 (ja) 1989-11-27 2000-04-17 株式会社リコー 画像処理方法及び装置
JPH042273A (ja) 1990-04-19 1992-01-07 Konica Corp ファクシミリ装置
JPH06113147A (ja) 1992-09-29 1994-04-22 Canon Inc ノイズ除去装置
US5373322A (en) * 1993-06-30 1994-12-13 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients
US5382976A (en) * 1993-06-30 1995-01-17 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing luminance gradients
EP0697788A3 (en) * 1994-08-19 1997-03-26 Eastman Kodak Co Adaptive and global motion compensated cancellation of the interlacing of successive video images with post-processing
US5506619A (en) * 1995-03-17 1996-04-09 Eastman Kodak Company Adaptive color plan interpolation in single sensor color electronic camera
US5778106A (en) * 1996-03-14 1998-07-07 Polaroid Corporation Electronic camera with reduced color artifacts
US5805217A (en) * 1996-06-14 1998-09-08 Iterated Systems, Inc. Method and system for interpolating missing picture elements in a single color component array obtained from a single color sensor

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100390847B1 (ko) * 2001-06-30 2003-07-12 주식회사 하이닉스반도체 이미지 센서의 칼라 보간 장치
US7362894B2 (en) 2003-01-14 2008-04-22 Sony Corporation Image processing apparatus and method, recording medium, and program
KR100607805B1 (ko) * 2004-05-06 2006-08-02 매그나칩 반도체 유한회사 이미지센서에서의 다크 컨디션 판별 방법 및 컬러 보정 방법
US7409084B2 (en) 2004-05-06 2008-08-05 Magnachip Semiconductor, Ltd. Method for determining dark condition and method for interpolating color in image sensor
US7706608B2 (en) 2004-06-14 2010-04-27 Canon Kabushiki Kaisha Image processing device, image processing method and image processing program

Also Published As

Publication number Publication date
JP3707187B2 (ja) 2005-10-19
US6388706B1 (en) 2002-05-14

Similar Documents

Publication Publication Date Title
JP3707187B2 (ja) 電子カメラ
US6885482B1 (en) Image processing method and image processing apparatus
US8116563B2 (en) Image processing device and method, recording medium, and program
US9330480B2 (en) Image processing apparatus having a plurality of image processing blocks that are capable of real-time processing of an image signal
JP4687320B2 (ja) 画像処理装置および方法、記録媒体、並びに、プログラム
EP1395041B1 (en) Colour correction of images
EP1494462A1 (en) Image processing device and method
US8605164B2 (en) Image processing apparatus, control method therefor, and storage medium
EP1930853A1 (en) Image signal processing apparatus and image signal processing
US20060119896A1 (en) Image processing apparatus, image processing program, electronic camera, and image processing method for smoothing image of mixedly arranged color components
WO2006025486A1 (ja) 画像補正処理システム及び画像補正処理方法
JP2008263475A (ja) 画像処理装置および方法、並びに、プログラム
JP2003304549A (ja) カメラ及び画像信号処理システム
WO2006081277A1 (en) Luma adaptation for digital image processing
US20100321520A1 (en) Digital camera and method
JP2004363853A (ja) 画像信号のノイズ低減方法及びノイズ低減装置
US20080068472A1 (en) Digital camera and method
JP2001051672A (ja) 画像処理装置
JP2004221645A (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP7296745B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2004242125A (ja) 画像処理装置
JP6024363B2 (ja) 画像処理装置
JP3837881B2 (ja) 画像信号処理方法及び電子カメラ
JPH04253837A (ja) 画像処理装置
US9055232B2 (en) Image processing apparatus capable of adding soft focus effects, image processing method, and storage medium

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050502

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050725

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090812

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090812

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100812

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110812

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110812

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120812

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130812

Year of fee payment: 8

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term