JP4101673B2 - Image processing device - Google Patents

Image processing device Download PDF

Info

Publication number
JP4101673B2
JP4101673B2 JP2003038849A JP2003038849A JP4101673B2 JP 4101673 B2 JP4101673 B2 JP 4101673B2 JP 2003038849 A JP2003038849 A JP 2003038849A JP 2003038849 A JP2003038849 A JP 2003038849A JP 4101673 B2 JP4101673 B2 JP 4101673B2
Authority
JP
Japan
Prior art keywords
image
contour
gamma correction
image data
coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003038849A
Other languages
Japanese (ja)
Other versions
JP2003319201A (en
Inventor
雅彦 杉本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2003038849A priority Critical patent/JP4101673B2/en
Publication of JP2003319201A publication Critical patent/JP2003319201A/en
Application granted granted Critical
Publication of JP4101673B2 publication Critical patent/JP4101673B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、与えられた画像を画像処理する画像処理装置に関する。特に、本発明は与えられた画像に対し、輪郭補正を行う画像処理装置に関する。
【0002】
【従来の技術】
従来、与えられた画像に対して輪郭補正を行う場合、与えられた画像に対してガンマ変換を行い、その後輪郭補正を行うか、又は与えられた画像に対して輪郭補正を行い、その後ガンマ補正を行っていた。このような方法では、与えられた画像の信号レベルの低い領域でのゲインが大きく、画像の暗部でのノイズが大きく目立ってしまう欠点があった。また、画像の輝度に対して一様にゲインをかけているため、明るい部分での輪郭補正の効果が劣化していた。
【0003】
例えば、従来の画像処理装置として、特開昭55−92083号公報に開示された輪郭補償回路、及び特開昭63−209373号公報に開示された映像信号処理回路が知られている。前者の輪郭補償回路では、ガンマ補正回路の前段より取り出した映像信号に基づいて輪郭補正信号を発生し、輪郭補正信号をガンマ補正回路でガンマ補正された映像信号に重畳して輪郭補償を行っている。また、後者の映像信号処理回路では、映像入力信号に輪郭補正処理を行う輪郭補正手段と、映像入力信号にガンマ補正処理するガンマ補正手段と、輪郭補正手段とガンマ補正手段からの映像出力信号を互いに加算する加算手段とを具えている。
【0004】
【発明が解決しようとする課題】
しかし、前者の輪郭補償回路においては、ガンマ補正後の画像に基づいて輪郭補正信号を発生しているため、画像の暗部でのノイズが大きく目立ってしまう欠点があった。また、後者の映像信号処理回路では、明部で過度のエッジ強調が係ってしまう欠点があった。
【0005】
そこで本発明は、上記の課題を解決することのできる画像処理装置を提供することを目的とする。この目的は特許請求の範囲における独立項に記載の特徴の組み合わせにより達成される。また従属項は本発明の更なる有利な具体例を規定する。
【0006】
【課題を解決するための手段】
即ち、本発明の第1の形態によると、与えられた画像を画像処理する画像処理装置であって、画像に対してガンマ補正処理を行うガンマ補正部と、ガンマ補正処理された画像の輪郭部を抽出する輪郭抽出部と、ガンマ補正処理に基づく補正係数を生成する補正係数生成部と、輪郭部の画像データに、補正係数を乗算した輪郭画像データを生成する輪郭画像生成部と、ガンマ補正処理された画像の画像データに、輪郭画像データを加算する加算部とを備えることを特徴とする画像処理装置を提供する。
【0007】
補正係数生成部は、画像のそれぞれの画素に対して、ガンマ補正処理におけるガンマ補正カーブの、それぞれの画素の輝度値における微分係数の逆数に基づく補正係数を生成することが好ましい。補正係数生成部は、画素の輝度値が、予め定められた閾値より大きい場合、補正係数の値を予め定められた値に置き換えてよい。
【0008】
また、補正係数生成部は、生成した補正係数が予め定められた閾値より大きい場合、補正係数の値を予め定められた値に置き換えてよい。また、補正係数生成部は、ガンマ補正処理における補正値が、予め定められた閾値より大きい場合、補正係数の値を予め定められた値に置き換えてよい。
【0009】
本発明の第2の形態においては、コンピュータに画像処理をさせるプログラムであって、コンピュータを、画像に対してガンマ補正処理を行うガンマ補正部と、ガンマ補正処理された画像の輪郭部を抽出する輪郭抽出部と、ガンマ補正処理に基づく補正係数を生成する補正係数生成部と、輪郭部の画像データに、補正係数を乗算した輪郭画像データを生成する輪郭画像生成部と、ガンマ補正処理された画像の画像データに、輪郭画像データを加算する加算部として機能させることを特徴とするプログラムを提供する。
【0010】
なお上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではなく、これらの特徴群のサブコンビネーションも又発明となりうる。
【0011】
【発明の実施の形態】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではなく、又実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【0012】
図1は、従来の画像処理装置90の構成の例を示す。図1(a)、図1(b)、及び図1(c)は、それぞれ画像処理装置90の一例を示す。図1(a)、図1(b)、及び図1(c)に示した画像処理装置90は、ガンマ補正部102、輪郭抽出部106、及び加算部104を有する。図1(a)に示した画像処理装置90は、ガンマ補正を行った画像データから、輪郭データを抽出する。また、抽出した輪郭データをガンマ補正を行った画像データに加算する。
【0013】
図1(b)に示した画像処理装置90は、与えられた画像データから輪郭データを抽出する。また、抽出した輪郭データをガンマ補正を行った画像データに加算する。
【0014】
図1(c)に示した画像処理装置90は、与えられた画像データから輪郭データを抽出し、抽出した輪郭データを、与えられた画像データに加算して輪郭補正を行う。また、輪郭補正を行った画像データに対し、ガンマ補正を行う。
【0015】
図2は、本発明に係る画像処理装置20を有する撮像装置100の構成の一例を示す。撮像装置100は、一例として被写体の静止画像を撮像するディジタルスチルカメラであってよく、また被写体の動画像を撮像するディジタルビデオカメラであってもよい。撮像装置100は、撮像部10及び画像処理装置20を備える。撮像部10は、被写体の画像を撮像し、撮像した画像を画像処理装置20に与える。
【0016】
画像処理装置20は、与えられた画像を画像処理する。画像処理装置20は、ガンマ補正部22、輪郭抽出部24、補正係数生成部40、輪郭画像生成部26、ゲイン調整部28、及び加算部30を備える。
【0017】
ガンマ補正部22は、与えられた画像に対してガンマ補正処理を行う。ガンマ補正部22は、与えられた画像のそれぞれの画素の輝度値を、当該輝度値に基づく値に変換する。ガンマ補正部22は、所望のガンマ補正カーブを有してよい。ここで、ガンマ補正カーブは、ガンマ補正部22に入力される値と、ガンマ補正部22が出力する値との関係を示す。
【0018】
ガンマ補正部22は、画素の輝度値と、それぞれの当該輝度値に対応するガンマ補正値とを関連づけて格納するテーブルを有してよい。この場合、ガンマ補正部22は、それぞれの画素の輝度値に対応するガンマ補正値を出力する。また、ガンマ補正部22は、画素の輝度値と、ガンマ補正値との関係を示す数式が予め与えられていてもよい。この場合、ガンマ補正部22は、当該数式と画素の輝度値とに基づくガンマ補正値を出力する。
【0019】
輪郭抽出部24は、ガンマ補正処理された画像の輪郭部を抽出する。輪郭抽出部24は、フィルタを有してよい。例えば、フィルタはガンマ補正処理された画像において、空間周波数が予め定められた周波数より低い成分を抽出することにより、画像の輪郭部を抽出してよい。
【0020】
補正係数生成部40は、画像のそれぞれの画素に対して、ガンマ補正処理に基づく補正係数を生成する。補正係数生成部40は、リミッタ42及び係数発生部44を有する。補正係数生成部40は、与えられた画像のそれぞれの画素に対して、ガンマ補正処理におけるガンマ補正カーブの、それぞれの画素の輝度値における微分係数の逆数に基づく補正係数を生成する。本例において、係数発生部44は、与えられた画像のそれぞれの画素に対して、ガンマ補正処理におけるガンマ補正カーブの、それぞれの画素の輝度値における微分係数の逆数を生成し、リミッタ42は、係数発生部44が生成した微分係数の逆数の値を制限した値を、補正係数として出力する。
【0021】
係数発生部44は、画像のそれぞれの画素に対するガンマ補正値を受け取り、ガンマ補正値に基づいて、画像のそれぞれの画素に対するガンマ補正カーブの微分係数の逆数を生成してよい。例えば、係数発生部44は、ガンマ補正値とガンマ補正カーブの微分係数の逆数とを関連づけて格納するメモリを有してよい。また、係数発生部44は、ガンマ補正値とガンマ補正カーブの微分係数の逆数との関係を示す数式が予め与えられていてもよい。
【0022】
また、係数発生部44は、画像のそれぞれの画素の輝度値を受け取り、輝度値に基づいて、画像のそれぞれの画素に対する、ガンマ補正カーブの微分係数の逆数を生成してよい。例えば、係数発生部44は、画素の輝度値とガンマ補正カーブの微分係数の逆数とを関連づけて格納するメモリを有してよい。また、係数発生部44は、ガンマ補正値とガンマ補正カーブとの微分係数の逆数との関係を示す数式が予め与えられていてもよい。
【0023】
リミッタ42は、対応する画素の輝度値が、予め与えられた閾値より大きい場合、係数発生部44が生成したガンマ補正カーブの微分係数の逆数を、予め定められた値に置き換えて出力してよい。また、リミッタ42は、対応する画素の輝度値が、予め定められた閾値以下である場合、係数発生部44が生成したガンマ補正カーブの微分係数の逆数を出力する。補正係数生成部40は、リミッタ42が出力した値を、対応する画素に対する補正係数として出力する。
【0024】
また、リミッタ42は、係数発生部44が生成したガンマ補正カーブの微分係数の逆数が、予め定められた閾値より大きい場合、ガンマ補正カーブの微分係数の逆数を、予め定められた値に置き換えて出力してよい。この場合、リミッタ42は、係数発生部44が生成したガンマ補正カーブの微分係数の逆数が、予め定められた閾値以下である場合、係数発生部44が生成したガンマ補正カーブの微分係数の逆数を出力する。
【0025】
また、リミッタ42は、対応する画素に対するガンマ補正処理におけるガンマ補正値が、予め与えられた閾値より大きい場合、係数発生部44が生成したガンマ補正カーブの微分係数の逆数を、予め定められた値に置き換えて出力してよい。この場合、リミッタ42は、対応する画素に対するガンマ補正処理におけるガンマ補正値が、予め定められた閾値以下である場合、係数発生部44が生成したガンマ補正カーブの微分係数の逆数を出力する。
【0026】
輪郭画像生成部26は、輪郭抽出部24が抽出した輪郭部の画像のそれぞれの画素データに、それぞれの画素データに対応する補正係数を乗算した輪郭画像データを生成する。輪郭画像生成部26は、乗算回路を有してよい。ゲイン調整部28は、輪郭画像データに所望の係数を乗算する。ゲイン調整部28は、輪郭画像データのそれぞれの画素データに対して、予め定められた係数を乗算し、輪郭画像データのゲインを調整する。
【0027】
加算部30は、ガンマ補正部22においてガンマ補正処理された画像の画像データに、輪郭画像データを加算する。加算部30は、ガンマ補正処理された画像の画像データのそれぞれの画素データに対して、輪郭画像データの対応する画素のデータを加算する。
【0028】
図3は、画像処理装置の特性の一例を示す。図3は、図1において説明した画像処理装置90、及び図2において説明した画像処理装置20の特性を示す。図3において、横軸は与えられた画像の画素の輝度を示し、縦軸は画像におけるS/N比を示す。
【0029】
図3に示すように図1(a)及び図1(c)に示した画像処理装置90は、画素の輝度が60付近でS/N比が低下している。例えば、人物の画像データが与えられた場合、図1(a)に示した画像処理装置90は、人物の肌の領域でノイズが大きい画像を生成してしまう。また、図1(b)に示した画像処理装置90は、高輝度の領域でS/N比が低下している。このため、図1(b)に示した画像処理装置90は、高輝度の領域でノイズが大きい画像を生成してしまう。
【0030】
また、図1(c)に示した画像処理装置90は、輪郭データを加算した後にガンマ補正を行っているため、輪郭データの輝度値に応じて、輪郭補正の度合いが異なってしまう。このため、例えば画像のエッジ部において縁取り等が生じる。また、図1(b)に示した画像処理装置90では、与えられた画像から抽出した輪郭データを、ガンマ補正した画像データに加算しているため、画像のエッジ部を過剰に強調してしまう場合がある。
【0031】
図3に示すように、図2において説明した画像処理装置20は、高輝度の領域では、図1(b)に示した画像処理装置90より高いS/N比を示し、低輝度の領域では、図1(a)に示した画像処理装置90より高い同一のS/N比を示す。
【0032】
図2において説明した画像処理装置20は、リミッタ42で係数発生部44が生成した微分係数の逆数の値を制限するか否かを切り替えることにより、図1(b)に示した画像処理装置90が低いS/N比を示す輝度領域と、図1(a)に示した画像処理装置90が低いS/N比を示す輝度領域との両方の輝度領域において、高いS/N比を有する画像を生成することができる。図3に示す例においては、リミッタ42は、輝度150付近で制限するか否かを切り替えている。
【0033】
このため、図1において説明した画像処理装置20は、従来の画像処理装置より高いS/N比を有する画像を生成することができる。また、図2において説明した画像処理装置20は、高輝度の領域における画像のエッジ部の過度の強調を低減することができる。また、図2において説明した画像処理装置20は、画像のエッジ部における縁取りを低減することができる。
【0034】
図4は、撮像装置100の詳細な構成の一例を示す。撮像装置100は、撮像部10、撮像制御部150、システム制御部60、操作部110、格納部120、外部接続部130、及び画像処理装置20を備える。撮像部10、及び画像処理装置20は、図1に関連して説明した撮像部10、画像処理装置20と同一又は同様の機能を有する。
【0035】
撮像部10は、撮影レンズ部132、絞り134、シャッタ136、光学LPF138、CCD140、ファインダ148、及びストロボ144を有する。撮影レンズ部132は、被写体像を取り込んで処理を施す。撮影レンズ部132は、フォーカスレンズやズームレンズ等を含み、被写体像をCCD140の受光面上に結像する。絞り134は、撮影レンズ部132を通過した光を絞り、光学LPF138は、絞り134を通過した光に含まれる所定の波長より長い波長成分を通過させる。CCD140の各センサエレメントは、結像した被写体像の光量に応じ、電荷を蓄積する(以下その電荷を「蓄積電荷」という)。
【0036】
シャッタ136は、機械式シャッタであり、撮影レンズ部132を通過した光をCCD140に露光するか否かを制御する。また、撮像装置100は、シャッタ136に代えて電子シャッタ機能を有してもよい。電子シャッタ機能を実現するために、CCD140のセンサエレメントは、シャッタゲート及びシャッタドレインを有する。シャッタゲートを駆動することにより、蓄積電荷がシャッタドレインに掃き出される。シャッタゲートの制御により、各センサエレメントに電荷を蓄積する時間、即ちシャッタスピードを制御できる。CCD140において、蓄積電荷は、リードゲートパルスによってシフトレジスタに読み出され、レジスタ転送パルスによって電圧信号として順次読み出される。
【0037】
ファインダ148は、表示手段を有してもよく、後述のメインCPU62等からの各種情報をファインダ148内に表示してもよい。ストロボ144は、コンデンサに蓄えられたエネルギを放電する放電管37を有し、放電管37にエネルギが供給されたとき放電管37が発光することで機能する。
【0038】
撮像制御部150は、ズーム駆動部152、フォーカス駆動部154、絞り駆動部46、シャッタ駆動部48、それらを制御する撮像系CPU50、測距センサ52、及び測光センサ54を有する。ズーム駆動部152、フォーカス駆動部154、絞り駆動部46、及びシャッタ駆動部48は、それぞれステッピングモータ等の駆動手段を有し、撮像部10に含まれる機構部材を駆動する。後述のレリーズスイッチ114の押下に応じ、測距センサ52は被写体までの距離を測定し、測光センサ54は被写体輝度を測定する。そして、測距センサ52及び測光センサ54は、測定された被写体までの距離のデータ(以下単に「測距データ」という)及び被写体輝度のデータ(以下単に「測光データ」という)を、それぞれ撮像系CPU50に供給する。
【0039】
撮像系CPU50は、ユーザから指示されたズーム倍率等の撮影情報に基づき、ズーム駆動部152及びフォーカス駆動部154を制御して撮影レンズ部132のズーム倍率とピントの調整を行う。また、撮像系CPU50は、測距センサ52から受け取った測距データに基づいて、ズーム駆動部152及びフォーカス駆動部154を制御してズーム倍率及びピントの調整を行ってもよい。
【0040】
撮像系CPU50は、測光センサ54から受け取った測光データに基づいて、絞り値及びシャッタスピードを決定する。決定された値に従い、絞り駆動部46及びシャッタ駆動部48は、絞り134の絞り量及びシャッタ136の開閉をそれぞれ制御する。
【0041】
また、撮像系CPU50は、測光センサ54から受け取った測光データに基づいて、ストロボ144の発光を制御し、同時に絞り134の絞り量を調整する。ユーザが映像の取込を指示したとき、CCD140は電荷蓄積を開始し、測光データから計算されたシャッタ時間の経過後、蓄積電荷に基づく電子データを格納部120、又は画像処理装置20へ出力する。画像処理装置20は、電子データに対して、図2に関連して説明した画像処理を行い、生成した画像データを格納部120に格納する。
【0042】
システム制御部60は、メインCPU62、キャラクタ生成部84、タイマ86、及びクロック発生器88を有する。メインCPU62は、撮像装置100全体、特にシステム制御部60を制御する。メインCPU62は、シリアル通信等により、撮像系CPU50との間で必要な情報の受け渡しをする。本実施形態において、メインCPU62は、格納部120が格納した画像データを、外部装置に応じて選択する。
【0043】
クロック発生器88は、メインCPU62の動作クロックを発生し、メインCPU62に供給する。また、クロック発生器88は、撮像系CPU50及び表示部310の動作クロックを発生する。クロック発生器88は、メインCPU62、撮像系CPU50、及び表示部310に対してそれぞれ異なる周波数の動作クロックを供給してもよい。
【0044】
キャラクタ生成部84は、撮影日時、タイトル等の撮影画像に合成する文字情報や、図形情報を生成する。タイマ86は、例えば電池等でバックアップされ、常に時間をカウントし、当該カウント値に基づいて撮影画像の撮影日時に関する情報等の時刻情報をメインCPU62に供給する。タイマ86は、蓄電池から供給された電力により、デジタルカメラ本体の電源がオフである場合にも時間をカウントするのが望ましい。また、キャラクタ生成部84及びタイマ86は、メインCPU62に併設されることが好ましい。
【0045】
格納部120は、メモリ制御部64、不揮発性メモリ66、及びメインメモリ68を有する。メモリ制御部64は、不揮発性メモリ66とメインメモリ68とを制御する。不揮発性メモリ66は、EEPROM(電気的消去及びプログラム可能なROM)やFLASHメモリ等で構成され、ユーザによる設定情報や出荷時の調整値等、撮像装置100の電源がオフの間も保持すべきデータを格納する。不揮発性メモリ66は、メインCPU62のブートプログラムやシステムプログラム等を格納してもよい。
【0046】
メインメモリ68は、DRAMのように比較的安価で容量の大きなメモリで構成されることが好ましい。メインメモリ68は、撮像部10から出力されたデータを格納するフレームメモリとしての機能、各種プログラムをロードするシステムメモリとしての機能、その他ワークエリアとしての機能を有する。不揮発性メモリ66及びメインメモリ68は、システム制御部60内外の各部とバス82を介してデータのやりとりを行う。また、不揮発性メモリ66は、画像処理装置20が画像処理した画像データを格納する。
【0047】
画像処理装置20は、図2に関連して説明した画像処理装置20と同一又は同様の機能及び構成を有する。また、画像処理装置20は、図2に関連して説明した画像処理装置20の構成に加え、YC処理部、エンコーダ、及び圧縮伸張処理部を更に備える。また、外部接続部130は、オプション装置制御部74、及び通信I/F部80を有する。
【0048】
YC処理部70は、画像データにYC変換を施し、輝度信号Y、並びに色差(クロマ)信号B−Y及びR−Yを生成する。図2に関連して説明したガンマ補正部22は、輝度信号Yを画像データとして受け取り、画像処理装置20は輝度信号Yに基づいて、図2に関連して説明した画像処理を行う。メインメモリ68は、メモリ制御部64の制御に基づいて、輝度信号及び色差信号を格納する。メインメモリ68は、画像処理装置20が、図2に関連して説明した画像処理を行った画像データを、輝度信号として格納する。
【0049】
圧縮伸張処理部は、メインメモリ68から順次輝度信号と色差信号を読み出して圧縮する。そして、オプション装置76であるメモリカードは、圧縮された画像データ(以下単に「圧縮データ」という)を格納する。
【0050】
エンコーダは、輝度信号と色差信号を、ビデオ信号(NTSCやPAL信号)に変換して端子90から出力する。オプション装置76に記録された圧縮データからビデオ信号を生成する場合、圧縮データは、まずオプション装置制御部74を介して圧縮伸張処理部へ与えられる。続いて、圧縮伸張処理部で必要な伸張処理が施されたデータはエンコーダ72によってビデオ信号へ変換される。
【0051】
オプション装置制御部74は、オプション装置76が許容する信号仕様及びバス82のバス仕様に従い、バス82とオプション装置76との間で必要な信号の生成、論理変換、及び/又は電圧変換等を行う。
【0052】
撮像装置100は、オプション装置76として前述のメモリカードの他に、例えばPCMCIA準拠の標準的なI/Oカードをサポートしてもよい。その場合、オプション装置制御部74は、PCMCIA用バス制御LSI等で構成してもよい。
【0053】
通信I/F部80は、撮像装置100がサポートする通信仕様、たとえばUSB、RS−232C、イーサネット(登録商標)等の仕様に応じたプロトコル変換等の制御を行う。通信I/F部80は、圧縮データ又はデジタル画像データを、端子92を介して外部機器に出力してよい。通信I/F部80は、必要に応じてドライバICを含み、外部機器と端子92を介して通信する。通信I/F部80は、例えばプリンタ、カラオケ機、ゲーム機等の外部機器との間で独自のインターフェースによるデータ授受を行う構成としてもよい。
【0054】
表示部310は、LCDモニタ102、LCDパネル104、モニタドライバ106、及びパネルドライバ108を有する。モニタドライバ106は、LCDモニタ102を制御する。また、パネルドライバ108は、LCDパネル104を制御する。LCDモニタ102は、例えば2インチ程度の大きさでカメラ背面に設けられ、現在の撮影や再生のモード、撮影や再生のズーム倍率、電池残量、日時、モード設定のための画面、被写体画像等を表示する。LCDパネル104は例えば小さな白黒LCDでカメラ上面に設けられ、画質(FINE/NORMAL/BASIC等)、ストロボ発光/発光禁止、標準撮影可能枚数、画素数、電池容量/残量等の情報を表示する。
【0055】
操作部110は、パワースイッチ112、レリーズスイッチ114、機能設定部116、及びズームスイッチ118を有する。パワースイッチ112は、ユーザの指示に基づいて撮像装置100の電源をオン/オフする。レリーズスイッチ114は、半押しと全押しの二段階押し込み構造を有する。一例として、レリーズスイッチ114が半押しされることにより、撮像制御部150は、自動焦点調整及び自動露出調整を行い、全押しされることにより、撮像部10は、被写体像を取り込む。
【0056】
機能設定部116は、例えば回転式のモードダイヤルや十字キー等であって、「ファイルフォーマット」、「特殊効果」、「印画」、「決定/保存」、「表示切換」等の設定を受け付ける。ズームスイッチ118は、撮像部10が取得する被写体像のズーム倍率の設定を受け付ける。
【0057】
以上の構成による主な動作は以下のとおりである。まずパワースイッチ112が押下され、撮像装置100の各部に電力が供給される。メインCPU62は、機能設定部116の状態を読み込むことで、撮像装置100が撮影モードにあるか再生モードにあるかを判断する。
【0058】
撮像装置100が撮影モードの場合、メインCPU62は、レリーズスイッチ114の半押し状態を監視する。レリーズスイッチ114の半押し状態が検出されたとき、撮像系CPU50は、測光センサ54及び測距センサ52からそれぞれ測光データと測距データを得る。撮像制御部150は、撮像系CPU50が得た測光データ及び測距データに基づいて、撮像部10のピント、絞り等を調整する。調整が完了すると、LCDモニタは、「スタンバイ」等の文字を表示してユーザにその旨を伝える。
【0059】
続いて、メインCPU62は、レリーズスイッチ114の全押し状態を監視する。レリーズスイッチ114の全押し状態が検出されたとき、所定のシャッタ時間をおいてシャッタ136が閉じられ、CCD140の蓄積電荷が、画像処理装置20へ掃き出される。画像処理装置20による処理の結果生成された画像データはバス82へ出力される。画像データは一旦メインメモリ68へ格納される。
【0060】
一方、撮像装置100が再生モードの場合、メインCPU62は、出力するべき出力装置に応じた画像データを、格納部120から選択し、選択した画像データを出力装置に出力する。例えば、不揮発性メモリ66からLCDパネル104の特性に応じた画像データを読み出し、これを表示部310のLCDモニタ102へ表示する。
【0061】
この状態でユーザが機能設定部116にて「順送り」、「逆送り」を指示すると、メインCPU62は不揮発性メモリ66が格納した他の画像データを読み出し、これを表示部310のLCDパネル104へ表示する。
【0062】
本例において、画像処理装置20は、撮像装置100に含まれていたが、他の例においては、画像処理装置20は、画像を処理するコンピュータ、与えられた画像を印刷するプリンタ、画像を読み込むスキャナ等に含まれていてもよい。
【0063】
図5は、画像処理装置20としてのコンピュータ200の構成の一例を示す。コンピュータ200は、CPU700と、ROM702と、RAM704と、通信インターフェース706と、ハードディスクドライブ710と、FDディスクドライブ712と、CD−ROMドライブ716とを備える。CPU700は、ROM702、RAM704、ハードディスク710、FDディスク714、及び/又はCD−ROM718に格納されたプログラムに基づいて動作する。
【0064】
通信インターフェース706は、インターネット等を介して外部と通信する。格納装置の一例としてのハードディスクドライブ710は、設定情報及びCPU700が動作するプログラムを格納する。ROM702、RAM704、及び/又はハードディスクドライブ710は、コンピュータ200を図2に関連して説明した画像処理装置20として機能させるための画像処理プログラムを格納する。
【0065】
画像処理プログラムは、コンピュータ200を、画像に対してガンマ補正処理を行うガンマ補正部と、ガンマ補正処理された画像の輪郭部を抽出する輪郭抽出部と、ガンマ補正処理に基づく補正係数を生成する補正係数生成部と、輪郭部の画像データに、補正係数を乗算した輪郭画像データを生成する輪郭画像生成部と、ガンマ補正処理された画像の画像データに、輪郭画像データを加算する加算部として機能させる。例えば、画像処理プログラムは、CPU700を、図2に関連して説明したガンマ補正部22、輪郭抽出部24、輪郭画像生成部26、ゲイン調整部28、加算部30、及び補正係数生成部40として機能させる。
【0066】
フレキシブルディスクドライブ712はフレキシブルディスク714から画像データまたはプログラムを読み取りCPU700に提供する。CD−ROMドライブ716はCD−ROM718から画像データまたはプログラムを読み取りCPU700に提供する。通信インターフェース706は、インターネット10に接続してデータを送受信する。
【0067】
CPU700が実行するソフトウエアは、フレキシブルディスク714またはCD−ROM718等の記録媒体に格納されて利用者に提供される。記録媒体に格納されたソフトウエアは圧縮されていても非圧縮であっても良い。ソフトウエアは記録媒体からハードディスクドライブ710にインストールされ、RAM704に読み出されてCPU700により実行される。
【0068】
コンピュータ200は、画像処理を行う画像を、CD−ROM718、及び/又はFDディスク716から受け取ってよい。また、通信インターフェースを介して、外部から画像を受け取ってもよい。また、コンピュータ200は、ディジタルカメラにおいて画像を格納する記憶素子から、当該画像を読み込む手段を有してよい。
【0069】
また、画像処理プログラムは記録媒体から直接RAMに読み出されて実行されても、一旦ハードディスクドライブにインストールされた後にRAMに読み出されて実行されても良い。更に、上記プログラムは単一の記録媒体に格納されても複数の記録媒体に格納されても良い。また記録媒体に格納される画像処理プログラムは、オペレーティングシステムとの共同によってそれぞれの機能を提供してもよい。例えば、画像処理プログラムは、機能の一部または全部を行うことをオペレーティングシステムに依頼し、オペレーティングシステムからの応答に基づいて機能を提供するものであってもよい。
【0070】
画像処理プログラムを格納する記録媒体としては、フレキシブルディスク、CD−ROMの他にも、DVD、PD等の光学記録媒体、MD等の光磁気記録媒体、テープ媒体、磁気記録媒体、ICカードやミニチュアーカードなどの半導体メモリー等を用いることができる。又、専用通信ネットワークやインターネットに接続されたサーバシステムに設けたハードディスクまたはRAM等の格納装置を記録媒体として使用してもよい。本例におけるコンピュータ200によれば、画像処理装置20と同様に、ガンマ補正処理及び輪郭補正処理を行い、且つノイズの小さい画像を生成することができる。
【0071】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されない。上記実施形態に、多様な変更または改良を加えることができる。そのような変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【0072】
【発明の効果】
上記説明から明らかなように、本発明によれば、ガンマ補正処理及び輪郭補正処理を行い、且つノイズの小さい画像を生成することができる。
【図面の簡単な説明】
【図1】 従来の画像処理装置90の構成の一例を示す図である。(a)〜(c)は、画像処理装置90の一例を示す。
【図2】 本発明に係る画像処理装置20を有する撮像装置100の構成の一例を示す図である。
【図3】 画像処理装置の特性の一例を示す図である。
【図4】 撮像装置100の詳細な構成の一例を示す図である。
【図5】 画像処理装置20としてのコンピュータ200の構成の一例を示す。
【符号の説明】
10・・・撮像部、20・・・画像処理装置、22・・・ガンマ補正部、24・・・輪郭抽出部、26・・・輪郭画像生成部、28・・・ゲイン調整部、30・・・加算部、40・・・補正係数生成部、42・・・リミッタ、44・・・係数発生部、60・・・システム制御部、90・・・画像処理装置、100・・・撮像装置、110・・・操作部、120・・・格納部、130・・・外部接続部、150・・・撮像制御部、200・・・コンピュータ、310・・・表示部
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image processing apparatus that performs image processing on a given image. In particular, the present invention relates to an image processing apparatus that performs contour correction on a given image.
[0002]
[Prior art]
Conventionally, when contour correction is performed on a given image, gamma conversion is performed on the given image and then contour correction is performed, or contour correction is performed on the given image and then gamma correction is performed. Had gone. Such a method has a drawback that the gain in a region where the signal level of a given image is low is large, and noise in a dark part of the image is greatly noticeable. In addition, since the gain is uniformly applied to the luminance of the image, the effect of contour correction in a bright part has deteriorated.
[0003]
For example, as a conventional image processing apparatus, a contour compensation circuit disclosed in Japanese Patent Laid-Open No. 55-92083 and a video signal processing circuit disclosed in Japanese Patent Laid-Open No. 63-209373 are known. The former contour compensation circuit generates a contour correction signal based on the video signal extracted from the previous stage of the gamma correction circuit and performs contour compensation by superimposing the contour correction signal on the video signal gamma corrected by the gamma correction circuit. Yes. In the latter video signal processing circuit, contour correction means for performing contour correction processing on the video input signal, gamma correction means for performing gamma correction processing on the video input signal, and video output signals from the contour correction means and the gamma correction means. And adding means for adding each other.
[0004]
[Problems to be solved by the invention]
However, in the former contour compensation circuit, since the contour correction signal is generated based on the image after the gamma correction, there is a drawback that noise in the dark part of the image is noticeable. Further, the latter video signal processing circuit has a drawback that excessive edge enhancement is involved in a bright part.
[0005]
SUMMARY An advantage of some aspects of the invention is that it provides an image processing apparatus that can solve the above-described problems. This object is achieved by a combination of features described in the independent claims. The dependent claims define further advantageous specific examples of the present invention.
[0006]
[Means for Solving the Problems]
That is, according to the first aspect of the present invention, an image processing apparatus that performs image processing on a given image, the gamma correction unit that performs gamma correction processing on the image, and the contour portion of the image that has been subjected to gamma correction processing A contour extraction unit that extracts a correction coefficient, a correction coefficient generation unit that generates a correction coefficient based on gamma correction processing, a contour image generation unit that generates contour image data obtained by multiplying the image data of the contour by a correction coefficient, and gamma correction There is provided an image processing apparatus comprising an adding unit that adds contour image data to image data of a processed image.
[0007]
The correction coefficient generation unit preferably generates a correction coefficient based on the reciprocal of the differential coefficient in the luminance value of each pixel of the gamma correction curve in the gamma correction process for each pixel of the image. The correction coefficient generation unit may replace the correction coefficient value with a predetermined value when the luminance value of the pixel is larger than a predetermined threshold value.
[0008]
The correction coefficient generation unit may replace the value of the correction coefficient with a predetermined value when the generated correction coefficient is larger than a predetermined threshold. In addition, the correction coefficient generation unit may replace the correction coefficient value with a predetermined value when the correction value in the gamma correction processing is larger than a predetermined threshold value.
[0009]
According to a second aspect of the present invention, there is provided a program for causing a computer to perform image processing, wherein the computer extracts a gamma correction unit that performs gamma correction processing on the image and a contour portion of the image subjected to gamma correction processing. A contour extraction unit, a correction coefficient generation unit that generates a correction coefficient based on gamma correction processing, a contour image generation unit that generates contour image data obtained by multiplying the image data of the contour portion by a correction coefficient, and gamma correction processing A program is provided that functions as an adding unit that adds contour image data to image data of an image.
[0010]
The above summary of the invention does not enumerate all the necessary features of the present invention, and sub-combinations of these feature groups can also be the invention.
[0011]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, the present invention will be described through embodiments of the invention. However, the following embodiments do not limit the invention according to the claims, and all combinations of features described in the embodiments are included. It is not necessarily essential for the solution of the invention.
[0012]
FIG. 1 shows an example of the configuration of a conventional image processing apparatus 90. FIG. 1A, FIG. 1B, and FIG. 1C each show an example of the image processing apparatus 90. The image processing apparatus 90 illustrated in FIGS. 1A, 1 </ b> B, and 1 </ b> C includes a gamma correction unit 102, a contour extraction unit 106, and an addition unit 104. The image processing apparatus 90 shown in FIG. 1A extracts contour data from the image data subjected to gamma correction. Further, the extracted contour data is added to the image data subjected to gamma correction.
[0013]
The image processing apparatus 90 shown in FIG. 1B extracts contour data from the given image data. Further, the extracted contour data is added to the image data subjected to gamma correction.
[0014]
The image processing device 90 shown in FIG. 1C extracts contour data from given image data, and adds the extracted contour data to the given image data to perform contour correction. Also, gamma correction is performed on the image data that has undergone contour correction.
[0015]
FIG. 2 shows an example of the configuration of the imaging apparatus 100 having the image processing apparatus 20 according to the present invention. As an example, the imaging apparatus 100 may be a digital still camera that captures a still image of a subject, or may be a digital video camera that captures a moving image of a subject. The imaging device 100 includes an imaging unit 10 and an image processing device 20. The imaging unit 10 captures an image of a subject and gives the captured image to the image processing device 20.
[0016]
The image processing device 20 performs image processing on the given image. The image processing apparatus 20 includes a gamma correction unit 22, a contour extraction unit 24, a correction coefficient generation unit 40, a contour image generation unit 26, a gain adjustment unit 28, and an addition unit 30.
[0017]
The gamma correction unit 22 performs gamma correction processing on the given image. The gamma correction unit 22 converts the luminance value of each pixel of the given image into a value based on the luminance value. The gamma correction unit 22 may have a desired gamma correction curve. Here, the gamma correction curve indicates a relationship between a value input to the gamma correction unit 22 and a value output from the gamma correction unit 22.
[0018]
The gamma correction unit 22 may include a table that stores the luminance values of the pixels and the gamma correction values corresponding to the respective luminance values in association with each other. In this case, the gamma correction unit 22 outputs a gamma correction value corresponding to the luminance value of each pixel. Further, the gamma correction unit 22 may be given in advance a mathematical expression indicating the relationship between the luminance value of the pixel and the gamma correction value. In this case, the gamma correction unit 22 outputs a gamma correction value based on the formula and the luminance value of the pixel.
[0019]
The contour extracting unit 24 extracts a contour portion of the image subjected to the gamma correction process. The contour extraction unit 24 may include a filter. For example, the filter may extract a contour portion of the image by extracting a component whose spatial frequency is lower than a predetermined frequency in the image subjected to the gamma correction processing.
[0020]
The correction coefficient generation unit 40 generates a correction coefficient based on gamma correction processing for each pixel of the image. The correction coefficient generation unit 40 includes a limiter 42 and a coefficient generation unit 44. The correction coefficient generation unit 40 generates, for each pixel of a given image, a correction coefficient based on the reciprocal of the differential coefficient in the luminance value of each pixel of the gamma correction curve in the gamma correction process. In this example, the coefficient generator 44 generates, for each pixel of a given image, the reciprocal of the differential coefficient in the luminance value of each pixel of the gamma correction curve in the gamma correction processing, and the limiter 42 A value obtained by limiting the reciprocal value of the differential coefficient generated by the coefficient generator 44 is output as a correction coefficient.
[0021]
The coefficient generation unit 44 may receive a gamma correction value for each pixel of the image, and generate a reciprocal of a differential coefficient of the gamma correction curve for each pixel of the image based on the gamma correction value. For example, the coefficient generation unit 44 may include a memory that stores the gamma correction value and the inverse of the differential coefficient of the gamma correction curve in association with each other. In addition, the coefficient generation unit 44 may be given in advance a mathematical expression indicating the relationship between the gamma correction value and the reciprocal of the differential coefficient of the gamma correction curve.
[0022]
Further, the coefficient generation unit 44 may receive the luminance value of each pixel of the image, and generate the reciprocal of the differential coefficient of the gamma correction curve for each pixel of the image based on the luminance value. For example, the coefficient generation unit 44 may include a memory that stores the luminance value of the pixel and the inverse of the differential coefficient of the gamma correction curve in association with each other. In addition, the coefficient generation unit 44 may be given in advance a mathematical expression indicating the relationship between the gamma correction value and the reciprocal of the differential coefficient between the gamma correction curve.
[0023]
When the luminance value of the corresponding pixel is larger than a predetermined threshold, the limiter 42 may output the reciprocal of the differential coefficient of the gamma correction curve generated by the coefficient generation unit 44 by replacing it with a predetermined value. . Further, the limiter 42 outputs the reciprocal of the differential coefficient of the gamma correction curve generated by the coefficient generator 44 when the luminance value of the corresponding pixel is equal to or less than a predetermined threshold value. The correction coefficient generation unit 40 outputs the value output from the limiter 42 as a correction coefficient for the corresponding pixel.
[0024]
The limiter 42 replaces the reciprocal of the differential coefficient of the gamma correction curve with a predetermined value when the reciprocal of the differential coefficient of the gamma correction curve generated by the coefficient generating unit 44 is larger than a predetermined threshold. You may output. In this case, the limiter 42 calculates the reciprocal of the differential coefficient of the gamma correction curve generated by the coefficient generator 44 when the reciprocal of the differential coefficient of the gamma correction curve generated by the coefficient generator 44 is equal to or less than a predetermined threshold. Output.
[0025]
Further, when the gamma correction value in the gamma correction processing for the corresponding pixel is larger than a predetermined threshold, the limiter 42 sets a reciprocal of the differential coefficient of the gamma correction curve generated by the coefficient generation unit 44 to a predetermined value. You may replace it with In this case, the limiter 42 outputs the reciprocal of the differential coefficient of the gamma correction curve generated by the coefficient generation unit 44 when the gamma correction value in the gamma correction processing for the corresponding pixel is equal to or less than a predetermined threshold.
[0026]
The contour image generation unit 26 generates contour image data obtained by multiplying each pixel data of the contour image extracted by the contour extraction unit 24 by a correction coefficient corresponding to each pixel data. The contour image generation unit 26 may include a multiplication circuit. The gain adjusting unit 28 multiplies the contour image data by a desired coefficient. The gain adjustment unit 28 adjusts the gain of the contour image data by multiplying each pixel data of the contour image data by a predetermined coefficient.
[0027]
The adder 30 adds the contour image data to the image data of the image subjected to the gamma correction processing by the gamma correction unit 22. The adding unit 30 adds the pixel data corresponding to the contour image data to each pixel data of the image data of the image subjected to the gamma correction processing.
[0028]
FIG. 3 shows an example of the characteristics of the image processing apparatus. FIG. 3 shows the characteristics of the image processing apparatus 90 described in FIG. 1 and the image processing apparatus 20 described in FIG. In FIG. 3, the horizontal axis indicates the luminance of a pixel of a given image, and the vertical axis indicates the S / N ratio in the image.
[0029]
As shown in FIG. 3, in the image processing apparatus 90 shown in FIGS. 1A and 1C, the S / N ratio is lowered when the luminance of the pixel is around 60. For example, when image data of a person is given, the image processing apparatus 90 shown in FIG. 1A generates an image with large noise in the skin area of the person. In the image processing apparatus 90 shown in FIG. 1B, the S / N ratio is lowered in a high luminance region. For this reason, the image processing apparatus 90 illustrated in FIG. 1B generates an image with high noise in a high luminance region.
[0030]
In addition, since the image processing apparatus 90 shown in FIG. 1C performs gamma correction after adding the contour data, the degree of contour correction differs depending on the brightness value of the contour data. For this reason, for example, bordering or the like occurs at the edge portion of the image. Further, in the image processing apparatus 90 shown in FIG. 1B, the contour data extracted from the given image is added to the gamma-corrected image data, so that the edge portion of the image is excessively emphasized. There is a case.
[0031]
As shown in FIG. 3, the image processing apparatus 20 described in FIG. 2 shows a higher S / N ratio than the image processing apparatus 90 shown in FIG. 1B in the high luminance area, and in the low luminance area. The same S / N ratio is higher than that of the image processing apparatus 90 shown in FIG.
[0032]
The image processing apparatus 20 described with reference to FIG. 2 switches the image processing apparatus 90 shown in FIG. 1B by switching whether or not to limit the reciprocal value of the differential coefficient generated by the coefficient generation unit 44 by the limiter 42. An image having a high S / N ratio in both the luminance region where the luminance region shows a low S / N ratio and the luminance region where the image processing apparatus 90 shown in FIG. 1A shows a low S / N ratio. Can be generated. In the example shown in FIG. 3, the limiter 42 switches whether or not to limit the brightness around 150.
[0033]
For this reason, the image processing apparatus 20 described in FIG. 1 can generate an image having a higher S / N ratio than the conventional image processing apparatus. In addition, the image processing apparatus 20 described with reference to FIG. 2 can reduce excessive enhancement of an edge portion of an image in a high luminance region. In addition, the image processing apparatus 20 described with reference to FIG. 2 can reduce the edging at the edge portion of the image.
[0034]
FIG. 4 shows an example of a detailed configuration of the imaging apparatus 100. The imaging device 100 includes an imaging unit 10, an imaging control unit 150, a system control unit 60, an operation unit 110, a storage unit 120, an external connection unit 130, and the image processing device 20. The imaging unit 10 and the image processing device 20 have the same or similar functions as the imaging unit 10 and the image processing device 20 described with reference to FIG.
[0035]
The imaging unit 10 includes a photographing lens unit 132, a diaphragm 134, a shutter 136, an optical LPF 138, a CCD 140, a finder 148, and a strobe 144. The photographic lens unit 132 captures a subject image and performs processing. The taking lens unit 132 includes a focus lens, a zoom lens, and the like, and forms a subject image on the light receiving surface of the CCD 140. The stop 134 stops the light that has passed through the photographing lens unit 132, and the optical LPF 138 passes a wavelength component that is longer than a predetermined wavelength included in the light that has passed through the stop 134. Each sensor element of the CCD 140 accumulates charges according to the amount of light of the imaged subject image (hereinafter, the charges are referred to as “accumulated charges”).
[0036]
The shutter 136 is a mechanical shutter and controls whether or not the light having passed through the photographing lens unit 132 is exposed to the CCD 140. Further, the imaging apparatus 100 may have an electronic shutter function instead of the shutter 136. In order to realize the electronic shutter function, the sensor element of the CCD 140 has a shutter gate and a shutter drain. By driving the shutter gate, the accumulated charge is swept out to the shutter drain. By controlling the shutter gate, the time for accumulating charges in each sensor element, that is, the shutter speed can be controlled. In the CCD 140, the accumulated charge is read to the shift register by a read gate pulse and sequentially read as a voltage signal by a register transfer pulse.
[0037]
The finder 148 may include a display unit, and may display various information from the main CPU 62 and the like described later in the finder 148. The strobe 144 has a discharge tube 37 that discharges the energy stored in the capacitor, and functions when the discharge tube 37 emits light when energy is supplied to the discharge tube 37.
[0038]
The imaging control unit 150 includes a zoom driving unit 152, a focus driving unit 154, an aperture driving unit 46, a shutter driving unit 48, an imaging system CPU 50 that controls them, a distance measuring sensor 52, and a photometric sensor 54. The zoom driving unit 152, the focus driving unit 154, the aperture driving unit 46, and the shutter driving unit 48 each have driving means such as a stepping motor, and drive a mechanism member included in the imaging unit 10. In response to pressing of a release switch 114 described later, the distance measuring sensor 52 measures the distance to the subject, and the photometric sensor 54 measures the subject brightness. The distance measuring sensor 52 and the photometric sensor 54 respectively measure the measured distance to the subject (hereinafter simply referred to as “distance data”) and the subject luminance data (hereinafter simply referred to as “photometric data”). It supplies to CPU50.
[0039]
The imaging system CPU 50 adjusts the zoom magnification and focus of the photographing lens unit 132 by controlling the zoom driving unit 152 and the focus driving unit 154 based on the photographing information such as the zoom magnification designated by the user. Further, the imaging system CPU 50 may adjust the zoom magnification and focus by controlling the zoom driving unit 152 and the focus driving unit 154 based on the distance measurement data received from the distance measuring sensor 52.
[0040]
The imaging system CPU 50 determines the aperture value and the shutter speed based on the photometric data received from the photometric sensor 54. According to the determined value, the aperture driving unit 46 and the shutter driving unit 48 respectively control the aperture amount of the aperture 134 and the opening / closing of the shutter 136.
[0041]
Further, the imaging system CPU 50 controls the light emission of the strobe 144 based on the photometric data received from the photometric sensor 54 and adjusts the aperture amount of the aperture 134 at the same time. When the user instructs to capture an image, the CCD 140 starts accumulating charges, and outputs electronic data based on the accumulated charges to the storage unit 120 or the image processing apparatus 20 after the shutter time calculated from the photometric data has elapsed. . The image processing apparatus 20 performs the image processing described with reference to FIG. 2 on the electronic data, and stores the generated image data in the storage unit 120.
[0042]
The system control unit 60 includes a main CPU 62, a character generation unit 84, a timer 86, and a clock generator 88. The main CPU 62 controls the entire imaging apparatus 100, particularly the system control unit 60. The main CPU 62 exchanges necessary information with the imaging CPU 50 by serial communication or the like. In the present embodiment, the main CPU 62 selects the image data stored in the storage unit 120 according to the external device.
[0043]
The clock generator 88 generates an operation clock for the main CPU 62 and supplies it to the main CPU 62. The clock generator 88 generates an operation clock for the imaging system CPU 50 and the display unit 310. The clock generator 88 may supply operation clocks having different frequencies to the main CPU 62, the imaging system CPU 50, and the display unit 310, respectively.
[0044]
The character generation unit 84 generates character information and graphic information to be combined with a captured image such as a shooting date and time and a title. The timer 86 is backed up by a battery or the like, for example, always counts time, and supplies time information such as information related to the shooting date and time of the shot image to the main CPU 62 based on the count value. It is desirable that the timer 86 counts the time even when the power source of the digital camera body is off by the power supplied from the storage battery. The character generation unit 84 and the timer 86 are preferably provided in the main CPU 62.
[0045]
The storage unit 120 includes a memory control unit 64, a nonvolatile memory 66, and a main memory 68. The memory control unit 64 controls the nonvolatile memory 66 and the main memory 68. The nonvolatile memory 66 is composed of an EEPROM (electrically erasable and programmable ROM), a FLASH memory, or the like, and should be retained even when the power of the imaging apparatus 100 is turned off, such as setting information and adjustment values at the time of shipment. Store the data. The nonvolatile memory 66 may store a boot program, a system program, and the like for the main CPU 62.
[0046]
The main memory 68 is preferably composed of a relatively inexpensive memory having a large capacity, such as a DRAM. The main memory 68 has a function as a frame memory for storing data output from the imaging unit 10, a function as a system memory for loading various programs, and other functions as a work area. The nonvolatile memory 66 and the main memory 68 exchange data with each unit inside and outside the system control unit 60 via the bus 82. The nonvolatile memory 66 stores image data that has been subjected to image processing by the image processing apparatus 20.
[0047]
The image processing apparatus 20 has the same or similar function and configuration as the image processing apparatus 20 described with reference to FIG. The image processing apparatus 20 further includes a YC processing unit, an encoder, and a compression / decompression processing unit in addition to the configuration of the image processing apparatus 20 described with reference to FIG. The external connection unit 130 includes an optional device control unit 74 and a communication I / F unit 80.
[0048]
The YC processing unit 70 performs YC conversion on the image data, and generates a luminance signal Y and color difference (chroma) signals BY and RY. The gamma correction unit 22 described with reference to FIG. 2 receives the luminance signal Y as image data, and the image processing device 20 performs the image processing described with reference to FIG. The main memory 68 stores the luminance signal and the color difference signal based on the control of the memory control unit 64. The main memory 68 stores, as a luminance signal, image data on which the image processing apparatus 20 has performed the image processing described with reference to FIG.
[0049]
The compression / decompression processor sequentially reads out the luminance signal and the color difference signal from the main memory 68 and compresses them. The memory card which is the optional device 76 stores compressed image data (hereinafter simply referred to as “compressed data”).
[0050]
The encoder converts the luminance signal and the color difference signal into a video signal (NTSC or PAL signal) and outputs it from the terminal 90. When a video signal is generated from the compressed data recorded in the option device 76, the compressed data is first supplied to the compression / decompression processing unit via the option device control unit 74. Subsequently, the data that has undergone the necessary decompression processing in the compression / decompression processing unit is converted into a video signal by the encoder 72.
[0051]
The optional device control unit 74 performs necessary signal generation, logical conversion, and / or voltage conversion between the bus 82 and the optional device 76 in accordance with the signal specifications allowed by the optional device 76 and the bus specifications of the bus 82. .
[0052]
The imaging apparatus 100 may support a standard I / O card conforming to PCMCIA, for example, in addition to the memory card described above as the optional device 76. In this case, the option device control unit 74 may be configured by a PCMCIA bus control LSI or the like.
[0053]
The communication I / F unit 80 performs control such as protocol conversion according to communication specifications supported by the imaging apparatus 100, such as USB, RS-232C, Ethernet (registered trademark), and the like. The communication I / F unit 80 may output the compressed data or digital image data to an external device via the terminal 92. The communication I / F unit 80 includes a driver IC as necessary, and communicates with an external device via a terminal 92. The communication I / F unit 80 may be configured to exchange data with an external interface such as a printer, a karaoke machine, or a game machine.
[0054]
The display unit 310 includes an LCD monitor 102, an LCD panel 104, a monitor driver 106, and a panel driver 108. The monitor driver 106 controls the LCD monitor 102. The panel driver 108 controls the LCD panel 104. The LCD monitor 102 is provided on the rear side of the camera with a size of about 2 inches, for example, and the current shooting / playback mode, zoom magnification for shooting / playback, battery level, date / time, mode setting screen, subject image, etc. Is displayed. The LCD panel 104 is a small black-and-white LCD provided on the upper surface of the camera, for example, and displays information such as image quality (FINE / NORMAL / BASIC, etc.), strobe emission / prohibition, standard number of shoots, number of pixels, battery capacity / remaining capacity, etc. .
[0055]
The operation unit 110 includes a power switch 112, a release switch 114, a function setting unit 116, and a zoom switch 118. The power switch 112 turns on / off the power of the imaging apparatus 100 based on a user instruction. The release switch 114 has a two-stage pushing structure of half-pressing and full-pressing. As an example, when the release switch 114 is pressed halfway, the imaging control unit 150 performs automatic focus adjustment and automatic exposure adjustment, and when fully pressed, the imaging unit 10 captures a subject image.
[0056]
The function setting unit 116 is, for example, a rotary mode dial or a cross key, and accepts settings such as “file format”, “special effect”, “print”, “decision / save”, “display switching”, and the like. The zoom switch 118 accepts the setting of the zoom magnification of the subject image acquired by the imaging unit 10.
[0057]
The main operation of the above configuration is as follows. First, the power switch 112 is pressed, and power is supplied to each unit of the imaging apparatus 100. The main CPU 62 reads the state of the function setting unit 116 to determine whether the imaging apparatus 100 is in the shooting mode or the playback mode.
[0058]
When the imaging apparatus 100 is in the shooting mode, the main CPU 62 monitors the half-pressed state of the release switch 114. When the half-pressed state of the release switch 114 is detected, the imaging system CPU 50 obtains photometry data and distance measurement data from the photometry sensor 54 and the distance measurement sensor 52, respectively. The imaging control unit 150 adjusts the focus, aperture, and the like of the imaging unit 10 based on the photometry data and the distance measurement data obtained by the imaging system CPU 50. When the adjustment is completed, the LCD monitor displays characters such as “standby” to inform the user accordingly.
[0059]
Subsequently, the main CPU 62 monitors the fully pressed state of the release switch 114. When the fully depressed state of the release switch 114 is detected, the shutter 136 is closed after a predetermined shutter time, and the accumulated charge in the CCD 140 is swept out to the image processing apparatus 20. Image data generated as a result of processing by the image processing apparatus 20 is output to the bus 82. The image data is temporarily stored in the main memory 68.
[0060]
On the other hand, when the imaging device 100 is in the playback mode, the main CPU 62 selects image data corresponding to the output device to be output from the storage unit 120 and outputs the selected image data to the output device. For example, image data corresponding to the characteristics of the LCD panel 104 is read from the nonvolatile memory 66 and displayed on the LCD monitor 102 of the display unit 310.
[0061]
In this state, when the user instructs “forward” and “reverse” in the function setting unit 116, the main CPU 62 reads out other image data stored in the nonvolatile memory 66 and sends it to the LCD panel 104 of the display unit 310. indicate.
[0062]
In this example, the image processing apparatus 20 is included in the imaging apparatus 100. In another example, the image processing apparatus 20 includes a computer that processes an image, a printer that prints a given image, and reads an image. It may be included in a scanner or the like.
[0063]
FIG. 5 shows an example of the configuration of a computer 200 as the image processing apparatus 20. The computer 200 includes a CPU 700, a ROM 702, a RAM 704, a communication interface 706, a hard disk drive 710, an FD disk drive 712, and a CD-ROM drive 716. The CPU 700 operates based on programs stored in the ROM 702, the RAM 704, the hard disk 710, the FD disk 714, and / or the CD-ROM 718.
[0064]
The communication interface 706 communicates with the outside via the Internet or the like. A hard disk drive 710 as an example of a storage device stores setting information and a program on which the CPU 700 operates. The ROM 702, the RAM 704, and / or the hard disk drive 710 store an image processing program for causing the computer 200 to function as the image processing apparatus 20 described with reference to FIG.
[0065]
The image processing program generates a correction coefficient based on a gamma correction unit that performs a gamma correction process on the image, a contour extraction unit that extracts a contour part of the image subjected to the gamma correction process, and a gamma correction process. As a correction coefficient generation unit, a contour image generation unit that generates contour image data obtained by multiplying the image data of the contour part by a correction coefficient, and an addition unit that adds the contour image data to the image data of the image subjected to the gamma correction processing Make it work. For example, the image processing program causes the CPU 700 to serve as the gamma correction unit 22, the contour extraction unit 24, the contour image generation unit 26, the gain adjustment unit 28, the addition unit 30, and the correction coefficient generation unit 40 described with reference to FIG. Make it work.
[0066]
The flexible disk drive 712 reads image data or a program from the flexible disk 714 and provides it to the CPU 700. The CD-ROM drive 716 reads image data or a program from the CD-ROM 718 and provides it to the CPU 700. The communication interface 706 connects to the Internet 10 and transmits / receives data.
[0067]
Software executed by the CPU 700 is stored in a recording medium such as the flexible disk 714 or the CD-ROM 718 and provided to the user. Software stored in the recording medium may be compressed or uncompressed. The software is installed in the hard disk drive 710 from the recording medium, read into the RAM 704, and executed by the CPU 700.
[0068]
The computer 200 may receive an image for image processing from the CD-ROM 718 and / or the FD disk 716. Further, an image may be received from the outside via a communication interface. The computer 200 may have means for reading the image from a storage element that stores the image in the digital camera.
[0069]
Further, the image processing program may be directly read from the recording medium into the RAM and executed, or once installed in the hard disk drive, may be read into the RAM and executed. Further, the program may be stored in a single recording medium or a plurality of recording media. The image processing program stored in the recording medium may provide each function in cooperation with the operating system. For example, the image processing program may request the operating system to perform part or all of the function and provide the function based on a response from the operating system.
[0070]
Recording media for storing image processing programs include flexible disks and CD-ROMs, optical recording media such as DVDs and PDs, magneto-optical recording media such as MDs, tape media, magnetic recording media, IC cards and miniatures. A semiconductor memory such as an arc card can be used. A storage device such as a hard disk or a RAM provided in a server system connected to a dedicated communication network or the Internet may be used as a recording medium. According to the computer 200 in this example, similarly to the image processing apparatus 20, it is possible to perform gamma correction processing and contour correction processing and generate an image with low noise.
[0071]
As mentioned above, although this invention was demonstrated using embodiment, the technical scope of this invention is not limited to the range as described in the said embodiment. Various modifications or improvements can be added to the above embodiment. It is apparent from the scope of the claims that the embodiments added with such changes or improvements can be included in the technical scope of the present invention.
[0072]
【The invention's effect】
As is apparent from the above description, according to the present invention, it is possible to perform gamma correction processing and contour correction processing and generate an image with low noise.
[Brief description of the drawings]
FIG. 1 is a diagram illustrating an example of a configuration of a conventional image processing apparatus 90. FIG. (A)-(c) shows an example of the image processing apparatus 90. FIG.
FIG. 2 is a diagram illustrating an example of a configuration of an imaging apparatus 100 having an image processing apparatus 20 according to the present invention.
FIG. 3 is a diagram illustrating an example of characteristics of the image processing apparatus.
4 is a diagram illustrating an example of a detailed configuration of an imaging apparatus 100. FIG.
5 shows an exemplary configuration of a computer 200 as the image processing apparatus 20. FIG.
[Explanation of symbols]
DESCRIPTION OF SYMBOLS 10 ... Imaging part, 20 ... Image processing apparatus, 22 ... Gamma correction part, 24 ... Contour extraction part, 26 ... Contour image generation part, 28 ... Gain adjustment part, 30. ..Addition unit 40... Correction coefficient generation unit 42. Limiter 44. Coefficient generation unit 60. System control unit 90. , 110 ... operation unit, 120 ... storage unit, 130 ... external connection unit, 150 ... imaging control unit, 200 ... computer, 310 ... display unit

Claims (8)

与えられた画像を画像処理する画像処理装置であって、
前記画像に対してガンマ補正処理を行うガンマ補正部と、
前記ガンマ補正処理された前記画像の輪郭部を抽出する輪郭抽出部と、
与えられた前記画像のそれぞれの画素に対して、前記ガンマ補正処理におけるガンマ補正カーブの、それぞれの前記画素の輝度値における微分係数の逆数を生成する係数発生部と、
前記係数発生部が生成した前記微分係数の逆数を補正係数として出力するリミッタと、
前記輪郭部の画像データに、前記補正係数を乗算した輪郭画像データを生成する輪郭画像生成部と、
前記ガンマ補正処理された前記画像の画像データに、前記輪郭画像データを加算する加算部と
を備え、
前記リミッタは、それぞれの前記画素の輝度値が閾値より大きい場合に、前記微分係数の逆数を前記補正係数に置き換えて出力する画像処理装置。
An image processing apparatus that performs image processing on a given image,
A gamma correction unit for performing gamma correction processing on the image;
A contour extracting unit that extracts a contour of the image subjected to the gamma correction processing;
A coefficient generator for generating a reciprocal of a differential coefficient in a luminance value of each pixel of a gamma correction curve in the gamma correction process for each pixel of the given image;
A limiter that outputs a reciprocal of the differential coefficient generated by the coefficient generator as a correction coefficient;
A contour image generator for generating contour image data obtained by multiplying the image data of the contour by the correction coefficient;
An adder for adding the contour image data to the image data of the image subjected to the gamma correction processing,
The limiter replaces the reciprocal of the differential coefficient with the correction coefficient when the luminance value of each pixel is greater than a threshold value, and outputs the image.
前記輪郭画像データのゲインを調整するゲイン調整部をさらに備え、
前記加算部は、前記ガンマ補正処理された前記画像の画像データに、前記ゲイン調整部によりゲインが調整された前記輪郭画像データを加算する
請求項1に記載の画像処理装置。
A gain adjusting unit for adjusting the gain of the contour image data;
The image processing apparatus according to claim 1, wherein the adding unit adds the contour image data, the gain of which has been adjusted by the gain adjusting unit, to the image data of the image that has been subjected to the gamma correction processing.
静止画像または動画像を撮像する撮像装置であって、
画像を撮像する撮像部と、
前記画像に対してガンマ補正処理を行うガンマ補正部と、
前記ガンマ補正処理された前記画像の輪郭部を抽出する輪郭抽出部と、
与えられた前記画像のそれぞれの画素に対して、前記ガンマ補正処理におけるガンマ補正カーブの、それぞれの前記画素の輝度値における微分係数の逆数を生成する係数発生部と、
前記係数発生部が生成した前記微分係数の逆数を補正係数として出力するリミッタと、
前記輪郭部の画像データに、前記補正係数を乗算した輪郭画像データを生成する輪郭画像生成部と、
前記ガンマ補正処理された前記画像の画像データに、前記輪郭画像データを加算する加算部と
を備え、
前記リミッタは、それぞれの前記画素の輝度値が閾値より大きい場合に、前記微分係数の逆数を前記補正係数に置き換えて出力する撮像装置。
An imaging device that captures still images or moving images,
An imaging unit that captures an image;
A gamma correction unit for performing gamma correction processing on the image;
A contour extracting unit that extracts a contour of the image subjected to the gamma correction processing;
A coefficient generator for generating a reciprocal of a differential coefficient in a luminance value of each pixel of a gamma correction curve in the gamma correction process for each pixel of the given image;
A limiter that outputs a reciprocal of the differential coefficient generated by the coefficient generator as a correction coefficient;
A contour image generator for generating contour image data obtained by multiplying the image data of the contour by the correction coefficient;
An adder for adding the contour image data to the image data of the image subjected to the gamma correction processing,
The limiter is an imaging apparatus that outputs an output by replacing the reciprocal of the differential coefficient with the correction coefficient when the luminance value of each pixel is larger than a threshold value.
前記輪郭画像データのゲインを調整するゲイン調整部をさらに備え、
前記加算部は、前記ガンマ補正処理された前記画像の画像データに、前記ゲイン調整部によりゲインが調整された前記輪郭画像データを加算する
請求項3に記載の撮像装置。
A gain adjusting unit for adjusting the gain of the contour image data;
The imaging device according to claim 3, wherein the adding unit adds the contour image data whose gain is adjusted by the gain adjusting unit to image data of the image that has been subjected to the gamma correction processing.
与えられた画像を画像処理する画像処理方法であって、
前記画像に対してガンマ補正処理を行うガンマ補正段階と、
前記ガンマ補正処理された前記画像の輪郭部を抽出する輪郭抽出段階と、
前記画像のそれぞれの画素に対して、前記ガンマ補正処理におけるガンマ補正カーブの、それぞれの前記画素の輝度値における微分係数の逆数を生成する係数発生段階と、
前記微分係数の逆数を補正係数として出力する出力段階と、
前記輪郭部の画像データに、前記補正係数を乗算した輪郭画像データを生成する輪郭画像生成段階と、
前記ガンマ補正処理された前記画像の画像データに、前記輪郭画像データを加算する加算段階と、
を備え、
前記出力段階は、それぞれの前記画素の輝度値が閾値より大きい場合に、前記微分係数の逆数を前記補正係数に置き換えて出力する画像処理方法。
An image processing method for image processing a given image,
A gamma correction stage for performing a gamma correction process on the image;
A contour extraction step of extracting a contour portion of the image subjected to the gamma correction processing;
A coefficient generation stage that generates, for each pixel of the image, a reciprocal of a differential coefficient in the luminance value of each pixel of the gamma correction curve in the gamma correction process;
An output step of outputting the reciprocal of the differential coefficient as a correction coefficient;
A contour image generation step of generating contour image data obtained by multiplying the image data of the contour portion by the correction coefficient;
An addition step of adding the contour image data to the image data of the image subjected to the gamma correction processing;
With
In the image processing method, the output step replaces the reciprocal of the differential coefficient with the correction coefficient when the luminance value of each pixel is larger than a threshold value.
前記輪郭画像データのゲインを調整するゲイン調整段階をさらに備え、
前記加算段階は、前記ガンマ補正処理された前記画像の画像データに、ゲインが調整された前記輪郭画像データを加算する
請求項5に記載の画像処理方法。
A gain adjustment step of adjusting the gain of the contour image data;
The image processing method according to claim 5, wherein in the adding step, the contour image data with the gain adjusted is added to the image data of the image subjected to the gamma correction processing.
与えられた画像を画像処理する画像処理装置用のプログラムであって、コンピュータを、
前記画像に対してガンマ補正処理を行うガンマ補正部、
前記ガンマ補正処理された前記画像の輪郭部を抽出する輪郭抽出部、
前記画像のそれぞれの画素に対して、前記ガンマ補正処理におけるガンマ補正カーブの、それぞれの前記画素の輝度値における微分係数の逆数を生成する係数発生部、
前記微分係数の逆数を補正係数として出力するリミッタ、
前記輪郭部の画像データに、前記補正係数を乗算した輪郭画像データを生成する輪郭画像生成部、
前記ガンマ補正処理された前記画像の画像データに、前記輪郭画像データを加算する加算部
として機能させ、
前記リミッタは、それぞれの前記画素の輝度値が閾値より大きい場合に、前記微分係数の逆数を前記補正係数に置き換えて出力するプログラム。
The given image A program for an image processing apparatus for image processing, a computer,
A gamma correction unit for performing gamma correction processing on the image;
A contour extracting unit that extracts a contour of the image subjected to the gamma correction processing;
A coefficient generator that generates, for each pixel of the image, a reciprocal of a differential coefficient in the luminance value of each pixel of the gamma correction curve in the gamma correction process;
A limiter that outputs the reciprocal of the differential coefficient as a correction coefficient,
A contour image generator for generating contour image data obtained by multiplying the image data of the contour portion by the correction coefficient;
Function as an addition unit for adding the contour image data to the image data of the image subjected to the gamma correction processing;
The limiter is a program for outputting an output by replacing the reciprocal of the differential coefficient with the correction coefficient when the luminance value of each pixel is larger than a threshold value.
前記コンピュータを、
前記輪郭画像データのゲインを調整するゲイン調整部
としてさらに機能させ、
前記加算部は、前記ガンマ補正処理された前記画像の画像データに、前記ゲイン調整部によりゲインが調整された前記輪郭画像データを加算する
請求項7に記載のプログラム。
The computer ,
Further function as a gain adjustment unit for adjusting the gain of the contour image data,
The program according to claim 7, wherein the adding unit adds the contour image data whose gain is adjusted by the gain adjusting unit to image data of the image that has been subjected to the gamma correction processing.
JP2003038849A 2002-02-20 2003-02-17 Image processing device Expired - Fee Related JP4101673B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003038849A JP4101673B2 (en) 2002-02-20 2003-02-17 Image processing device

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2002044044 2002-02-20
JP2002-44044 2002-02-20
JP2003038849A JP4101673B2 (en) 2002-02-20 2003-02-17 Image processing device

Publications (2)

Publication Number Publication Date
JP2003319201A JP2003319201A (en) 2003-11-07
JP4101673B2 true JP4101673B2 (en) 2008-06-18

Family

ID=29551772

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003038849A Expired - Fee Related JP4101673B2 (en) 2002-02-20 2003-02-17 Image processing device

Country Status (1)

Country Link
JP (1) JP4101673B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3026131U (en) * 1995-09-04 1996-07-02 株式会社ウエノ Clothing cover

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4497959B2 (en) * 2004-03-05 2010-07-07 キヤノン株式会社 Video signal processing apparatus and video signal processing method
JP2006333202A (en) * 2005-05-27 2006-12-07 Matsushita Electric Ind Co Ltd Video signal processor and video signal processing method
JP4998393B2 (en) * 2008-07-09 2012-08-15 富士通セミコンダクター株式会社 Edge-enhanced image processing apparatus
US8311360B2 (en) 2008-11-13 2012-11-13 Seiko Epson Corporation Shadow remover

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3026131U (en) * 1995-09-04 1996-07-02 株式会社ウエノ Clothing cover

Also Published As

Publication number Publication date
JP2003319201A (en) 2003-11-07

Similar Documents

Publication Publication Date Title
JP4275344B2 (en) Imaging apparatus, imaging method, and program
JP4567593B2 (en) Imaging apparatus and imaging method
US7813637B2 (en) Digital camera
JP3880862B2 (en) Imaging device
JP3806038B2 (en) Image processing system and imaging apparatus
US7339606B2 (en) Image capturing apparatus, main subject position determination method, and computer-readable medium storing program
JP2006174412A (en) Imaging apparatus
US7260267B2 (en) Image processing apparatus, computer readable medium storing program, image processing method, image capturing apparatus, printing apparatus, and scanning apparatus
JP4343468B2 (en) Image processing system, imaging apparatus, image processing apparatus, image processing method, and program
JP2003179807A (en) Image pickup device
JP2001167253A (en) Image pickup device for evaluating picked-up image and recording medium
JP4202013B2 (en) Image processing system, imaging apparatus, image processing apparatus, image processing method, and program
JP4101673B2 (en) Image processing device
JP2004180151A (en) Digital camera
JP2003242504A (en) Image processor
JP4130338B2 (en) Image processing system, image processing method, imaging apparatus, and image processing apparatus
JP2004245923A (en) Automatic exposure bracketing photographing method
JP2003209737A (en) Imaging apparatus
JP4087631B2 (en) Imaging apparatus, image processing apparatus, imaging method, image processing method, image processing system, and program
JP2008160290A (en) Imaging apparatus, and imaging method
JP4246952B2 (en) Image processing system, imaging apparatus, imaging method, and program
JP2003069872A (en) Imaging device, image output device, image processing system, image output method and program
JP2003244626A (en) Image processing apparatus, image processing system, image processing method, and imaging apparatus
JP2003242503A (en) Image processor
JP2005020341A (en) Exposure control method and exposure controller

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050203

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080318

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080319

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110328

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110328

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120328

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120328

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130328

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130328

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140328

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees