JP4270638B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP4270638B2
JP4270638B2 JP10875099A JP10875099A JP4270638B2 JP 4270638 B2 JP4270638 B2 JP 4270638B2 JP 10875099 A JP10875099 A JP 10875099A JP 10875099 A JP10875099 A JP 10875099A JP 4270638 B2 JP4270638 B2 JP 4270638B2
Authority
JP
Japan
Prior art keywords
image
area
exposure
background
main subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP10875099A
Other languages
Japanese (ja)
Other versions
JP2000307939A (en
Inventor
英明 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP10875099A priority Critical patent/JP4270638B2/en
Publication of JP2000307939A publication Critical patent/JP2000307939A/en
Application granted granted Critical
Publication of JP4270638B2 publication Critical patent/JP4270638B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Studio Circuits (AREA)
  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、画像処理機能を備えた撮像装置に関する。
【0002】
【従来の技術】
いわゆるビデオカメラは言うまでもなく、近年普及するに至ったメモリカード等を記録媒体としたディジタルカメラに代表される、主として静止画の記録装置として構成された電子スチルカメラなど、撮像素子を用いて被写体像を撮影し電気信号の形で記録する電子撮像装置は広く知られている。
【0003】
電子撮像装置は、その信号が電気回路によって処理可能であることから、その記録画像の生成に際しては画質向上のための様々な画像処理が行われているが、通常は旧来の銀塩フィルムカメラシステムの画質に対して未だ劣ることの多いその画質を補うに留まっている。
【0004】
これに対して、画質向上のための画像処理を行うに際して、領域によって異なる処理を施せば様々な可能性が広がる。このような観点から試みられている技術もいくつかは存在している。例えば特開平8−51632号公報には、ストロボ撮影画像と外光のみでの撮影画像との輝度比較に基づいて、ストロボ撮影画像のホワイトバランス制御をブロック単位で処理する、領域対応型ホワイトバランス処理技術が開示されている。また、特開平5−292524号公報には肌色部分を検出し、輪郭強調度を他の部分よりも下げて肌を滑らかに表現する方法が開示されている。また、特開平7−46621号公報には同様に肌色部分を検出し、その部分の輝度を向上させてくすみを改善する階調補正手段について開示がなされている。これらの公報開示の技術は、それぞれ個別の技術課題を解決するためのものであり、その解決に当たっては必要に応じて領域対応型処理が施されている。
【0005】
【発明が解決しようとする課題】
ところで、一般にストロボ撮影を行うと、照明による被写体照度は被写体までの距離の2乗に反比例するため、人物などの主要被写体に対して背景が暗くなり、被写体輝度分布のダイナミックレンジすなわち画像の要求ダイナミックレンジが極端に大きくなる。画像の要求ダイナミックレンジが大きいということは、暗部の黒潰れや明部の白飛びが多く生じるということであり好ましくない。これは階調特性を寝かせると改善されるが、画像のコントラストが弱くなり好ましくない。主要な被写体を含むと思われる輝度域の階調は保ち、他の輝度域の階調だけを寝かせるという方法も知られているが、いずれにせよ全画面領域に対して一様な階調補正を行うのみでは、上記のような画質劣化は本質的には救いきれない。
【0006】
この問題に対して、画面の領域毎に異なる画像処理を許容すれば補正の可能性が生じるが、具体化された提案はなされていない。僅かに関連するものとして、上記特開平7−46621号公報には領域適応的に階調特性を異ならしめる処理方法が提案されているが、その提案技術における課題、構成並びに効果は、上記ストロボ撮影時における課題とは全く異なっており、この公報開示の技術によって上記問題点を解決することはできない。
【0007】
なお、上記問題点に対して別の面から解決をはかった撮影術として、いわゆる日中シンクロ撮影すなわち外光を併用したストロボ撮影があるが、これについても外光照度が比較的低いときには露光時間を長くせざるを得ず(これはマクロ撮影のような、被写界深度をかせぐために特に絞り込みが必要になるような場合、特に顕著である)、手ぶれに起因する画像ぶれを生じるため、使用可能な撮影状況が限られるといった問題点を有していた。
【0008】
本発明は、従来の撮像装置における上記問題点を解消するためになされたもので、ストロボ撮影において主要被写体と背景との双方に適正な階調補正を行うことにより、より高画質の画像が記録できるようにした撮像装置を提供することを目的とする。請求項毎の目的を述べると、請求項1〜3に係る発明は、主要被写体領域と背景領域とを弁別し各領域毎に異なる階調補正を行うことが可能で、背景領域に対してのみコントラストを減じる一律な階調処理を行えるようにした撮像装置を提供することを目的とする。また請求項4に係る発明は、異なる階調補正を行った主要被写体領域と背景領域による一つの画像を生成できるようにした撮像装置を提供することを目的とする。また請求項5に係る発明は、請求項4に係る発明において画像生成に際して画像合成等の処理を必要としない撮像装置を提供することを目的とする。また請求項6に係る発明は、請求項4又は5に係る発明において照明装置による照射と外光の寄与がどの程度かを考慮して主要被写体領域と背景領域とを弁別できるようにした撮像装置を提供することを目的とする。
【0009】
【課題を解決するための手段】
上記問題点を解決するため、請求項1に係る発明は、撮像した画像の情報に基づいて、記録等の利用対象画像の画像領域全体から主要被写体領域と背景領域とを弁別して領域設定する領域設定手段と、該領域設定手段により設定された前記主要被写体領域と背景領域に対して異なる階調特性を付与する領域対応型階調補正手段とを備え、該領域対応型階調補正手段は、前記主要被写体領域と背景領域のうち背景領域に対してのみコントラストを減じる一律な階調処理を行うようにして撮像装置を構成するものである。
【0010】
請求項2に係る発明は、請求項1に係る撮像装置において、前記背景領域に対して行うコントラストを減じる階調処理は、所定のオフセットを加算するのみの処理であることを特徴とするものである。
【0011】
請求項3に係る発明は、請求項1又は2に係る撮像装置において、被写体照明装置を含む露出手段と、該露出手段を制御する露出制御手段とを更に有し、前記領域設定手段による主要被写体領域と背景領域との弁別は、少なくとも前記照明装置による照射を行って撮像した画像の情報に基づいて行うように構成されていることを特徴とするものである。
【0012】
このように構成した請求項1及び3に係る発明によれば、主要被写体領域と背景領域とを弁別して各領域を設定し、各領域毎に異なる階調補正を行うことができ、高画質の画像を記録することが可能な撮像装置を実現することができ、また背景領域に対してのみコントラストを減じる一律な階調処理を行うことにより、記録等の利用対象画像は、明るく霞んだような背景中に主要被写体がくっきり浮かび上がる、例えばポートレート等に好適な画像とすることが可能となり、更にコントラスト拡大処理に伴う問題であるノイズの増幅による画像劣化が生じない等の効果が得られる。また、請求項2に係る発明によれば、請求項1に係る発明の奏する効果に加えて階調補正処理を簡易に行うことができるという効果が得られる。
【0013】
請求項に係る発明は、請求項に係る撮像装置において、前記照明装置による照射を行って撮像した画像である第1の画像と、該第1の画像とは別の外光に起因する露光成分を実質的に含む露出条件で撮像した第2の画像との2画像のうちの一つを選択することによって、又はこれらの2画像を合成することによって、前記記録等の利用対象画像である第3の画像を生成する記録画像生成手段を更に備え、前記領域対応型階調補正手段は、前記記録画像生成手段による前記第3の画像の生成過程において、前記主要被写体領域と背景領域に対して異なる階調特性の付与を行うように構成されていることを特徴とするものである。
【0014】
このように構成することにより、異なる階調補正を行った主要被写体領域と背景領域による一つの画像を生成することができ、したがって例えばストロボ撮影においても主要被写体と背景との双方がそれぞれ充分なコントラストを有する一つの画像を得ることや、領域によって異なる階調補正を積極的に応用した従来のフィルムカメラでは達成できなかった進展した映像表現を可能とする撮像装置を実現することができる。
【0015】
請求項に係る発明は、請求項に係る撮像装置において、前記露出制御手段は、前記第1の画像の撮像に当たっては外光の影響を排除するために、実質露光時間を前記第2の画像の撮像時よりも小さくし、前記記録画像生成手段は前記第2の画像を選択することにより前記第3の画像を生成するように構成されていることを特徴とするものである。このように構成することにより、利用対象の画像生成に際して画像合成等の処理を必要としないので、回路や制御等を簡単にすることができる。
【0016】
請求項に係る発明は、請求項又はに係る撮像装置において、前記露出制御手段は、前記第1の画像の撮像と前記第2の画像の撮像とが同じ露出値になるように前記露出手段を制御し、前記領域設定手段は前記第1の画像と前記照明装置による照射を伴わずに撮像した第2の画像との比較に基づいて前記主要被写体領域の弁別設定を行うように構成されていることを特徴とするものである。このように構成することにより、照明装置による照射と外光の寄与がどの程度かを具体的に考慮して主要被写体領域と背景領域とを弁別することが可能となり、背景が主要被写体に比較的近い場合にも対応させることができる。
【0017】
【発明の実施の形態】
次に実施の形態について説明する。図1は、本発明に係る撮像装置(ディジタルカメラ)の実施の形態を示すブロック構成図である。図1において、1はレンズ系、2はレンズ駆動機構、3は露出制御機構、4はフィルタ系、5はCCD撮像素子、6はCCDドライバ、7はA/D変換器を含むプリプロセス回路、8はディジタルプロセス回路で、ハードとしてメモリを含み、全てのディジタルプロセス処理を行うものである。9はメモリカードインターフェース、10はメモリカード、11はLCD画像表示系、12は主たる構成としてマイコンを含むシステムコントローラ、13は操作スイッチ系、14は表示用LCD及び発音ブザーを含む操作表示系、15はストロボ、16はレンズドライバ、17は露出制御ドライバである。なお、撮像装置には、この他に図示しないレリーズボタンなどが設けられている。
【0018】
このように構成されているディジタルカメラにおいて、主要な動作である領域の弁別設定、階調補正処理、画像の選択又は合成による利用対象画像である記録画像の生成等は、全てディジタルプロセス回路8をシステムコントローラ12が制御することによって行い、また必要に応じてシステムコントローラ12は露出制御ドライバ17を制御することで、ストロボ発光も含めた露出動作を行うようになっている。また本実施の形態に係るディジタルカメラは、撮影モードとして従来の撮影に相当するノーマルモードと、本発明の実施の形態独自の階調補正モードとを切り換え可能に有しており、操作スイッチ13によって撮影に先立ち、これを切り換え選択することができるようになっている。また、以下の説明におけるカメラ制御は、全てシステムコントローラ12が各部を適宜制御することによって実行される。
【0019】
次に、このように構成されている実施の形態の動作について説明する。階調補正モードにおいて撮影者がレリーズボタンを操作すると、まず1回目の露光がストロボ照射を伴って行われる。このとき絞り及びシャッタの制御については、領域判別処理の方法によっていくつか態様が考えられるが、本実施の形態においては、本撮影の露出値にかかわらず絞りは開放、露出時間はストロボ発光時間を下回らない範囲で最短時間に設定される。そして、ストロボ発光光量は公知のフラッシュマチックや測光等の技術により適正に調光させるようになっている。絞りを開放にすることで、ストロボ光の到達限界をより長くすることができ、また露出時間を短くすることで外光の影響を低下させることができる。このとき得られた画像を第1画像とする。なお、以下において背景は主要被写体より充分遠方にあるものと仮定する。したがって、背景に到達するストロボ光は主要被写体に比して充分小さい。
【0020】
上記1回目の露光に引き続き2回目の露光を、本来意図した露出条件で直ちに行う。ただし、この際ストロボ発光は行わない。このとき得られた画像を第2画像とする。通常の撮影においては、この2回の露光間の時間差を充分小さく設定すれば被写体の変化は無視し得るから、以下の説明においては第1,第2画像は実用上全く同じ構図の画像が得られたものとして説明する。また本実施の形態のカメラの階調補正モードにおいては、本露光時の露出時間の設定については、いわゆる手ぶれ限界シャッタ速以上の高速(短時間)になるようにリミッタがかけられており、これによって手ぶれに起因する画像ぶれが生じないようにされている。このため、通常の室内程度の照度下での撮影では、背景の輝度レベルはあまり大きくなり得ない。
【0021】
ここで、第2画像が図2の(A)に示すような画像であるとすれば、第1画像は図2の(B)に示すように背景部がほぼ暗黒になった画像のようになる。なお、図2の(A)において背景の斜線は、レベルが低いことを表現している。すなわち、上記した如く第1画像においては露出時間が最短に設定されているから、外光による露光はほとんど無視できる。また背景は遠方にあるから、ストロボによる露光レベルは小さい。この第1画像に対して、画素単位で所定レベルに対するレベル比較を行い、所定レベル以上である画素位置を主要被写体領域として登録し、他の所定レベル未満の画素位置を背景領域として登録する。先に外光による露光はほとんど無視できると述べたが、現実には若干の露光はあり得るし、ストロボによる背景露光も存在するから、このレベル比較処理によって、この影響を確実に除去するものである。なお、上記1回目の露出の際のストロボ調光レベルを、通常撮影におけるそれよりも高めに設定すれば、主要被写体における低反射率部分に対する誤判別の可能性を低減することができ、この比較処理における領域設定をより確実なものにすることができる。
【0022】
次に、記録画像を生成するための画像合成を行う。すなわち、上記第1画像の主要被写体領域の画像と、上記第2画像の背景領域の画像とを組み合わせて、最終的な一つの記録画像とする。この合成の過程で、それぞれの領域抜き出し画像に対して独立に階調補正を行う。第1画像の主要被写体領域抜き出し画像については、ストロボ光のみによる適正露光(外光かぶりがないから白飛びが生じにくい、あるいは生じないように制御することも可能である)が与えられているはずなので本来補正は不要であるが、必要に応じて後記第2画像と同様の処理を施してもよい。
【0023】
第2画像の背景領域抜き出し画像については、他の条件が許す範囲の外光と比較的小さいストロボ光の合成照明による露光となっているから、その輝度ヒストグラムは多くの場合低輝度側に集中しており、低輝度低コントラスト状態になっている。したがって、これに例えばヒストグラムの分布が記録系の輝度レンジに対して充分に広がった分布を持つような、〔例えば振幅=最大値−最小値が輝度レンジにほぼ等しくなるような1次補正:y=ax−b(x:補正前の入力輝度信号レベル、y:補正後の出力輝度信号レベル)を一律に施すなど〕、それ自体は公知のコントラスト拡大補正を施す。
【0024】
この結果生成された記録画像は、主要被写体と背景との双方がそれぞれ充分なコントラストを有する一つのストロボ撮影画像となる。そして最後に、生成された記録画像が適宜圧縮等の処理を受けて、メモリカード10に記録される。このように本実施の形態によれば、ストロボ撮影において主要被写体と背景との双方に適正な階調補正が行われ、より高画質な画像が記録できる撮像装置が得られる。
【0025】
以上本発明について上記実施の形態に基づいて説明を行ったが、上記実施の形態には様々な変形例が考えられる。第1の変形例としては、露光の処理に関するものが挙げられる。上記実施の形態では、第1の画像の露光に際して外光を排除すべく設定したが、背景が上記で仮定したよりも近くに存在するような場合は、誤動作を生じる可能性がある。これに対処するには、第1露光と第2露光で外光に対する露出レベルを等しくし、領域設定の場合の条件として、2画像のレベル比較を行うことが考えられる。このようにすることにより、ストロボ光と外光の寄与がどの程度かを具体的に考慮して主要被写体と背景とを弁別することが可能になる。具体例として、ストロボ光の寄与度が外光のそれ以上である領域を主要被写体とするケースを挙げておく。この際に重要なのは、あくまでも露出レベルであるから、絞り値・露光時間個別の値自体は、露出値EV(Exposure Value)一定の条件のもとであれば、任意に設定可能である。ストロボ発光の無駄を押さえ到達距離を伸ばす観点からは、より絞りを開く制御が一つの好適例となる。
【0026】
第2の変形例としては、第1露光及び領域設定処理は、上記実施の形態と同様に行い、第2露光に際してもストロボを発光させて、本来目的とする本露光の露出条件で行うものが挙げられる。この場合、記録画像の生成にあたっては、第1の画像を用いず、第2の画像に対して主要被写体と背景で領域毎に異なる上記実施の形態と同様の階調補正を行うことが可能であるため、画像合成等の処理を必要としない。
【0027】
第3の変形例としては、露光は1回のみ、ストロボを発光させて本来目的とする本露光の露出条件で行うものが挙げられる。この場合は、本露光における外光の利用をある程度以下に制限するなどカメラの使用制限は生じるが、上記実施の形態と同様の領域設定方法を用いて領域を設定し、上記第2の変形例で示したような当該一つの撮影画像に対して上記実施の形態と同様の階調補正を行うことが可能である。この変形例は、特にマクロ撮影機能を有するカメラにおけるマクロモード等に利用価値が高い。
【0028】
第4の変形例としては、上記ストロボ撮影時の画質劣化の防止のみならず、更に積極的に一般撮影も含めた新規な映像表現に適用可能な次に示すような例が挙げられる。すなわち、露光の処理に関しては上記実施の形態又は第1の変形例と同様に行うが、本露光としての撮影目的画像はストロボを使用しない第2画像を選択する場合である。すなわち、通常の外光のみでの撮影による画像は、先に述べたような「ストロボ撮影に伴う画質劣化」を生じてはいないが、設定された領域毎の階調補正を施すことで、従来は得られなかった効果的な画像を生成しうる。
【0029】
すなわち、ここで示す第4の変形例は、背景のコントラストを減じる階調処理を行うものである。第2画像の主要被写体領域抜き出し画像については、外光による適正露光が与えられているはずなので本来補正は不要であるが、必要に応じて上記実施の形態のようなコントラスト拡大補正を施してもよい。これに対して第2画像の背景領域抜き出し画像については、絵柄的な要素を別にすれば主要被写体領域と同様のコントラスト状態が撮像時点で得られている。これを、例えばヒストグラムの分布が記録系の輝度レンジの特定の一部分、具体的には中輝度〜やや高輝度の部分に集中するような分布になるように(例えば最大値が最大輝度レベルの3/5,最小値が最大輝度レベルの4/5にほぼ等しくなるような1次補正:y=ax+bを一律に施すなど)、それ自体は公知のコントラスト低下補正を施す。この結果生成された記録画像は、明るく霞んだような背景中にくっきり浮かび上がる主要被写体といった例えばポートレート等に好適な画像となる。勿論この第4の変形例のような処理手法は、ストロボを用いた本撮影に対しても同様に有効であることは言うまでもない。
【0030】
次に第5の変形例としては、次のような例が挙げられる。すなわち、上記実施の形態における第2画像の背景領域抜き出し画像についての階調補正処理に、上記第4の変形例のような階調処理(簡易的には適当なオフセットを加えるだけの処理も採用しうる)を施せば、第4の変形例と同様の効果を有するものが得られる。このとき上記実施の形態のようなコントラスト拡大処理に伴う問題であるノイズの増幅による画質劣化が生じないという見逃せない効果も得られる。
【0031】
【発明の効果】
以上実施の形態に基づいて説明したように、本発明によれば、ストロボ等の被写体照明装置を用いた撮影において主要被写体と背景との双方に適正な階調補正を行うことにより、より高画質な画像が記録できる撮像装置を実現することができる。特に請求項1及び3に係る発明によれば、主要被写体領域と背景領域とを弁別して各領域を設定し、各領域毎に異なる階調補正を行うことができるので、高画質の画像を記録することが可能な撮像装置を実現することができ、また背景領域に対してのみコントラストを減じる一律な階調処理を行うことにより、記録等の利用対象画像は、明るく霞んだような背景中に主要被写体がくっきり浮かび上がる、例えばポートレート等に好適な画像とすることが可能となり、更にコントラスト拡大処理に伴う問題であるノイズの増幅による画像劣化が生じない等の効果が得られる。また、請求項2に係る発明によれば、請求項1に係る発明の奏する効果に加えて階調補正処理を簡易に行うことができるという効果が得られる。また請求項4に係る発明によれば、異なる階調補正を行った主要被写体領域と背景領域による一つの画像を生成することができるので、ストロボ撮影においても主要被写体と背景との双方がそれぞれ充分なコントラストを有する一つの画像を得ることや、領域によって異なる階調補正を積極的に応用した従来のフィルムカメラでは達成できなかった進展した映像表現が可能となる。また請求項に係る発明によれば、画像生成に際して画像合成等の処理を必要としないから、回路や制御等を簡単にすることができる。また請求項に係る発明によれば、照明装置による照射と外光の寄与がどの程度かを具体的に考慮して主要被写体領域と背景領域とを弁別することが可能となるので、背景が主要被写体に近い場合においても適切に対応させることができる。
【図面の簡単な説明】
【図1】 本発明に係る撮像装置の実施の形態を示すブロック構成図である。
【図2】 ストロボ照射(発光)を伴わない露光による第2画像とストロボ照射を伴う露光による第1画像を示す概略図である。
【符号の説明】
1 レンズ系
2 レンズ駆動機構
3 露出制御機構
4 フィルタ系
5 CCD撮像素子
6 CCDドライバ
7 プリプロセス回路
8 ディジタルプロセス回路
9 メモリカードインターフェース
10 メモリカード
11 LCD画像表示系
12 システムコントローラ
13 操作スイッチ系
14 操作表示系
15 ストロボ
16 レンズドライバ
17 露出制御ドライバ
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an imaging apparatus having an image processing function.
[0002]
[Prior art]
Needless to say a so-called video camera, a subject image using an image sensor, such as an electronic still camera mainly configured as a still image recording device, represented by a digital camera using a memory card or the like that has become popular in recent years as a recording medium. 2. Description of the Related Art An electronic imaging device that captures images and records them in the form of electrical signals is widely known.
[0003]
In the electronic imaging apparatus, since the signal can be processed by an electric circuit, various image processing for improving the image quality is performed when the recorded image is generated. Usually, the conventional silver salt film camera system is used. The image quality is still inferior to the image quality of the image.
[0004]
On the other hand, when image processing for improving image quality is performed, various possibilities are widened by performing different processing depending on regions. There are some techniques that have been attempted from this point of view. For example, Japanese Patent Laid-Open No. 8-51632 discloses an area-corresponding white balance process in which white balance control of a stroboscopic image is processed in units of blocks on the basis of a luminance comparison between the stroboscopic image and an image captured with only external light. Technology is disclosed. Japanese Patent Application Laid-Open No. 5-292524 discloses a method of detecting a skin color portion and expressing the skin smoothly by lowering the degree of contour enhancement from other portions. Similarly, Japanese Patent Application Laid-Open No. 7-46621 discloses tone correction means for detecting a flesh color portion and improving the luminance of the portion to improve dullness. The technologies disclosed in these publications are for solving individual technical problems, and in order to solve the problems, area-corresponding processing is performed as necessary.
[0005]
[Problems to be solved by the invention]
By the way, in general, when the flash photography is performed, the subject illuminance by illumination is inversely proportional to the square of the distance to the subject, so the background becomes dark with respect to the main subject such as a person, and the dynamic range of the subject luminance distribution, that is, the required dynamic of the image The range becomes extremely large. A large required dynamic range of an image is not preferable because black areas in dark areas and white areas in bright areas are often generated. This can be improved by laying down the gradation characteristics, but it is not preferable because the contrast of the image becomes weak. It is also known to keep the gradation of the luminance range that seems to include the main subject and lay down only the gradation of other luminance areas, but in any case, uniform gradation correction for the entire screen area By simply performing the above, image quality degradation as described above cannot be essentially saved.
[0006]
For this problem, the possibility of correction arises if different image processing is allowed for each area of the screen, but no concrete proposal has been made. As a slightly related matter, Japanese Patent Application Laid-Open No. 7-46621 proposes a processing method for differentiating gradation characteristics in a region-adaptive manner. Problems, configurations and effects of the proposed technique are described above. This problem is completely different from the problem at the time, and the above problem cannot be solved by the technique disclosed in this publication.
[0007]
In addition, there is so-called daytime synchro photography, that is, strobe photography combined with external light, as a photography technique that solves the above problem from another aspect. However, the exposure time is also reduced when the external light illuminance is relatively low. Can be used because it has to be long (this is particularly noticeable when focusing is particularly necessary in order to increase the depth of field, such as macro photography) and causes image blur due to camera shake However, there were problems such as limited shooting conditions.
[0008]
The present invention has been made to solve the above-described problems in the conventional imaging apparatus, and by performing appropriate gradation correction on both the main subject and the background in strobe shooting, a higher quality image is recorded. An object of the present invention is to provide an imaging apparatus that can be used. To describe the purpose of each claim, the invention according to claims 1 to 3 can discriminate the main subject area from the background area and perform different gradation correction for each area, and only for the background area. An object of the present invention is to provide an image pickup apparatus capable of performing uniform gradation processing for reducing contrast. Another object of the present invention is to provide an imaging apparatus capable of generating one image with a main subject region and a background region subjected to different gradation corrections. Further, the invention according to claim 5 is to provide an imaging apparatus which does not require processing such as image synthesis in generating an image in the invention according to claim 4. According to a sixth aspect of the present invention, in the invention according to the fourth or fifth aspect of the present invention, the main subject region and the background region can be discriminated in consideration of the contribution of the illumination by the illumination device and the external light. The purpose is to provide.
[0009]
[Means for Solving the Problems]
In order to solve the above problem, the invention according to claim 1 is an area in which a main subject area and a background area are discriminated from the entire image area of a use target image such as recording based on information of a captured image. Setting means, and area-corresponding gradation correcting means for imparting different gradation characteristics to the main subject area and the background area set by the area setting means, the area-corresponding gradation correcting means, The imaging apparatus is configured to perform uniform gradation processing for reducing the contrast only for the background area of the main subject area and the background area.
[0010]
According to a second aspect of the present invention, in the imaging apparatus according to the first aspect, the gradation process for reducing the contrast performed on the background region is a process of only adding a predetermined offset. is there.
[0011]
According to a third aspect of the present invention, in the imaging apparatus according to the first or second aspect of the present invention, the imaging apparatus according to the first or second aspect further includes an exposure unit including a subject illumination device, and an exposure control unit that controls the exposure unit. The distinction between the region and the background region is configured to be performed based on at least information of an image captured by performing irradiation with the illumination device.
[0012]
According to the inventions according to claims 1 and 3 configured as described above, the main subject region and the background region can be discriminated to set each region, and different gradation correction can be performed for each region. An imaging device capable of recording an image can be realized, and by performing uniform gradation processing that reduces the contrast only for the background region, the image to be used for recording is bright and stunned It is possible to obtain an image suitable for portraits, for example, in which the main subject clearly appears in the background, and further effects such as no image degradation due to noise amplification, which is a problem associated with contrast enlargement processing, can be obtained. Further, according to the invention according to claim 2, in addition to the effect produced by the invention according to claim 1, an effect that the gradation correction process can be easily performed is obtained.
[0013]
According to a fourth aspect of the present invention, in the imaging apparatus according to the third aspect , the first image, which is an image captured by performing irradiation with the lighting device, is caused by external light different from the first image. by selecting one of the two images of the second image captured with the exposure conditions including exposure component substantially or these two images by combining, in a utilization object image of the recording, etc. The recording image generating means for generating a third image is further provided, and the area-corresponding gradation correcting means is arranged on the main subject area and the background area in the generation process of the third image by the recorded image generating means. The present invention is characterized in that different gradation characteristics are given.
[0014]
By configuring in this way, it is possible to generate one image with the main subject area and the background area subjected to different gradation corrections. Therefore, for example, even in strobe shooting, both the main subject and the background have sufficient contrast. It is possible to realize an image pickup apparatus that can obtain an image having advanced image expression that can not be achieved by a conventional film camera that positively applies different gradation correction depending on the region.
[0015]
According to a fifth aspect of the present invention, in the imaging apparatus according to the fourth aspect , the exposure control means sets the substantial exposure time to the second exposure time in order to eliminate the influence of external light when capturing the first image. The recorded image generation means is configured to generate the third image by selecting the second image, which is smaller than when the image is captured. With this configuration, processing such as image synthesis is not required when generating an image to be used, so that the circuit and control can be simplified.
[0016]
According to a sixth aspect of the present invention, in the imaging apparatus according to the fourth or fifth aspect , the exposure control unit is configured so that the first image and the second image have the same exposure value. The exposure unit is controlled, and the region setting unit is configured to perform discrimination setting of the main subject region based on a comparison between the first image and a second image captured without irradiation by the illumination device. It is characterized by being. By configuring in this way, it becomes possible to distinguish the main subject area from the background area by specifically considering the contribution of the illumination by the illumination device and the external light, and the background is relatively different from the main subject. It is possible to deal with cases close to each other.
[0017]
DETAILED DESCRIPTION OF THE INVENTION
Next, embodiments will be described. FIG. 1 is a block configuration diagram showing an embodiment of an imaging apparatus (digital camera) according to the present invention. In FIG. 1, 1 is a lens system, 2 is a lens driving mechanism, 3 is an exposure control mechanism, 4 is a filter system, 5 is a CCD imaging device, 6 is a CCD driver, and 7 is a preprocess circuit including an A / D converter, A digital process circuit 8 includes a memory as hardware and performs all digital process processing. 9 is a memory card interface, 10 is a memory card, 11 is an LCD image display system, 12 is a system controller including a microcomputer as a main configuration, 13 is an operation switch system, 14 is an operation display system including a display LCD and a sounding buzzer, 15 Is a strobe, 16 is a lens driver, and 17 is an exposure control driver. The imaging device is provided with a release button (not shown).
[0018]
In the digital camera configured as described above, the main operations, such as region discrimination setting, gradation correction processing, generation of a recorded image that is a use target image by image selection or synthesis, are all performed by the digital process circuit 8. Control is performed by the system controller 12, and the system controller 12 controls the exposure control driver 17 as necessary to perform an exposure operation including strobe light emission. The digital camera according to the present embodiment can switch between a normal mode corresponding to conventional shooting as a shooting mode and a gradation correction mode unique to the embodiment of the present invention. Prior to shooting, this can be switched and selected. The camera control in the following description is all executed by the system controller 12 appropriately controlling each unit.
[0019]
Next, the operation of the embodiment configured as described above will be described. When the photographer operates the release button in the gradation correction mode, first exposure is performed with strobe irradiation. At this time, there are several modes for controlling the aperture and shutter depending on the method of area discrimination processing, but in the present embodiment, the aperture is opened regardless of the exposure value of the actual shooting, and the exposure time is set to the flash emission time. The shortest time is set within a range that does not fall below. The amount of light emitted from the strobe light is appropriately adjusted by a known technique such as flashmatic or photometry. By opening the aperture, it is possible to increase the reach limit of the strobe light, and it is possible to reduce the influence of external light by shortening the exposure time. The image obtained at this time is defined as a first image. In the following, it is assumed that the background is sufficiently far away from the main subject. Therefore, the strobe light reaching the background is sufficiently smaller than the main subject.
[0020]
Following the first exposure, the second exposure is immediately performed under the originally intended exposure conditions. However, strobe light is not emitted at this time. The image obtained at this time is defined as a second image. In normal shooting, if the time difference between the two exposures is set to be sufficiently small, changes in the subject can be ignored. Therefore, in the following description, the first and second images have practically the same composition. It will be described as being made. In the gradation correction mode of the camera according to the present embodiment, the limiter is applied to set the exposure time during the main exposure so as to be higher (short time) than the so-called camera shake limit shutter speed. Therefore, image blur due to camera shake does not occur. For this reason, the background luminance level cannot be increased too much when shooting under normal room-level illuminance.
[0021]
Here, if the second image is an image as shown in FIG. 2A, the first image looks like an image whose background portion is almost dark as shown in FIG. Become. In FIG. 2A, the diagonal line in the background represents that the level is low. That is, as described above, since the exposure time is set to the shortest in the first image, the exposure by the external light can be almost ignored. Also, since the background is far away, the exposure level by the strobe is small. The first image is subjected to level comparison with a predetermined level in units of pixels, pixel positions that are equal to or higher than the predetermined level are registered as main subject areas, and pixel positions that are lower than the predetermined level are registered as background areas. I mentioned earlier that exposure by external light is almost negligible, but in reality there can be some exposure, and there is also background exposure by strobe, so this level comparison process can reliably remove this effect. is there. If the strobe light control level at the time of the first exposure is set higher than that in normal shooting, the possibility of misjudgment with respect to the low reflectance portion of the main subject can be reduced. The area setting in the processing can be made more reliable.
[0022]
Next, image composition for generating a recorded image is performed. That is, the image of the main subject area of the first image and the image of the background area of the second image are combined to form a final recorded image. In this synthesis process, gradation correction is performed independently for each region extracted image. The image extracted from the main subject area of the first image should be given an appropriate exposure only with strobe light (can be controlled so that no whiteout occurs or no whiteout occurs due to no external light fogging). Therefore, correction is not necessary originally, but processing similar to that of the second image described below may be performed as necessary.
[0023]
The background image extracted from the background image of the second image is exposed by the combined illumination of outside light within a range allowed by other conditions and relatively small strobe light, so the brightness histogram is often concentrated on the low brightness side. In low brightness and low contrast. Accordingly, for example, the histogram distribution has a distribution that is sufficiently wide with respect to the luminance range of the recording system, for example [primary correction such that amplitude = maximum value−minimum value is substantially equal to the luminance range: y = Ax−b (x: input luminance signal level before correction, y: output luminance signal level after correction), etc.] itself, for example, a known contrast expansion correction is performed.
[0024]
The recorded image generated as a result is a single flash photographed image in which both the main subject and the background have sufficient contrast. Finally, the generated recorded image is subjected to processing such as compression as appropriate, and is recorded on the memory card 10. As described above, according to the present embodiment, appropriate gradation correction is performed on both the main subject and the background in strobe shooting, and an imaging apparatus capable of recording a higher quality image is obtained.
[0025]
Although the present invention has been described based on the above embodiment, various modifications can be considered for the above embodiment. As a first modified example, the one relating to exposure processing can be cited. In the above embodiment, the setting is made to exclude the external light when the first image is exposed. However, when the background is closer than assumed above, a malfunction may occur. In order to cope with this, it is conceivable that the exposure levels for external light are made equal in the first exposure and the second exposure, and the levels of the two images are compared as a condition for setting the region. In this way, it is possible to distinguish the main subject from the background by specifically considering the contribution of strobe light and external light. As a specific example, a case where an area where the contribution of strobe light is greater than that of external light is used as a main subject will be described. In this case, since the exposure level is important, the individual values of the aperture value and the exposure time can be arbitrarily set as long as the exposure value EV (Exposure Value) is constant. From the viewpoint of suppressing the waste of strobe light emission and extending the reach distance, control for opening the aperture is a preferable example.
[0026]
As a second modification, the first exposure and the area setting process are performed in the same manner as in the above-described embodiment, and the strobe is also emitted during the second exposure and is performed under the exposure conditions of the original target exposure. Can be mentioned. In this case, when the recorded image is generated, the first image is not used, and the second image can be subjected to gradation correction similar to that in the above-described embodiment, which is different for each region of the main subject and the background. Therefore, processing such as image composition is not required.
[0027]
As a third modified example, exposure is performed only once by performing strobe light emission under the originally intended exposure conditions of the main exposure. In this case, the use of the camera is restricted, for example, by limiting the use of external light in the main exposure to a certain level or less. However, the region is set using the same region setting method as in the above embodiment, and the second modified example is used. It is possible to perform tone correction similar to that in the above embodiment on the one photographed image as shown in FIG. This modified example has high utility value especially in a macro mode or the like in a camera having a macro photographing function.
[0028]
As a fourth modified example, there is the following example that can be applied not only to the prevention of image quality deterioration at the time of flash photography but also to a new video expression that is more positively included in general photography. That is, the exposure process is performed in the same manner as in the above-described embodiment or the first modification, but the second target image that does not use the strobe is selected as the photographing target image as the main exposure. In other words, the image obtained by shooting only with normal outside light does not cause the “image quality deterioration due to flash shooting” as described above, but by applying gradation correction for each set area, Can produce an effective image that could not be obtained.
[0029]
That is, the fourth modification shown here performs gradation processing that reduces the contrast of the background. The image extracted from the main subject area of the second image should not be corrected because it should have been properly exposed by external light, but may be subjected to contrast expansion correction as described above if necessary. Good. On the other hand, with respect to the background region extracted image of the second image, a contrast state similar to that of the main subject region is obtained at the time of imaging, except for the design elements. This is, for example, a distribution in which the distribution of the histogram is concentrated in a specific part of the luminance range of the recording system, specifically, in the middle luminance to slightly high luminance (for example, the maximum value is 3 at the maximum luminance level). / 5, primary correction so that the minimum value is substantially equal to 4/5 of the maximum luminance level: y = ax + b is uniformly applied), and the known contrast reduction correction is performed. The recorded image generated as a result is an image suitable for a portrait or the like such as a main subject that clearly appears in a bright and hazy background. Of course, it goes without saying that the processing method as in the fourth modified example is also effective for main photographing using a strobe.
[0030]
Next, as a fifth modification, the following example is given. That is, the tone correction processing for the background image extracted from the background image of the second image in the above-described embodiment employs tone processing as in the fourth modification example (processing that simply adds an appropriate offset). Can be obtained, the same effect as in the fourth modification can be obtained. At this time, it is possible to obtain an effect that cannot be overlooked in that image quality deterioration due to noise amplification, which is a problem associated with the contrast enlargement processing as in the above-described embodiment, does not occur.
[0031]
【The invention's effect】
As described above based on the embodiments, according to the present invention, by performing appropriate gradation correction on both the main subject and the background in shooting using a subject illumination device such as a strobe, higher image quality can be achieved. It is possible to realize an imaging device capable of recording a clear image. In particular, according to the first and third aspects of the invention, the main subject area and the background area can be discriminated and each area can be set, and different gradation correction can be performed for each area. An image pickup apparatus that can perform image processing can be realized, and by performing uniform gradation processing that reduces the contrast only for the background area, the image to be used for recording can be displayed in a bright and hazy background. For example, an image suitable for a portrait or the like can be obtained in which the main subject clearly appears, and an effect such as no image deterioration due to noise amplification, which is a problem associated with contrast enlargement processing, can be obtained. Further, according to the invention according to claim 2, in addition to the effect produced by the invention according to claim 1, an effect that the gradation correction process can be easily performed is obtained. According to the invention of claim 4, since one image can be generated with the main subject region and the background region subjected to different gradation corrections, both the main subject and the background are sufficient in strobe shooting. It is possible to obtain a single image having a high contrast and to develop an advanced video expression that cannot be achieved by a conventional film camera that actively applies gradation correction that varies depending on the region. According to the fifth aspect of the present invention, since processing such as image synthesis is not required when generating an image, the circuit and control can be simplified. According to the invention of claim 6 , it is possible to discriminate the main subject area from the background area by specifically considering the contribution of the illumination by the illumination device and the external light. Even when it is close to the main subject, it can be appropriately handled.
[Brief description of the drawings]
FIG. 1 is a block configuration diagram showing an embodiment of an imaging apparatus according to the present invention.
FIG. 2 is a schematic diagram showing a second image by exposure without strobe irradiation (light emission) and a first image by exposure with strobe irradiation.
[Explanation of symbols]
DESCRIPTION OF SYMBOLS 1 Lens system 2 Lens drive mechanism 3 Exposure control mechanism 4 Filter system 5 CCD image pick-up device 6 CCD driver 7 Pre-process circuit 8 Digital process circuit 9 Memory card interface
10 Memory card
11 LCD image display system
12 System controller
13 Operation switch system
14 Operation display system
15 Strobe
16 Lens driver
17 Exposure control driver

Claims (6)

撮像した画像の情報に基づいて、記録等の利用対象画像の画像領域全体から主要被写体領域と背景領域とを弁別して領域設定する領域設定手段と、該領域設定手段により設定された前記主要被写体領域と背景領域に対して異なる階調特性を付与する領域対応型階調補正手段とを備え、
該領域対応型階調補正手段は、前記主要被写体領域と背景領域のうち背景領域に対してのみコントラストを減じる一律な階調処理を行うように構成されていることを特徴とする撮像装置。
Based on information of the captured image, area setting means for discriminating and setting a main subject area and a background area from the entire image area of a use target image such as recording, and the main subject area set by the area setting means And an area-corresponding gradation correcting means for imparting different gradation characteristics to the background area,
The area-corresponding gradation correcting means is configured to perform uniform gradation processing for reducing contrast only for a background area of the main subject area and the background area.
前記背景領域に対して行うコントラストを減じる階調処理は、所定のオフセットを加算するのみの処理であることを特徴とする請求項1に係る撮像装置。The imaging apparatus according to claim 1, wherein the gradation process for reducing the contrast performed on the background region is a process of only adding a predetermined offset. 被写体照明装置を含む露出手段と、該露出手段を制御する露出制御手段とを更に有し、前記領域設定手段による主要被写体領域と背景領域との弁別は、少なくとも前記照明装置による照射を行って撮像した画像の情報に基づいて行うように構成されていることを特徴とする請求項1又は2に係る撮像装置。An exposure unit including a subject illumination device and an exposure control unit for controlling the exposure unit are further provided. The main setting region and the background region by the region setting unit are imaged by performing irradiation with at least the illumination device. The imaging apparatus according to claim 1, wherein the imaging apparatus is configured to perform the processing based on information on the obtained image. 前記照明装置による照射を行って撮像した画像である第1の画像と、該第1の画像とは別の外光に起因する露光成分を実質的に含む露出条件で撮像した第2の画像との2画像のうちの一つを選択することによって、又はこれらの2画像を合成することによって、前記記録等の利用対象画像である第3の画像を生成する記録画像生成手段を更に備え、前記領域対応型階調補正手段は、前記記録画像生成手段による前記第3の画像の生成過程において、前記主要被写体領域と背景領域に対して異なる階調特性の付与を行うように構成されていることを特徴とする請求項に係る撮像装置。 A first image that is an image captured by irradiation with the illumination device, and a second image that is captured under an exposure condition that substantially includes an exposure component caused by external light different from the first image; of by selecting one of the two images, or by combining these two images, further comprising a recording image generating means for generating a third image is a utilization object image of the recording or the like, the The area-corresponding gradation correcting means is configured to give different gradation characteristics to the main subject area and the background area in the process of generating the third image by the recorded image generating means. An imaging apparatus according to claim 3 . 前記露出制御手段は、前記第1の画像の撮像に当たっては外光の影響を排除するために、実質露光時間を前記第2の画像の撮像時よりも小さくし、前記記録画像生成手段は前記第2の画像を選択することにより前記第3の画像を生成するように構成されていることを特徴とする請求項に係る撮像装置。The exposure control means sets a substantial exposure time to be shorter than that at the time of capturing the second image in order to eliminate the influence of external light when capturing the first image, and the recorded image generating means includes the first image. The imaging apparatus according to claim 4 , wherein the third image is generated by selecting two images. 前記露出制御手段は、前記第1の画像の撮像と前記第2の画像の撮像とが同じ露出値になるように前記露出手段を制御し、前記領域設定手段は前記第1の画像と前記照明装置による照射を伴わずに撮像した第2の画像との比較に基づいて前記主要被写体領域の弁別設定を行うように構成されていることを特徴とする請求項又はに係る撮像装置。The exposure control unit controls the exposure unit so that the first image and the second image have the same exposure value, and the region setting unit includes the first image and the illumination. Comparative imaging apparatus according to claim 4 or 5, characterized in that it is configured to perform discrimination setting of the main subject area based on the second image taken without irradiation by the apparatus.
JP10875099A 1999-04-16 1999-04-16 Imaging device Expired - Fee Related JP4270638B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10875099A JP4270638B2 (en) 1999-04-16 1999-04-16 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10875099A JP4270638B2 (en) 1999-04-16 1999-04-16 Imaging device

Publications (2)

Publication Number Publication Date
JP2000307939A JP2000307939A (en) 2000-11-02
JP4270638B2 true JP4270638B2 (en) 2009-06-03

Family

ID=14492567

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10875099A Expired - Fee Related JP4270638B2 (en) 1999-04-16 1999-04-16 Imaging device

Country Status (1)

Country Link
JP (1) JP4270638B2 (en)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3757747B2 (en) * 2000-04-03 2006-03-22 株式会社ニコン Electronic camera, recording medium storing image processing program, and image processing method
JP4275344B2 (en) 2002-01-22 2009-06-10 富士フイルム株式会社 Imaging apparatus, imaging method, and program
JP3974798B2 (en) * 2002-03-06 2007-09-12 オリンパス株式会社 Imaging device
JP2003264739A (en) * 2002-03-07 2003-09-19 Olympus Optical Co Ltd Digital camera
JP3974799B2 (en) * 2002-03-07 2007-09-12 オリンパス株式会社 Digital camera
JP4774915B2 (en) * 2005-10-26 2011-09-21 カシオ計算機株式会社 Imaging apparatus, gradation correction method, and program
JP4645414B2 (en) * 2005-11-01 2011-03-09 株式会社ニコン Imaging device
JP4528349B2 (en) * 2009-06-25 2010-08-18 オリンパス株式会社 Imaging device
CN109155823A (en) * 2016-04-06 2019-01-04 株式会社尼康 Image processing apparatus, transcriber, reproduces program and reproducting method at electronic equipment

Also Published As

Publication number Publication date
JP2000307939A (en) 2000-11-02

Similar Documents

Publication Publication Date Title
JP5141733B2 (en) Imaging apparatus, imaging method, and program
JP4826028B2 (en) Electronic camera
JP5319078B2 (en) Camera, camera image processing method, program, and recording medium
JP5639140B2 (en) camera
US8059187B2 (en) Image capturing apparatus
JP2001311980A (en) Exposure controller
JP2011139171A (en) Video processing apparatus, and video processing method
JP4270638B2 (en) Imaging device
JP2000308068A (en) Image pickup device
JP5149055B2 (en) Imaging device
JP2002223387A (en) Imaging unit
JP5371719B2 (en) Imaging apparatus and control method thereof
JP2008053811A (en) Electronic camera
JP2002232777A (en) Imaging system
JP2002092607A (en) Image processor, image state determining method and recording medium
JPH10322592A (en) Method and device for controlling electronic camera
JP2000307940A (en) Image pickup device
JP2002369074A (en) Exposure controller for optical equipment and its program and its method
JP2009063674A (en) Imaging apparatus and flash control method
JP6300514B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JPH05122599A (en) Exposure controller for video camera
JP2000102022A (en) Digital camera
JP4142199B2 (en) Imaging device
JP2006157342A (en) Imaging apparatus
JPH06189186A (en) Method and device for judging back light and method and device for correcting back light in video camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080805

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090203

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090224

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120306

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120306

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120306

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130306

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140306

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees