JP4421788B2 - 撮像装置、画像処理装置、画像処理方法、及びプログラム - Google Patents
撮像装置、画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP4421788B2 JP4421788B2 JP2001148424A JP2001148424A JP4421788B2 JP 4421788 B2 JP4421788 B2 JP 4421788B2 JP 2001148424 A JP2001148424 A JP 2001148424A JP 2001148424 A JP2001148424 A JP 2001148424A JP 4421788 B2 JP4421788 B2 JP 4421788B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- image processing
- detected
- unit
- elements
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Studio Devices (AREA)
Description
【発明の属する技術分野】
本発明は、撮像装置、画像処理装置、画像処理方法、及びプログラムに関する。特に、画像に基づいて画像処理する撮像装置、画像処理装置、画像処理方法、及びプログラムに関する。
【0002】
【従来の技術】
従来の撮像装置において撮像した画像には、幾何学的ずれが生じている場合がある。例えば、撮像時において撮像装置が傾いていた場合には、撮像した画像に天地のずれが生じる。また、レンズ等の特性により、撮像した画像に歪みが生じる場合もある。また、撮像しようとした被写体が画像の端に寄りすぎていたり、例えば空のような、不要な被写体が画像の大半を占めてしまう場合があった。
【0003】
【発明が解決しようとする課題】
従来、幾何学的ずれが生じている画像に対して、当該幾何学的ずれを修正するためには、撮像者が、撮像した画像のそれぞれに対し、当該幾何学的ずれを確認し、それぞれの画像に対し、複雑な画像処理を行う必要があった。この場合、撮像者がそれぞれの画像について確認及び画像処理を行うため、時間と手間がかかっていた。
【0004】
そこで本発明は、上記の課題を解決することのできる撮像装置、画像処理装置、画像処理方法、及びプログラムを提供することを目的とする。この目的は、特許請求の範囲における独立項に記載の特徴の組み合わせにより達成される。また従属項は本発明の更なる有利な具体例を規定する。
【0005】
【課題を解決するための手段】
上記課題を解決するために、本発明の第1の形態においては、被写体を撮像する撮像装置であって、被写体の画像を撮像する撮像部と、撮像部が撮像した画像を格納する画像記憶部と、画像から、予め定められた被写体要素を検出するための検出条件を格納する条件記憶部と、検出条件に基づいて、画像から、被写体要素に対応する画像要素を検出し、検出した画像要素の画像における位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、幾何学的ずれが小さくなるように、画像に対して画像処理する画像処理部とを備えることを特徴とする撮像装置を提供する。
【0006】
画像処理部は、幾何学的ずれに基づいて、画像に対する、画像の切り出し領域を算出し、算出した切り出し領域に基づいて、画像を切り出してよい。また、条件記憶部は、複数の被写体要素を検出するための複数の検出条件を格納してよい。また、画像処理部は、複数の画像要素を検出し、検出した複数の画像要素の画像における位置と、位置に関する基準との幾何学的ずれを小さくしてよい。また、画像処理部は、検出した複数の画像要素のうち、画素領域が最も大きい画像要素と、位置に関する基準との幾何学的ずれを小さくしてよい。また、画像処理部は、検出した複数の画像要素のうち、画像の中央に最も近い画像要素と、位置に関する基準との幾何学的ずれを小さくしてよい。また、複数の画像要素のうち、いずれを使用者が選択したかを受け取る入力手段を更に備え、画像処理部は、入力手段が受け取った、使用者がいずれの画像要素を選択したかに関する情報に基づく画像要素と、位置に関する基準との幾何学的ずれを小さくしてよい。
【0007】
また、条件記憶部は、画像における消失点を検出するための検出条件を更に格納し、画像処理部は、検出条件に基づいて消失点を検出し、検出した消失点の位置と、位置に関する基準とのずれを小さくしてよい。また、画像記憶部は、画像処理部が幾何学的ずれを小さくした画像を、格納してよい。また、画像記憶部は、撮像部が撮像した画像と、画像処理部が検出した幾何学的ずれとを対応づけて格納してよい。
【0008】
また、画像記憶部が格納した、幾何学的ずれを小さくした画像を表示する表示部を更に備えてよい。また、画像記憶部が格納した、画像と、画像に対応した幾何学的ずれに関する情報とを表示する表示部を更に備えてよい。また、表示部は、幾何学的ずれを小さくした複数の画像を縮小して表示してよい。また、表示部は、複数の画像を縮小した画像と、複数の画像にそれぞれ対応した幾何学的ずれに関する情報とを表示してよい。
【0009】
本発明の第2の形態においては、与えられた画像を画像処理する画像処理装置であって、与えられた画像を格納する画像記憶部と、画像から、予め定められた被写体要素を検出するための検出条件を格納する条件記憶部と、検出条件に基づいて、画像から、被写体要素に対応する画像要素を検出し、検出した画像要素の画像における位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、幾何学的ずれが小さくなるように、画像に対して画像処理する画像処理部とを備えることを特徴とする画像処理装置を提供する。
【0010】
本発明の第3の形態においては、与えられた画像を画像処理する画像処理方法であって、与えられた画像を格納する画像記憶手順と、画像から、予め定められた被写体要素を検出するための検出条件を格納する条件記憶手順と、検出条件に基づいて、画像から、被写体要素に対応する画像要素を検出し、検出した画像要素の画像における位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、幾何学的ずれが小さくなるように、画像に対して画像処理する画像処理手順とを備えることを特徴とする画像処理方法を提供する。
【0011】
本発明の第4の形態においては、画像処理装置に画像処理を実行させるためのプログラムであって、画像処理装置を、画像処理するべき画像を格納する画像記憶部と、画像から、予め定められた被写体要素を検出するための検出条件を格納する条件記憶部と、検出条件に基づいて、画像から、被写体要素に対応する画像要素を検出し、検出した画像要素の画像における位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、幾何学的ずれが小さくなるように、画像に対して画像処理する画像処理部として機能させることを特徴とするプログラムを提供する。
【0012】
尚、上記の発概要は、本発明の必要な特徴の全てを列挙したものではなく、これらの特徴群のサブコンビネーションも又、発明となりうる。
【0013】
【発明の実施の形態】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではなく、又実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【0014】
図1は、本発明に係る撮像装置10の構成の一例を示すブロック図である。撮像装置10は、一例として、ディジタルカメラであってよい。以下、撮像装置10がディジタルカメラである場合について、説明する。撮像装置10は、主に撮像ユニット20、撮像補助ユニット38、撮像制御ユニット40、処理ユニット60、表示ユニット100、及び操作ユニット110を備える。
【0015】
撮像ユニット20は、撮影および結像に関する機構部材および電気部材を有する。撮像ユニット20は、映像を取り込んで処理を施す光学系22、絞り24、シャッタ26、光学LPF(ローパスフィルタ)28、CCD(電荷結合素子イメージセンサー)30、および撮像信号処理部32を含む。光学系22は、フォーカスレンズやズームレンズ等を有してよい。この構成により、被写体像がCCD30の受光面上に結像する。結像した被写体像の光量に応じ、CCD30の各センサエレメント(図示せず)に電荷が蓄積される(以下その電荷を「蓄積電荷」という)。蓄積電荷は、リードゲートパルスによってシフトレジスタ(図示せず)に読み出され、レジスタ転送パルスによって電圧信号として順次読み出される。
【0016】
撮像装置10が、ディジタルカメラである場合、撮像装置10は、一般に電子シャッタ機能を有するので、シャッタ26のような機械式シャッタは必須ではない。この場合、電子シャッタ機能を実現するために、CCD30にシャッタゲートを介してシャッタドレインが設けられる。シャッタゲートを駆動すると蓄積電荷がシャッタドレインに掃き出される。シャッタゲートの制御により、各センサエレメントに電荷を蓄積するための時間、すなわちシャッタスピードが制御できる。
【0017】
CCD30から出力される電圧信号、すなわちアナログ信号は撮像信号処理部32でR、G、B成分に色分解され、まずホワイトバランスが調整される。つづいて撮像信号処理部32はガンマ補正を行い、必要なタイミングでR、G、B信号を順次A/D変換(アナログ/ディジタル変換)し、その結果得られたデジタルの画像データ(以下単に「ディジタル画像データ」とよぶ)を処理ユニット60へ出力する。
【0018】
撮像補助ユニット20は、ファインダ34とストロボ36を有する。ファインダ34には図示しないLCD(液晶ディスプレイ)を内装してもよく、その場合、後述のメインCPU(中央演算装置)62等からの各種情報をファインダ34内に表示できる。ストロボ36は、コンデンサ(図示せず)に蓄えられたエネルギが放電管36aに供給されたときそれが発光することで機能する。
【0019】
撮像制御ユニット40は、ズーム駆動部42、フォーカス駆動部44、絞り駆動部46、シャッタ駆動部48、それらを制御する撮像系CPU50、測距センサ52、および測光センサ54をもつ。ズーム駆動部42などの駆動部は、それぞれステッピングモータ等の駆動手段を有する。後述のレリーズスイッチ114の押下に応じ、測距センサ52は被写体までの距離を測定し、測光センサ54は被写体輝度を測定する。測定された距離のデータ(以下単に「測距データ」という)および被写体輝度のデータ(以下単に「測光データ」という)は撮像系CPU50へ送られる。撮像系CPU50は、ユーザから指示されたズーム倍率等の撮影情報に基づき、ズーム駆動部42とフォーカス駆動部44を制御して光学系22のズーム倍率とピントの調整を行う。
【0020】
撮像系CPU50は、1画像フレームのRGBのデジタル信号積算値、すなわちAE情報に基づいて絞り値とシャッタスピードを決定する。決定された値にしたがい、絞り駆動部46とシャッタ駆動部48がそれぞれ絞り量の調整とシャッタ26の開閉を行う。
【0021】
撮像系CPU50はまた、測光データに基づいてストロボ36の発光を制御し、同時に絞り24の絞り量を調整する。ユーザが映像の取込を指示したとき、CCD30が電荷蓄積を開始し、測光データから計算されたシャッタ時間の経過後、蓄積電荷が撮像信号処理部32へ出力される。
【0022】
処理ユニット60は、撮像装置10全体、とくに処理ユニット60自身を制御するメインCPU62と、これによって制御されるメモリ制御部64、YC処理部70、オプション装置制御部74、圧縮伸張処理部78、通信I/F部80、及び画像処理部220を有する。メインCPU62は、シリアル通信などにより、撮像系CPU50との間で必要な情報をやりとりする。メインCPU62の動作クロックは、クロック発生器88から与えられる。クロック発生器88は、撮像系CPU50、表示ユニット100に対してもそれぞれ異なる周波数のクロックを提供する。
【0023】
メインCPU62には、キャラクタ生成部84とタイマ86が併設されている。タイマ86は電池でバックアップされ、つねに日時をカウントしている。このカウント値から撮影日時に関する情報、その他の時刻情報がメインCPU62に与えられる。キャラクタ生成部84は、撮影日時、タイトル等の文字情報を発生し、この文字情報が適宜撮影画像に合成される。
【0024】
メモリ制御部64は、不揮発性メモリ66とメインメモリ68を制御する。不揮発性メモリ66は、EEPROM(電気的消去およびプログラム可能なROM)やFLASHメモリなどで構成され、ユーザーによる設定情報や出荷時の調整値など、撮像装置10の電源がオフの間も保持すべきデータが格納されている。不揮発性メモリ66には、場合によりメインCPU62のブートプログラムやシステムプログラムなどが格納されてもよい。一方、メインメモリ68は一般にDRAMのように比較的安価で容量の大きなメモリで構成される。メインメモリ68は、撮像ユニット20から出力されたデータを格納するフレームメモリとしての機能、各種プログラムをロードするシステムメモリとしての機能、その他ワークエリアとしての機能をもつ。不揮発性メモリ66とメインメモリ68は、処理ユニット60内外の各部とメインバス82を介してデータのやりとりを行う。
【0025】
YC処理部70は、ディジタル画像データにYC変換を施し、輝度信号Yと色差(クロマ)信号B−Y、R−Yを生成する。輝度信号と色差信号はメモリ制御部64によってメインメモリ68に一旦格納される。圧縮伸張処理部78はメインメモリ68から順次輝度信号と色差信号を読み出して圧縮する。こうして圧縮されたデータ(以下単に「圧縮データ」という)は、オプション装置制御部74を介してオプション装置76の一種であるメモリカードへ書き込まれる。
【0026】
処理ユニット60はさらにエンコーダ72を有する。エンコーダ72は輝度信号と色差信号を入力し、これらをビデオ信号(NTSCやPAL信号)に変換してビデオ出力端子90から出力する。オプション装置76に記録されたデータからビデオ信号を生成する場合、そのデータはまずオプション装置制御部74を介して圧縮伸張処理部78へ与えられる。つづいて、圧縮伸張処理部78で必要な伸張処理が施されたデータはエンコーダ72によってビデオ信号へ変換される。
【0027】
オプション装置制御部74は、オプション装置76に認められる信号仕様およびメインバス82のバス仕様にしたがい、メインバス82とオプション装置76の間で必要な信号の生成、論理変換、または電圧変換などを行う。撮像装置10は、オプション装置76として前述のメモリカードのほかに、例えばPCMCIA準拠の標準的なI/Oカードをサポートしてもよい。その場合、オプション装置制御部74は、PCMCIA用バス制御LSIなどで構成してもよい。
【0028】
通信I/F部80は、撮像装置10がサポートする通信仕様、たとえばUSB、RS−232C、イーサネット(商標)などの仕様に応じたプロトコル変換等の制御を行う。通信I/F部80は、必要に応じてドライバICを含み、ネットワークを含む外部機器とコネクタ92を介して通信する。そうした標準的な仕様のほかに、例えばプリンタ、カラオケ機、ゲーム機等の外部機器との間で独自のI/Fによるデータ授受を行う構成としてもよい。
【0029】
画像処理部220は、ディジタル画像データに対して、所定の画像処理をする。例えば、画像処理部220は、ディジタル画像データに対して、撮像しようとした被写体が画像の端に寄りすぎていたり、例えば空のような、不要な被写体が画像の大半を占めてしまう場合のトリミング等の画像処理をする。画像処理部220は、撮像ユニット20が出力したディジタル画像データに対して画像処理し、画像処理したディジタル画像データをYC処理部又はメインメモリ68に出力してよく、また、YC処理部がYC変換処理を施し、メインメモリ68に格納したディジタル画像データに対して画像処理し、画像処理したディジタル画像データを、メインメモリ68に格納してよい。
【0030】
画像処理部220は、不揮発性メモリ66又はメインメモリ68に格納されたプログラムに基づいて動作する。また、メモリ制御部64は、通信I/F部80を介して、外部機器から画像処理部220を動作させるためのプログラムを受け取り、不揮発性メモリ66に格納してよい。また、メモリ制御部64は、オプション装置76から画像処理部220を動作させるためのプログラムを受け取り、不揮発性メモリ66に格納してよい。不揮発性メモリ66又はメインメモリ68に格納されたプログラムは、一例として処理ユニット60を、画像処理するべき画像を格納する画像記憶部と、画像から予め定められた被写体要素を検出するための、検出条件を格納する条件記憶部と、検出条件に基づいて、画像から被写体要素に対応する画像要素を検出し、検出した画像要素の画像における位置と、予め定められた被写体の位置に関する基準との幾何学的ずれにもとづいて、幾何学的ずれが小さくなるように、画像に対して画像処理を行う画像処理部として機能させる。また、当該プログラムは、例えばコンピュータ等の画像処理装置を、上述した機能動作させてもよい。当該プログラムが、処理ユニット60に行わせる処理は、後述する画像処理部220、画像記憶部210、及び条件記憶部230の機能及び動作、画像処理装置300の機能及び動作、又は画像処理方法の機能と同一又は同様である。
【0031】
表示ユニット100は、液晶モニタ102とLCDパネル104を有する。それらはLCDドライバであるモニタドライバ106、パネルドライバ108によってそれぞれ制御される。液晶モニタ102は、例えば2インチ程度の大きさでカメラ背面に設けられ、現在の撮影や再生のモード、撮影や再生のズーム倍率、電池残量、日時、モード設定のための画面、被写体画像などを表示する。LCDパネル104は例えば小さな白黒LCDでカメラ上面に設けられ、画質(FINE/NORMAL/BASICなど)、ストロボ発光/発光禁止、標準撮影可能枚数、画素数、電池容量などの情報を簡易的に表示する。
【0032】
本実施形態の場合、表示ユニット100は、さらに照明部156,158を含む。先に説明したように、本実施形態の照明部156、158は、液晶モニタ102の光源を利用して照明を行うからである。なお、照明部156,158は、独自の光源を有する、液晶モニタ102から独立した構成要素として撮像装置10に備えてもよい。
【0033】
操作ユニット110は、ユーザーが撮像装置10の動作やそのモードなどを設定または指示するために必要な機構および電気部材を含む。パワースイッチ112は、撮像装置10の電源のオンオフを決める。レリーズスイッチ114は、半押しと全押しの二段階押し込み構造になっている。一例として、半押しでAFおよびAEがロックし、全押しで撮影画像の取込が行われ、必要な信号処理、データ圧縮等の後、メインメモリ68、オプション装置76等に記録される。操作ユニット110はこれらのスイッチの他、回転式のモードダイヤルや十字キーなどによる設定を受け付けてもよく、それらは図1において機能設定部116と総称されている。操作ユニット110で指定できる動作または機能の例として、「ファイルフォーマット」、「特殊効果」、「印画」、「決定/保存」、「表示切換」等がある。ズームスイッチ118は、ズーム倍率を決める。
【0034】
以上の構成による主な動作は以下のとおりである。まず、撮像装置10のパワースイッチ112がオンされ、カメラ各部に電力が供給される。メインCPU62は、機能設定部116の状態を読み込むことで、撮像装置10が撮影モードにあるか再生モードにあるかを判断する。
【0035】
次に、メインCPU62はレリーズスイッチ114の半押し状態を監視する。スタンドが閉じた位置にある場合、メインCPU62は、半押し状態を検出すると、測光センサ54および測距センサ52からそれぞれ測光データと測距データを得る。得られたデータに基づいて撮像制御ユニット40が動作し、光学系22のピント、絞りなどの調整が行われる。メインCPU62は、半押し状態を検出すると、測光センサ54のみから測光データを得る。そして、撮像制御ユニット40は、光学系22の絞りを調整する。
【0036】
調整が完了すると、LCDモニタ102に「スタンバイ」などの文字を表示してユーザーにその旨を伝え、つづいてレリーズスイッチ114の全押し状態を監視する。レリーズスイッチ114が全押しされると、所定のシャッタ時間をおいてシャッタ26が閉じられ、CCD30の蓄積電荷が撮像信号処理部32へ掃き出される。撮像信号処理部32による処理の結果生成されたディジタル画像データはメインバス82へ出力される。
【0037】
ディジタル画像データは一旦メインメモリ68へ格納され、この後、画像処理部220、YC処理部70、及び圧縮伸張処理部78で処理を受け、オプション装置制御部74を経由してオプション装置76へ記録される。記録された画像は、フリーズされた状態でしばらくLCDモニタ102に表示され、ユーザーは撮影画像を知ることができる。以上で一連の撮影動作が完了する。
【0038】
一方、撮像装置10が再生モードの場合、メインCPU62は、メモリ制御部64を介してメインメモリ68から最後に撮影した画像を読み出し、これを表示ユニット100のLCDモニタ102へ表示する。この状態でユーザーが機能設定部116にて「順送り」、「逆送り」を指示すると、現在表示している画像の前後に撮影された画像が読み出され、LCDモニタ102へ表示される。表示ユニット100は、画像処理部220において画像処理された画像を表示してよく、また、画像処理前の画像を表示してよい。例えば、表示ユニット100は、画像処理部220において、画像要素の位置と位置に関する基準との幾何学的ずれを修正した画像を表示してよく、また、画像処理前の画像と、画像要素の位置と位置に関する基準との幾何学的ずれに関する情報を合わせて表示してよい。次に、画像処理部220における画像処理について説明する。
【0039】
図2は、撮像装置10における画像処理の一例を説明するためのブロック図である。撮像装置10は、撮像部200、画像記憶部210、画像処理部220、条件記憶部230、及び表示部240を備える。
【0040】
撮像部200は一例として、図1において説明した、撮像ユニット20、撮像制御ユニット40、及び撮像補助ユニット38と同一又は同様の機能及び構成を有し、被写体250の画像を撮像する。画像記憶部210は一例として、図1において説明した、メモリ制御部64、及び不揮発性メモリ66と同一又は同様の機能及び構成を有し、撮像部200が撮像した画像を格納する。条件記憶部230は一例として、図1において説明したメモリ制御部64、不揮発性メモリ66、及びメインメモリ68と同一又は同様の機能及び構成を有し、画像処理部220において、画像から予め定められた被写体要素を検出するための検出条件を格納する。
【0041】
画像処理部220は、図1において説明した画像処理部220と同一又は同様の機能及び構成を有し、条件記憶部230に格納された検出条件に基づいて、画像から当該被写体要素に対応する画像要素を検出し、検出した画像要素の位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、当該幾何学的ずれが小さくなるように、画像に対して画像処理をする。表示部240は、図1において説明した表示ユニット100と同一又は同様の機能及び構成を有し、画像処理部220が画像処理した画像又は撮像部200が撮像した画像を表示する。また、画像記憶部210は、画像処理部220が画像処理した画像を格納してよい。例えば、画像記憶部210は、画像処理部220が画像要素と位置に関する基準との幾何学的ずれを小さくした画像を格納してよい。また、画像記憶部210は、撮像部が撮像した画像と、画像処理部220が検出した画像要素と位置に関する基準との幾何学的ずれの情報とを対応づけて格納してもよい。
【0042】
また、表示部240は、画像記憶部210が格納した、幾何学的ずれを小さくした画像を表示してよい。また、表示部240は、画像記憶部210が格納した、画像と、画像に対応した幾何学的ずれに関する情報とを表示してもよい。つまり、表示部240は、撮像部200が撮像し、画像記憶部210が格納した画像処理していない画像と、画像処理部220が検出した画像に対応した幾何学的ずれに関する情報を表示してよい。また、表示部240は、画像記憶部210が格納した、幾何学的ずれを小さくした複数の画像を縮小して表示してよい。また、表示部240は、縮小した複数の画像と、複数の画像にそれぞれ対応した幾何学的ずれに関する情報とを表示してよい。
【0043】
図3は、画像処理部220における画像処理の一例を説明する図である。本例において、画像処理部220は、撮像部200が撮像した画像要素の位置と、位置に関する基準との幾何学的ずれを検出し、当該幾何学的ずれを小さくする画像処理を行う。
【0044】
図3(a)は、撮像部200が撮像した被写体の画像の一例を示す。図3(a)に示す画像には、被写体として、人物、建物、空、地面等が撮像されている。図3(a)に示すように、当該画像において、主要な被写体である人物が、画像の下方に寄りすぎ、重要でない被写体である空の領域が大きく、バランスの悪い構図となっている。本例における画像処理部220は、このように、バランスの悪い構図の画像に対して、被写体の位置を修正する。
【0045】
まず、画像処理部220は、条件記憶部230に格納された検出条件に基づいて、画像から、予め定められた被写体要素に対応する画像要素を検出する。一例として、図3(b)に示すように、画像処理部220は、人物の顔に対応する画像要素252を検出する。画像処理部220は、画像における各被写体要素のエッジに基づいて、検出条件に適合する画像要素を検出してよい。また、画像処理部220は、各被写体要素の色情報に基づいて、画像要素を検出してよい。例えば、画像処理部220が人物の顔を検出する場合、各被写体要素のエッジに基づいて、各被写体要素の形、色情報、及び目、鼻、口らしき物が有るか否かに基づいて、画像処理部220は、人物の顔に対応する画像要素404を検出する。この場合、条件記憶部230は、人物の顔を検出するための、人物の顔の形状情報、色情報、及び顔の構成情報等と、人物の顔の天地情報を格納する。
【0046】
次に、画像処理部220は、検出した画像要素の位置と、予め定められた被写体の位置に関する基準とのずれを検出する。本例において、条件記憶部230は、当該予め定められた被写体の位置に関する基準を格納する。例えば、条件記憶部230は、被写体の位置に関する基準として、いわゆる黄金比に基づいた位置を格納してよく、また、使用者が予め定めた位置を格納してもよい。
【0047】
次に、画像処理部220は、検出した幾何学的ずれに基づいて、画像に対する、画像の切り出し領域であるトリミング枠を算出し、算出したトリミング枠に基づいて、画像を切り出す。例えば、図3(b)に示すように、画像処理部220は、被写体の位置に関する基準と、検出した画像要素402の位置との幾何学的ずれが小さくなるように、画像を切り出すトリミング枠を設定する。つまり、画像処理部220は、設定したトリミング枠に基づいて、画像を切り出し、所定の大きさに拡大した画像において、画像要素402と、被写体の位置に関する基準とがほぼ一致するように画像処理する。本例において、条件記憶部230は、使用者によって予め定められた位置を、被写体の位置に関する基準として、トリミング後の画像要素402の位置が、当該被写体の位置に関する基準とほぼ一致するように、画像に対して画像処理する。
【0048】
本例において説明した撮像装置10によれば、画像要素の位置と、位置に関する基準との幾何学的ずれに基づいて、トリミングを行うことにより、容易に画像の構図のバランスを修正することができる。また、本例においては、画像処理部220は、一つの画像要素を検出して、検出した画像要素に基づいて画像処理を行ったが、他の例においては、画像処理部220は、複数の画像要素を検出し、検出した複数の画像要素の画像における位置と、位置に関する基準との幾何学的ずれを小さくしてよい。この場合、条件記憶部230は、複数の被写体要素を検出するための複数の検出条件を格納してよい。例えば、条件記憶部230は、人物の顔、建物、木等にそれぞれ対応した複数の検出条件を格納し、画像処理部220は、当該検出条件に基づいて、画像要素を検出してよい。
【0049】
条件記憶部230は、複数の検出条件の一例として、人物の顔、空、地面、建物等を検出するための検出条件を格納してよい。条件記憶部230は、空、又は地面を検出するための検出条件として、一例として色情報を格納してよい。画像処理部220は、画像の被写体の色情報において、所定の色が所定の画素数連続した場合に、当該被写体を空、又は地面として画像処理をしてよい。また、条件記憶部230は、建物を検出するための検出条件として、一例として、被写体の形状の情報を格納してよい。画像処理部220は、被写体のエッジを検出して、検出したエッジと、被写体の形状の情報とに基づいて、建物に対応する画像要素を検出してよい。
【0050】
また、画像処理部220は、一つの検出条件に適合する複数の画像要素を検出してもよい。例えば、画像処理部220は、人物の顔を検出するための検出条件に基づいて、人物の顔に対応する複数の画像要素を検出してよい。画像処理部220は、複数の被写体の位置に関する基準と、複数の画像要素の位置とのずれの総和が最も小さくなるように、画像処理してよく、また、複数の画像要素のうち、主要画像要素を一つ選択し、選択した主要被写体に対応する画像要素に基づいて、画像処理してよい。
【0051】
画像処理部220は、例えば、検出した複数の画像要素のうち、画素領域が最も大きい画像要素と、位置に関する基準との幾何学的ずれを小さくするように、画像処理してよい。また、画像処理部220は、例えば、検出した複数の画像要素のうち、画像の中央に最も近い画像要素と、位置に関する基準との幾何学的ずれを小さくするように画像処理してよい。また、撮像装置10は、画像処理部220が検出した複数の画像要素のうち、いずれを使用者が選択したかを受け取る入力手段を更に備え、画像処理部220は、入力手段が受け取った、使用者がいずれの画像要素を選択したかに関する情報に基づく画像要素と、位置に関する基準との幾何学的ずれを小さくするように画像処理してよい。また、画像処理部220は、画像における消失点を検出し、検出した消失点の位置と、位置に関する基準とのずれを小さくするように画像処理してよい。例えば、消失点とは、透視図法における無限遠点を指してよく、被写体の実空間内にある平行な直線が、画像上で交わる点を指してよい。以下、画像処理部220が、消失点に基づいて画像処理する場合について説明する。
【0052】
図4は、画像処理部220が、画像の消失点に基づいて画像処理する場合を説明する図である。本例において、条件記憶部230は、画像における消失点を検出するための検出条件を更に格納し、画像処理部220は、検出条件に基づいて消失点を検出し、検出した消失点の位置と、位置に関する基準との幾何学的ずれを小さくするように画像処理する。また、前述したように、画像処理部220は、主要な画像要素を検出し、検出した画像要素と、位置に関する基準との幾何学的ずれを小さくするように画像処理する。この場合、条件記憶部230は、複数の位置に関する基準を格納することが好ましい。
【0053】
図4(a)は、撮像部200が撮像した画像の一例である。図4(a)に示す画像には、被写体として複数の人物と、壁が撮像されている。まず、画像処理部220は、画像から、主要被写体と、画像の消失点とを検出する。画像処理部220は、図2及び図3に関連して説明した画像処理部220と同様に、検出条件に基づいて、主要な被写体に対応する画像要素を検出する。本例において、図4(b)に示すように、画像処理部220は、人物の顔に対応する画像要素506を検出する。また、画像処理部220は、画像の消失点を検出する。例えば、画像処理部220は、画像から、平行な直線成分に対応する2つの画像要素を検出し、当該2つの画像要素の交点を、画像の消失点508として検出する。この場合、画像処理部220は、傾きの差が予め定められた範囲内である2つの画像要素を、平行な直線成分に対応する画像要素として検出してよい。また、画像要素までの距離情報を検出し、検出した距離情報と、画像要素の傾きに基づいて、画像要素に対応する被写体要素の、実空間における傾きを算出し、実空間における傾きの差が予め定められた範囲内である2つの画像要素を、平行な直線成分に対応する画像要素として検出してもよい。
【0054】
画像処理部220は、検出した主要な被写体506及び消失点508と、予め定められた位置に関する基準との幾何学的ずれが小さくなるように画像処理する。例えば、画像処理部220は、図4(c)に示すような、予め定められた位置に関する基準である点510、点512、点514、又は点516のいずれかの位置に、被写体506及び消失点508が配置されるように、画像に対してトリミングを行う。本例においては、画像処理部220は、点510に、被写体506が、点512に消失点508が配置されるように、画像を切り出し、切り出した画像を所定の大きさに拡大する。本例において、位置に関する基準は、図4(c)に示したような位置を示しているが、他の例においては、他の位置を当該位置に関する基準としてよいことは明らかである。例えば使用者が、位置に関する基準を予め撮像装置10に入力していてもよい。また、本例においては、画像処理部220は、画像要素と、消失点とに基づいて、画像処理したが、他の例においては、画像処理部220は、消失点の位置と、位置に関する基準との幾何学的ずれを小さくする画像処理をしてよい。本例において説明した撮像装置10によれば、画像の消失点を検出し、検出した消失点の位置と、位置に関する基準との幾何学的ずれを小さくすることにより、バランスのよい画像を得ることができる。
【0055】
図5は、本発明に係る画像処理装置300の構成の一例を示すブロック図である。画像処理装置300は、例えば、表示装置を備えるコンピュータ等であって、与えられた画像を画像処理する。画像処理装置300は、画像記憶部210と、画像処理部220と、条件記憶部230と、表示部240とを備える。画像記憶部210は、図2から図4に関連して説明した画像記憶部210と同一又は同様の機能及び構成を有し、与えられた画像を格納する。条件記憶部230は、図2から図4に関連して説明した条件記憶部230と同一又は同様の機能及び構成を有し、画像記憶部210が格納した画像から、予め定められた被写体要素を検出するための検出条件を格納する。
【0056】
画像処理部220は、図2から図4に関連して説明した画像処理部220と同一又は同様の機能及び構成を有し、条件記憶部240に格納された被写体要素を検出するための検出条件に基づいて、画像記憶部210が格納した画像から、被写体要素に対応する画像要素を検出し、検出した画像要素の位置と、予め定められた被写体の位置に関する基準との幾何学的ずれに基づいて、幾何学的ずれが小さくなるように、画像に対して画像処理する。
【0057】
表示部240は、図2から図4に関連して説明した表示部240と同一又は同様の機能及び構成を有し、画像処理部220が画像処理した画像を表示する。また、表示部240は、与えられた画像と、与えられた画像に対応した幾何学的ずれに関する情報とをあわせて表示してもよい。
【0058】
本例における画像処理装置300によれば、検出した画像要素の位置に関する情報に基づいて、画像処理することにより、画像における構図バランスを容易に修正することができる。また、位置に関する基準として所望の位置を指定することにより、使用者にとって、所望の構図バランスを有する画像を容易に生成することができる。
【0059】
図6は、本発明に係る画像処理方法のフローチャートの一例を示す。本例における画像処理方法は、図5に関連して説明した画像処理装置300における画像処理と同一又は同様の処理を行う。まず、画像記憶手順で、与えられた画像を格納する(S302)。画像記憶手順は、図5に関連して説明した画像記憶部210における処理と同様の処理を行う。また、条件記憶手順で、与えられた画像から、予め定められた被写体要素を検出するための検出条件を格納する(S304)。条件記憶手順は、図5に関連して説明した条件記憶部230における処理と同様の処理を行う。画像記憶手順と、条件記憶手順とは、いずれを先に行ってもよい。
【0060】
次に、画像処理手順で、画像の幾何学的ずれを小さくする。画像処理手順(S306〜S312)では、図5に関連して説明した画像処理部220における処理と同様の処理を行う。画像処理手順は、まず検出条件に基づいて、画像から被写体要素に対応する画像要素又は/及び消失点を検出する(S306)。次に、検出した画像要素又は/及び消失点の位置と、予め定められた被写体の位置に関する基準との幾何学的ずれを検出する(S308)。S308では図3又は図4に関連して説明した方法で当該幾何学的ずれを検出する。次に、画像要素又は/及び消失点の位置と、予め定められた被写体の位置に関する基準との幾何学的ずれが有るか否かを判定する(S308)。当該幾何学的ずれが無い場合、画像処理方法の処理を終了する。また、当該幾何学的ずれが有る場合、当該幾何学的ずれが小さくなるように、画像に対して画像処理する(S312)。S312では、図3又は図4に関連して説明した方法で、当該幾何学的ずれが小さくなるように、画像に対して画像処理する。
【0061】
以上説明した画像処理方法によれば、与えられた画像から検出した画像要素又は/及び消失点の位置に関する情報に基づいて、与えられた画像の構図バランスを容易に修正することができる。また、使用者が、位置に関する基準を予め与えることにより、所望の構図バランスの画像を容易に得ることができる。
【0062】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【0063】
【発明の効果】
上記説明から明らかなように、本発明に係る撮像装置、画像処理装置、画像処理方法、及びプログラムによれば、画像要素の位置と、位置に関する基準との幾何学的ずれを検出し、当該幾何学的ずれを容易に修正し、バランスのよい画像を得ることができる。
【図面の簡単な説明】
【図1】 本発明に係る撮像装置10の構成の一例を示すブロック図である。
【図2】 撮像装置10における画像処理の一例を説明するためのブロック図である。
【図3】 画像処理部220における画像処理の一例を説明する図である。
【図4】 画像処理部220が、画像の消失点に基づいて画像処理する場合を説明する図である。
【図5】 本発明に係る画像処理装置300の構成の一例を示すブロック図である。
【図6】 本発明に係る画像処理方法のフローチャートの一例を示す。
【符号の説明】
10・・・撮像装置、20・・・撮像ユニット、22・・・光学系、24・・・絞り、26・・・シャッタ、28・・・光学LPF、30・・・CCD、32・・・撮像信号処理部、34・・・ファインダ、36・・・ストロボ、38・・・撮像補助ユニット、40・・・撮像制御ユニット、42・・・ズーム駆動部、44・・・フォーカス駆動部、46・・・絞り駆動部、48・・・シャッタ駆動部、50・・・撮像系CPU、52・・・測距センサ、54・・・測光センサ、62・・・メインCPU、64・・・メモリ制御部、66・・・不揮発性メモリ、68・・・メインメモリ、70・・・YC処理部、72・・・エンコーダ、74・・・オプション装置制御部、76・・・オプション装置、78・・・圧縮伸張処理部、80・・・通信I/F部、82・・・メインバス、84・・・キャラクタ生成部、86・・・タイマ、88・・・クロック発生器、100・・・表示ユニット、102・・・液晶モニタ、104・・・LCDパネル、106・・・モニタドライバ、108・・・パネルドライバ、110・・・操作ユニット、112・・・パワースイッチ、114・・・レリーズスイッチ、116・・・機能設定部、118・・・ズームスイッチ、158・・・照明部、200・・・撮像部、210・・・画像記憶部、220・・・画像処理部、230・・・条件記憶部、240・・・表示部、250・・・被写体、402・・・画像要素、404・・・トリミング枠、506・・・画像要素、508・・・消失点
Claims (16)
- 被写体を撮像する撮像装置であって、
前記被写体の画像を撮像する撮像部と、
前記撮像部が撮像した前記画像を格納する画像記憶部と、
複数の被写体要素のそれぞれを前記画像から検出するための複数の検出条件、および前記画像における消失点を検出するための検出条件を格納する条件記憶部と、
前記複数の検出条件に基づいて、前記複数の被写体要素のそれぞれに対応する複数の画像要素を検出し、前記画像における消失点を検出するための検出条件に基づいて、傾きの差が予め定められた範囲内である2つの画像要素を、平行な直線成分に対応する画像要素として検出し、検出した2つの画像要素の交点を、前記消失点として検出し、検出した前記複数の画像要素の前記画像における位置と、予め定められた複数の被写体のそれぞれの位置に関する基準との幾何学的ずれ、および検出した前記消失点の位置と、前記位置に関する基準との幾何学的ずれの総和が最小になるように、前記画像に対して画像処理する画像処理部と
を備えることを特徴とする撮像装置。 - 前記画像処理部は、前記幾何学的ずれに基づいて、前記画像の切り出し領域を算出し、算出した前記切り出し領域に基づいて、前記画像を切り出すことを特徴とする請求項1に記載の撮像装置。
- 前記画像記憶部が格納した、前記幾何学的ずれの総和を最小にした前記画像を表示する表示部をさらに備えることを特徴とする請求項1または請求項2に記載の撮像装置。
- 前記表示部は、前記画像記憶部が格納した、前記画像と、前記画像に対応した前記幾何学的ずれに関する情報とを表示することを特徴とする請求項3に記載の撮像装置。
- 与えられた画像を画像処理する画像処理装置であって、
与えられた画像を格納する画像記憶部と、
複数の被写体要素のそれぞれを前記画像から検出するための複数の検出条件、および前記画像における消失点を検出するための検出条件を格納する条件記憶部と、
前記複数の検出条件に基づいて、前記複数の被写体要素のそれぞれに対応する複数の画像要素を検出し、前記画像における消失点を検出するための検出条件に基づいて、傾きの差が予め定められた範囲内である2つの画像要素を、平行な直線成分に対応する画像要素として検出し、検出した2つの画像要素の交点を、前記消失点として検出し、検出した前記複数の画像要素の前記画像における位置と、予め定められた複数の被写体のそれぞれの位置に関する基準との幾何学的ずれ、および検出した前記消失点の位置と、前記位置に関する基準との幾何学的ずれの総和が最小になるように、前記画像に対して画像処理する画像処理部と
を備えることを特徴とする画像処理装置。 - 前記画像処理部は、前記幾何学的ずれに基づいて、前記画像の切り出し領域を算出し、算出した前記切り出し領域に基づいて、前記画像を切り出すことを特徴とする請求項5に記載の画像処理装置。
- 前記画像記憶部が格納した、前記幾何学的ずれの総和を最小にした前記画像を表示する表示部をさらに備えることを特徴とする請求項5または請求項6に記載の画像処理装置。
- 前記表示部は、前記画像記憶部が格納した、前記画像と、前記画像に対応した前記幾何学的ずれに関する情報とを表示することを特徴とする請求項7に記載の画像処理装置。
- 与えられた画像を画像処理する画像処理方法であって、
与えられた画像を格納する画像記憶手順と、
複数の被写体要素のそれぞれを前記画像から検出するための複数の検出条件、および前記画像における消失点を検出するための検出条件を格納する条件記憶手順と、
前記複数の検出条件に基づいて、前記複数の被写体要素のそれぞれに対応する複数の画像要素を検出し、前記画像における消失点を検出するための検出条件に基づいて、傾きの差が予め定められた範囲内である2つの画像要素を、平行な直線成分に対応する画像要素として検出し、検出した2つの画像要素の交点を、前記消失点として検出し、検出した前記複数の画像要素の前記画像における位置と、予め定められた複数の被写体のそれぞれの位置に関する基準との幾何学的ずれ、および検出した前記消失点の位置と、前記位置に関する基準との幾何学的ずれの総和が最小になるように、前記画像に対して画像処理する画像処理手順と
を備えることを特徴とする画像処理方法。 - 前記画像処理手順は、前記幾何学的ずれに基づいて、前記画像の切り出し領域を算出し、算出した前記切り出し領域に基づいて、前記画像を切り出すことを特徴とする請求項9に記載の画像処理方法。
- 前記画像記憶手順において格納された、前記幾何学的ずれの総和を最小にした前記画像を表示する表示手順をさらに備えることを特徴とする請求項9または請求項10に記載の画像処理方法。
- 前記表示手順は、前記画像記憶手順において格納された、前記画像と、前記画像に対応した前記幾何学的ずれに関する情報とを表示することを特徴とする請求項11に記載の画像処理方法。
- 画像処理装置に画像処理を実行させるためのプログラムであって、
コンピュータを、
画像処理するべき画像を格納する画像記憶部と、
複数の被写体要素のそれぞれを前記画像から検出するための複数の検出条件、および前記画像における消失点を検出するための検出条件を格納する条件記憶部と、
前記複数の検出条件に基づいて、前記複数の被写体要素のそれぞれに対応する複数の画像要素を検出し、前記画像における消失点を検出するための検出条件に基づいて、傾きの差が予め定められた範囲内である2つの画像要素を、平行な直線成分に対応する画像要素として検出し、検出した2つの画像要素の交点を、前記消失点として検出し、検出した前記複数の画像要素の前記画像における位置と、予め定められた複数の被写体のそれぞれの位置に関する基準との幾何学的ずれ、および検出した前記消失点の位置と、前記位置に関する基準との幾何学的ずれの総和が最小になるように、前記画像に対して画像処理する画像処理部
として機能させることを特徴とするプログラム。 - 前記画像処理部は、前記幾何学的ずれに基づいて、前記画像に対する、画像の切り出し領域を算出し、算出した前記切り出し領域に基づいて、前記画像を切り出すことを特徴とする請求項13に記載のプログラム。
- 前記画像記憶部が格納した、前記幾何学的ずれの総和を最小にした前記画像を表示する表示部をさらに備えることを特徴とする請求項13または請求項14に記載のプログラム。
- 前記表示部は、前記画像記憶部が格納した、前記画像と、前記画像に対応した前記幾何学的ずれに関する情報とを表示することを特徴とする請求項15に記載のプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001148424A JP4421788B2 (ja) | 2001-05-17 | 2001-05-17 | 撮像装置、画像処理装置、画像処理方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001148424A JP4421788B2 (ja) | 2001-05-17 | 2001-05-17 | 撮像装置、画像処理装置、画像処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002344722A JP2002344722A (ja) | 2002-11-29 |
JP4421788B2 true JP4421788B2 (ja) | 2010-02-24 |
Family
ID=18993738
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001148424A Expired - Fee Related JP4421788B2 (ja) | 2001-05-17 | 2001-05-17 | 撮像装置、画像処理装置、画像処理方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4421788B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4556114B2 (ja) * | 2004-10-08 | 2010-10-06 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP4765340B2 (ja) * | 2005-03-07 | 2011-09-07 | 株式会社ニコン | 顕微鏡システム |
-
2001
- 2001-05-17 JP JP2001148424A patent/JP4421788B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002344722A (ja) | 2002-11-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7236193B2 (en) | Apparatus and method to capture image and other data and recording onto multiple recording medium | |
JP3971100B2 (ja) | デジタルカメラ及び画像投影方法 | |
JP3806038B2 (ja) | 画像処理システム及び撮像装置 | |
US20030150973A1 (en) | Focusing apparatus | |
JP4176328B2 (ja) | 撮像装置、画像処理装置、画像処理方法、及びプログラム | |
JP4124404B2 (ja) | 撮像装置、画像処理装置、画像処理方法、及びプログラム | |
JP2001197347A (ja) | 情報記録装置、情報取得方法、およびデジタルカメラ | |
US7433099B2 (en) | Image sensing apparatus, image sensing method, program, and storage medium | |
JP2003018437A (ja) | 画像撮像装置 | |
JP4034029B2 (ja) | デジタルカメラ | |
JP4421788B2 (ja) | 撮像装置、画像処理装置、画像処理方法、及びプログラム | |
JP3957147B2 (ja) | 合焦装置 | |
JP2002344724A (ja) | 撮像装置、画像処理装置、画像処理方法、及びプログラム | |
JP2009005356A (ja) | 撮像装置、画像処理装置、画像処理システム、画像処理方法、及び画像処理プログラム | |
JP2003209737A (ja) | 撮像装置 | |
JP2003242504A (ja) | 画像処理装置 | |
JP4318873B2 (ja) | 距離情報取得装置、距離情報取得方法、プログラム、及び撮像装置 | |
JP2002359771A (ja) | 撮像装置、画像処理装置、画像処理方法、及びプログラム | |
JP2003018479A (ja) | 画像処理装置および画像処理方法ならびに画像撮像装置 | |
JP2003043558A (ja) | 撮像装置 | |
JP4188531B2 (ja) | 撮像装置及び露出制御方法 | |
JP4054173B2 (ja) | カメラ | |
JP3943323B2 (ja) | 撮像装置、撮像方法、信号処理方法、及び画像をコンピュータに処理させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP4180234B2 (ja) | 撮影装置 | |
JP3837000B2 (ja) | 電源供給回路装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060110 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20061207 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070831 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071002 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071130 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080415 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080515 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20080623 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20080718 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091110 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091203 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121211 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4421788 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121211 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131211 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |