JP5270870B2 - 撮像装置及びその制御方法 - Google Patents

撮像装置及びその制御方法 Download PDF

Info

Publication number
JP5270870B2
JP5270870B2 JP2007181445A JP2007181445A JP5270870B2 JP 5270870 B2 JP5270870 B2 JP 5270870B2 JP 2007181445 A JP2007181445 A JP 2007181445A JP 2007181445 A JP2007181445 A JP 2007181445A JP 5270870 B2 JP5270870 B2 JP 5270870B2
Authority
JP
Japan
Prior art keywords
image
imaging
exposure
special effect
target amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007181445A
Other languages
English (en)
Other versions
JP2009020217A (ja
JP2009020217A5 (ja
Inventor
久雄 八木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007181445A priority Critical patent/JP5270870B2/ja
Publication of JP2009020217A publication Critical patent/JP2009020217A/ja
Publication of JP2009020217A5 publication Critical patent/JP2009020217A5/ja
Application granted granted Critical
Publication of JP5270870B2 publication Critical patent/JP5270870B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Stroboscope Apparatuses (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Description

本発明は、デジタルカメラなどの撮像装置において、被写体像を撮像面に対して露光中に移動させながら撮影することにより特殊効果のある画像を取得する技術に関する。
近年デジタルカメラの普及が進んでおり、多くのユーザが様々なシーンで多様な撮影を行うようになっている。このような様々なシーンにおいても適切に撮影が行えるよう、予めシーンに合わせた撮影プログラムを多数用意し、撮影モードとしてユーザが選択できるようにしたカメラが多く製品化されている。
また、同時に手振れ補正機構を備えたデジタルカメラも多く製品化されている。この手振れ補正機構を備えたカメラは、ユーザの撮影時における手振れを軽減するよう、被写体像を撮像面に対して相対的に移動しないように制御される。このような手振れ補正機構を備えたカメラは、更にユーザの撮影シーンを広げる役割を担うものである。
上述の撮影モードとして、手振れ補正機構を利用して特殊効果が得られるようにしたものが紹介されている。
特許文献1は、手振れ補正機構を動かしながら露光することで、ソフトフィルタ効果やクロスフィルタ効果を得る技術を開示している。
特許文献2は、ストロボを用いて被写体を照射するタイミングと特殊効果を得るための補正機構の駆動の関係について開示している。
特許文献1、2に開示されているように、被写体像に関係なく2次元的に振らす場合は、全体の露光時間に対して移動機構の駆動は十分短い時間で済む。また、単純図形であるクロスを描くように振らす場合であれば、所定の露光時間中移動機構を繰り返し駆動しておけば良かった。
特開平2−58034号公報 特開平11−64941号公報
しかしながら、被写体像に例えば点光源が含まれるときに、露光しながら被写体像を撮像面に対し相対的に動かし、撮影画像に図形を描きたい場合がある。このような特殊効果の場合、一般には主被写体よりも点光源の方が輝度が高いため、点光源に露光量を合わせると主被写体が暗い画像になり、主被写体に露光量を合わせると点光源が過度に明るい画像になるという課題がある。
本発明は、上記の課題に鑑みてなされたものであり、特殊効果用に露光量を調整し、適正な露光量の撮影画像を得ることを目的とする。
本発明の第1の側面は、撮像装置に係り、撮像光学系により結像された被写体像を光電変換する撮像手段と、前記被写体像を前記撮像手段に対して相対的に移動させるための移動手段と、前記被写体像の露光量を制御する露出制御手段と、メモリに記憶された特殊効果用の軌跡データに基づいて、前記移動手段の特殊効果用の移動目標量を演算する演算手段と、少なくとも前記特殊効果用の移動目標量に基づいて、前記移動手段を駆動する駆動手段と、を備え、前記露出制御手段は、前記特殊効果用の移動目標量に基づいて前記移動手段が駆動される場合には、前記特殊効果用の軌跡データに基づいて前記露光量を調整し、前記撮像装置は、前記特殊効果用の移動目標量に基づいて前記移動手段を駆動したときに前記調整された露光量で撮影した第1の撮影画像と、前記特殊効果用の移動目標量を用いずに前記被写体像の輝度に応じた露光量で撮影した第2の撮影画像と、を合成する画像合成手段を更に備えることを特徴とする。
本発明の第2の側面は、撮像光学系により結像された被写体像を光電変換する撮像手段と、前記被写体像を前記撮像手段に対して相対的に移動させるための移動手段と、を備える撮像装置の制御方法に係り、前記撮像装置の演算手段が、メモリに記憶された特殊効果用の軌跡データに基づいて、前記移動手段の特殊効果用の移動目標量を演算する工程と、前記撮像装置の駆動手段が、前記特殊効果用の移動目標量に基づいて前記移動手段を駆動する工程と、前記撮像装置の露光制御手段が、前記特殊効果用の軌跡データに基づいて前記露光量を調整する工程と、前記撮像装置の画像合成手段が、前記特殊効果用の移動目標量に基づいて前記移動手段を駆動したときに前記調整された露光量で撮影した第1の撮影画像と、前記特殊効果用の移動目標量を用いずに前記被写体像の輝度に応じた露光量で撮影した第2の撮影画像と、を合成する工程と、を含むことを特徴とする。
本発明によれば、特殊効果用に露光量を調整し、適正な露光量の撮影画像を得ることができる。
(第1の実施形態)
図1は、本発明の好適な第1の実施の形態に係る撮像装置を示す図である。101はデジタルカメラ等の撮像装置全体を表す。102は撮影レンズ等の撮像光学系であり、103は撮像光学系102に配置された手振れ補正レンズであり、104は撮像光学系の光軸である。手振れ補正レンズ103は、被写体像を前記撮像手段に対して相対的に移動させるための移動手段として機能する。また、105はレンズ鏡筒であり、106は被写体像を光電変換する撮像手段としての撮像素子であり、107は画像データや種々の情報を一時的に格納するためのメモリを示す。また、108は手振れを検出するジャイロセンサによって構成される手振れ検出センサであり、109は手振れ補正レンズ103を駆動する駆動部である。110は撮像装置101に電力を供給するための電源であり、111は撮影開始を指示するためのレリーズ釦である。具体的には、押下ストロークの約半分の押下で撮影準備指示がなされ(SW1)、最後まで押し下げると撮影動作の指示がなされる(SW2)。112は被写体を照射(照明)するためのストロボである。113はメニュー表示や項目選択を行うための複数の釦やダイヤルなどによって構成される操作部を表す。撮像装置101の背面に配置された114は、撮影した画像やメニュー情報を表示したり、被写体像を逐次表示したりすることにより電子ビューファインダとして機能する表示部である。115は、絞りやNDフィルタによって構成される露出制御部である。
撮像装置101は、撮像光学系102と不図示のピント調整部を用いて、被写体像を撮像素子106近傍に結像させる。撮像素子106は、撮像光学系102により結像された被写体像を光電変換する。そして、ユーザによるレリーズ釦111の操作と同期させて、撮像素子106から画像信号を取得し、後述の処理を施してメモリ107へ記録する。このとき、ユーザの操作部113の操作による指示または自動判定により、ストロボ112を撮像動作と同期させて発光させる。また、手振れ補正をするモードの場合には、露光中に手振れ検出センサ108の信号に基づいて、駆動部109が手振れ補正レンズ103を駆動することによって、手振れによる被写体像の相対的なズレを補正する。なお、手振れ補正をするモードのON/OFFは操作部113の操作によって、表示部114に表示されるメニューから設定される。また、後述の軌跡描画を行うか否か、どのような軌跡描画を行うかの設定も、操作部113の操作によるメニュー選択により行う。
図2は、撮像装置101の電気的構成を示すブロック図である。撮像装置101は、撮像系、画像処理系、記録再生系、制御系で構成される。撮像系は、撮像光学系102及び撮像素子106を含む。画像処理系は、A/D変換器201、画像処理回路202を含む。記録再生系は、記録処理回路203、メモリ107、着脱可能な記録媒体とのインターフェース部207および着脱可能な記録媒体208を含む。制御系は、カメラシステム制御部204、手振れ検出センサ108、レンズシステム制御部205および露出制御手段としての露出制御部115を含む。レンズシステム制御部205は、手振れ補正レンズ103の位置を検出する位置検出センサ206と手振れ補正レンズ駆動部109を備えている。
撮像系は、物体からの光を撮像光学系102を介して撮像素子106の撮像面に結像する光学処理系であり、露出制御部115の制御量と撮像素子106で露光される光量に基づいて露出制御部115を制御して露光量を調節する。また、適切な光量の物体光を撮像素子106に露光する。画像処理回路202は、A/D変換器201を介して、撮像素子106から受けた撮像素子106の画素数に対応する画像信号を処理する信号処理回路である。画像処理回路202は、ホワイトバランス回路、ガンマ補正回路、補間演算による高解像度化を行う補間演算回路、画像の合成を行う画像合成回路等を有する。
記録処理回路203は、メモリ107への画像データの出力を行うと共に、表示部114に出力する像を生成し、保存する。また、記録処理回路203は、公知の方法を用いて静止画像や動画像の圧縮を行い、記録媒体208に記録する。
カメラシステム制御部204は、ユーザの操作部113に対する操作を検出して各部を制御し、レリーズ釦111に対する操作を検出して撮像のタイミング信号などを生成して出力する。手振れ検出センサ108は、手振れを検出する。レンズシステム制御部205は、カメラシステム制御部204の信号に応じて、適切にレンズなどを制御する。絞りやNDフィルタである露出制御部115は、カメラシステム制御部204の信号に応じて、適切に制御される。また、レンズシステム制御部205は、駆動部109を含み、この駆動部109を用いて手振れ補正レンズ103を駆動する。
制御系は、外部操作に応答して、撮像系、画像処理系、記録再生系をそれぞれ制御する。例えば、レリーズ釦111の押下を検出して、撮像素子106の駆動、画像処理回路202の動作、記録処理回路203での圧縮処理などを制御する。
カメラシステム制御部204には、手振れ検出センサ108が接続されている。操作部113の操作によってメニューから手振れ補正を行うモードが設定されると、この手振れセンサ108の信号に基づいてレンズシステム制御部205に目標位置信号が送られ、駆動部109が手振れ補正レンズ103を駆動する。また、軌跡描画を行う軌跡描画モードが設定された場合は、メモリ107から読み出された特殊効果用の軌跡データに従って駆動部109が手振れ補正レンズ103を駆動する。
次に、手振れ補正システムについて、図3〜図8を用いて詳細に説明する。
手振れ補正系の制御ブロックは、図3に示すように構成されている。手振れ検出センサ108で検出された手振れ信号は、所定の周波数以上の信号を通過させるハイパスフィルタ302を通過した後、積分器303により振れ量に換算され、手振れ補正用の第1の移動目標量300aが生成される。そして、この換算された振れ量に、手振れ補正レンズ103の位置を検出する位置検出センサ206の出力信号が、演算部304において加味され、駆動部109はこの信号に基づいて手振れ補正レンズ103を駆動する。
このように通常の手振れ補正制御であれば、この第1の移動目標量300aに基づいて駆動部109を制御し、手振れ補正レンズ103を駆動することによって、手振れを相殺する。本実施形態においては、更に、軌跡制御部305が出力する特殊効果用の第2の移動量301が、第1の移動目標量300aに加算されて第3の移動目標量300bが生成される。そして、この第3の移動目標量300bに、手振れ補正レンズ103の位置を検出する位置検出センサ206の検出信号が、演算部304において加味される。駆動部109はこの信号に基づいて、手振れ補正レンズ103を駆動する。軌跡制御部305は、具体的には後述するが、メモリ107に記憶された軌跡データが入力され、これを第2の移動量301に換算して所定のタイミングで出力するものである。なお、第1の移動目標量300aと第2の移動量301は、いずれも1枚の撮影中(撮像素子106への露光中)の間も時々刻々と変更される量である。これについても具体的には後述する。
また、ハイパスフィルタ302、積分器303、演算部304および軌跡制御部305はカメラシステム制御部204に内蔵されている。また、手振れセンサ108および位置検出センサ206の出力は不図示のA/D変換器を介してそれぞれハイパスフィルタ302および演算部304に入力される。更に演算部304から出力される駆動量信号は、不図示のD/A変換器によってアナログ信号に変換される。
上記の説明においては、手振れ補正レンズ103の移動方向につき1軸を対象に1系統分説明したが、実際には手振れ補正レンズ103は、光軸104に対して垂直な面内で移動する。従って、平面内の2軸で移動させるためには2系統分必要となり、本実施形態においても2系統有するものとする。
図4、図5および図6は、図3のフィードバック制御系による手振れ補正レンズ103の動作を概略的に説明するための図である。横軸は時間の経過を表し、縦軸は光軸中心からの移動量を表す。なお、手振れ補正レンズ103は、光軸104に対して垂直な面内で移動するため、x、yの2軸方向を有するが、ここでは簡単のため、いずれかの1軸方向についてのみの説明とする。
図4は、被写体像が撮像素子106上で振れることなく、光軸104を中心として結像するように、手振れに応答して、手振れ補正レンズ103を駆動した場合を表す図である。すなわち、通常の手振れ補正制御による駆動であり、第1の移動目標量300aのみに基づいて駆動部109を制御したときの状態を示したものである。
図5は、軌跡制御部305が制御する第2の移動量301のみに基づいて駆動部109を制御したときの状態を示した図である。すなわち、手振れ補正レンズ103は、メモリ107に記憶された軌跡データに基づいた軌跡を描くこととなる。なお、ここでは説明のため、メモリ107に記憶された軌跡データは、1周期分の単振動を与えるものとする。具体的な軌跡データの構成については後述するが、例えば、x軸方向に
x=αsin(ωt) …(1)
y軸方向に、
y=αcos(ωt)−α …(2)
駆動する時間が、
0≦t≦2π/ω …(3)
となる軌跡データを与える。手振れ補正レンズ103は、(0,0)を始点として、(0、−α)を中心する半径αの円軌跡を1周描くことになる。ここで、tは時間、ωは角振動数、αは定数である。
図6は、図4、図5に示した手振れ補正レンズ103の駆動量を足し合わせた移動目標量300bに基づいて駆動部109を制御した場合を示した図である。図6に示す手振れ補正レンズ移動を行うことで、手振れは第1の移動目標量300aの効果により補正され、被写体像は手振れの影響を受けることなく撮像素子106上で軌跡制御部305が制御する軌跡を描く。従って、撮像素子106からは、露光中に被写体が軌跡制御部305が制御する軌道を移動した画像信号を得ることができる。
次に、手振れ補正レンズ103を駆動する機構について図7を用いて説明する。図7は、撮像光学系102の一部の光学系である手振れ補正レンズ103を移動させる機構を概略的に示す図である。
図7(a)において、701はレンズを保持する可動枠、103は手振れ補正レンズ、703は鏡筒に取り付けられた固定部、704は可動枠上の支持/案内部、705は支持/案内部と同軸に取り付けられたバネを示す。また、706a、706bは固定部に取り付けられたコイル、707a、707bは可動枠に取り付けられたマグネットを示す。図7(b)は図7(a)に示した手振れ補正機構の右側面図である。図7(b)において、710、712は図7(a)には図示しないヨークである。711は図7(a)には図示しない可動部の位置検出センサである。具体的にはホール素子により構成される。図7(c)は図7(a)の702矢視図である。可動枠701は支持/案内部704によって固定部703に対して平面運動可能に案内支持されている。図7(c)では、長円形の案内溝713の中に円形の支持/案内部704が挿入されている。手振れ補正機構は、3箇所とも同一の構造とすることによって、撮像光学系102の光軸104の方向には拘束され、光軸104に直交する平面上では運動させることができる。可動枠701上には、手振れ補正レンズ103及び駆動用のマグネット707a、707bが取り付けられている。また、可動枠701は支持/案内部704と同軸に取り付けられたバネ705によって弾性支持されており、駆動力が発生していないときは手振れ補正レンズ103の中心が光軸104に略一致するように配置されている。駆動部分は図7(b)に示すようにマグネット707aの両側をヨークで挟み込み、片側にコイル706aを備えた構成をしている。駆動部分の原理は図8を用いて説明する。
図8(a)、(b)は、図7(a)に示す点線708を断面として駆動回路部分を抜粋した矢視図である。駆動用マグネット707aは2極で厚み方向に着磁されている。更に、マグネット707aの着磁方向の両側にはヨーク710、712が設けられており、多くの磁束は外に漏れることなく、図8(a)の図中に示すような矢印方向の磁界を発生させている。この状態でコイル706aに通電すると、コイル706a上の領域801と802には、それぞれ反対方向の電流が流れる。一方、磁界の方向も反対であるため、フレミング左手の法則によって同一方向の力が発生する。このときコイルが固定されているため、作用反作用の法則によって可動部に取り付けられたマグネット707aが力を受けて駆動される。駆動力はコイル706aの電流に比例し、コイル706aに流す電流の向きを反対方向にすることによって、マグネット707aが受ける駆動力も反対にすることができる。駆動力が発生すると、可動部がバネ705によって弾性支持されているので、バネ力と釣り合う点まで変位する。つまり、コイル706aの電流を適切に制御することによって、可動部の位置を制御することができる。
更に、ヨーク710上にはホール素子711が取り付けられており、図8(b)に示すように、コイル706aに電流を印加することにより発生した駆動力によってマグネット707aが変位すると、ホール素子711上の磁気バランスも変化する。そのため、ホール素子711の信号を得ることによって、マグネット707aの位置を検出することが可能となる。
図7及び図8では、可動部にマグネットが配置され、固定部にコイルが配置されたムービングマグネット方式での実施形態を例示した。しかしながら、本実施形態は、可動部にコイルが配置され、固定部にマグネットが配置されたムービングコイルやその他の駆動方法を用いた手振れ補正機構を備えた撮像装置についても適用可能である。
次に、軌跡制御に関して説明する。軌跡制御部305が参照する軌跡データは、手振れ補正レンズ103に所望の軌跡を描かせるための移動量を示すデータであり、メモリ107に予め保持されている。軌跡データは数種類のメモリ107に保持されており、ユーザにより選択可能である。また、軌跡の種類を自動で選択するモードを選択することもできる。軌跡データのメモリ107における保持形態を図9、図10により説明する。
図9は、軌跡データの格納ルールを示している。ある「図形」を示す軌跡データは配列構造を持ち、その先頭アドレスにはその軌跡の長さ(基本軌跡長)、即ち軌跡データサイズに相当する情報が格納されている。この軌跡の長さ情報を元に、その「図形」を描くのに要する時間、即ち最適露光時間が決まる。被写体に点光源があり、軌跡描画開始から終了までの時間と露光時間がずれている場合について以下に述べる。露光時間よりも軌跡描画時間の方が短ければその描画の終点位置に手振れ補正レンズがある構図での露光時間が描画中よりも長くなり、描画された図形のある点で高輝度な部分ができる。逆に、露光時間の方が軌跡描画時間よりも短ければ、「図形」の描画の途中で露光が終わり、未完成の図形が得られる。これを解決するために、本実施形態では、「図形」の露光時間を「図形」の軌跡描画時間と一致させている。
図10は、実際に格納されているデータの一部を抽出して図示したものである。それぞれの図形が配列を持ち、先頭アドレスに軌跡長データ(基本軌跡長)があり、続く番地から所望の軌跡を描くための座標情報、即ち平面に直交する2軸の手振れ補正レンズ移動軸の目標移動量データが格納されている。星型のデータ配列に付した矢印は、読み出す座標データを指すポインタを模式的に表したものである。ポインタが所定のサンプリング周期毎に順次アドレスをインクリメントし、読み出したデータに基づいて第2の移動量301を出力することで、手振れ補正レンズ103が軌跡を描くように制御する。ポインタのインクリメントは露光開始のタイミングと同期して開始される。ユーザが指定する「始点」に従い、前記ポインタの初期値を変更する。
図10に示す座標データをそのまま読み出して手振れ補正レンズ103を制御したときに描かれる図形の大きさを「中」とする。ユーザ指定により「大」が選択された場合、ポインタの初期値が指す座標データを2倍して読み出す。露光開始後1サンプリング時間後にポインタをインクリメントしたアドレスに格納されている座標データを2倍して読み出し、以後サンプリング周期の1/2の周期でポインタを移動させる。ポインタがインクリメントされたタイミングで該当するアドレスのデータを2倍して読み出し、前回読み出されたデータとの中間値を第2の移動量301として出力する。ポインタのインクリメントが行われないサンプリングタイミングにおいては、その直前のサンプリングタイミングに読み出されたデータを第2の移動量301として出力する。この方法により、手振れ補正レンズ103は、座標(0,0)を基準として2倍の大きさの軌跡を、2倍の時間を掛けて移動することができる。このとき、基本軌跡長データも2倍して読み出す。
ユーザ指定により「小」が選択された場合、ポインタの初期値が指す座標データを1/2倍して読み出す。露光開始以後、ポインタの指すアドレスを2ずつ加算してゆき、そのアドレスに格納されているデータを1/2倍して読み出して第2の移動量301として出力する。この方法により、手振れ補正レンズ103は、座標(0,0)を基準として1/2倍の大きさの軌跡を、1/2倍の時間で移動することができる。このとき、基本軌跡長データも1/2倍して読み出す。
なお、本実施形態においては基準として格納されているデータをサイズ「中」とし、2倍、1/2倍のサイズ制御の例を示したが、線形補間的にこの方法を実施すれば、2倍、1/2倍以外の倍率も整数倍や整数分の一の倍率以外のサイズ制御も可能である。基準として格納されているデータとして最小のサイズの座標データを持っていても、逆に最大のサイズの座標データを持っていてもよい。また、軌跡描画モードがOFFのときは、第2の移動量301として常に0が出力される。
ここで、軌跡描画モードについて図11〜図13を用いて説明する。
軌跡描画モードは、夕暮れ時や夜間などの背景が暗い被写体の中に点光源(輝点)が存在する場合に、撮像素子106で露光しながら手振れ補正レンズ103を目標位置に従って駆動することにより、その点光源で予定した軌跡(輝線)を描くモードである。
図11は、軌跡描画モード設定のON/OFFで得られる画像を比較する図である。図11(a)は、軌跡描画を行わない設定、即ち軌跡描画モードをOFFで撮影したときに得られる画像の例である。主たる被写体である人物が撮像装置101から比較的近い位置におり、その背景は夜景であって街灯などによる点光源が存在する。この画像の例は、撮影時には通常の手振れ補正を行いつつ、露光期間の途中でストロボ(閃光手段)112を発光させて人物を照らし出したものである。図11(b)は、図11(a)と同じ構図で、軌跡描画モードをONにして撮影したときに得られる画像の例を表している。露光中に、通常の手振れ補正の目標値に星型を描画するための目標値を重畳して手振れ補正レンズ103を動かすことにより、背景の点光源は星型を描いて撮影される。図11(b)では星型の例を示したが、ユーザの選択により任意の図形やサイズが選択可能である。
図12は、ユーザによる軌跡図形やサイズの選択を説明するための図である。
操作部113のメニュー表示を指示するボタンを押すと、表示部114にメニューが表示される。表示部114に表示されるメニュー選択画面の例を示したのが図12である。操作部113の上下方向を示すボタンの操作によりメニューの選択項目が変わり、各項目で、操作部113の左右方向を示すボタンの操作により、所望の設定を選択することができる。操作部113のメニュー表示を指示するボタンを再度押すか、レリーズ釦111を押すことで、メニュー表示が消えて元の表示に戻る。図12の例では、まず一行目に「手振れ補正」をONとするかOFFとするかの選択を行うようになっている。撮影時に手振れ補正を効かせたいときには「入」を、そうでない場合は「切」を選択すればよい。
次に、図12では2行目の「図形描画」が「入」即ちONになっており、軌跡描画モードに入る選択をしている。軌跡描画モードに入らないのであれば、「切」を選択すればよい。
次の行は「図形選択」の項目である。図12ではこの行がハイライト表示されており、ユーザがこの項目を現在選択可能であることを示している。ここでは、撮影時に手振れ補正レンズ103を駆動して描画したい図形を選択できる。図12では「星型」が選択されている。「星型」に続いて「ハート型」「丸型」が選択可能なようにアイコン表示され、更にこれらのアイコンの横に右向きの三角記号があるのは、表示されている他にも選択可能な図形があることを示している。例えば、「ダイヤ」や「スペード」などが更に選択できるように構成されていてもよい。
次の行では「図形サイズ」が選択できるようになっている。「図形選択」で選択した図形を、どれくらいの大きさで撮影画像の中に描きたいかがここで選択できる。図12の例では「小」「中」「大」が選択できるようになっており、ここでは「中」が選択されている様子を示している。
更に次の行では、「図形選択」で選んだ図形のどの点を描画の開始点とするかの「描画始点」が選択できるようになっている。この「描画始点」での選択により、軌跡描画を開始するときの手振れ補正レンズ103の位置を変更する。メニューでは「上」「右」「左」「下」が選択可能である。出力される画像と、撮像素子106上に結像される被写体像は、上下左右が逆の関係になるので、メニューにおける「上」「右」「左」「下」はそれぞれ、手振れ補正レンズ103の始動位置としては「下」「左」「右」「上」に対応することになる。
「図形選択」、「図形サイズ」、「描画始点」の各項目は、「図形描画」が「入」になっているときのみ選択することが可能になり、「図形描画」が「切」になっているときはグレーアウトして選択できないようになっている。
ここで、描画始点の設定について、図13を用いて説明する。図13(a)の中央の点は、背景の輝点を示している。撮像装置101の近くに手を置いて、背景の輝点との位置関係が図13(a)のようになるように構図を決めて撮影する場合について述べる。「図形選択」の項目で「ハート型」が選択されており、「描画始点」として「下」が選択されているときに撮影すると、図13(b)のような撮影画像を得ることができる。図13(b)では、ハート型の最下点から描画が開始されるため、図13(a)での輝点の位置よりも上側に輝線の描画が行われることになる。一方、「図形選択」では同様に「ハート型」が選択されており、「描画始点」として「上」が選択されているときに撮影すると、図13(c)のような撮影画像が得られる。図13(c)ではハート型の上部の一点から描画を開始するため、ハート型は図13(a)での輝点の位置よりも下側に輝線の描画が行われることになる。従って、手にハート型が重なった画像となる。
更に軌跡描画モードの選択では、後述するように軌跡の色変換を指定させてもかまわない。同様のメニューを用いてユーザに軌跡の色を選択させることが可能である。
また、ユーザに軌跡描画に使用する点光源を選択させることもできる。図14(a)は撮影前に表示部114に表示されるファインダー画像である。ファインダー上で2701のように選択枠を表示させ、軌跡描画に使用する点光源をユーザに選択させることができる。選択枠の移動も操作部113で行うことができる。図14(a)で右上の点光源を選択した場合の撮影時の処理は後述するが、撮影画像は図14(b)のようになる。
次に、図15で、点光源の輝度を測光する方法について説明する。通常の測光では、公知の方法に従い、露出制御部115と撮像光学系102の状態と、撮像素子106により受光する光量により被写体輝度を測光する。撮像素子106の撮像面を複数のブロックに区切り、中央付近や人物の顔など必要に応じてブロック毎の重みを変える。そして、各ブロックの輝度平均値や積分値と重みを掛け合わせた結果に基づいて撮像面全体の輝度、即ち被写体輝度が得られる。軌跡描画がONの場合、軌跡は被写体である点光源により描かれるので、適切な軌跡描画を行うためには点光源の輝度が重要となる。夜景などのシーンにおいて、点光源の大きさは比較的小さく、輝度は他の風景よりも際立って大きいことが推測される。各ブロックの輝度の内、最も輝度の大きいブロックを選択し、そのブロックのみの輝度を被写体輝度とする。図15(a)において、黒い点は被写体である点光源を表す。罫線は測光枠即ち測光用に区切ったブロックの区切りを示す。各ブロックの内、最も明るい点光源を含むブロックが白抜きで示されている。最も明るい点光源の輝度に基づき露出を設定することで、少なくとも一つの適切な描画を行うことが可能となる。また、図15(b)に示す方法では、輝度の大きい複数のブロックを選択し、それらのブロックのみの輝度に基づいて被写体輝度としている。この方法によれば、複数の点光源による描画が適切に行える可能性が高まる。
図16は星型の軌跡図形を描画したものである。図17は図16の2501に示した丸枠内の軌跡周辺を撮像素子106の画素単位で示した図である。図17のA1、A2等で示した1マスが1画素に相当する。
実際に軌跡が描かれた画素は図17上のA4・B3・C2・D1になる。撮像素子106から取得できる1画素のデータは輝度が高いものが高い値になる。すなわち、図17のA4・B3・C2・D1は周辺の他の画素より高い値が得られる。
撮像素子106から取得する画像データは後述の図18のステップS2409でメモリ107に保存し、メモリ107上のデータを容易に加工することができる。軌跡データのみを抽出する場合は、メモリ107上のデータを検索し、所定の値以上のデータを抽出することにより、所定の明るさ以上のデータ、すなわち点光源の軌跡データを得ることができる。また、撮像素子106からメモリ107に書き込まれたデータは、メモリ107のアドレスから描画位置を容易に得ることができる。
画素のデータは前述した通り輝度が高いものが高い値になる。言い換えれば、画素データを所定の値以下にすると輝度の暗いデータすなわち黒のデータとなる。後述するステップS2415のように、選択画像としての軌跡データ以外のデータを消去する場合は、メモリ107に保存した画像データの内、上述した軌跡データ以外の場所を所定の値以下のデータに置き換える。これにより、軌跡データ以外を黒く塗りつぶすことができる。
また、後述するステップS2416のように、軌跡データの色をユーザの指定色に変換するには、まず上述のようにメモリ107上の画像データから軌跡データを抽出する。抽出したデータは撮像素子106の色フィルタの配列に合わせて公知の方法で色変換を行うことで撮影した色を再現できる。ユーザの指定色に変換する場合は、指定色に合わせて抽出したデータを所定の値に書き換えることにより色を変更することができる。
次に、撮影動作について図18を用いて説明する。図18は撮影動作のフローチャートである。図18における各ステップを順に説明して撮影動作を説明する。なお、既に述べたメニュー設定画面等により、種々の動作の実行/不実行が予めユーザの設定によって決定されているものとする。図18では、主被写体撮影より先に特殊効果撮影を行っているが特殊効果撮影と主被写体撮影のどちらを先に行ってもかまわない。また、本実施形態では、特殊効果図形と主被写体とを分けて露光を行う。
S2401はレリーズ釦111のSW1がONの状態であるか否かを判断する。レリーズ釦111が半押しされてSW1がONの状態になると(S2401で「Yes」)、ステップS2402で公知の方法に従い自動焦点調節を行う。レリーズ釦111が半押しされてSW1がONの状態になるまでは、入力待機状態となる(S2401で「No」)。
続いてステップS2403では、ユーザによって選択された図形の軌跡距離情報をメモリ107から取得する。図12を用いて述べたように、ユーザの選択に応じて露光中に描画される軌跡は、図形の形状、大きさ、点光源の輝度によって変わる。従って、これらをパラメータとして、手振れ補正レンズ103をどの範囲でどのような速度で駆動し、絞りを含む露出制御部115や撮像素子106をどのように制御するべきかを決定する。
続いてステップS2404で点光源の輝度の測光を行う。ここでは、点光源での軌跡描画に適した露光量の設定を行う。一般には、主被写体よりも点光源の方が輝度が高いため、主被写体撮影の場合よりも露光量が低く設定される。
ステップS2403で設定される制御データも考慮して、より鮮明な軌跡図形を描く露光設定を行うことが可能になる。このとき、ストロボの発光は点光源で軌跡を描く動作には効果か無く、点光源以外の物体に反射して写りこむという悪影響があるため、ストロボの発光を禁止する。
次にステップS2405に進む。ステップS2405はレリーズ釦111のSW2がONの状態であるか否かを判断する。レリーズ釦111が深く押され、SW2のONの状態になると、撮影動作に入りステップS2406に進む。レリーズ釦111が深く押されてSW2がONの状態になるまでは、入力待機状態となる(S2405で「No」)。ステップS2406からは特殊効果の撮影動作に入る。ステップS2406ではステップS2404で決定した露出(露光量)により露光を開始する。露光開始と同時にS2407でS2403で決定した制御データに基づき手振れ補正レンズ103を駆動する。主に暗い被写体の中にある点光源を手振れ補正レンズ103を用いて撮像素子に結像する位置を動かすことにより、点光源の軌跡で図形を描くことができる。
露光が終了したら(S2408)、撮像素子106の撮影データを撮像素子106からメモリ107に転送し記憶する(S2409)。
一般には、主被写体よりも点光源の方が輝度が高いため、点光源に露出を合わせると主被写体が暗い画像になるが、露出時間によっては主被写体も撮像素子に写りこむ。このように主被写体が写り込んでも、撮影後に目的とする軌跡図形以外を後述する画像編集処理で消去すればよい。
次にステップS2410に進み、主被写体の撮影を行う。
ステップS2410では主被写体の測光を行い主被写体の露出を決定する。露出の決定方法は公知の方法を用いることができる。主被写体は点光源より暗い被写体になっているが、本実施形態では点光源で軌跡画像を描く撮影と主被写体の撮影とを分けることにより、それぞれの適正露出画像を得ることができる。一般には、点光源よりも主被写体の方が輝度が低いため、特殊効果撮影の場合よりも露光量が高く設定される。
ステップS2410では主被写体に適した露出を公知の方法で決定する。主被写体が暗くストロボが必要な時は、ストロボを主被写体が適正露光になるように発光してかまわない。
露出が決定したら、ステップS2411に進み露光を開始する。このとき、手振れ補正レンズ103は手振れ撮影を防止する制御を行う。
露光が終了したら(S2412)、撮影した主被写体画像は別に撮影した軌跡画像と領域を分けてメモリ107に記憶する。(S2413)
主被写体画像の撮影が終了したら、ステップS2414に進む。ステップS2414〜ステップS2418では、特殊効果画像の各種の編集を行う。
まず、ステップS2414ではユーザが特殊効果画像の選択を行っているか否かを判断する。
ユーザが特殊効果画像の選択を行っている場合には(S2414で「Yes」)、ステップS2415に進み選択画像以外を消去する。上述のように、メモリ107に記憶されている特殊効果画像データのうち選択されているもの以外を所定の値以下に置き換えることにより消去が可能である。また、画像上で検出した特殊効果画像の位置をメモリ107の別領域に記憶し、主被写体画像の編集に用いることもできる。
ステップS2414で画像選択が行われていない場合(S2414で「No」)又はステップS2415の処理が終了すると、ステップS2416に進む。
ステップS2416では、ユーザが特殊効果画像の色変換を指定しているか否かを判断する。ユーザが特殊効果画像の色変換を指定している場合には(S2416で「Yes」)、ステップS2417に進み、指定画像の色変換を行う。上述のように、メモリ107に記憶されている特殊効果画像データのうち選択されているものを所定の色データに置き換えることにより色変換を行うことができる。
ステップS2416で色変換指定が行われていない場合(S2416で「No」)又はステップS2417の処理が終了すると、ステップS2418に進む。
ステップS2418では、主被写体画像を特殊効果画像と合成する前に、合成に適するように特殊効果画像位置の点光源を消去する。
一般に、点光源は主被写体より明るいため、主被写体画像にも写り込んでいる。この点光源の位置に特殊効果画像を重ねると軌跡の中央に点光源が重なることになる。それを避けるために主被写体画像の点光源を消去する。消去の方法としては、上述の方法を用いる。点光源の位置は、予め特殊効果画像の編集のときに記憶しておいた位置を用いてもかまわないし、撮影前にユーザが画像選択したときの指定データを用いてもよい。点光源の位置は、前記の方法で概ね把握でき、詳細にはメモリ107上に記憶された主被写体画像データより前記位置の所定範囲の輝度を検索し、輝度の高いところを点光源の位置とする。点光源の位置を把握できたら、後述の方法で点光源のデータを消去する。
次に、ステップS2419に進み、特殊効果画像と主被写体画像の合成を行う。
後述する編集後の特殊効果画像と編集後の主被写体画像は、それぞれ合成に適するように不要な部分を消去している。そのため、そのまま合成することができる。合成はそれぞれの画像データの同一位置のデータを加算することにより行われる。
(第2の実施形態)
図19〜図22に本発明の好適な第2の実施の形態に係る撮像装置を示す。図19は本実施形態に適した撮像装置を示す図であって、第1の実施形態で示したものと同様の構成要素には同一の参照符号を付している。第1の実施形態と異なる点は、撮像素子106そのものを動かす(シフトさせる)ことによって手振れ補正を行う点である。そのため、手振れ補正のための駆動部109’を撮像素子106近傍に備えている。駆動部109’は撮像素子106をシフト駆動する。この場合、撮像素子106は、撮像光学系により結像された被写体像を光電変換する撮像手段として機能すると共に、駆動部109’によるシフト駆動に対して被写体像を相対的に移動させる移動手段としても機能する。その他の構成は、第1の実施形態と同様である。
図20は本実施形態に係る撮像装置の電気的構成を示すブロック図である。第1の実施形態で示したものと同様の構成要素には同一の参照符号を付している。第1の実施形態と異なる点は、手振れ補正をするための駆動手段がレンズシステム制御部205に含まれるのではなく、撮像素子106をシフト駆動する駆動部109’として備えている点である。撮像のプロセスなどに関しては、第1の実施形態に示したものと同様である。
図21及び図22に撮像素子106をシフト駆動する機構の例を示す。図21において、106は撮像素子、1801、1802は駆動コイル、1803、1804は可動部の位置検出を行うホール素子、1805、1806、1807、1808はマグネットを示す。また、1809は第1の保持部、1810は第1の保持部1809上に設けられた第1の案内部、1811は第2の保持部、1812は第2の保持部1811上に設けられた第2の案内部、1813は鏡筒に固定される第3の保持部を示す。また、1814は第1の保持部1809と図示しない固定部との間に設けられた第1の弾性体、1815は第2の保持部1811と図示しない固定部との間に設けられた第2の弾性体を示す。第1の案内部1810と第2の案内部1812が案内する方向は互いに直交している。また、撮像素子106を備えた第1の保持部1809は第1の弾性体1814及び第2の弾性体1815によって弾性支持されている。
図22は駆動部の構成を示す図である。磁気回路は2つ存在するが90度角度が異なるだけで同様の構成となっているので、駆動コイル1801及びマグネット1805、1806によって構成される駆動部を用いて説明を行う。図22において、1903は磁束を模擬的に示した矢印、1901、1902は図21には図示しないヨークである。マグネット1905、1906は2つの領域に分割して着磁されている。そのため図22に図示したように磁束の多くは背面のヨーク1901、1902を使って循環する閉磁路1903を構成する。駆動コイル1801に電流が流れることによって、フレミング左手の法則に従って駆動コイル1801に対して力が発生する。発生した力と第1の弾性体1814及び第2の弾性体1815とのつりあいによって第1の保持部1809及び撮像素子106は変位する。第1の保持部1809が変位することによって、第1の保持部1109上に設けられたホール素子1803、1804も変位する。結果として、固定部に設けられた磁気回路と相対的に変位するので、ホール素子1803、1804の信号から第1の保持部1809の位置が検出可能であり、フィードバック制御を行うことができる。更に、露光中においては、レンズ情報と手振れ検出センサ108の信号に基づいて、適切に駆動コイル1801及び1802の電流を制御することによって、振れの少ない高品位な画像を得ることができる。
手振れ補正系の制御ブロックは、駆動対象が補正レンズ103ではなく撮像素子106である点を除いて、第1の実施形態と同様に図3に示すように構成されている。撮像に関するフロー等は第1の実施形態と同様であり、駆動対象が補正レンズ103ではなく撮像素子106である点が異なる。
本発明の好適な第1の実施形態に係る撮像装置の断面図である。 本発明の好適な第1の実施形態に係る撮像装置の電気的構成を示すブロック図である。 本発明の好適な第1の実施形態に係る補正レンズ103の駆動に関するブロック図である。 手振れ補正レンズ103の動作を説明するための図である。 手振れ補正レンズ103の動作を説明するための図である。 手振れ補正レンズ103の動作を説明するための図である。 本発明の好適な第1の実施形態に係る手振れ補正機構の例を示す図である。 本発明の好適な第1の実施形態に係る手振れ補正機構の駆動力発生部を示す図である。 軌跡描画用の情報格納方式を示す模式図である。 軌跡描画用の情報格納方式を示す模式図である。 図形描画の作画例である。 図形描画モードを選択するメニュー画面の例を示す図である。 図形描画モードの図形始点を説明するための図である。 図形描画の点光源を選択するの例を示す図である。 点光源輝度を測光する方法を説明するための図である。 図形描画の作画例である。 図形描画の撮像データの部分を示す図である。 撮像装置の動作を示すフロー図である。 本発明の好適な第2の実施形態に係る撮像装置の断面図である。 本発明の好適な第2の実施形態に係る撮像装置の電気的構成を示すブロック図である。 本発明の好適な第2の実施形態に係る手振れ補正機構の例を示す図である。 本発明の好適な第2の実施形態に係る手振れ補正機構の駆動力発生部を示す図である
符号の説明
101 撮像装置
102 撮像光学系
106 撮像素子
115 露出制御部

Claims (6)

  1. 撮像装置であって、
    撮像光学系により結像された被写体像を光電変換する撮像手段と、
    前記被写体像を前記撮像手段に対して相対的に移動させるための移動手段と、
    前記被写体像の露光量を制御する露出制御手段と、
    メモリに記憶された特殊効果用の軌跡データに基づいて、前記移動手段の特殊効果用の移動目標量を演算する演算手段と、
    少なくとも前記特殊効果用の移動目標量に基づいて、前記移動手段を駆動する駆動手段と、
    を備え、
    前記露出制御手段は、前記移動手段が前記特殊効果用の移動目標量に基づいて駆動される場合には、前記特殊効果用の軌跡データに基づいて前記露光量を調整し、
    前記撮像装置は、前記特殊効果用の移動目標量に基づいて前記移動手段を駆動したときに前記調整された露光量で撮影した第1の撮影画像と、前記特殊効果用の移動目標量を用いずに前記被写体像の輝度に応じた露光量で撮影した第2の撮影画像と、を合成する画像合成手段を更に備えることを特徴とする撮像装置。
  2. 前記画像合成手段は、前記第2の撮影画像から、前記第1の撮影画像において所定の輝度以上の被写体に対応する被写体を消去することを特徴とする請求項1に記載の撮像装置。
  3. 前記画像合成手段は、前記第1の撮影画像から、前記所定の輝度未満の被写体を消去することを特徴とする請求項2に記載の撮像装置。
  4. 手振れを検出する手振れ検出手段を更に備え、
    前記演算手段は、前記手振れ検出手段の出力に基づいて、前記移動手段の手振れ補正用の移動目標量を演算し、
    前記駆動手段は、前記手振れ補正用の移動目標量に前記特殊効果用の移動目標量を加算した移動目標量に基づいて、前記移動手段を駆動することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 被写体を照明する閃光手段を更に備え、
    前記閃光手段は、前記特殊効果用の移動目標量に基づいて前記移動手段を駆動するときには動作しないよう構成されていることを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 撮像光学系により結像された被写体像を光電変換する撮像手段と、前記被写体像を前記撮像手段に対して相対的に移動させるための移動手段と、を備える撮像装置の制御方法であって、
    前記撮像装置の演算手段が、メモリに記憶された特殊効果用の軌跡データに基づいて、前記移動手段の特殊効果用の移動目標量を演算する工程と、
    前記撮像装置の駆動手段が、前記特殊効果用の移動目標量に基づいて前記移動手段を駆動する工程と、
    前記撮像装置の露光制御手段が、前記特殊効果用の軌跡データに基づいて前記被写体像の露光量を調整する工程と、
    前記撮像装置の画像合成手段が、前記特殊効果用の移動目標量に基づいて前記移動手段を駆動したときに前記調整された露光量で撮影した第1の撮影画像と、前記特殊効果用の移動目標量を用いずに前記被写体像の輝度に応じた露光量で撮影した第2の撮影画像と、を合成する工程と、
    を含むことを特徴とする撮像装置の制御方法。
JP2007181445A 2007-07-10 2007-07-10 撮像装置及びその制御方法 Expired - Fee Related JP5270870B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007181445A JP5270870B2 (ja) 2007-07-10 2007-07-10 撮像装置及びその制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007181445A JP5270870B2 (ja) 2007-07-10 2007-07-10 撮像装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2009020217A JP2009020217A (ja) 2009-01-29
JP2009020217A5 JP2009020217A5 (ja) 2010-08-19
JP5270870B2 true JP5270870B2 (ja) 2013-08-21

Family

ID=40359920

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007181445A Expired - Fee Related JP5270870B2 (ja) 2007-07-10 2007-07-10 撮像装置及びその制御方法

Country Status (1)

Country Link
JP (1) JP5270870B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023079842A1 (ja) * 2021-11-08 2023-05-11 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、撮像システム及び撮像処理方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0389221A (ja) * 1989-08-31 1991-04-15 Minolta Camera Co Ltd 特殊効果撮影用カメラ
JP3376012B2 (ja) * 1993-04-15 2003-02-10 キヤノン株式会社 カメラ
JPH1164941A (ja) * 1997-08-15 1999-03-05 Canon Inc カメラ
JP2006154863A (ja) * 2006-03-01 2006-06-15 Nikon Corp ブレ補正装置の駆動方法

Also Published As

Publication number Publication date
JP2009020217A (ja) 2009-01-29

Similar Documents

Publication Publication Date Title
JP4441565B2 (ja) 撮像装置
JP2008070611A (ja) 撮像装置、露出条件調整方法及びプログラム
JP2008104069A (ja) デジタルカメラ及びデジタルカメラのプログラム
KR20110001655A (ko) 화각 미리 보기 기능을 갖는 디지털 영상 신호 처리 장치, 이의 제어 방법 및 상기 방법을 기록한 기록 매체
JP5013910B2 (ja) 撮像装置及び撮像装置の制御方法
JP5409483B2 (ja) 撮像装置
JP5270870B2 (ja) 撮像装置及びその制御方法
JP4974753B2 (ja) 撮像装置およびその制御方法、並びにプログラム
JP5188293B2 (ja) 撮像装置及びその制御方法及びプログラム
JP2006259327A (ja) 撮像装置
JP2007281532A (ja) 画像データ生成装置、画像データ生成方法
JP2010081038A (ja) 撮像装置及びその制御方法、並びにプログラム
JP5962974B2 (ja) 撮像装置、撮像方法、及びプログラム
US8345140B2 (en) Image capturing apparatus and method of controlling same
JP2006186931A (ja) カメラ装置、ホワイトバランスブラケティング撮影方法
JP2009139423A (ja) 撮像装置及び被写体距離算出方法
JP4906576B2 (ja) 撮像装置及びその制御方法、並びにプログラム
JP4986698B2 (ja) 撮像装置及びその制御方法、並びにプログラム
JP4974755B2 (ja) 撮像装置及びその制御方法、並びにプログラム
JP4863497B2 (ja) 撮像装置及びその制御方法、並びにプログラム
JP4906577B2 (ja) 撮像装置及びその制御方法、並びにプログラム
JP4863496B2 (ja) 撮像装置及びその制御方法、並びにプログラム
JP5031433B2 (ja) 撮像装置及び撮像装置の制御方法
JP5031430B2 (ja) 撮像装置及び撮像装置の制御方法
JP5053695B2 (ja) 撮像装置及び撮像装置の制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100702

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100702

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130412

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130510

R151 Written notification of patent or utility model registration

Ref document number: 5270870

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees