JP2011146957A - 撮像装置、その制御方法およびプログラム - Google Patents

撮像装置、その制御方法およびプログラム Download PDF

Info

Publication number
JP2011146957A
JP2011146957A JP2010006576A JP2010006576A JP2011146957A JP 2011146957 A JP2011146957 A JP 2011146957A JP 2010006576 A JP2010006576 A JP 2010006576A JP 2010006576 A JP2010006576 A JP 2010006576A JP 2011146957 A JP2011146957 A JP 2011146957A
Authority
JP
Japan
Prior art keywords
image
correction
live view
blur
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010006576A
Other languages
English (en)
Other versions
JP5454158B2 (ja
JP2011146957A5 (ja
Inventor
Kazunori Kita
一記 喜多
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2010006576A priority Critical patent/JP5454158B2/ja
Publication of JP2011146957A publication Critical patent/JP2011146957A/ja
Publication of JP2011146957A5 publication Critical patent/JP2011146957A5/ja
Application granted granted Critical
Publication of JP5454158B2 publication Critical patent/JP5454158B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Abstract

【課題】 ライブビュー画像を見ながら写真の仕上がりに影響する各種パラメータを“事前に”設定できるようにし撮り直しを極力回避する。
【解決手段】 表示制御手段(53)はライブビュー画像(69)とともに撮影画像の画像状態とライブビュー画像内の位置とを指定するためのユーザインターフェース(60)を表示手段(18)に表示させ且つユーザインターフェース(60)によって指定されたライブビュー画像内の位置が指定された画像状態となるように撮像手段による撮像の際の撮影条件の補正またはライブビュー画像に対する画像処理による補正を加える第一補正手段(53)、シャッタレリーズに応答して撮像手段による撮像を行う際の撮影条件の補正または撮像手段から取り込まれた撮影画像の画像処理による補正に対してライブビュー画像(69)に加えた補正と同様の補正を加える第二補正手段(53)を備える。
【選択図】 図2

Description

本発明は、デジタルカメラ等の撮像装置、その制御方法およびプログラムに関し、特に、画像再生用の表示部を備えた撮像装置、その制御方法およびプログラムに関する。
フィルムを感光させることによって被写体像を写し取る、いわゆる銀塩カメラは古くから使用されてきたが、今日においては、CCD等の電子撮像デバイスと、導体メモリ等の記憶デバイスとを用いて被写体像を電子的に記録する、いわゆるデジタルカメラ等の撮像装置が広く普及している。この電子記録画像は、正確には画像ファイルであり、必要に応じてそのカメラや他の画像処理装置(パーソナルコンピュータ等)の画面に表示され、あるいは、紙の上に印刷される。厳密には“写真”は、この印刷物のことをいうが、広く一般には画面に表示された画像のことも(ただし、それがカメラで撮影されたものである場合)、“写真”と表現されていることを考慮し、本明細書でも画像と写真を区別しないことにする。
デジタルカメラの利点の第一は、フィルム代がかからないことにある。つまり撮影コストが安いことにあり、第二は、その場ですぐに撮影結果を確認できることにある。この第二の利点は画像再生用の表示部を必要とするが、安価なものを除いて多くのデジタルカメラにはプレビューやレビュー用の表示部(一般的に数インチ程度の大きさの液晶表示パネル)が備えられているのが普通であるので、ほとんどのデジタルカメラは上記の第一と第二の利点を有していると言って差し支えない。
さて、かかる二つの利点を有するデジタルカメラ等の撮像装置にあっては、旧来の銀塩カメラに比べて、完成度の高い写真を容易に撮影することができる。これは、上記の第一の利点から、撮影可能な写真枚数がきわめて多い(記憶デバイスの容量によっては数千枚にも及ぶ)からであり、たとえば、ある被写体に対して露出条件等を段階的に変更したブラケット撮影をいつでも気軽に行うことができるからである。加えて、上記の第二の利点から、撮影後の画像をその場ですぐに確認できるため、気に入らなければ試行錯誤的に何度でも撮り直すことができるからである。
このように、デジタルカメラ等の撮像装置は、誰でも簡単に完成度の高い写真を撮影することができるが、それでも、撮影意図にマッチしたピント合わせ位置調整や、被写体の露出に適合した露出調整などの面倒な操作を行わなければならない点は、旧来の銀塩カメラと同じであることから、これらの調整作業を支援する様々な技術が提案されている。
たとえば、下記の特許文献1には、画像撮影直後に撮影画像を再生表示する際に、その画像の一部を拡大表示してピントの状態を確認できるようにした技術(以下、従来技術1という)が記載されている。
また、下記の特許文献2には、撮影画像の再生画面上に、任意の位置に移動可能なターゲットフレームを表示し、そのターゲットフレーム内の合焦ポイントを特定して、その特定位置に、小さなフレームを表示するようにした技術(以下、従来技術2という)が記載されている。
また、下記の特許文献3には、顔認識機能を備えた撮像装置において、所定のボタンを押すたびにそれぞれの顔を順繰りに拡大表示するようにした技術(以下、従来技術3という)が記載されている。
また、下記の特許文献4には、被写体像の輝度分布を三次元グラフで表示すると共に、コントラストの分布状態を表示するようにした技術(以下、従来技術4という)が記載されている。
また、下記の特許文献5には、手動でピント合わせ(マニュアルフォーカス)を行う際に、ライブビュー画像の被写体のエッジからフォーカスの程度を示す評価値を求め、その評価値をバーグラフで視覚的に表示するようにした技術(以下、従来技術5という)が記載されている。
特開2000−236474号公報 特開2004−242011号公報 特開2007−20029号公報 特開2007−151034号公報 特開2002−209135号公報
しかしながら、上記の従来技術1〜4は、いずれも、撮影済み画像に対するピント合わせや露出条件設定の結果確認を行うものであって、要するに“事後的”な確認手段を提供しているに過ぎないから、その確認によって失敗写真であると判断され場合に撮り直しを行わなければならないという問題点がある。また、上記の従来技術5は、マニュアルフォーカスを行う際に用いられるものであるから、そのまま、ピント合わせを自動で行うもの(オートフォーカス)に適用できないという問題点がある。
具体例を説明する。今、撮影済み画像を確認したところ、露出不足の写真であったとする。この場合、一般的にはプラス側の露出補正を行って撮り直しを行うが、不適切な補正量によっては再び露出アンダーや露出オーバーとなって再度、失敗写真になるおそれがある。
ピントのズレも同様である。とりわけ、低めのシャッター速度の場合は手ブレに起因するピントズレが生じやすく、または、合焦ポイントを自動選択する撮像装置の場合には、意図しないポイントにピントが合ってしまうことがあり、いずれも失敗写真につながる。
そこで、本発明の目的は、ライブビュー画像を見ながら、写真の仕上がりに影響する各種パラメータ、たとえば、合焦ポイントの指定や露出条件(絞り値やシャッタ速度及び撮影感度等)の設定、前景や背景のボケ具合などを“事前に”設定できるようにし、もって撮り直しを極力回避できる撮像装置、その制御方法およびプログラムを提供することにある。
請求項1記載の発明は、撮像手段から継続的に出力される撮影構図確認用のライブビュー画像を表示手段に表示させる表示制御手段を備えた撮像装置において、前記表示制御手段は、前記ライブビュー画像とともに、撮影画像の画像状態と、前記ライブビュー画像内の位置とを指定するためのユーザインターフェースを前記表示手段に表示させるものであり、且つ、前記ユーザインターフェースによって指定された前記ライブビュー画像内の位置が前記指定された画像状態となるように、前記撮像手段による撮像の際の撮影条件の補正、または前記ライブビュー画像に対する画像処理による補正を加える第一補正手段と、シャッタレリーズに応答して前記撮像手段による撮像を行う際の撮影条件の補正、または前記撮像手段から取り込まれた撮影画像の画像処理による補正に対して、前記ライブビュー画像に加えた補正と同様の補正を加える第二補正手段とを備えたことを特徴とする撮像装置である。
請求項2記載の発明は、前記第一および第二補正手段は、前記ライブビュー画像内の位置が前記指定された画像状態となるように、前記撮像手段による撮像の際の撮影条件の補正を優先的に実行し、この撮影条件の補正では指定された画像状態にすることができない場合に、対象とする画像に対して画像処理による補正を施すことを特徴とする請求項1に記載の撮像装置である。
請求項3記載の発明は、前記撮影画像の画像状態は、撮影画像のボケ量に関する画像状態であり、前記第一および第二補正手段は、対象とする画像に対して前記ユーザインターフェースによって指定された位置のボケ具合を補正することを特徴とする請求項1に記載の撮像装置である。
請求項4記載の発明は、前記ユーザインターフェースによって指定される撮影画像の画像状態は、撮影画像のボケ量の絶対値、撮影画像のボケ量の変化量、または撮影画像のボケ量の変化方向のいずれかにより指定される画像状態であり、前記第一および第二補正手段は、対象とする画像に対して前記ユーザインターフェースによって指定された位置のボケ具合が、指定されたボケ量の絶対値となるような補正、または指定されたボケ量の変化量だけボケ量が変化するような補正、または指定されたボケ量の変化方向にボケ量が変化するような補正を行うことを特徴とする請求項3に記載の撮像装置である。
請求項5記載の発明は、前記第一補正手段は、前記撮像手段による撮像の際のフォーカス距離および絞り値を補正することで、前記ユーザインターフェースによって指定された位置のボケ具合が指定された状態となるように被写界深度を調整することを特徴とする請求項3に記載の撮像装置である。
請求項6記載の発明は、ボケの無い原画像をボケのある劣化画像に変換する画像変換関数を、前記撮像手段から取り込まれた撮影画像を劣化画像とした場合において推定し、この推定された画像変換関数の逆変換を行う逆画像変換関数によって前記撮影画像を変換することで復元画像を生成する復元手段を更に備え、前記第二補正手段は、対象とする画像に対してボケを低減する方向への補正を行う場合には、前記復元手段により生成された復元画像に基づいてボケ量を補正することを特徴とする請求項3乃至5のいずれかに記載の撮像装置である。
請求項7記載の発明は、前記復元手段は、前記撮像手段から取り込まれた撮影画像に対して2次元フーリエ変換または2次元離散コサイン変換を施したフーリエ変換画像に基づいて前記逆画像変換関数を推定することを特徴とする請求項6に記載の撮像装置である。
請求項8記載の発明は、前記撮像手段から取り込まれた撮影画像を複数の領域に分割し、この分割された各領域毎に、2次元フーリエ変換または2次元離散コサイン変換を施して各周波数成分の分布状態を求め、高周波成分の割合または低周波成分の割合を数値化した画質評価値を算出する画質評価手段と、前記画質評価手段により各領域毎に数値化された画質評価値を前記ライブビュー画像とともに表示する画質表示手段とを更に備えたことを特徴とする請求項1乃至7のいずれかに記載の撮像装置である。
請求項9記載の発明は、前記撮像手段から取り込まれた撮影画像内で、前記画質評価手段による画質評価値の算出対象となる位置を特定する特定手段を更に備え、前記画質評価手段は、前記特定手段により特定された位置を含む複数の領域に対して前記画質評価値を算出し、前記画質表示手段は、前記画質評価手段により各領域毎に数値化された画質評価値を、格子状に拡大して表示することを特徴とする請求項8に記載の撮像装置である。
請求項10記載の発明は、前記画質表示手段は、各領域に対応する画質評価値を色またはパターンに変換して各格子内に表示することを特徴とする請求項9に記載の撮像装置である。
請求項11記載の発明は、前記撮影画像の画像状態は、撮影画像の明るさに関する画像状態であり、前記第一および第二補正手段は、対象とする画像に対して前記ユーザインターフェースによって指定された位置の明るさを基準とした補正を行うことを特徴とする請求項1に記載の撮像装置である。
請求項12記載の発明は、前記撮影画像の画像状態は、撮影画像の色温度に関する画像状態であり、前記第一および第二補正手段は、前記ユーザインターフェースによって指定された位置の色温度を基準とした色味補正を行うことを特徴とする請求項1に記載の撮像装置である。
請求項13記載の発明は、前記ユーザインターフェースは、前記ボケ量または前記明るさを指定するためのスイッチオブジェクトを備え、該スイッチオブジェクトに対するユーザ操作に応答して、前記ボケ量または前記明るさの位置指定を行うためのマーカオブジェクトを前記ライブビュー画像上に出現させることを特徴とする請求項1乃至12のいずれかに記載の撮像装置である。
請求項14記載の発明は、前記マーカオブジェクトは、ユーザ操作に応じて前記ライブビュー画像上で位置を移動することを特徴とする請求項13に記載の撮像装置である。
請求項15記載の発明は、撮像手段から継続的に出力される撮影構図確認用のライブビュー画像を表示手段に表示させる表示制御工程を含む、撮像装置の制御方法において、前記表示制御工程は、前記ライブビュー画像とともに、撮影画像の画像状態と、前記ライブビュー画像内の位置とを指定するためのユーザインターフェースを前記表示手段に表示させる処理を含み、且つ、前記ユーザインターフェースによって指定された前記ライブビュー画像内の位置が前記指定された画像状態となるように、前記撮像手段による撮像の際の撮影条件の補正、または前記ライブビュー画像に対する画像処理による補正を加える第一補正工程と、シャッタレリーズに応答して前記撮像手段による撮像を行う際の撮影条件の補正、または前記撮像手段から取り込まれた撮影画像の画像処理による補正に対して、前記ライブビュー画像に加えた補正と同様の補正を加える第二補正工程とを含むことを特徴とする、撮像装置の制御方法である。
請求項16記載の発明は、撮像装置のコンピュータに、撮像手段から継続的に出力される撮影構図確認用のライブビュー画像を表示手段に表示させる表示制御手段を実現させるためのプログラムであって、前記表示制御手段は、前記ライブビュー画像とともに、撮影画像の画像状態と、前記ライブビュー画像内の位置とを指定するためのユーザインターフェースを前記表示手段に表示させるものであり、且つ、前記ユーザインターフェースによって指定された前記ライブビュー画像内の位置が前記指定された画像状態となるように、前記撮像手段による撮像の際の撮影条件の補正、または前記ライブビュー画像に対する画像処理による補正を加える第一補正手段と、シャッタレリーズに応答して前記撮像手段による撮像を行う際の撮影条件の補正、または前記撮像手段から取り込まれた撮影画像の画像処理による補正に対して、前記ライブビュー画像に加えた補正と同様の補正を加える第二補正手段とを実現させるためのプログラムである。
本発明によれば、ライブビュー画像を見ながら、写真の仕上がりに影響する各種パラメータ、たとえば、合焦ポイントの指定や露出条件(絞り値やシャッタ速度及び撮影感度等)の設定、前景や背景のボケ具合などを“事前に”設定することができ、もって撮り直しを極力回避できる撮像装置、その制御方法およびプログラムを提供することができる。
デジタルカメラ1の正面図及び背面図である。 デジタルカメラの内部ブロック構成図である。 従来公知の撮影モードと再生モードの状態遷移図である。 本実施形態の特徴的事項を示す概念的な構成図である。 インターフェース画面の一例を示す図である。 インターフェース画面60の直感的操作を示す図である。 露出補正の概念図である。 色温度と画像との関係を示す図である。 中央制御部53のCPU53aで実行される制御プログラムの要部フローを示す図である。 ボケのある劣化画像からボケの無い原画像を復元する場合の概念図である。 ボケの調節結果を確認する為のいくつかのユーザインターフェース例を示す図である。
以下、本発明の実施形態を、デジタルカメラへの適用を例にして、図面を参照しながら説明する。
図1は、デジタルカメラ1の正面図及び背面図である。この図において、デジタルカメラ1は、たとえば、箱状薄形のカメラボディ2の前面に沈胴式のレンズ鏡筒3や、ストロボ発光窓4、光学式ファインダ前面窓5及びマイク用集音穴6などを配置すると共に、カメラボディ2の上面に電源スイッチ7及びシャッターボタン8などを配置しており、さらに、カメラボディ2の背面に光学式ファインダ後面窓9、スピーカ用拡声穴10、撮影モード/再生モード切り換えスイッチ11、ズーム操作兼再生表示モード切替スイッチ12、MENUボタン13、上下左右方向移動ボタン14、SETボタン15、DISPボタン16、タッチパネル17及び液晶パネル18などを配置し、加えて、カメラボディ2の底面に不図示の三脚固定用ネジ穴部及び蓋19を設け、この蓋19の内部にバッテリ20とカード型メモリまたはカード型ハードディスクなどの大容量記憶デバイス21とを着脱可能な状態で実装している。また、カメラボディ2の任意位置(図では背面から見た右側面の上部位置)に横方向の深穴22が穿設されており、この深穴22に、タッチパネル17を操作するためのスタイラスペン23を収容できるようになっている。
図2は、デジタルカメラの内部ブロック構成図である。この図において、デジタルカメラ1は、レンズ鏡筒3に収められた撮影レンズ24やズームレンズ25、フォーカスレンズ26及び絞り機構27などを含む光学系28と、この光学系28を介して取り込まれた被写体29の像を撮像するCCDやCMOS等の二次元イメージセンサを含む撮像部30と、被写体29までの距離を測定するコントラストAF方式やハイブリッドAF方式などの測距部31と、撮像部30から出力される画像信号に所要の画像処理(ガンマ補正等)を施す画像処理部32と、光学系28の絞り機構27を駆動する絞り駆動部33と、光学系28のフォーカスレンズ26を駆動するフォーカス駆動部34と、光学系28のズームレンズ25を駆動するズーム駆動部35と、各種キーやスイッチ及びボタン類(シャッターボタン8、撮影モード/再生モード切り換えスイッチ11、ズーム操作兼再生表示モード切替スイッチ12、MENUボタン13、上下左右方向移動ボタン14、SETボタン15、DISPボタン16等)を含む操作部36と、マイク用集音穴6の裏側に取り付けられたマイクロホン37やスピーカ用拡声穴10の裏側に取り付けられたスピーカ38を含む音声処理部39と、ストロボ発光窓4の裏側に取り付けられたストロボ発光部40及びストロボ駆動部41と、液晶パネル18を駆動する液晶駆動部42と、タッチパネル17のタッチ座標を取り込むタッチ座標入力部43と、大容量記憶デバイス21のデータ入出力を制御するデバイスデータ入出力部44と、デジタルカメラ1の姿勢を検出する姿勢検出部45と、不図示のGPS(Global Positioning System:全地球測位システム)衛星からの信号を受信してデジタルカメラ1の位置情報(少なくとも緯度経度の座標情報)を検出するGPS受信部46と、必要に応じてパーソナルコンピュータ等の外部機器47との間のデータ入出力を仲介する外部入出力部48と、充電可能な電池49やその電池49の充電部50及び商用電源からの充電用外部端子51を含みデジタルカメラ1の各部の動作に必要な電力を発生する電源部52と、中央制御部53とを備える。
中央制御部53は、コンピュータ(以下、CPU)53a、不揮発性メモリ(以下、ROM)53b、揮発性メモリ(以下、RAM)53c及び書き換え可能型不揮発性メモリ(以下、PROM)53dを備えており、ROM53bに予め格納されている制御プログラムやPROM53dに予め又は任意に書き込まれるデータをRAM53cにロードしてCPU53aで実行することにより、つまり、プログラム制御方式によって、このデジタルカメラ1の各部の動作を統括制御するものであるが、この方式(プログラム制御方式)に限定されない。その機能の全て又は一部をハードロジックで実現してもよい。
図示のデジタルカメラ1は、操作部36の撮影モード/再生モード切り換えスイッチ11が「撮影」位置にあるときに撮影モード(静止画又は動画撮影モード)で動作し、「再生」位置にあるときに再生モードで動作する。
静止画又は動画撮影モードを選択した場合、撮像部30から周期的(毎秒数十フレーム)に出力される画像信号が、画像処理部32と中央制御部53及び液晶駆動部42を経て液晶パネル18に出力され、構図確認用のライブビュー画像(スルー画像ともいう)として継続的に表示される。一般的に撮影者は、ライブビュー画像を見ながら所望の構図になるように撮影方向や撮像部30の画角(ズームレンズ25のズーム量)を調節し、所望の構図が得られたときにレリーズ操作(シャッターボタン8の押し下げ操作)を行う。また、このとき、必要に応じ、撮影シーンに適合した撮影プログラム(いわゆるベストショット)の選択や適切と思われる露出補正などをレリーズ操作前に行うこともある。
そして、レリーズ操作に応答して、フォーカスレンズ26のAF(自動焦点)処理や絞り機構27のAE(自動露出)処理などが実行され、撮像部30から高画質の画像信号が取り出される。この画像信号は、画像処理部32と中央制御部53及びデバイスデータ入出力部44を経て大容量記憶デバイス21に送られ、撮影済み画像として大容量記憶デバイス21に記録保存される。この撮影済み画像は、撮像部30から取り出された高画質、高解像度の画像信号に相当する生画像(RAW画像)であってもよいが、生画像はサイズが大きく、大容量記憶デバイス21の記憶容量を圧迫するので、ユーザーが記録時の画像サイズ(解像度)を任意に指定し、この指定された画像サイズ(解像度)となるように、生画像の画素を間引いたり複数画素の加算などを行っている。また、解像度を下げること無く画像サイズを低減させるためには、たとえば、JPEG(Joint Photographic Experts Group)等の汎用圧縮技術を用いて圧縮した画像を撮影済み画像として記録することが望ましい。
一方、再生モードを選択した場合は、たとえば、直近に撮影された画像を大容量記憶デバイス21から読み出して液晶パネル18に表示するか、あるいは、撮影済み画像の縮小画像を大容量記憶デバイス21から読み出して液晶パネル18に一覧表示し、その一覧の中からユーザ操作によって選択された画像(ユーザが再生を希望する画像)の元画像を大容量記憶デバイス21から読み出して液晶パネル18に表示する。なお、液晶パネル18の表示解像度は、撮像部30による撮像時の解像度よりも低く、一般的な用途で撮影記録する場合の記録時の解像度よりも低くなっているため、撮影記録された画像を表示する場合には、画素を間引いたり複数画素の加算などを行って表示部の解像度に合わせてから表示を行う。後述するライブビュー画像を表示する場合も同様である。
以上の撮影モードと再生モードの動作は、従来公知のものである。
図3は、従来公知の撮影モードと再生モードの状態遷移図である。この図において、デジタルカメラ1の電源がオンになると状態P1(動作モード判定状態)に至り、この状態P1で撮影モード/再生モード切り換えスイッチ11の現在位置を判定し、その判定結果に従い、状態P2(撮影モード状態)または状態P3(再生モード状態)のいずれかに遷移する。
状態P2では、液晶パネル18でライブビュー画像の継続的表示が行われるとともに、ユーザ操作に基づく各種撮影パラメータ設定、たとえば、ズーム倍率の調整(状態P4)や、撮影プログラム(例:ポートレイト撮影用、風景撮影用、スポーツシーン撮影用、室内撮影用、夜景撮影用・・・・)の選択(状態P5)、および、露出補正(状態P6)などが行われる。必要な撮影パラメータの設定を完了し、且つ、所望の構図が得られた場合、撮影者によるシャッタレリーズに応答して状態P7(画像記録状態)から状態P8(確認用画像の表示状態)へと遷移し、状態P1を経て再び状態P2に復帰する。
通常、撮影後の画像確認は状態P8で行われるが、一般的に状態P8の時間は数秒程度と短時間であることから、じっくりと時間をかけて撮影済み画像の評価を行いたい場合は、撮影モード/再生モード切り換えスイッチ11を「撮影」から「再生」へと切り替え、状態P3(再生モード状態)へと遷移させることによって時間をかけた画像の評価を行う。
さて、この画像評価の結果、意図した仕上がりになっていないと判断された場合は、撮影モード/再生モード切り換えスイッチ11を「再生」から「撮影」へと切り替え、再び状態P2へと遷移させて上記の撮影動作をもう一度繰り返す。つまり、画像の「撮り直し」を行うことになる。
冒頭で説明したとおり、デジタルカメラは、コストを気にせずに何枚でも写真を撮影できるという利点がある。したがって、上記の「撮り直し」それ自体に特段の不都合はない。気にいった仕上がりが得られるまで、何度でも撮り直しを行えばよい。しかしながら、このような撮り直しの手法は試行錯誤的なものであって、あまりスマートとはいえない。
そこで、本実施形態では、本番の撮影前に、写真の仕上がりに影響する各種撮影パラメータを事前設定できるようにし、以て、試行錯誤的な撮り直しを極力行わないようにすることができるスマートな撮影支援技術を提供する。
図4は、本実施形態の特徴的事項を示す概念的な構成図である。この図において、中央制御部53は、プログラム制御方式によって機能的に実現されたいくつかのブロック部、具体的には、撮影パラメータ設定インターフェース部54、ボケ補正部55、露出補正部56、ボケ調整画像処理部57、色温度補正部58、フォーカスポイント設定部59などを含む。
撮影パラメータ設定インターフェース部54は、ライブビュー画像を表示中の液晶パネル18に、本番撮影前に設定することが望ましい各種撮影パラメータ、たとえば、(1)前景や背景のボカシ具合(以下、ボケという)、(2)写真の明るさを適正露出にするのか、それともアンダー気味(ローキー)やオーバー気味(ハイキー)にするのかを示す露出補正、(3)写真の色調を示す色温度(いわゆるホワイトバランスのことで、たとえば、早朝は青味がかった高い温度、夕景は赤味がかった低い温度・・・・)、さらには、フォーカスポイントの位置などを総合的に設定する為の直感的なインターフェース画面を表示する。
図5は、インターフェース画面の一例を示す図である。この図において、インターフェース画面60は、ライブビュー画像表示領域61の周囲(図では右側と下側)に適宜に配列された複数のスイッチオブジェクト(タッチパネル18のタッチ操作または操作部36の上下左右方向移動ボタン14によるカーソル移動とSETボタン15の押し下げ操作のいずれかに応答してオンになるもの)を有する。たとえば、右側に上下に並べられた三つのスイッチオブジェクト62〜64は、上から順にそれぞれ「ボケ大」、「ボケ中」、「ボケ小」のタイトルが付けられており、以下、各々をボケ大スイッチ62、ボケ中スイッチ63およびボケ小スイッチ64ということにする。
また、下側に左右に並べられた四つのスイッチオブジェクト65〜68は、左から順にそれぞれ「黒基準」、「白基準」、「フォーカス」、「色温度」のタイトルが付けられており、以下、各々を黒基準スイッチ65、白基準スイッチ66、フォーカススイッチ67および色温度スイッチ68ということにする。なお、色温度スイッチ68のタイトルの両側には各々左右に向いた三角記号が付けられており、この色温度スイッチ68は、左端や右端を択一的に操作することにより、設定値(ここでは色温度)を線形的または所定量ずつ段階的に減少または増加させることができる、いわゆるシーソー形式のスイッチオブジェクトである。
ここで、図示のインターフェース画面60における“直感的操作”について説明する。
図6は、インターフェース画面60の直感的操作を示す図である。この図において、(a)はライブビュー画像69の一例である。このライブビュー画像69がインターフェース画面60のライブビュー画像表示領域61に映し出されるようになっている。ちなみに、ライブビュー画像69には横長の崖からカーテン状に流れ落ちる滝、その滝下の淀み、および、滝上の木々などが被写体として映しこまれている。なお、(b)はライブビュー画像69が映し出された状態のインターフェース画面60を示しているが、この図(b)では、作図の都合上、ライブビュー画像69を単純化した線画で表している。
(b)において、インターフェース画面60のライブビュー画像69の上に、いくつかのマーカオブジェクト(図案化された指標;以下、単にマーカという)が表示されている。二重丸マーカはそれぞれ大中小のボケマーカ62a、63a、64a、二つの菱形マーカはそれぞれ黒基準マーカ65aと白基準マーカ66a、さらに、クロス十字状マーカはフォーカスポイントマーカ67aである。
なお、ボケマーカ62a、63a、64aの二重丸の大きさは大中小と異なっており、それらによって「ボケ大」、「ボケ中」および「ボケ小」を現している。また、黒基準マーカ65aと白基準マーカ66aの違いは菱形枠内の色にあり、黒基準マーカ65aは黒(または黒をイメージさせる色調)、白基準マーカ66aは白(または白をイメージさせる色調)になっている。
このようにデザインされたボケマーカ62a、63a、64aや黒基準マーカ65a及び白基準マーカ66aは、マーカの形や大きさおよび色などにより、そのマーカが“ボケ”に関するものであるのか、または、黒基準や白基準といった“露出補正”に関するものであるのかを直感的に知ることができる。なお、クロス十字状のフォーカスポイントマーカ67aについては、そのクロス位置によってフォーカスポイントを表すことが公知であるものの、直感的なマーカスタイルであることに相違はない。
以上のとおり、本実施形態のマーカ62a、63a、64a、65a、66a、67aは、いずれもそれらのマーカの意味を直感的に知ることができるように適切にデザインされたものであるが、これらのデザインに限定されないことは当然である。すなわち、図示のマーカ62a、63a、64a、65a、66a、67aは、「それらのマーカの意味を直感的に知ることができる」ことを意図して図案化されたものであって、単なる一例にすぎないものであり、この目的(それらのマーカの意味を直感的に知ることができる)に沿うものであれば他のデザインであってももちろんかまわない。
各マーカの使い方を説明すると、まず、三種類のボケマーカ62a、63a、64aは、それぞれ対応するスイッチオブジェクト62、63、64を操作した時に、インターフェース画面60のライブビュー画像69の上に出現する。出現の初期位置は、好ましくは、対応するスイッチオブジェクト62、63、64の近くである。たとえば、ボケ大スイッチ62を操作したときに、そのボケ大スイッチ62の直ぐ隣にボケ大用のマーカ62aを表示すれば、ボケ大スイッチ62とボケ大用のマーカ62aとの関係を直感的に知ることができるから好ましい。他のスイッチ63、64とマーカ63a、64aについても同様である。
撮影者は、タッチパネル18や上下左右方向移動ボタン14を操作して、所望の位置にボケ大用のマーカ62aを移動させ、決定操作(タッチパネル18へのダブルタッチ操作またはSETボタン15の操作)を行う。ここで、“所望の位置”とは、前景や背景に大きなボケを与えたい位置(または場所)のことである。この位置は、ボケ中の場合は中程度のボケを与えたい位置(または場所)となり、あるいは、ボケ小の場合は小さなボケを与えたい位置(または場所)となる。なお、ボケの大中小を与える位置はそれぞれ一か所ずつであってもよいし、複数個所ずつであってもよい。
なお、上記操作例では、スイッチオブジェクトの操作によって所望のマーカを表示させた後に、この表示されたマーカを移動させることで、所望の位置に対して所望の画像状態を指定できるようにしたが、スイッチ操作が行われた段階ではマーカを表示させずに、タッチパネル上へのタッチ操作が行われた後に、タッチ操作が行われた位置にマーカを表示させるようにしてもよい。
また、上記操作例では、スイッチオブジェクトやマーカを、ボケの大中小であるボケ量の絶対値に対応させて設けたが、スイッチオブジェクトやマーカを、ボケを増加、ボケを減少などのボケ量の変化方向に対応させて設け、これらマーカにより指定された位置のボケ量を、その位置における現在のボケ量に対して増加または減少させるようにしてもよい。また、スイッチオブジェクトやマーカを、ボケを1レベル増加、ボケを3レベル減少など、ボケ量の変化量に対応させて設け、指定された位置のボケ量を指定された量だけ増加または減少させるようにしてもよい。
一般的な撮影手法の場合、ボケの調節はレンズの絞り値で行われている。絞りを開けばボケが大きくなり、絞り込めばボケが小さくなるからである。本実施形態においても、この絞り調整によってボケの大中小をコントロールしてもよい。つまり、ボケの大中小マーク62a、63a、64aの位置を検出し、それらの位置のボケ量が適正(ボケ大マーク62の位置にあっては大きなボケ、ボケ中マーク62bの位置の位置にあっては中程度のボケ、ボケ小マーク62cの位置にあっては小さなボケ)となるようにレンズの絞りを自動調整するようにしてもよい。
しかし、絞りは露出補正とも関係するので、単純に絞り値=ボケ量とすることはできない。一般的にボケの調整よりも露出補正が優先するからであり、まずは露出補正量(絞り値の補正量)を決め、その後、余裕があれはボケに適合した絞り値に微調整するという手順を踏むからである。このように、実際問題としてみた場合、ボケの調整に絞り値を用いることは適当とはいえない。このため、本実施形態では、絞りを用いず、画像処理によってボケの大中小をコントロールすることとした。ただし、これは実用に即することを意図したからであり、ボケの調整に「絞り値」を用いてもかまわないことはもちろんである。なお、画像処理によるボケの調整手法については後述する。
また、上記操作例では、1または複数のマーカで指定される位置の画像状態が指定された状態となるように撮影条件や画像処理の内容を決定したが、画像内のメイン被写体に対するフォーカスを維持した状態で(メイン被写体のボケが無い状態で)、マーカで指定される各部の画像状態だけを調整するようにしてもよい。また、この場合において、メイン被写体を人物の顔とし、公知である顔検出技術により検出された人物の顔部分をメイン被写体としてフォーカスを維持するようにしてもよい。
本実施形態のインターフェース画面60によれば、ライブビュー画像69の中の任意位置のボケ量を加減したいときには、その位置に、ボケの大中小マーク62a、63a、64aのいずれかを置くだけでよく、簡単で、しかも直感性に優れたボケ設定用のインターフェースを提供することができる。
次に、黒基準マーカ65aと白基準マーカ66aも、それぞれ対応するスイッチオブジェクト65、66を操作した時に、インターフェース画面60のライブビュー画像69の上に出現する。出現の初期位置は、前記のボケマーカ62a、63a、64aと同様に、好ましくは、対応するスイッチオブジェクト65、66の近くである。たとえば、黒基準スイッチ65を操作したときに、その黒基準スイッチ65の直ぐ上に黒基準マーカ65aを表示すれば、黒基準スイッチ65と黒基準マーカ65aとの関係を直感的に知ることができるから好ましい。他のスイッチ66とマーカ66aについても同様である。
黒基準マーカ65aと白基準マーカ66aは、それぞれライブビュー画像69の中で、どの部分を露出の黒基準(暗部基準ともいう)とするのか、または白基準(明部基準ともいう)とするのかを指定するためのものであり、この指定は、撮影者の希望(写真の仕上がり期待)によって任意に行われる。たとえば、暗目の仕上がり(いわゆるローキー基調または単にローキー)を期待する場合は、ライブビュー画像69の中の暗部に黒基準マーカ65aを合わせ、あるいは、明る目の仕上がり(いわゆるハイキー基調または単にハイキー)を期待する場合は、ライブビュー画像69の中の明部に白基準マーカ66aを合わせる。もしくは、暗部から明部までをまんべんなく再現した、いわゆる適正露出の仕上がりを期待する場合は、ライブビュー画像69の中の暗部に黒基準マーカ65aを合わせるとともに、ライブビュー画像69の中の明部に白基準マーカ66aを合わせる。
なお、一般的に“暗部”や“明部”は画像内の最も暗い部分や明るい部分のことをいうが、撮影意図によっては必ずしもそうといえないことがある。たとえば、最暗部よりも若干明るい部分を暗部としたり、また、最明部よりも若干暗い部分を明部としたりすることもある。いずれにせよ、露出補正における暗部基準や明部基準の指定はもっぱら撮影者の主観による。
図7は、露出補正の概念図である。この図において、ヒストグラム70は、ライブビュー画像69の画素値の明るさ分布を示すものであり、横軸の左側が暗、右側が明で、且つ、グラフ71の高さが横軸の各位置における画素の量になっている。
図中の(a)は適性露出の場合のヒストグラム70、(b)はローキーの場合のヒストグラム70、(c)はハイキーの場合のヒストグラム70である。すなわち、(a)のヒストグラム70はライブビュー画像69の中の暗部に黒基準マーカ65aを合わせるとともに、ライブビュー画像69の中の明部に白基準マーカ66aを合わせたときのものである。このときのヒストグラム70は暗部や命部の欠けがなく、暗い部分から明るい部分までがまんべんなく再現されているので適正露出である。
これに対して、(b)のヒストグラム70はライブビュー画像69の中の暗部に黒基準マーカ65aを合わせたときのものであり、暗部を基準にマイナス方向の露出補正が行われたものである。つまり、黒基準マーカ65aによって指定された明るさ(この図では暗部)が基準となるように、矢印72で示す左方向に適量だけグラフ71を移動させたものである。このようなマイナス補正は、画像を暗くするローキー基調の補正であり、たとえば、静寂やしっとり感、あるいは、重さなどを表現するのに多用される撮影技法である。
同様に、(c)のヒストグラム70はライブビュー画像69の中の明部に白基準マーカ66aを合わせたときのものであり、明部を基準にプラス方向の露出補正が行われたものである。つまり、白基準マーカ66aによって指定された明るさ(この図では明部)が基準となるように、矢印73で示す右方向に適量だけグラフ71を移動させたものである。このようなプラス補正は、画像を明るくするハイキー基調の補正であり、たとえば、軽快さや若さなどを表現するのに多用される撮影技法である。
なお、これらの図においては、ヒストグラム70の両端を黒基準、白基準としているが、これは露出補正の典型例を示しているにすぎない。前記のとおり、露出補正における暗部基準や明部基準の指定はもっぱら撮影者の主観によるものであるから、ヒストグラム70の両端から内側に入った適当な位置(撮影者によって任意に指定された位置)をそれぞれ黒基準、白基準としてもかまわない。
従来から行われている露出補正の方法は、カメラボディに設けられた露出補正ボタンや、液晶パネル18に表示される露出補正ボタンを操作するというものであり、これらのボタン操作によって、マイナス方向への露出補正(図7(b)相当)を行ったり、あるいは、プラス方向への露出補正(図7(c)相当)を行ったりするというものであるが、多くの撮影者は、そのような面倒なボタン操作による露出補正を全く行っていないことも事実である。その理由は必ずしも明確ではないものの、どのぐらいの補正量で且つどの方向(プラス/マイナス)へ補正すべきなのかが即座に分からないことが大きな要因であると考えられる。
この点において、本実施形態のインターフェース画面60によれば、ライブビュー画像69の中の任意の明るさ部分に黒基準マーカ65aや白基準マーカ66aを置くだけで、図7の(a)に示す適性露出や、同(b)に示すローキー基調、または、同(c)に示すハイキー基調を自在に得ることができ、しかも、その間、まったく露出補正量や方向(プラス/マイナス)を意識しなくてもよいから、誰でも容易に使いこなすことができる直感性に優れた露出補正用のインターフェースを提供することができる。
次に、色温度スイッチ68は、カラー画像の色温度を増減調整するためのものであり、色温度スイッチ68の右側を操作すると色温度が上昇し、左側を操作すると色温度が下降する。
一般的に黒い物体を熱していくと温度が低い時は暗いオレンジ色であり、温度が高くなるにつれて黄色みを帯びた白になり、さらに高くなると青みがかった白になる。このように、白という色を黒体の温度で表現することができ、この温度のことを色温度といい、単位はK(ケルビン)である。たとえば、晴天天空光は12000K〜18000K、快晴北向空は10000K〜12000K、もやの多い空は8000K〜10000K、全雲天空光は6500K〜7000K、平均昼光は5000K〜6000K、朝夕の野外は4400K〜5400K、日の出日の入り前後は3600K〜4000K、蛍光灯は4200K〜6500K、電球色は2800K2800K前後、写真用タングステンは2800K〜3400K、タングステンライトは2600K〜2800Kである。温度が高くなるほど青味が強くなり、低くなるほど赤味が強くなる。
さて、写真撮影時の光源の色温度については、たとえば、スタジオ撮影ライトで3200K、ストロボライトで6000K、太陽光線で5500K・・・・等々という一般的な標準値が設定されており、カメラのオートホワイトバランス機能によって撮影環境に適合した色温度補正が行われるようになっているものの、とりわけ、各種の光源が混在した多灯撮影環境下ではオートホワイトバランスが誤動作することがあり、意図しない色調になってしまうことがしばしば発生する。
このような場合、撮影者によるホワイトバランスのマニュアル調整が欠かせない。このため、多くのカメラには「ストロボ」や「太陽光」、「白熱電球」、「蛍光灯」などといった色温度を選択できる補正ボタンが備えられているが、これらのボタン操作による色温度補正は正確さに欠ける。「ストロボ」や「太陽光」、「白熱電球」、「蛍光灯」などの選択項目は、大雑把に光源種別を分けたものにすぎず、実際の撮影場面における色温度は、たとえば、同じ太陽光であっても時間帯によって異なり、また、蛍光灯なども昼光色や白色光など様々な波長の光(色温度が異なる光)を発するものも存在するからである。
これに対して、本実施形態のインターフェース画面60によれば、ライブビュー画像69を見ながら色温度スイッチ68を操作するだけでよく、たとえば、ライブビュー画像69の青味を強めたければ色温度スイッチ68の右側を操作し、あるいは、赤味を強めたければ色温度スイッチ68の左側を操作するだけでよい。画像を確認しながらリアルタイムに色温度を調節できるので、その場の光源の色温度を知る必要がなく、また、色温度スイッチ68の操作回数によって微妙な色味調整も容易に行うことができるから、誰でも容易に使いこなすことができる直感性に優れた色温度補正用のインターフェースを提供することができる。
図8は、色温度と画像との関係を示す図である。この図において、代表的に示す三枚の画像69a〜69cは、それぞれ左から順に、(a)色温度を低めに設定した赤味強調の画像69a、(b)適度な色温度の画像69b、(c)色温度を高めに設定した青味強調の画像69cである。なお。出願図面に色をつけられないため、便宜的にハッチングで色を表現している。
一般的な成功写真としては(b)の適度な色温度の画像69bであるが、撮影者の意図により、(a)の赤味の強い画像69aや、(c)の青味の強い画像69cも成功写真と看做されることがある。(a)の赤味の強い画像69aでは暖かさなどを表現でき、(c)の青味の強い画像69cでは鋭さや清涼感などを表現できるからである。通常、このような色味が異なる写真を得ようとした場合は、ホワイトバランスを意図的に変えたり(たとえば、太陽光の下で「白熱電球」を選択したり)、あるいは、色温度直接入力方式のカメラの場合であれば、所望の色温度を入力したりしなければならず、結構面倒であったが、本実施形態のインターフェース画面60によれば、ライブビュー画像69を見ながら色温度スイッチ68を操作するだけでよいので、誰でも容易に希望の色味の写真を得ることができる。
次に、本実施形態の動作を説明する。
図9は、中央制御部53のCPU53aで実行される制御プログラムの要部フローを示す図である。この図において、デジタルカメラ1の電源をオンにすると、まず、撮影モード/再生モード切り換えスイッチ11の切り替え位置から現在の動作モードを判定し(ステップS1)、「再生モード」が判定された場合は、不図示の再生モード処理に進み、「撮影モード」が判定された場合は、ライブビュー画像の取得(ステップS2)およびインターフェース画面60(図5参照)の表示(ステップS3)に進む。
そして、インターフェース画面60の各スイッチオブジェクト(ボケ大スイッチ62、ボケ中スイッチ63、ボケ小スイッチ64、黒基準スイッチ65、白基準スイッチ66、フォーカススイッチ67および色温度スイッチ68)に対する撮影者の操作有無を判定し(ステップS4)、各々の操作種別に対応した処理を実行する。
すなわち、ボケ大スイッチ62、ボケ中スイッチ63またはボケ小スイッチ64が操作された場合は、ボケ大中小制御(ステップS5)を実行し、黒基準スイッチ65または白基準スイッチ66が操作された場合は、露出補正制御(ステップS6)を実行し、フォーカススイッチ67が操作された場合は、フォーカスポイント制御(ステップS7)を実行し、色温度スイッチ68が操作された場合は、ホワイトバランス制御(ステップS8)を実行する。
また、インターフェース画面60で所定の撮影準備完了操作(たとえば、不図示の撮影準備完了ボタン操作)が行われた場合は、シャッタレリーズ操作があるまで待機し(ステップS9)、シャッタレリーズ操作が行われた場合は、画像を撮影してその画像を大容量記憶デバイス61に保存(ステップS10)した後、確認用画像を液晶パネル18に所定時間表示し(ステップS11)、再び、ステップS1に復帰するが、このとき、撮影画像を大容量記憶デバイス61に保存(ステップS10)する前、または、保存した後に、その撮影画像に対して所要の補正を行う。
ここで、“所要の補正”とは、前記のライブビュー画像69に対して行われた補正と同じものである。つまり、ライブビュー画像69に対してボケの大中小補正が行われていた場合は、この撮影画像に対しても同様のボケの大中小補正を行い、また、ライブビュー画像69に対して色温度補正が行われていた場合は、この撮影画像に対しても同様の色温度補正を行う。ただし、ライブビュー画像69に対して露出補正が行われていた場合は、すでにシャッタレリーズ時の本番撮影段階で同様の露出補正(ライブビュー画像69に対して行われた露出補正と同様のもの)が行われているため、この露出補正については、ステップS10の段階における上記の“所要の補正”には含まれない。
<ボケ大中小制御>
先にも述べたとおり、本実施形態におけるボケ大中小制御は、画像処理によって行うことも可能である。画像のボケ効果を調整するための画像処理手法としては様々なものが知られており、画像のボケを増加させる方向の画像補正処理に関しては、各種画像ぼかしフィルターなどが一般的に知られているため、ここでの詳細な説明は省略するが、いずれの方法を用いてもよい。
また、画像のボケを低減させる方向の画像補正処理に関しても、シャープネスフィルタなどとして一般的に知られており、特に、ボケのある劣化画像からボケの無い原画像を復元する際の再現性の高い方法もいくつか知られている。
ボケのある劣化画像からボケの無い原画像を復元する場合の再現性の高い方法の概略を以下に説明する。ただし、これらの技術自体は周知であるため、詳細説明は省略する。
図10は、ボケのある劣化画像からボケの無い原画像を復元する場合の概念図である。この図において、画像74の座標(x、y)における画素の輝度をg[x、y]としたとき、基本的に、ボケのある劣化画像g(x,y)とボケの無い原画像i(x,y)は、g(x,y)=p(x,y)*i(x,y)の関係で表される。ここで、p(x,y)は、PSF(点像分布関数あるいは点広がり関数)などの画像変換関数であり、「*」は、コンボリューションj(畳み込み積分)を表す。
このp(x.y)を求めることができれば、p(x,y)の逆関数により、ボケのある劣化画像g(x,y)からボケの無い原画像i(x,y)を復元することができる。
p(x,y)を推定する方法としては、たとえば、PSF(Point Spread Function/点像分布関数、点広がり関数)法を利用することができる。このPSF法では劣化画像(ボケを調整する対象画像)に対してフーリエ変換(FFT)と離散フーリエ変換(DFT)を適用してフーリエ変換画像を求め、そのフーリエ変換画像の形状などからブレやボケのない一般画像、一方向の直線ブレを含む直線ブレ画像、直線ブレと焦点ボケを含む複合画像、焦点ボケのみのボケ画像を取り出し、それらの画像に対して、直線ブレや焦点ボケの度合い推定と評価を行ってPSF関数を推定する。さらに、このPSF関数の逆関数に基づいてボケやブレを補正した画像の復元処理を行っているが、その間に用いられる演算パラメータを適宜に調節することにより、ボケの大きさ制御(大中小の制御)を自由に行うことができる。
その他、1枚の画像に基づいて画像変換関数であるp(x,y)を推定する方法としては、ゼロクロス法、ハフ変換法(Hough変換法)、逆フィルタ法なども知られており、また、複数の画像に基づいて画像変換関数であるp(x,y)を推定する方法としては、レンチュキラーレンズなどの複数の小レンズを配置した撮像部で撮影された複数画像を利用して画像のボケを補正する技術なども知られているが、いずれの方法を用いることも可能である。
なお、既述のとおり、ボケの調節は、このような画像処理よりも、撮像手段による撮像を行う際の撮影条件による補正を優先して実行する。この撮影条件による補正は、フォーカスレンズを移動させることによるフォーカス距離を調整したり、光学レンズの絞り値(絞り機構27の開き量)を調整して被写界深度を加減し、これによってボケの大きさを調節してもよい。被写界深度以外の背景や前景の部分をぼかすことができるからである。本発明の思想は、インターフェース画面60を用いて直感的なボケ調整を行わしめることにあり、したがって、ボケ調整の手法は問わない。画像処理によるものであってもよく、絞り値調整によるものであってもよく、あるいは、それらを併用したものであってもよい。
なお、前述したように、撮像または記録時の画像の解像度と比べて表示部の解像度が低いため、通常のライブビュー画像を見ただけでは、実際に撮像または記録される画像の微妙なボケ具合を確認することができない。そのため、ボケの調整を行う前の段階で、撮影画像のどの部分がどの程度ボケでいるかを詳細に確認したり、ボケの調整を行った後のボケの調節結果を詳細に確認する為に、次のようなユーザインターフェースを備えていてもよい。
図11は、ボケの調節結果を確認する為のいくつかのユーザインターフェース例を示す図である。この図において、(a)はライブビュー画像75と、そのライブビュー画像75に重畳表示されるフォーカスポイント76の拡大表示領域77とを示している。この拡大表示領域77は、単純にフォーカスポイント76に囲まれた部分画像を拡大表示するものであってもよいが、たとえば、以下の例のようにすることが好ましい。
(b)は第一の例を示し、この例では、拡大表示領域77を細かな升目に分割して各升目を所定の画質評価値で埋めている。第一の例における画質評価値は、ライブビュー画像75に対応する撮影画像を構成する画素(または複数画素)ごとの周波数成分を表す数値であり、たとえば、ライブビュー画像75に対応する撮影画像を複数の領域(1画素単位または複数画素単位)に分割し、この分割された各領域毎に、2次元フーリエ変換や2次元離散コサイン変換を施して各周波数成分の分布状態を求め、高周波成分の割合または低周波成分の割合を数値化したものである。一般的に画素(または複数画素)ごとの周波数成分は、ボケの度合いに相関する性質(ボケが大きいほど低くなる/ボケが小さいほど高くなる)性質があるので、この(b)のようなインターフェースを用いることにより、数値化された画質評価値を目視確認するだけで、どの程度のボケに調節されたのかを定量的に把握することができるので好ましい。なお、(b)において、数値化された画質評価値と一緒に、フォーカスポイント76の拡大画像を重畳表示するようにしてもよい。実際の画像とボケの具合を比較対照できるのでさらに好ましい。
(c)は第二の例を示しており、上記の第一の例との相違は、数値化された画質評価値の代わりに、色分けまたはパターン分けされた画質評価値を用いることにある。すなわち、第一の例における画質評価値(数値化されたもの)の値を色分けしたり、または、塗りつぶしパターン分けしたりしたものであり、このようにすると、どの程度のボケに調節されたのかを“直感的”に把握できるのでより好ましい。なお、この第二の例においても、色分けまたはパターン分けされた画質評価値と一緒に、フォーカスポイント76の拡大画像を重畳表示するようにしてもよい。
<露出補正制御>
露出補正制御処理は、インターフェース画面60を用いて直感的に指定された黒基準または白基準もしくはその双方に適合した露出補正量を決定するための処理であり、その具体的手法も問わないが、たとえば、絞り値を変更することによって所望の露出補正量を決定する態様であってもよく、または、シャッタ速度を変更することによって所望の露出補正量を決定する態様であってもよい。もしくは、撮影感度(ISO感度)を変更することによって所望の露出補正量を決定する態様であってよい。さらに、それらを併用したものであってもよい。
<フォーカスポイント制御>
フォーカスポイント制御処理は、フォーカスマーカ67aの十字クロス部分に焦点を合わせる処理を行うものであり、たとえば、当該部分までの距離を測距部31で測り、その測定結果に基づいてフォーカス駆動部34を駆動し、光学系のフォーカスレンズの前後位置を調節するものであってもよい。
<ホワイトバランス制御>
ホワイトバランス制御処理は、インターフェース画面60を用いて直感的に指定された色温度に適合したホワイトバランス補正量を決定するための処理であり、たとえば、当該ホワイトバランス補正が画像処理部32で行われているものとすれば、この画像処理部32に対し、インターフェース画面60を用いて直感的に指定された色温度の値またはそれに相関する値を与え、その目標値になるように、画像処理部32でホワイトバランスの補正を行わせるようにしてもよい。
以上のとおり、本実施形態によれば、(ア)ライブビュー画像内の任意場所に対するボケの大中小指定、(イ)ライブビュー画像内の任意明るさ部分を黒基準や白基準とした露出補正指定、および、(ウ)ライブビュー画像を見ながらの色温度補正指定など写真の仕上がりに影響する各種パラメータを「撮影本番前」に撮影者に簡単、かつ、総合的に設定させることができる直感的に優れたインターフェースを提供することができるから、取り直しを極力回避できるスマートな撮影支援技術を提供できるという特有の効果が得られる。
1 デジタルカメラ(撮像装置)
18 液晶パネル(表示手段)
30 撮像部(撮像手段)
53 中央制御部(表示制御手段、第一補正手段、第二補正手段、復元手段、画質評価手段、画質表示手段、特定手段)
60 インターフェース画面(ユーザインターフェース)
62 ボケ大スイッチ(スイッチオブジェクト)
63 ボケ中スイッチ(スイッチオブジェクト)
64 ボケ小スイッチ(スイッチオブジェクト)
65 黒基準スイッチ(スイッチオブジェクト)
66 白基準スイッチ(スイッチオブジェクト)
67 フォーカススイッチ(スイッチオブジェクト)
68 色温度スイッチ(スイッチオブジェクト)
62a ボケマーカ(マーカオブジェクト)
63a ボケマーカ(マーカオブジェクト)
64a ボケマーカ(マーカオブジェクト)
65a 黒基準マーカ(マーカオブジェクト)
66a 白基準マーカ(マーカオブジェクト)
69 ライブビュー画像

Claims (16)

  1. 撮像手段から継続的に出力される撮影構図確認用のライブビュー画像を表示手段に表示させる表示制御手段を備えた撮像装置において、
    前記表示制御手段は、前記ライブビュー画像とともに、撮影画像の画像状態と、前記ライブビュー画像内の位置とを指定するためのユーザインターフェースを前記表示手段に表示させるものであり、
    且つ、前記ユーザインターフェースによって指定された前記ライブビュー画像内の位置が前記指定された画像状態となるように、前記撮像手段による撮像の際の撮影条件の補正、または前記ライブビュー画像に対する画像処理による補正を加える第一補正手段と、
    シャッタレリーズに応答して前記撮像手段による撮像を行う際の撮影条件の補正、または前記撮像手段から取り込まれた撮影画像の画像処理による補正に対して、前記ライブビュー画像に加えた補正と同様の補正を加える第二補正手段と
    を備えたことを特徴とする撮像装置。
  2. 前記第一および第二補正手段は、前記ライブビュー画像内の位置が前記指定された画像状態となるように、前記撮像手段による撮像の際の撮影条件の補正を優先的に実行し、この撮影条件の補正では指定された画像状態にすることができない場合に、対象とする画像に対して画像処理による補正を施すことを特徴とする請求項1に記載の撮像装置。
  3. 前記撮影画像の画像状態は、撮影画像のボケ量に関する画像状態であり、前記第一および第二補正手段は、対象とする画像に対して前記ユーザインターフェースによって指定された位置のボケ具合を補正することを特徴とする請求項1に記載の撮像装置。
  4. 前記ユーザインターフェースによって指定される撮影画像の画像状態は、撮影画像のボケ量の絶対値、撮影画像のボケ量の変化量、または撮影画像のボケ量の変化方向のいずれかにより指定される画像状態であり、
    前記第一および第二補正手段は、対象とする画像に対して前記ユーザインターフェースによって指定された位置のボケ具合が、指定されたボケ量の絶対値となるような補正、または指定されたボケ量の変化量だけボケ量が変化するような補正、または指定されたボケ量の変化方向にボケ量が変化するような補正を行うことを特徴とする請求項3に記載の撮像装置。
  5. 前記第一補正手段は、前記撮像手段による撮像の際のフォーカス距離および絞り値を補正することで、前記ユーザインターフェースによって指定された位置のボケ具合が指定された状態となるように被写界深度を調整することを特徴とする請求項3に記載の撮像装置。
  6. ボケの無い原画像をボケのある劣化画像に変換する画像変換関数を、前記撮像手段から取り込まれた撮影画像を劣化画像とした場合において推定し、この推定された画像変換関数の逆変換を行う逆画像変換関数によって前記撮影画像を変換することで復元画像を生成する復元手段を更に備え、
    前記第二補正手段は、対象とする画像に対してボケを低減する方向への補正を行う場合には、前記復元手段により生成された復元画像に基づいてボケ量を補正することを特徴とする請求項3乃至5のいずれかに記載の撮像装置。
  7. 前記復元手段は、前記撮像手段から取り込まれた撮影画像に対して2次元フーリエ変換または2次元離散コサイン変換を施したフーリエ変換画像に基づいて前記逆画像変換関数を推定することを特徴とする請求項6に記載の撮像装置。
  8. 前記撮像手段から取り込まれた撮影画像を複数の領域に分割し、この分割された各領域毎に、2次元フーリエ変換または2次元離散コサイン変換を施して各周波数成分の分布状態を求め、高周波成分の割合または低周波成分の割合を数値化した画質評価値を算出する画質評価手段と、
    前記画質評価手段により各領域毎に数値化された画質評価値を前記ライブビュー画像とともに表示する画質表示手段とを更に備えたことを特徴とする請求項1乃至7のいずれかに記載の撮像装置。
  9. 前記撮像手段から取り込まれた撮影画像内で、前記画質評価手段による画質評価値の算出対象となる位置を特定する特定手段を更に備え、
    前記画質評価手段は、前記特定手段により特定された位置を含む複数の領域に対して前記画質評価値を算出し、
    前記画質表示手段は、前記画質評価手段により各領域毎に数値化された画質評価値を、格子状に拡大して表示することを特徴とする請求項8に記載の撮像装置。
  10. 前記画質表示手段は、各領域に対応する画質評価値を色またはパターンに変換して各格子内に表示することを特徴とする請求項9に記載の撮像装置。
  11. 前記撮影画像の画像状態は、撮影画像の明るさに関する画像状態であり、前記第一および第二補正手段は、対象とする画像に対して前記ユーザインターフェースによって指定された位置の明るさを基準とした補正を行うことを特徴とする請求項1に記載の撮像装置。
  12. 前記撮影画像の画像状態は、撮影画像の色温度に関する画像状態であり、前記第一および第二補正手段は、前記ユーザインターフェースによって指定された位置の色温度を基準とした色味補正を行うことを特徴とする請求項1に記載の撮像装置。
  13. 前記ユーザインターフェースは、前記ボケ量または前記明るさを指定するためのスイッチオブジェクトを備え、該スイッチオブジェクトに対するユーザ操作に応答して、前記ボケ量または前記明るさの位置指定を行うためのマーカオブジェクトを前記ライブビュー画像上に出現させることを特徴とする請求項1乃至12のいずれかに記載の撮像装置。
  14. 前記マーカオブジェクトは、ユーザ操作に応じて前記ライブビュー画像上で位置を移動することを特徴とする請求項13に記載の撮像装置。
  15. 撮像手段から継続的に出力される撮影構図確認用のライブビュー画像を表示手段に表示させる表示制御工程を含む、撮像装置の制御方法において、
    前記表示制御工程は、前記ライブビュー画像とともに、撮影画像の画像状態と、前記ライブビュー画像内の位置とを指定するためのユーザインターフェースを前記表示手段に表示させる処理を含み、
    且つ、前記ユーザインターフェースによって指定された前記ライブビュー画像内の位置が前記指定された画像状態となるように、前記撮像手段による撮像の際の撮影条件の補正、または前記ライブビュー画像に対する画像処理による補正を加える第一補正工程と、
    シャッタレリーズに応答して前記撮像手段による撮像を行う際の撮影条件の補正、または前記撮像手段から取り込まれた撮影画像の画像処理による補正に対して、前記ライブビュー画像に加えた補正と同様の補正を加える第二補正工程と
    を含むことを特徴とする、撮像装置の制御方法。
  16. 撮像装置のコンピュータに、
    撮像手段から継続的に出力される撮影構図確認用のライブビュー画像を表示手段に表示させる表示制御手段を実現させるためのプログラムであって、
    前記表示制御手段は、前記ライブビュー画像とともに、撮影画像の画像状態と、前記ライブビュー画像内の位置とを指定するためのユーザインターフェースを前記表示手段に表示させるものであり、
    且つ、前記ユーザインターフェースによって指定された前記ライブビュー画像内の位置が前記指定された画像状態となるように、前記撮像手段による撮像の際の撮影条件の補正、または前記ライブビュー画像に対する画像処理による補正を加える第一補正手段と、
    シャッタレリーズに応答して前記撮像手段による撮像を行う際の撮影条件の補正、または前記撮像手段から取り込まれた撮影画像の画像処理による補正に対して、前記ライブビュー画像に加えた補正と同様の補正を加える第二補正手段と
    を実現させるためのプログラム。
JP2010006576A 2010-01-15 2010-01-15 撮像装置、その制御方法およびプログラム Expired - Fee Related JP5454158B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010006576A JP5454158B2 (ja) 2010-01-15 2010-01-15 撮像装置、その制御方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010006576A JP5454158B2 (ja) 2010-01-15 2010-01-15 撮像装置、その制御方法およびプログラム

Publications (3)

Publication Number Publication Date
JP2011146957A true JP2011146957A (ja) 2011-07-28
JP2011146957A5 JP2011146957A5 (ja) 2013-01-31
JP5454158B2 JP5454158B2 (ja) 2014-03-26

Family

ID=44461413

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010006576A Expired - Fee Related JP5454158B2 (ja) 2010-01-15 2010-01-15 撮像装置、その制御方法およびプログラム

Country Status (1)

Country Link
JP (1) JP5454158B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012044541A (ja) * 2010-08-20 2012-03-01 Canon Inc 撮像装置及び撮像装置の制御方法
JP2013081170A (ja) * 2011-10-04 2013-05-02 Thomson Licensing Hdr画像をエンコードする方法および装置、hdr画像を再構成する方法および装置ならびに非一時的記憶媒体
JP2014197334A (ja) * 2013-03-29 2014-10-16 キヤノン株式会社 表示制御装置、その制御方法、および制御プログラム
JP2015022716A (ja) * 2013-07-23 2015-02-02 ソニー株式会社 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置
JP2015040966A (ja) * 2013-08-21 2015-03-02 キヤノン株式会社 表示制御装置及びその制御方法、プログラム、並びに記憶媒体
US9712756B2 (en) 2013-08-21 2017-07-18 Canon Kabushiki Kaisha Image capturing apparatus and control method thereof
JP2018503325A (ja) * 2014-11-06 2018-02-01 デューライト・リミテッド・ライアビリティ・カンパニーDuelight Llc 画素データに対して演算を実行するためのシステムおよび方法
US10558848B2 (en) 2017-10-05 2020-02-11 Duelight Llc System, method, and computer program for capturing an image with correct skin tone exposure
US10652478B2 (en) 2012-09-04 2020-05-12 Duelight Llc Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
US10785401B2 (en) 2016-09-01 2020-09-22 Duelight Llc Systems and methods for adjusting focus based on focus target information
US10904505B2 (en) 2015-05-01 2021-01-26 Duelight Llc Systems and methods for generating a digital image
US10924688B2 (en) 2014-11-06 2021-02-16 Duelight Llc Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene
US10931897B2 (en) 2013-03-15 2021-02-23 Duelight Llc Systems and methods for a digital image sensor
US11375085B2 (en) 2016-07-01 2022-06-28 Duelight Llc Systems and methods for capturing digital images
US11463630B2 (en) 2014-11-07 2022-10-04 Duelight Llc Systems and methods for generating a high-dynamic range (HDR) pixel stream

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09113957A (ja) * 1995-10-20 1997-05-02 Canon Inc 撮像装置
JP2004172817A (ja) * 2002-11-19 2004-06-17 Olympus Corp ホワイトバランス処理装置、ホワイトバランス処理方法及びデジタルカメラ
JP2005109740A (ja) * 2003-09-29 2005-04-21 Casio Comput Co Ltd 画像撮影処理装置及びプログラム
JP2007019685A (ja) * 2005-07-06 2007-01-25 Sony Corp 撮像装置、制御方法、およびプログラム
JP2007124399A (ja) * 2005-10-28 2007-05-17 Nikon Corp 画像処理装置、電子カメラおよび画像処理プログラム
JP2008079193A (ja) * 2006-09-25 2008-04-03 Fujifilm Corp デジタルカメラ
JP2009267523A (ja) * 2008-04-22 2009-11-12 Nikon Corp 画像復元装置及び撮像装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09113957A (ja) * 1995-10-20 1997-05-02 Canon Inc 撮像装置
JP2004172817A (ja) * 2002-11-19 2004-06-17 Olympus Corp ホワイトバランス処理装置、ホワイトバランス処理方法及びデジタルカメラ
JP2005109740A (ja) * 2003-09-29 2005-04-21 Casio Comput Co Ltd 画像撮影処理装置及びプログラム
JP2007019685A (ja) * 2005-07-06 2007-01-25 Sony Corp 撮像装置、制御方法、およびプログラム
JP2007124399A (ja) * 2005-10-28 2007-05-17 Nikon Corp 画像処理装置、電子カメラおよび画像処理プログラム
JP2008079193A (ja) * 2006-09-25 2008-04-03 Fujifilm Corp デジタルカメラ
JP2009267523A (ja) * 2008-04-22 2009-11-12 Nikon Corp 画像復元装置及び撮像装置

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012044541A (ja) * 2010-08-20 2012-03-01 Canon Inc 撮像装置及び撮像装置の制御方法
JP2013081170A (ja) * 2011-10-04 2013-05-02 Thomson Licensing Hdr画像をエンコードする方法および装置、hdr画像を再構成する方法および装置ならびに非一時的記憶媒体
US10652478B2 (en) 2012-09-04 2020-05-12 Duelight Llc Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
US12003864B2 (en) 2012-09-04 2024-06-04 Duelight Llc Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
US11025831B2 (en) 2012-09-04 2021-06-01 Duelight Llc Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
US10931897B2 (en) 2013-03-15 2021-02-23 Duelight Llc Systems and methods for a digital image sensor
JP2014197334A (ja) * 2013-03-29 2014-10-16 キヤノン株式会社 表示制御装置、その制御方法、および制御プログラム
JP2015022716A (ja) * 2013-07-23 2015-02-02 ソニー株式会社 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置
US11722770B2 (en) 2013-07-23 2023-08-08 Sony Group Corporation Image processing device, method of processing image, image processing program, and imaging device
US11418714B2 (en) 2013-07-23 2022-08-16 Sony Group Corporation Image processing device, method of processing image, image processing program, and imaging device
US10440251B2 (en) 2013-07-23 2019-10-08 Sony Corporation Image processing device, method of processing image, image processing program, and imaging device
US10771674B2 (en) 2013-07-23 2020-09-08 Sony Corporation Image processing device, method of processing image, image processing program, and imaging device
US10003753B2 (en) 2013-08-21 2018-06-19 Canon Kabushiki Kaisha Image capturing apparatus and control method thereof
JP2015040966A (ja) * 2013-08-21 2015-03-02 キヤノン株式会社 表示制御装置及びその制御方法、プログラム、並びに記憶媒体
US9712756B2 (en) 2013-08-21 2017-07-18 Canon Kabushiki Kaisha Image capturing apparatus and control method thereof
US10506173B2 (en) 2013-08-21 2019-12-10 Canon Kabushiki Kaisha Image capturing apparatus and control method thereof
US10313604B2 (en) 2013-08-21 2019-06-04 Canon Kabushiki Kaisha Image capturing apparatus and control method thereof
US11394894B2 (en) 2014-11-06 2022-07-19 Duelight Llc Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene
JP2018503325A (ja) * 2014-11-06 2018-02-01 デューライト・リミテッド・ライアビリティ・カンパニーDuelight Llc 画素データに対して演算を実行するためのシステムおよび方法
US10924688B2 (en) 2014-11-06 2021-02-16 Duelight Llc Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene
US11463630B2 (en) 2014-11-07 2022-10-04 Duelight Llc Systems and methods for generating a high-dynamic range (HDR) pixel stream
US11356647B2 (en) 2015-05-01 2022-06-07 Duelight Llc Systems and methods for generating a digital image
US10904505B2 (en) 2015-05-01 2021-01-26 Duelight Llc Systems and methods for generating a digital image
US11375085B2 (en) 2016-07-01 2022-06-28 Duelight Llc Systems and methods for capturing digital images
US10785401B2 (en) 2016-09-01 2020-09-22 Duelight Llc Systems and methods for adjusting focus based on focus target information
US12003853B2 (en) 2016-09-01 2024-06-04 Duelight Llc Systems and methods for adjusting focus based on focus target information
US11455829B2 (en) 2017-10-05 2022-09-27 Duelight Llc System, method, and computer program for capturing an image with correct skin tone exposure
US10586097B2 (en) 2017-10-05 2020-03-10 Duelight Llc System, method, and computer program for capturing an image with correct skin tone exposure
US11699219B2 (en) 2017-10-05 2023-07-11 Duelight Llc System, method, and computer program for capturing an image with correct skin tone exposure
US10558848B2 (en) 2017-10-05 2020-02-11 Duelight Llc System, method, and computer program for capturing an image with correct skin tone exposure

Also Published As

Publication number Publication date
JP5454158B2 (ja) 2014-03-26

Similar Documents

Publication Publication Date Title
JP5454158B2 (ja) 撮像装置、その制御方法およびプログラム
US8570402B2 (en) Imaging apparatus for obtaining a user-intended image when orientation of the imaging apparatus changes in applying a special effect that changes the image quality in a set direction
KR101058011B1 (ko) 터치 스크린을 이용한 디지털 카메라 조작 방법
KR101427660B1 (ko) 디지털 영상 처리 장치에서 영상의 배경흐림 효과 처리장치 및 방법
US8823829B2 (en) Image capture with adjustment of imaging properties at transitions between regions
JP4644883B2 (ja) 撮像装置
KR100942634B1 (ko) 화상보정장치 및 화상보정방법과 컴퓨터 판독 가능한 매체
US20080205866A1 (en) Image taking apparatus and image taking method
KR101930460B1 (ko) 촬영 장치 및 제어 방법
JP4509081B2 (ja) デジタルカメラ及びデジタルカメラのプログラム
KR101286953B1 (ko) 촬상 장치
TWI229548B (en) Image pickup apparatus, photographing method, and storage medium recording photographing method
US8570394B1 (en) Systems, methods, and mediums for adjusting an exposure of an image using a histogram
JP6741881B2 (ja) 画像処理装置、撮像装置、画像処理方法、およびプログラム
JP2004289383A (ja) 撮像装置、画像データ生成方法、画像データ処理装置および画像データ処理プログラム
JP4842919B2 (ja) 表示装置、撮影装置、および表示方法
JP2004109247A (ja) デジタルカメラ、画像処理装置、およびプログラム
JP2010141609A (ja) 撮像装置
JP2009157242A (ja) 撮像装置
JP5854235B2 (ja) 撮像装置、撮像方法及びプログラム
JP2007281532A (ja) 画像データ生成装置、画像データ生成方法
JP2009139423A (ja) 撮像装置及び被写体距離算出方法
JP5029765B2 (ja) 画像データ生成装置、画像データ生成方法
JP2006295774A (ja) 撮像装置、撮像装置の制御方法および、デジタルカメラ用画像処理プログラム
KR100919982B1 (ko) 화면 분할 기능을 갖는 디지털 카메라의 제어 방법

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130930

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131223

R150 Certificate of patent or registration of utility model

Ref document number: 5454158

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees