JP5884260B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP5884260B2
JP5884260B2 JP2010219788A JP2010219788A JP5884260B2 JP 5884260 B2 JP5884260 B2 JP 5884260B2 JP 2010219788 A JP2010219788 A JP 2010219788A JP 2010219788 A JP2010219788 A JP 2010219788A JP 5884260 B2 JP5884260 B2 JP 5884260B2
Authority
JP
Japan
Prior art keywords
image
unit
main subject
index
acquisition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010219788A
Other languages
English (en)
Other versions
JP2012075036A5 (ja
JP2012075036A (ja
Inventor
賢二 深澤
賢二 深澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2010219788A priority Critical patent/JP5884260B2/ja
Publication of JP2012075036A publication Critical patent/JP2012075036A/ja
Publication of JP2012075036A5 publication Critical patent/JP2012075036A5/ja
Application granted granted Critical
Publication of JP5884260B2 publication Critical patent/JP5884260B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、画像処理装置、画像処理方法及びプログラムに関し、特に、被写体の特徴を直感的かつ即座に把握させることができる技術に関する。
従来、被写体を撮影する際に、撮影した被写体の画像を鑑賞する鑑賞者に被写体像の実際の大きさを伝えるため、被写体の近傍に大きさの指標となる物体を配置して撮影することが行われている。
例えば、長さが数センチ程度の被写体を撮影する場合、直径が既知の硬貨(例えば、日本国で発行されている直径が2.5cmの10円玉)を被写体の傍に置いて、デジタルカメラで撮影する。これにより、被写体とともに硬貨の写った画像が得られるため、鑑賞者は、画像に写る硬貨と被写体を比較することによって、被写体の実際の大きさを認識することができる。
ただし、ビルや橋といった大きな物体が被写体となる場合には、当該被写体の近傍に、大きさの指標となる物体を実際に配置することは困難である。
そこで、特許文献1には、画像とともに、被写体と同一の寸法である数値を表すスケールを表示させる技術が開示されている。
特許3059773号公報
しかしながら、特許文献1記載の技術では、鑑賞者は、表示されたスケールから被写体の大きさを把握するように試みるが、当該スケールは、被写体と同一の寸法であり、かつ、長さ等を単純な数値表現により表すものであるため、被写体の大きさを即座に直感的に把握することは困難であるという問題があった。
本発明は、このような状況に鑑みてなされたものであり、被写体の特徴を直感的かつ即座に把握させることができる画像処理装置、画像処理方法、及びプログラムを提供することを目的とする。
上記目的を達成するため、請求項1に記載の発明は、画像を取得する第1の取得手段と、前記第1の取得手段により取得された画像中の主要被写体の特徴を取得する特徴取得手段と、前記特徴取得手段により取得された主要被写体の特徴に基づいて、当該主要被写体の特徴に対する相対的な指標となる複数の指標画像を取得する第2の取得手段と、前記第2の取得手段により取得された前記複数の指標画像を表示手段に表示させる第1の表示制御手段と、前記表示手段に表示された前記複数の指標画像から、ユーザ操作により特定の指標画像を指定する指定手段と、前記指定手段により指定された前記特定の指標画像を前記第1の取得手段により取得された前記画像中の主要被写体の周囲に合成する合成手段と、 を備えたことを特徴とする。
また、上記目的を達成するため、請求項2に記載の発明は、複数の指標画像を記憶する記憶手段を更に備え、前記第2の取得手段は、前記主要被写体の特徴に基づき、前記記憶手段に記憶された前記複数の指標画像の総数より少ない数の指標画像を取得する
また、上記目的を達成するため、請求項3に記載の発明は、前記表示手段に前記複数の指標画像が表示されている時、ユーザに対してユーザ操作をするように報知する報知手段を更に備えることを特徴とする。
また、上記目的を達成するため、請求項4に記載の発明は 前記特徴取得手段により取得された主要被写体の特徴に基づいて、前記指標画像を加工する加工手段を更に備え、前記第2の取得手段は、前記加工手段により加工された指標画像を前記指標画像として取得することを特徴とする。
また、上記目的を達成するため、請求項5に記載の発明は、前記特徴取得手段は、前記主要被写体の長さを前記特徴として計測する計測手段を有し、前記加工手段は、前記計測手段により計測された主要被写体の長さに基づいて、前記指標画像を加工することを特徴とする。
また、上記目的を達成するため、請求項6に記載の発明は、前記加工手段は、前記主要被写体の長さが前記指標画像より長い場合は、前記主要被写体の長さに合わせた数の前記指標画像を複製する複製手段を更に備え、前記合成手段は、前記第1の取得手段により取得された画像と、前記複製手段により複製された前記主要被写体の長さに合わせた数の指標画像とを合成することを特徴とする。
また、上記目的を達成するため、請求項7に記載の発明は、前記加工手段は、前記主要被写体の長さが前記指標画像より長い場合は、前記主要被写体の長さに合わせた前記指標画像のアニメーションデータを生成する生成手段を更に備え、前記合成手段は、前記第1の取得手段により取得された画像と、前記生成手段により生成された前記アニメーションデータとを合成することを特徴とする。
また、上記目的を達成するため、請求項8に記載の発明は、前記計測手段は、前記被写体の直交する2辺の長さを計測することを特徴とする。
また、上記目的を達成するため、請求項9に記載の発明は、前記第1の取得手段により取得された画像に含まれる主要被写体を検出する検出手段を更に備え、前記特徴取得手段は、前記検出手段により検出された主要被写体の特徴を取得することを特徴とする。
また、上記目的を達成するため、請求項10に記載の発明は、前記第1の取得手段により取得された画像に含まれる主要被写体を検出する検出手段を更に備え、前記特徴取得手段は、前記検出手段により検出された主要被写体の特徴を取得することを特徴とする。
また、上記目的を達成するため、請求項11に記載の発明は、前記検出手段により検出された主要被写体の位置を強調表示する第3の表示制御手段を更に備えたことを特徴とする。
また、上記目的を達成するため、請求項12に記載の発明は、表示部を備える画像処理装置が実行する画像処理方法において、画像を取得する第1の取得ステップと、前記第1の取得ステップの処理により取得された画像に含まれる主要被写体の特徴を取得する特徴取得ステップと、前記特徴取得ステップにより取得された主要被写体の特徴に基づいて、当該主要被写体の特徴に対する相対的な指標となる複数の指標画像を取得する第2の取得ステップと、前記第2の取得ステップにより取得された前記複数の指標画像を前記表示部に表示させる第1の表示制御ステップと、前記表示部に表示された前記複数の指標画像から、ユーザ操作により特定の指標画像を指定する指定ステップと、前記指定ステップにより指定された前記特定の指標画像を前記第1の取得ステップにより取得された画像中の主要被写体の周囲に合成する合成ステップと、を含む画像処理方法であることを特徴とする。
また、上記目的を達成するため、請求項13に記載の発明は、コンピュータを、画像を取得する第1の取得手段と、前記第1の取得手段により取得された画像中に含まれる主要被写体の特徴を取得する特徴取得手段と、前記特徴取得手段により取得された主要被写体の特徴に基づいて、当該主要被写体の特徴に対する相対的な指標となる複数の指標画像を取得する第2の取得手段、前記第2の取得手段により取得された前記複数の指標画像を表示手段に表示させる第1の表示制御手段、前記表示手段に表示された前記複数の指標画像から、ユーザ操作により特定の指標画像を指定する指定手段、前記指定手段により指定された前記特定の指標画像を前記第1の取得手段により取得された画像中の主要被写体の周囲に合成する合成手段、として機能させるプログラムであることを特徴とする。
本発明によれば、被写体の特徴を直感的かつ即座に把握させることができる。
本発明の一実施形態に係る撮像装置のハードウェアの構成を示すブロック図である。 図1の撮像装置の機能的構成のうち、スケール表示処理を実行するための機能的構成を示す機能ブロック図である。 スケール表示処理の結果の具体例としての各画像を示す図である。 対応テーブルの構造を模式的に表した図である。 図2の機能的構成を有する図1の撮像装置1が実行するスケール表示処理の流れを説明するフローチャートである。
図1は、本発明に係る画像処理装置の一実施形態としての撮像装置1のハードウェアの構成を示すブロック図である。撮像装置1は、例えばデジタルカメラにより構成することができる。
撮像装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、画像処理部14と、画像計測部15と、バス16と、入出力インターフェース17と、撮像部18と、操作部19と、表示部20と、記憶部21、通信部22と、ドライブ23と、を備えている。
CPU11は、ROM12に記録されているプログラム、又は、記憶部21からRAM13にロードされたプログラムに従って各種の処理を実行する。
CPU11には、表示制御部41と、主要被写体検出部42と、記憶制御部43と、が設けられている。なお、表示制御部41乃至記憶制御部43のさらなる詳細については、図2を参照して後述する。
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
画像処理部14は、DSP(Digital Signal Processor)や、VRAM(Video Random Access Memory)等から構成されており、CPU11と協働して、画像のデータに対して各種画像処理を施す。
例えば、画像処理部14は、後述する撮像部18から出力される撮像画像のデータに対して、ノイズ低減、ホワイトバランス、手ぶれ補正等の画像処理を施す。
画像処理部14には、画像取得部51と、指標画像取得加工部52と、画像合成部53とが設けられている。なお、画像取得部51と、指標画像取得加工部52と、画像合成部53とのさらなる詳細については、図2を参照して後述する。
画像計測部15は、撮像画像等の画像のデータに基づいて、当該画像内に含まれる被写体の各種物理量(例えば長さ)を計測する。画像計測部15のさらなる詳細については、図2を参照して後述する。
CPU11、ROM12、RAM13、画像処理部14及び画像計測部15は、バス16を介して相互に接続されている。このバス16にはまた、入出力インターフェース17も接続されている。入出力インターフェース17には、撮像部18、操作部19、表示部20、記憶部21、通信部22及びドライブ23が接続されている。
撮像部18は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部18の出力信号として出力される。
なお、以下、撮像部18の出力信号が、「撮像画像のデータ」であるものとする。従って、撮像部18からは撮像画像のデータが出力されて、CPU11や画像処理部14等に適宜供給される。
操作部19は、各種釦等で構成され、ユーザの指示操作を受け付ける。
表示部20は、液晶ディスプレイ等で構成され、各種画像(例えば、後に詳述する合成画像)を表示する。
記憶部21は、DRAM(Dynamic Random Access Memory)等で構成され、画像処理部14等から出力された画像のデータを記憶する。また、記憶部21は、画像処理部14等の処理に必要な各種データも記憶する。
例えば、記憶部21には、指標画像記憶部61及び対応テーブル記憶部62が設けられている。なお、指標画像記憶部61及び対応テーブル記憶部62のさらなる詳細については、図2を参照して後述する。
通信部22は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
ドライブ23には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア31が適宜装着される。ドライブ23によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部21にインストールされる。また、リムーバブルメディア31は、記憶部21に記憶されている画像のデータ等の各種データも、記憶部21と同様に記憶することができる。また、リムーバブルメディア31には、本実施形態においては、後述する合成画像等が記憶される。
図2は、このような撮像装置1の機能的構成のうち、スケール表示処理を実行するための機能的構成を示す機能ブロック図である。
スケール表示処理とは、撮像画像等の原画像のデータを取得し、当該原画像に含まれる被写体の長さ等の物理量をユーザに把握させる指標となる画像(後述する指標画像)を、当該原画像とともに表示させるまでの一連の処理をいう。
図2において、CPU11は、表示制御部41と、主要被写体検出部42と、記憶制御部43とを構成する。
なお、表示制御部41乃至記憶制御部43は、本実施形態では、CPU11と、当該CPU11により実行されるプログラムとの組み合わせ、即ち、ハードウェアとソフトウェアとの組み合わせにより構成されている。しかしながら、これは例示にすぎず、表示制御部41乃至記憶制御部43の機能の少なくとも一部を、CPU11以外の他の構成要素(画像処理部14等)に移譲させることも当然可能である。
画像処理部14は、画像取得部51と、指標画像取得加工部52と、画像合成部53とを構成する。
なお、画像取得部51乃至画像合成部53が画像処理部14に設けられていることは例示にすぎず、画像取得部51乃至画像合成部53の少なくとも一部を、画像処理部14以外の他の構成要素(CPU11等)に移譲させることも当然可能である。
記憶部21には一領域として、指標画像記憶部61と、対応テーブル記憶部62と、が設けられている。
なお、指標画像記憶部61及び対応テーブル記憶部62が記憶部21の一領域として設けられていることは例示にすぎず、その他例えばリムーバブルメディア31の一領域として設けられるようにしてもよい。
撮像部18は、撮像画像のデータを、画像取得部51に供給する。
ここで、本実施の形態では、撮像画像のデータには、メタ情報が付加されているものとする。当該メタ情報には、撮像条件として、ズーム値、フォーカス値、撮像画像における被写体までの距離の情報等が含まれているものとする。
画像取得部51は、撮像部18から供給される撮像画像のデータを、原画像のデータとして取得して、主要被写体検出部42に供給する。
なお、原画像のデータは、図2の例では撮像部18により供給される撮像画像のデータとして説明されているが、図2の例に特に限定されず、所定の物理量を有する被写体が含まれている画像のデータであれば、その供給元は問わない。例えば、画像取得部51は、リムーバブルメディア31や、通信部22を介するインターネット等から供給される画像のデータを、原画像のデータとして取得することもできる。
主要被写体検出部42は、原画像のデータが供給されると、当該原画像に含まれる主要被写体を検出し、その検出結果とともに原画像のデータを画像計測部15に供給する。
なお、主要被写体の検出手法は、特に限定されず、例えば本実施形態においては、メタ情報として含まれるフォーカス値等に基づいて、フォーカス対象を主要被写体として検出する、といった検出手法が採用されている。
また、主要被写体検出部42により検出される主要被写体の数は、1つに限定されず、複数であってもよい。この場合、複数の主要被写体がユーザに提示され、ユーザは、操作部19を操作することによって、スケール表示の対象となる1つを選択する。主要被写体検出部42は、このようにして選択された1の主要被写体を検出結果として、原画像のデータともに画像計測部15に供給する。
画像計測部15は、主要被写体検出部42により検出された主要被写体の長さ、例えば長手方向の長さを計測する。ここで、主要被写体の長さとは、原画像内における主要被写体の相対的な長さではなく、実世界に存在する又は存在した主要被写体の絶対的な長さ(実寸)を意味する。
画像計測部15による主要被写体の長さの計測手法は、特に限定されないが、例えば本実施形態では、特許文献1と同様に、ズーム値と被写体までの距離情報に基づいて長さを計測する、といった計測手法が採用される。
なお、本実施形態においては、画像計測部15は、主要被写体の長手方向の長さを、主要被写体の長さとして計測する。しかし、長さの計測対象は、特にこれに限定されず、任意の方向の長さを採用することができる。例えば、画像計測部15は、主要被写体の直交する2辺の長さをそれぞれ計測することによって、結果として、主要被写体の面積を計測したことと等価にすることができる。
計測対象は、長さに特に限定されず、例えば主要被写体の体積や重量等、主要被写体が有する任意の数の任意の種類の実物理量を採用してもよい。また、当該実物理量を予め画像に付加しておき、計測を行わずに、このメタ情報に付加された当該実物理量に基づいて対応する指標となる画像を加工してもよい。
指標画像取得加工部52は、画像計測部15により計測された主要被写体の物理量と、当該主要被写体を含む画像の鑑賞者に把握させるために指標となる画像(以下、「指標画像」と呼ぶ)のデータとを、後述する指標画像記憶部61から取得する。
この場合、指標画像取得加工部52は、画像計測部15の計測結果等に基づいて自律的な判断で、即ち自動的に、指標画像のデータを取得してもよいし、ユーザが操作部19を操作して指定した指標画像のデータを取得してもよい。
そして、指標画像取得加工部52は、指標画像のデータを、原画像のデータに合成するために適切な形態となるように加工する。
例えば、画像計測部15により計測された主要被写体の物理量が、主要被写体の長さである場合、次のようにして指標画像のデータが取得されて加工される。
即ち、指標画像取得加工部52は、主要被写体の長さの指標となるもの、例えばクジラや硬貨等を示す指標画像のデータを、指標画像記憶部61から取得する。
そして、指標画像取得加工部52は、指標画像のデータを加工することによって、当該指標画像を、主要被写体の長さに相当する数だけ、当該主要被写体の長さ方向に連続して繰り返し配置させた画像のデータを生成する。
なお、このようにして、指標画像のデータが加工された結果得られるデータ、例えば本例では、所定個数の指標画像を所定方向に連続して繰り返し配置させた画像のデータを、以下、「加工指標画像のデータ」と呼ぶ。
画像合成部53は、画像取得部51により取得された原画像のデータと、指標画像取得加工部52により生成された加工指標画像のデータとを合成することによって、合成画像のデータを生成する。
表示制御部41は、画像取得部51により取得されたデータにより表わされる原画像や、画像合成部53により生成されたデータにより表わされる合成画像を表示部20に表示させる制御を実行する。
記憶制御部43は、必要に応じて、画像合成部53により生成された合成画像のデータを、リムーバブルメディア31に記憶させる制御を実行する。
さらに以下、CPU11により構成される表示制御部41乃至記憶制御部43、並びに、画像処理部14により構成される画像取得部51乃至画像合成部53の各機能について、即ち、スケール表示処理の実行機能について、図3を参照して具体的に説明する。
図3は、スケール表示処理の結果の具体例としての各画像を示す図である。
図3(a)には、被写体として橋91やビル92を含む原画像81が示されている。
画像取得部51により原画像81のデータが取得されると、主要被写体検出部42によって、橋91やビル92が主要被写体として検出される。
この場合、表示制御部41は、検出された主要被写体を特定可能なシンボル等を原画像81に重畳させて表示部20に表示させる。具体的には例えば図3(a)の例では、二重カギ括弧(『』)のシンボルによって、橋91が主要被写体であることが特定されるとともに、二重カギ括弧(『』)のシンボルによって、ビル92が主要被写体であることが特定される。この場合、ユーザは、操作部19を操作することによって、橋91又はビル92をスケール表示の対象として選択することができる。
ここで、例えば、スケール表示の対象として橋91が選択された場合について説明する。
まず、画像計測部15は、主要被写体の橋91の長手方向(水平方向)の長さが90mであると計測したものとする。
そして、指標画像取得加工部52は、例えば、20mの長さのクジラを示す指標画像(後述する図4の指標画像121)のデータを取得したものとする。
この場合、指標画像取得加工部52は、4つの指標画像(20mの長さのクジラ×4)と指標画像を半分にした画像(10mの長さのクジラの一部分)を、橋91の長手方向(水平方向)に連続して繰り返し配置させた画像のデータを、加工指標画像101のデータとして生成する。
画像合成部53は、原画像81のデータと、加工指標画像101のデータとを合成することによって、合成画像111のデータを生成する。これにより、表示部20には、図3(b)に示すような合成画像111が表示される。
なお、図3(b)においては、説明の便宜上、加工指標画像101の範囲を示す点線枠が示されているが、このような点線枠の表示は特に必須ではなく、実際には表示を省略しても構わない。
記憶制御部43は、必要に応じて、合成画像111のデータをリムーバブルメディア31に記憶させる。
一方で、例えば、スケール表示の対象としてビル92が選択された場合について説明する。
まず、画像計測部15は、主要被写体のビル92の長手方向の長さ(高さ)が46mであると計測したものとする。
そして、指標画像取得加工部52は、20mの長さのクジラを示す指標画像(後述する図4の指標画像121)のデータを取得したものとする。
この場合、指標画像取得加工部52は、2つの指標画像(20mの長さのクジラ×2)と指標画像を約(1/3)にした画像(6mの長さのクジラの一部分)を、ビル92の長手方向(垂直方向)に連続して繰り返し配置させた画像のデータを、加工指標画像102のデータとして生成する。
画像合成部53は、原画像81のデータと、加工指標画像102のデータとを合成することによって、合成画像112のデータを生成する。これにより、表示部20には、図3(c)に示すような合成画像112が表示される。
なお、図3(c)においては、説明の便宜上、加工指標画像102の範囲を示す点線枠が示されているが、このような点線枠の表示は特に必須ではなく、実際には表示を省略しても構わない。
記憶制御部43は、必要に応じて、合成画像112のデータをリムーバブルメディア31に記憶させる。
図2に戻り、指標画像記憶部61は、上述したクジラを示す指標画像等、複数の指標画像のデータを記憶する。指標画像のデータは、その形態は特に限定されないが、本実施形態では、GIF(Graphic Interchange Format)の画像ファイルであるものとする。
なお、指標画像のデータは、指標画像取得加工部52によって取得される段階で、指標画像記憶部61に記憶されていれば足りる。従って、撮像装置1の出荷時にデフォルトで与えられるGIFファイルを、指標画像のデータとして指標画像記憶部61に予め記憶しておくこともできる。また、出荷後に、通信部22やドライブ23等を介して得られたGiFファイルを、指標画像のデータとして指標画像記憶部61に事後的に記憶させることもできる。さらに、ユーザが操作部19を操作して、撮像画像のデータからGIFファイルを作成した場合、当該GIFファイルを、指標画像のデータとして指標画像記憶部61に事後的に記憶させることもできる。
対応テーブル記憶部62は、指標画像記憶部61に記憶されている複数の指標画像のデータの各々に対して、当該指標画像の物理量(例えば長さ)が対応付けられたテーブル(以下、「対応テーブル」と呼ぶ)を記憶している。
図4は、対応テーブルの構造を模式的に表した図である。
本実施形態において、対応テーブルは行列構造を有しているため、以下、図4中横方向の項目の集合体を「行」と呼び、同図中縦方向の項目の集合体を「列」と呼ぶ。
対応テーブルの1行は、指標画像記憶部61に記憶されている1つの指標画像のデータが対応する。即ち、対応テーブルの所定の行には、所定の指標画像のデータについての、「データ名」、「指標画像」及び「長さ」という項目がそれぞれ配置されている。
所定の行の「データ名」の項目には、当該行に対応する指標画像のデータの名称が格納される。
所定の行の「指標画像」の項目には、当該行に対応する指標画像のイメージが格納される。ただし、「指標画像」の項目は、対応テーブルの理解を容易なものとすべく図4に図示したものであり、実際に対応テーブル記憶部62に格納されている対応テーブルには含まれていない。
所定の行の「長さ」の項目には、当該行に対応する指標画像の長手方向の長さが格納される。
具体的には例えば、1行目に着目すると、「クジラ.gif」という名称のGIFファイルにより表わされる指標画像は、「クジラの画像121」であって、その長手方向の長さは「20m」であることがわかる。
2行目に着目すると、「10円.gif」という名称のGIFファイルにより表わされる指標画像は、「硬貨(日本国で発行される10円玉)の画像122」であって、その長手方向の長さ(ここでは10円玉の直径)は「2.5cm」であることがわかる。
3行目に着目すると、「恐竜.gif」という名称のGIFファイルにより表わされる指標画像は、「恐竜の画像123」であって、その長手方向の長さは「25m」であることがわかる。
以上、図2乃至図4を参照して、本実施形態の撮像装置1の機能的構成について説明した。
次に、このような機能的構成を有する撮像装置1が実行する処理のうち、スケール表示処理の流れについて説明する。
図5は、図2の機能的構成を有する図1の撮像装置1が実行するスケール表示処理の流れを説明するフローチャートである。
スケール表示処理は、本実施形態においては、ユーザが操作部19を操作してスケール表示の指示をした後に、撮像部18による撮像動作が行われたことを契機にして開始される。
ステップS1において、画像取得部51は、撮像部18から出力された撮像画像のデータを、原画像のデータとして取得する。例えば本例では、図3(a)の原画像81のデータが取得されたものとする。
ステップS2において、主要被写体検出部42は、ステップS1の処理で取得された原画像のデータに基づいて、当該原画像の中の主要被写体を検出する。例えば本例では、主要被写体検出部42は、図3(a)に示すように、二重カギ括弧(『』)で囲われる橋91を主要被写体として検出したものとする。
ステップS3において、画像計測部15は、ステップS2の処理で検出された主要被写体の長さを計測する。例えば、画像計測部15は、ステップS2の処理で検出された橋91の長手方向(車や人等の進行方向)の長さ(実寸)を、ズーム値や主要被写体91までの距離情報のメタ情報に基づいて計測する。具体的には例えば、本例では、上述の例にあわせて90mが計測されたものとする。
ステップS4において、表示制御部41は、指標画像を選択するよう報知する。即ち、表示制御部41は、画像計測部15の計測結果に基づいて、使用可能な指標画像の一覧を示す画像を表示部20に表示させることによって、指標画像を選択するよう報知する。
例えば本例では、主要被写体である橋91の長さは90mであると計測されている。従って、図4の対応テーブルによれば、90mをユーザに把握させるために適切な長さを有する指標画像としては、「長さ」が20mのクジラの画像121と、「長さ」が25mの恐竜の画像123とが存在する。従って、本例では、クジラの画像121と、恐竜の画像123とを含む一覧画像が表示部20に表示されることによって、指標画像として画像121又は画像123を選択するよう報知される。
ステップS5において、指標画像取得加工部52は指標画像が選択されたか否かを判定する。
指標画像が選択されない場合には、ステップS5においてNOであると判定されて、処理はステップS4に戻される。即ち、指標画像が選択されるまでの間、ステップS4及びS5のループ処理が繰り返し実行されることによって、スケール表示処理は待機状態になる。なお、図示はしないが、所定時間経過しても未だ指標画像が選択されない場合には、スケール表示処理を終了するようにしてもよい。
その後、指標画像が選択された場合には、ステップS5においてYESであると判定されて、処理はステップS6に進む。なお、本例では、クジラの画像121が指標画像として選択されたものとして、以下の説明を行う。
ステップS6において、指標画像取得加工部52は、選択された指標画像のデータを、指標画像記憶部61から取得して、その加工を行うことによって、加工指標画像のデータを生成する。
具体的には例えば、本例では、指標画像のデータとして、クジラの画像121についての「クジラ.gif」というGIFファイルが取得される。図4の対応テーブルによれば、画像121により示されるクジラの長さは20mである。一方、主要被写体としての橋91の長さは90mであり、クジラの長さの4.5倍である。よって、本例では、クジラの画像121が4.5枚分、橋91の長さ方向(水平方向)に連続して繰り返し配置された画像のデータ、即ち図3(b)に示す加工指標画像101のデータが生成される。
ステップS7において、画像合成部53は、ステップS1の処理で取得された原画像のデータと、ステップS6の処理で生成された加工指標画像のデータとを合成することによって、合成画像のデータを生成する。
本例では図3(b)に示すように、原画像81の橋91の上方に、4.5頭のクジラが水平方向に連続して繰り返し配置された加工指標画像101が重畳された合成画像111のデータが生成される。
ステップS8において、表示制御部41は、ステップS27の処理でデータとして生成された合成画像を表示部20に表示させる。
例えば本例では、図3(b)に示すような合成画像111が表示部20に表示される。
ステップS9において、記憶制御部43は、保存指示があったか否かを判定する。
即ち、ユーザは、操作部19を操作することによって、表示部20に表示された合成画像のデータを保存するか否かの保存指示をすることができる。
このような保存指示があった場合には、ステップS9においてYESであると判定されて、処理はステップS10に進む。
ステップS10において、記憶制御部43は、合成画像のデータをリムーバブルメディア31に保存(記憶)させる。これにより、スケール表示処理は終了となる。
これに対して、保存指示がなかった場合には、ステップS9においてNOであると判定されて、ステップS10の処理は実行されずに、即ち合成画像のデータは保存されずに、スケール表示処理は終了となる。
以上のように構成される撮像装置1は、指標画像記憶部61と、画像取得部51と、画像計測部15と、表示部20と、を備える。
指標画像記憶部61は、長さの指標となる指標画像のデータを記憶する。
画像取得部51は、被写体を含む画像のデータを、原画像のデータとして取得する。
画像計測部15は、原画像のデータに基づいて、原画像に含まれる主要被写体の長さを計測する。
表示部20は、主要被写体の長さに基づいて、原画像とともに指標画像を表示する。
これにより、鑑賞者は、特別な撮影操作が必要なく、主要被写体の長さを直感的かつ即座に把握することができる。
また原画像とともに表示される指標画像は、長さを想起しやすい画像であれば任意の画像を採用することができるので、興趣に富んだ画像を容易に生成することができる。
また、画像計測部15は、主要被写体の直交する2辺の長さを計測することもできる。
即ち、画像計測部15は、これらの2辺の長さを用いて、主要被写体91の面積を算出することができる。
これにより、被写体の面積を直感的かつ即座に把握させる画像であって、興趣に富んだ画像を生成することができる。
さらにまた、指標画像取得加工部52は、主要被写体91の長さに基づいて、指標画像のデータを加工することができる。
このようにして加工されたデータにより表わされる指標画像(上述した加工指標画像)は原画像とともに表示部20に表示される。
これにより、被写体の大きさをより直感的かつより即座に把握させる画像であって、より興趣に富んだ画像を生成することができる。
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
例えば、上記実施形態の図3(b)において、原画像81の橋91の上方に、4.5頭のクジラが水平方向に連続して繰り返し配置された合成画像111のデータが生成されるようにした。しかしながら、上記実施形態に限定されることなく、例えば、図4の指標画像としてクジラが移動する態様をアニメーションGIFファイルとして指標画像記憶部61に記憶させておき、加工指標画像101として指標画像記憶部61に記憶されている1頭のクジラを4.5頭分の範囲でアニメーション表示させても良い。
このような表示をすることにより動きのあるスケールの表現が可能となる。
また、例えば、上述の実施形態においては、原画像のデータは、メタ情報が付加された画像のデータが採用されたが、メタ情報が付加されている必要は特になく、例えば撮像時にCPU11等が、被写体の物理量を計測可能な情報(例えばズーム値や被写体までの距離情報)を演算したり、メタ情報とは別に取得するようにしてもよい。
また、上述の実施形態においては、指標画像として、指標となる物体(クジラ、硬貨、恐竜等)が単体で含まれる画像が採用されたが、本発明は特にこれに限定されない。例えば、指標となる物体(クジラ、硬貨、恐竜等)がi個連続して繰り返し配置された各画像(i=1乃至Nとした各画像であって、iは小数や分数でもよい)のそれぞれを、指標画像として採用することもできる。
さらにまた、撮像装置1は、このような指標となる物体(クジラ、硬貨、恐竜等)をイメージとして原画像とともに表示する代わりに、例えば、「指標となる物体(クジラ、硬貨、恐竜等)がK個(Kは正の値であって、小数や分数でもよい)分です」といったメッセージ画像を、指標画像として採用してもよい。
また、上記実施形態においては、指標画像により表現される主要被写体の物理量は、長さとされたが、特にこれに限定されず、その他例えば、径、重さ、位置、標高等を採用することもできる。さらに、指標画像により表現される主要被写体の特徴は、物理量に特に限定されず、検出可能な特徴であれば足り、その他例えば、色、天気等を採用することもできる。
径に関しては、例えば、画像計測部15は、主要被写体の直径を計測すればよい。この場合、指標画像としては、タイヤや切り株等の径の大きさを想起しやすい画像を採用することで、直感的かつ興趣に富んだ画像を生成することができる。
重さに関しては、例えば、画像計測部15は、主要被写体の種別に対応する重さを予め規定しておき、当該規定に基づいて主要被写体の重さを決定すればよい。この場合、指標画像としては、体重計の上に重さを想起させる重りや象を積み重ねた画像を採用することで、直感的かつ興趣に富んだ画像を生成することができる。
位置に関しては、例えば、画像計測部15は、GPS等により撮像地点の座標を取得すればよい。この場合、指標画像としては、略式の地図を表示し、当該地図に座標に対応する位置をポイントして表示する画像を採用することで、直感的かつ興趣に富んだ画像を生成することができる。
標高に関しては、例えば、画像計測部15は、GPS等により撮像地点の座標を取得して、当該座標に対応する標高を取得すればよい。この場合、指標画像としては、例えば、海抜0mを基準にした海や山が一連になった画像を表示し、現在の標高に対応する位置をポイントして表示する画像を採用することで、直感的かつ興趣に富んだ画像を生成することができる。
天気に関しては、例えば、画像計測部15は、撮影時の撮影場所の座標を取得して、当該座標における天気を取得すればよい。この場合、指標画像としては、天気を示すシンボルの画像を採用することで、直感的かつ興趣に富んだ画像を生成することができる。
色に関しては、例えば、画像計測部15は、主要被写体の画像の色を解析すればよい。この場合、指標画像としては、赤ならリンゴ等、特定の色を想起しやすいものの画像を採用することで、直感的かつ興趣に富んだ画像を生成することができる。
また、上述の実施形態では、本発明が適用される電子装置は、デジタルカメラ等の撮像装置1を例として説明したが、特にこれに限定されない。本発明は、上述のスケール表示処理を実行可能な電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、ビデオカメラ、携帯型ナビゲーション装置、携帯電話装置、ポータブルゲーム機等に適用可能である。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。また例えば、上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。換言すると、図2の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図2の例に限定されない。また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図1の外部メモリ26により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。外部メモリ26は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図1のROM12や、図1の記憶部21に含まれるハードディスク等で構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
1・・・撮像装置、11・・・CPU、12・・・ROM、13・・・RAM、14・・・画像処理部、15・・・画像計測部、16・・・バス、17・・・入出力インターフェース、18・・・撮像部、19・・・操作部、20・・・表示部、21・・・記憶部、22・・・通信部、23・・・ドライブ、31・・・リムーバブルメディア、41・・・表示制御部、42・・・主要被写体検出部、43・・・記憶制御部、51・・・画像取得部、52・・・指標画像取得加工部、53・・・画像合成部、61・・・指標画像記憶部、62・・・対応テーブル記憶部

Claims (13)

  1. 画像を取得する第1の取得手段と、
    前記第1の取得手段により取得された画像中の主要被写体の特徴を取得する特徴取得手段と、
    前記特徴取得手段により取得された主要被写体の特徴に基づいて、当該主要被写体の特徴に対する相対的な指標となる複数の指標画像を取得する第2の取得手段と、
    前記第2の取得手段により取得された前記複数の指標画像を表示手段に表示させる第1の表示制御手段と、
    前記表示手段に表示された前記複数の指標画像から、ユーザ操作により特定の指標画像を指定する指定手段と、
    前記指定手段により指定された前記特定の指標画像を前記第1の取得手段により取得された前記画像中の主要被写体の周囲に合成する合成手段と、
    を備えたことを特徴とする画像処理装置。
  2. 複数の指標画像を記憶する記憶手段、
    を更に備え、
    前記第2の取得手段は、前記主要被写体の特徴に基づき、前記記憶手段に記憶された前記複数の指標画像の総数より少ない数の指標画像を取得する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記表示手段に前記複数の指標画像が表示されている時、ユーザに対してユーザ操作をするように報知する報知手段を更に備えることを特徴とする請求項2に記載の画像処理装置。
  4. 前記特徴取得手段により取得された主要被写体の特徴に基づいて、前記指標画像を加工する加工手段を更に備え、
    前記第2の取得手段は、前記加工手段により加工された指標画像を前記指標画像として取得する
    ことを特徴とする請求項1から3の何れか1項に記載の画像処理装置。
  5. 前記特徴取得手段は、前記主要被写体の長さを前記特徴として計測する計測手段を有し、
    前記加工手段は、前記計測手段により計測された主要被写体の長さに基づいて、前記指標画像を加工する
    ことを特徴とする請求項4に記載の画像処理装置。
  6. 前記加工手段は、前記主要被写体の長さが前記指標画像より長い場合は、前記主要被写体の長さに合わせた数の前記指標画像を複製する複製手段を更に備え、
    前記合成手段は、前記第1の取得手段により取得された画像と、前記複製手段により複製された前記主要被写体の長さに合わせた数の指標画像とを合成する
    ことを特徴とする請求項5に記載の画像処理装置。
  7. 前記加工手段は、前記主要被写体の長さが前記指標画像より長い場合は、前記主要被写体の長さに合わせた前記指標画像のアニメーションデータを生成する生成手段を更に備え、
    前記合成手段は、前記第1の取得手段により取得された画像と、前記生成手段により生成された前記アニメーションデータとを合成する
    ことを特徴とする請求項6に記載の画像処理装置。
  8. 前記計測手段は、前記被写体の直交する2辺の長さを計測する
    ことを特徴とする請求項5から7の何れか1項に記載の画像処理装置。
  9. 前記合成手段により合成された前記画像と前記指標画像とを表示手段に表示させる第2の表示制御手段を更に備えた
    ことを特徴とする請求項1から8の何れか1項に記載の画像処理装置。
  10. 前記第1の取得手段により取得された画像に含まれる主要被写体を検出する検出手段を更に備え、
    前記特徴取得手段は、前記検出手段により検出された主要被写体の特徴を取得する
    ことを特徴とする請求項1から9の何れか1項に記載の画像処理装置。
  11. 前記検出手段により検出された主要被写体の位置を強調表示する第3の表示制御手段を更に備えた
    ことを特徴とする請求項10記載の画像処理装置。
  12. 表示部を備える画像処理装置が実行する画像処理方法において、
    画像を取得する第1の取得ステップと、
    前記第1の取得ステップの処理により取得された画像に含まれる主要被写体の特徴を取得する特徴取得ステップと、
    前記特徴取得ステップにより取得された主要被写体の特徴に基づいて、当該主要被写体の特徴に対する相対的な指標となる複数の指標画像を取得する第2の取得ステップと、
    前記第2の取得ステップにより取得された前記複数の指標画像を前記表示部に表示させる第1の表示制御ステップと、
    前記表示部に表示された前記複数の指標画像から、ユーザ操作により特定の指標画像を
    指定する指定ステップと、
    前記指定ステップにより指定された前記特定の指標画像を前記第1の取得ステップにより取得された画像中の主要被写体の周囲に合成する合成ステップと、
    を含むことを特徴とする画像処理方法。
  13. コンピュータを、
    画像を取得する第1の取得手段と、
    前記第1の取得手段により取得された画像中に含まれる主要被写体の特徴を取得する特徴取得手段と、
    前記特徴取得手段により取得された主要被写体の特徴に基づいて、当該主要被写体の特徴に対する相対的な指標となる複数の指標画像を取得する第2の取得手段、
    前記第2の取得手段により取得された前記複数の指標画像を表示手段に表示させる第1の表示制御手段、
    前記表示手段に表示された前記複数の指標画像から、ユーザ操作により特定の指標画像を指定する指定手段、
    前記指定手段により指定された前記特定の指標画像を前記第1の取得手段により取得された画像中の主要被写体の周囲に合成する合成手段、
    として機能させることを特徴とするプログラム。
JP2010219788A 2010-09-29 2010-09-29 画像処理装置、画像処理方法及びプログラム Expired - Fee Related JP5884260B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010219788A JP5884260B2 (ja) 2010-09-29 2010-09-29 画像処理装置、画像処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010219788A JP5884260B2 (ja) 2010-09-29 2010-09-29 画像処理装置、画像処理方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2015111020A Division JP6197830B2 (ja) 2015-06-01 2015-06-01 画像処理装置、画像処理方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2012075036A JP2012075036A (ja) 2012-04-12
JP2012075036A5 JP2012075036A5 (ja) 2013-11-14
JP5884260B2 true JP5884260B2 (ja) 2016-03-15

Family

ID=46170765

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010219788A Expired - Fee Related JP5884260B2 (ja) 2010-09-29 2010-09-29 画像処理装置、画像処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP5884260B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6113416B2 (ja) * 2012-04-04 2017-04-12 シャープ株式会社 画像撮像装置、画像処理方法、プログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0514779A (ja) * 1991-06-28 1993-01-22 Kyocera Corp 電子スチルカメラの寸法表示システム
JPH05312947A (ja) * 1992-05-13 1993-11-26 Furuno Electric Co Ltd 魚種判別装置
JPH11102007A (ja) * 1997-09-25 1999-04-13 Casio Comput Co Ltd 画像重複表示方法およびカメラ装置
JP2004260778A (ja) * 2003-02-28 2004-09-16 Koichiro Nishio デジタルカメラ、制御方法及びプログラム
JP4269908B2 (ja) * 2003-11-25 2009-05-27 カシオ計算機株式会社 電子カメラ、電子カメラの制御プログラム
JP5441799B2 (ja) * 2010-04-08 2014-03-12 株式会社ザクティ 電子カメラ

Also Published As

Publication number Publication date
JP2012075036A (ja) 2012-04-12

Similar Documents

Publication Publication Date Title
US8599251B2 (en) Camera
JP2007194819A5 (ja)
CN108200351A (zh) 拍摄方法、终端及计算机可读介质
JP6434666B1 (ja) 電子機器、制御方法およびプログラム
JP2006244051A (ja) 表示装置および表示制御方法
JP6143678B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP6381892B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP4901258B2 (ja) カメラ及びデータ表示方法
US9767587B2 (en) Image extracting apparatus, image extracting method and computer readable recording medium for recording program for extracting images based on reference image and time-related information
JP2010198559A (ja) 画像処理装置、画像処理方法、および、画像処理プログラム
US10447935B2 (en) Image generating apparatus, image generating method and computer readable recording medium for recording program for generating new image from images related to reference image
JP5884260B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2012191629A (ja) 画像表示装置、及び画像表示方法、画像表示プログラム
JP2013165413A (ja) 画像表示装置
JP6197830B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2020184669A (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
JP5216828B2 (ja) 画像処理装置、方法及びプログラム
JP6598897B2 (ja) 電子機器、制御方法およびプログラム
JP5593778B2 (ja) 画像処理装置及び方法、並びにプログラム
JP2010021934A (ja) 画像表示装置および電子カメラ
JP2009284123A (ja) 画像表示装置、及び画像表示方法、画像表示プログラム
JP2014175733A (ja) 画像再生装置および画像再生プログラム
JP2015008428A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2012027678A (ja) 画像表示装置およびプログラム
JP2011160285A (ja) 画像表示装置、携帯端末装置、および画像表示方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130926

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130926

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140527

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140718

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150601

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160125

R150 Certificate of patent or registration of utility model

Ref document number: 5884260

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees