JP4440120B2 - 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 - Google Patents

画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 Download PDF

Info

Publication number
JP4440120B2
JP4440120B2 JP2005000909A JP2005000909A JP4440120B2 JP 4440120 B2 JP4440120 B2 JP 4440120B2 JP 2005000909 A JP2005000909 A JP 2005000909A JP 2005000909 A JP2005000909 A JP 2005000909A JP 4440120 B2 JP4440120 B2 JP 4440120B2
Authority
JP
Japan
Prior art keywords
image
image processing
information
edited
parameters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005000909A
Other languages
English (en)
Other versions
JP2005251165A (ja
JP2005251165A5 (ja
Inventor
史明 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2005000909A priority Critical patent/JP4440120B2/ja
Priority to US11/049,967 priority patent/US7356204B2/en
Publication of JP2005251165A publication Critical patent/JP2005251165A/ja
Publication of JP2005251165A5 publication Critical patent/JP2005251165A5/ja
Priority to US12/046,145 priority patent/US7620271B2/en
Application granted granted Critical
Publication of JP4440120B2 publication Critical patent/JP4440120B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Television Signal Processing For Recording (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、現在一般的にパーソナルコンピュータ(以下PC)と呼ばれている情報処理装置を画像処理装置として動作させた場合に関わるものであり、特に、デジタルカメラで撮影した画像を画像処理を行わない画像データと、画像処理を行った画像データとを非汎用データとして一つのファイルに格納したRAW画像ファイルの画像内容を表示する画像処理装置に関するものである。
デジタルスチルカメラ等の撮像装置においては、CCDセンサやCMOSセンサ等の撮像素子からの出力信号をA/D変換し、その後、ホワイトバランスの補正などの各種処理を行い、JPEG圧縮を行ってメモリーカード等の着脱可能な記録媒体に記録することが行われている。また、撮像画像を編集する場合、一般には、パーソナルコンピュータ等の汎用情報処理装置(以下、PCという)で動作する画像編集アプリケーションプログラムを利用して行うのが普通である。
ところが、JPEG圧縮は不可逆である。従って、編集する際の画像(復号画像)は、撮像素子で検出した状態の画像に対するものとは異なり、その編集内容は自ずと制約されたものとならざるを得ず、高度な編集知識を有する利用者には不十分である。
かかる点に関して、デジタルスチルカメラ等の撮像装置において、撮像素子からの出力信号をA/D変換し、その後ほとんどの画像処理を行わずにデジタルな画像データ(以降、RAW画像データと記す)としてTIFF形式やメーカ固有の圧縮形式によって可逆圧縮を行い、そのRAW画像データと、撮像素子のカラーフィルタの画素配列、フィルタ色配列、画素毎の感度特性(分光感度など)を含む特性を意味するカメラ固有の属性情報(以下、撮像素子フィルタ特性と記す)やRAW画像データが撮影された時の撮影条件情報を関連付けてメモリーカード等の着脱可能な記録媒体に記録する技術がある(例えば、特許文献1)。
例えば、PCで処理する場合には、RAW画像データを、その属性情報として関連付けられた撮像条件に基づいて再生画像処理を行い(以下、現像処理と記す)、現像されたRAW画像データをモニタ等で表示することになる。その際のアプリケーションプログラムでは、撮像素子フィルタ特性に応じた画素ごとの補間処理、色分離処理、撮像時の光源情報に応じたホワイトバランス処理、露出時間やシャッタースピードやズーム位置などの撮影条件に応じた輝度調整処理、色調整処理、シャープネス処理などの画像処理を行って再生する。また、以上のように再生された画像を見て、更にユーザがホワイトバランスや色調整を任意に設定したい場合は、RAW画像データから属性情報と画像処理パラメータに基づき、再びRAW画像データから現像処理をしている。
特開平3−49483号公報
しかし、一般にRAW画像データ等の未処理画像データは撮像センサからの出力信号をそのまま画素情報として保持しているため容量が大きく、上記のようなアプリケーションソフトによってモニタ等で表示可能なデータへと変換するための現像処理は、大量の画像処理ステップが行われるため、多くの処理時間がかかる。このため、RAW画像データの画像状態は現像処理が完了するまで分からず、処理が終って表示されるまでユーザが待たされ、現像処理の表示速度やユーザビリティ上の問題があった。すなわち、従来、通常表示モードにおいてRAW画像データを表示する際、RAW画像ファイルのRAW画像データに対して現像処理を行った後表示を行ない、モード切り替えにより高速プレビューモード(JPEGプレビューモード)にすると、常に撮影時に作成される現像処理済画像データであるJPEGデータを表示していたが、以下のような問題があった。
1) ユーザが撮影時の設定(撮影条件パラメータ)とは異なる現像パラメータを指定した際、JPEGプレビューモードでは、常に撮影時の現像処理内容のJPEGデータが表示されているため、ユーザが指定したパラメータによる画像処理結果を確認することができない。
2)ユーザが指定したパラメータによる処理結果を確認するためには、その都度、表示のモードを通常表示モードへとユーザが切り替える必要があり、ユーザビリティが悪い。
本発明では、かかる問題点に鑑みなされたものであり、未処理画像データ(RAW画像データ)と現像処理済画像データで構成される画像データに対して、ユーザの指定された編集パラメータに応じた画像を表示するだけでなく、要求された編集パラメータによっては画像が表示されるまでに要する時間を短くでき、ユーザビリティを向上させる技術を提供しようとするものである。
この課題を解決するため、例えば本発明の画像処理装置は以下の構成を備える。すなわち、
影条件情報、当該撮影条件情報に従って画像処理された処理済み画像情報、及び、前記画像処理が施されていない未処理画像情報で構成される画像ファイルを編集する画像処理装置であって、
画像処理にかかる編集パラメータを設定する設定手段と、
所定の記憶装置に保存された編集対象の画像ファイルを前記設定手段で設定された条件に従って表示する場合、前記設定手段で設定された編集パラメータと、当該画像ファイル中の前記撮影条件情報内の該当するパラメータとを比較する比較手段と、
該比較手段により両者が一致する場合、前記編集対象の画像ファイル内の処理済み画像情報に基づく画像を所定の表示手段に表示し、不一致の場合には前記編集対象の画像ファイル内の未処理画像情報を前記設定手段で設定されたパラメータに従って画像処理して得られた画像を前記表示手段に表示する画像処理切り換え手段とを備える。
本発明によれば、ユーザが設定した編集パラメータの通りの画像を表示すると共に、要求された編集パラメータによっては画像が表示されるまでに要する時間を短くでき、ユーザビリティを向上させることが可能となる。
以下、添付図面に従って本発明に係る実施形態を詳細に説明する。
<第1の実施形態>
図1は、デジタルカメラにおいて用いられている記憶媒体に格納された1つのRAW画像データファイルのデータ構造を示すものである。図示のとおり、画像ファイルは、撮影条件パラメータ101、現像処理済画像データ102、RAW画像データ103、およびその他のデータで構成されている。
なお、図1の画像ファイル中の撮影条件パラメータ101には、撮影時にカメラのUI操作であらかじめユーザが設定した撮影条件(画像処理)パラメータ設定値が格納されている。また、現像処理済画像データ102は、画像サイズがRAW画像データよりも小さい(例えば、水平方向640×垂直方向480画素)の撮影条件パラメータをもとに撮像時に作成されたJPEGデータである。なお、この現像処理済み画像データ102は、実施形態では、JPEG形式のデータで説明しているが、撮影条件による現像処理が施されたことが表示出来るデータであればビットマップ形式やGIF形式等でも構わない。また、RAW画像データ103は、デジタルカメラの撮像センサ(例えば、CCD)にて光電変換されたデータをA/D変換しただけのセンサ(出力)生データである。実施形態では、2560×1920画素サイズ(撮像素子が500万画素のデジタルカメラで撮像した場合に相当する)のデータであるものとする。RAW画像データは、文字どおり、A/D変換後の画像に完全復元できれば良いので、可逆符号化したデータであっても構わない。つまり、A/D変換を施した画像信号に、少なくともホワイトバランス処理を施していない段階のもの、輝度信号と色信号に分ける色分離処理をしていない段階もの、色フィルタからの出力信号を色補間処理前の段階のもの等、撮像センサからの出力を損失なく記録している画像データであれば良い。
また、ファイルのデータ構造は、RAW画像データ、撮影条件パラメータ、現像処理済み画像データが互いに関連付けられていれば、図1の構造に限られるものではない。
図2は、実施形態における画像処理装置の基本構成図である。この画像処理装置は、パーソナルコンピュータ等の汎用の情報処理装置(以下、PC)とそれ上で動作するアプリケーションプログラムで実行されるものである。この場合の構成は図3に示す通りであり、同図の画像編集プログラム406並びに不図示のOSによって画像処理装置として機能することになる。以下、図2の構成について、図3と比較しながら説明することとする。なお、図3の画像編集プログラムはハードディスク405に格納されているものであり、利用者がそのプログラムの起動を指示することで、DRAM403にロードされ実行可能となる。
201は、内部バスであり、本画像処理内の各処理部がデータ送受信するためのものである。
202は、表示部であり、RAW画像データを画像処理した結果や現像処理済画像データを表示したり、ユーザが現像パラメータの入力を行うためのユーザインタフェースを表示するためのものである。図3では、CRT402がこれに相当する。
203は、画像ファイル記憶部であり、図1で示されるような画像ファイルを記憶するものである。図示では、1つのファイルが格納されていることを示しているが、勿論、多数のファイルを格納することが可能である。図3ではハードディスク装置405がこれに相当する。なお、デジタルカメラから図1のファイルを入力し、この画像ファイル記録部に格納するには、デジタルカメラが通常備えるUSB等のインタフェースを介して、本装置に接続した上で転送させる方法、本装置にカードリーダを接続し、そこにデジタルカメラから取り出した記憶媒体をセットして読取り、画像ファイル記録部203に転送する方法等が考えられよう。なお、図1に示すファイルがネットワーク上に存在する場合には、ネットワークインタフェースを介して、画像ファイル記録部203に格納すれば良い。すなわち、図1のファイルを画像ファイル記録部203に保存する手段は如何なるものでも構わない。
204は、RAW画像データに対して画像処理を行ったり、画像の拡大縮小処理を施す画像処理部である。図3では、画像処理プログラム408がこれに該当する。
205は記憶部であり、各種ワークエリアとして利用されるものであり、図3ではDRAM403における作業用メモリ領域が対応する。
206は現像パラメータ入力部であり、ユーザがRAW画像データに対して画像処理を施す際に、好ましいと思う所望とするパラメータを入力するためのものである。キーボード(不図示)やマウス415と、その際の表示ウインドウ(後述)との連携で実現する。
207は撮影条件パラメータ解析部であり、図1のごとき画像ファイルを解析して、撮影条件パラメータを取得する。図3における撮影条件パラメータ解析プログラム413が該当する。
208はパラメータ比較部であり、現像パラメータ入力部206によりユーザが入力した画像処理ためのパラメータと、現像条件パラメータ解析部207が解析した現像条件パラメータとを比較して、パラメータ項目毎に、設定値の一致を比較するものである。図3では、パラメータ比較プログラム414がこれに対応する。
209は、表示サイズ算出部であり、現在の表示装置の表示状態から、表示すべき画像サイズの算出を行うものである。図3の表示サイズ算出プログラム415がこれに該当する。
210は、サイズ比較部であり、表示サイズ算出部209により算出された表示すべき画像サイズと、現像処理済画像データ102の画像サイズとの比較を行うものである。図3でのサイズ比較プログラム417がこれに該当する。
211は画像処理切り替え部であり、パラメータ比較部208と、サイズ比較部210の比較の結果に基づいて、現像処理済画像データ102を表示するか、RAW画像データ103に対して画像処理を施した結果を表示するかの切り替え制御を行うものである。図3での画像切り替えプログラム418がこれに該当する。
以上説明した図2について説明したが、図3に示す編集プログラムを構成する各部分的なプログラムは、CPU404が実行することになる。
次に、実施形態における画像編集プログラム406の処理を説明する。
図4は、実施形態の画像編集プログラム406が起動した際の、画像編集にかかるGUIを示している。図示に示す様に、本実施形態における編集プログラムを実行すると、表示画面には、2つのウインドウ40、45が表示される。
ウインドウ40は主に編集中の画像を表示するものであり、編集画像を表示する画像表示ウインドウ43(起動直後は640×480画素サイズである)、その画像表示ウインドウ43のウインドウサイズを指定するサイズ指示部41、保存を指示する保存ボタン42、更には、画像ファイルを読込むためのダイアログボックス(不図示)を表示させるための「ファイル」ボタン44が設けられている。サイズ指示部41の右端には、上下の矢印が表示され、ここをマウスに連動するカーソルを移動してクリック操作(以下、単に操作という)することで、画像表示ウインドウ43のサイズを変更することができる。画像表示ウインドウ43の大きさは、ウインドウ40を越える設定も可能である。ウインドウ40を越えるサイズが指定された場合、画像表示ウインドウの一部がウインドウ40内に表示され、水平、垂直方向のスクロールバーが表示される。従って、RAW画像データに基づくリサイズ無しの画像データ、すなわち、表示画素と表示すべき画像が1対1の関係でも表示させることが可能である。
一方、ウインドウ45であるが、ここには、各種画像編集項目が表示され、利用者はそのうちの所望とする項目のスライダーのツマミ(図示では弱、中、強の3段階としたが、勿論、これ以上の多段階でも良い)を移動することで、該当する編集項目を調整することが可能となっている。図示では、編集項目としてコントラストコントロール46、色の濃さコントロール47、シャープネスコントロール48の3つが表示されているが、スクロールバー49を操作してスクロールすることで、他の設定項目(トーンカーブ、明るさ、ホワイトバランス設定値、色温度、色相など)の項目を表示させることができる。本実施形態のアプリケーションを起動した直後の状態(デフォルト)では、各編集項目のスライダーバーのツマミ位置は中央位置に設定される。
なお、以下の説明において、編集項目毎のスライダーバーのツマミ位置で決定される状態値を編集パラメータ(もしくは単にパラメータ)と呼び、ツマミ位置を変更して、その編集項目の状態を変更する操作ことを「パラメータを設定する」と言う。また、編集の度合を設定する場合、図示のようにスライダーバーを用いると操作性が良いが、数値入力によって行ってもよいし、その設定のための表示形態は如何なるものでも構わない。また、ウインドウ40、45の2つを表示するものとしたが、1つのウインドウに表示しても構わない。
以下、図4のウインドウ40、45を基本とし、その処理内容を図5乃至図7のフローチャートに従って説明する。
本実施形態の編集プログラムが実行開始すると、先ず、ステップS1において、図4に示すウインドウ40、45を表示する。このとき、編集対象の画像ファイルは選択されていないので、図4における画像表示ウインドウ43には画像は表示されない。
次いで、ステップS2に進み、ユーザからの指示入力を待つ。指示入力の種類としては、サイズ指示部41、保存ボタン42、ファイルボタン44、編集項目46乃至48等におけるスライダーバーのツマミ位置変更、更には、本実施形態のアプリケーションを終了指示が含まれる。保存ボタン42は、編集対象の画像が表示されていない場合には、機能しない。
指示入力があると、ステップS3にてその指示入力の種類に応じて分岐先を決定することになる。
ここで、編集パラメータの変更指示(ウインドウ45中のいずれかの編集項目のスライダーバーのツマミ位置調整)であると判断した場合には、ステップS5に進んで、作業用メモリ領域内の処理パラメータ領域416(図3参照)にその結果を保存する。そして、ステップS6において、画像表示中であるか否かを判断し、否であればステップS2に戻る。
また、サイズ指示部41に対して指示されたと判断した場合には、ステップS7に進み、その指示されたサイズに従って画像表示ウインドウ43の大きさを算出して変更し(表示サイズ算出プログラム415)、その結果を処理パラメータ領域416に保存する。そして、ステップS8にて、画像表示中であるか否かを判断し、否であればステップS2に戻る。
上記のように編集対象となる画像ファイルを選択する以前に、画像表示ウインドウ43のサイズ、並びに、画像編集パラメータを設定可能としたのは、利用者が編集対象の画像ファイルを選択し、画像表示ウインドウ43に表示する際の、初期編集の設定を可能とするためである。ステップS6、ステップS8において、画像表示中であると判断した場合には、パラメータの設定、サイズの変更指示は、その際に表示されていた画像に対する設定であるものとし、後述の図7の処理に進むことになる。ここでは、図5の処理の説明を続けることとする。
ステップS2にて入力された指示が、ファイルボタン44であると判断した場合には、ハードディスク405に格納された画像ファイルの一覧が表示され、ユーザはその中の所望とする画像ファイルし、そのファイルをDRAM403の作業用メモリ領域にロードする処理を行う(ステップS4)。
また、保存ボタン42が操作された場合には、作業用メモリ領域に格納されている画像データを、ハードディスク405に保存する処理を行う(ステップS9)。保存する際には、ファイル名を替えて保存することも可能である。
次に、ステップS4のファイルロード処理の詳細を図6のフローチャートに従って説明する。注意したいのは、起動時の状態に対し、編集パラメータ、画像表示ウインドウのサイズが変更されている可能性があることである。
先ず、ステップS11にて、利用者が指定した画像ファイル(その構造は図1参照)を、作業用メモリ領域にロードする。次いで、ステップS12に進み、読み込んだ画像ファイル中の撮影条件パラメータを解析する(パラメータ解析プログラム413)。撮影条件パラメータには、画像編集とは無関係なデータ(撮影日時等)が含まれているので、それら情報は除外し、実施形態の画像編集項目に相当する各項目の状態値(以下、撮影条件情報という)を読込むことになる。
次に、ステップS13に進み、解析して得られた撮影条件情報と、処理パラメータ領域416に格納された情報、すなわち、利用者が設定したパラメータとを比較する(パラメータ比較プログラム414)。編集対象項目の1つでも、異なっていたら、処理はステップS16に進んで、作業用メモリ領域にロードしたRAW画像データを、設定パラメータに従って現像処理を行い、且つ、その際の画像表示ウインドウ43のサイズにリサイズ(以下、これらを画像処理と称す)を行う。そして、ステップS17に進んで、画像処理結果を画像表示ウインドウ43に表示する。
ステップS13にて、編集に影響を与える撮影条件と設定パラメータが一致していると判断した場合には、ステップS14に進んで、処理済み画像データ(JPEGデータ)の画像サイズが、現在の画像表示ウインドウ43のサイズ以上であるか否かを判断する(サイズ比較プログラム415)。処理済み画像データ(JPEGデータ)の画像サイズが、現在の画像表示ウインドウ43のサイズ以上であると判断した場合、結局のところ、その時点での設定パラメータに従って処理したのと同じ画像がJPEG画像データとして存在しており、且つ、少なくとも処理済み画像データを拡大しないで済むことが約束されているわけであるから、ステップS15に進んで、作業用メモリ領域のロードした処理済み画像データを画像表示ウインドウ43に表示する。このとき、画像表示ウインドウ43のサイズがJPEG画像の画像サイズより小さい場合には、縮小処理を行うことになる。
また、設定パラメータは一致しても、画像表示ウインドウ43のサイズ(水平及び垂直方向の画素数)がJPEG画像の画像サイズより大きい場合には、RAW画像データに基づいて画像処理を行うべく、ステップS16に進むことになる。
なお、ステップS16にて、RAW画像データに対する画像処理(現像処理=画像処理プログラム408)を行うことになるが、この処理はCPUの大きな負荷がかかる処理で、表示するまでにある程度の時間を要する。従って、このステップS16に処理が移行する際には、処理の経過時間や進行状況を示すバー表示を図4のウインドウ上やウインドウ外で行い、ユーザが処理状況を確認出来るようにユーザビリティを向上させている。
また、マウス415に連動するカーソルの形状を、通常の矢印形状のカーソルに替え、例えばアナログ時計形状のカーソルに変更するようにしても良い。このとき、現像処理には、各設定項目数に見合った処理が必要になるので、その進行状況を秒針に反映させて表示するようにした。現像処理が完了し、その結果を画像表示ウインドウ43に表示したときには、通常の形状のカーソルに変更する。一方、ステップS15に処理が進んだ場合には、処理済画像データ(JPEGデータ)に基づいて画像を表示することになるが、この処理はごく簡単で、それに要する時間は知覚できない程度であるので、通常のカーソル形状のままにした。
以上の結果、画像編集に係る設定パラメータと撮影条件情報が一致し、なおかつ、JPEGデータの画像サイズが、表示サイズ以上である場合には、処理が複雑な現像処理を省けることになり、画像が表示されるまでに要する時間を短くすることが可能となる。また、画像編集に係る設定パラメータと撮影条件情報が不一致の場合、あるいは、一致するものの画像表示ウインドウ43のサイズがJPEGデータの画像サイズを越える場合には、その際の設定パラメータに従って現像処理し、リサイズする処理が必要になるものの、画像ファイルを選択した際に、利用者が要望した条件による編集後の画像を表示させることが可能になる。
なお、ステップS14では、JPEGデータの画像サイズが画像表示ウインドウ43のサイズ以上であるか否かを判断するものとして説明した。しかしながら、画像表示ウインドウ43のサイズがJPEGデータの画像サイズの1.5倍(水平、垂直とも1.5倍という意味)でも、画質への影響はあっても許容範囲であり、それよりもレスポンスを重視する利用者もあり得る。つまり、表示画像の画質を優先するか、スピードを優先するかは互いにトレードオフの関係にあり、その要望は利用者に依存したものとなる。従って、ステップS14における閾値は、プログラムで固定しても、利用者の設定で可変にしても構わない。
上記のようにして、画像表示ウインドウ43には、編集対象の画像が表示されることになるが、その画像表示中に、画像表示ウインドウ43のサイズを変更した場合、並びに、編集項目のパラメータを変更した場合の処理(ステップS8でYes、ステップS6でYesと判断した場合の処理)を、図7のフローチャートに従って説明する。注意したいのは、この時点で最新のパラメータ、画像表示ウインドウ43のサイズが既に決定されている点である。
先ず、ステップS21において、撮影条件データと設定パラメータとを比較する。不一致であると判断した場合には、ステップS24に進んで、その際の設定パラメータに従って編集処理する。そして、その時点での画像表示ウインドウのサイズに従ってリサイズ処理も行う。そして、ステップS25にて、その処理結果を画像表示ウインドウ43に表示する。なお、このステップS24の処理は、先に説明した図6のステップS16と同じであるので、処理結果の画像を表示するまでの間、前述のバー表示やカーソルの形状変更を行うことになる。
また、ステップS21で、撮影条件データと設定パラメータとが一致すると判断した場合には、ステップS22に進み、処理済み画像データのサイズが画像表示ウインドウ43のサイズ以上であるか否かを判断する。この判断がYesの場合には、ステップS23に進んで、処理済み画像データ(JPEG画像データ)を、必要に応じてリサイズし、画像表示ウインドウ43に表示する。
また、ステップS22の判断がNoであると判断した場合には、上記ステップS24以降の処理を行うことになる。
以上説明したように、編集対象の画像を表示した状態で、各種編集パラメータを設定すると、その設定されたパラメータに基づいて画像を編集することが可能となると共に、設定パラメータ、画像表示ウインドウ43のサイズが、処理済画像データ(JPEGデータ)で対処できる場合にはその処理済み画像データを表示することで、高いレスポンスが得られるようになる。
なお、RAW画像データに対して現像処理を行った場合、その結果は作業用メモリ領域に保存されることになる。この時点で、厳密な意味でRAW画像データではなくなるが、実施形態では便宜的に現像処理後のデータもRAW画像データと呼ぶ。従って、パラメータを変更する等を行ってRAW画像データに対して現像処理した後、画像表示ウインドウ43のサイズを変更した場合には、現像処理は行わないで、表示のためのリサイズ処理のみを行えばよい。
また、実施形態では、撮影条件と編集対象各項目のパラメータが一致したか否かで判断するものとしたが、例えば、設定項目「シャープネス」の場合、RAW画像データに基づく画像が本来有するサイズに対して画像表示ウインドウ43のサイズが小さい場合、シャープネスの影響は視認しにくい。従って、リサイズ無しに表示する場合(画像表示ウインドウ43のサイズを、RAW画像データが本来持つ解像度の画素数と一致する場合)を除いて、シャープネス等の視認しにくいパラメータ項目は一致判定の対象外にしても構わない。この結果、画像表示ウインドウ43のサイズが、オリジナルの画像サイズより小さい場合には、現像処理中のシャープネス処理等を省略できるので、その分だけレスポンスが改善できるようになる。かかる処理は、以下に説明する第2の実施形態でも同様に行うことが望ましい。
また、上記実施形態では、画像表示ウインドウ43に表示する画像をリサイズするものとして説明したが、JPEG画像のサイズが画像表示ウインドウ43と一致しなくても、ほぼ等しい場合(例えば±10%の許容誤差範囲内の場合)には、リサイズ処理を省略しても構わない。これについても、以下に説明する第2の実施形態で適用可能である。
<第2の実施形態>
上記実施形態(第1の実施形態)では、画像表示ウインドウ43には、画像全体を表示する例を説明した。しかし、場合によっては、現像パラメータを設定した際に、画像の一部分を詳細に確認したいという要望もあるであろう。これを実現するには、画像表示ウインドウ43に表示する画像の拡大率を設定する構成とその拡大率に応じた表示処理が必要になる。
図8は、本第2の実施形態における画像編集プログラム406を起動した際の画像編集にかかるGUIを示している。同図で符号50が倍率を指示する倍率指示部であり、倍率指示部50の右端の2つの△マークを操作することで、倍率を増加、減少させることが可能になる。倍率指示部50以外は第1の実施形態と同じであるので、その説明は省略する。なお、本第2の実施形態では、画像表示ウインドウ43には、設定した倍率によっては画像の一部分のみが表示されることになるが、画像表示ウインドウ43内にカーソルを移動し、ドラッグ操作を行うことで、スクロールすることで他の部分を表示させることも可能である。なお、スクロール処理としては、これに限定されるものではなく、画像表示ウインドウ43の周辺にスクロールバーを表示し、このスクロールバーを操作することで実現しても勿論構わない。
先ず、本第2の実施形態における概要を説明する。
例えば、画像表示ウインドウ43のサイズが、水平方向に320画素、垂直方向に240画素のサイズであり(以下、“320×240画素サイズ”と表現する)、JPEG画像データが640×480画素サイズ、RAW画像が3200×2400画素サイズであるとする。
また、倍率指示部50で指示する倍率が100%であるとき、画像表示ウインドウ43における1表示画素が、RAW画像の1画素に等しい対応することを意味する。また、倍率20%とは、1表示画素がRAW画像の5×5画素に対応することを意味する。
さて、画像表示ウインドウ43、JPEG画像、RAW画像のサイズが、上記条件の下で、操作者が倍率指示部50を操作して仮に倍率を40%に設定した場合について考察する。
RAW画像データの倍率40%のサイズは1280×960画素サイズであり、このサイズは画像表示ウインドウ43を超えている。従って、変倍した画像の一部分が画像表示ウインドウ43に表示することになる。
この際、変倍後の1280×960画素サイズは、JPEG画像のサイズを超えているので、画像表示ウインドウ43に表示する画像はRAW画像データを現像処理して作成するしかない。
一方、倍率が20%とした場合、RAW画像データの20%のサイズは640×480画素サイズになるので、ちょうどJPEG画像サイズと同じになる。従って、操作者が設定した現像パラメータと撮影時のパラメータが同じであり、尚且つ、倍率が20%の場合には、JPEG画像データ中の、画像表示ウインドウ43と同じサイズの領域を切り出して、画像表示ウインドウに表示すれば良いことになる。そして、操作者が設定した現像パラメータと撮影時のパラメータが同じであり、尚且つ、倍率が20%未満の場合には、JPEG画像を間引きして表示すれば良いことになる。
上記をまとめ、説明すると次のようになる。先ず、変数を定義する(単位はそれぞれ画素である)。
Xj:JPEG画像の水平方向のサイズ、
Yj:JPEG画像の垂直方向のサイズ、
Xr:RAW画像の水平方向のサイズ、
Yr:RAW画像の垂直方向のサイズ、
M:設定した倍率(%)
上記の定義において、画像表示ウインドウ43に表示する画像としてJPEG画像が利用できる条件は次の通りである。
Xj≧Xr×M/100
Yj≧Yr×M/100 …(1)
上式(1)を倍率Mについて見ると、
M≦Xj/Xr×100
M≦Yj/Yr×100
となる。つまり、操作者が設定する倍率Mが、「Xj/Xr×100」以下であれば、画像表示ウインドウ43に表示する画像としてJPEG画像が利用できることを意味する。先の条件で言えば、M≦20%の場合には、JPEG画像が利用できることになる。
JPGE画像を利用できると判断した場合における、JPEG画像に対する倍率M’は、次のようにして求めることができる。
M’=M×Xr/Xj or M’=M×Yr/Yj
つまり、操作者が設定した倍率が10%の場合には、JPEG画像への倍率M’は、
M’=10×3200/640=50%
となり、JPEG画像を50%(=0.5倍)して、画像表示ウインドウ43に表示すれば良い。
上記では、画像表示ウインドウ43のサイズ変更可能であっても、その水平方向Xr×M/100、垂直方向Yr×M/100を超えることはないものとする。
以上であるが、本第2の実施形態を実現する場合には、図6、図7に代えて、図9、図10の処理を行えば良い。図6、図7と異なるのは、ステップS14’とステップS22’のみであり、それ例外は図6、図7と同じである。
ステップS14’及びステップS22’では、処理済み画像データのサイズ(JPEG画像のサイズ)が、RAW画像サイズのM%以上であるか否かを判断する。この判断がYesの場合には、ステップS15或いはステップS23の処理を行なう。
なお、第1の実施形態でも説明したが、画像表示ウインドウ43に表示する画像に多少影響があったとしても、高いレスポンスを重視することを利用者もあり得るので、上記式(1)、すなわち、ステップS14’、22’を、ユーザが設定できる係数α(α≧1)を定義し、次式(1’)のようにしても良い。
Xj×α≧Xr×M/100
Yj×α≧Yr×M/100 …(1’)
また、第1、第2の実施形態では、各編集パラメータを変更し、撮影条件情報に一致しなくなった場合、RAW画像データに基づく画像処理(現像処理)を行い、ユーザは保存するファイル形式をJPEG形式やビットマップ形式等を適宜選択し、ユーザの設定によるパラメータに基づいて現像処理済みの画像として別ファイルでその時の設定パラメータと関連付けて保存する。
また、JPEGデータに対しても同等の処理を行うようにしても良い。そして、作業用メモリ領域にロードした画像ファイル内の撮影条件情報を、設定パラメータと一致するよう修正するまた、ユーザが設定したパラメータによって現像したJPEGデータは、実施形態のように、JPEGデータは640×480ドットサイズであり、RAW画像データの画像のサイズ(実施形態では、2560×1920画素サイズ)に対して十分に画素数が少ないので、RAW画像データの画像処理に要する時間に比べれば十分に少ない時間であるので、全体に与える影響は少ない。
また、第1、第2の実施形態によれば、或る画像の設定パラメータを操作して、利用者の満足した編集が行えた場合、次の画像ファイルを読込む際には前回のパラメータが反映された状態で処理した結果を表示することも可能になる。対象物をデジタルスチルカメラで複数撮像する際、各撮像画像の撮影条件は同じにすることが多いであろうから、効率良く編集することが可能になる。
また、上記実施形態の説明からも明らかなように、本発明は、パーソナルコンピュータ等の汎用情報処理装置上で動作するアプリケーションプログラムで実現できるものであるから、本発明はコンピュータプログラムをその範疇とする。また、通常、コンピュータプログラムは、CD−ROM等のコンピュータ可読記憶媒体に格納されていて、それをコンピュータにセットしてシステムにコピーもしくはインストールすることで実行可能になるわけであるから、本発明は、そのようなコンピュータ可読記憶媒体をもその範疇とすることは明らかである。
実施形態における画像ファイル内部データ構造を示す図である。 実施形態における画像処理装置の基本ブロック構成図である。 実施形態における画像処理装置をコンピュータプログラムで実現する場合の構成を示す図である。 実施形態における編集にかかるユーザインタフェースの一例を示す図である。 実施形態における処理手順を示すフローチャートである。 実施形態における処理手順を示すフローチャートである。 実施形態における処理手順を示すフローチャートである。 第2の実施形態における編集にかかるユーザインタフェースの一例を示す図である。 第2の実施形態における処理手順を示すフローチャートである。 第2の実施形態における処理手順を示すフローチャートである。

Claims (14)

  1. 影条件情報、当該撮影条件情報に従って画像処理された処理済み画像情報、及び、前記画像処理が施されていない未処理画像情報で構成される画像ファイルを編集する画像処理装置であって、
    画像処理にかかる編集パラメータを設定する設定手段と、
    所定の記憶装置に保存された編集対象の画像ファイルを前記設定手段で設定された条件に従って表示する場合、前記設定手段で設定された編集パラメータと、当該画像ファイル中の前記撮影条件情報内の該当するパラメータとを比較する比較手段と、
    該比較手段により両者が一致する場合、前記編集対象の画像ファイル内の処理済み画像情報に基づく画像を所定の表示手段に表示し、不一致の場合には前記編集対象の画像ファイル内の未処理画像情報を前記設定手段で設定されたパラメータに従って画像処理して得られた画像を前記表示手段に表示する画像処理切り換え手段と
    を備えることを特徴とする画像処理装置。
  2. 前記画像処理切り換え手段は、前記記憶装置に記憶されている所望とする編集対象画像ファイルを決定した際に実行することを特徴とする請求項1に記載の画像処理装置。
  3. 前記画像処理切り換え手段は、前記表示手段に表示中の画像に対して前記設定手段によってパラメータを変更した際に実行することを特徴とする請求項1に記載の画像処理装置。
  4. 更に、画像を表示する表示領域サイズを指定する表示領域サイズ指定手段とを備え、
    前記表示領域サイズ指定手段で指定された画像表示領域のサイズに応じて、撮影条件情報と比較する対象とする編集項目と比較対象外とする編集項目とを決定する項目決定手段を更に備えることを特徴とする請求項1に記載の画像処理装置。
  5. 前記項目決定手段は、表示領域サイズ指定手段で指定された表示領域のサイズに応じて、シャープネスを画像処理対象項目に決定することを特徴とする請求項2に記載の画像処理装置。
  6. 前記画像処理切り換え手段は、
    前記比較手段によって、設定された編集パラメータと前記編集対象の画像ファイルが有する撮影条件情報内の該当するパラメータとが一致し、且つ、前記編集対象の画像ファイル内の処理済み画像情報の画像サイズと前記表示領域サイズ指定手段で指定された表示領域サイズとの大小関係が所定の条件を満たす場合に、前記編集対象の画像ファイル内の処理済み画像情報に基づく画像を前記所定の表示手段に表示し、
    パラメータが不一致、並びに、パラメータが一致しても前記所定の条件を満たさない場合には前記編集対象の画像ファイル内の未処理画像情報を前記設定手段で設定されたパラメータに従って画像処理して得られた画像を前記所定の表示手段に表示する
    ことを特徴とする請求項1に記載の画像処理装置。
  7. 前記大小関係の条件を変更する手段を更に備えることを特徴とする請求項6に記載の画像処理装置。
  8. 更に、前記画像処理切り換え手段が、前記編集対象の画像ファイル内の未処理画像情報に基づく画像を前記表示手段に表示することを決定してから表示される迄の間、処理に時間がかかることを報知する報知手段を備えることを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
  9. 前記報知手段は、前記処理の進行状況を示すバー表示を行なうことによって報知することを特徴とする請求項8に記載の画像処理装置。
  10. 前記報知手段は、所定のポインティングデバイスに連動するカーソル形状を、所定の形状に変更することで報知することを特徴とする請求項8に記載の画像処理装置。
  11. 更に、画像を表示する際の倍率を設定する倍率設定手段とを備え、
    前記比較手段によって、設定された編集パラメータと前記編集対象の画像ファイルが有する撮影条件情報内の該当するパラメータとが一致し、且つ、前記編集対象の画像ファイル内の処理済み画像情報の画像サイズと前記未処理画像の前記倍率設定手段で設定した倍率で変倍した際の画像のサイズとの大小関係が所定の条件を満たす場合に、前記編集対象の画像ファイル内の処理済み画像情報に基づく画像を前記所定の表示手段に表示し、
    パラメータが不一致、並びに、パラメータが一致しても前記所定の条件を満たさない場合には前記編集対象の画像ファイル内の未処理画像情報を前記設定手段で設定されたパラメータに従って画像処理して得られた画像を前記所定の表示手段に表示する
    ことを特徴とする請求項1に記載の画像処理装置。
  12. 影条件情報、当該撮影条件情報に従って画像処理された処理済み画像情報、及び、前記画像処理が施されていない未処理画像情報で構成される画像ファイルを編集する画像処理装置の制御方法であって、
    画像処理にかかる編集パラメータを設定する設定工程と、
    所定の記憶装置に保存された編集対象の画像ファイルを前記設定手段で設定された条件に従って表示する場合、前記設定手段で設定された編集パラメータと、当該画像ファイル中の前記撮影条件情報内の該当するパラメータとを比較する比較工程と、
    該比較工程により両者が一致する場合、前記編集対象の画像ファイル内の処理済み画像情報に基づく画像を所定の表示手段に表示し、不一致の場合には前記編集対象の画像ファイル内の未処理画像情報を前記設定手段で設定されたパラメータに従って画像処理して得られた画像を前記表示手段に表示する画像処理切り換え工程と
    を備えることを特徴とする画像処理装置の制御方法。
  13. コンピュータに読込ませ、実行させることで、前記コンピュータを、撮影条件情報、当該撮影条件情報に従って画像処理された処理済み画像情報、及び、前記画像処理が施されていない未処理画像情報で構成される画像ファイルを編集する画像処理装置として機能させるコンピュータプログラムであって、
    画像処理にかかる編集パラメータを設定する設定手段と、
    所定の記憶装置に保存された編集対象の画像ファイルを前記設定手段で設定された条件に従って表示する場合、前記設定手段で設定された編集パラメータと、当該画像ファイル中の前記撮影条件情報内の該当するパラメータとを比較する比較手段と、
    該比較手段により両者が一致する場合、前記編集対象の画像ファイル内の処理済み画像情報に基づく画像を所定の表示手段に表示し、不一致の場合には前記編集対象の画像ファイル内の未処理画像情報を前記設定手段で設定されたパラメータに従って画像処理して得られた画像を前記表示手段に表示する画像処理切り換え手段
    として機能することを特徴とするコンピュータプログラム。
  14. 請求項13に記載のコンピュータプログラムを格納したことを特徴とするコンピュータ可読記憶媒体。
JP2005000909A 2004-02-06 2005-01-05 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 Expired - Fee Related JP4440120B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2005000909A JP4440120B2 (ja) 2004-02-06 2005-01-05 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
US11/049,967 US7356204B2 (en) 2004-02-06 2005-02-04 Image processing apparatus and method of controlling same, computer program and computer-readable storage medium
US12/046,145 US7620271B2 (en) 2004-02-06 2008-03-11 Image processing apparatus and method of controlling same, computer program and computer-readable storage medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004031402 2004-02-06
JP2005000909A JP4440120B2 (ja) 2004-02-06 2005-01-05 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体

Publications (3)

Publication Number Publication Date
JP2005251165A JP2005251165A (ja) 2005-09-15
JP2005251165A5 JP2005251165A5 (ja) 2008-02-14
JP4440120B2 true JP4440120B2 (ja) 2010-03-24

Family

ID=34829459

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005000909A Expired - Fee Related JP4440120B2 (ja) 2004-02-06 2005-01-05 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体

Country Status (2)

Country Link
US (2) US7356204B2 (ja)
JP (1) JP4440120B2 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7453498B2 (en) * 1998-03-26 2008-11-18 Eastman Kodak Company Electronic image capture device and image file format providing raw and processed image data
US20050225787A1 (en) * 2004-03-29 2005-10-13 Fuji Photo Film Co., Ltd. Image output system, method, apparatus and program
JP4561465B2 (ja) * 2005-05-13 2010-10-13 ブラザー工業株式会社 画像編集装置
JP4515341B2 (ja) * 2005-07-01 2010-07-28 富士フイルム株式会社 画像処理装置および方法並びにプログラム
JP4429241B2 (ja) * 2005-09-05 2010-03-10 キヤノン株式会社 画像処理装置及び方法
JP4720387B2 (ja) * 2005-09-07 2011-07-13 ソニー株式会社 撮像装置、画像処理装置、および方法、並びにコンピュータ・プログラム
US20070109416A1 (en) * 2005-11-16 2007-05-17 Alain Lortie Apparatus and method for remote inspection of a structure using a special imaging system
JP5029164B2 (ja) * 2006-09-25 2012-09-19 セイコーエプソン株式会社 未現像の画像データを用いる画像処理
US7954067B2 (en) * 2007-03-16 2011-05-31 Apple Inc. Parameter setting superimposed upon an image
US20080229232A1 (en) * 2007-03-16 2008-09-18 Apple Inc. Full screen editing of visual media
JP4924274B2 (ja) * 2007-08-01 2012-04-25 セイコーエプソン株式会社 画像処理装置、画像処理方法及びそのプログラム
JP4995765B2 (ja) * 2008-04-28 2012-08-08 富士フイルム株式会社 画像記録装置及び画像記録方法
JP2010183351A (ja) * 2009-02-05 2010-08-19 Nikon Corp 画像データ保持装置、および画像処理プログラム
JP5371489B2 (ja) * 2009-03-05 2013-12-18 キヤノン株式会社 画像管理装置およびその制御方法、ならびに、プログラムおよび記憶媒体
JP5471072B2 (ja) * 2009-06-26 2014-04-16 富士通株式会社 表示テスト装置、表示テストプログラムおよび表示テスト方法
WO2012141179A1 (ja) * 2011-04-11 2012-10-18 富士フイルム株式会社 映像変換装置、これを用いる映画システムの撮影システム、映像変換方法、及び映像変換プログラム
JP5791967B2 (ja) 2011-05-27 2015-10-07 株式会社Pfu 画像処理装置、画像処理方法、および、プログラム
JPWO2012176384A1 (ja) * 2011-06-21 2015-02-23 株式会社ニコン 表示プログラムおよび表示装置
US9465572B2 (en) 2011-11-09 2016-10-11 Microsoft Technology Licensing, Llc Dynamic server-side image sizing for fidelity improvements
JP2015015699A (ja) * 2013-06-07 2015-01-22 キヤノン株式会社 画像処理装置、情報処理方法及びプログラム
JP6472253B2 (ja) * 2014-03-25 2019-02-20 キヤノン株式会社 画像処理装置及びその制御方法
JP6376813B2 (ja) * 2014-04-07 2018-08-22 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム、並びに撮像装置
JP6792372B2 (ja) * 2016-08-04 2020-11-25 キヤノン株式会社 画像処理装置、制御方法、プログラム、及び記憶媒体
JP7229842B2 (ja) * 2019-04-17 2023-02-28 キヤノン株式会社 情報処理装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5235914A (en) * 1988-08-19 1993-08-17 Presstek, Inc. Apparatus and method for imaging lithographic printing plates using spark discharges
JPH039483A (ja) 1989-06-06 1991-01-17 Hitachi Electron Eng Co Ltd 微生物の確認方式
US5719624A (en) 1989-07-18 1998-02-17 Canon Kabushiki Kaisha Image recording apparatus with arithmetic processing
JP3015043B2 (ja) 1989-07-18 2000-02-28 キヤノン株式会社 撮像装置及び画像処理装置
US6549681B1 (en) * 1995-09-26 2003-04-15 Canon Kabushiki Kaisha Image synthesization method
JP3817306B2 (ja) 1996-06-04 2006-09-06 キヤノン株式会社 文書編集システム及び文書編集方法

Also Published As

Publication number Publication date
US7356204B2 (en) 2008-04-08
US20050175260A1 (en) 2005-08-11
US20080159656A1 (en) 2008-07-03
US7620271B2 (en) 2009-11-17
JP2005251165A (ja) 2005-09-15

Similar Documents

Publication Publication Date Title
JP4440120B2 (ja) 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JP4845382B2 (ja) 画像処理装置及びその制御方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
EP2541902B1 (en) Imaging processing device and image processing method
JP2005275977A (ja) 画像表示方法、画像表示装置及び画像表示プログラム
JP2005227897A (ja) 画像表示方法、画像表示装置及び画像表示プログラム
JP4743179B2 (ja) 画像表示制御装置、撮影装置、画像表示方法及びそのプログラム
US8634590B2 (en) Image processing device and storage medium storing image processing program
US20140232898A1 (en) Digital camera
JP4886571B2 (ja) 撮像装置、画像処理装置及び画像処理システム並びにこれらの制御方法、プログラム
JP4692614B2 (ja) 印刷装置及びプログラム
US11269494B2 (en) Image processing apparatus, method therefor, and storage medium storing program
EP2811732B1 (en) Image processing apparatus, image processing method, computer-readable storage medium and program
JP2007201935A (ja) 画像処理装置の制御方法及び画像処理装置
US11044436B2 (en) Information processing apparatus
JP5141447B2 (ja) 画像表示装置、および画像表示プログラム
JP2008010970A (ja) 画像表示装置,画像表示方法および画像表示プログラム
US11303771B2 (en) Image processing apparatus with direct print function, control method therefor, and storage medium
JP2013183305A (ja) 情報処理装置および情報処理方法
JP7005284B2 (ja) 画像処理装置、画像処理装置の制御方法、及び、プログラム
JP2008258916A (ja) 画像処理装置、画像処理装置の制御方法及びコンピュータプログラム
JP4956283B2 (ja) 撮像装置、画像処理装置、撮像装置の制御方法、画像処理装置の制御方法、プログラム、及び記憶媒体
JP2021103451A (ja) 画像処理装置、外部装置およびそれらの制御方法、システム、プログラム、並びに記憶媒体
JP2008011263A (ja) 撮影装置及びその制御方法及びプログラム及び記憶媒体
JP2005159513A (ja) デジタルカメラ及び電子化ファイル管理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071212

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071212

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20071212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100105

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100106

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130115

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4440120

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140115

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees