JP2008205845A - 画像処理装置、その制御方法、及びコンピュータプログラム - Google Patents

画像処理装置、その制御方法、及びコンピュータプログラム Download PDF

Info

Publication number
JP2008205845A
JP2008205845A JP2007039872A JP2007039872A JP2008205845A JP 2008205845 A JP2008205845 A JP 2008205845A JP 2007039872 A JP2007039872 A JP 2007039872A JP 2007039872 A JP2007039872 A JP 2007039872A JP 2008205845 A JP2008205845 A JP 2008205845A
Authority
JP
Japan
Prior art keywords
recording
time
moving image
image
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007039872A
Other languages
English (en)
Other versions
JP2008205845A5 (ja
JP4818158B2 (ja
Inventor
Taira Ikeda
平 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007039872A priority Critical patent/JP4818158B2/ja
Publication of JP2008205845A publication Critical patent/JP2008205845A/ja
Publication of JP2008205845A5 publication Critical patent/JP2008205845A5/ja
Application granted granted Critical
Publication of JP4818158B2 publication Critical patent/JP4818158B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

【課題】記録した動画像のフォーマットによらず、動画像の各シーンにおける記録時刻を容易に算出することが可能な画像処理装置を提供する。
【解決手段】動画像記録時に記録開始時刻及び記録時のフレームレートを記録しておき、動画像再生時に、記録しておいた記録開始時刻及び記録時のフレームレートを取得し(ステップS401)、再生した動画像の記録時刻及び記録時の経過時間を算出して表示する(ステップS406〜S412)。これにより、記録した動画像のフォーマットによらず、動画像の各シーンにおける記録時刻を容易に算出することができる。
【選択図】図7

Description

本発明は、動画像データを記録及び再生可能なデジタルカメラ等の画像処理装置、その制御方法、及びコンピュータプログラムに関する。
従来、固体メモリ素子を有するメモリカードを記録媒体として、動画像データを記録及び再生可能なデジタルカメラ等の画像処理装置が販売されている。
これらの画像処理装置では、動画像の再生時に記録開始時刻と再生時間とを表示するのが一般的である。そのため、再生中の動画像の各シーンにおける実記録時刻はすぐにわからなかった。また、1秒間に1枚、或いは1分間に1枚等のインターバル撮影により記録した動画像においては、記録時の時間スケールと再生時の時間スケールとが異なる。そのため、インターバル撮影により記録した動画像の再生においては、表示された再生時間からでは、動画像に記録された事象が起きた実際の記録時刻を把握することはできなかった。
そこで、上記の問題を鑑みて、例えば特許文献1では、動画像のフォーマット内にあるタイムスタンプと撮影開始時刻から各シーンの記録時刻を計算し表示する画像表示装置が提案されている。この画像表示装置では更に、インターバル撮影時にはフォーマット内のヘッダにインターバル撮影の時間係数を記録しておき、再生時にそれを用いて記録時刻を計算し表示するようにしている。これにより、記録時の時間スケールと再生時の時間スケールとが異なる動画像の再生においても、実際の記録時刻を把握することができる。
特開2000−270292号公報
しかしながら、特許文献1に開示された画像表示装置では、記録時刻を計算するためにフォーマット内のタイムスタンプを用いるため、ASFフォーマットのようなフォーマット内にタイムスタンプを持つことができるフォーマットの動画像のみしか対応できない。また、インターバル撮影時と通常撮影時で記録時刻の計算方法が異なるため、処理が複雑になるという問題もある。
本発明は上記問題点に鑑みてなされたものであり、記録した動画像のフォーマットによらず、動画像の各シーンにおける記録時刻又は記録時の経過時間を容易に算出することが可能な画像処理装置を提供することを目的とする。
本発明の画像処理装置は、動画像データの記録及び再生が可能な画像処理装置であって、動画像記録時に記録開始時刻及び記録時のフレームレートを記録媒体に記録する記録手段と、動画像再生時に、前記記録手段が記録した記録開始時刻及び記録時のフレームレートから、再生した動画像の記録時刻及び記録時の経過時間のうちの少なくともいずれかを算出する算出手段とを備えたことを特徴とする。
また、本発明の画像処理装置は、動画像データの記録が可能な画像処理装置であって、動画像記録時に記録開始時刻及び記録時のフレームレートを記録媒体に記録する記録手段を備えたことを特徴とする。
また、本発明の画像処理装置は、動画像データの再生が可能な画像処理装置であって、動画像再生時に、該動画像の記録時に記録された記録開始時刻及び記録時のフレームレートから、再生した動画像の記録時刻及び記録時の経過時間のうちの少なくともいずれかを算出する算出手段を備えたことを特徴とする。
また、本発明の画像処理装置の制御方法は、動画像データの記録及び再生が可能な画像処理装置の制御方法であって、動画像記録時に記録開始時刻及び記録時のフレームレートを記録手段に記録する記録ステップと、動画像再生時に、前記記録ステップで記録した記録開始時刻及び記録時のフレームレートから、再生した動画像の記録時刻及び記録時の経過時間のうちの少なくともいずれかを算出する算出ステップとを有することを特徴とする。
また、本発明のコンピュータプログラムは、動画像データの記録及び再生が可能な画像処理装置を制御するためのコンピュータプログラムであって、動画像記録時に記録開始時刻及び記録時のフレームレートを記録媒体に記録する記録ステップと、動画像再生時に、前記記録ステップで記録した記録開始時刻及び記録時のフレームレートから、再生した動画像の記録時刻及び記録時の経過時間のうちの少なくともいずれかを算出する算出ステップとをコンピュータに実行させることを特徴とする。
本発明では、動画像記録時に記録開始時刻及び記録時のフレームレートを記録しておき、これら記録開始時刻及び記録時のフレームレートから、再生した動画像の記録時刻及び記録時の経過時間のうちの少なくともいずれかを算出するようにした。これにより、記録した動画像のフォーマットによらず、またインターバル撮影・通常撮影によらず同様の処理で、容易に再生中の動画像の各シーンにおける記録時刻や記録時の経過時間を算出することができる。
以下、本発明の実施の形態を図面を用いて詳細に説明する。図1は、本発明の実施の形態に係る画像処理装置(デジタルカメラ)の構成を示したブロック図である。
図1において、100は画像処理装置である。10は撮影レンズ、12は絞り機能を備えるシャッター、14は光学像を電気信号に変換する撮像素子、16は撮像素子14のアナログ信号出力をディジタル信号に変換するA/D変換器である。
18はタイミング発生回路であり、撮像素子14、A/D変換器16、D/A変換器26にクロック信号や制御信号を供給する。タイミング発生回路18はメモリ制御回路22及びシステム制御回路50により制御される。
20は画像処理回路であり、A/D変換器16からのデータ或いはメモリ制御回路22からのデータに対して所定の画素補間処理や色変換処理を行う。この画像処理回路20が画像の切り出しや変倍処理を行うことで電子ズーム機能が実現される。また、画像処理回路20は撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてシステム制御回路50が露光制御回路40、測距制御回路42に対して制御を行う。これにより、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理、及びEF(フラッシュプリ発光)処理がなされる。
22はメモリ制御回路であり、A/D変換器16、タイミング発生回路18、画像処理回路20、画像表示メモリ24、D/A変換器26、メモリ30、圧縮・伸長回路32を制御する。
A/D変換器16からのデータは、画像処理回路20及びメモリ制御回路22を介して、或いは直接メモリ制御回路22を介して、画像表示メモリ24或いはメモリ30に書き込まれる。
24は画像表示メモリである。26はD/A変換器であり、28はTFT・LCD等から成る画像表示部である。画像表示メモリ24に書き込まれた表示用の画像データは、D/A変換器26を介して画像表示部28により表示される。撮像した画像データを画像表示部28に逐次表示すれば、電子ファインダ機能を実現することが可能である。
画像表示部28は、システム制御回路50の指示により任意に表示をON/OFFすることが可能であり、表示をOFFにした場合には画像処理装置100の電力消費を大幅に低減することが出来る。
30は撮影した静止画像や動画像又は録音した音声データを格納するためのメモリであり、所定枚数の静止画像や所定時間の動画像を格納するのに十分な記憶量を備えている。これにより、複数枚の静止画像を連続して撮影する連射撮影やパノラマ撮影の場合にも、高速かつ大量に、画像データをメモリ30に書き込むことが可能となる。また、メモリ30はシステム制御回路50の作業領域としても使用することが可能である。
32は圧縮・伸長回路であり、適応離散コサイン変換(ADCT)等により画像データを圧縮又は伸長する。圧縮・伸長回路32は、メモリ30に格納された画像を読み込んで圧縮処理或いは伸長処理を行い、処理を終えたデータをメモリ30に書き込む。
40は露光制御回路であり、絞り機能を備えるシャッター12を制御する。また、露光制御回路40は、フラッシュ48と連携することによりフラッシュ調光を行う。
42は測距制御回路であり、撮影レンズ10のフォーカシングを制御する。44はズーム制御回路であり、撮影レンズ10のズーミングを制御する。46はバリア制御回路であり、保護機構部102の動作を制御する。48はフラッシュであり、AF補助光の投光機能、フラッシュ調光機能も有する。
露光制御回路40及び測距制御回路42は、TTL方式を用いて制御される。この場合、システム制御回路50は、撮像した画像データを用いて画像処理回路20が演算した演算結果に基づき、露光制御回路40及び測距制御回路42に対して制御を行う。
50はシステム制御回路であり、画像処理装置100全体を制御する。52はメモリであり、システム制御回路50の動作用の定数、変数、プログラム等を記憶する。
54は液晶表示装置等でなる表示部であり、システム制御回路50におけるプログラムの実行に応じて、文字、画像等を用いて動作状態やメッセージ等を表示する。表示部54は、画像処理装置100の操作部近辺の視認し易い位置に、単数或いは複数個設置され、例えばLCD、LED等の組み合わせにより構成される。また、表示部54は、その一部が光学ファインダ104内に設置されている。
表示部54の表示内容のうち、LCD等に表示するものとしては、例えば、単写/連写撮影表示、セルフタイマー表示、圧縮率表示、記録画素数表示、記録枚数表示、残撮影可能枚数表示、シャッタースピード表示、絞り値表示、露出補正表示等がある。またこれらに加え、フラッシュ表示、赤目緩和表示、マクロ撮影表示、ブザー設定表示、時計用電池残量表示、電池残量表示、エラー表示、複数桁の数字による情報表示、記録媒体200及び210の着脱状態表示、通信I/F動作表示、日付・時刻表示等もある。
また、表示部54の表示内容のうち、光学ファインダ104内に表示するものとしては、例えば、合焦表示、手振れ警告表示、フラッシュ充電表示、シャッタースピード表示、絞り値表示、露出補正表示等がある。
56は電気的に消去・記録可能な不揮発性メモリであり、例えばEEPROM等が用いられる。
60、62、64、66、及び70は、システム制御回路50の各種の動作指示を入力するための操作手段であり、スイッチやダイアル、タッチパネル、視線検知によるポインティング、音声認識装置等の単数或いは複数の組み合わせで構成される。以下、これらの操作手段の具体的な説明を行う。
60はモードダイアルスイッチであり、自動撮影モード、撮影モード、パノラマ撮影モード、再生モード、マルチ画面再生・消去モード、PC接続モード等の各機能モードを切り替え設定することが出来る。
62はシャッタースイッチSW1であり、不図示のシャッターボタンの操作途中でONとなって、AF処理、AE処理、AWB処理、及びEF処理等の動作開始を指示する。
64はシャッタースイッチSW2であり、不図示のシャッターボタンの操作完了でONとなって、撮影に係る一連の動作開始を指示する。具体的には、まず撮像素子14から読み出した信号をA/D変換器16、及びメモリ制御回路22を介してメモリ30に画像データを書き込む露光処理を指示する。次に、画像処理回路20やメモリ制御回路22に所定の演算を行わせる現像処理を指示する。そして、メモリ30から画像データを読み出し、圧縮・伸長回路32で圧縮を行い、記録媒体200或いは210に画像データを書き込む記録処理を指示する。
66は電源スイッチであり、電源オン及び電源オフを切り替え設定することが出来る。
70は各種ボタンやタッチパネル等からなる操作部である。操作部70は、メニューボタン、セットボタン、マクロボタン、マルチ画面再生改ページボタン、フラッシュ設定ボタン、単写/連写/セルフタイマー切り替えボタン等を備える。またこれらに加え、操作部70は、メニュー移動+(プラス)ボタン、メニュー移動−(マイナス)ボタン、再生画像移動+(プラス)ボタン、再生画像移動−(マイナス)ボタン、撮影画質選択ボタン、露出補正ボタン、日付・時間設定ボタン等も備えている。上記プラスボタン及びマイナスボタンにおいて、回転ダイアルスイッチを用いれば、軽快に数値や機能を選択することが可能となる。
72は時計であり、内部電源(不図示)により動き続け、動画像の記録開始時にサムネイルファイルのヘッダに記録される記録開始日時(記録開始時刻)を取得する場合等に利用される。
80は電源制御部であり、不図示の電池検出回路、DC−DCコンバータ、及び通電するブロックを切り替えるスイッチ回路等により構成されている。電源制御部80は、電池の装着の有無、電池の種類、電池残量の検出を行い、検出結果及びシステム制御回路50の指示に基づいてDC−DCコンバータを制御し、必要な電圧を必要な期間、記録媒体を含む各部へ供給する。
82及び84はコネクタであり、電源制御部80と電源86とを接続する。86は電源であり、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Li電池等の二次電池、又はACアダプター等からなる。
90及び94はメモリカードやハードディスク等の記録媒体とのインタフェースである。92及び96はメモリカードやハードディスク等の記録媒体と接続を行うコネクタである。
98は記録媒体着脱検知部であり、コネクタ92或いは96に記録媒体200或いは210が装着されているか否かを検知する。
なお、本実施の形態では、記録媒体を取り付けるインタフェース及びコネクタを2系統持つものとして説明しているが、記録媒体を取り付けるインタフェース及びコネクタは、単数又は2以上の複数の系統数のどちらであっても構わない。また、異なる規格のインタフェース及びコネクタを組み合わせて備える構成としても構わない。インタフェース及びコネクタとしては、PCMCIAカードやCF(コンパクトフラッシュ(登録商標))カード等の規格に準拠したものを用いて構成して構わない。インタフェース90及び94、コネクタ92及び96をPCMCIAカードやCF(コンパクトフラッシュ(登録商標))カード等の規格に準拠したものを用いて構成した場合には、LANカードやモデムカード等を接続することができる。またこれらの他にUSBカード、IEEE1394カード、P1284カード、SCSIカード、PHS等の通信カード等の各種通信カードも接続することができる。これにより、他のコンピュータやプリンタ等の周辺機器との間で画像データや画像データに付属した管理情報を転送し合うことが出来る。
102は保護機構部であり、画像処理装置100の撮影レンズ10を含む撮像部を覆うことにより、撮像部の汚れや破損を防止する、所謂バリアである。
104は光学ファインダであり、撮影者はこの光学ファインダ104を用いることで、画像表示部28による電子ファインダ機能を使用すること無しに、撮影を行うことができる。また、光学ファインダ104内には、表示部54の一部が設置されており、例えば、合焦表示、手振れ警告表示、フラッシュ充電表示、シャッタースピード表示、絞り値表示、露出補正表示等が表示される。
110は通信部であり、RS232CやUSB、IEEE1394、P1284、SCSI、モデム、LAN、無線通信等の各種通信機能を有する。
112はコネクタ或いはアンテナであり、画像処理装置100を他の機器と接続する。有線での通信の場合はコネクタであり、無線通信の場合はアンテナである。
120はメモリ制御回路であり、122はディジタル信号をアナログ信号に変換するD/A変換器である。124は電気信号を音声信号に変換するスピーカであり、メモリ30から読み出されたデータがD/A変換器122に入力され、スピーカ124から発音される。
126はマイクであり、音声データを取得する。128はA/D変換器であり、マイク126で得られた音声データを録音するためにディジタル信号に変換する。A/D変換器128からのデータは、メモリ制御回路22を介して、メモリ30に書き込まれ、記録媒体に記録される。
200はメモリカードやハードディスク等の記録媒体である。記録媒体200は、半導体メモリや磁気ディスク等から構成される記録部202、画像処理装置100とのインタフェース204、及び画像処理装置100と接続を行うコネクタ206を備える。
210はメモリカードやハードディスク等の記録媒体である。記録媒体210は、半導体メモリや磁気ディスク等から構成される記録部212、画像処理装置100とのインタフェース214、画像処理装置100と接続を行うコネクタ216を備える。
次に、図2乃至図7を用いて、本実施の形態に係る画像処理装置100の動作を説明する。まず、図2乃至図4に示した画像処理装置100のメインルーチンのフローチャートを用いて、動作の詳細を説明する。
まずステップS101において、システム制御回路50は、電池交換等の電源投入後等において、電源スイッチ66がONされたか否かを調べる。電源スイッチ66がONされたならば、ステップS102に進み、OFFのままであれば、ONされるまで監視を続ける。
ステップ102において、システム制御回路50は、画像表示フラグやクイックレビューフラグ等のフラグや制御変数等の初期化を行う。
次にステップS103において、システム制御回路50は、記録媒体200(或いは210)に記録された最新画像番号Nmaxを取得し、次に再生する画像を示す再生画像番号nがn=Nmaxとなるように設定する。なお、上記再生画像番号nは、システム制御回路50の内部メモリ或いはメモリ52に記憶される。
次にステップS104において、システム制御回路50は、画像表示部28の画像表示をOFF状態に初期設定する。
次にステップS105において、システム制御回路50は、電源制御部80により電池等から構成される電源86の残容量や動作情況が画像処理装置100の動作に問題があるか否かを判断する。問題があるならばステップS106に進み、表示部54を用いて所定の警告表示、又はスピーカ124を用いて警告音発音を行った後に、ステップS101に戻る。電源86に問題がなければステップS107に進む。
ステップS107において、システム制御回路50は、記録媒体200(或いは210)の動作状態が画像処理装置100の動作、特に記録媒体に対する画像データの記録再生動作に問題があるか否かを判断する。問題があるならばステップS106に進み、表示部54を用いて所定の警告表示、又はスピーカ124を用いて警告音発音を行った後に、ステップS101に戻る。記録媒体200(或いは210)の動作状態に問題が無いならば、ステップS108に進む。
ステップS108において、システム制御回路50は、モードダイアル60が何モードに設定されているかを判断する。
モードダイアル60が動画記録モードに設定されたならば、ステップS109に進む。
モードダイアル60が静止画撮影モードに設定されたならば、ステップS110に進む。
モードダイアル60が再生モードに設定されたならば、図4に示すステップS130に進む。図4に示すステップS130以降の処理については、後述する。
静止画撮影モードが設定された場合のステップS110では、システム制御回路50は、静止画撮影モードに応じた処理を実行し、処理を終了したらステップS108に戻る。
動画記録モードに設定された場合のステップS109では、システム制御回路50は、画像表示部28の画像表示をON状態にする。
次にステップS111において、システム制御回路50は、撮像した画像データを逐次表示するスルー表示状態に設定して、図3に示すステップS112の処理に進む。スルー表示状態では、撮像素子14、A/D変換器16、画像処理回路20、メモリ制御回路22を介して画像表示メモリ24に書き込まれたデータを、メモリ制御回路22、D/A変換器26を介して画像表示部28に逐次表示する電子ファインダ機能を実現する。
次に、図3に示すステップS112において、システム制御回路50は、シャッタースイッチSW1のON/OFFを監視する。OFFであった場合は、ステップS108に戻る。シャッタースイッチSW1がONされた場合は、ステップS113に進む。
ステップS113において、システム制御回路50は、画像表示部28の表示状態をフリーズ表示状態に設定する。フリーズ表示状態では、撮像素子14、A/D変換器16、画像処理回路20、メモリ制御回路22を介した画像表示メモリ24への画像データの書き換えを禁止する。そして、最後に書き込まれた画像データをメモリ制御回路22、D/A変換器26を介して画像表示部28により表示して、フリーズした映像を電子ファインダに表示させる。
次にステップS114において、システム制御回路50は、測距処理を行って撮影レンズ10の焦点を被写体に合わせ、測光処理を行って絞り値及びシャッター時間を決定する。この測距・測光処理ステップS114の詳細は図5を用いて後述する。
測距・測光処理ステップS114後のステップS115においては、システム制御回路50は、画像表示部28の表示状態をスルー表示状態に設定する。なお、ステップS115におけるスルー表示状態は、ステップS111におけるスルー表示状態と同じ動作状態である。
次にステップS116において、システム制御回路50は、シャッタースイッチSW2のON/OFFを監視する。ここでOFFであった場合には、ステップS117に進み、シャッタースイッチSW1のON/OFFを監視する。さらにステップS117において、シャッタースイッチSW1もOFFとされたなら、ステップS108に戻る。ステップS116において、シャッタースイッチSW2がONとされた場合はステップS118に進む。
ステップS118においては、システム制御回路50は、画像表示部28の表示状態を固定色表示状態に設定する。固定色表示状態では、撮像素子14、A/D変換器16、画像処理回路20、メモリ制御回路22を介して画像表示メモリ24に書き込まれた画像データの代わりに、固定色の画像データをメモリ制御回路22、D/A変換器26を介して画像表示部28に表示し、固定色の映像を電子ファインダに表示させる。
次にステップS119において、システム制御回路50は、動画記録処理を実行する。この動画記録処理は、動画像データ撮影動作、音声データ録音動作、及び記録処理からなる処理である。ステップS119における動画記録処理の詳細については、図6を用いて後述する。なお、このステップS119において、システム制御回路50は、まず時計72により記録開始時刻を取得し、更に記録時に設定されているフレームレートをシステム制御回路50の内部メモリ或いはメモリ52に一旦記憶しておく。そして、後述サムネイルファイルの作成時にサムネイルファイルのヘッダ領域に記録開始時刻とフレームレートとを記録することが出来るようにしておく。
ステップS119の動画記録処理をユーザの指示又は記録媒体やバッファの残容量不足等により終えたならば、ステップS120において、システム制御回路50は、画像表示部28の表示状態をスルー表示状態に設定して、ステップS108に戻る。
次にステップS108において再生モードに設定された場合に進む図4に示すステップS130においては、システム制御回路50は、まず画像表示部28の画像表示をON状態に設定する。
次にステップS131において、システム制御回路50は、再生画像番号nに対応する画像を記録媒体200(或いは210)から読み出し、メモリ30に記憶する。この際、読み出す画像が動画像である場合は、所定量の動画データを読み出しメモリ30に記憶する。
次にステップS132において、システム制御回路50は、再生する画像が動画像であるか静止画像であるかを判別する。動画像の場合はステップS133に進み、動画像再生処理を行う。静止画像の場合はステップS134に進み、静止画像再生処理を行う。再生する画像が、動画像であるか静止画像であるかは、例えばファイル名の拡張子で判別される。拡張子が".JPG"であれば静止画像、".AVI"であれば動画像であると判別される。ステップS133の動画再生処理の詳細は図7を用いて後述する。
ステップS135において、システム制御回路50は、操作部70の再生画像移動+ボタン(不図示)又は再生画像移動−ボタン(不図示)が操作され、画像送りの指示がされたか否かを判定する。操作がされなかった場合は、ステップS108に戻る。再生画像移動+ボタン(不図示)が操作され、画像送りの指示がなされていたら、ステップS136に進み、一つ後の画像を再生するように画像再生画像番号nをn=n+1にしてから、ステップS108に戻る。一方、再生画像移動−ボタン(不図示)が操作され、画像送りの指示がなされていたら、ステップS137に進み、一つ前の画像を再生するように画像再生画像番号nをn=n−1にしてから、ステップS108に戻る。
図5は、図3のステップS114における測距・測光処理の詳細なフローチャートである。以下、測距・測光処理の動作手順を説明する。
まずステップS201において、システム制御回路50は、撮像素子14から電荷信号を読み出し、A/D変換器16を介して画像処理回路20に画像データを逐次読み込ませる。この逐次読み込んだ画像データを用いて、画像処理回路20はTTL方式のAE処理、EF処理、AF処理に用いる所定の演算を行う。なお、ここでの各処理においては、撮影した全画素数のうちの必要に応じた特定の部分を必要個所分切り取って抽出し、演算に用いる。これにより、TTL方式のAE、EF、AWB、AFの各処理において、中央重点モード、平均モード、評価モードの各モード等の異なるモード毎に最適な演算を行うことが可能となる。
次にステップS202において、システム制御回路50は、画像処理回路20における演算結果を用いて、露光制御回路40にAE制御を行わせて、露出(AE)が適正露出となるのを待つ。適正露出でない場合は、ステップS203に進み、適正露出が検出されるまで露光制御回路40にAE制御を行わせる。露出が適正露出となった場合は、測定データ及び必要に応じて設定パラメータをシステム制御回路50の内部メモリ或いはメモリ52に記憶してから、ステップS204に進む。
次にステップS204において、システム制御回路50は、画像処理回路20における演算結果及びAE制御で得られた測定データを用いて、画像処理回路20に色処理のパラメータを調節させるAWB制御を行わせて、ホワイトバランスが適正となるまで待つ。適正でない場合は、ステップS205に進み、ホワイトバランスが適正となるまで画像処理回路20にAWB制御を行わせる。ホワイトバランスが適正となった場合は、測定データ及び必要に応じて設定パラメータをシステム制御回路50の内部メモリ或いはメモリ52に記憶してから、ステップS206に進む。
次にステップS206において、システム制御回路50は、AE制御及びAWB制御で得られた測定データを用いて、測距制御回路42にAF制御を行わせて、合焦状態となるまで待つ。合焦状態でない場合は、ステップS207に進み、合焦状態となるまで測距制御回路42にAF制御を行わせる。合焦状態となった場合は、測定データ及び必要に応じて設定パラメータをシステム制御回路50の内部メモリ或いはメモリ52に記憶し、測距・測光処理を終了する。
図6は、図3のステップS119における動画記録処理の詳細なフローチャートである。この動画記録処理は、動画像データ撮影動作、音声データ録音動作、及び記録処理からなる処理である。動画像データ撮影動作は、撮像素子14、A/D変換器16、画像処理回路20、メモリ制御回路22を介して得られた画像データを圧縮・伸長回路32で逐次データ圧縮し、メモリ30に書き込む一連の撮影動作である。音声データ録音動作は、マイク126、A/D変換器128、メモリ制御回路120を介して得られた音声データを逐次メモリ30に書き込む一連の動作である。記録処理は、インタフェース90或いは94、コネクタ92或いは96を介して、メモリカードやコンパクトフラッシュ(登録商標)カード等の記録媒体200(或いは210)へ動画データの書き込みを行う処理である。以下、これらの動作及び処理からなる動画記録処理の動作手順を詳細に説明する。
まずステップS301において、システム制御回路50は、シャッタースイッチSW2がONとされたか否かを判断する。ここで、本実施の形態に画像処理装置100は、図3のステップS116においてシャッタースイッチSW2がONとされることで録画記録処理を開始して、再びシャッタースイッチSW2がONとされることで録画記録処理を終了する。即ち、ステップS301において、ONであればユーザがシャッタースイッチSW2によって動画記録の終了を指示したものと判断し、動画記録終了処理を行うためにステップS310に進む。OFFであればユーザが動画記録の終了を指示しなかったものと判断し、ステップS302に進む。
ステップS302において、システム制御回路50は、マイク126、A/D変換器128、メモリ制御回路120を介して得られた音声データを逐次メモリ30に書き込む一連の音声データ録音動作により得られた音声データが規定量に達したか否かを判断する。規定量に達したとシステム制御回路50が判断した場合は、ステップS303に進み、所定の動画フォーマットに沿うように音声データを整形する。そして、その整形した音声データをメモリ30内の動画ファイル用書き込みバッファに書き込んでステップS304に進む。規定量に達していないとシステム制御回路50が判断した場合は、ステップS304に進む。
ステップS304において、システム制御回路50は、撮像素子14、A/D変換器16、画像処理回路20、メモリ制御回路22を介して得られた画像データを圧縮・伸長回路32で逐次データ圧縮し、メモリ30に書き込む一連の動画像データ撮影動作によって得られた画像データが1枚でも存在するか否かを判断する。画像データが存在するとシステム制御回路50が判断した場合は、ステップS305に進み、所定の動画像フォーマットに沿うように画像データを整形する。そして、その整形した画像データをメモリ30内の動画ファイル用書き込みバッファに書き込んでステップS306に進む。ステップS304で画像データがないとシステム制御回路50が判断した場合は、ステップS306に進む。
ステップS306において、システム制御回路50は、所定の転送単位分の動画像データがメモリ30内の動画ファイル用書き込みバッファに取得されているか否かを判断する。取得されているとシステム制御回路50が判断した場合は、ステップS307に進み、所定量に達した取得動画像データを記録媒体に転送してからステップS308に進む。ステップS306で取得されていないとシステム制御回路50が判断した場合は、ステップS308に進む。
ステップS308において、システム制御回路50は、メモリ30内の書き込みバッファの空き容量及び記録中の記録媒体200(或いは210)の空き容量を調べ、規定量に足りているか否かを判断する。メモリ30に用意されている書き込みバッファの空き容量及び記録中の記録媒体200(或いは210)の空き容量がどちらも規定量以上あるとシステム制御回路50が判断した場合は、ステップS309に進む。メモリ30に用意されている書き込みバッファの空き容量及び記録中の記録媒体200(或いは210)の空き容量のどちらかが規定量に足りてないとシステム制御回路50が判断した場合は、ステップ310に進み、動画記録終了処理を行う。
ステップS309においては、システム制御回路50は、記録可能時間を画像表示部28に表示してステップS301に戻る。
次に動画記録終了処理として、まずステップS310において、システム制御回路50は、メモリ30に用意されている書き込みバッファに残っている動画像データを全て記録媒体200(或いは210)に転送する。
次にステップS311において、システム制御回路50は、記録終了後でなければ更新できない値(総撮影時間、総フレーム数、インデックス領域等)を動画ファイルに書き込み、動画ファイルを整形する。
次にステップS312において、システム制御回路50は、ステップS311の動画ファイルの整形後、サムネイルファイルを記録媒体200(或いは210)に書き込み、動画記録処理を終了する。ここで、サムネイルファイルのヘッダ領域には、記録開始時に、時計72により取得してシステム制御回路50の内部メモリに記憶した記録開始時刻及び記録時に設定されているフレームレートが記録される。
なお、以上の処理は、本発明でいう記録手段の処理に対応する。
図7は、図4のステップS133における動画再生処理の詳細なフローチャートを示す。以下、動画再生処理の動作手順を詳細に説明する。
まずステップSS401において、システム制御回路50は、サムネイルファイルのヘッダ領域に記録されている記録開始時刻と記録時のフレームレートを読み出し、システム制御回路50の内部メモリ或いはメモリ52に記憶する。この記録開始時刻と記録時のフレームレートは、後述のステップS412の時刻表示において、表示中のフレームが記録された記録時刻を求める際に用いられる。
次にステップS402において、システム制御回路50は、ユーザが操作部70を操作して動画再生の停止を指示したか否かを判断する。停止指示と判断した場合は、動画再生処理を終了する。動画再生の停止を指示していない判断した場合は、ステップS403へ進む。
ステップS403において、システム制御回路50は、ステップS131又は後述ステップS413において記録媒体200(或いは210)から読み出して、メモリ30に記憶した動画像データのうち、所定量の動画像データが再生済みか否かを判断する。再生済みでないと判断した場合は、ステップS405に進む。再生済みであると判断した場合は、ステップS404に進む。
ステップS404において、システム制御回路50は、すでに全動画像データが読み出し済みであるか否かを判断する。全画像データが読み出し済みであると判断した場合は、ステップS405に進む。また、ステップS404において、全動画像データが読み出し済みでないと判断した場合は、ステップS413において、所定量の動画像データを記録媒体200(或いは210)から読み出し、メモリ30に記憶してから、ステップS405に進む。
ステップS405において、システム制御回路50は、メモリ30に記憶した動画像データの中の音声データを、逐次メモリ制御回路120を介してD/A変換器122に入力し、スピーカ124から出力して、音声再生を行う。
次にステップS406において、システム制御回路50は、メモリ30に記憶した動画像データからこれから伸長及び表示するフレームのフレーム番号mを取得し、システム制御回路50の内部メモリ或いはメモリ52に記憶する。このフレーム番号はステップS412の時刻表示において、表示中のフレームが記録された時刻を求める際に用いられる。
次にステップS407において、システム制御回路50は、メモリ30に記憶した動画像データの中の1フレーム分の画像データを圧縮・伸長回路32により、画像伸張処理を行いメモリ30に書き込む。
次にステップS408において、システム制御回路50は、伸張した画像データを表示形式の表示画像データに変換し、変換した表示画像データをメモリ制御回路22を介して画像表示メモリ24に転送する。
次にステップS409において、システム制御回路50は、画像表示メモリ24に転送した表示画像データを読み出して、メモリ制御回路22、D/A変換器26を介して画像表示部28に表示する。
次にステップS410において、システム制御回路50は、フレーム番号mが所定の数aの倍数、m=a×Nであるかの判定を行う。所定の数aの倍数であるならばステップS412に進み、システム制御回路50の内部メモリ或いはメモリ52に記憶した記録開始時刻、記録時のフレームレート及びフレーム番号mから記録時刻を計算し、時刻表示を行ってからステップS411に進む。所定の数aの倍数でないならば、そのままステップS411に進む。なお、ここで説明した処理は、本発明でいう算出手段及び表示手段の処理に対応する。
ステップS411において、システム制御回路50は、現在伸長及び表示したフレームが、最終フレームか否かを判定する。最終フレームでなかったならば、ステップS402に戻って動画再生処理を継続する。一方、最終フレームだったならば、即ち最終フレームを伸張表示し終わった場合は、動画再生処理を終了する。
以上の処理により、所定のaフレーム毎に時刻表示の更新を行うことで、所定のフレームにおいて記録時刻を表示するようにすることができる。なお、記録時刻は図8に示す計算式で求まる。例えば、記録開始時刻が3時であり、フレームが30番目のフレームであり、記録時のフレームレートが1分間に1枚であれば、図8に示す計算式より3時30分と算出される。また、画像表示部28に動画像の記録時の経過時間(動画像の記録開始からどれだけ時間が経過しているか)を表示するようにしてもよい。この場合は、フレーム番号と記録時のフレームレートとをかけあわせることで経過時間を算出できる。
図9(a)は、本実施の形態の画像処理装置100が記録媒体200(或いは210)に記録するディレクトリ構成例を示す図である。図9(b)は、本実施形態の画像処理装置100が記録媒体200(或いは210)に記録する動画ファイルのデータ構造と、記録時刻表示を行うために用いる記録開始時刻と記録時のフレームレート情報を記録したサムネイルファイルのデータ構造を示す図である。
ルートディレクトリ903にはサブディレクトリ904が生成される。サブディレクトリ904が保持するサブディレクトリ名は、先頭3文字が数字で構成される。ここでは、先頭3文字の数字は100から始まり、ディレクトリを生成する毎に1ずつインクリメントされる。サブディレクトリ904の配下には、本実施形態の画像処理装置100が作成するファイルが作成される。
本実施の形態の画像処理装置100は、動画像記録時において、動画ファイル901(*.AVIファイル)とサムネイルファイル902(*.THMファイル)とを別に記録媒体200(或いは210)へ記録する。また、記録開始時刻と記録時のフレームレート情報はサムネイルファイル902(*.THMファイル)のヘッダ領域に記録される。
このようにすることで、動画ファイル901(*.AVIファイル)本体に、記録開始時刻と記録時のフレームレートの情報を持つことができないフォーマットの動画像であっても記録時刻表示を行うことができる。
なお、本実施の形態では、動画像再生時に記録時刻又は記録時の経過時間を表示するようにしたが、これと同時に再生時間も表示できるようにしてもよい。また、この場合、記録時刻、記録時の経過時間、及び再生時間のうちの1つ又は複数を選択できるようにして、その選択に応じて、記録時刻等を表示するようにしてもよい。この場合、動画像再生時に操作部70を操作することで記録時刻等を選択し、それに応じて切替え表示できるようにすればよい(本発明でいう選択手段に対応する)。
以上、本実施の形態では、動画像記録時に記録開始時刻と記録時のフレームレートとを動画像データと別に記憶しておき、動画像再生時に、記憶しておいた記録開始時刻、記録時のフレームレート、及び現在のフレーム番号から記録時刻を求めるようにした。これにより、動画像のフォーマットがタイムスタンプを持つことができる/できないに関わらず、記録時刻を算出して表示することができる。また、インターバル撮影によって記録した動画像、即ち、記録時の時間スケールと再生時の時間スケールの異なる動画像であっても、通常撮影によって記録した動画像であっても、同様の処理で記録時刻の表示を行うことができる。
なお、本発明を実現するために、上述した実施形態の機能を実現するソフトウェアのプログラムコード(コンピュータプログラム)を記録した記憶媒体を用いても良い。この場合には記憶媒体をシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによって本発明の目的が達成される。
この場合、記憶媒体から読み出されたプログラムコード自体が上述した実施形態の機能を実現することになり、プログラムコード自体及びそのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
また、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(基本システム或いはオペレーティングシステム)等が実際の処理の一部又は全部を行う場合も含まれることは言うまでもない。
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれてもよい。この場合には、書き込まれたプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行ってもよい。
本発明の実施の形態に係る画像処理装置の構成を示すブロック図である。 本発明の実施の形態に係る画像処理装置のメインルーチンの一部のフローチャートである。 本発明の実施の形態に係る画像処理装置のメインルーチンの一部のフローチャートである。 本発明の実施の形態に係る画像処理装置のメインルーチンの一部のフローチャートである。 本発明の実施の形態に係る画像処理装置の測距・測光ルーチンのフローチャートである。 本発明の実施の形態に係る画像処理装置の動画記録ルーチンのフローチャートである。 本発明の実施の形態に係る画像処理装置の動画再生ルーチンのフローチャートである。 本発明の実施の形態に係る画像処理装置が時刻計算の際に用いる計算式を示す図である。 本発明の実施の形態に係る画像処理装置が扱うディレクトリ構成例と、動画ファイル及びサムネイルファイルのデータ構造を示す図である。
符号の説明
10 撮影レンズ
12 シャッター
14 撮像素子
16 A/D変換器
18 タイミング発生回路
20 画像処理回路
22 メモリ制御回路
24 画像表示メモリ
26 D/A変換器
28 画像表示部
30 メモリ
32 圧縮・伸長回路
40 露光制御回路
42 測距制御回路
44 ズーム制御回路
46 バリア制御回路
48 フラッシュ
50 システム制御回路
52 メモリ
54 表示部
56 不揮発性メモリ
60 モードダイアルスイッチ
62 シャッタースイッチSW1
64 シャッタースイッチSW2
66 電源スイッチ
70 操作部
72 時計
80 電源制御部
82、84 コネクタ
86 電源
90、94 インタフェース
92、96 コネクタ
100 画像処理装置
102 保護機構部
104 光学ファインダ
110 通信部
112 コネクタ(またはアンテナ)
120 メモリ制御回路
122 D/A変換器
124 スピーカ
126 マイク
128 A/D変換器
200、210 記録媒体
202、212 記録部
204、214 インタフェース
206、216 コネクタ

Claims (10)

  1. 動画像データの記録及び再生が可能な画像処理装置であって、
    動画像記録時に記録開始時刻及び記録時のフレームレートを記録媒体に記録する記録手段と、
    動画像再生時に、前記記録手段が記録した記録開始時刻及び記録時のフレームレートから、再生した動画像の記録時刻及び記録時の経過時間のうちの少なくともいずれかを算出する算出手段とを備えたことを特徴とする画像処理装置。
  2. 前記記録開始時刻及び前記記録時のフレームレートは、動画像データとは別に記録されることを特徴とする請求項1に記載の画像処理装置。
  3. 前記算出手段により算出された前記記録時刻及び前記記録時の経過時間のうちの少なくともいずれかを表示部に表示する表示手段を備えたことを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記表示手段は、動画像の再生時間を表示することができることを特徴とする請求項3に記載の画像処理装置。
  5. 前記記録時刻、前記記録時の経過時間、及び前記再生時間のうちの1つ又は複数を選択できる選択手段を備え、
    前記表示手段は、前記選択手段による選択に応じて、前記表示部に前記記録時刻、前記記録時の経過時間、及び前記再生時間のうちの1つ又は複数を表示することを特徴とする請求項4に記載の画像処理装置。
  6. 前記算出手段は、動画像の所定のフレームにおいて、前記記録時刻及び前記記録時の経過時間のうちの少なくともいずれかを算出することを特徴とする請求項1〜5のいずれか1項に記載の画像処理装置。
  7. 動画像データの記録が可能な画像処理装置であって、
    動画像記録時に記録開始時刻及び記録時のフレームレートを記録媒体に記録する記録手段を備えたことを特徴とする画像処理装置。
  8. 動画像データの再生が可能な画像処理装置であって、
    動画像再生時に、該動画像の記録時に記録された記録開始時刻及び記録時のフレームレートから、再生した動画像の記録時刻及び記録時の経過時間のうちの少なくともいずれかを算出する算出手段を備えたことを特徴とする画像処理装置。
  9. 動画像データの記録及び再生が可能な画像処理装置の制御方法であって、
    動画像記録時に記録開始時刻及び記録時のフレームレートを記録手段に記録する記録ステップと、
    動画像再生時に、前記記録ステップで記録した記録開始時刻及び記録時のフレームレートから、再生した動画像の記録時刻及び記録時の経過時間のうちの少なくともいずれかを算出する算出ステップとを有することを特徴とする画像処理装置の制御方法。
  10. 動画像データの記録及び再生が可能な画像処理装置を制御するためのコンピュータプログラムであって、
    動画像記録時に記録開始時刻及び記録時のフレームレートを記録媒体に記録する記録ステップと、
    動画像再生時に、前記記録ステップで記録した記録開始時刻及び記録時のフレームレートから、再生した動画像の記録時刻及び記録時の経過時間のうちの少なくともいずれかを算出する算出ステップとをコンピュータに実行させることを特徴とするコンピュータプログラム。
JP2007039872A 2007-02-20 2007-02-20 画像処理装置、その制御方法、及びコンピュータプログラム Expired - Fee Related JP4818158B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007039872A JP4818158B2 (ja) 2007-02-20 2007-02-20 画像処理装置、その制御方法、及びコンピュータプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007039872A JP4818158B2 (ja) 2007-02-20 2007-02-20 画像処理装置、その制御方法、及びコンピュータプログラム

Publications (3)

Publication Number Publication Date
JP2008205845A true JP2008205845A (ja) 2008-09-04
JP2008205845A5 JP2008205845A5 (ja) 2010-04-08
JP4818158B2 JP4818158B2 (ja) 2011-11-16

Family

ID=39782851

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007039872A Expired - Fee Related JP4818158B2 (ja) 2007-02-20 2007-02-20 画像処理装置、その制御方法、及びコンピュータプログラム

Country Status (1)

Country Link
JP (1) JP4818158B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013165434A (ja) * 2012-02-13 2013-08-22 Nikon Corp 電子機器および電子機器の制御プログラム
JP2015226306A (ja) * 2014-05-30 2015-12-14 カシオ計算機株式会社 動画データ再生装置、動画データ再生方法及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001285778A (ja) * 2000-03-28 2001-10-12 Sony Corp 情報処理装置および方法、並びにプログラム格納媒体
JP2003244654A (ja) * 2002-02-21 2003-08-29 Canon Inc 画像処理装置、画像処理方法及び記憶媒体
JP2004104534A (ja) * 2002-09-10 2004-04-02 Ricoh Co Ltd 撮像装置
JP2004304425A (ja) * 2003-03-31 2004-10-28 Casio Comput Co Ltd 電子カメラ

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001285778A (ja) * 2000-03-28 2001-10-12 Sony Corp 情報処理装置および方法、並びにプログラム格納媒体
JP2003244654A (ja) * 2002-02-21 2003-08-29 Canon Inc 画像処理装置、画像処理方法及び記憶媒体
JP2004104534A (ja) * 2002-09-10 2004-04-02 Ricoh Co Ltd 撮像装置
JP2004304425A (ja) * 2003-03-31 2004-10-28 Casio Comput Co Ltd 電子カメラ

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013165434A (ja) * 2012-02-13 2013-08-22 Nikon Corp 電子機器および電子機器の制御プログラム
JP2015226306A (ja) * 2014-05-30 2015-12-14 カシオ計算機株式会社 動画データ再生装置、動画データ再生方法及びプログラム

Also Published As

Publication number Publication date
JP4818158B2 (ja) 2011-11-16

Similar Documents

Publication Publication Date Title
JP3814514B2 (ja) 画像表示装置、画像処理方法及びプログラム
US8451347B2 (en) Image processing apparatus, image playing method, image pick-up apparatus, and program and storage medium for use in displaying image data
JP2007122021A (ja) 画像表示装置及び画像表示方法
JP2001320620A (ja) 撮像装置及びその制御方法並びに記憶媒体
JP2010193007A (ja) 撮像装置
JP2005244311A (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP4818158B2 (ja) 画像処理装置、その制御方法、及びコンピュータプログラム
JP4136296B2 (ja) 画像処理装置、方法、及びコンピュータ読み取り可能な記憶媒体
JP4574087B2 (ja) 撮像装置、その制御方法、並びにその制御プログラム及び記憶媒体
JP4810485B2 (ja) 画像処理装置、画像処理方法、及びコンピュータプログラム
JP4881195B2 (ja) 撮像装置及びその制御方法、並びにプログラム及び記憶媒体
JP2006203689A (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP2007036587A (ja) 撮像装置及びその制御方法
JP2006325148A (ja) 撮像装置及び撮像方法
JP2007189524A (ja) 画像処理装置及び画像処理方法
JP4574426B2 (ja) データ処理装置装置およびデータ処理方法
JP4948011B2 (ja) 撮像装置及びその制御方法、コンピュータプログラム及び記憶媒体
JP4298534B2 (ja) 画像表示装置及び方法
JP4701297B2 (ja) 画像処理装置、方法および記録媒体
JP2011130198A (ja) 撮像装置、その制御方法及びプログラム
JP4667251B2 (ja) 撮像装置及びホワイトバランス制御方法
JP4717762B2 (ja) 画像再生装置、画像再生装置の制御方法、プログラム、及び記録媒体
JP2000115669A (ja) 画像処理装置、画像処理装置の制御方法及び記憶媒体
JP2005110128A (ja) 撮像装置及び撮像制御方法
JP2006203665A (ja) 撮像装置及び方法、並びに記録媒体及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100222

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110601

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110823

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110830

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140909

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140909

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees