JP3764953B2 - 画像変換パラメータを環状画像に記録する方法 - Google Patents

画像変換パラメータを環状画像に記録する方法 Download PDF

Info

Publication number
JP3764953B2
JP3764953B2 JP2002114376A JP2002114376A JP3764953B2 JP 3764953 B2 JP3764953 B2 JP 3764953B2 JP 2002114376 A JP2002114376 A JP 2002114376A JP 2002114376 A JP2002114376 A JP 2002114376A JP 3764953 B2 JP3764953 B2 JP 3764953B2
Authority
JP
Japan
Prior art keywords
image
data
annular
conversion parameters
recorded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002114376A
Other languages
English (en)
Other versions
JP2003308539A (ja
Inventor
修 岩木
直紀 高本
和哉 光山
省人 今村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Tateyama Machine Co Ltd
Original Assignee
Sony Corp
Tateyama Machine Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Tateyama Machine Co Ltd filed Critical Sony Corp
Priority to JP2002114376A priority Critical patent/JP3764953B2/ja
Priority to US10/173,584 priority patent/US20030197780A1/en
Publication of JP2003308539A publication Critical patent/JP2003308539A/ja
Application granted granted Critical
Publication of JP3764953B2 publication Critical patent/JP3764953B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N1/32128Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title attached to the image data, e.g. file header, transmitted message header, information on the same page or in the same computer file as the image
    • H04N1/32133Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title attached to the image data, e.g. file header, transmitted message header, information on the same page or in the same computer file as the image on the same paper sheet, e.g. a facsimile page header
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/12Panospheric to cylindrical image transformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0051Embedding of the watermark in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3233Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document of authentication information, e.g. digital signature, watermark
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3233Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document of authentication information, e.g. digital signature, watermark
    • H04N2201/3236Details of authentication information generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3269Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of machine readable codes or marks, e.g. bar codes or glyphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3271Printing or stamping

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Television Signal Processing For Recording (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は全方位撮像装置で撮像した環状画像中にこれをパノラマ画像に展開する際に必要な画像変換パラメータを記録した画像データに関するものである。
【0002】
【発明が解決しようとする課題】
全方位撮像レンズ(PALレンズ)を用いて撮像された環状画像をパノラマ画像に変換するには、画像変換パラメータが必要である。変換後のパノラマ画像を保存したり配布したりする場合は画像変換パラメータを必要としないが、パノラマ画像の画像の切り出し方法を変更したり、パノラマ画像の両端に生じるひずみを補正したりすることはできない。
【0003】
そこで、環状画像データと共に画像変換パラメータを保存する方法が考えられるが、画像変換パラメータと環状画像データとではデータフォーマットが異なるため、一般の画像表示アプリケーションソフトでは元の環状画像を表示することができなくなっていた。このため、専用のソフトウエアを使用しないと画像の検索ができないなどの問題があった。
【課題を解決するための手段】
【0004】
本発明の目的は、PALレンズを使用して撮影した環状画像データの未撮影領域に画像変換パラメータを書き込んだ画像データを提供することにある。
【0005】
本発明の一態様によれば、環状画像の未撮影領域に画像変換パラメータを色データ、2値画像データまたはバーコードデータとして書き込んだ画像データを提供している。
【発明の実施の形態】
【0006】
図1は、本発明に係る全方位撮像による環状画像の基準位置検出装置を含む全体構成を示すブロック図である。
【0007】
図1において、全方位撮像レンズ1によって周囲360度の全方位にある被写体からの光線を受光し、撮像素子2に被写体像を映し出す。撮像素子2はその被写体像を電気信号に変換してデジタル画像データとしてMPU3へ転送する。MPU3は、そのデジタル画像データを図2に示すような環状画像としてメモリに保持し、かつ、図3に示すようなパノラマ展開画像に変換する。このパノラマ画像はディスプレイ4によって表示される。
【0008】
図2の環状画像を図3のパノラマ展開画像に変換する際に、環状画像の中心点位置、内円位置および外円位置からなる基準位置を正しく設定することが重要である。この基準位置は中心座標(X0、Y0)、内円半径Rinおよび外円半径Routからなる。
【0009】
図4は、本発明に係る鉛直方向ひずみの補正について説明するための全方位撮像システムの概略構成を示すブロック図である。図4において、PALレンズ1を用いて等角度間隔に配置されたゼブラパターン12を撮影すると環状画像13を得る。この環状画像は、環状画像入力部14にて環状画像データとして取り込まれ、これを展開処理部15でパノラマ展開画像データに変換し、この展開画像データを展開画像出力部16から表示装置4で表示する。展開処理部15で単にパノラマ画像に展開しただけでは、図3に示すパノラマ展開画像17のように、鉛直方向ひずみをそのまま反映したパノラマ画像として表現される。
【0010】
本構成例においては、鉛直方向ひずみ補正条件5を補正条件入力部18から入力し、これをひずみ処理部19にてひずみ補正データに変換する。展開処理部15は、ひずみ処理部19からのひずみ補正データを用いて、環状画像入力部14からの環状画像データをパノラマ画像に展開する時に鉛直方向ひずみを補正して展開画像出力部16へ出力する。その結果、表示装置4は鉛直方向ひずみのないパノラマ画像20を表示することができる。
【0011】
次に、パソコン3で実行される補正条件を規定するテーブルの作成手順について図5から図6を参照して説明する。
図5のステップ61にて、図4に示すような、PALレンズから見て仰角が等角度間隔で分割されPALレンズ1を包囲するように形成されたゼブラパターン12を撮影した環状画像データ(A)を取り込む。ステップ62で、図6(a)に示すように、その画像の中心を通る横一本線上を走査して線上の画素データを抽出し、円パターンの存在する座標Pmを検出する。円パターンが描画された個所を走査した時はその画素は黒色であるので、黒色の画素を検出すれば円パターンの存在する個所の画素の座標Pmを検索することができる。図6(b)は等間隔に配列された基準座標を示すものであり、走査によって検出された測定座標は同図(c)に示される。同図(a)および(b)に示される座標表記は、画像の中心を原点(0,0)とし、(2,1)と表した時は、右へ2画素、上へ1画素だけ原点から移動した点を表す。ひずみのない理想のPALレンズで撮影した評価画像図形は、等間隔の同心円を描くため、図6(b)の基準座標と一致する間隔N1,N2,・・・N10となる。しかし、実際のレンズでは、鉛直方向ひずみが存在するので、図6(c)に示すように検出座標間隔が不均一となる。
【0012】
ステップ63にて、基準座標データを読み込む。基準座標データは固定されているので、予め記録されたデータを読み込むだけでよい。そしてステップ64で、相互に対応する測定座標と基準座標との差を取り、これを補正座標データとして補正データ計算をする。その計算経過と結果が図6(d)に示されている。
【0013】
ステップ65に示す計算式に従って、各円の画像の中心からの距離を図7(b)に示すように計算すると共に、各円の基準座標からのズレを表す移動情報を計算し、ステップ66にて図7(a)に示す画像補正データ表を作成し、これをモニターに表示する。画像補正データは、環状画像の径位置とパノラマ画像の高さ位置との関係の各対応位置における垂直補正データが必要となる。
【0014】
このように、環状画像をパノラマ画像に変換する際には、中心座標、内円半径、外円半径、鉛直方向ひずみ補正条件を示す画像の各位置における垂直補正データ、等の種々の画像変換パラメータが必要となる。図8はそれらの画像変換パラメータをまとめて例示したものである。
【0015】
本発明においては、これらの画像変換パラメータは図9に示す環状画像領域以外の未撮影領域に記録される。
【0016】
図8は画像変換パラメータの一例を示すもので、画像変換パラメータ名、設定範囲、データサイズおよび設定値例が示されている。なお、垂直補正値は複数個のデータからなるので中間の値は記載を省略してある。
【0017】
図10を参照して、画像変換パラメータを色情報に変換して未撮影領域へ埋め込む方法について説明する。
【0018】
変換パラメータは全て3バイト以下のデータとなっているため、16進数表記に変換すると、1画素のRGBデータに分割して割り当てることが可能である。図10(a)の例において、例えば、X0値の695を16進数に変換すると0002B7となる。これを1バイト単位(2桁づつ)で各色に分割すると、R(赤)に00、G(緑)に02、B(青)にB7が割り当てられる。このようにして各パラメータを色情報に変換して環状画像の未撮影領域に記録するわけであるが、その書き込みフォーマットを図10(b)に拡大して示す。
【0019】
図10(b)において、左から8画素は変換パラメータが埋め込まれていることを示すヘッダーが書き込まれ、次いで、パラメータ画素が書き込まれ、そして右端にはデータの終わりを示す4画素のエンド画素が書き込まれる。これらの変換パラメータは図10(c)に示すように環状画像の未撮影領域である左上端に書き込まれる。これらのデータ配列は図10(a)の順で固定されている。
【0020】
このようにして埋め込まれた変換パラメータを取り出すためには、左上の画素から右方向へ順に画素値を読み込んで、得られた色情報RGB値から3バイトの数値データとして取り込む。
【0021】
次に、図11を参照して、画像変換パラメータを2値図形に変換して環状画像に埋め込む方法について説明する。
【0022】
図11(a)に示すように、画像パラメータは図10と同一の例を用いる。画像パラメータはおのおの16桁の2進数に変換される。この2進数は2色の色で図11(b)に示す拡大図のように表現される。ここで、数字1桁分の画素数は1画素に対応させてもよいし複数の画素に対応させてもよい。本実施例では、画素の色は白黒の2色とし、1桁分の使用画素は縦横画素の計4画素とする。データの配列は、10の繰り返しにより作成されたヘッダー、各変換パラメータ、エンドの順に上から下に書き込まれる。これら変換パラメータは図11(c)に示すように環状画像の左上端に埋め込まれる。画素から変換パラメータを読み込むにはヘッダー部分から画素の大きさを割り出し、その画素のサイズで左から右へ16桁分の画像情報を読み取り図形の色から16桁の2進数を取り出し10進数に変換する。
【0023】
更に、図12を参照して、画像変換パラメータをバーコードで書き込む方法について説明する。
【0024】
図12(a)はバーコード設定表である。表中の記号は図8のパラメータ表の記号を使用している。1つのバーコードで表せる数字は同図(b)に示すように13桁なので、4つ以上のバーコードを使用して全パラメータを表示している。バーコードの左1桁目はバーコードが表すパラメータの特定をするのに使用される。これらバーコードは同図(c)に示すように非撮像領域に埋め込まれる。
【0025】
バーコードから各パラメータを読み込むには、バーコードリーダを使用するか、バーコードの下に表記してある数字を読み取り、これをキーボード等で入力することにより行う。この実施例では、画像が紙などに印刷されている場合でも、スキャナー等で画像を電子データ化して、バーコードから変換パラメータを読み込んでパノラマ画像への変換時に利用することもできる。
【0026】
以上の実施例では大方は画像変換パラメータを環状画像の左上に埋め込むことを説明したが、書き込み側と読み込み側とで書き込み位置情報を共有していれば、未撮像領域内において任意の位置に埋め込んでもよい。また、画像変換パラメータ以外にもメッセージや撮影記録情報などを同様な方法で埋め込むことができる。
【0027】
【発明の効果】
画像変換パラメータを環状画像データに付加したため、画像データフォーマットを乱すことなく、画像変換パラメータを内部に保持しながら一般の画像表示アプリケーションソフトで環状画像表示をすることができる。また、未撮影領域に変換パラメータを書き込むため、パノラマ画像に変換パラメータの影響が及ぶことがなく、画質が劣化することもない。
更に、バーコードや数字により画像変換パラメータを環状画像の未撮影領域に書き込んでいるため、環状画像を紙等に印刷したとしてもその印刷物から画像変換パラメ−タを読み取ることができ、例えばスキャナー等で画像データに変換すれば、画像変換パラメータを別の場所から取り寄せることもなくパノラマ画像へ変換することができる。
【図面の簡単な説明】
【図1】本発明に係る全体のシステム構成を示すブロック図である。
【図2】本発明に係る環状画像の一例を示す図である。
【図3】図2の環状画像を展開して得たパノラマ画像を示す図である。
【図4】本発明に係る補正条件を説明するためのブロック図である。
【図5】補正条件を求めるための一手順を例示したフローチャートである。
【図6】該フローチャートの説明において用いられる説明図である。
【図7】前記フローチャートの結果得られた補正データを示す図である。
【図8】画像変換パラメータを例示した図である。
【図9】画像変換パラメータが記録される環状画像中の位置を説明する図である。
【図10】画像変換パラメータを色情報で記録する例を説明する図である。
【図11】画像変換パラメータを2色画像で記録する例を説明する図である。
【図12】画像変換パラメータをバーコードで記録する例を説明する図である。
【符号の説明】
1 PALレンズ
2 撮像素子
3 MPU
4 ディスプレイ

Claims (4)

  1. 全方位撮像装置により環状画像を撮像すると共に、撮像された画像中の環状画像のデータが記録されていない未撮影領域に環状画像の中心位置、内円半径、外円半径、及びひずみ補正条件のデータを環状画像をパノラマ画像に変換するときに利用される画像変換パラメータとして環状画像と同じ画像形式で記録する方法。
  2. 前記画像変換パラメータは、色コードに変換された後に前記未撮影領域に記録されることを特徴とする請求項1に記載の方法。
  3. 前記画像変換パラメータは、2値コードに変換された後に前記未撮影領域に記録されることを特徴とする請求項1に記載の方法。
  4. 前記画像変換パラメータは、バーコードに変換された後に前記未撮影領域に記録されることを特徴とする請求項1に記載の方法。
JP2002114376A 2002-04-17 2002-04-17 画像変換パラメータを環状画像に記録する方法 Expired - Fee Related JP3764953B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2002114376A JP3764953B2 (ja) 2002-04-17 2002-04-17 画像変換パラメータを環状画像に記録する方法
US10/173,584 US20030197780A1 (en) 2002-04-17 2002-06-18 Method of recording image conversion parameters in annular images, and annular image data recorded with image conversion parameters

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002114376A JP3764953B2 (ja) 2002-04-17 2002-04-17 画像変換パラメータを環状画像に記録する方法

Publications (2)

Publication Number Publication Date
JP2003308539A JP2003308539A (ja) 2003-10-31
JP3764953B2 true JP3764953B2 (ja) 2006-04-12

Family

ID=29207656

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002114376A Expired - Fee Related JP3764953B2 (ja) 2002-04-17 2002-04-17 画像変換パラメータを環状画像に記録する方法

Country Status (2)

Country Link
US (1) US20030197780A1 (ja)
JP (1) JP3764953B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7400782B2 (en) * 2002-08-28 2008-07-15 Arcsoft, Inc. Image warping correction in forming 360 degree panoramic images
US7308131B2 (en) * 2002-12-03 2007-12-11 Ntt Docomo, Inc. Representation and coding of panoramic and omnidirectional images
US7567274B2 (en) * 2002-12-09 2009-07-28 Frank Edughom Ekpar Method and apparatus for creating interactive virtual tours
JP2005063141A (ja) * 2003-08-12 2005-03-10 D Link Corp 画像変換システム及び画像変換方法
US7542668B2 (en) 2006-06-30 2009-06-02 Opt Corporation Photographic device
WO2010052558A2 (en) * 2008-11-05 2010-05-14 Easywalk Capital S.A. System and method for the precise integration of virtual objects to interactive panoramic walk-through applications
JP5863374B2 (ja) * 2011-10-11 2016-02-16 本田技研工業株式会社 画像処理方法
JP6076103B2 (ja) * 2013-01-23 2017-02-08 本田技研工業株式会社 画像処理方法
WO2014156747A1 (ja) * 2013-03-26 2014-10-02 株式会社インタニヤ パノラマ撮影用デジタルカメラ及び、パノラマ撮影システム
US9886732B2 (en) * 2015-10-09 2018-02-06 AppNexus Inc. Systems and methods for pixel-based watermarking
US9984436B1 (en) * 2016-03-04 2018-05-29 Scott Zhihao Chen Method and system for real-time equirectangular projection
JP6825458B2 (ja) * 2017-03-31 2021-02-03 株式会社リコー 画像処理装置、撮影装置、及び画像処理方法
JP2018205988A (ja) * 2017-06-01 2018-12-27 株式会社リコー 画像処理装置、画像処理方法及びプログラム
EP3748393A1 (en) * 2019-06-04 2020-12-09 Jabil Optics Germany GmbH Surround-view imaging system

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6331869B1 (en) * 1998-08-07 2001-12-18 Be Here Corporation Method and apparatus for electronically distributing motion panoramic images
US6333826B1 (en) * 1997-04-16 2001-12-25 Jeffrey R. Charles Omniramic optical system having central coverage means which is associated with a camera, projector, or similar article
JP2000125190A (ja) * 1998-10-16 2000-04-28 Olympus Optical Co Ltd カメラシステム及び記録媒体

Also Published As

Publication number Publication date
US20030197780A1 (en) 2003-10-23
JP2003308539A (ja) 2003-10-31

Similar Documents

Publication Publication Date Title
JP3764953B2 (ja) 画像変換パラメータを環状画像に記録する方法
US6819358B1 (en) Error calibration for digital image sensors and apparatus using the same
CN101248454B (zh) 图像处理方法和设备、数字照相机
JP4556813B2 (ja) 画像処理装置、及びプログラム
US8036482B2 (en) Image processing apparatus and method, program, and recording medium
JP4293212B2 (ja) 画像色判定装置、画像色判定方法、およびプログラム
JPH0944592A (ja) 情報再生システム
JP2004234318A (ja) 二次元情報コード、二次元情報コードの表示方法、二次元情報コードの生成方法、二次元情報コードの読取方法
JPH11232378A (ja) デジタルカメラ、そのデジタルカメラを用いた文書処理システム、コンピュータ可読の記憶媒体、及び、プログラムコード送出装置
JP2007074578A (ja) 画像処理装置、撮影装置、及びプログラム
JP4796871B2 (ja) 撮像装置
WO2001084851A1 (fr) Procede, dispositif et systeme de traitement de signal image
JP2010226580A (ja) 色補正方法及び撮像システム
JP2010210704A (ja) 画像表示装置
US7271833B2 (en) Image pickup apparatus, image data processing apparatus, image data outputting method, image data processing system and image pickup device
JP2003283916A (ja) デジタルカメラ
JP2004112738A (ja) 単板式カラーイメージセンサの解像度変換方法及び画素データ処理回路
JP3705592B2 (ja) 環状画像のパノラマ画像への展開時の鉛直方向ひずみ補正方法および装置
JP2007074484A (ja) 校正方法、校正システム、校正プログラムおよびそのプログラムを記録した記録媒体
JPH11262025A (ja) 画像入力装置および画像補正方法
JP2010020437A (ja) 画像変換装置
JP2004288148A (ja) 画像処理方法、画像処理システム、画像処理装置、及びコンピュータプログラム
US20230188689A1 (en) Projection method and projector
JP2013131058A (ja) 二次元コード、記録装置、位置特定装置、識別装置及びプログラム
JP4799483B2 (ja) 情報処理装置、情報処理方法、プログラムおよび記録媒体

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050816

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051227

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100203

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100203

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110203

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees