JP5180910B2 - 映像処理装置 - Google Patents

映像処理装置 Download PDF

Info

Publication number
JP5180910B2
JP5180910B2 JP2009132011A JP2009132011A JP5180910B2 JP 5180910 B2 JP5180910 B2 JP 5180910B2 JP 2009132011 A JP2009132011 A JP 2009132011A JP 2009132011 A JP2009132011 A JP 2009132011A JP 5180910 B2 JP5180910 B2 JP 5180910B2
Authority
JP
Japan
Prior art keywords
identification information
video
unit
video signal
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009132011A
Other languages
English (en)
Other versions
JP2010278960A (ja
JP2010278960A5 (ja
Inventor
寿雄 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2009132011A priority Critical patent/JP5180910B2/ja
Publication of JP2010278960A publication Critical patent/JP2010278960A/ja
Publication of JP2010278960A5 publication Critical patent/JP2010278960A5/ja
Application granted granted Critical
Publication of JP5180910B2 publication Critical patent/JP5180910B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、複数の映像信号を処理する映像処理装置に係り、特に複数の映像信号を同一画面内に分割表示する機能を有する映像処理装置に関する。
監視用モニタリングシステムでは、複数のカメラ映像の取り込みを行い、分割画面によって各カメラ映像を同一画面上に表示する機能を有するものがある。また、このシステムにおいては、各カメラ映像の記録も行い、分割画面によって各カメラ映像を同一画面上に再生表示する機能を有する。
複数の映像信号を取り込み、分割画面を生成して表示を行う場合、画面の分割数に応じた数の映像入力端子を設け、それぞれの入力端子の後段に分割画面で表示する表示サイズに拡大縮小を行う拡大縮小手段を設け、その出力を合成することで実現できる。しかし、映像入力端子の数だけ拡大縮小手段を設ける構成は、装置が複雑になりまたコスト増加を招くことになる。そこで一般的には、複数の映像信号を時分割で処理することによって、1個の拡大縮小手段だけで分割画面を生成する方法が提案されている。
例えば特許文献1に記載の画像処理装置は、符号化および時分割多重化された複数の映像信号を入力端子より入力し、デコーダ部で復号化し、拡大・縮小部で画像のサイズを変換する。そして、メモリ格納制御部を用いて、画像メモリ部の中に設けた画像領域の所定部分に書き込み、メモリ読み出し制御部で画像領域全体を読み出して出力するという構成である。
また、特許文献2に記載の同期化機能切替機能付分割表示装置は、m台のカメラからの映像信号を同期化切替回路により合成して第一の合成映像信号とし、VTRに出力するとともに分割表示回路に供給する。分割表示回路内では、書き込みアドレス発生回路がCHコード検出回路からのCHコードに応じたアドレスを発生することにより、所定のメモリ領域に各チャンネルの映像が書き込まれ、分割表示用の第二の合成映像信号を出力するという構成である。
特開2003−9143号公報 特開2000−13739号公報
上記特許文献1および特許文献2では、何れも複数の映像信号を取り込み、分割画面を生成して表示を行う技術について開示されている。また、複数の映像信号に対し、分割画面での表示サイズへと拡大縮小する拡大縮小手段を1系統で実現するために、各映像信号を時分割で処理する方法が示されている。複数の映像信号の分割画面表示では、それぞれの映像信号を所定の位置に表示する必要がある。上記特許文献1,2では、映像信号に対して映像の識別情報を付加し、分割画面における表示位置を映像に付加した識別情報により制御している。これにより、複数の映像信号を時分割で処理する場合においても、各映像を所定の位置に正確に表示することを可能にしている。
しかしながら上記特許文献1,2では、時分割処理における処理の破綻などに対応したエラー回復機能が考慮されていない。時分割処理では、単位時間内に複数の映像を順次処理する。もし、この処理が所定の時間内に完了しなかった場合には、処理が破綻してしまう。例えば、4つの映像信号を取り込み、時分割にて処理して4分割画面で表示することを考える。また、時分割処理においては、単位時間当たり各映像信号のフレーム映像を1枚ずつ、計4枚のフレーム映像を処理すると仮定する。もしも、伝送路の欠陥など予期せぬ回路遅延が生じ、時分割処理において単位時間内に所定の処理が完了せず、4枚のフレーム中3枚のフレーム映像だけが処理された場合、時分割処理の前後で処理枚数の不整合が起きてしまう。これが連続して起きた場合、4つの映像信号のうち、特定の映像信号だけが処理されずに表示から欠落してしまうことになる。監視用モニタリングシステムにおいて、このような特定の映像信号の欠落が継続することは回避しなければならない。
本発明はかかる課題を考慮してなされたもので、複数の映像信号を同一画面に分割表示する場合、時分割処理等において処理エラーが発生した場合即座にこれを回復させる映像処理装置を提供することを目的とする。
本発明は、複数の映像信号を入力して同一画面に分割表示するための映像信号を生成する映像処理装置において、前記各映像信号に対し該映像信号を識別する識別情報を付加する識別情報付加部と、該識別情報付加部で付加した識別情報を記憶する識別情報記憶部と、前記識別情報が付加された各映像信号を時分割信号に変換する時分割処理部と、前記時分割信号から該信号に付加されている識別情報を検出する識別情報検出部と、前記識別情報記憶部で記憶した識別情報と前記識別情報検出部で検出した識別情報とを比較する識別情報比較部と、前記時分割信号を表示する分割画面の大きさに拡大または縮小する拡大縮小部と、前記検出した識別情報に基づいて、前記拡大または縮小された各映像信号を所定の位置に分割表示するための映像信号を合成する映像合成部とを備え、前記識別情報比較部で比較の結果、両者の識別情報が一致しないと判定した場合は、前記入力した映像信号の再要求、あるいは当該装置の再起動を行う。
本発明によれば、複数の映像信号を同一画面に分割表示する場合、時分割処理等において処理エラーが発生した場合即座にこれを回復させることができ、映像処理装置の信頼性が向上する。
本発明の第1の実施例に係る映像処理装置を示すブロック図。 モニタ12における分割画面の表示例を示す図。 時分割処理部3による映像の時分割処理の例を示す図。 第1の実施例における映像処理の流れを示すフローチャート図。 本発明の第2の実施例に係るモニタ12における関連情報の画面表示の例を示す図。 第2の実施例における映像処理の流れを示すフローチャート図。
以下、本発明の実施の形態を図面を用いて説明する。
図1は、本発明の第1の実施例に係る映像処理装置を示すブロック図である。1は複数のカメラを示し、ここでは4個のカメラA,B,C,Dを例とする。破線内は映像処理装置の内部構成で、映像入力部2、時分割処理部3、識別情報付加部4、識別情報記憶部5、拡大縮小部6、識別情報検出部7、識別情報比較部8、映像合成部9、メモリ10、及び映像出力部11を含む。12はモニタである。
映像入力部2は、カメラA〜Dからの映像を取り込む。識別情報付加部4は、取り込んだカメラ映像に対してこれらを識別する識別情報(後述するカメラID)を付加する。識別情報記憶部5は、識別情報付加部4が付加する識別情報を記憶する。時分割処理部3は、識別情報を付加した各カメラ映像を時分割処理して1系統の信号とし、拡大縮小部6へ転送する。拡大縮小部6では、各カメラ映像のサイズ変換を行う。ここでは、映像サイズを1/4に縮小する。また、識別情報検出部7は、カメラ映像に付加されている識別情報を検出する。識別情報比較部8は、識別情報記憶部5で記憶した識別情報と、識別情報検出部7で検出した識別情報との比較を行う。比較の結果これらが一致しないとき、後述するように、エラー発生と判定しその回復処理を行う。映像合成部9は、識別情報検出部7で検出した識別情報に従い、拡大縮小部6からの画像データをメモリ10の所定の位置に書き込む。映像出力部11は、メモリ10上で合成した分割画面データを読み出し、モニタ12に出力する。モニタ12では、カメラA〜Dの映像を分割して表示する。
図2は、モニタ12における分割画面の表示例を示す図である。(a)は、4分割画面20の表示例を、(b)は、4分割画面表示のための設定テーブル22の例を示したものである。本実施例では、4台のカメラA〜Dの映像を取り込み、各カメラ映像を拡大縮小することで分割表示用のサイズに変換し、各カメラ映像を同時に表示する。(a)の分割画面20において、21a〜21dは分割された各画面領域である。(b)はメモリ10に予め格納した設定テーブル22であり、各カメラ映像の表示位置を定めたものである。すなわち、各カメラ映像に関して、その識別情報(カメラID番号)23と分割画面20での表示位置を対応付けている。例えば、カメラAの識別情報(カメラID)は「0」で表示位置は21a、カメラDの識別情報(カメラID)は「3」で表示位置は21dと定める。このようにすれば、各カメラからの映像は分割画面内の定められた位置にそれぞれ表示することができる。
図2(a)において、分割画面20は等分割画面の場合だが、不等分割としても良い。また図2(b)において、テーブル22はメモリ10の中に格納するものとしたが、不図示の別メモリに格納しても良い。さらに、このテーブル情報はプリセットとして記憶しておくだけでなく、本装置を扱うユーザが任意に設定変更できるものでも良い。
図3は、時分割処理部3による映像の時分割処理の例を示す図である。横軸は時間で、フレームパルス(1周期=33ms)を単位時間として処理する。
時分割処理部4は、取り込む4枚のカメラ映像A〜Dについて、単位時間当たり4枚の映像を順次処理して時分割信号に変換する。取り込むカメラ映像のフレームレートが30fpsである場合、フレームレートを落とさずに表示を行うために、1秒間に30×4枚の映像を処理する必要がある。また映像の識別情報であるカメラID情報は、例えば映像のブランキング期間に埋め込むことで付加する。
図4は、本実施例における映像処理の流れを示すフローチャート図である。
S101では、映像入力部2に4台のカメラ映像信号を入力する。
S102では、入力した各映像信号に対して識別情報付加部4により映像の識別情報を付加する。本実施例では、識別情報として図2(b)に示したカメラIDを、フレーム単位、あるいはフィールド単位でブランキング期間に付加する。これにより、フレーム映像あるいはフィールド映像ごとに、カメラIDを参照することが可能となる。
S103では、ここで付加する識別情報(カメラID)を、識別情報記憶部5で記憶しておく。このとき、時分割処理部3で出力する映像順にカメラIDを記憶するので、単位時間当たり4個のカメラIDを記憶する。なお、記憶先はメモリ10や不図示の別メモリであってもよい。
S104では、識別情報を付加したカメラ映像信号は、時分割処理部3により、図3に示すような時分割信号に処理されて伝送される。
S105では、拡大縮小部6で受け取る時分割信号について、識別情報検出部7は、カメラ映像に付加されている識別情報(カメラID)の検出を行う。S102において、フレーム映像、あるいはフィールド映像ごとにカメラIDを付加しているため、ここでは、4枚の各映像のカメラIDを検出する。
S106では、識別情報記憶部5で記憶した識別情報(カメラID)と、S105の識別情報検出部7で検出した識別情報(カメラID)とを、識別情報比較部8で比較する。比較においては、時分割信号に含まれる全てのカメラ映像が一巡する期間を単位に、ここでは4個のカメラIDの配列を比較し、全てのIDが一致するかどうかを判定する。例えばS102にて図2(b)のカメラIDが付加されていれば、その配列は「0、1、2、3」となることが期待される。この判定により、時分割処理部3から出力した映像が、所定の順で正しく拡大縮小部6に伝送されたかどうかを確認することができる。判定の結果、識別情報が一致すればS107へ進み、一致していなければS120へ進む。
S107では、拡大縮小部6は受け取ったカメラ映像の拡大縮小処理を行う。この拡大縮小処理では、最終的にモニタ12に出力する分割画面21a〜21dのサイズへとサイズ変換を行う。
S108では、サイズ変換された映像データを、映像合成部9にて、識別情報検出部7で検出した識別情報に基づいてメモリ10に書き込みを行う。その際、図2(b)に示すカメラIDと表示位置の対応テーブル22を参照し、表示位置に対応するメモリ10上の位置に書き込みを行う。このようにして、伝送された4枚のカメラ映像を順に拡大縮小してメモリ10に書き込みを行い、メモリ10上に分割画面データを生成する。
S109では、メモリ10に生成された分割画面データを映像出力部11が読み出し、モニタ12に出力してカメラ映像の分割画面を表示させる。
S120では、識別情報比較部8での識別情報の比較結果が一致しなかった場合、時分割処理、あるいは伝送路にてエラーが発生したと判定する。このようにエラー発生した時には、取得できなかったカメラ映像を内部メモリに再度要求したり、装置を再起動するなど、エラー回復のための動作に切り替える。
本実施例では、4台のカメラ映像を取り込み4分割画面で表示する例を示したが、入力カメラの台数nと表示画面の分割数m、分割画面における各映像の表示位置は任意である。すなわち、n台のカメラ映像を入力し、任意のm台(1≦m≦n)を選択し、m分割画面に表示することもできる。
本実施例によれば、複数の映像信号に対する時分割処理において、各映像信号にそれを識別する識別情報を付加することにより、複数の映像信号を同一画面に分割して表示する場合に、所定の位置に確実に表示することができる。そして、識別情報の整合を確認することで時分割処理の前後で発生する処理エラーを検知し、取得できなかったカメラ映像の再要求や装置の再起動など、即座にエラー回復動作に切替ることが可能である。これにより、映像処理装置の信頼性が向上する。
本発明の第2の実施例では、複数のカメラ映像を拡大縮小して分割画面に同時に表示するだけでなく、分割画面に各カメラ映像に関連する関連情報を重ねて表示する機能を追加したものである。なお、映像処理装置の基本構成は実施例1(図1)と同様である。
図5は、本実施例によるモニタ12における関連情報の画面表示の例を示す図である。(a)はOSD表示画面、(b)は関連情報の設定テーブルを示す。
(a)の分割画面20では、各分割領域21a〜21dにカメラ映像とともにその関連情報24a〜24dを重畳して表示する。ここでは関連情報としてカメラ位置(玄関、居間など)を表示している。(b)の関連情報の設定テーブル22はメモリ10に格納しておき、各カメラ映像の表示位置の他に映像に関連する関連情報24を登録している。ここではカメラ位置の情報を登録している。このテーブル22を参照することで、識別情報(カメラID)を介して各カメラ映像に対応する関連情報24を読み出し、関連情報24をカメラ映像に重畳してOSD表示させることができる。これによれば、あるカメラ映像の表示位置が変更されたとき、対応する関連情報の表示位置もこれに連動して変更されるので、多数の分割表示を行うような場合の設定変更が容易となる。
図6は、本実施例における映像処理の流れを示すフローチャート図である。前記実施例1(図4)の処理に対して、関連情報の処理S110〜S112を追加したものである。S101〜S108の処理は前記図4と同様であり、説明を省略する。
S110では、各カメラ映像に付加された識別情報(カメラID)をもとに、カメラ映像に関連する関連情報にアクセスする。具体的には、図5(b)のテーブル22を参照することで、識別情報(カメラID)23に対応付けられた関連情報(カメラ位置)24を取得する。例えば、カメラIDが「0」であれば、関連情報24として「玄関」という文字情報を取得する。
S111では、取得した関連情報を、映像合成部9によってメモリ10に書き込みを行う。例えば、カメラIDが「0」であれば「玄関」という文字を、カメラAの映像が書き込まれている画面21aの位置に重畳して書き込む。
S112では、メモリ10に生成された分割画面データを映像出力部11が読み出し、モニタ12に出力する。モニタ画面には、カメラ映像の上に対応する関連情報をOSD表示のように重畳させて表示を行う。
本実施例では、関連情報としてカメラの位置情報を表示する例を示したが、勿論、カメラID自身を表示することもできる。さらに、図5(b)に示したテーブル22は、プリセットとして記憶しておくだけでなく、本装置を扱うユーザが任意に設定できるものとする。その場合、1個のカメラIDに対応付ける関連情報の数は1個に限らず、複数個nの関連情報を登録することもできる。そして、n個の関連情報の中から任意のm個(1≦m≦n)の情報を選択し、選択したm個の情報をカメラ映像に重畳表示させることもできる。
このように本実施例によれば、映像に付加した識別情報、あるいは、その識別情報に対応付けられた関連情報を、映像に重畳させて表示することが可能になる。これにより、ユーザに対して分かりやすい情報提示ができるため、使い勝手が向上する。
以上述べた各実施例では、入力映像としてカメラ映像を例に挙げて示したが、ハードディスクやDVDなどの記録メディアの記録映像を入力する映像処理装置にも適用できる。この場合、映像を記録する段階で、映像データに対して識別情報を付加しておけば、当該装置で付加する必要がなくなる。
1…カメラ
2…映像入力部
3…時分割処理部
4…識別情報付加部
5…識別情報記憶部
6…拡大縮小部
7…識別情報検出部
8…識別情報比較部
9…映像合成部
10…メモリ
11…映像出力部
12…モニタ
20…分割画面表示
22…設定テーブル
23…識別情報(カメラID)
24…関連情報(カメラ位置)。

Claims (4)

  1. 複数の映像信号を入力して同一画面に分割表示するための映像信号を生成する映像処理装置において、
    前記各映像信号に対し該映像信号を識別する識別情報を付加する識別情報付加部と、
    該識別情報付加部で付加した識別情報を記憶する識別情報記憶部と、
    前記識別情報が付加された各映像信号を時分割信号に変換する時分割処理部と、
    前記時分割信号から各映像信号に付加されている識別情報を検出する識別情報検出部と、
    前記時分割信号に含まれる各映像信号が一巡する期間を単位に、前記識別情報記憶部で記憶した識別情報の配列と前記識別情報検出部で検出した識別情報の配列とを比較し、配列内の全ての識別情報が一致するかどうかを判定する識別情報比較部と、
    前記時分割信号を表示する分割画面の大きさに拡大または縮小する拡大縮小部と、
    前記検出した識別情報に基づいて、前記拡大または縮小された各映像信号を所定の位置に分割表示するための映像信号を合成する映像合成部とを備え、
    前記識別情報比較部で比較の結果、両者の識別情報が一致しないと判定した場合は、前記入力した映像信号の再要求、あるいは当該装置の再起動を行うことを特徴とする映像処理装置。
  2. 請求項1に記載の映像処理装置において、
    前記識別情報付加部は、前記各映像信号に対し該映像信号のフレーム単位、あるいはフィールド単位で前記識別情報を付加することを特徴とする映像処理装置。
  3. 請求項1または2に記載の映像処理装置において、
    前記各映像信号に関連する関連情報を、該映像信号の識別情報に対応させて登録したメモリを備え、
    前記映像合成部は映像信号を合成する際、前記メモリを参照し前記識別情報に対応する関連情報を取得して該当する映像信号に重畳することを特徴とする映像処理装置。
  4. 請求項1乃至3のいずれか1項に記載の映像処理装置において、
    前記映像合成部は、前記関連情報として前記識別情報を該当する映像信号に重畳することを特徴とする映像処理装置。
JP2009132011A 2009-06-01 2009-06-01 映像処理装置 Expired - Fee Related JP5180910B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009132011A JP5180910B2 (ja) 2009-06-01 2009-06-01 映像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009132011A JP5180910B2 (ja) 2009-06-01 2009-06-01 映像処理装置

Publications (3)

Publication Number Publication Date
JP2010278960A JP2010278960A (ja) 2010-12-09
JP2010278960A5 JP2010278960A5 (ja) 2011-09-22
JP5180910B2 true JP5180910B2 (ja) 2013-04-10

Family

ID=43425452

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009132011A Expired - Fee Related JP5180910B2 (ja) 2009-06-01 2009-06-01 映像処理装置

Country Status (1)

Country Link
JP (1) JP5180910B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102868110A (zh) * 2012-09-24 2013-01-09 广东电网公司珠海供电局 户外环网柜视频监控方法、装置及***
JP2014183493A (ja) * 2013-03-19 2014-09-29 Dainippon Printing Co Ltd 情報補正装置、情報補正方法並びに情報補正用プログラム及び情報記録媒体
KR101320864B1 (ko) 2013-04-29 2013-10-23 주식회사 이도링크 형상체를 활용한 모니터링영역 내의 외부 객체 유무 판별방법
WO2016125541A1 (ja) * 2015-02-06 2016-08-11 シャープ株式会社 投影制御装置、制御プログラムおよび制御方法
JP6426035B2 (ja) * 2015-03-20 2018-11-21 アイホン株式会社 インターホンシステム
JP2016226018A (ja) * 2016-08-12 2016-12-28 キヤノンマーケティングジャパン株式会社 ネットワークカメラシステム、制御方法、及びプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IE910049A1 (en) * 1991-01-07 1992-07-15 Zandar Res Ltd Multiple video monitoring
JPH08256325A (ja) * 1995-03-16 1996-10-01 Olympus Optical Co Ltd 画像取扱システム
JPH1188868A (ja) * 1997-09-03 1999-03-30 Hitachi Denshi Ltd 監視システム
JP2000013784A (ja) * 1998-06-19 2000-01-14 Fujitsu General Ltd マルチ表示監視システム
JP2003009143A (ja) * 2001-06-19 2003-01-10 Hitachi Ltd 画像処理装置およびこれを用いた監視システム
JP4915552B2 (ja) * 2006-03-23 2012-04-11 パナソニック株式会社 映像伝送システム

Also Published As

Publication number Publication date
JP2010278960A (ja) 2010-12-09

Similar Documents

Publication Publication Date Title
JP5180910B2 (ja) 映像処理装置
KR20070060612A (ko) 디지털 비디오 레코더에서의 감시영상 출력방법
JP2007028299A (ja) 画像監視システム
US8810689B2 (en) Image processing apparatus, imaging apparatus, image processing method, and program for processing image data at a plurality of frame rates
KR101250721B1 (ko) 2개의 고해상도 영상 소스들 간의 전환
WO2010016251A1 (ja) 映像処理装置
US8824872B2 (en) Display control apparatus, reproduction system, and recording medium in which display control is performed based on a detected event
JP2006041884A (ja) 情報処理装置および方法、記録媒体、並びにプログラム
JP2007013714A (ja) 情報再生装置及び情報再生方法
JP4658498B2 (ja) 記録再生装置
JP5219646B2 (ja) 映像処理装置及び映像処理装置の制御方法
JP2010093405A (ja) 情報処理装置、及び情報処理方法
JP4650741B2 (ja) データ記録システム及びデータ再生システム
JP4393425B2 (ja) 映像機器、映像記録方法および映像再生方法
KR20070011977A (ko) 시간 정보를 이용하여 아날로그 영상 및 음성신호의 동기제어를 수행하는 a/v 기기 및 그 동기 제어방법
JP5231758B2 (ja) データ放送表示装置、データ放送表示方法およびデータ放送表示プログラム
JP2006246281A (ja) 映像信号処理装置
JP2006222510A (ja) 画像再生装置および画像再生プログラム
JP2011199571A (ja) 画像再生装置
KR20060095218A (ko) Dvr 시스템에서의 다 채널 동시 기록 방법
KR20160089824A (ko) 디지털 비디오 레코더를 이용한 실시간 원격 모니터링 및 재생 시스템 및 그 방법
JP2006208615A (ja) 映像信号処理装置
JP2013247611A (ja) 字幕放送出力装置、字幕放送出力方法及び字幕放送出力プログラム
JP4304799B2 (ja) データ記録再生装置
JP2010154053A (ja) 映像処理装置、映像処理方法並びにプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110808

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110808

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130111

R150 Certificate of patent or registration of utility model

Ref document number: 5180910

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees