JP3942088B2 - 画像処理装置及び画像処理方法 - Google Patents
画像処理装置及び画像処理方法 Download PDFInfo
- Publication number
- JP3942088B2 JP3942088B2 JP2002282733A JP2002282733A JP3942088B2 JP 3942088 B2 JP3942088 B2 JP 3942088B2 JP 2002282733 A JP2002282733 A JP 2002282733A JP 2002282733 A JP2002282733 A JP 2002282733A JP 3942088 B2 JP3942088 B2 JP 3942088B2
- Authority
- JP
- Japan
- Prior art keywords
- frame
- scene change
- moving image
- encoded data
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
【発明の属する技術分野】
本発明は、動画像の符号化データの処理に係り、特に、圧縮符号化された動画像のシーンチェンジ検出に関する。
【0002】
【従来の技術】
動画像のシーンが変化するフレームを自動的に検出する技術は数多く提案されているが、基本的には連続したフレームの静止画特徴量を比較し、その変化の大きいフレームをシーンチェンジ発生フレームとして検出する。
【0003】
特許文献1には、予測符号化方式の符号化装置又は復号化装置において、各フレームの予測誤差量や符号数、フレーム内符号化(又はフレーム間符号化)された画素数を計数し、それらの計数値の変化が大きいフレームをシーンチェンジ発生フレームとして検出する如き構成の装置が記載されている。また、特許文献2には、動画像の各フレームの符号量を計数し、その計数値が閾値を越えたときにシーンチェンジとして検出する装置が記載されている。
【0004】
本発明に関連する画像符号化方式として、JPEG2000(ISO/IEC FCD 15444−1)とMotion−JPEG2000(ISO/IEC FCD 15444−3)がある(例えば、非特許文献1参照)。Motion−JPEG2000は連続した複数の静止画像のそれぞれをフレームとして動画像を圧縮符号化するが、各フレームの符号化データのフォーマットはJPEG2000に準拠している。
【0005】
【特許文献1】
特許3093499号公報
【特許文献2】
特開2000−78585号公報
【非特許文献1】
野水泰之著、「次世代画像符号化方式 JPEG2000」、
株式会社トリケップス、2001年2月13日
【0006】
【発明が解決しようとする課題】
本発明の目的は、動画像の符号化データのヘッダ情報を利用し、少ない処理量で高速にシーンチェンジを検出する新規な装置及び方法を提供することにある。本発明のもう1つの目的は、動画像の符号化データのヘッダ情報を利用し、簡易な手段もしくは処理により、多様な特徴量に基づいたシーンチェンジ検出が可能な新規な装置及び方法を提供することにある。本発明のもう1つの目的は、動画像の符号化データのヘッダ情報を利用し、高速かつ高精度のシーンチェンジ検出が可能な新規な装置及び方法を提供することにある。
【0007】
【課題を解決するための手段】
請求項1記載の発明に係る画像処理装置は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づき解像度レベル毎のパケット長の合計を求める情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により求められた解像度レベル毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得手段により求められた解像度レベル毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとの解像度レベル毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする。
【0008】
請求項2記載の発明に係る画像処理装置は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダから符号パス数の情報を抽出し、抽出した符号パス数の情報に基づき プリシンクト毎の符号パス数の合計を求める情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により求められたプリシンクト毎の符号パス数の合計と、前記現在フレームの直前フレームについて前記情報取得手段により求められたプリシンクト毎の符号パス数の合計とを比較することにより、前記現在フレームと前記直前フレームとのプリシンクト毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする。
【0009】
請求項3記載の発明に係る画像処理装置は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づきコンポーネント毎のパケット長の合計を求める情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により求められたコンポーネント毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得手段により求められたコンポーネント毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとのコンポーネント毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする。
【0010】
請求項4記載の発明に係る画像処理装置は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づきレイヤ毎のパケット長の合計を求める情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により求められたレイヤ毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得手段により求められたレイヤ毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとのレイヤ毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする。
【0011】
請求項5記載の発明に係る画像処理装置は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダから符号パス数の情報を抽出し、抽出した符号パス数の情報からプリシンクト毎の符号パス数の合計を求め、求めたプリシンクト毎の符号パス数の合計に基づいてプリシンクト単位でのROI領域の有無を示す情報を取得する情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により取得されたプリシンクト単位でのROI領域の有無を示す情報と、前記現在フレームの直前フレームについて前記情報取得手段により取得されたプリシンクト単位でのROI領域の有無を示す情報とを比較することにより、前記現在フレームと前記直前フレームとのROI領域の位置の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする。
【0012】
請求項6記載の発明に係る画像処理装置は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のタイルヘッダからRGNマーカセグメントを抽出することにより、タイル単位でのROI領域の有無を示す情報を取得する情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により取得されたタイル単位でのROI領域の有無を示す情報と、前記現在フレームの直前フレームについて前記情報取得手段により取得されたタイル単位でのROI領域の有無を示す情報とを比較することにより、前記現在フレームと前記直前フレームとのROI領域の位置の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする。
【0013】
請求項7記載に係る画像処理装置は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダから圧縮方法に関連した所定のヘッダ情報を取得する情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により取得された所定のヘッダ情報と、前記現在フレームの直前フレームについて前記情報取得手段により取得された所定のヘッダ情報とを比較することにより、前記現在フレームと前記直前フレームとの圧縮方法が異なると判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする。
【0014】
請求項8記載の発明に係る画像処理方法は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づき解像度レベル毎のパケット長の合計を求める情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により求められた解像度レベル毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得工程により求められた解像度レベル毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとの解像度レベル毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする。
【0015】
請求項9記載の発明に係る画像処理方法は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダから符号パス数の情報を抽出し、抽出した符号パス数の情報に基づきプリシンクト毎の符号パス数の合計を求める情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により求められたプリシンクト毎の符号パス数の合計と、前記現在フレームの直前フレームについて前記情報取得工程により求められたプリシンクト毎の符号パス数の合計とを比較することにより、前記現在フレームと前記直前フレームとのプリシンクト毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする。
【0016】
請求項10記載の発明に係る画像処理方法は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づきコンポーネント毎のパケット長の合計を求める情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により求められたコンポーネント毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得工程により求められたコンポーネント毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとのコンポーネント毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする。
【0017】
請求項11記載の発明に係る画像処理方法は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づきレイヤ毎のパケット長の合計を求める情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により求められたレイヤ毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得工程により求められたレイヤ毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとのレイヤ毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする。
【0018】
請求項12記載の発明に係る画像処理方法は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダから符号パス数の情報を抽出し、抽出した符号パス数の情報からプリシンクト毎の符号パス数の合計を求め、求めたプリシンクト毎の符号パス数の合計に基づいてプリシンクト単位でのROI領域の有無を示す情報を取得する情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により取得されたプリシンクト単位でのROI領域の有無を示す情報と、前記現在フレームの直前フレームについて前記情報取得工程により取得されたプリシンクト単位でのROI領域の有無を示す情報とを比較することにより、前記現在フレームと前記直前フレームとのROI領域の位置の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする。
【0019】
請求項13記載の発明に係る画像処理方法は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のタイルヘッダからRGNマーカセグメントを抽出することにより、タイル単位でのROI領域の有無を示す情報を取得する情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程によ り取得されたタイル単位でのROI領域の有無を示す情報と、前記現在フレームの直前フレームについて前記情報取得工程により取得されたタイル単位でのROI領域の有無を示す情報とを比較することにより、前記現在フレームと前記直前フレームとのROI領域の位置の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする。
【0020】
請求項14記載の発明に係る画像処理方法は、
Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダから圧縮方法に関連した所定のヘッダ情報を取得する情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により取得された所定のヘッダ情報と、前記現在フレームの直前フレームについて前記情報取得工程により取得された所定のヘッダ情報とを比較することにより、前記現在フレームと前記直前フレームとの圧縮方法が異なると判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする。
【0021】
【発明の実施の形態】
以下に説明する実施の形態において処理の対象となる符号化データは、Motion−JPEG2000(ISO/IEC FCD 15444−3)による動画像の符号化データである。各フレームの符号化データのフォーマットはJPEG2000に準拠しているので、以下の説明と関連する範囲でJPEG2000(ISO/IEC FCD 15444−1)について概説する。
【0022】
図1はJPEG2000の圧縮符号化アルゴリズムを説明するための簡略化されたブロック図である。圧縮符号化の対象となる画像データ(動画像を扱う場合には各フレームの画像データ)は、コンポーネント毎にタイルと呼ばれる重複しない矩形領域に分割され、コンポーネント毎にタイルを単位として処理される。ただし、タイルサイズを画像サイズと同一にすること、つまりタイル分割を行わないことも可能である。
【0023】
タイル画像は、圧縮率の向上を目的として、RGBデータやCMYデータからYCrCbデータへの色空間変換が施される(ステップS1)。この色空間変換が省かれる場合もある。
【0024】
色空間変換後の各コンポーネントの各タイル画像に対し2次元ウェーブレット変換(離散ウェーブレット変換:DWT)が実行される(ステップS2)。
【0025】
図2はデコンポジションレベル数が3の場合のウェーブレット変換の説明図である。図2(a)に示すタイル画像(デコンポジションレベル0)に対する2次元ウェーブレット変換により、図2(b)に示すような1LL,1HL,1LH,1HHの各サブバンドに分割される。1LLサブバンドの係数に対し2次元ウェーブレット変換が適用されることにより、図2(c)に示すように2LL,2HL,2LH,2HHのサブバンドに分割される。2LLサブバンドの係数に対し2次元ウェーブレット変換が適用されることにより、図2(d)に示すように3LL,3HL,3LH,3HHのサブバンドに分割される。デコンポジションレベルと解像度レベルとの関係であるが、図2(d)の各サブバンドに括弧で囲んで示した数字が、そのサブバンドの解像度レベルを示している。
【0026】
このような低周波成分(LLサブバンド係数)の再帰的分割(オクターブ分割)により得られたウェーブレット係数は、サブバンド毎に量子化される(ステップS3)。JPEG2000ではロスレス(可逆)圧縮とロッシー(非可逆)圧縮のいずれも可能であり、ロスレス圧縮の場合には量子化ステップ幅は常に1であり、この段階では量子化されない。
【0027】
量子化後の各サブバンド係数はエントロピー符号化される(ステップS4)。このエントロピー符号化には、ブロック分割、係数モデリング及び2値算術符号化からなるEBCOT(Embedded Block Coding with Optimized Truncation)と呼ばれる符号化方式が用いられ、量子化後の各サブバンド係数のビットプレーンが上位プレーンから下位プレーンへ向かって、コードブロックと呼ばれるブロック毎に符号化される。
【0028】
最後の2つのステップS5,S6は符号形成プロセスである。まず、ステップS5において、ステップS4で生成されたコードブロックの符号をまとめてパケットが作成される。次のステップS6において、ステップS5で生成されたパケットがプログレッション順序に従って並べられるとともに必要なタグ情報が付加されることにより、所定のフォーマットの符号化データが作成される。JPEG2000では、符号順序制御に関して、解像度レベル、プリシンクト(position)、レイヤ、コンポーネント(YCrCbやRGBなどの色成分)の組み合わせによる5種類のプログレッション順序が定義されている。
【0029】
このようにして生成されるJPEG2000の符号化データのフォーマットを図3に示す。図3に見られるように、符号化データはその始まりを示すSOCマーカと呼ばれるタグで始まり、その後に符号化パラメータや量子化パラメータ等を記述したメインヘッダ(Main Header)と呼ばれるタグ情報が続き、その後に各タイル毎の符号データが続く。各タイル毎の符号データは、SOTマーカと呼ばれるタグで始まり、タイルヘッダ(Tile Header)と呼ばれるタグ情報、SODマーカと呼ばれるタグ、各タイルの符号列を内容とするタイルデータ(Tile Data)で構成される。最後のタイルデータの後に、終了を示すEOCマーカと呼ばれるタグが置かれる。
【0030】
ここで、プリシンクト、コードブロック、パケット、レイヤについて簡単に説明する。画像≧タイル≧サブバンド≧プリシンクト≧コードブロックの大きさ関係がある。
【0031】
プリシンクトとは、サブバンドの矩形領域で、同じデコンポジションレベルのHL,LH,HHサブバンドの空間的に同じ位置にある3つの領域の組が1つのプリシンクトとして扱われる。ただし、LLサブバンドでは、1つの領域が1つのプリシンクトとして扱われる。プリシンクトのサイズをサブバンドと同じサイズにすることも可能である。また、プリシンクトを分割した矩形領域がコードブロックである。図4にデコンポジションレベル1における1つのプリシンクトとコードブロックを例示した。図中のプリシンクトと記された空間的に同じ位置にある3つの領域の組が1つのプリシンクトとして扱われる。
【0032】
プリシンクトに含まれる全てのコードブロックの符号の一部(例えば最上位から3ビット目までの3枚のビットプレーンの符号)を取り出して集めたものがパケットである。符号が空(から)のパケットも許される。コードブロックの符号をまとめてパケットを生成し、所望のプログレッション順序に従ってパケットを並べることにより符号化データを形成する。図3の各タイルに関するSOD以下の部分がパケットの集合である。
【0033】
全てのプリシンクト(つまり、全てのコードブロック、全てのサブバンド)のパケットを集めると、画像全域の符号の一部(例えば、画像全域のウェーブレット係数の最上位のビットプレーンから3枚目までのビットプレーンの符号)ができるが、これがレイヤである(ただし、次に示す例のように、必ずしも全てのプリシンクトのパケットをレイヤに含めなくともよい)。したがって、伸長時に復号されるレイヤ数が多いほど再生画像の画質は向上する。つまり、レイヤは画質の単位とも言える。全てのレイヤを集めると、画像全域の全てのビットプレーンの符号になる。
【0034】
デコンポジションレベル数=2(解像度レベル数=3)の場合のパケットとレイヤの例を図5に示す。図中の縦長の小さな矩形がパケットであり、その内部に示した数字はパケット番号である。レイヤを濃淡を付けた横長矩形領域として図示してある。すなわち、この例では、パケット番号0〜16のパケットの符号からなるレイヤ0、パケット番号17〜33のパケットの符号からなるレイヤ1、パケット番号34〜50のパケットの符号からなるレイヤ2、パケット番号51〜67のパケットの符号からなるレイヤ3、パケット番号68〜84のパケットの符号からなるレイヤ4、パケット番号85〜101のパケットの符号からなるレイヤ5、パケット番号102〜118のパケットの符号からなるレイヤ6、パケット番号119〜135のパケットの符号からなるレイヤ7、パケット番号136〜148のパケットの符号からなるレイヤ8、及び、残りのパケット番号149〜161のパケットの符号からなるレイヤ9の9レイヤに分割されている。なお、パケットとプリシンクトとの対応関係などは、プログレッション順序の違いやレイヤ分割数等により様々に変化するものであり、上に示したレイヤ構成はあくまで一例である。
【0035】
JPEG2000においてはLRCP、RLCP、RPCL、PCRL、CPRLの5つのプログレッション順序が定義されている。ここで、Lはレイヤ、Rは解像度レベル、Cはコンポーネント、Pはプリシンクトである。
【0036】
LRCPプログレッションの場合、パケットの配置(符号化時)又はパケットの解釈(復号化時)の順序は、L,R,C,Pの順にネストされた次のようなforループで表すことができる。
for(レイヤ){
for(解像度レベル){
for(コンポーネント){
for(プリシンクト){
パケットを配置:符号化時
パケットを解釈:復号化時
}
}
}
}
【0037】
具体例を示せば、画像サイズ=100×100画素(タイル分割なし)、レイヤ数=2、解像度レベル数=3(レベル0〜2)、コンポーネント数=3、プリシンクトサイズ=32×32の場合における36個のパケットは、図6のような順に配置され、また解釈される。
【0038】
また、RLCPプログレッションの場合には、
for(解像度レベル){
for(レイヤ){
for(コンポーネント){
for(プリシンクト){
パケットを配置:符号化時
パケットを解釈:復号化時
}
}
}
}
という順で、パケットの配置(符号化時)又はパケットの解釈(復号化時)がなされる。
他のプログレッション順序の場合も同様のネストされたforループにより、パケットの配置順又は解釈順が決まる。
【0039】
また、JPEG2000には、選択した領域(ROI領域)の画質を他の領域よりも向上させる機能があり、基本仕様ではROI領域のウェーブレット係数のビットシフトによるMax Shift方式が規定されている。
【0040】
本発明においては、符号化データに付加されるメインヘッダ、タイルヘッダ、パケットヘッダの情報を利用するので、ヘッダ情報の概要を以下に示す。
図7にメインヘッダの構成を示す。このメインヘッダの情報中でSIZ,COD,QCDの各マーカセグメントは必須であるが、他のマーカセグメントはオプションである。
図8にタイルヘッダの構成を示す。(a)はタイルデータの先頭に付加されるヘッダであり、(b)はタイル内が複数に分割されている場合に分割されたタイル部分列の先頭に付加されるヘッダである。タイルヘッダでは必須のマーカセグメントはなく、すべてオプションである。
図9に、マーカ及びマーカセグメントの一覧表を示す。
SOTマーカセグメントの構成を図10に、SIZマーカセグメントの構成を図11に、CODマーカセグメントの構成を図12に、COCマーカセグメントの構成を図13に、RGNマーカセグメントの構成を図14に、QCDマーカセグメントの構成を図15に、QCCマーカセグメントの構成を図16に、TLMマーカセグメントの構成を図17に、PLMマーカセグメントの構成を図18に、PLTマーカセグメントの構成を図19に、PPMマーカセグメントの構成を図20に、PPTマーカセグメントの構成を図21に、COMマーカセグメントの構成を図22に、それぞれ示す。
【0041】
なお、パケットは、本体であるパケットデータにパケットヘッダを付加した構成である。パケットヘッダには、パケットデータの長さ、符号パス数、0ビットプレーン数などの情報が含まれている(非特許文献1参照)。
【0042】
《実施の形態1》 図23は、本発明による画像処理装置の一例を説明するためのブロック図である。この画像処理装置は、単独の装置として実現される形態、デジタルビデオカメラや監視カメラ等の撮像装置、画像編集装置、ビデオ再生装置、画像検索システム、画像データベースシステム等の一部として実現される形態、パソコンなどのコンピュータのハードウェアを利用しプログラムにより実現される形態とがあるが、いずれの形態も本発明に包含される。
【0043】
この画像処理装置は、符号化データ入力部(符号化データ入力手段)100、シーンチェンジ検出装置(シーンチェンジ検出手段)101A、記憶部102、外部インターフェース部103を備える。
【0044】
符号化データ入力部100は、Motion−JPEG2000の動画像の符号化データを取り込むための手段である。より具体的には、この符号化データ入力部100は、有線又は無線の伝送路もしくはネットワークを通じ外部より符号化データを直接取り込むインターフェース手段、記録媒体から符号化データを読み込む手段、被写体を撮影して動画像の符号化データを入力する撮像手段、動画像の圧縮符号化を行うMotion−JPEG2000準拠のエンコーダなどである。
【0045】
シーンチェンジ検出装置101Aは、動画像の各フレームの符号化データの特定のヘッダの情報を利用して動画像のシーンチェンジ(シーンの切り替わり)を自動的に検出するものであり、情報取得部111、情報一時記憶部112、比較判定処理部113からなる。
【0046】
記憶部102は、動画像の符号化データと、シーンチェンジ検出装置101Aによる検出結果の記憶に利用される。シーンチェンジ検出結果の記憶方法としては、動画像ファイルのファイルヘッダにシーンチェンジ検出結果を記述する方法、フレームのメインヘッダのCOMマーカセグメント(図22)にコメントデータとしてシーンチェンジ検出結果を記述する方法、動画像ファイルと関連付けた別のファイルとしてシーンチェンジ検出結果を記憶する方法など、様々な方法をとることができる。外部インターフェース部103は、符号化データ及びシーンチェンジ検出結果を外部に出力するために利用される。
【0047】
次に、シーンチェンジ検出装置101Aについて詳細に説明する。情報取得部(情報取得手段)111は、各フレームの符号化データより、1つ又は複数の特定のヘッダ情報を抽出する。後述のように様々なシーンチェンジ検出モードを選択できるが、ヘッダ情報そのものの比較によりシーンチェンジを検出するモードが選択された場合には、情報取得部111は抽出したヘッダ情報をそのまま出力する。ヘッダ情報に基づいて計算される特徴量の比較によりシーンチェンジを検出するモードが選択された場合には、情報取得部111は、抽出したヘッダ情報に基づいて特徴量を計算し、その特徴量を出力する。モードによっては、抽出されたヘッダ情報と、計算された特徴量の両方が出力される。
【0048】
情報取得部111より出力されたヘッダ情報及び/又は特徴量は比較判定処理部(比較判定処理手段)113に渡されるとともに情報一時記憶部112に記憶される。情報一時記憶部112には、現在のフレームと直前のフレームのヘッダ情報及び/又は特徴量が保存され、それより前のフレームのヘッダ情報及び/又は特徴量は順次消去される。情報一時記憶部112より、現在フレームの直前フレームのヘッダ情報及び/又は特徴量が比較判定処理部113へ入力される。比較判定処理部113は、入力された現在フレームと直前フレームのヘッダ情報そのもの比較、及び/又は、ヘッダ情報に基づいて計算された特徴量の比較により、シーンチェンジが発生したか否かの判定を行う。なお、情報一時記憶部112を情報取得部111又は比較判定処理部113と一体化してもよいことは明らかである。
【0049】
このシーンチェンジ検出装置101Aは、様々な検出モードを選択することができる。
以下、各モード別に具体的に説明するが、複数のモードを組み合わせたモードも選択することができる。この組み合わせモードの場合には、情報取得部111は各モードで利用される複数のヘッダ情報の抽出、及び/又は特徴量の計算を行い、比較判定処理部113は組み合わされた各モードによる比較判定処理を行い、その結果を評価することによりシーンチェンジであるか否かを判断する。例えば、全てのモードの結果がシーンチェンジの場合にシーンチェンジと判断し、又は、多数決により判断する。
【0050】
[モードA] 解像度レベル毎の符号量分布の変化に着目してシーンチェンジを検出するモードである(請求項1,8対応)。比較判定処理部113は、現在フレームと直前フレームの解像度レベル毎の符号量分布の違いが所定の程度を越えたときに、現在フレームをシーンチェンジ発生フレームと判定する。このモードでは、情報取得部111は、PLMマーカセグメント(図18)のIplm(パケット長リスト)、PLTマーカセグメント(図19)のIplt(パケット長リスト)、PPMマーカセグメント(図20)のIppm(パケットヘッダ集合)、PPTマーカセグメント(図21)のIppt(パケットヘッダ集合)、又は、符号中のパケットヘッダよりパケット長の情報を抽出し、それに基づいて、各解像度レベルのパケット長の合計を求める。なお、パケット長の合計は、必ずしも全ての解像度レベルについて求める必要はなく、特定の一部解像度レベルについて求めるようにしてもよい。
【0051】
[モードB] 位置(タイル又はプリシンクト)毎の符号量分布の変化に着目してシーンチェンジを検出するモードである(請求項2,9対応)。比較判定処理部113は、現在フレームと直前フレームのプリシンクト毎の符号量分布の違いが所定の程度を越えたときに、現在フレームをシーンチェンジ発生フレームと判定する。このモードでは、次のヘッダ情報の予め指定されたものが利用される。なお、コードブロック毎の符号量分布の変化に着目したシーンチェンジ検出も可能であり、これも本発明に包含される。情報取得部111は、
1)TLMマーカセグメント(図17)のPtml(タイル長)、又は、SOTマーカセグメント(図10)のPsot(タイル長)よりタイル長の情報を抽出する。あるいは、
2)PPMマーカセグメント(図20)のIppm(パケットヘッダ集合)、PPTマーカセグメント(図21)のIppt(パケットヘッダ集合)、又は、符号中のパケットヘッダより符号パス数の情報を抽出し、それに基づいて各プリシンクト毎の符号パス数の合計を求める。
【0052】
なお、タイル長と各プリシンクト毎の合計符号パス数の両方を抽出することも可能であり、これも本発明に包含される。また、以上の特徴量は、一部のタイル、一部のプリシンクト、又は、一部のコードブロックについて求めるようにしてもよい。
【0053】
[モードC] コンポーネント毎の符号量分布の変化に着目してシーンチェンジを検出するモードである(請求項3,10対応)。比較判定処理部113は、現在フレームと直前フレームのコンポーネント毎の符号量分布の違いが所定の程度を越えたときに、現在フレームをシーンチェンジ発生フレームと判定する。このモードでは、情報取得部111は、PLMマーカセグメント(図18)のIplm(パケット長リスト)、PLTマーカセグメント(図19)のIplt(パケット長リスト)、PPMマーカセグメント(図20)のIppm(パケットヘッダ集合)、PPTマーカセグメント(図21)のIppt(パケットヘッダ集合)、又は、符号中のパケットヘッダより各パケットのパケット長の情報を抽出し、それに基づいて各コンポーネントのパケット長の合計を求める。なお、一部のコンポーネントについてのみ特徴量を求めるようにしてもよい。
【0054】
[モードD] レイヤ毎の符号量分布の変化に着目してシーンチェンジを検出するモードである(請求項4,11対応)。比較判定処理部113は、現在フレームと直前フレームのレイヤ毎の符号量分布の違いが所定の程度を越えたときに、現在フレームをシーンチェンジ発生フレームと判定する。このモードでは、情報取得部111は、PLMマーカセグメント(図18)のIplm(パケット長リスト)、PLTマーカセグメント(図19)のIplt(パケット長リスト)、PPMマーカセグメント(図20)のIppm(パケットヘッダ集合)、PPTマーカセグメント(図21)のIppt(パケットヘッダ集合)、又は、符号中のパケットヘッダより各パケットのパケット長の情報を抽出し、それに基づいて各レイヤのパケット長の合計を求める。なお、一部のレイヤについてのみ特徴量を求めるようにしてもよい。
【0055】
[モードE] ROI領域の位置の変化に着目してシーンチェンジを検出するモードである(請求項5,6,12,13対応)。比較判定処理部113は、現在フレームと直前フレームのROI領域の位置の違いを評価し、その違いが所定の程度を越えたときに、現在フレームをシーンチェンジ発生フレームと判定する。情報取得部111は、
1)各タイルのタイルヘッダ中のRGNマーカセグメントの有無を調べ、タイル単位でのROI領域の有無を示す情報を取得する(請求項6,13)。あるいは、
2)PPMマーカセグメント(図20)のIppm(パケットヘッダ集合)、PPTマーカセグメント(図21)のIppt(パケットヘッダ集合)、又は、符号中のパケットヘッダより各パケットの符号パス数を抽出してプリシンクト毎(又はコードブロック毎)の符号パス数の合計を求め、その合計符号パス数に基づいて、プリシンクト(又はコードブロック)単位でROI領域の有無を示す情報を取得する(請求項5,12)。
【0056】
[モードF] 圧縮方法の変化に着目してシーンチェンジを検出するモードである(請求項7,14対応)。比較判定処理部113は、現在フレームと直前フレームの圧縮方法が異なるときに、現在フレームをシーンチェンジ発生フレームと判定する。このモードでは、情報取得部111は、
1)CODマーカセグメント(図12)のSgcod(符号スタイル)よりプログレッション順序の情報を抽出する。
2)CODマーカセグメント(図12)のSgcod(符号スタイル)よりレイヤ数の情報を抽出する。
3)QCDマーカセグメント(図15)のSqcd(量子化スタイル),SPqcd(量子化ステップサイズ)の情報を抽出する。
4)CODマーカセグメント(図12)のSgcod(符号スタイル)より色変換の情報を抽出する。
5)CODマーカセグメント(図12)のSPcod(符号スタイル)又はCOCマーカセグメント(図13)のSPcoc(符号スタイル)よりデコンポジション数の情報を抽出する。
6)CODマーカセグメント(図12)のSPcod(符号スタイル)又はCOCマーカセグメント(図13)のSPcoc(符号スタイル)よりコードブロックのサイズの情報を抽出する。
7)CODマーカセグメント(図12)のSPcod(符号スタイル)又はCOCマーカセグメント(図13)のSPcoc(符号スタイル)よりウェーブレット変換方法の情報を抽出する。あるいは
8)CODマーカセグメント(図12)のSPcod(符号スタイル)又はCOCマーカセグメント(図13)のSPcoc(符号スタイル)よりプリシンクトのサイズの情報を抽出する。
【0057】
なお、このモードにおいて以上の2つ以上の情報を抽出することも可能であり、これも本発明に包含される。
【0058】
[モードG] 前記各モードとは異なる画像特徴の変化に着目してシーンチェンジを検出するモードである。比較判定処理部113は、現在フレームと直前フレームの画像特徴が異なるときに、現在フレームをシーンチェンジ発生フレームと判定する。このモードでは、情報取得部111は、
1)SIZマーカセグメント(図11)のXTsiz,YTsiz(タイルの水平、垂直方向サイズ)の情報を抽出する。
2)SIZマーカセグメント(図11)のXTOsiz,YTOsiz(タイルの水平、垂直方向オフセット)の情報を抽出する。
3)SIZマーカセグメント(図11)のCsi(コンポーネント数)の情報を抽出する。
4)SIZマーカセグメント(図11)のSsiz(ビット数)の情報を抽出する。
5)SIZマーカセグメント(図11)のXsiz,Ysiz(画像の水平、垂直方向サイズ)の情報を抽出する。
6)SIZマーカセグメント(図11)のXOsiz,YOsiz(画像の水平、垂直方向オフセット)の情報を抽出する。
7)SIZマーカセグメント(図11)のXRsiz,YRsiz(水平、垂直方向サンプル数)の情報を抽出する。あるいは
8)COMマーカセグメント(図22)のCcom(コメントデータ)の情報を抽出する。
【0059】
なお、このモードにおいて、以上の2つ以上の情報を抽出することも可能であり、これも本発明に包含される。
【0060】
《実施の形態2》 図24は、本発明による画像処理装置の別の例を説明するためのブロック図である。ここに示す画像処理装置は、シーンチェンジ検出装置101Bの構成が図23に示したシーンチェンジ検出装置101Aと相違する。すなわち、シーンチェンジ検出装置101Bは、情報取得部111、情報一時記憶部112、比較判定処理部113に加え、部分復号化部114、画像一時記憶部115及び二次判定処理部116を有する。情報取得部111及び比較判定処理部113の動作は前述した通りであるので説明を割愛する。
【0061】
部分復号化部114は、符号化データの一部の符号の復号伸長を行う手段である。例えば、低解像度レベル(レベル0、レベル1など)、あるいは、上位レイヤ(上位の1レイヤ、数レイヤなど)の特定コンポーネント又は全コンポーネントの符号の復号伸長を行う。部分復号化部114より出力される画像データは二次判定処理部116に入力されるとともに、画像一時記憶部115に記憶される。画像一時記憶部115は、現在のフレームと直前のフレームの画像データを一時的に記憶するもので、直前のフレームの画像データは二次判定部116に入力される。
【0062】
二次判定処理部116は、比較判定処理部113の判定結果も入力され、比較判定処理部113により現在フレームがシーンチェンジ発生フレームと判定された場合にのみ、二次判定処理を行う。この二次判定処理は、部分復号化部114より入力された現在フレームの画像データと、画像一時記憶部115より入力された直前フレームの画像データとを比較し、その差異が所定の程度を越えたときに現在フレームを最終的にシーンチェンジ発生フレームと判定する処理である。この二次判定処理部116の判定結果がシーンチェンジ検出装置101Bの最終的な判定結果として出力される。
【0063】
すなわち、シーンチェンジ検出装置101Bは、比較判定処理部113でヘッダ情報及び/又はヘッダ情報に基づいて計算された特徴量の比較によりシーンチェンジの一次判定を行い、二次判定処理部116で画像データの比較により、より精密なシーンチェンジの二次判定を行う構成である。このような2段階のシーンチェンジ判定を行うことにより、より高精度なシーンチェンジ検出が可能である。また、一次判定でシーンチェンジとされたフレームに関してのみ画像データの比較による二次判定を行うため、全てのフレーム間で画像データの比較によるシーンチェンジ判定を行う構成に比べ、シーンチェンジ検出速度も向上する。
【0064】
二次判定には、従来から知られている方法を利用できる。例えば、特許文献1にも記載されているような、画像の小領域毎の色分布を求め、画像間の色分布の相関を調べるような方法を利用することができる。どのような方法を利用するにしても、比較対象となる画像データは一部符号を復号伸長したものであり、全符号を復号伸長した画像データに比べデータ量は遙かに小さいため、処理にそれほどの時間はかからない。したがって、高速かつ高精度のシーンチェンジ検出が可能である。
【0065】
《実施の形態3》 図25は、本発明による画像処理装置の別の例を説明するためのブロック図である。ここに示す画像処理装置は、静止画特徴量抽出部120が追加されている。シーンチェンジ検出装置101としては、図23に示したシーンチェンジ検出装置101A、又は、図24に示したシーンチェンジ検出装置101Bが用いられる。
【0066】
静止画特徴量抽出部120は、画像検索に利用するための特徴量を検出する手段である。抽出された特徴量は、該当フレームのメインヘッダのCOMマーカセグメント(図22)にコメントデータとして記述されて記憶部102に記憶され、あるいは、動画像ファイルと関連付けた別のファイルとして記憶部102に記憶される。この特徴量を外部インターフェース部103を介して外部へ出力することもできる。
【0067】
抽出される静止画特徴量としては、例えば、カラーヒストグラム、代表色、エッジ特徴量、動き(カメラの動き:水平又は垂直方向のパン)の中から1つ以上を指定することができる。
【0068】
静止画特徴量としてカラーヒストグラム又は代表色が指定された場合、静止画特徴量抽出部120は、各フレームの符号化データの低解像度レベル(例えばレベル0)又は上位レイヤ(例えば上位の1レイヤ)の全コンポーネントの符号の復号伸長を行い、得られた画像データよりカラーヒストグラム又は代表色を求める。なお、シーンチェンジ検出装置101として図24に示したシーンチェンジ装置101Bが用いられる場合には、部分復号化部114(図24)を符号化データの一部符号の復号伸長に利用できる。また、シーンチェンジ検出のために低解像度レベル又は上位レインの全コンポーネントの符号が復号伸長されるならば、画像一時記憶部115に記憶されている画像データを特徴量抽出にそのまま用いることができる。
【0069】
静止画特徴量としてエッジ特徴量が指定された場合には、静止画特徴量抽出部120は、各フレームの符号化データのヘッダ情報を利用して、高解像度レベル(例えば最高解像度レベル)のHL,LH,HHサブバンドの符号量を位置(コードブロック又はプリシンクト)毎に求める。具体的には、PLMマーカセグメント(図18)のIplm(パケット長リスト)、PLTマーカセグメント(図19)のIplt(パケット長リスト)、PPMマーカセグメント(図20)のIppm(パケットヘッダ集合)、PPTマーカセグメント(図21)のIppt(パケットヘッダ集合)、又は、符号中のパケットヘッダよりパケット長の情報を抽出し、それに基づいて、位置毎に高解像度レベル(例えば最高解像度レベル)のHL,LH,HHサブバンドのパケット長の合計を符号量として求める。そして、各位置の符号量が最大のサブバンドに対応した方向をエッジ方向として検出し、位置とエッジ方向の組をエッジ特徴量として抽出する。
【0070】
静止画特徴量として動きが指定された場合には、静止画特徴量抽出部120は、各フレームの符号化データのヘッダ情報を利用して、高解像度レベル(例えば最高解像度レベル)のHL,LHサブバンドの符号量を求める。具体的には、PLMマーカセグメント(図18)のIplm(パケット長リスト)、PLTマーカセグメント(図19)のIplt(パケット長リスト)、PPMマーカセグメント(図20)のIppm(パケットヘッダ集合)、PPTマーカセグメント(図21)のIppt(パケットヘッダ集合)、又は、符号中のパケットヘッダよりパケット長の情報を抽出し、それに基づいて、高解像度レベル(例えば最高解像度レベル)のHL,LHサブバンドのパケット長の合計を符号量として求める。カメラを水平方向にパンしながら撮影されたフレームでは、水平方向の手振れが生じた時と同様に、パンしない場合に比べLHサブバンドの符号量は一般に減少する。その減少の程度はパンの速度が速いほど激しい。カメラを垂直方向にパンしながら撮影したフレームは、パンしない場合に比べHLサブバンドの符号量が一般に減少し、その減少程度はパン速度が速いほど激しい。そこで、静止画特徴量抽出部120は、連続したフレーム間のLH,HLサブバンドの符号量に基づいて、パンの有無と方向、さらには速度(低速、中速、高速など)を判定し、それを動きの特徴量として抽出する。なお、低解像度又は上位レイヤの符号を復号伸長した画像データを用い、フレーム間の動きベクトルを抽出してもよく、これも本発明に包含される。
【0071】
ここまで、Motion−JPEG2000に準拠した動画像の符号化データを対象として本発明の実施の形態を説明したが、連続した複数の静止画像のそれぞれを動画像のフレームとして圧縮符号化し、同様のヘッダ情報を利用可能な他の圧縮符号化アルゴリズムによる符号化データに対しても、本発明を適用可能であることは以上の説明から明白であろう。
【0072】
また、以上に説明したシーンチェンジ検出装置の情報取得部、比較判定処理部、部分復号化部、二次判定処理部の機能、静止画特徴量抽出部の機能、シーンチェンジ検出装置におけるシーンチェンジ検出手順(方法)は、パソコンやマイクロコンピュータなどのコンピュータ上でプログラムによって実現することも可能である。そのようなプログラム、及び、それが記録されたコンピュータが読み取り可能な各種記録(記憶)媒体も本発明に包含される。
【0073】
【発明の効果】
以上の説明から明らかなように、本発明によれば、
(1)符号化データのヘッダ情報から求められる解像度レベル毎の符号量分布の変化、位置毎の符号量分布の変化、コンポーネント毎の符号量分布の変化、レイヤ毎の符号量分布の変化、ROI領域の位置の変化、その他の圧縮方法などに関連した様々なヘッダ情報そのものの変化などに着目した極めて多様なシーンチェンジ検出が可能である。
(2)シーンチェンジの検出にヘッダ情報そのものの変化を利用する場合には、ヘッダ情報を抽出してフレーム間で比較するだけであるから、極めて簡易な処理もしくは手段によって、様々なヘッダ情報による多様なシーンチェンジ検出を極めて高速に行うことができる。
(3)シーンチェンジの検出にヘッダ情報から求められる符号量分布などの特徴量の変化を利用する場合には、ヘッダ情報の抽出のほかに特徴量を求めるための演算などのための処理もしくは手段が必要になるが、その処理もしくは手段は簡易なものでよく、また、処理にそれほどの時間を要しないため、高速なシーンチェンジ検出が可能である、等々の効果を得られる。
【図面の簡単な説明】
【図1】 JPEG2000のアルゴリズムを説明するためのブロック図である。
【図2】 2次元ウェーブレット変換を説明するための図である。
【図3】 符号化データのフォーマットを説明するための図である。
【図4】 プリシンクトとコードブロックの説明図である。
【図5】 パケットとレイヤの例を示す図である。
【図6】 パケットの配列順を例示する図である。
【図7】 メインヘッダの構成を示す図である。
【図8】 タイルヘッダの構成を示す図である。
【図9】 マーカ及びマーカセグメントの一覧表を示す図である。
【図10】 SOTマーカセグメントの構成を示す図である。
【図11】 SIZマーカセグメントの構成を示す図である。
【図12】 CODマーカセグメントの構成を示す図である。
【図13】 COCマーカセグメントの構成を示す図である。
【図14】 RGNマーカセグメントの構成を示す図である。
【図15】 QCDマーカセグメントの構成を示す図である。
【図16】 QCCマーカセグメントの構成を示す図である。
【図17】 TLMマーカセグメントの構成を示す図である。
【図18】 PLMマーカセグメントの構成を示す図である。
【図19】 PLTマーカセグメントの構成を示す図である。
【図20】 PPMマーカセグメントの構成を示す図である。
【図21】 PPTマーカセグメントの構成を示す図である。
【図22】 COMマーカセグメントの構成を示す図である。
【図23】 本発明の実施の形態1を説明するためのブロック図である。
【図24】 本発明の実施の形態2を説明するためのブロック図である。
【図25】 本発明の実施の形態3を説明するためのブロック図である。
【符号の説明】
100 符号化データ入力部
101,101A,101B シーンチェンジ検出装置
102 記憶部
111 情報取得部
112 情報一時記憶部
113 比較判定処理部
114 部分復号化部
115 画像一時記憶部
116 二次判定処理部
120 静止画特徴量抽出部
Claims (14)
- Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づき解像度レベル毎のパケット長の合計を求める情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により求められた解像度レベル毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得手段により求められた解像度レベル毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとの解像度レベル毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする画像処理装置。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダから符号パス数の情報を抽出し、抽出した符号パス数の情報に基づきプリシンクト毎の符号パス数の合計を求める情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により求められたプリシンクト毎の符号パス数の合計と、前記現在フレームの直前フレームについて前記情報取得手段により求められたプリシンクト毎の符号パス数の合計とを比較することにより、前記現在フレームと前記直前フレームとのプリシンクト毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする画像処理装置。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づきコンポーネント毎のパケット長の合計を求める情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により求められたコンポーネント毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得手段により求められたコンポーネント毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとのコンポーネント毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェン ジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする画像処理装置。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づきレイヤ毎のパケット長の合計を求める情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により求められたレイヤ毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得手段により求められたレイヤ毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとのレイヤ毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする画像処理装置。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダから符号パス数の情報を抽出し、抽出した符号パス数の情報からプリシンクト毎の符号パス数の合計を求め、求めたプリシンクト毎の符号パス数の合計に基づいてプリシンクト単位でのROI領域の有無を示す情報を取得する情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により取得されたプリシンクト単位でのROI領域の有無を示す情報と、前記現在フレームの直前フレームについて前記情報取得手段により取得されたプリシンクト単位でのROI領域の有無を示す情報とを比較することにより、前記現在フレームと前記直前フレームとのROI領域の位置の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする画像処理装置。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のタイルヘッダからRGNマーカセグメントを抽出することにより、タイル単位でのROI領域の有無を示す情報を取得する情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により取得されたタイル単位でのROI領域の有無を示す情報と、前記現在フレームの直前フレームについて前記情報取得手段により取得されたタイル単位でのROI領域の有無を示す情報とを比較することにより、前記現在フレームと前記直前フレームとのROI領域の 位置の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする画像処理装置。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力手段と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記動画像の符号化データ及び前記シーンチェンジ検出手段によるシーンチェンジの検出結果を記憶する記憶手段と、
を有し、
前記シーンチェンジ検出手段は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダから圧縮方法に関連した所定のヘッダ情報を取得する情報取得手段と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得手段により取得された所定のヘッダ情報と、前記現在フレームの直前フレームについて前記情報取得手段により取得された所定のヘッダ情報とを比較することにより、前記現在フレームと前記直前フレームとの圧縮方法が異なると判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理手段と、を有することを特徴とする画像処理装置。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づき解像度レベル毎のパケット長の合計を求める情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により求められた解像度レベル毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得工程により求められた解像度レベル毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとの解像度レベル毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする画像処理方法。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダから符号パス数の情報を抽出し、抽出した符号パス数の情報に基づきプリシンクト毎の符号パス数の合計を求める情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により求められたプリシンクト毎の符号パス数の合計と、前記現在フレームの直前フレームについて前記情報取得工程により求められたプリシンクト毎の符号パス数の合計とを比較することにより、前記現在フレームと前記直前フレームとのプリシンクト毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする画像処理方法。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号 化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づきコンポーネント毎のパケット長の合計を求める情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により求められたコンポーネント毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得工程により求められたコンポーネント毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとのコンポーネント毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする画像処理方法。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダからパケット長の情報を抽出し、抽出したパケット長の情報に基づきレイヤ毎のパケット長の合計を求める情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により求められたレイヤ毎のパケット長の合計と、前記現在フレームの直前フレームについて前記情報取得工程により求められたレイヤ毎のパケット長の合計とを比較することにより、前記現在フレームと前記直前フレームとのレイヤ毎の符号量の分布の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする画像処理方法。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダ、タイルヘッダ又はパケットヘッダから符号パス数の情報を抽出し、抽出した符号パス数の情報からプリシンクト毎の符号パス数の合計を求め、求めたプリシンクト毎の符号パス数の合計に基づいてプリシンクト単位でのROI領域の有無を示す情報を取得する情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により取得されたプリシンクト単位でのROI領域の有無を示す情報と、前記現在フレームの直前フレームについて前記情報取得工程により取得されたプリシンクト単位でのROI領域の有無を示す情報とを比較することにより、前記現在フレームと前記直前フレームとのROI領域の位置の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする画像処理方法。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のタイルヘッダからRGNマーカセグメントを抽出することにより、タイル単位でのROI領域の有無を示す情報を取得する情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により取得されたタイル単位でのROI領域の有無を示す情報と、前記現在フレームの直前フレームについて前記情報取得工程により取得されたタイル単位でのROI領域の有無を示す情報とを比較することにより、前記現在フレームと前記直前フレームとのROI領域の位置の違いが所定の程度を越えたと判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする画像処理方法。 - Motion-JPEG2000 に準拠した動画像の符号化データを入力する符号化データ入力工程と、
前記動画像のシーンチェンジを検出するシーンチェンジ検出工程と、
前記動画像の符号化データ及び前記シーンチェンジ検出工程によるシーンチェンジの検出結果を記憶する記憶工程と、
を有し、
前記シーンチェンジ検出工程は、
前記動画像の各フレームについて、その符号化データ中のメインヘッダから圧縮方法に関連した所定のヘッダ情報を取得する情報取得工程と、
前記動画像の各フレーム(以下、現在フレームと記す)について前記情報取得工程により取得された所定のヘッダ情報と、前記現在フレームの直前フレームについて前記情報取得工程により取得された所定のヘッダ情報とを比較することにより、前記現在フレームと前記直前フレームとの圧縮方法が異なると判定したときに、前記現在フレームをシーンチェンジ発生フレームと判定する比較判定処理工程と、を有することを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002282733A JP3942088B2 (ja) | 2002-09-27 | 2002-09-27 | 画像処理装置及び画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002282733A JP3942088B2 (ja) | 2002-09-27 | 2002-09-27 | 画像処理装置及び画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004120497A JP2004120497A (ja) | 2004-04-15 |
JP3942088B2 true JP3942088B2 (ja) | 2007-07-11 |
Family
ID=32276803
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002282733A Expired - Fee Related JP3942088B2 (ja) | 2002-09-27 | 2002-09-27 | 画像処理装置及び画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3942088B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4442893B2 (ja) * | 2005-01-14 | 2010-03-31 | キヤノン株式会社 | 画像検索装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 |
JP4707713B2 (ja) * | 2005-08-11 | 2011-06-22 | 三菱電機株式会社 | 映像記録装置及びシーンチェンジ抽出方法 |
US9998749B2 (en) * | 2010-10-19 | 2018-06-12 | Otoy, Inc. | Composite video streaming using stateless compression |
JP5036882B2 (ja) * | 2011-01-14 | 2012-09-26 | 三菱電機株式会社 | 映像記録装置、映像記録方法、映像音声記録装置、及び映像音声記録方法 |
JP6806466B2 (ja) * | 2016-06-01 | 2021-01-06 | キヤノン株式会社 | 画像符号化装置及びその制御方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3315766B2 (ja) * | 1992-09-07 | 2002-08-19 | 富士通株式会社 | 画像データ符号化方法、その方法を用いた画像データ符号化装置、画像データ復元方法、その方法を用いた画像データ復元装置、シーン変化検出方法、その方法を用いたシーン変化検出装置、シーン変化記録装置、及び画像データのシーン変化記録・再生装置 |
JP3496907B2 (ja) * | 1996-05-24 | 2004-02-16 | 株式会社日立国際電気 | 音声・動画像符号化データ検索方法及び検索装置 |
JP2001186528A (ja) * | 1999-12-27 | 2001-07-06 | Victor Co Of Japan Ltd | 画像信号のビットストリーム周波数変換装置及びその方法 |
JP2002245071A (ja) * | 2001-02-15 | 2002-08-30 | Sony Corp | 画像管理装置及び画像管理方法、画像データベース装置、並びに記憶媒体 |
-
2002
- 2002-09-27 JP JP2002282733A patent/JP3942088B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2004120497A (ja) | 2004-04-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI436286B (zh) | 畫像解碼方法及裝置 | |
JP4254017B2 (ja) | 画像符号化装置及び方法 | |
US7707422B2 (en) | Method for embedding watermark into an image and digital video recorder using said method | |
US7310447B2 (en) | Image processing apparatus, image processing method, and storage medium | |
US20040264576A1 (en) | Method for processing I-blocks used with motion compensated temporal filtering | |
US20080089413A1 (en) | Moving Image Encoding Apparatus And Moving Image Encoding Method | |
US6553071B1 (en) | Motion compensation coding apparatus using wavelet transformation and method thereof | |
JP2007142614A (ja) | 画像処理装置、画像処理方法、プログラム及び情報記録媒体 | |
JP2004165760A (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
JP4349816B2 (ja) | 画像処理装置、画像圧縮装置、画像処理方法、画像圧縮方法、プログラム、及び記録媒体 | |
US7409095B2 (en) | Image processing apparatus and method for scalable encoded image data | |
JP2007028439A (ja) | 画像処理装置、画像処理方法 | |
US9264736B2 (en) | Encoding method, decoding method, encoding device, and decoding device | |
JP3942088B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2004166254A (ja) | 画像符号化装置及び方法、並びにプログラム及び記録媒体 | |
JP4073333B2 (ja) | 画像圧縮装置及び画像圧縮方法 | |
JP4792250B2 (ja) | 動画像処理装置、及び動画像処理方法 | |
JP4129913B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2007074042A (ja) | 動画像処理装置及び方法 | |
JP2004215155A (ja) | 動き量検出装置、符号列変換装置、画像圧縮装置、撮像装置、撮像システム、画像編集装置及びプログラム | |
JP4471310B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4195978B2 (ja) | 映像信号符号化装置及び方法及び記録媒体 | |
JP4055994B2 (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
JP4040404B2 (ja) | 符号列変換装置及び方法、画像処理装置並びに画像記録装置 | |
JP4667424B2 (ja) | 画像復号装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050214 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060811 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060830 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061030 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070328 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070330 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100413 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110413 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120413 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130413 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140413 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |