JP2004056264A - 画像復号装置、画像処理装置、動画像表示システム、プログラム、記憶媒体及び画像復号方法 - Google Patents

画像復号装置、画像処理装置、動画像表示システム、プログラム、記憶媒体及び画像復号方法 Download PDF

Info

Publication number
JP2004056264A
JP2004056264A JP2002208156A JP2002208156A JP2004056264A JP 2004056264 A JP2004056264 A JP 2004056264A JP 2002208156 A JP2002208156 A JP 2002208156A JP 2002208156 A JP2002208156 A JP 2002208156A JP 2004056264 A JP2004056264 A JP 2004056264A
Authority
JP
Japan
Prior art keywords
tile boundary
image
priority mode
smoothing
image quality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002208156A
Other languages
English (en)
Other versions
JP4145086B2 (ja
Inventor
Toru Suino
水納 亨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2002208156A priority Critical patent/JP4145086B2/ja
Priority to US10/600,333 priority patent/US7330596B2/en
Publication of JP2004056264A publication Critical patent/JP2004056264A/ja
Priority to US11/980,580 priority patent/US7522778B2/en
Application granted granted Critical
Publication of JP4145086B2 publication Critical patent/JP4145086B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】復号処理速度とタイル境界の歪みの平滑化による画質とのバランスを図ることで、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することができる画像復号装置を提供する。
【解決手段】モード選択手段20による選択に従って画質優先モードと速度優先モードとを切り替え、タイル境界平滑化手段27またはタイル境界平滑化手段28による復号後の各フレームにおけるタイル境界歪みの平滑化処理を実行する。これにより、画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを適宜選択してタイル境界歪みの平滑化処理を実行することができるので、復号処理速度とタイル境界の歪みの平滑化による画質とのバランスを図ることで、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することができる。
【選択図】    図11

Description

【0001】
【発明の属する技術分野】
本発明は、画像復号装置、画像処理装置、動画像表示システム、プログラム、記憶媒体及び画像復号方法に関する。
【0002】
【従来の技術】
画像入力技術およびその出力技術の進歩により、画像に対して高精細化の要求が、近年非常に高まっている。例えば、画像入力装置として、デジタルカメラ(Digital Camera)を例にあげると、300万以上の画素数を持つ高性能な電荷結合素子(CCD:Charge Coupled Device)の低価格化が進み、普及価格帯の製品においても広く用いられるようになってきた。そして、500万画素の製品も間近である。そして、このピクセル数の増加傾向は、なおしばらくは続くと言われている。
【0003】
一方、画像出力・表示装置に関しても、例えば、レーザプリンタ、インクジェットプリンタ、昇華型プリンタ等のハード・コピー分野における製品、そして、CRTやLCD(液晶表示デバイス)、PDP(プラズマ表示デバイス)等のフラットパネルディスプレイのソフト・コピー分野における製品の高精細化・低価格化は目を見張るものがある。
【0004】
こうした高性能・低価格な画像入出力製品の市場投入効果によって、高精細画像の大衆化が始まっており、今後はあらゆる場面で、高精細画像の需要が高まると予想されている。実際、パーソナルコンピュータ(Personal Computer)やインターネットをはじめとするネットワークに関連する技術の発達は、こうしたトレンドをますます加速させている。特に最近は、携帯電話やノートパソコン等のモバイル機器の普及速度が非常に大きく、高精細な画像を、あらゆる地点から通信手段を用いて伝送あるいは受信する機会が急増している。
【0005】
これらを背景に、高精細画像の取扱いを容易にする画像圧縮伸長技術に対する高性能化あるいは多機能化の要求は、今後ますます強くなっていくことは必至と思われる。
【0006】
そこで、近年においては、こうした要求を満たす画像圧縮方式の一つとして、高圧縮率でも高画質な画像を復元可能なJPEG2000という新しい方式が規格化されつつある。かかるJPEG2000においては、画像を矩形領域(タイル)に分割することにより、少ないメモリ環境下で圧縮伸張処理を行うことが可能である。すなわち、個々のタイルが圧縮伸長プロセスを実行する際の基本単位となり、圧縮伸長動作はタイル毎に独立に行うことができる。
【0007】
【発明が解決しようとする課題】
ところで、JPEG2000における分割処理は、タイリングと呼ばれ、省メモリ化・高速化に有効な手法であるが、「J. X. Wei, M. R. Pickering, M. R. Frater and J. F. Arnold, ”A New Method for Reducing Boundary Artifacts in Block−Based Wavelet Image Compression,” in VCIP 2000, K. N. Ngan, T. Sikora, M−T Sun Eds., Proc. of SPIE Vol. 4067, pp. 1290−1295, 20−23 June 2000, Perth, Australia」にも記載があるように、圧縮率の高い条件で圧縮伸長処理を行った場合には、伸張後の画像においてタイルの境界が不連続となるという問題がある。
【0008】
そこで、このような問題を解決すべく、タイル境界の近傍のみに均一なローパスフィルタをかけることにより、タイル境界を目立たなくするという技術が提案されている。
【0009】
また、このような1フレームのJPEG2000画像は、所定のフレームレート(単位時間に再生するフレーム数)で連続して表示することにより、動画像にすることが可能である。
【0010】
ところが、上述したようなローパスフィルタによる処理は比較的多くの演算量を必要とするため、フィルタ処理に時間がかかり、結果的に再生処理の遅れが引き起こされる場合がある。特に、動画像における再生処理の遅れは、音声とのずれや、コマ落ちなどの問題を生じることになる。
【0011】
本発明の目的は、復号処理速度とタイル境界の歪みの平滑化による画質とのバランスを図ることで、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することができる画像復号装置、画像処理装置、動画像表示システム、プログラム、記憶媒体及び画像復号方法を提供することである。
【0012】
【課題を解決するための手段】
請求項1記載の発明の画像復号装置は、画像を複数に分割したタイル毎に画素値を離散ウェーブレット変換し階層的に圧縮符号化した複数のフレームを連続して復号する画像復号装置において、復号後の各フレームにおけるタイル境界の歪みを平滑化するタイル境界平滑化手段と、このタイル境界平滑化手段によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とするモード選択手段と、前記タイル境界平滑化手段による復号後の各フレームにおけるタイル境界歪みの平滑化処理について、前記モード選択手段による選択に従って画質優先モードと速度優先モードとを切り替えるタイル境界平滑化切替手段と、を備える。
【0013】
したがって、モード選択手段による選択に従って画質優先モードと速度優先モードとが切り替えられ、タイル境界平滑化手段による復号後の各フレームにおけるタイル境界歪みの平滑化処理が実行される。これにより、画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを適宜選択してタイル境界歪みの平滑化処理を実行することが可能になるので、復号処理速度とタイル境界の歪みの平滑化による画質とのバランスを図ることで、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することが可能になる。
【0014】
請求項2記載の発明は、請求項1記載の画像復号装置において、前記モード選択手段は、フレームに応じて前記タイル境界平滑化手段によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、前記タイル境界平滑化切替手段は、動画像の開始フレームと最終フレームとについては画質優先モードとし、それ以外のフレームについては速度優先モードとする。
【0015】
したがって、静止画は動画に比べてタイル境界歪みが目立つことから、動画像の開始フレームと最終フレームとにのみ画質優先モードが選択される。これにより、高速に、しかも、精度良く、タイル境界の歪みを抑制することが可能になる。
【0016】
請求項3記載の発明は、請求項2記載の画像復号装置において、前記タイル境界平滑化切替手段は、動画像の再生の停止に係る停止フレームについても画質優先モードとする。
【0017】
したがって、静止画は動画に比べてタイル境界歪みが目立つことから、動画像の再生の停止に係る停止フレームにも画質優先モードが選択される。これにより、高速に、しかも、精度良く、タイル境界の歪みを抑制することが可能になる。
【0018】
請求項4記載の発明は、請求項1記載の画像復号装置において、前記モード選択手段は、各フレームの復号対象となる符号量に応じて前記タイル境界平滑化手段によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、前記タイル境界平滑化切替手段は、復号対象となる符号量が小さい場合には画質優先モードとし、復号対象となる符号量が大きい場合には速度優先モードとする。
【0019】
したがって、符号量の小さいフレームは圧縮率が大きいのでタイル境界歪みが目立つことから画質優先モードが選択され、符号量の大きいフレームは圧縮率が小さいのでタイル境界歪みが目立たないことから速度優先モードが選択される。これにより、全てのフレームについて最適なタイル境界歪みの平滑化処理が実行されるので、品質の良い再生画像を得ることが可能になる。
【0020】
請求項5記載の発明は、請求項1記載の画像復号装置において、前記モード選択手段は、フレームレートに応じて前記タイル境界平滑化手段によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、前記タイル境界平滑化切替手段は、フレームレートが所定の閾値よりも小さい場合には画質優先モードとし、フレームレートが所定の閾値よりも大きい場合には速度優先モードとする。
【0021】
したがって、動画はフレームレートが大きくなるほどタイル境界歪みが目立ちにくいことから、フレームレートが所定の閾値よりも大きい場合には速度優先モードが選択され、フレームレートが所定の閾値よりも小さい場合には画質優先モードが選択される。これにより、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することが可能になる。
【0022】
請求項6記載の発明は、請求項1ないし5の何れか一記載の画像復号装置において、前記タイル境界平滑化手段は、復号後の各フレームにおけるタイル境界近傍の画素に対してローパスフィルタを施す。
【0023】
したがって、オーバーラップによるタイル境界歪みの平滑化処理に比して、より簡易な手法で、タイル境界の歪みを抑制することが可能になる。
【0024】
請求項7記載の発明は、請求項6記載の画像復号装置において、速度優先モードの前記タイル境界平滑化手段は、復号後のフレームにおけるタイル境界近傍の画素に対して一様なローパスフィルタを施し、画質優先モードの前記タイル境界平滑化手段は、復号後のフレームにおけるタイル境界近傍の画素に対し、該画素に応じて強度を適応的に制御したローパスフィルタを施す。
【0025】
したがって、画質優先モードの場合にはローパスフィルタの強度を適応的に制御することから、画素に対して一様なローパスフィルタを施す速度優先モードに比べて、品質の良い画像を再生することが可能になる。
【0026】
請求項8記載の発明は、請求項7記載の画像復号装置において、画質優先モードの前記タイル境界平滑化手段は、タイル境界からの画素間距離とタイル境界近傍の画素のエッジ量とに応じてローパスフィルタの強度を適応的に制御する。
【0027】
したがって、タイル境界歪みを抑制しつつ、タイル境界近傍でエッジが強い場合に生じる画質劣化を抑制することが可能になる。
【0028】
請求項9記載の発明は、請求項1ないし8の何れか一記載の画像復号装置において、タイル境界を限定する補正タイル境界限定手段を備え、この補正タイル境界限定手段により限定されたタイル境界の近傍画素にのみ、前記タイル境界平滑化手段によるタイル境界の歪み平滑化処理を行うようにした。
【0029】
したがって、ローパスフィルタをかけるべきタイル境界画素が制御される。これにより、タイル境界歪み抑制のための処理時間を短縮することが可能になる。
【0030】
請求項10記載の発明は、請求項9記載の画像復号装置において、前記補正タイル境界限定手段により限定されるタイル境界は、ROI(Region Of Interest)領域内である。
【0031】
したがって、ROI領域内のタイル境界にのみローパスフィルタがかけられる。これにより、タイル境界歪み抑制のための処理時間を短縮することが可能になる。
【0032】
請求項11記載の発明の画像処理装置は、画像を複数に分割したタイル毎に画素値を離散ウェーブレット変換し階層的に圧縮符号化した複数のフレームを連続して復号する請求項1ないし10の何れか一記載の画像復号装置と、この画像復号装置により復号されたフレームに基づく画像を表示装置に表示させる画像表示装置と、を備える。
【0033】
したがって、請求項1ないし10の何れか一記載の発明と同様の作用を奏する画像処理装置を提供することが可能になる。
【0034】
請求項12記載の発明の動画像表示システムは、動画像を撮像する画像入力装置と、この画像入力装置により撮像した動画像についてフレームごとに複数のタイルに分割し当該タイルごとに画素値を離散ウェーブレット変換し階層的に圧縮符号化する画像圧縮装置と、この画像圧縮装置により圧縮符号化された複数のフレームを連続して復号する請求項1ないし10の何れか一記載の画像復号装置と、この画像復号装置により復号されたフレームに基づく画像を表示装置に表示させる画像表示装置と、を備える。
【0035】
したがって、請求項1ないし10の何れか一記載の発明と同様の作用を奏する動画像表示システムを提供することが可能になる。
【0036】
請求項13記載の発明のプログラムは、画像を複数に分割したタイル毎に画素値を離散ウェーブレット変換し階層的に圧縮符号化した複数のフレームの連続した復号をコンピュータに実行させるプログラムであって、復号後の各フレームにおけるタイル境界の歪みを平滑化するタイル境界平滑化機能と、このタイル境界平滑化機能によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とするモード選択機能と、前記タイル境界平滑化機能による復号後の各フレームにおけるタイル境界歪みの平滑化処理について、前記モード選択機能による選択に従って画質優先モードと速度優先モードとを切り替えるタイル境界平滑化切替機能と、を前記コンピュータに実行させる。
【0037】
したがって、モード選択機能による選択に従って画質優先モードと速度優先モードとが切り替えられ、タイル境界平滑化機能による復号後の各フレームにおけるタイル境界歪みの平滑化処理が実行される。これにより、画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを適宜選択してタイル境界歪みの平滑化処理を実行することが可能になるので、復号処理速度とタイル境界の歪みの平滑化による画質とのバランスを図ることで、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することが可能になる。
【0038】
請求項14記載の発明は、請求項13記載のプログラムにおいて、前記モード選択機能は、フレームに応じて前記タイル境界平滑化機能によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、前記タイル境界平滑化切替機能は、動画像の開始フレームと最終フレームとについては画質優先モードとし、それ以外のフレームについては速度優先モードとする。
【0039】
したがって、静止画は動画に比べてタイル境界歪みが目立つことから、動画像の開始フレームと最終フレームとにのみ画質優先モードが選択される。これにより、高速に、しかも、精度良く、タイル境界の歪みを抑制することが可能になる。
【0040】
請求項15記載の発明は、請求項14記載のプログラムにおいて、前記タイル境界平滑化切替機能は、動画像の再生の停止に係る停止フレームについても画質優先モードとする。
【0041】
したがって、静止画は動画に比べてタイル境界歪みが目立つことから、動画像の再生の停止に係る停止フレームにも画質優先モードが選択される。これにより、高速に、しかも、精度良く、タイル境界の歪みを抑制することが可能になる。
【0042】
請求項16記載の発明は、請求項13記載のプログラムにおいて、前記モード選択機能は、各フレームの復号対象となる符号量に応じて前記タイル境界平滑化機能によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、前記タイル境界平滑化切替機能は、復号対象となる符号量が小さい場合には画質優先モードとし、復号対象となる符号量が大きい場合には速度優先モードとする。
【0043】
したがって、符号量の小さいフレームは圧縮率が大きいのでタイル境界歪みが目立つことから画質優先モードが選択され、符号量の大きいフレームは圧縮率が小さいのでタイル境界歪みが目立たないことから速度優先モードが選択される。これにより、全てのフレームについて最適なタイル境界歪みの平滑化処理が実行されるので、品質の良い再生画像を得ることが可能になる。
【0044】
請求項17記載の発明は、請求項13記載のプログラムにおいて、前記モード選択機能は、フレームレートに応じて前記タイル境界平滑化機能によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、前記タイル境界平滑化切替機能は、フレームレートが所定の閾値よりも小さい場合には画質優先モードとし、フレームレートが所定の閾値よりも大きい場合には速度優先モードとする。
【0045】
したがって、動画はフレームレートが大きくなるほどタイル境界歪みが目立ちにくいことから、フレームレートが所定の閾値よりも大きい場合には速度優先モードが選択され、フレームレートが所定の閾値よりも小さい場合には画質優先モードが選択される。これにより、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することが可能になる。
【0046】
請求項18記載の発明は、請求項13ないし17の何れか一記載のプログラムにおいて、前記タイル境界平滑化機能は、復号後の各フレームにおけるタイル境界近傍の画素に対してローパスフィルタを施す。
【0047】
したがって、オーバーラップによるタイル境界歪みの平滑化処理に比して、より簡易な手法で、タイル境界の歪みを抑制することが可能になる。
【0048】
請求項19記載の発明は、請求項18記載のプログラムにおいて、速度優先モードの前記タイル境界平滑化機能は、復号後のフレームにおけるタイル境界近傍の画素に対して一様なローパスフィルタを施し、画質優先モードの前記タイル境界平滑化機能は、復号後のフレームにおけるタイル境界近傍の画素に対し、該画素に応じて強度を適応的に制御したローパスフィルタを施す。
【0049】
したがって、画質優先モードの場合にはローパスフィルタの強度を適応的に制御することから、画素に対して一様なローパスフィルタを施す速度優先モードに比べて、品質の良い画像を再生することが可能になる。
【0050】
請求項20記載の発明は、請求項19記載のプログラムにおいて、画質優先モードの前記タイル境界平滑化機能は、タイル境界からの画素間距離とタイル境界近傍の画素のエッジ量とに応じてローパスフィルタの強度を適応的に制御する。
【0051】
したがって、タイル境界歪みを抑制しつつ、タイル境界近傍でエッジが強い場合に生じる画質劣化を抑制することが可能になる。
【0052】
請求項21記載の発明は、請求項13ないし20の何れか一記載のプログラムにおいて、タイル境界を限定する補正タイル境界限定機能を前記コンピュータに実行させ、この補正タイル境界限定機能により限定されたタイル境界の近傍画素にのみ、前記タイル境界平滑化機能によるタイル境界の歪み平滑化処理を行うようにした。
【0053】
したがって、ローパスフィルタをかけるべきタイル境界画素が制御される。これにより、タイル境界歪み抑制のための処理時間を短縮することが可能になる。
【0054】
請求項22記載の発明は、請求項21記載のプログラムにおいて、前記補正タイル境界限定機能により限定されるタイル境界は、ROI(Region Of Interest)領域内である。
【0055】
したがって、ROI領域内のタイル境界にのみローパスフィルタがかけられる。これにより、タイル境界歪み抑制のための処理時間を短縮することが可能になる。
【0056】
請求項23記載の発明の記憶媒体は、請求項13ないし22の何れか一記載のプログラムを記憶している。
【0057】
したがって、この記憶媒体に記憶されたプログラムをコンピュータに読み取らせることにより、請求項13ないし22の何れか一記載の発明と同様の作用を得ることが可能になる。
【0058】
請求項24記載の発明の画像復号方法は、画像を複数に分割したタイル毎に画素値を離散ウェーブレット変換し階層的に圧縮符号化した複数のフレームを連続して復号する画像復号方法であって、復号後の各フレームにおけるタイル境界の歪みを平滑化するタイル境界平滑化工程と、このタイル境界平滑化工程によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とするモード選択工程と、を含み、前記タイル境界平滑化工程による復号後の各フレームにおけるタイル境界歪みの平滑化処理について、前記モード選択工程による選択に従って画質優先モードと速度優先モードとを切り替えるようにする。
【0059】
したがって、モード選択工程による選択に従って画質優先モードと速度優先モードとが切り替えられ、タイル境界平滑化工程による復号後の各フレームにおけるタイル境界歪みの平滑化処理が実行される。これにより、画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを適宜選択してタイル境界歪みの平滑化処理を実行することが可能になるので、復号処理速度とタイル境界の歪みの平滑化による画質とのバランスを図ることで、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することが可能になる。
【0060】
請求項25記載の発明は、請求項24記載の画像復号方法において、前記モード選択工程は、フレームに応じて前記タイル境界平滑化工程によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、動画像の開始フレームと最終フレームとについては画質優先モードとし、それ以外のフレームについては速度優先モードとする。
【0061】
したがって、静止画は動画に比べてタイル境界歪みが目立つことから、動画像の開始フレームと最終フレームとにのみ画質優先モードが選択される。これにより、高速に、しかも、精度良く、タイル境界の歪みを抑制することが可能になる。
【0062】
請求項26記載の発明は、請求項25記載の画像復号方法において、動画像の再生の停止に係る停止フレームについても画質優先モードとする。
【0063】
したがって、静止画は動画に比べてタイル境界歪みが目立つことから、動画像の再生の停止に係る停止フレームにも画質優先モードが選択される。これにより、高速に、しかも、精度良く、タイル境界の歪みを抑制することが可能になる。
【0064】
請求項27記載の発明は、請求項24記載の画像復号方法において、前記モード選択工程は、各フレームの復号対象となる符号量に応じて前記タイル境界平滑化工程によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし復号対象となる符号量が小さい場合には画質優先モードとし、復号対象となる符号量が大きい場合には速度優先モードとする。
【0065】
したがって、符号量の小さいフレームは圧縮率が大きいのでタイル境界歪みが目立つことから画質優先モードが選択され、符号量の大きいフレームは圧縮率が小さいのでタイル境界歪みが目立たないことから速度優先モードが選択される。これにより、全てのフレームについて最適なタイル境界歪みの平滑化処理が実行されるので、品質の良い再生画像を得ることが可能になる。
【0066】
請求項28記載の発明は、請求項24記載の画像復号方法において、前記モード選択工程は、フレームレートに応じて前記タイル境界平滑化機能によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、フレームレートが所定の閾値よりも小さい場合には画質優先モードとし、フレームレートが所定の閾値よりも大きい場合には速度優先モードとする。
【0067】
したがって、動画はフレームレートが大きくなるほどタイル境界歪みが目立ちにくいことから、フレームレートが所定の閾値よりも大きい場合には速度優先モードが選択され、フレームレートが所定の閾値よりも小さい場合には画質優先モードが選択される。これにより、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することが可能になる。
【0068】
請求項29記載の発明は、請求項24ないし28の何れか一記載の画像復号方法において、前記タイル境界平滑化工程は、復号後の各フレームにおけるタイル境界近傍の画素に対してローパスフィルタを施す。
【0069】
したがって、オーバーラップによるタイル境界歪みの平滑化処理に比して、より簡易な手法で、タイル境界の歪みを抑制することが可能になる。
【0070】
請求項30記載の発明は、請求項29記載の画像復号方法において、速度優先モードの前記タイル境界平滑化工程は、復号後のフレームにおけるタイル境界近傍の画素に対して一様なローパスフィルタを施し、画質優先モードの前記タイル境界平滑化工程は、復号後のフレームにおけるタイル境界近傍の画素に対し、該画素に応じて強度を適応的に制御したローパスフィルタを施す。
【0071】
したがって、画質優先モードの場合にはローパスフィルタの強度を適応的に制御することから、画素に対して一様なローパスフィルタを施す速度優先モードに比べて、品質の良い画像を再生することが可能になる。
【0072】
請求項31記載の発明は、請求項30記載の画像復号方法において、画質優先モードの前記タイル境界平滑化工程は、タイル境界からの画素間距離とタイル境界近傍の画素のエッジ量とに応じてローパスフィルタの強度を適応的に制御する。
【0073】
したがって、タイル境界歪みを抑制しつつ、タイル境界近傍でエッジが強い場合に生じる画質劣化を抑制することが可能になる。
【0074】
請求項32記載の発明は、請求項24ないし31の何れか一記載の画像復号方法において、タイル境界を限定する補正タイル境界限定工程を含み、この補正タイル境界限定工程により限定されたタイル境界の近傍画素にのみ、前記タイル境界平滑化工程によるタイル境界の歪み平滑化処理を行うようにした。
【0075】
したがって、ローパスフィルタをかけるべきタイル境界画素が制御される。これにより、タイル境界歪み抑制のための処理時間を短縮することが可能になる。
【0076】
請求項33記載の発明は、請求項32記載の画像復号方法において、前記補正タイル境界限定工程により限定されるタイル境界は、ROI(Region Of Interest)領域内である。
【0077】
したがって、ROI領域内のタイル境界にのみローパスフィルタがかけられる。これにより、タイル境界歪み抑制のための処理時間を短縮することが可能になる。
【0078】
【発明の実施の形態】
最初に、本実施の形態の前提となる「階層符号化アルゴリズム」及び「JPEG2000アルゴリズム」の概要について説明する。
【0079】
図1は、JPEG2000方式の基本となる階層符号化アルゴリズムを実現するシステムの機能ブロック図である。このシステムは、色空間変換・逆変換部101、2次元ウェーブレット変換・逆変換部102、量子化・逆量子化部103、エントロピー符号化・復号化部104、タグ処理部105の各機能ブロックにより構成されている。
【0080】
このシステムが従来のJPEGアルゴリズムと比較して最も大きく異なる点の一つは変換方式である。JPEGでは離散コサイン変換(DCT:Discrete Cosine Transform)を用いているのに対し、この階層符号化アルゴリズムでは、2次元ウェーブレット変換・逆変換部102において、離散ウェーブレット変換(DWT:Discrete Wavelet Transform)を用いている。DWTはDCTに比べて、高圧縮領域における画質が良いという長所を有し、この点が、JPEGの後継アルゴリズムであるJPEG2000でDWTが採用された大きな理由の一つとなっている。
【0081】
また、他の大きな相違点は、この階層符号化アルゴリズムでは、システムの最終段に符号形成を行うために、タグ処理部105の機能ブロックが追加されていることである。このタグ処理部105で、画像の圧縮動作時には圧縮データが符号列データとして生成され、伸長動作時には伸長に必要な符号列データの解釈が行われる。そして、符号列データによって、JPEG2000は様々な便利な機能を実現できるようになった。例えば、ブロック・ベースでのDWTにおけるオクターブ分割に対応した任意の階層(デコンポジション・レベル)で、静止画像の圧縮伸長動作を自由に停止させることができるようになる(後述する図3参照)。
【0082】
原画像の入出力部分には、色空間変換・逆変換101が接続される場合が多い。例えば、原色系のR(赤)/G(緑)/B(青)の各コンポーネントからなるRGB表色系や、補色系のY(黄)/M(マゼンタ)/C(シアン)の各コンポーネントからなるYMC表色系から、YUVあるいはYCbCr表色系への変換又は逆変換を行う部分がこれに相当する。
【0083】
次に、JPEG2000アルゴリズムについて説明する。
【0084】
カラー画像は、一般に、図2に示すように、原画像の各コンポーネント111(ここではRGB原色系)が、矩形をした領域によって分割される。この分割された矩形領域は、一般にブロックあるいはタイルと呼ばれているものであるが、JPEG2000では、タイルと呼ぶことが一般的であるため、以下、このような分割された矩形領域をタイルと記述することにする(図2の例では、各コンポーネント111が縦横4×4、合計16個の矩形のタイル112に分割されている)。このような個々のタイル112(図2の例で、R00,R01,…,R15/G00,G01,…,G15/B00,B01,…,B15)が、画像データの圧縮伸長プロセスを実行する際の基本単位となる。従って、画像データの圧縮伸長動作は、コンポーネントごと、また、タイル112ごとに、独立に行われる。
【0085】
画像データの符号化時には、各コンポーネント111の各タイル112のデータが、図1の色空間変換・逆変換部101に入力され、色空間変換を施された後、2次元ウェーブレット変換部102で2次元ウェーブレット変換(順変換)が施されて、周波数帯に空間分割される。
【0086】
図3には、デコンポジション・レベル数が3の場合の、各デコンポジション・レベルにおけるサブバンドを示している。すなわち、原画像のタイル分割によって得られたタイル原画像(0LL)(デコンポジション・レベル0)に対して、2次元ウェーブレット変換を施し、デコンポジション・レベル1に示すサブバンド(1LL,1HL,1LH,1HH)を分離する。そして引き続き、この階層における低周波成分1LLに対して、2次元ウェーブレット変換を施し、デコンポジション・レベル2に示すサブバンド(2LL,2HL,2LH,2HH)を分離する。順次同様に、低周波成分2LLに対しても、2次元ウェーブレット変換を施し、デコンポジション・レベル3に示すサブバンド(3LL,3HL,3LH,3HH)を分離する。図3では、各デコンポジション・レベルにおいて符号化の対象となるサブバンドを、網掛けで表してある。例えば、デコンポジション・レベル数を3としたとき、網掛けで示したサブバンド(3HL,3LH,3HH,2HL,2LH,2HH,1HL,1LH,1HH)が符号化対象となり、3LLサブバンドは符号化されない。
【0087】
次いで、指定した符号化の順番で符号化の対象となるビットが定められ、図1に示す量子化・逆量子化部103で対象ビット周辺のビットからコンテキストが生成される。
【0088】
この量子化の処理が終わったウェーブレット係数は、個々のサブバンド毎に、「プレシンクト」と呼ばれる重複しない矩形に分割される。これは、インプリメンテーションでメモリを効率的に使うために導入されたものである。図4に示したように、一つのプレシンクトは、空間的に一致した3つの矩形領域からなっている。更に、個々のプレシンクトは、重複しない矩形の「コード・ブロック」に分けられる。これは、エントロピー・コーディングを行う際の基本単位となる。
【0089】
ウェーブレット変換後の係数値は、そのまま量子化し符号化することも可能であるが、JPEG2000では符号化効率を上げるために、係数値を「ビットプレーン」単位に分解し、画素あるいはコード・ブロック毎に「ビットプレーン」に順位付けを行うことができる。
【0090】
ここで、図5はビットプレーンに順位付けする手順の一例を示す説明図である。図5に示すように、この例は、原画像(32×32画素)を16×16画素のタイル4つで分割した場合で、デコンポジション・レベル1のプレシンクトとコード・ブロックの大きさは、各々8×8画素と4×4画素としている。プレシンクトとコード・ブロックの番号は、ラスター順に付けられており、この例では、プレンシクトが番号0から3まで、コード・ブロックが番号0から3まで割り当てられている。タイル境界外に対する画素拡張にはミラーリング法を使い、可逆(5,3)フィルタでウェーブレット変換を行い、デコンポジション・レベル1のウェーブレット係数値を求めている。
【0091】
また、タイル0/プレシンクト3/コード・ブロック3について、代表的な「レイヤ」構成の概念の一例を示す説明図も図5に併せて示す。変換後のコード・ブロックは、サブバンド(1LL,1HL,1LH,1HH)に分割され、各サブバンドにはウェーブレット係数値が割り当てられている。
【0092】
レイヤの構造は、ウェーブレット係数値を横方向(ビットプレーン方向)から見ると理解し易い。1つのレイヤは任意の数のビットプレーンから構成される。この例では、レイヤ0,1,2,3は、各々、1,3,1,3のビットプレーンから成っている。そして、LSB(Least Significant Bit:最下位ビット)に近いビットプレーンを含むレイヤ程、先に量子化の対象となり、逆に、MSB(Most Significant Bit:最上位ビット)に近いレイヤは最後まで量子化されずに残ることになる。LSBに近いレイヤから破棄する方法はトランケーションと呼ばれ、量子化率を細かく制御することが可能である。
【0093】
図1に示すエントロピー符号化・復号化部104では、コンテキストと対象ビットから確率推定によって、各コンポーネント111のタイル112に対する符号化を行う。こうして、原画像の全てのコンポーネント111について、タイル112単位で符号化処理が行われる。最後にタグ処理部105は、エントロピー符号化・復号化部104からの全符号化データを1本の符号列データに結合するとともに、それにタグを付加する処理を行う。
【0094】
図6には、この符号列データの1フレーム分の概略構成を示している。この符号列データの先頭と各タイルの符号データ(bit stream)の先頭にはヘッダ(メインヘッダ(Main header)、タイル境界位置情報やタイル境界方向情報等であるタイルパートヘッダ(tile part header))と呼ばれるタグ情報が付加され、その後に、各タイルの符号化データが続く。なお、メインヘッダ(Main header)には、符号化パラメータや量子化パラメータが記述されている。そして、符号列データの終端には、再びタグ(end of codestream)が置かれる。
【0095】
一方、符号化データの復号化時には、画像データの符号化時とは逆に、各コンポーネント111の各タイル112の符号列データから画像データを生成する。この場合、タグ処理部105は、外部より入力した符号列データに付加されたタグ情報を解釈し、符号列データを各コンポーネント111の各タイル112の符号列データに分解し、その各コンポーネント111の各タイル112の符号列データ毎に復号化処理(伸長処理)を行う。このとき、符号列データ内のタグ情報に基づく順番で復号化の対象となるビットの位置が定められるとともに、量子化・逆量子化部103で、その対象ビット位置の周辺ビット(既に復号化を終えている)の並びからコンテキストが生成される。エントロピー符号化・復号化部104で、このコンテキストと符号列データから確率推定によって復号化を行い、対象ビットを生成し、それを対象ビットの位置に書き込む。このようにして復号化されたデータは周波数帯域毎に空間分割されているため、これを2次元ウェーブレット変換・逆変換部102で2次元ウェーブレット逆変換を行うことにより、画像データの各コンポーネントの各タイルが復元される。復元されたデータは色空間変換・逆変換部101によって元の表色系の画像データに変換される。
【0096】
以上が、「JPEG2000アルゴリズム」の概要であり、静止画像、すなわち単フレームに対する方式を複数フレームに拡張したものが、「Motion JPEG2000アルゴリズム」である。すなわち、「Motion JPEG2000」は、図7に示すように、1フレームのJPEG2000画像を所定のフレームレート(単位時間に再生するフレーム数)で連続して表示することにより、動画像にするものである。
【0097】
以下、本発明の第一の実施の形態について説明する。なお、ここでは、MotionJPEG2000を代表とする動画像圧縮伸長技術に関する例について説明するが、いうまでもなく、本発明は以下の説明の内容に限定されるものではない。
【0098】
図8は本発明が適用される監視カメラシステム1を示すシステム構成図、図9はその機能ブロック図である。図8に示すように、本発明の動画像表示システムが適用される監視カメラシステム1は、画像記録装置として機能する監視カメラ1aと画像処理装置として機能するパーソナルコンピュータ(以下、PCという)1bとをインターネットであるネットワーク1cを介して接続したものである。
【0099】
図9に示すように、このような監視カメラシステム1の監視カメラ1aは、CCD、MOSイメージセンサ等の光電変換デバイスを用いて動画像を撮影する画像入力装置2と、この撮影した画像データを圧縮符号化する画像圧縮装置3とを備えている。一方、PC1bは、監視カメラ1aの画像圧縮装置3で生成された符号列データを伸長(復号)して動画像の画像データとする画像復号装置である画像伸長装置6と、この伸長後の画像データによる画像を表示する画像表示装置7と、監視カメラ1aの画像圧縮装置3で生成された符号列データを記憶する符号列記憶部9とを備えている。符号列記憶部9は、一般的なバッファとしての機能、あるいは、長期間に渡る動画像の符号列データの貯蔵庫として機能し、用途により使い分けられる。
【0100】
図10は、監視カメラシステム1のハードウエア構成の一例を示すブロック図である。監視カメラシステム1を構成する監視カメラ1a及びPC1bは、図10に示すように、コンピュータの主要部であって各部を集中的に制御するCPU(Central Processing Unit)11a,11bをそれぞれ備えており、このCPU11a,11bには、各種のROM(Read Only Memory)、RAM(Random Access Memory)からなる記憶媒体であるメモリ12a,12bと、ネットワーク1cと通信を行う所定の通信インターフェイス13a,13bと、ユーザから各種の操作を受付ける操作パネル18a,18bとが、バス14a,14bを介して接続されている。
【0101】
監視カメラ1aは、前述したように画像入力装置2と画像圧縮装置3とを備えており、これらの画像入力装置2、画像圧縮装置3も、バス14aを介してCPU11aに接続されている。
【0102】
PC1bは、画像表示装置7と、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)等の表示装置であるディスプレイ19と、符号列記憶部9として機能する外部記憶装置であるHDD(Hard Disk Drive)15と、配布されたプログラム(例えば、動画処理プログラム)であるコンピュータソフトウェアを記憶した記憶媒体16からコンピュータソフトウェアを読み取るための機構であるドライブ17と、を備えており、これらの画像表示装置7、ディスプレイ19、HDD15、ドライブ17も、バス14bを介してCPU11bに接続されている。
【0103】
このような構成のPC1bのメモリ12b(のROM)には、動画像を処理する動画処理プログラム等の制御プログラムがそれぞれ記憶されている。この動画処理プログラムは本発明のプログラムを実施するものである。そして、この動画処理プログラムに基づいてCPU11bが実行する処理により、画像伸長装置6の機能を実現する。
【0104】
なお、記憶媒体16としては、CDやDVDなどの各種の光ディスク、各種光磁気ディスク、フレキシブルディスクなどの各種磁気ディスク、半導体メモリ等、各種方式のメディアを用いることができる。また、ネットワーク1cからプログラムをダウンロードし、メモリ12bにインストールするようにしてもよい。この場合に、送信側のサーバでプログラムを記憶している記憶装置も、この発明の記憶媒体である。なお、プログラムは、所定のOS(Operating System)上で動作するものであってもよいし、その場合に後述の各種処理の一部の実行をOSに肩代わりさせるものであってもよいし、所定のアプリケーションソフトやOSなどを構成する一群のプログラムファイルの一部として含まれているものであってもよい。
【0105】
ここで、監視カメラシステム1の各部の動作について簡単に説明する。まず、監視カメラ1aの画像入力装置2は、CCD、MOSイメージセンサ等の光電変換デバイスを用いて動画像をフレーム単位でキャプチャし、動画像のデジタル画素値信号を画像圧縮装置3に出力する。画像圧縮装置3は、動画像のデジタル画素値信号を「Motion JPEG2000アルゴリズム」に従って圧縮符号化する。この画像圧縮装置3における処理により、元の動画像のR,G,Bの各コンポーネントの動画像データは、フレームごとに1又は複数(通常は複数)のタイルに分割され、このタイルごとに階層的に圧縮符号化された符号化データとなる。このようにして「Motion JPEG2000アルゴリズム」に従って生成された符号列データ(Motion JPEG2000データ)はネットワーク1cを介してPC1bに出力される。
【0106】
ネットワーク1cを介してPC1bに出力された符号列データ(Motion JPEG2000データ)は、PC1bにおいて、符号列記憶部9に格納され、また、画像伸長装置6で伸長処理される。そして、画像伸長装置6で伸長処理されて生成された動画像の画像データは、画像表示装置7に出力され、この伸長後の画像データによる画像がディスプレイ19に表示される。
【0107】
続いて、本発明の主要部分である画像伸長装置6について詳述する。ここで、図11は画像伸長装置6の機能ブロック図である。図11に示すように、CPU11bはコンピュータソフトウェアに基づいて動作することで、画像伸長装置6は、モード選択手段20、タグ処理手段21、エントロピー復号化手段22、逆量子化手段23、2次元ウェーブレット逆変換手段24、色空間逆変換手段25、タイル境界平滑化切替手段26、第一タイル境界平滑化手段27、第二タイル境界平滑化手段28の各機能を実現する。なお、タグ処理手段21、エントロピー復号化手段22、逆量子化手段23、2次元ウェーブレット逆変換手段24、色空間逆変換手段25で実現される機能については、図1で示した空間変換・逆変換部101、2次元ウェーブレット変換・逆変換部102、量子化・逆量子化部103、エントロピー符号化・復号化部104、タグ処理部105で説明したので、ここでの説明は省略する。
【0108】
モード選択手段20は、処理モードを指定する機能を発揮するものである。具体的には、モード選択手段20は、図12に示すようなモード指定画面Xをディスプレイ19に表示する。モード指定画面Xには、速度優先モードと画質優先モードとの何れか一方を選択させるためのラジオボタンBが設けられている。そして、操作者が、操作パネル18bを操作して一のラジオボタンBを指定した後、OKボタンAを操作することにより、処理モードが指定される。このようにして処理モードが指定されると、指定された処理モードを示す信号がタイル境界平滑化切替手段26に出力される。
【0109】
タイル境界平滑化切替手段26は、タイル境界の近傍の平滑化処理を第一タイル境界平滑化手段27と第二タイル境界平滑化手段28とのどちらで行うかを判定する機能を発揮するものであって、このタイル境界平滑化切替手段26には、色空間逆変換手段25によって得られたRGBデータが入力されるとともに、モード選択手段20から出力された処理モードを示す信号が入力される。
【0110】
そして、タイル境界平滑化切替手段26は、速度優先モードが選択されたと判定した場合には、第一タイル境界平滑化手段27に対して色空間逆変換手段25によって得られたRGBデータを出力し、画質優先モードが選択されたと判定した場合には、第二タイル境界平滑化手段28に対して色空間逆変換手段25によって得られたRGBデータを出力する。
【0111】
第一タイル境界平滑化手段27及び第二タイル境界平滑化手段28は、色空間逆変換手段25によって得られたRGBデータに対し、タイル境界の近傍の画素を平滑化してタイル境界の歪みを目立たなくするものである。図13は第一タイル境界平滑化手段27及び第二タイル境界平滑化手段28における処理の一例を示す説明図である。図13に示すように、第一タイル境界平滑化手段27及び第二タイル境界平滑化手段28は、タイル境界の近傍の画素(図13中、タイル境界画素を含む網掛け領域の画素)に対してローパスフィルタをかける。
【0112】
まず、第一タイル境界平滑化手段27における処理の具体例を示す。ここで、図14は縦方向タイル境界におけるローパスフィルタの一例を示す説明図である。図14に示すように、縦方向タイル境界a(図13参照)に対しては、縦方向タイル境界aに垂直なローパスフィルタ(1次元の横長のフィルタ)F1をかけることにより、縦方向のタイル境界歪みを抑制することができる。なお、本実施の形態では、1次元の横長のフィルタの例で説明したが、横方向の周波数成分を落とすような周波数特性を有するローパスフィルタであればいかなるフィルタであっても良い。
【0113】
図15は横方向タイル境界におけるローパスフィルタの一例を示す説明図である。図15に示すように、横方向タイル境界b(図13参照)に対しては、横方向タイル境界bに垂直なローパスフィルタ(1次元の縦長のフィルタ)F2をかけることにより、横方向のタイル境界歪みを抑制することができる。なお、本実施の形態では、1次元の縦長のフィルタの例で説明したが、縦方向の周波数成分を落とすような周波数特性を有するローパスフィルタであればいかなるフィルタであっても良い。
【0114】
図16は縦方向タイル境界と横方向タイル境界との交点の近傍におけるローパスフィルタの一例を示す説明図である。図16に示すように、縦方向タイル境界aと横方向タイル境界bとの交点の近傍に対しては、十字型のローパスフィルタF3をかけることにより、縦方向タイル境界aと横方向タイル境界bとの交点付近のタイル境界歪みを抑制することができる。なお、本実施の形態では、十字型のフィルタの例で説明したが、縦方向と横方向との周波数成分をともに落とすような周波数特性を有するローパスフィルタであればいかなるフィルタであっても良い。
【0115】
次に、第二タイル境界平滑化手段28における処理の具体例を示す。ここで、図17は縦方向タイル境界におけるローパスフィルタの一例を示す説明図である。図16に示すように、縦方向タイル境界a(図13参照)に対しては、縦方向タイル境界aに垂直なローパスフィルタ(1次元の横長のフィルタ)F4をかけることにより、縦方向のタイル境界歪みを抑制することができる。なお、本実施の形態では、1次元の横長のフィルタの例で説明したが、横方向の周波数成分を落とすような周波数特性を有するローパスフィルタであればいかなるフィルタであっても良い。
【0116】
図18は横方向タイル境界におけるローパスフィルタの一例を示す説明図である。図18に示すように、横方向タイル境界b(図13参照)に対しては、横方向タイル境界bに垂直なローパスフィルタ(1次元の縦長のフィルタ)F5をかけることにより、横方向のタイル境界歪みを抑制することができる。なお、本実施の形態では、1次元の縦長のフィルタの例で説明したが、縦方向の周波数成分を落とすような周波数特性を有するローパスフィルタであればいかなるフィルタであっても良い。
【0117】
図19は縦方向タイル境界と横方向タイル境界との交点の近傍におけるローパスフィルタの一例を示す説明図である。図19に示すように、縦方向タイル境界aと横方向タイル境界bとの交点の近傍に対しては、十字型のローパスフィルタF6をかけることにより、縦方向タイル境界aと横方向タイル境界bとの交点付近のタイル境界歪みを抑制することができる。なお、本実施の形態では、十字型のフィルタの例で説明したが、縦方向と横方向との周波数成分をともに落とすような周波数特性を有するローパスフィルタであればいかなるフィルタであっても良い。
【0118】
ところで、ローパスフィルタF4,F5,F6のフィルタ中心の重み付けの係数mはタイル境界からの画素間距離とタイル境界近傍の画素のエッジ量に応じて可変制御される。すなわち、第二タイル境界平滑化手段28は、タイル境界からの画素間距離とタイル境界近傍の画素のエッジ量に応じてローパスフィルタF4,F5,F6の強度を切り替えるような構成になっている。
【0119】
まず、タイル境界からの画素間距離の算出方法について説明する。図20は、タイル境界からの画素間距離の算出方法の一例を示す説明図である。図20に示すように、各画素において、上下左右からのタイル境界からの距離が算出される。それらの最小値を各画素におけるタイル境界からの距離として設定する。
【0120】
次に、タイル境界近傍の画素のエッジ量の算出方法について説明する。ここで、図21はエッジ量算出フィルタの一例を示す説明図である。タイル境界近傍の画素のエッジ量は、タイル境界近傍の画素に対し、図21に示したエッジ量算出フィルタを用いて算出する。このエッジ量算出フィルタは、斜め方向のエッジ量を算出している。これは、縦横方向のエッジ量を抽出しようとすると、タイル境界の境界部でエッジ量が大きく出てしまうため、タイル境界が目立ってしまうことを避けるためである。なお、タイル境界の方向は、符号化データに含まれる情報から取得する。
【0121】
すなわち、タイル境界からの画素間距離をdとし、タイル境界近傍の画素のエッジ量をEとすると、ローパスフィルタのフィルタ中心の重み付けの係数mは、下記の式(1)〜(3)の何れかに基づいて場合分けされて算出される。
【0122】
“d=0、かつ、abs(E)≧255”の場合
m=4+abs(E)            ・・・(1)
“d=0、かつ、abs(E)<255”の場合
m=4                  ・・・(2)
“d>0”の場合
m=max(4+64*d,4+abs(E))  ・・・(3)
これは、タイル境界からの画素間距離が大きいほど、また、タイル境界近傍の画素のエッジ量の絶対値が大きいほど、施すローパスフィルタの平滑化度を小さくするということを意味する。“d=0”の場合のみ独立に制御したのは、タイル境界の最近傍の画素に対してはある程度平滑化度の強いローパスフィルタを施さないと、タイル境界が目立ってしまうためである。
【0123】
これにより、画質優先モードの第二タイル境界平滑化手段28の場合にはローパスフィルタの強度を適応的に制御することから、画素に対して一様なローパスフィルタを施す速度優先モードの第一タイル境界平滑化手段27に比べて、品質の良い画像を再生することができる。
【0124】
また、画質優先モードの第二タイル境界平滑化手段28は、タイル境界からの画素間距離とタイル境界近傍の画素のエッジ量とに応じてローパスフィルタの強度を適応的に制御することから、タイル境界歪みを抑制しつつ、タイル境界近傍でエッジが強い場合に生じる画質劣化を抑制することができる。
【0125】
ここに、画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを適宜選択してタイル境界歪みの平滑化処理を実行することができるので、復号処理速度とタイル境界の歪みの平滑化による画質とのバランスを図ることで、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することができる。
【0126】
なお、本実施の形態においては、「JPEG2000アルゴリズム」に従った画像圧縮伸長方式で説明したが、これに限るものではなく、圧縮符号にタイル境界位置情報が含まれるような画像圧縮伸長方式であれば、いかなる画像圧縮伸長方式を用いても良い。
【0127】
次に、本発明の第二の実施の形態について説明する。なお、第一の実施の形態において説明した部分と同一部分については同一符号を用い、説明も省略する(以降の実施の形態においても同様)。
【0128】
図22は本実施の形態の画像伸長装置6の機能ブロック図である。図22に示すように、本実施の形態は、第一の実施の形態のモード選択手段20に代えてモード選択手段30を備えたものである。
【0129】
モード選択手段30は、処理モードを指定する機能を発揮する点ではモード選択手段20と同様である。具体的には、モード選択手段30は、フレームの種類に応じて速度優先モードと画質優先モードとの何れか一方をフレーム毎に選択するものである。例えば、図23に示すように、時刻t0における「開始フレーム」と時刻tnにおける「最終フレーム」と時刻tkにおける「停止フレーム」の場合にのみ、画質優先モードを指定する。これは、動画再生中はタイル境界が目立ちにくいことから、タイル境界歪みが目立ちやすい「開始フレーム」「最終フレーム」「停止フレーム」のみに画質優先の平滑化処理を施すようにしたものである。このようにして処理モードが指定されると、指定された処理モードを示す信号がタイル境界平滑化切替手段26に出力される。
【0130】
ここに、静止画は動画に比べてタイル境界歪みが目立つことから、動画像の開始フレームと最終フレームと動画像の再生の停止に係る停止フレームとに画質優先モードを選択することにより、高速に、しかも、精度良く、タイル境界の歪みを抑制することができる。
【0131】
次に、本発明の第三の実施の形態について説明する。図24は本実施の形態の画像伸長装置6の機能ブロック図である。図24に示すように、本実施の形態は、第一の実施の形態のモード選択手段20に代えてモード選択手段40を備えたものである。
【0132】
モード選択手段40は、処理モードを指定する機能を発揮する点ではモード選択手段20と同様である。具体的には、モード選択手段40は、フレームレート(単位時間に再生するフレーム数)に応じて速度優先モードと画質優先モードとの何れか一方を選択するものである。すなわち、フレームレートが所定の閾値より大きい場合には、速度優先モードを選択し、それ以外は画質優先モードを選択するものである。例えば、
フレームレートが“5”より大きい → 速度優先モード
フレームレートが“5”以下    → 画質優先モード
のように制御する。これは、フレームレートが大きくなればなるほど再生速度が速くなり、タイル境界歪みが目立ちにくいためである。このようにして処理モードが指定されると、指定された処理モードを示す信号がタイル境界平滑化切替手段26に出力される。
【0133】
ここに、動画はフレームレートが大きくなるほどタイル境界歪みが目立ちにくいことから、フレームレートが所定の閾値よりも大きい場合には速度優先モードを選択し、フレームレートが所定の閾値よりも小さい場合には画質優先モードを選択することにより、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することができる。
【0134】
次に、本発明の第四の実施の形態について説明する。図25は本実施の形態の画像伸長装置6の機能ブロック図である。図25に示すように、本実施の形態は、第一の実施の形態のモード選択手段20に代えてモード選択手段50を備えたものである。
【0135】
モード選択手段50は、処理モードを指定する機能を発揮する点ではモード選択手段20と同様である。具体的には、モード選択手段50は、各フレームの復号化される符号量に応じて速度優先モードと画質優先モードとの何れか一方をフレーム毎に選択するものである。
【0136】
JPEG2000では、動画の符号量(圧縮率)を所定の値にするために、フレーム毎に符号量が異なっている。例えば、情報量が密なフレームは符号量が大きく、シーンチェンジの後などの画質劣化が目立ちにくいフレームでは符号量は小さくなっている。また、JPEG2000では、伸長時に全ての符号を復号するのではなく、符号の所定の部分を復号することが可能になっている。
【0137】
一般に復号化される符号量が小さければ、そのフレームにおける圧縮率は大きくなり、タイル境界歪みが目立ちやすい。逆に、復号化される符号量が大きければ、そのフレームにおける圧縮率は小さくなり、タイル境界歪みは目立ちにくい。
【0138】
そこで、図26に示すように、復号化される符号量が所定の閾値より大きいときは速度優先モードを選択し、それ以外は画質優先モードを選択するものである。
【0139】
ここに、符号量の小さいフレームは圧縮率が大きいのでタイル境界歪みが目立つことから画質優先モードを選択し、符号量の大きいフレームは圧縮率が小さいのでタイル境界歪みが目立たないことから速度優先モードを選択することにより、全てのフレームについて最適なタイル境界歪みの平滑化処理を実行するので、品質の良い再生画像を得ることができる。
【0140】
次に、本発明の第五の実施の形態について説明する。本実施の形態は、第一の実施の形態とは、画像伸長装置6の機能が異なるものである。概略的には、すべてのタイル境界近傍画素にローパスフィルタをかけるのではなく、ローパスフィルタをかけるべきタイル境界を限定して、そのタイル境界近傍画素にのみにローパスフィルタをかけるようにしたものである。
【0141】
図27は本実施の形態の画像伸長装置6の機能ブロック図である。図27に示すように、CPU11bはコンピュータソフトウェア(画像処理プログラム)に基づいて動作することで、画像伸長装置6は、タグ処理手段21、エントロピー復号化手段22、逆量子化手段23、2次元ウェーブレット逆変換手段24、色空間逆変換手段25、タイル境界平滑化切替手段26、第一タイル境界平滑化手段27、第二タイル境界平滑化手段28、補正タイル境界限定手段29の各機能を実現する。
【0142】
補正タイル境界限定手段29は、第一タイル境界平滑化手段27及び第二タイル境界平滑化手段28においてローパスフィルタをかけるべきタイル境界を限定する機能を発揮するものである。
【0143】
ここで、図28及び図29は、ROI(Region Of Interest)領域内のタイル境界のみにローパスフィルタをかける処理の一例を示す説明図である。このROI領域とは、画像全体から切り出して拡大したり、他の部分に比べて強調したりする場合の、画像全体から見たある一部分である。
【0144】
図28は、ROI領域がタイル境界に沿った領域である場合について示すものである。図28(a)に示すようにROI境界が設定されたら、ローパスフィルタをかけるタイル境界は図28(b)に点線で示す部分に設定する。図28(b)に太線で示すROI境界部にはローパスフィルタをかけない。
【0145】
図29は、ROI領域がタイル境界に沿っていない領域である場合について示すものである。図29(a)に示すようにROI境界が設定されたら、ローパスフィルタをかけるタイル境界は図29(b)に点線で示す部分に設定する。タイル境界画素がROI内部か否かを演算によって算出し、該タイル境界画素がROI内部であればその画素にローパスフィルタをかける。該タイル境界画素がROI外部であれば、その画素にはローパスフィルタをかけない。
【0146】
なお、本実施の形態では、ROI内部か否かで、ローパスフィルタをかけるか否かを判定したが、それ以外にも、縦または横成分のエッジ量が大きい部分のタイル境界画素のみにローパスフィルタをかけるという制御を行っても良い。
【0147】
これにより、補正タイル境界限定手段29は、ローパスフィルタをかけるべきタイル境界画素を限定して、第一タイル境界平滑化手段27及び第二タイル境界平滑化手段28に対して色空間逆変換手段25によって得られたRGBデータを出力する。
【0148】
ここに、ローパスフィルタをかけるべきタイル境界画素を制御することにより、タイル境界歪み抑制のための処理時間を短縮することができる。特に、ROI領域内のタイル境界にのみローパスフィルタをかけることにより、タイル境界歪み抑制のための処理時間を短縮することができる。
【0149】
なお、各実施の形態においては、監視カメラシステム1を構成する動画像再生装置としてPC1bを適用したが、これに限るものではない。例えば、携帯情報端末(PDA)や携帯電話などを動画像再生装置として適用することもできる。
【0150】
また、各実施の形態においては、画像入力装置2及び画像圧縮装置3を備える監視カメラ1aと、動画像処理装置である画像伸長装置6及び画像表示装置7を備えるPC1bとをネットワーク1cを介して接続した監視カメラシステム1を動画像表示システムとして適用したが、これに限るものではない。例えば、画像入力装置2であるカメラ部と、画像圧縮装置3及び動画像処理装置である画像伸長装置6を備える制御部と、画像表示装置7であるディスプレイとを一体に備えるデジタルカメラ等を動画像表示システムとして適用しても何ら問題はない。
【0151】
【発明の効果】
請求項1,13,24記載の発明によれば、画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを適宜選択してタイル境界歪みの平滑化処理を実行することができるので、復号処理速度とタイル境界の歪みの平滑化による画質とのバランスを図ることで、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することができる。
【0152】
請求項2,14,25記載の発明によれば、静止画は動画に比べてタイル境界歪みが目立つことから、動画像の開始フレームと最終フレームとにのみ画質優先モードを選択することにより、高速に、しかも、精度良く、タイル境界の歪みを抑制することができる。
【0153】
請求項3,15,26記載の発明によれば、静止画は動画に比べてタイル境界歪みが目立つことから、動画像の再生の停止に係る停止フレームにも画質優先モードを選択することにより、高速に、しかも、精度良く、タイル境界の歪みを抑制することができる。
【0154】
請求項4,16,27記載の発明によれば、符号量の小さいフレームは圧縮率が大きいのでタイル境界歪みが目立つことから画質優先モードを選択し、符号量の大きいフレームは圧縮率が小さいのでタイル境界歪みが目立たないことから速度優先モードを選択することにより、全てのフレームについて最適なタイル境界歪みの平滑化処理を実行するので、品質の良い再生画像を得ることができる。
【0155】
請求項5,17,28記載の発明によれば、動画はフレームレートが大きくなるほどタイル境界歪みが目立ちにくいことから、フレームレートが所定の閾値よりも大きい場合には速度優先モードを選択し、フレームレートが所定の閾値よりも小さい場合には画質優先モードを選択することにより、復号処理が再生に追いつかずにコマ落ちする等の悪影響を排除しつつ、タイル境界の歪みを抑制することができる。
【0156】
請求項6,18,29記載の発明によれば、オーバーラップによるタイル境界歪みの平滑化処理に比して、より簡易な手法で、タイル境界の歪みを抑制することができる。
【0157】
請求項7,19,30記載の発明によれば、画質優先モードの場合にはローパスフィルタの強度を適応的に制御することから、画素に対して一様なローパスフィルタを施す速度優先モードに比べて、品質の良い画像を再生することができる。
【0158】
請求項8,20,31記載の発明によれば、タイル境界歪みを抑制しつつ、タイル境界近傍でエッジが強い場合に生じる画質劣化を抑制することができる。
【0159】
請求項9,21,32記載の発明によれば、ローパスフィルタをかけるべきタイル境界画素を制御することにより、タイル境界歪み抑制のための処理時間を短縮することができる。
【0160】
請求項10,22,33記載の発明によれば、ROI領域内のタイル境界にのみローパスフィルタをかけることにより、タイル境界歪み抑制のための処理時間を短縮することができる。
【0161】
請求項11記載の発明によれば、請求項1ないし10の何れか一記載の発明と同様の作用効果を奏する画像処理装置を提供することができる。
【0162】
請求項12記載の発明によれば、請求項1ないし10の何れか一記載の発明と同様の作用効果を奏する動画像表示システムを提供することができる。
【0163】
請求項23記載の発明によれば、記憶媒体に記憶されたプログラムをコンピュータに読み取らせることにより、請求項13ないし22の何れか一記載の発明と同様の作用効果を得ることができる。
【図面の簡単な説明】
【図1】本実施の形態の前提となるJPEG2000方式の基本となる階層符号化アルゴリズムを実現するシステムの機能ブロック図である。
【図2】原画像の各コンポーネントの分割された矩形領域を示す説明図である。
【図3】デコンポジション・レベル数が3の場合の、各デコンポジション・レベルにおけるサブバンドを示す説明図である。
【図4】プレシンクトを示す説明図である。
【図5】ビットプレーンに順位付けする手順の一例を示す説明図である。
【図6】符号列データの1フレーム分の概略構成を示す説明図である。
【図7】Motion JPEG2000の概念を示す説明図である。
【図8】本発明の第一の実施の形態の監視カメラシステムを示すシステム構成図である。
【図9】その機能ブロック図である。
【図10】監視カメラシステムのハードウエア構成の一例を示すブロック図である。
【図11】画像伸長装置の機能ブロック図である。
【図12】モード指定画面を示す正面図である。
【図13】第一タイル境界平滑化手段及び第二タイル境界平滑化手段における処理の一例を示す説明図である。
【図14】第一タイル境界平滑化手段による縦方向タイル境界におけるローパスフィルタの一例を示す説明図である。
【図15】第一タイル境界平滑化手段による横方向タイル境界におけるローパスフィルタの一例を示す説明図である。
【図16】第一タイル境界平滑化手段による縦方向タイル境界と横方向タイル境界との交点の近傍におけるローパスフィルタの一例を示す説明図である。
【図17】第二タイル境界平滑化手段による縦方向タイル境界におけるローパスフィルタの一例を示す説明図である。
【図18】第二タイル境界平滑化手段による横方向タイル境界におけるローパスフィルタの一例を示す説明図である。
【図19】第二タイル境界平滑化手段による縦方向タイル境界と横方向タイル境界との交点の近傍におけるローパスフィルタの一例を示す説明図である。
【図20】タイル境界からの画素間距離の算出方法の一例を示す説明図である。
【図21】エッジ量算出フィルタの一例を示す説明図である。
【図22】本発明の第二の実施の形態の画像伸長装置の機能ブロック図である。
【図23】「開始フレーム」「最終フレーム」「停止フレーム」を示す説明図である。
【図24】本発明の第三の実施の形態の画像伸長装置の機能ブロック図である。
【図25】本発明の第四の実施の形態の画像伸長装置の機能ブロック図である。
【図26】復号化される符号量に応じたモード選択の一例を示す説明図である。
【図27】本発明の第五の実施の形態の画像伸長装置の機能ブロック図である。
【図28】ROI領域内のタイル境界のみにローパスフィルタをかける処理の一例を示す説明図である。
【図29】ROI領域内のタイル境界のみにローパスフィルタをかける処理の一例を示す説明図である。
【符号の説明】
1    動画像表示システム
1b   画像処理装置
2    画像入力装置
3    画像圧縮装置
6    画像復号装置
7    画像表示装置
16   記憶媒体
19   表示装置
20,30,40,50   モード選択手段
26   タイル境界平滑化切替手段
27,28   タイル境界平滑化手段
29   補正タイル境界限定手段
F1〜F6   ローパスフィルタ

Claims (33)

  1. 画像を複数に分割したタイル毎に画素値を離散ウェーブレット変換し階層的に圧縮符号化した複数のフレームを連続して復号する画像復号装置において、
    復号後の各フレームにおけるタイル境界の歪みを平滑化するタイル境界平滑化手段と、
    このタイル境界平滑化手段によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とするモード選択手段と、
    前記タイル境界平滑化手段による復号後の各フレームにおけるタイル境界歪みの平滑化処理について、前記モード選択手段による選択に従って画質優先モードと速度優先モードとを切り替えるタイル境界平滑化切替手段と、
    を備えることを特徴とする画像復号装置。
  2. 前記モード選択手段は、フレームに応じて前記タイル境界平滑化手段によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、
    前記タイル境界平滑化切替手段は、動画像の開始フレームと最終フレームとについては画質優先モードとし、それ以外のフレームについては速度優先モードとすることを特徴とする請求項1記載の画像復号装置。
  3. 前記タイル境界平滑化切替手段は、動画像の再生の停止に係る停止フレームについても画質優先モードとすることを特徴とする請求項2記載の画像復号装置。
  4. 前記モード選択手段は、各フレームの復号対象となる符号量に応じて前記タイル境界平滑化手段によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、
    前記タイル境界平滑化切替手段は、復号対象となる符号量が小さい場合には画質優先モードとし、復号対象となる符号量が大きい場合には速度優先モードとすることを特徴とする請求項1記載の画像復号装置。
  5. 前記モード選択手段は、フレームレートに応じて前記タイル境界平滑化手段によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、
    前記タイル境界平滑化切替手段は、フレームレートが所定の閾値よりも小さい場合には画質優先モードとし、フレームレートが所定の閾値よりも大きい場合には速度優先モードとすることを特徴とする請求項1記載の画像復号装置。
  6. 前記タイル境界平滑化手段は、復号後の各フレームにおけるタイル境界近傍の画素に対してローパスフィルタを施すことを特徴とする請求項1ないし5の何れか一記載の画像復号装置。
  7. 速度優先モードの前記タイル境界平滑化手段は、復号後のフレームにおけるタイル境界近傍の画素に対して一様なローパスフィルタを施し、
    画質優先モードの前記タイル境界平滑化手段は、復号後のフレームにおけるタイル境界近傍の画素に対し、該画素に応じて強度を適応的に制御したローパスフィルタを施すことを特徴とする請求項6記載の画像復号装置。
  8. 画質優先モードの前記タイル境界平滑化手段は、タイル境界からの画素間距離とタイル境界近傍の画素のエッジ量とに応じてローパスフィルタの強度を適応的に制御することを特徴とする請求項7記載の画像復号装置。
  9. タイル境界を限定する補正タイル境界限定手段を備え、
    この補正タイル境界限定手段により限定されたタイル境界の近傍画素にのみ、前記タイル境界平滑化手段によるタイル境界の歪み平滑化処理を行うようにしたことを特徴とする請求項1ないし8の何れか一記載の画像復号装置。
  10. 前記補正タイル境界限定手段により限定されるタイル境界は、ROI(Region Of Interest)領域内であることを特徴とする請求項9記載の画像復号装置。
  11. 画像を複数に分割したタイル毎に画素値を離散ウェーブレット変換し階層的に圧縮符号化した複数のフレームを連続して復号する請求項1ないし10の何れか一記載の画像復号装置と、
    この画像復号装置により復号されたフレームに基づく画像を表示装置に表示させる画像表示装置と、
    を備えることを特徴とする画像処理装置。
  12. 動画像を撮像する画像入力装置と、
    この画像入力装置により撮像した動画像についてフレームごとに複数のタイルに分割し当該タイルごとに画素値を離散ウェーブレット変換し階層的に圧縮符号化する画像圧縮装置と、
    この画像圧縮装置により圧縮符号化された複数のフレームを連続して復号する請求項1ないし10の何れか一記載の画像復号装置と、
    この画像復号装置により復号されたフレームに基づく画像を表示装置に表示させる画像表示装置と、
    を備えることを特徴とする動画像表示システム。
  13. 画像を複数に分割したタイル毎に画素値を離散ウェーブレット変換し階層的に圧縮符号化した複数のフレームの連続した復号をコンピュータに実行させるプログラムであって、
    復号後の各フレームにおけるタイル境界の歪みを平滑化するタイル境界平滑化機能と、
    このタイル境界平滑化機能によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とするモード選択機能と、
    前記タイル境界平滑化機能による復号後の各フレームにおけるタイル境界歪みの平滑化処理について、前記モード選択機能による選択に従って画質優先モードと速度優先モードとを切り替えるタイル境界平滑化切替機能と、
    を前記コンピュータに実行させることを特徴とするプログラム。
  14. 前記モード選択機能は、フレームに応じて前記タイル境界平滑化機能によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、
    前記タイル境界平滑化切替機能は、動画像の開始フレームと最終フレームとについては画質優先モードとし、それ以外のフレームについては速度優先モードとすることを特徴とする請求項13記載のプログラム。
  15. 前記タイル境界平滑化切替機能は、動画像の再生の停止に係る停止フレームについても画質優先モードとすることを特徴とする請求項14記載のプログラム。
  16. 前記モード選択機能は、各フレームの復号対象となる符号量に応じて前記タイル境界平滑化機能によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、
    前記タイル境界平滑化切替機能は、復号対象となる符号量が小さい場合には画質優先モードとし、復号対象となる符号量が大きい場合には速度優先モードとすることを特徴とする請求項13記載のプログラム。
  17. 前記モード選択機能は、フレームレートに応じて前記タイル境界平滑化機能によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、
    前記タイル境界平滑化切替機能は、フレームレートが所定の閾値よりも小さい場合には画質優先モードとし、フレームレートが所定の閾値よりも大きい場合には速度優先モードとすることを特徴とする請求項13記載のプログラム。
  18. 前記タイル境界平滑化機能は、復号後の各フレームにおけるタイル境界近傍の画素に対してローパスフィルタを施すことを特徴とする請求項13ないし17の何れか一記載のプログラム。
  19. 速度優先モードの前記タイル境界平滑化機能は、復号後のフレームにおけるタイル境界近傍の画素に対して一様なローパスフィルタを施し、
    画質優先モードの前記タイル境界平滑化機能は、復号後のフレームにおけるタイル境界近傍の画素に対し、該画素に応じて強度を適応的に制御したローパスフィルタを施すことを特徴とする請求項18記載のプログラム。
  20. 画質優先モードの前記タイル境界平滑化機能は、タイル境界からの画素間距離とタイル境界近傍の画素のエッジ量とに応じてローパスフィルタの強度を適応的に制御することを特徴とする請求項19記載のプログラム。
  21. タイル境界を限定する補正タイル境界限定機能を前記コンピュータに実行させ、
    この補正タイル境界限定機能により限定されたタイル境界の近傍画素にのみ、前記タイル境界平滑化機能によるタイル境界の歪み平滑化処理を行うようにしたことを特徴とする請求項13ないし20の何れか一記載のプログラム。
  22. 前記補正タイル境界限定機能により限定されるタイル境界は、ROI(Region Of Interest)領域内であることを特徴とする請求項21記載のプログラム。
  23. 請求項13ないし22の何れか一記載のプログラムを記憶していることを特徴とするコンピュータに読取り可能な記憶媒体。
  24. 画像を複数に分割したタイル毎に画素値を離散ウェーブレット変換し階層的に圧縮符号化した複数のフレームを連続して復号する画像復号方法であって、
    復号後の各フレームにおけるタイル境界の歪みを平滑化するタイル境界平滑化工程と、
    このタイル境界平滑化工程によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とするモード選択工程と、
    を含み、
    前記タイル境界平滑化工程による復号後の各フレームにおけるタイル境界歪みの平滑化処理について、前記モード選択工程による選択に従って画質優先モードと速度優先モードとを切り替えるようにすることを特徴とする画像復号方法。
  25. 前記モード選択工程は、フレームに応じて前記タイル境界平滑化工程によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、
    動画像の開始フレームと最終フレームとについては画質優先モードとし、それ以外のフレームについては速度優先モードとすることを特徴とする請求項24記載の画像復号方法。
  26. 動画像の再生の停止に係る停止フレームについても画質優先モードとすることを特徴とする請求項25記載の画像復号方法。
  27. 前記モード選択工程は、各フレームの復号対象となる符号量に応じて前記タイル境界平滑化工程によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、
    復号対象となる符号量が小さい場合には画質優先モードとし、復号対象となる符号量が大きい場合には速度優先モードとすることを特徴とする請求項24記載の画像復号方法。
  28. 前記モード選択工程は、フレームレートに応じて前記タイル境界平滑化機能によるタイル境界歪みの平滑化処理について画質を優先させる画質優先モードと処理速度を優先させる速度優先モードとを選択可能とし、
    フレームレートが所定の閾値よりも小さい場合には画質優先モードとし、フレームレートが所定の閾値よりも大きい場合には速度優先モードとすることを特徴とする請求項24記載の画像復号方法。
  29. 前記タイル境界平滑化工程は、復号後の各フレームにおけるタイル境界近傍の画素に対してローパスフィルタを施すことを特徴とする請求項24ないし28の何れか一記載の画像復号方法。
  30. 速度優先モードの前記タイル境界平滑化工程は、復号後のフレームにおけるタイル境界近傍の画素に対して一様なローパスフィルタを施し、
    画質優先モードの前記タイル境界平滑化工程は、復号後のフレームにおけるタイル境界近傍の画素に対し、該画素に応じて強度を適応的に制御したローパスフィルタを施すことを特徴とする請求項29記載の画像復号方法。
  31. 画質優先モードの前記タイル境界平滑化工程は、タイル境界からの画素間距離とタイル境界近傍の画素のエッジ量とに応じてローパスフィルタの強度を適応的に制御することを特徴とする請求項30記載の画像復号方法。
  32. タイル境界を限定する補正タイル境界限定工程を含み、
    この補正タイル境界限定工程により限定されたタイル境界の近傍画素にのみ、前記タイル境界平滑化工程によるタイル境界の歪み平滑化処理を行うようにしたことを特徴とする請求項24ないし31の何れか一記載の画像復号方法。
  33. 前記補正タイル境界限定工程により限定されるタイル境界は、ROI(Region Of Interest)領域内であることを特徴とする請求項32記載の画像復号方法。
JP2002208156A 2002-07-17 2002-07-17 画像復号装置、画像処理装置、動画像表示システム、プログラム、記憶媒体及び画像復号方法 Expired - Fee Related JP4145086B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2002208156A JP4145086B2 (ja) 2002-07-17 2002-07-17 画像復号装置、画像処理装置、動画像表示システム、プログラム、記憶媒体及び画像復号方法
US10/600,333 US7330596B2 (en) 2002-07-17 2003-06-23 Image decoding technique for suppressing tile boundary distortion
US11/980,580 US7522778B2 (en) 2002-07-17 2007-10-31 Image decoding technique for suppressing tile boundary distortion

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002208156A JP4145086B2 (ja) 2002-07-17 2002-07-17 画像復号装置、画像処理装置、動画像表示システム、プログラム、記憶媒体及び画像復号方法

Publications (2)

Publication Number Publication Date
JP2004056264A true JP2004056264A (ja) 2004-02-19
JP4145086B2 JP4145086B2 (ja) 2008-09-03

Family

ID=31932382

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002208156A Expired - Fee Related JP4145086B2 (ja) 2002-07-17 2002-07-17 画像復号装置、画像処理装置、動画像表示システム、プログラム、記憶媒体及び画像復号方法

Country Status (1)

Country Link
JP (1) JP4145086B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006025105A (ja) * 2004-07-07 2006-01-26 Sharp Corp 動画像再生装置
US7609899B2 (en) 2004-05-28 2009-10-27 Ricoh Company, Ltd. Image processing apparatus, image processing method, and recording medium thereof to smooth tile boundaries
US7983497B2 (en) 2004-04-23 2011-07-19 Sumitomo Electric Industries, Ltd. Coding method for motion-image data, decoding method, terminal equipment executing these, and two-way interactive system
JP2016082309A (ja) * 2014-10-10 2016-05-16 キヤノン株式会社 画像処理装置、撮像装置、画像処理装置の制御方法、コンピュータプログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7983497B2 (en) 2004-04-23 2011-07-19 Sumitomo Electric Industries, Ltd. Coding method for motion-image data, decoding method, terminal equipment executing these, and two-way interactive system
US7609899B2 (en) 2004-05-28 2009-10-27 Ricoh Company, Ltd. Image processing apparatus, image processing method, and recording medium thereof to smooth tile boundaries
JP2006025105A (ja) * 2004-07-07 2006-01-26 Sharp Corp 動画像再生装置
JP4526314B2 (ja) * 2004-07-07 2010-08-18 シャープ株式会社 動画像再生装置
JP2016082309A (ja) * 2014-10-10 2016-05-16 キヤノン株式会社 画像処理装置、撮像装置、画像処理装置の制御方法、コンピュータプログラム

Also Published As

Publication number Publication date
JP4145086B2 (ja) 2008-09-03

Similar Documents

Publication Publication Date Title
US7330596B2 (en) Image decoding technique for suppressing tile boundary distortion
JP4293740B2 (ja) 画像圧縮装置
US7302104B2 (en) Smoothing tile boundaries of images encoded and decoded by JPEG 2000
US7352908B2 (en) Image compression device, image decompression device, image compression/decompression device, program for executing on a computer to perform functions of such devices, and recording medium storing such a program
JP2005286472A (ja) 画像処理装置および画像処理方法
JP3952459B2 (ja) 画像処理装置、プログラム、記憶媒体及び画像処理方法
JP2004254298A (ja) 画像処理装置、プログラム及び記憶媒体
JP4145086B2 (ja) 画像復号装置、画像処理装置、動画像表示システム、プログラム、記憶媒体及び画像復号方法
JP2004056260A (ja) 画像復号装置、画像処理装置、プログラム、記憶媒体及び画像復号方法
JP4118049B2 (ja) 画像処理装置及び方法
JP2002369202A (ja) 画像圧縮装置、画像伸長装置、画像圧縮方法、画像伸長方法、プログラム、及び該プログラムを記録した記録媒体
JP4124436B2 (ja) 動き量推定装置、プログラム、記憶媒体および動き量推定方法
JP2004064190A (ja) 画像処理装置、方法、プログラムおよび記録媒体
JP2010206847A (ja) 画像処理装置
JP2006129248A (ja) 画像符号化方法および装置、ならびに画像復号方法および装置
JP4149144B2 (ja) 画像圧縮装置、方法、プログラムおよび記録媒体
JP4241463B2 (ja) 画像処理装置
JP4361755B2 (ja) 動画像処理装置、プログラム、記憶媒体および動画像処理方法
JP3954459B2 (ja) 動画像処理装置、動画像処理方法、及び、監視カメラシステム
JP2004336405A (ja) 動画像処理装置、プログラム、記憶媒体および動画像処理方法
JP4201163B2 (ja) 画像処理装置、方法、プログラムおよび記録媒体
JP4040404B2 (ja) 符号列変換装置及び方法、画像処理装置並びに画像記録装置
JP4010957B2 (ja) 画像処理装置、プログラム、記憶媒体および画像形成装置
JP4615042B2 (ja) 画像処理装置
JP4093870B2 (ja) 画像処理装置、プログラムおよび記憶媒体

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20041006

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050617

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20050729

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070522

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080219

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080520

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080617

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110627

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110627

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120627

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130627

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees