JP4247088B2 - Non-interlaced image processing apparatus and processing method - Google Patents

Non-interlaced image processing apparatus and processing method Download PDF

Info

Publication number
JP4247088B2
JP4247088B2 JP2003353760A JP2003353760A JP4247088B2 JP 4247088 B2 JP4247088 B2 JP 4247088B2 JP 2003353760 A JP2003353760 A JP 2003353760A JP 2003353760 A JP2003353760 A JP 2003353760A JP 4247088 B2 JP4247088 B2 JP 4247088B2
Authority
JP
Japan
Prior art keywords
data deletion
code block
data
subject
moving speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003353760A
Other languages
Japanese (ja)
Other versions
JP2004159312A (en
Inventor
水納  亨
宏幸 作山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2003353760A priority Critical patent/JP4247088B2/en
Publication of JP2004159312A publication Critical patent/JP2004159312A/en
Application granted granted Critical
Publication of JP4247088B2 publication Critical patent/JP4247088B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、動画の処理装置、特に一連の複数のインターレース画像より得られるノンインターレース画像の処理を行う画像処理装置及び処理方法に関する。   The present invention relates to a moving image processing apparatus, and more particularly to an image processing apparatus and processing method for processing a non-interlaced image obtained from a series of a plurality of interlaced images.

近年、高精細画像を取り扱うのに適した圧縮符号化方法としてJEPG2000が知られている。また、上記JPEG2000形式で符号化された静止画像を連続して再生することにより動画表示を行うMotionJPEG2000という規格もある。   In recent years, JEPPG2000 is known as a compression encoding method suitable for handling high-definition images. There is also a standard called Motion JPEG 2000 that displays a moving image by continuously playing still images encoded in the JPEG 2000 format.

ビデオカメラ等によって撮られる一連のインターレース画像には、1つ前のフレームのインターレース画像との比較において、フレーム間における被写体の移動量(変化量)という静止画には無いパラメータが存在する。上記移動量というパラメータを用いてフレーム内における被写体の移動速度を検出し、適応的に圧縮符号化処理を実行する動画像処理装置が、既にいくつか提案されている(例えば、特許文献1を参照)。
特公平04−77517号公報
In a series of interlaced images taken by a video camera or the like, there is a parameter that does not exist in a still image, that is, the amount of movement (change amount) of a subject between frames in comparison with the interlaced image of the previous frame. Several moving image processing apparatuses that detect the moving speed of a subject in a frame using the parameter of the moving amount and adaptively perform compression coding processing have already been proposed (see, for example, Patent Document 1). ).
Japanese Patent Publication No. 04-77517

しかし、上記動画像処理装置では、フレーム間における被写体の画像データの差分を求め、求めた差分データに基づいて移動速度を求める演算処理を行う。このため、処理するデータ量が多く、演算に時間を要すると共に、多くのメモリを必要としていた。   However, the moving image processing apparatus calculates a difference between subject image data between frames and performs a calculation process for determining a moving speed based on the obtained difference data. For this reason, the amount of data to be processed is large, time is required for calculation, and a large amount of memory is required.

本発明は、上記フレーム間における被写体の画像データの差分を用いることなく、少ない量のデータを用いて、かつ、簡単な演算処理により、上記被写体の移動速度を判定するノンインターレース画像の画像処理装置及び画像処理方法を提供することを目的とする。   The present invention provides an image processing apparatus for a non-interlaced image that determines the moving speed of the subject by using a small amount of data and a simple arithmetic process without using a difference in image data of the subject between the frames. And an image processing method.

請求項1に記載のノンインターレース画像の処理装置は、連続してスキャンした2枚分のインターレース画像をスキャンしたライン毎に交互に並べて形成されるノンインターレース画像の処理装置(10)であって、ウェーブレット変換手段(ステップS4)と、判定手段(ステップS25、S46、S66、S87)と、データ削除処理手段(ステップS6)と、符号化処理手段(ステップS8)と、を含んでおり、上記ウェーブレット変換手段が、上記ノンインターレース画像のデータに対してレベル1以上の2次元離散ウェーブレット変換を行うものであり、上記判定手段が、ウェーブレット変換手段によって得られるウェーブレット係数の内、レベル1の各サブバンドのウェーブレット係数をそれぞれ前記サブバンドよりも小さな画素マトリクスから成るコードブロックに分割し、コードブロック毎に、1LHのコードブロックの係数値の絶対値の合計を、該コードブロックに対応する位置の少なくとも1HLを含むレベル1のコードブロックの係数値の絶対値の合計で割った値が、予め定めたしきい値よりも大きい場合に被写体の移動速度が高速であると判断し、予め定めたしきい値以下の場合に被写体の移動速度が低速であると判断するものであり、上記データ削除処理手段が、判定手段によって被写体の移動速度が高速であると判断されたコードブロックについては1LHのサブバンドのデータ削除量を他のサブバンドのデータ削除量よりも少なくしたデータ削除処理を実行し、判定手段によって被写体の移動速度が低速であると判断されたコードブロックについては1HLのサブバンドのデータ削除量を他のサブバンドのデータ削除量よりも少なくしたデータ削除処理を実行するものであり、上記符号化処理手段が、データ削除処理手段によってデータ削除処理されたウェーブレット係数を用いて符号化処理を実行するものである、ことを特徴とする。
また、請求項2に記載のノンインターレース画像の処理装置は、請求項1に記載のノンインターレース画像の処理装置であって、上記判定手段(ステップS25)が、分割したコードブロック毎に、1LHのサブバンドの係数値の絶対値の合計(sum1LH)を、1HLのサブバンドの係数値の絶対値の合計(sum1HL)で割った値(speed)が、しきい値(th1)よりも大きいときに被写体の移動速度が高速であり、しきい値(th1)以下のときに被写体の移動速度が低速であると判定するものである、ことを特徴とする。
また、請求項3に記載のノンインターレース画像の処理装置は、請求項1に記載のノンインターレース画像の処理装置であって、上記判定手段(ステップS46)が、分割したコードブロック毎に、1LHのサブバンドの係数値の絶対値の合計(sum1LH)を、1HLと1LHと1HHとのサブバンドの係数値の絶対値の合計(即ち、sum1HL+sum1LH+sum1HHで表される値)で割った値(speed)が、しきい値(th2)よりも大きいときに被写体の移動速度が高速であり、しきい値(th2)以下のときに被写体の移動速度が低速であると判定するものである、ことを特徴とする。
また、請求項4に記載のノンインターレース画像の処理装置は、上記判定手段(ステップS66、S87)が、上記処理を行うサブバンドのウェーブレット係数に対して仮の符号化処理を実行する仮算術符号化手段を含んでおり、上記処理を行う各サブバンドの係数値の絶対値の合計の代わりに、仮算術符号化手段によって得られる符号量の合計を用いて、インターレース画像内の被写体の移動速度を判定するものである、ことを特徴とする。
The non-interlaced image processing device according to claim 1 is a non -interlaced image processing device (10) formed by alternately arranging two consecutively scanned interlaced images for each scanned line, A wavelet transform unit (step S4); a determination unit (steps S25, S46, S66, S87); a data deletion processing unit (step S6); and an encoding processing unit (step S8). Transform means performs two-dimensional discrete wavelet transform of level 1 or higher on the data of the non-interlaced image, and the determination means includes sub-bands of level 1 among wavelet coefficients obtained by the wavelet transform means. small image wavelet coefficients a than each of the sub-band Divided into code blocks consisting of a matrix, the code for each block, the sum of the absolute values of the coefficient values of the code blocks of 1LH, absolute coefficient value of the level 1 code block comprising at least 1HL position corresponding to the code block When the value divided by the sum of the values is larger than a predetermined threshold, it is determined that the moving speed of the subject is high, and when the value is equal to or lower than the predetermined threshold, the moving speed of the subject is low. is intended to determine a, the data deletion means, the data deletion of other sub-band data removal amount of 1LH subbands moving speed of the object by determining means for code block is determined to be high-speed Code block that has been determined to have a slower moving speed of the subject by the determination means A data deletion process in which the data deletion amount of the 1HL sub-band is made smaller than the data deletion amount of the other sub-bands, and the wavelet coefficient is subjected to the data deletion processing by the data deletion processing unit. The encoding process is executed using the.
A non-interlaced image processing apparatus according to claim 2 is the non-interlaced image processing apparatus according to claim 1, wherein the determination means (step S25) has 1 LH for each divided code block. When the sum (sum1LH) of the absolute values of the subband coefficient values divided by the sum of the absolute values of the 1HL subband coefficient values (sum1HL) (speed) is greater than the threshold (th1) The moving speed of the subject is high, and it is determined that the moving speed of the subject is low when it is equal to or less than a threshold value (th1).
A non-interlaced image processing apparatus according to claim 3 is the non-interlaced image processing apparatus according to claim 1, wherein the determination means (step S46) has 1 LH for each divided code block. The sum of the absolute values of the subband coefficient values (sum1LH) divided by the sum of the absolute values of the subband coefficient values of 1HL, 1LH, and 1HH (ie, the value represented by sum1HL + sum1LH + sum1HH) When (speed) is larger than the threshold value (th2), the moving speed of the subject is high, and when the speed is equal to or lower than the threshold value (th2), the moving speed of the subject is determined to be low. It is characterized by that.
The non-interlaced image processing apparatus according to claim 4, wherein the determination unit (steps S 66 and S 87) performs provisional arithmetic coding in which provisional encoding processing is performed on the wavelet coefficients of subbands to be processed. The moving speed of the subject in the interlaced image using the sum of the code amounts obtained by the provisional arithmetic coding means instead of the sum of the absolute values of the coefficient values of the sub-bands for which the above processing is performed. It is characterized by determining.

請求項5に記載のノンインターレース画像の処理装置は、請求項1乃至請求項4の内の1つに記載のノンインターレース画像の処理装置であって、上記データ削除処理手段が、ウェーブレット係数をビットプレーンに分割したデータの内、下位ビットプレーンに対応するデータから順に削除することでデータ削除処理を行うものである、ことを特徴とする。The non-interlaced image processing apparatus according to claim 5 is the non-interlaced image processing apparatus according to one of claims 1 to 4, wherein the data deletion processing unit converts the wavelet coefficients into bits. Of the data divided into planes, the data deletion processing is performed by deleting the data corresponding to the lower bit planes in order.

請求項6に記載のノンインターレース画像の処理方法は、連続してスキャンした2枚分のインターレース画像をスキャンしたライン毎に交互に並べて形成されるノンインターレース画像の処理方法であって、上記ノンインターレース画像のデータに対してレベル1以上の2次元離散ウェーブレット変換を行うウェーブレット変換工程と、ウェーブレット変換工程によって得られるウェーブレット係数の内、レベル1の各サブバンドのウェーブレット係数をそれぞれ前記サブバンドよりも小さな画素マトリクスから成るコードブロックに分割し、コードブロック毎に、1LHのコードブロックの係数値の絶対値の合計を、該コードブロックに対応する位置の少なくとも1HLを含むレベル1のコードブロックの係数値の絶対値の合計で割った値が、予め定めたしきい値よりも大きい場合に被写体の移動速度が高速であると判断し、予め定めたしきい値以下の場合に被写体の移動速度が低速であると判断する判定工程と、判定工程によって被写体の移動速度が高速であると判断されたコードブロックについては1LHのサブバンドのデータ削除量を他のサブバンドのデータ削除量よりも少なくしたデータ削除処理を実行し、判定工程によって被写体の移動速度が低速であると判断されたコードブロックについては1HLのサブバンドのデータ削除量を他のサブバンドのデータ削除量よりも少なくしたデータ削除処理を実行するデータ削除処理工程と、データ削除処理工程によってデータ削除処理されたウェーブレット係数を用いて符号化処理を実行する符号化処理工程と、を含んでいることを特徴とする。 7. The non-interlaced image processing method according to claim 6, wherein the non-interlaced image is formed by alternately arranging two interlaced images scanned successively for each scanned line. small wavelet transform step of performing level 1 or more two-dimensional discrete wavelet transform on the data of the image, among the wavelet coefficients obtained by the wavelet transform process, the wavelet coefficients of each sub-band of level 1 than each of the sub-band The code block is divided into code blocks each including a pixel matrix, and for each code block, the sum of the absolute values of the coefficient values of the 1LH code block is calculated as the coefficient value of the level 1 code block including at least 1HL at the position corresponding to the code block. The value divided by the sum of absolute values , It is determined that the moving speed of the object is larger than a predetermined threshold is high, a determination step of determining a moving speed of the object in the case of less than a predetermined threshold value is low, determination step executes the data deletion processing less than the data deletion of the other sub-band data deletion of subbands 1LH for code block the moving speed is determined to be high-speed subject by subject by determining step A data deletion processing step for executing a data deletion process in which the data deletion amount of the 1HL subband is smaller than the data deletion amount of the other subbands, it includes a coding processing step of performing an encoding process using the wavelet coefficients data deletion process by the processing step And wherein the door.

請求項7に記載のノンインターレース画像の処理方法は、請求項6に記載のノンインターレース画像の処理方法であって、上記判定工程が、上記処理を行うサブバンドのウェーブレット係数に対して仮の符号化処理を実行し、上記処理を行う各サブバンドの係数値の絶対値の合計の代わりに、前記仮の符号化処理によって得られる符号量の合計を用いて、インターレース画像内の被写体の移動速度を判定するものである、ことを特徴とする。
The non-interlaced image processing method according to claim 7 is the non-interlaced image processing method according to claim 6, wherein the determination step uses a temporary code for the wavelet coefficients of the subband to be processed. Speed of the subject in the interlaced image using the sum of the code amounts obtained by the provisional encoding process instead of the sum of the absolute values of the coefficient values of each subband for which the above process is performed. It is characterized by determining.

請求項1乃至請求項3、請求項5(請求項1乃至3を引用するものに限る)に記載のノンインターレース画像の処理装置、請求項6に記載のノンインターレース画像の処理方法は、2次元離散ウェーブレット変換により得られる1LHのサブバンドの係数値に基づいてフレーム内の被写体の移動速度をコードブロック単位で判定する。これにより、フレーム間の被写体の移動量を求めることなく、簡単な演算処理により被写体の移動速度の判定を行うことができる。また、サブバンドよりも細かなコードブロック単位で被写体の移動速度の判定を行うことにより、サブバンド単位で被写体の移動速度を判定する場合に比べて、例えば、静止画の中で被写体だけが移動する場合に、静止画の部分と動画の部分とを分けて適応的に処理することができる。 The non-interlaced image processing apparatus according to any one of claims 1 to 3 and claim 5 (limited to those cited in claims 1 to 3), and the non-interlaced image processing method according to claim 6 are two-dimensional. Based on the coefficient value of the 1LH subband obtained by the discrete wavelet transform, the moving speed of the subject in the frame is determined in units of code blocks. Thereby, the moving speed of the subject can be determined by a simple calculation process without obtaining the moving amount of the subject between frames. Also, by determining the moving speed of the subject in units of code blocks that are finer than the subband, for example, only the subject moves in the still image compared to the case of determining the moving speed of the subject in subband units. In this case, it is possible to adaptively process the still image portion and the moving image portion separately.

請求項4、請求項5(請求項4を引用するものに限る)に記載のノンインターレース画像の処理装置、請求項7に記載のノンインターレース画像の処理方法は、2次元離散ウェーブレット変換により得られる1LHのサブバンドの係数値を仮に算術符号化することにより得られる符号の量に基づいてフレーム内の被写体の移動速度をコードブロック単位で判定する。これにより、フレーム間の被写体の移動量を求めることなく、簡単な演算処理により被写体の移動速度の判定を行うことができる。また、サブバンドよりも細かなコードブロック単位で被写体の移動速度の判定を行うことにより、サブバンド単位で被写体の移動速度を判定する場合に比べて、例えば、静止画の中で被写体だけが移動する場合に、静止画の部分と動画の部分とを分けて適応的に処理することができる。 The non-interlaced image processing apparatus according to claim 4 and claim 5 (limited to those cited in claim 4) and the non-interlaced image processing method according to claim 7 are obtained by two-dimensional discrete wavelet transform. The moving speed of the subject in the frame is determined in units of code blocks based on the amount of codes obtained by arithmetically coding the coefficient values of the 1LH subband. Thereby, the moving speed of the subject can be determined by a simple calculation process without obtaining the moving amount of the subject between frames. Also, by determining the moving speed of the subject in units of code blocks that are finer than the subband, for example, only the subject moves in the still image compared to the case of determining the moving speed of the subject in subband units. In this case, it is possible to adaptively process the still image portion and the moving image portion separately.

(1)実施の形態
本発明の画像処理装置は、JPEG2000に準拠した符号化処理を実行する装置であり、ビデオカメラ等により連続して撮り込まれる一連の複数のインターレース画像より得られる1枚のノンインターレース画像の画像データを処理対象とする。以下、文中において、ノンインターレース画像とは、一連の複数のインターレース画像より得られる1枚の画像のことを意味する。
(1) Embodiment The image processing apparatus of the present invention is an apparatus that executes encoding processing compliant with JPEG2000, and is a single image obtained from a series of a plurality of interlaced images continuously captured by a video camera or the like. The image data of a non-interlaced image is a processing target. Hereinafter, in the text, a non-interlaced image means one image obtained from a series of a plurality of interlaced images.

本発明の画像処理装置は、上記ノンインターレス画像の画像データを2次元離散ウェーブレット変換して得られるウェーブレット係数の内、1HLのサブバンドの係数値及び符号量は、1LHのサブバンドの係数値及び符号量が撮像するフレーム内での被写体の横方向の移動速度に応じて増加するのに対して、ほぼ一定の値を示すことに着目し、当該特性を利用してフレーム内での被写体の横方向の移動速度(高速/低速)を、サブバンドよりも小さな、例えば、32×32画素マトリクスよりなるコードブロック単位に判定し、判定結果に応じて、コードブロック単位により効果的な符号化処理を実行することを特徴とする。これにより、サブバンド単位で被写体の移動速度を判定し、判定結果に基づいて適応的な画像処理を実行する場合に比べて、例えば、静止画の中で被写体だけが移動する場合に、静止画の部分と動画の部分とをコードブロック単位で分けてより適切な処理を施すことができる。   In the image processing apparatus of the present invention, among the wavelet coefficients obtained by performing two-dimensional discrete wavelet transform on the image data of the non-interlaced image, the coefficient value and code amount of the 1HL subband are the coefficient values of the 1LH subband. Focusing on the fact that the code amount increases according to the lateral movement speed of the subject within the frame to be imaged, it shows an almost constant value. The moving speed (high speed / low speed) in the horizontal direction is determined in units of code blocks that are smaller than the subband, for example, a 32 × 32 pixel matrix, and more effective coding processing is performed in units of code blocks according to the determination result. It is characterized by performing. Thus, compared with the case where the moving speed of the subject is determined in units of subbands and adaptive image processing is executed based on the determination result, for example, when only the subject moves in the still image, the still image And the video part can be divided into code block units for more appropriate processing.

以下、添付の図面を用いて本発明の画像処理装置の実施の形態、及び、フレーム内での被写体の移動速度の判定処理についての種々の変形例について説明する。図1は、インターレース画像の処理装置10の全体構成を示す図である。インターレース画像の処理装置10は、中央演算処理装置(CPU)1を中心に、画像処理プログラムが格納されているROM2、上記画像処理プログラムの実行時に使用されるRAM3、マン・マシン・インターフェースであるキーボード4及びマウス5、ディスプレイ6、主記録装置であり、ビデオカメラ8で撮影した映像の符号化処理途中における画像データ及び符号化処理後の符号データを記録するハードディスク(HD)7、並びに、ビデオカメラ8で構成される。   DESCRIPTION OF THE PREFERRED EMBODIMENTS Embodiments of an image processing apparatus according to the present invention and various modifications of a process for determining a moving speed of a subject within a frame will be described below with reference to the accompanying drawings. FIG. 1 is a diagram illustrating an overall configuration of an interlaced image processing apparatus 10. An interlaced image processing apparatus 10 is composed of a central processing unit (CPU) 1, a ROM 2 that stores an image processing program, a RAM 3 that is used when the image processing program is executed, and a keyboard that is a man-machine interface. 4 and mouse 5, display 6, main recording device, hard disk (HD) 7 for recording image data in the middle of encoding processing of video taken by video camera 8 and encoded data after encoding processing, and video camera 8 is composed.

図2は、ビデオカメラ8により撮影される一連のフレームを示す図である。ビデオカメラ8は、撮影の開始時間tと共にフレーム0の画像のインターレース形式によるスキャンを行い、1/60秒後にフレーム1の画像のインターレース形式によるスキャンを行う。そして終了時間tまでの間に1/60秒単位で合計n枚のフレームの画像をインターレース形式でスキャンする。 FIG. 2 is a diagram showing a series of frames taken by the video camera 8. The video camera 8 scans the frame 0 image in the interlace format together with the shooting start time t 0 , and scans the frame 1 image in the interlace format 1/60 seconds later. Then, a total of n frames of images are scanned in interlace format in units of 1/60 seconds until the end time t n .

図3の(a)〜(d)は、ビデオカメラ8により得られるインターレース画像からノンインターレース画像を生成する際に生じる現象と当該現象を利用する移動速度の判定原理について説明するための図である。図3の(a)に示すように、インターレース形式では、1画素のライン(実線で示す走査ライン)をスキャンした後、直ぐ下の画素のライン(点線で示す走査ライン)を飛ばして2画素下のライン(実線で示す走査ライン)をスキャンする。インターレース画像Aのスキャン終了後、ビデオカメラ8は、直ちに、図3の(b)に示すように、前回スキャンしなかった画素ライン(実線で示す走査ライン)のスキャンを行う。これによりインターレース画像Bが撮影される。この撮影時、あるラインをスキャンしてから直ぐ下の画素のラインをスキャンするのに1/60秒経過している。図3の(a)と(b)を比較すれば解るように、上記1/60秒の間に被写体15は右方向(当然左方向の場合もある)に移動している。このため、図3の(c)に示すように、インターレース画像Aにインターレース画像Bを重ね合わせて成るノンインターレース画像の両端部分には、数画素分のくし型のずれが生じる。   3A to 3D are diagrams for explaining a phenomenon that occurs when a non-interlaced image is generated from an interlaced image obtained by the video camera 8, and a principle of determination of a moving speed that uses the phenomenon. . As shown in FIG. 3A, in the interlaced format, after scanning a line of one pixel (scan line indicated by a solid line), the line of the pixel immediately below (scan line indicated by a dotted line) is skipped and two pixels below. Are scanned (scan lines indicated by solid lines). After the scan of the interlaced image A is completed, the video camera 8 immediately scans the pixel lines (scan lines indicated by solid lines) that were not scanned last time, as shown in FIG. Thereby, an interlaced image B is photographed. At the time of this photographing, 1/60 seconds have elapsed since the scanning of the line of the pixel immediately below after scanning a certain line. As can be seen by comparing (a) and (b) in FIG. 3, the subject 15 has moved in the right direction (of course, in some cases leftward) during the 1/60 second. For this reason, as shown in FIG. 3C, comb-shaped shifts of several pixels occur at both ends of the non-interlaced image formed by superimposing the interlaced image B on the interlaced image A.

なお、上記ノンインターレース画像のデータは、インターレース画像A及びインターレース画像Bの画像データをスキャンしたライン毎(上記の例では1画素単位の走査ライン毎)に、交互に並べる(スキャンしていないラインのデータを補充する)ことで形成することができる。   Note that the non-interlaced image data is alternately arranged for each line obtained by scanning the image data of the interlaced image A and the interlaced image B (in the above example, for each scanning line of one pixel unit). It can be formed by supplementing data).

図3の(c)に示すくし型のずれの量Lは、被写体15のインターレース画像内での移動速度に比例して長くなる。図3の(d)に示すように、上記くし型のずれを有するノンインターレス画像の画像データを2次元離散ウェーブレット変換して得られる1LHのサブバンドの係数値は、横のエッジ成分E1の合計、即ち、被写体15のインターレース画像内での移動速度に比例して増加する。また、1HLのサブバンドの係数値は、縦のエッジ成分E2の合計に比例して係数値が増加するが、一般の撮影では殆どの被写体は横方向に移動するという経験則に従い、被写体の移動速度によって殆ど変化しないものであるとして取り扱う。以下に説明するように、画像処理装置10では、1LHのサブバンドの係数値の上記特性を利用して、インターレース画像内での被写体の移動速度をコードブロック単位で判定する。   The amount L of the comb-shaped shift shown in FIG. 3C increases in proportion to the moving speed of the subject 15 in the interlaced image. As shown in FIG. 3 (d), the coefficient value of the 1LH subband obtained by two-dimensional discrete wavelet transform of the image data of the non-interlaced image having the comb-shaped shift is the horizontal edge component E1. The total increases, that is, in proportion to the moving speed of the subject 15 within the interlaced image. The coefficient value of the 1HL subband increases in proportion to the sum of the vertical edge components E2, but the subject movement follows the empirical rule that most subjects move in the horizontal direction in general shooting. Treated as being almost unchanged by speed. As will be described below, the image processing apparatus 10 determines the moving speed of the subject in the interlaced image in units of code blocks using the above characteristics of the coefficient value of the 1LH subband.

図4は、画像処理装置10のCPU1が実行する画像処理プログラムのメインルーチンのフローチャートである。まず、ビデオカメラ8により一連の複数のフレーム(図2を参照)で構成されるインターレース形式の画像データを取得する(ステップS1)。具体的には、ビデオカメラ8により1/60秒単位でスキャンされるインターレース画像のデータをRAM3又はハードディスク7に記録する。なお、連続するフレームのインターレース画像のデータの取得方法としては、上記ビデオカメラ8を用いる他、例えば、圧縮符号化前の状態でハードディスク7に一連の複数のフレーム分のインターレース画像のデータを記録しておき、当該データを順に読み出すことも考えられる。   FIG. 4 is a flowchart of the main routine of the image processing program executed by the CPU 1 of the image processing apparatus 10. First, interlaced image data composed of a series of a plurality of frames (see FIG. 2) is acquired by the video camera 8 (step S1). Specifically, interlaced image data scanned by the video camera 8 in units of 1/60 seconds is recorded in the RAM 3 or the hard disk 7. As a method for acquiring interlaced image data of consecutive frames, in addition to using the video camera 8, for example, a series of interlaced image data for a plurality of frames is recorded on the hard disk 7 in a state before compression encoding. It is also possible to read out the data sequentially.

連続してスキャンされるフレーム2枚分のインターレース画像を合成(いわゆるインターレース変換)し、図3の(c)に示したようなノンインターレース画像を形成する(ステップS2)。当該インターレース変換処理は、例えば、2枚の連続してスキャンされたインターレース画像の画像データを、RAM3にスキャンしたライン毎に交互に出力することにより行う。または、先に読み込んだインターレース画像のデータをRAM3内に設けたノンインターレース画像のデータマップに展開した後、引き続きスキャンするインターフェース画像のデータを上記データマップに書き込むことにより行っても良い。   Interlaced images for two frames scanned continuously are synthesized (so-called interlaced conversion) to form a non-interlaced image as shown in FIG. 3C (step S2). The interlace conversion process is performed, for example, by alternately outputting image data of two consecutively scanned interlace images for each scanned line in the RAM 3. Alternatively, after the previously read interlaced image data is developed into a non-interlaced image data map provided in the RAM 3, the interface image data to be continuously scanned may be written in the data map.

上記インターレース変換により得られたノンインターレース画像の画像データを、Y,Cr,Cbの色成分データに変換する(ステップS3)。以降の処理部で各成分の色データは同じ手順で並列に処理されるが、説明の簡単化のため、以下、Y成分の色データについてのみ説明する。   The image data of the non-interlaced image obtained by the interlace conversion is converted into Y, Cr, Cb color component data (step S3). In the subsequent processing units, the color data of each component is processed in parallel according to the same procedure, but for the sake of simplicity, only the color data of the Y component will be described below.

Y成分の色データにレベル3の2次元離散ウェーブレット変換を施し、ウェーブレット係数をコードブロックに分割し、得られるウェーブレット係数をRAM3又はハードディスク7に記録する(ステップS4)。当該処理により得られたウェーブレット係数に、JPEG2000に規定のスカラ量子化処理を施した後、処理後のデータをRAM3またはハードディスク7に記録する(ステップS5)。上記ステップS3からステップS5までの処理は、JPEG2000に準拠して行う周知の処理である。   The Y component color data is subjected to level 3 two-dimensional discrete wavelet transform, the wavelet coefficients are divided into code blocks, and the obtained wavelet coefficients are recorded in the RAM 3 or the hard disk 7 (step S4). The wavelet coefficient obtained by the processing is subjected to the scalar quantization processing prescribed in JPEG2000, and the processed data is recorded in the RAM 3 or the hard disk 7 (step S5). The processes from step S3 to step S5 are well-known processes performed in accordance with JPEG2000.

次にデータ削減処理を行う(ステップS6)。当該処理は、画像処理装置10独自の処理であり、後に詳しく説明するように、RAM3又はハードディスク7に記録されている1LHのサブバンドのウェーブレット係数に基づいて被写体の移動速度が高速であるのか、又は低速であるのかをコードブロック単位で判定する速度判定処理と、当該処理により被写体が高速で移動していると判定されたコードブロックの画像については、上記RAM3又はハードディスク7に記録されているスカラ量子化後のデータに対し、LH成分を重視したデータ削減処理を施し、被写体が低速で移動していると判定された画像については、HL成分を重視したデータ削減処理を施す処理のことをいう。   Next, data reduction processing is performed (step S6). This process is unique to the image processing apparatus 10 and, as will be described in detail later, whether the moving speed of the subject is high based on the wavelet coefficient of the 1LH subband recorded in the RAM 3 or the hard disk 7. Alternatively, a speed determination process for determining whether the speed is low in code block units, and a code block image for which it is determined that the subject is moving at a high speed by the process are scalars recorded in the RAM 3 or the hard disk 7. This refers to a process of performing data reduction processing with an emphasis on the LH component on the quantized data and performing data reduction processing with an emphasis on the HL component for an image in which it is determined that the subject is moving at a low speed. .

上記データ削減処理後、各ブロックに分割されたウェーブレット係数をビットプレーンに分割し、JPEG2000に規定の手順による算術符号化処理(いわゆる係数モデリング処理)を施し、処理後のデータをRAM3又はハードディスク7に記録する(ステップS7)。   After the above data reduction processing, the wavelet coefficients divided into blocks are divided into bit planes, subjected to arithmetic coding processing (so-called coefficient modeling processing) according to a procedure prescribed in JPEG2000, and the processed data is stored in the RAM 3 or the hard disk 7 Record (step S7).

上記算術符号化により得られた符号のデータを用いてJPEG2000に規定されている符号形成理を実行し(ステップS8)、得られる符号データをハードディスク7に記録する(ステップS9)。全てのフレーム処理が終了していない場合(ステップS10でNO)、上記ステップS1に戻り、ビデオカメラ8により次に撮影された画像の符号化処理を実行する。他方、ビデオカメラ8による撮影が終了し、全ての符号化処理が終了した場合(ステップS10でYES)、処理を終了する。   Using the code data obtained by the above arithmetic coding, the code formation defined in JPEG2000 is executed (step S8), and the obtained code data is recorded on the hard disk 7 (step S9). If all the frame processes have not been completed (NO in step S10), the process returns to step S1 and an encoding process for the next image taken by the video camera 8 is executed. On the other hand, when shooting by the video camera 8 is finished and all encoding processes are finished (YES in step S10), the process is finished.

上述するように、ステップS1、S2、S6以外の処理(ステップS3,S4,S5,S7,S8)は、全てJPEG2000の規格に従う手順で実行されるものであり、これらの処理は、ステップS9及びステップS10の処理と共に、ハードウェア回路により実現しても良い。これにより処理の高速化が図られる。なお、JPEG2000に準拠する符号化処理を全てハードウェア回路で実現する画像処理装置は、既に存在する。   As described above, the processes other than steps S1, S2, and S6 (steps S3, S4, S5, S7, and S8) are all executed according to the procedure according to the JPEG2000 standard. Along with the processing in step S10, it may be realized by a hardware circuit. This speeds up the processing. Note that there is already an image processing apparatus that implements all the encoding processing compliant with JPEG2000 with a hardware circuit.

更に、インターレース変換(ステップS2)やデータ削減処理(ステップS6)をハード回路により実現しても良い。例えば、インターレース変換の処理は、最初にスキャンしたインターレース画像の画像データを保持しておく第1レジスタと、引き続きスキャンしたインターレース画像の画像データを保持しておく第2レジスタと、第2レジスタへのデータの書き込み終了と共に、第1及び第2レジスタからライン毎に交互にデータをノンインターレース用の画像メモリ又はバッファメモリに出力する第1リレースイッチと、第1及び第2レジスタからデータを出力している間、引き続きスキャンされるインターレース画像を保持するための第3及び第4レジスタ並びに当該第4レジスタへのデータの書き込み終了と共に第3及び第4レジスタからライン毎に交互にデータを上記ノンインターレース用の画像メモリ又はバッファメモリに出力する第2リレースイッチを用意することによりハード回路として実現することができる。これにより処理の高速化が図られる。   Furthermore, interlace conversion (step S2) and data reduction processing (step S6) may be realized by a hardware circuit. For example, the interlace conversion process includes the first register that holds the image data of the first scanned interlaced image, the second register that holds the image data of the scanned interlaced image, and the second register. Upon completion of data writing, the first relay switch that outputs data alternately from the first and second registers line by line to the non-interlaced image memory or buffer memory, and data is output from the first and second registers. The third and fourth registers for holding the interlaced image to be continuously scanned, and the data for the non-interlace alternately from the third and fourth registers at the end of the writing of data to the fourth register. Relay that outputs to the image memory or buffer memory By providing a switch it can be implemented as a hardware circuit. This speeds up the processing.

図5は、データ削減処理(図4のステップS6)の処理フローチャートを示す図である。まず、レベル3の2次元離散ウェーブレット変換により得られたウェーブレット係数を、例えば、32×32画素マトリクスで成るコードブロックに分割する(ステップS20)。図6は、上記分割処理により各サブバンド(1LH,1HL,1HH,2LH,2HL,2HH,3LL,3LH,3HL,3HH)内に生成されるコードブロックを示す図である。1LH及び1HLのサブバンドは、合計でn個のコードブロックに分割される。また、2LH及び2HLのサブバンドは、合計でm個のコードブロックに分割される。以下、サブバンド内の各コードブロックを変数CBの値で特定するが、理解の容易のため、図には、例えば、1LHのサブバンドのCB=1のコードブロックをCBと記す。変数CBの値は、例えば、1HLのサブバンドの領域に複数の矢印で示すように、各サブバンド内で、いわゆるラスタ走査順序に従い1づつ増加する。 FIG. 5 is a diagram showing a process flowchart of the data reduction process (step S6 in FIG. 4). First, the wavelet coefficients obtained by the level 3 two-dimensional discrete wavelet transform are divided into, for example, code blocks formed of a 32 × 32 pixel matrix (step S20). FIG. 6 is a diagram illustrating code blocks generated in each subband (1LH, 1HL, 1HH, 2LH, 2HL, 2HH, 3LL, 3LH, 3HL, and 3HH) by the above division processing. The 1LH and 1HL subbands are divided into a total of n code blocks. Also, the 2LH and 2HL subbands are divided into a total of m code blocks. Hereinafter be identified by the values of each code block variable CB in a sub-band, for easy understanding, in the figure, for example, mark the CB = 1 code block of subbands 1LH and CB 1. The value of the variable CB increases, for example, one by one according to a so-called raster scanning order within each subband, as indicated by a plurality of arrows in the 1HL subband region.

再び、図5のフローチャートを参照する。初期値としてコードブロックを表す変数CBの値を1に設定する(ステップS21)。1LHのコードブロックCBの係数の絶対値の和sum1LHを算出する(ステップS22)。1HLのコードブロックCBの係数の絶対値の和sum1HLを算出する(ステップS23)。上記求めた係数を用いてsum1LH/sum1HL=speedを算出する(ステップS24)。上記変数speedは、フレーム内における被写体の移動速度に略比例して変化すると考えることができる。というのは、上述したように、1LHの係数の値が画像の横方向のエッジ量の増加、即ち、フレーム内での被写体の移動速度の上昇に比例して増えるのに対して、1HLの係数の値が画像の縦方向のエッジ量に比例する値を取り、経験上、被写体は殆どの場合、横方向にしか移動しないため、比較的安定した値をとるためである。   Reference is again made to the flowchart of FIG. The value of the variable CB representing the code block is set to 1 as an initial value (step S21). The sum sum1LH of the absolute values of the coefficients of the 1LH code block CB is calculated (step S22). The sum sum1HL of the absolute values of the coefficients of the 1HL code block CB is calculated (step S23). Sum1LH / sum1HL = speed is calculated using the obtained coefficient (step S24). The variable speed can be considered to change substantially in proportion to the moving speed of the subject in the frame. This is because, as described above, the value of the 1LH coefficient increases in proportion to the increase in the edge amount in the horizontal direction of the image, that is, the increase in the moving speed of the subject within the frame, whereas the coefficient of 1HL. This value is a value that is proportional to the amount of edge in the vertical direction of the image, and from experience, the subject moves only in the horizontal direction in most cases, and thus takes a relatively stable value.

算出した変数speedが実験的に定められるしきい値th1よりも大きい場合には(ステップS25でYES)、当該コードブロックCB内の画像は高速で移動していると判断し、1LH重視のデータ削減処理を実行する。具体的には、1LHのコードブロックCBのビットプレーンをLSBから1枚削除し(ステップS26)、1HLのコードブロックCBのビットプレーンをLSBから2枚削除する(ステップS27)。他方、変数speedがしきい値th1以下の場合には(ステップS25でNO)、当該コードブロックCB内の画像は低速で移動していると判断し、1HL重視のデータ削減処理を実行する。具体的には、1LHのコードブロックCBのビットプレーンをLSBから1枚削除し(ステップS28)、1HLのコードブロックCBのビットプレーンをLSBから2枚削除する(ステップS29)。   If the calculated variable speed is larger than the experimentally determined threshold value th1 (YES in step S25), it is determined that the image in the code block CB is moving at a high speed, and data reduction is focused on 1LH. Execute the process. Specifically, one bit plane of the 1LH code block CB is deleted from the LSB (step S26), and two bit planes of the 1HL code block CB are deleted from the LSB (step S27). On the other hand, when the variable speed is equal to or less than the threshold th1 (NO in step S25), it is determined that the image in the code block CB is moving at a low speed, and data reduction processing with an emphasis on 1HL is executed. Specifically, one bit plane of the 1LH code block CB is deleted from the LSB (step S28), and two bit planes of the 1HL code block CB are deleted from the LSB (step S29).

図7の(a)は、スカラ量子化後の1LH及び1Hlのサブバンドのウェーブレット係数をビットプレーンに分解した状態を示す図である。図7の(b)は、図5に示すフローチャートのステップS25において高速と判断された場合にステップS26及びS27において実行する処理内容を図解するものである。図7の(b)に斜線を付して示すように、ビットプレーンに分解された1LHのコードブロックCBの係数の内、最下位ビットであるLSBから1ビット分のデータを削除する。また、1HLのコードブロックCBの係数の内、最下位ビットであるLSBから2ビット分のデータを削除する。   FIG. 7A is a diagram illustrating a state in which wavelet coefficients of 1LH and 1Hl subbands after scalar quantization are decomposed into bit planes. (B) of FIG. 7 illustrates the processing contents executed in steps S26 and S27 when it is determined that the speed is high in step S25 of the flowchart shown in FIG. As shown by hatching in FIG. 7 (b), one bit of data is deleted from the least significant bit LSB among the coefficients of the 1LH code block CB decomposed into bit planes. Further, 2 bits of data are deleted from the least significant bit LSB among the coefficients of the 1HL code block CB.

また、図7の(c)は、上記ステップS25において低速と判断された場合にステップS28及びS29において実行する処理内容を図解するものである。図7の(c)に斜線を付して示すように、ビットプレーンに分解された1LHのコードブロックCBの係数の内、最下位ビットであるLSBから2ビット分のデータを削除する。また、1HLのコードブロックCBの係数の内、最下位ビットであるLSBから1ビット分のデータを削除する。   FIG. 7C illustrates the processing contents executed in steps S28 and S29 when the low speed is determined in step S25. As indicated by hatching in FIG. 7C, 2-bit data is deleted from the least significant bit LSB among the coefficients of the 1LH code block CB decomposed into bit planes. In addition, one bit of data is deleted from the least significant bit LSB among the coefficients of the 1HL code block CB.

再び図5のフローチャートを参照する。n個のコードブロック全てについて上記移動速度に応じたデータ削減処理が終了していない場合には(ステップS30でNO)、変数CBに1を加算した後(ステップS31)、上記ステップS22に戻り、コードブロック単位での移動速度の判定処理を続行する。他方、n個のコードブロック全てについて上記処理が完了した場合、即ち変数CB=nの場合には(ステップS30でYES)、処理を終了してメインルーチンにリターンする。   Reference is again made to the flowchart of FIG. If the data reduction processing corresponding to the moving speed has not been completed for all n code blocks (NO in step S30), 1 is added to the variable CB (step S31), and the process returns to step S22. Continue moving speed judgment processing in code blocks. On the other hand, when the above process is completed for all n code blocks, that is, when variable CB = n (YES in step S30), the process ends and the process returns to the main routine.

以上に説明するように、画像処理装置10では、符号化を行う画像データに対して行ったレベル3の2次元離散ウェーブレット変換により得られるウェーブレット係数の内、特に1LHのサブバンドの係数値及び符号量が、撮像するフレーム内での被写体の横方向の移動速度に応じて増加するのに対し、1HLのサブバンドの係数値及び符号量は、ほぼ一定の値を示すことに着目し、当該特性を利用してコードブロック毎の被写体の横方向の移動速度を検出し、検出した値に応じて、より効果的な符号化処理を実行する。これにより、フレーム間の画像データの差分を用いることなく、少ない量のデータを用いて、かつ、簡単な演算処理により、上記物体の移動速度をコードブロック単位で検出し、コードブロック単位で適応的な圧縮符号化処理を行うことができる。   As described above, in the image processing apparatus 10, among the wavelet coefficients obtained by the level 3 two-dimensional discrete wavelet transform performed on the image data to be encoded, in particular, coefficient values and codes of 1 LH subbands. Focusing on the fact that the coefficient value and code amount of the 1HL sub-band show almost constant values, while the amount increases in accordance with the lateral movement speed of the subject within the frame to be imaged, Is used to detect the moving speed of the subject in the horizontal direction for each code block, and more effective encoding processing is executed according to the detected value. This makes it possible to detect the moving speed of the object in units of code blocks by using a small amount of data and using simple calculation processing without using the difference in image data between frames, and adaptively in units of code blocks. Compression / encoding processing can be performed.

(2)変形例1
上記画像処理装置10では、図5のフローに示すように、1LH及び1HLのサブバンドの係数値に基づいてフレーム内の被写体の移動速度の判定を行ったが、更に1HHのサブバンドの係数値も処理対象とし、実験的に速度判定に有効であった被写体の移動速度判定処理を利用するデータ削減処理の変形例を以下に説明する。
(2) Modification 1
In the image processing apparatus 10, as shown in the flow of FIG. 5, the moving speed of the subject in the frame is determined based on the coefficient values of the 1LH and 1HL subbands. A modified example of the data reduction process using the subject moving speed determination process that was effective for speed determination experimentally will be described below.

図8は、データ削減処理(図4、ステップS6)の変形例1の処理フローチャートである。まず、レベル3の2次元離散ウェーブレット変換により得られたウェーブレット係数を32×32画素マトリクスで成るコードブロックに分割する(ステップS20)。これにより、レベル1のサブバンドは、各n個のコードブロックに分割される。コードブロックを表す変数CBの値を初期値である1に設定する(ステップS41)。1LHのコードブロックCBの係数の絶対値の和sum1LHを算出する(ステップS42)。1HLのコードブロックCBの係数の絶対値の和sum1HLを算出する(ステップS43)。1HHのコードブロックCBの係数の絶対値の和sum1HHを算出する(ステップS44)。上記求めた係数を用いてsum1LH/(sum1LH+sum1HL+sum1HH)=speedを算出する(ステップS24)。   FIG. 8 is a process flowchart of Modification 1 of the data reduction process (FIG. 4, step S6). First, the wavelet coefficients obtained by the level 3 two-dimensional discrete wavelet transform are divided into code blocks each comprising a 32 × 32 pixel matrix (step S20). As a result, the level 1 subband is divided into n code blocks. The value of the variable CB representing the code block is set to 1 which is an initial value (step S41). The sum sum1LH of the absolute values of the coefficients of the 1LH code block CB is calculated (step S42). The sum sum1HL of the absolute values of the coefficients of the 1HL code block CB is calculated (step S43). The sum sum1HH of the absolute values of the coefficients of the 1HH code block CB is calculated (step S44). Sum1LH / (sum1LH + sum1HL + sum1HH) = speed is calculated using the obtained coefficient (step S24).

算出した変数speedが実験的に定められるしきい値th2よりも大きい場合には(ステップS46でYES)、当該コードブロックCB内の画像は高速で移動していると判断し、1LH重視のデータ削減処理を実行する。具体的には、1LHのコードブロックCBのビットプレーンをLSBから1枚削除し(ステップS47)、1HLのコードブロックCBのビットプレーンをLSBから2枚削除する(ステップS48)。他方、変数speedがしきい値th2以下の場合には(ステップS46でNO)、当該コードブロックCB内の画像は低速で移動していると判断し、1HL重視のデータ削減処理を実行する。具体的には、1LHのコードブロックCBのビットプレーンをLSBから1枚削除し(ステップS49)、1HLのコードブロックCBのビットプレーンをLSBから2枚削除する(ステップS50)。   If the calculated variable speed is greater than the experimentally determined threshold value th2 (YES in step S46), it is determined that the image in the code block CB is moving at a high speed, and data reduction is focused on 1LH. Execute the process. Specifically, one bit plane of the 1LH code block CB is deleted from the LSB (step S47), and two bit planes of the 1HL code block CB are deleted from the LSB (step S48). On the other hand, when the variable speed is equal to or smaller than the threshold th2 (NO in step S46), it is determined that the image in the code block CB is moving at a low speed, and the data reduction process with emphasis on 1HL is executed. Specifically, one bit plane of the 1LH code block CB is deleted from the LSB (step S49), and two bit planes of the 1HL code block CB are deleted from the LSB (step S50).

n個のコードブロック全てについて上記移動速度に応じたデータ削減処理が終了していない場合には(ステップS51でNO)、変数CBに1を加算した後(ステップS52)、上記ステップS42に戻り、コードブロック単位での移動速度の判定処理を続行する。他方、n個のコードブロック全てについて上記処理が完了した場合、即ち変数CB=nの場合には(ステップS46でYES)、処理を終了してメインルーチンにリターンする。   If the data reduction process corresponding to the moving speed has not been completed for all n code blocks (NO in step S51), 1 is added to the variable CB (step S52), and the process returns to step S42. Continue moving speed judgment processing in code blocks. On the other hand, when the above process is completed for all n code blocks, that is, when variable CB = n (YES in step S46), the process ends and the process returns to the main routine.

(3)他の変形例
上述するようにフレーム内の被写体の移動速度は、1LHのウェーブレット係数の値に比例するが、当該ウェーブレット係数を5:3のロスレス・フィルタを用いて符号化して得られる1LHのサブバンドの符号データの量にも当然比例する。以下、図5及び図8に示した2つの速度判定処理を仮算術符号化処理により求めた符号の量に基づいて行う場合について順に簡単に説明する。
(3) Other Modifications As described above, the moving speed of the subject in the frame is proportional to the value of the wavelet coefficient of 1LH, but is obtained by encoding the wavelet coefficient using a 5: 3 lossless filter. Naturally, it is also proportional to the amount of code data of the 1 LH subband. Hereinafter, the case where the two speed determination processes shown in FIGS. 5 and 8 are performed based on the amount of codes obtained by the provisional arithmetic encoding process will be briefly described in order.

図9は、図5に示した速度判定処理を仮算術符号化処理により求めた符号の量に基づいて行う場合の処理手順を示す図である。まず、図4のメインルーチンのステップS5において実行したスカラ量子化後のウェーブレット係数のデータを32×32画素マトリクスで成るコードブロックに分割する(ステップS60)。これにより、レベル1のサブバンドは、各n個のコードブロックに分割される。次に、各コードブロックに分割したウェーブレット係数に対して仮算術符号化処理を施す(ステップS61)。各サブバンドのコードブロックを表す変数CBの値を初期値である1に設定する(ステップS62)。1LHのコードブロックCBの符号量の和sum1LHを算出する(ステップS63)。1HLのコードブロックCBの符号量の和sum1HLを算出する(ステップS64)。sum1LH/sum1HL=speedを算出する(ステップS65)。   FIG. 9 is a diagram illustrating a processing procedure when the speed determination process illustrated in FIG. 5 is performed based on the amount of codes obtained by the provisional arithmetic encoding process. First, the data of the wavelet coefficient after the scalar quantization executed in step S5 of the main routine of FIG. 4 is divided into code blocks composed of a 32 × 32 pixel matrix (step S60). As a result, the level 1 subband is divided into n code blocks. Next, provisional arithmetic coding processing is performed on the wavelet coefficients divided into the code blocks (step S61). The value of the variable CB representing the code block of each subband is set to 1 which is an initial value (step S62). The sum sum1LH of the code amounts of the 1LH code block CB is calculated (step S63). The sum sum1HL of the code amount of the 1HL code block CB is calculated (step S64). Sum1LH / sum1HL = speed is calculated (step S65).

算出した変数speedが実験的に定められるしきい値th3よりも大きい場合には(ステップS66でYES)、当該コードブロックCB内の画像は高速で移動していると判断し、1LH重視のデータ削減処理を実行する。具体的には、1LHのコードブロックCBのビットプレーンをLSBから1枚削除し(ステップS67)、1HLのコードブロックCBのビットプレーンをLSBから2枚削除する(ステップS68)。他方、変数speedがしきい値th3以下の場合には(ステップS66でNO)、当該コードブロックCB内の画像は低速で移動していると判断し、1HL重視のデータ削減処理を実行する。具体的には、1LHのコードブロックCBのビットプレーンをLSBから1枚削除し(ステップS69)、1HLのコードブロックCBのビットプレーンをLSBから2枚削除する(ステップS70)。   If the calculated variable speed is larger than the experimentally determined threshold value th3 (YES in step S66), it is determined that the image in the code block CB is moving at a high speed, and 1LH-oriented data reduction is performed. Execute the process. Specifically, one bit plane of the 1LH code block CB is deleted from the LSB (step S67), and two bit planes of the 1HL code block CB are deleted from the LSB (step S68). On the other hand, if the variable speed is equal to or less than the threshold th3 (NO in step S66), it is determined that the image in the code block CB is moving at a low speed, and 1HL-oriented data reduction processing is executed. Specifically, one bit plane of the 1LH code block CB is deleted from the LSB (step S69), and two bit planes of the 1HL code block CB are deleted from the LSB (step S70).

n個のコードブロック全てについて上記移動速度に応じたデータ削減処理が終了していない場合には(ステップS71でNO)、変数CBに1を加算した後(ステップS72)、上記ステップS63に戻り、コードブロック単位での移動速度の判定処理を続行する。他方、n個のコードブロック全てについて上記処理が完了した場合、即ち変数CB=nの場合には(ステップS71でYES)、処理を終了してメインルーチンにリターンする。   If the data reduction processing corresponding to the moving speed has not been completed for all n code blocks (NO in step S71), 1 is added to the variable CB (step S72), and the process returns to step S63. Continue moving speed judgment processing in code blocks. On the other hand, when the above process is completed for all n code blocks, that is, when variable CB = n (YES in step S71), the process ends and the process returns to the main routine.

図10は、図8に示した速度判定処理を仮算術符号化処理により求めた符号の量に基づいて行う場合の処理手順を示す図である。まず、図4のメインルーチンのステップS5において実行したスカラ量子化後のウェーブレット係数のデータを32×32画素マトリクスで成るコードブロックに分割する(ステップS80)。これにより、レベル1のサブバンドは、各n個のコードブロックに分割される。次に、各コードブロックに分割したウェーブレット係数のデータに対して仮算術符号化処理を施す(ステップS81)。コードブロックを表す変数CBの値を初期値である1に設定する(ステップS82)。1LHのコードブロックCBの符号量の和sum1LHを算出する(ステップS83)。1HLのコードブロックCBの符号量の和sum1HLを算出する(ステップS84)。1HHのコードブロックCBの符号量の和sum1HHを算出する(ステップS85)。sum1LH/(sum1LH+sum1HL+sum1HH)=speedを算出する(ステップS86)。   FIG. 10 is a diagram illustrating a processing procedure when the speed determination process illustrated in FIG. 8 is performed based on the amount of codes obtained by the provisional arithmetic encoding process. First, the data of the wavelet coefficient after the scalar quantization executed in step S5 of the main routine of FIG. 4 is divided into code blocks composed of a 32 × 32 pixel matrix (step S80). As a result, the level 1 subband is divided into n code blocks. Next, provisional arithmetic coding processing is performed on the data of the wavelet coefficients divided into the code blocks (step S81). The value of the variable CB representing the code block is set to 1 which is an initial value (step S82). The sum sum1LH of the code amount of the 1LH code block CB is calculated (step S83). The sum sum1HL of the code amount of the 1HL code block CB is calculated (step S84). The sum sum1HH of the code amount of the code block CB of 1HH is calculated (step S85). sum1LH / (sum1LH + sum1HL + sum1HH) = speed is calculated (step S86).

算出した変数speedが実験的に定められるしきい値th4よりも大きい場合には(ステップS87でYES)、当該コードブロックCB内の画像は高速で移動していると判断し、1LH重視のデータ削減処理を実行する。具体的には、1LHのコードブロックCBのビットプレーンをLSBから1枚削除し(ステップS88)、1HLのコードブロックCBのビットプレーンをLSBから2枚削除する(ステップS89)。他方、変数speedがしきい値th4以下の場合には(ステップS87でNO)、当該コードブロックCB内の画像は低速で移動していると判断し、1HL重視のデータ削減処理を実行する。具体的には、1LHのコードブロックCBのビットプレーンをLSBから1枚削除し(ステップS90)、1HLのコードブロックCBのビットプレーンをLSBから2枚削除する(ステップS91)。   If the calculated variable speed is larger than the experimentally determined threshold value th4 (YES in step S87), it is determined that the image in the code block CB is moving at high speed, and data reduction is focused on 1LH. Execute the process. Specifically, one bit plane of the 1LH code block CB is deleted from the LSB (step S88), and two bit planes of the 1HL code block CB are deleted from the LSB (step S89). On the other hand, when the variable speed is equal to or less than the threshold th4 (NO in step S87), it is determined that the image in the code block CB is moving at a low speed, and data reduction processing with an emphasis on 1HL is executed. Specifically, one bit plane of the 1LH code block CB is deleted from the LSB (step S90), and two bit planes of the 1HL code block CB are deleted from the LSB (step S91).

n個のコードブロック全てについて上記移動速度に応じたデータ削減処理が終了していない場合には(ステップS92でNO)、変数CBに1を加算した後(ステップS93)、上記ステップS83に戻り、コードブロック単位での移動速度の判定処理を続行する。他方、n個のコードブロック全てについて上記処理が完了した場合、即ち変数CB=nの場合には(ステップS92でYES)、処理を終了してメインルーチンにリターンする。   If the data reduction process corresponding to the moving speed has not been completed for all n code blocks (NO in step S92), 1 is added to the variable CB (step S93), and the process returns to step S83. Continue moving speed judgment processing in code blocks. On the other hand, when the above process is completed for all n code blocks, that is, when variable CB = n (YES in step S92), the process ends and the process returns to the main routine.

以上に説明するように図9及び図10に示す2つの変形例を用いてもコードブロック単位の被写体の移動速度を簡単に判定することができる。これにより、サブバンド単位で被写体の移動速度を判定する場合に比べて、例えば、静止画の中で被写体だけが移動する場合に、静止画の部分と動画の部分とを分けて適応的に処理することができる。   As described above, the moving speed of the subject in units of code blocks can be easily determined using the two modified examples shown in FIGS. As a result, compared to determining the moving speed of the subject in units of subbands, for example, when only the subject moves in a still image, the still image portion and the moving image portion are processed separately. can do.

画像処理装置の全体構成図である。1 is an overall configuration diagram of an image processing apparatus. ビデオカメラにより1/60秒単位で撮影される一連のフレーム画像を示す図である。It is a figure which shows a series of frame images image | photographed by a video camera by 1/60 second unit. (a)〜(d)は、ビデオカメラにより得られるインターレース画像からノンインターレース画像を生成する際に生じる現象と当該現象を利用する移動速度の判定原理について説明するための図である。(A)-(d) is a figure for demonstrating the phenomenon which arises when producing | generating a non-interlaced image from the interlaced image obtained with a video camera, and the principle of determination of the moving speed using the said phenomenon. 画像処理装置の実行する処理のメインルーチンを示す図である。It is a figure which shows the main routine of the process which an image processing apparatus performs. データ削減処理のフローチャートである。It is a flowchart of a data reduction process. ウェーブレット係数のコードブロック化を説明するための図である。It is a figure for demonstrating the code block formation of a wavelet coefficient. (a)〜(c)は、被写体の移動速度の判定結果に基づいてコードブロック単位で行うデータ削減処理の様子を示す図である。(A)-(c) is a figure which shows the mode of the data reduction process performed for every code block based on the determination result of the moving speed of a to-be-photographed object. データ削減処理の変形例のフローチャートである。It is a flowchart of the modification of a data reduction process. データ削減処理の変形例のフローチャートである。It is a flowchart of the modification of a data reduction process. データ削減処理の変形例のフローチャートである。It is a flowchart of the modification of a data reduction process.

符号の説明Explanation of symbols

1 CPU、2 ROM、3 RAM、4 キーボード、5 マウス、6 ディスプレイ、7 ハードディスク、8 ビデオカメラ、10 画像処理装置、15 被写体。
1 CPU, 2 ROM, 3 RAM, 4 keyboard, 5 mouse, 6 display, 7 hard disk, 8 video camera, 10 image processing device, 15 subject.

Claims (7)

連続してスキャンした2枚分のインターレース画像をスキャンしたライン毎に交互に並べて形成されるノンインターレース画像の処理装置(10)であって、ウェーブレット変換手段(ステップS4)と、判定手段(ステップS25、S46、S66、S87)と、データ削除処理手段(ステップS6)と、符号化処理手段(ステップS8)と、を含んでおり、
上記ウェーブレット変換手段が、上記ノンインターレース画像のデータに対してレベル1以上の2次元離散ウェーブレット変換を行うものであり、
上記判定手段が、ウェーブレット変換手段によって得られるウェーブレット係数の内、レベル1の各サブバンドのウェーブレット係数をそれぞれ前記サブバンドよりも小さな画素マトリクスから成るコードブロックに分割し、コードブロック毎に、1LHのコードブロックの係数値の絶対値の合計を、該コードブロックに対応する位置の少なくとも1HLを含むレベル1のコードブロックの係数値の絶対値の合計で割った値が、予め定めたしきい値よりも大きい場合に被写体の移動速度が高速であると判断し、予め定めたしきい値以下の場合に被写体の移動速度が低速であると判断するものであり、
上記データ削除処理手段が、判定手段によって被写体の移動速度が高速であると判断されたコードブロックについては1LHのサブバンドのデータ削除量を他のサブバンドのデータ削除量よりも少なくしたデータ削除処理を実行し、判定手段によって被写体の移動速度が低速であると判断されたコードブロックについては1HLのサブバンドのデータ削除量を他のサブバンドのデータ削除量よりも少なくしたデータ削除処理を実行するものであり、
上記符号化処理手段が、データ削除処理手段によってデータ削除処理されたウェーブレット係数を用いて符号化処理を実行するものである、
ことを特徴とするノンインターレース画像の処理装置。
A non-interlaced image processing apparatus (10) formed by alternately arranging two interlaced images scanned in succession for each scanned line, including a wavelet transform unit (step S4) and a determination unit (step S25). , S46, S66, S87), data deletion processing means (step S6), and encoding processing means (step S8),
The wavelet transform means performs a two-dimensional discrete wavelet transform of level 1 or higher on the data of the non-interlaced image;
The determination means divides the wavelet coefficients of the subbands of level 1 among the wavelet coefficients obtained by the wavelet transform means into code blocks each composed of a pixel matrix smaller than the subband, and each code block has 1 LH. A value obtained by dividing the sum of the absolute values of the coefficient values of the code block by the sum of the absolute values of the coefficient values of the level 1 code block including at least 1HL at the position corresponding to the code block is greater than a predetermined threshold value. Is determined to be a high speed, the object moving speed is determined to be low when it is equal to or less than a predetermined threshold ,
Data deletion processing in which the data deletion processing means has the data deletion amount of the sub-band of 1LH smaller than the data deletion amount of the other subbands for the code block determined by the determination means to have a high moving speed of the subject. , And for the code block for which the moving speed of the subject is determined to be low by the determination means, a data deletion process is performed in which the data deletion amount of the 1HL subband is smaller than the data deletion amount of the other subbands. Is,
The encoding processing means executes encoding processing using the wavelet coefficients subjected to data deletion processing by the data deletion processing means.
And a non-interlaced image processing apparatus.
上記判定手段(ステップS25)が、分割したコードブロック毎に、1LHのサブバンドの係数値の絶対値の合計を、1HLのサブバンドの係数値の絶対値の合計で割った値が、しきい値よりも大きいときに被写体の移動速度が高速であり、しきい値以下のときに被写体の移動速度が低速であると判定するものである、請求項1に記載のノンインターレース画像の処理装置。 The threshold is a value obtained by dividing the sum of the absolute values of the coefficient values of the 1LH subband by the sum of the absolute values of the coefficient values of the 1HL subband by the determination means (step S25) for each divided code block. The non-interlaced image processing apparatus according to claim 1, wherein the moving speed of the subject is high when the value is larger than the value, and the moving speed of the subject is low when the value is equal to or less than the threshold value . 上記判定手段(ステップS46)が、分割したコードブロック毎に、1LHのサブバンドの係数値の絶対値の合計を、1HLと1LHと1HHとのサブバンドの係数値の絶対値の合計で割った値が、しきい値よりも大きいときに被写体の移動速度が高速であり、しきい値以下のときに被写体の移動速度が低速であると判定するものである、請求項1に記載のノンインターレース画像の処理装置。The determination means (step S46) divides the sum of absolute values of coefficient values of 1LH subbands by the sum of absolute values of coefficient values of subbands of 1HL, 1LH, and 1HH for each divided code block. The non-interlace method according to claim 1, wherein when the value is larger than the threshold value, the moving speed of the subject is high, and when the value is equal to or lower than the threshold value, the moving speed of the subject is low. Image processing device. 上記判定手段(ステップS66、S87)が、上記処理を行うサブバンドのウェーブレット係数に対して仮の符号化処理を実行する仮算術符号化手段を含んでおり、上記処理を行う各サブバンドの係数値の絶対値の合計の代わりに、仮算術符号化手段によって得られる符号量の合計を用いて、インターレース画像内の被写体の移動速度を判定するものである、請求項1乃至請求項3の何れか1つに記載のノンインターレース画像の処理装置。The determination means (steps S66 and S87) includes provisional arithmetic coding means for performing provisional coding processing on the wavelet coefficients of the subbands for which the above processing is performed. 4. The method according to claim 1, wherein the moving speed of the subject in the interlaced image is determined using the sum of the code amounts obtained by the provisional arithmetic coding means instead of the sum of the absolute values of the numerical values. The non-interlaced image processing apparatus according to claim 1. 上記データ削除処理手段が、ウェーブレット係数をビットプレーンに分割したデータの内、下位ビットプレーンに対応するデータから順に削除することでデータ削除処理を行うものである、請求項1乃至請求項4の何れか1つに記載のノンインターレース画像の処理装置。5. The data deletion processing unit according to claim 1, wherein the data deletion processing unit performs data deletion processing by sequentially deleting data corresponding to a lower bit plane from among data obtained by dividing wavelet coefficients into bit planes. The non-interlaced image processing apparatus according to claim 1. 連続してスキャンした2枚分のインターレース画像をスキャンしたライン毎に交互に並べて形成されるノンインターレース画像の処理方法であって、
上記ノンインターレース画像のデータに対してレベル1以上の2次元離散ウェーブレット変換を行うウェーブレット変換工程と、
ウェーブレット変換工程によって得られるウェーブレット係数の内、レベル1の各サブバンドのウェーブレット係数をそれぞれ前記サブバンドよりも小さな画素マトリクスから成るコードブロックに分割し、コードブロック毎に、1LHのコードブロックの係数値の絶対値の合計を、該コードブロックに対応する位置の少なくとも1HLを含むレベル1のコードブロックの係数値の絶対値の合計で割った値が、予め定めたしきい値よりも大きい場合に被写体の移動速度が高速であると判断し、予め定めたしきい値以下の場合に被写体の移動速度が低速であると判断する判定工程と、
判定工程によって被写体の移動速度が高速であると判断されたコードブロックについては1LHのサブバンドのデータ削除量を他のサブバンドのデータ削除量よりも少なくしたデータ削除処理を実行し、判定工程によって被写体の移動速度が低速であると判断されたコードブロックについては1HLのサブバンドのデータ削除量を他のサブバンドのデータ削除量よりも少なくしたデータ削除処理を実行するデータ削除処理工程と、
データ削除処理工程によってデータ削除処理されたウェーブレット係数を用いて符号化処理を実行する符号化処理工程と、
を含んでいることを特徴とするノンインターレース画像の処理方法。
A non-interlaced image processing method in which two consecutively scanned interlaced images are alternately arranged for each scanned line,
A wavelet transform step for performing a two-dimensional discrete wavelet transform of level 1 or higher on the non-interlaced image data;
Of the wavelet coefficients obtained by the wavelet transform process , the wavelet coefficients of the subbands of level 1 are divided into code blocks each composed of a pixel matrix smaller than the subband, and for each code block, the coefficient value of the code block of 1 LH When a value obtained by dividing the sum of the absolute values of the two by the sum of the absolute values of the coefficient values of the level 1 code block including at least 1HL at the position corresponding to the code block is greater than a predetermined threshold value, A determination step of determining that the movement speed of the subject is high, and determining that the movement speed of the subject is low when the movement speed is equal to or lower than a predetermined threshold value;
Moving speed of the object by determining step executes the data deletion processing less than the data deletion of the other sub-band data deletion of subbands 1LH for code block determined to be high speed, the determination step A data deletion processing step of executing a data deletion process in which the data deletion amount of the subband of 1HL is smaller than the data deletion amount of the other subbands for the code block determined to have a low moving speed of the subject;
An encoding process step for performing an encoding process using the wavelet coefficients subjected to the data deletion process by the data deletion process step;
And a non-interlaced image processing method.
上記判定工程が、上記処理を行うサブバンドのウェーブレット係数に対して仮の符号化処理を実行し、上記処理を行う各サブバンドの係数値の絶対値の合計の代わりに、前記仮の符号化処理によって得られる符号量の合計を用いて、インターレース画像内の被写体の移動速度を判定するものである、請求項6に記載のノンインターレース画像の処理方法。 The determination step performs a temporary encoding process on the wavelet coefficients of the subbands that perform the above processing, and instead of the sum of absolute values of the coefficient values of each subband that performs the above processes, the temporary encoding using the total code amount obtained by the process, is to determine the moving speed of the object in an interlaced image, the processing method of the non-interlaced image according to claim 6.
JP2003353760A 2002-10-15 2003-10-14 Non-interlaced image processing apparatus and processing method Expired - Fee Related JP4247088B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003353760A JP4247088B2 (en) 2002-10-15 2003-10-14 Non-interlaced image processing apparatus and processing method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2002300476 2002-10-15
JP2003353760A JP4247088B2 (en) 2002-10-15 2003-10-14 Non-interlaced image processing apparatus and processing method

Publications (2)

Publication Number Publication Date
JP2004159312A JP2004159312A (en) 2004-06-03
JP4247088B2 true JP4247088B2 (en) 2009-04-02

Family

ID=32827900

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003353760A Expired - Fee Related JP4247088B2 (en) 2002-10-15 2003-10-14 Non-interlaced image processing apparatus and processing method

Country Status (1)

Country Link
JP (1) JP4247088B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008058221A (en) * 2006-09-01 2008-03-13 Kobe Univ Velocity of high-speed moving body, estimation method of position, estimation program, and estimation system

Also Published As

Publication number Publication date
JP2004159312A (en) 2004-06-03

Similar Documents

Publication Publication Date Title
TWI436286B (en) Method and apparatus for decoding image
JP4254017B2 (en) Image coding apparatus and method
JP2006050534A (en) Method for processing video image
US11140392B2 (en) Image encoding apparatus, image decoding apparatus, control methods thereof, and non- transitory computer-readable storage medium
JP2004153751A (en) Image processing apparatus and image processing method
JP2002247518A (en) Electronic camera and image processing program
WO2006046550A1 (en) Image encoding method and device, image decoding method, and device
JP4247088B2 (en) Non-interlaced image processing apparatus and processing method
JP6471022B2 (en) Image processing system and image processing method
JP4247089B2 (en) Non-interlaced image processing apparatus and processing method
KR102250088B1 (en) Method and Apparatus for decoding video stream
JP4726040B2 (en) Encoding processing device, decoding processing device, encoding processing method, decoding processing method, program, and information recording medium
JP4510701B2 (en) Video encoding device
JP4792250B2 (en) Moving image processing apparatus and moving image processing method
JP4077706B2 (en) Interlaced image processing apparatus and processing method
JP2007074042A (en) Moving picture processing apparatus and method
JP4749508B2 (en) Image decoding method
JP4988623B2 (en) Image encoding apparatus and image decoding apparatus
JP2006340300A (en) Signal processing method, signal processing apparatus, signal processing program and information recording medium
JP4667424B2 (en) Image decoding device
JP4667423B2 (en) Image decoding device
JP3897253B2 (en) Image processing method, image processing apparatus, imaging apparatus, program, and recording medium
CN103888780B (en) Moving picture encoding device, dynamic image decoding device, motion image encoding method and dynamic image decoding method
JP4551413B2 (en) Image processing apparatus and image processing method
JP4594425B2 (en) Image processing device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051020

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071211

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081014

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090106

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090109

R150 Certificate of patent or registration of utility model

Ref document number: 4247088

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120116

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120116

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130116

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140116

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees