JP4403094B2 - Scalable encoding method, scalable decoding method, these devices, their programs, and computer-readable recording media recording these programs - Google Patents
Scalable encoding method, scalable decoding method, these devices, their programs, and computer-readable recording media recording these programs Download PDFInfo
- Publication number
- JP4403094B2 JP4403094B2 JP2005108458A JP2005108458A JP4403094B2 JP 4403094 B2 JP4403094 B2 JP 4403094B2 JP 2005108458 A JP2005108458 A JP 2005108458A JP 2005108458 A JP2005108458 A JP 2005108458A JP 4403094 B2 JP4403094 B2 JP 4403094B2
- Authority
- JP
- Japan
- Prior art keywords
- frequency signal
- weighting
- scalable
- block
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
本発明は,スケーラブル符号化を行う高能率画像信号符号化方法に関し,特に時間スケーラビリティを実現するための時間軸方向のフィルタリング処理において,大きな予測誤差が生じないようにしたスケーラブル符号化/復号方法に関する。 The present invention relates to a high-efficiency image signal encoding method that performs scalable encoding, and more particularly, to a scalable encoding / decoding method that prevents a large prediction error from occurring in filtering in the time axis direction for realizing temporal scalability. .
近年,多様化するネットワーク環境・端末環境などに対応するためのスケーラブル符号化が注目を集めている。スケーラブル符号化では,画像信号を階層的に分割し,各階層毎に符号化が行われる。階層分割の方法としては,
(i)空間周波数に関する帯域分割,
(ii)時間周波数に関する帯域分割,
などがある。(i)としては,wavelet 分割,(ii)としては,Motion Compensation Temporal Fitering (MCTF)(非特許文献1参照)が代表例である。
In recent years, scalable coding to deal with diversifying network environments and terminal environments has attracted attention. In scalable coding, an image signal is divided hierarchically and coding is performed for each layer. As a method of hierarchy division,
(I) Band division related to spatial frequency,
(Ii) Band division for time frequency,
and so on. Typical examples of (i) are wavelet division, and (ii) is Motion Compensation Temporal Fitering (MCTF) (see Non-Patent Document 1).
MCTFは,prediction step とupdate step の二つの処理で構成される。prediction step は,動き補償に基づくフレーム間予測処理であり,予測誤差を出力するhigh pass フィルタリングにあたる。一方,update step は,prediction step で出力された予測誤差を入力信号に加算する処理であり,low passフィルタリングにあたる。完全再構成条件が求められる場合,MCTFはlifting により構成される。以下に,Haar型のMCTFの例を示す。 MCTF consists of two processes, a prediction step and an update step. The prediction step is an inter-frame prediction process based on motion compensation, and corresponds to high pass filtering that outputs a prediction error. The update step, on the other hand, is a process that adds the prediction error output in the prediction step to the input signal and corresponds to low pass filtering. MCTF is constructed by lifting when full reconstruction conditions are required. An example of a Haar type MCTF is shown below.
update step におけるhigh pass フレーム(予測誤差)の加算は,出力信号にlow pass特性を付与するが,予測誤差が大きな場合には,update step 後のlow passフレームにおいてghoasting による歪みが顕在化する。このghoasting はlow passフレームの画質劣化を招くと同時に,符号化効率の低下につながる。 The addition of high pass frames (prediction error) in the update step gives a low pass characteristic to the output signal. If the prediction error is large, distortion due to ghoasting becomes apparent in the low pass frame after the update step. This ghoasting leads to degradation of image quality of low pass frames and at the same time leads to a decrease in coding efficiency.
本発明はかかる事情に鑑みてなされたものであって,update step において,大きな予測誤差の加算を抑制するlow passフィルタの適応的設計法を確立することを目的とする。 The present invention has been made in view of such circumstances, and an object thereof is to establish an adaptive design method for a low pass filter that suppresses the addition of a large prediction error in the update step.
本発明のスケーラブル符号化方法は,上記課題を解決するため,時間スケーラビリティを実現するための時間軸方向のフィルタリング処理において,入力信号と高域信号の線形和をとることで低域信号を生成する際,ブロックに分割された高域信号の各ブロック内の空間的な位置に応じて,ブロック境界部での重み係数がブロック内の他の部分の重み係数より小さい重み係数を算出し,該重み係数を用いて該線形和における高域信号の加算値を変化させることを特徴とする。これによって,ブロック境界部に局在する予測誤差を抑制することが可能となり,その結果,低域信号フレーム(low passフレーム)におけるghoasting を低減することができる。
In order to solve the above-described problem, the scalable coding method of the present invention generates a low-frequency signal by taking a linear sum of an input signal and a high-frequency signal in filtering processing in the time axis direction for realizing temporal scalability. In this case, the weighting coefficient at the block boundary is smaller than the weighting coefficient of the other part in the block according to the spatial position in each block of the high-frequency signal divided into blocks, and the weight The addition value of the high frequency signal in the linear sum is changed using a coefficient. As a result, it is possible to suppress a prediction error localized at the block boundary, and as a result, it is possible to reduce ghoasting in a low-frequency signal frame (low pass frame).
また,上記発明において,空間的な重み付け処理と併せて,高域信号の画素値の絶対平均値に応じて該画素値を重み付けし,空間方向および振幅方向に対して適応的な重み付け処理を高域信号に対して行うことを特徴とする。これによって,予測誤差の低減を効果的に行うことができる。 In the above invention, in addition to the spatial weighting process, the pixel value is weighted according to the absolute average value of the pixel value of the high frequency signal, and the adaptive weighting process is performed in the spatial direction and the amplitude direction. It is characterized by being performed on a band signal. Thereby, the prediction error can be effectively reduced.
また,上記発明において,空間的な重み係数を算出する際,空間重み窓関数の値を予めルックアップテーブルに格納しておくことで,該関数の値の算出を該テーブルの参照により行うことを特徴とする。これによって,演算量の削減を実現し,予測誤差の算出を実用的な計算時間で行うことが可能になる。 In the above invention, when the spatial weighting coefficient is calculated, the value of the spatial weighting window function is stored in advance in the lookup table, so that the value of the function is calculated by referring to the table. Features. As a result, the amount of calculation can be reduced and the prediction error can be calculated in a practical calculation time.
本発明のスケーラブル復号方法は,時間スケーラビリティを実現するための時間軸方向のフィルタリング処理に対応する復号処理において,低域信号と高域信号の線形和をとることで画像フレーム信号を生成する際,ブロックに分割された高域信号の各ブロック内の空間的な位置に応じた重み係数を算出し,該重み係数を用いて該線形和における高域信号の加算値を適応的に変化させることを特徴とする。 The scalable decoding method according to the present invention generates an image frame signal by taking a linear sum of a low-frequency signal and a high-frequency signal in a decoding process corresponding to a filtering process in the time axis direction for realizing temporal scalability. Calculating a weighting factor corresponding to a spatial position in each block of the high-frequency signal divided into blocks, and adaptively changing the addition value of the high-frequency signal in the linear sum using the weighting factor. Features.
また,上記発明において,空間的な重み付け処理と併せて,高域信号の画素値の絶対平均値に応じて該画素値を重み付けし,空間方向および振幅方向に対して適応的な重み付け処理を高域信号に対して行うことを特徴とする。 In the above invention, in addition to the spatial weighting process, the pixel value is weighted according to the absolute average value of the pixel value of the high frequency signal, and the adaptive weighting process is performed in the spatial direction and the amplitude direction. It is characterized by being performed on a band signal.
また,上記発明において,空間的な重み係数を算出する際,空間重み窓関数の値を予めルックアップテーブルに格納しておくことで,該関数の値の算出を該テーブルの参照により行うことを特徴とする。 In the above invention, when the spatial weighting coefficient is calculated, the value of the spatial weighting window function is stored in advance in the lookup table, so that the value of the function is calculated by referring to the table. Features.
すなわち,本発明は,MCTFにおける低域信号フレーム(low passフレーム)の生成において,従来の (i) 動きベクトル, (ii) 高域信号フレーム(high pass フレーム), (iii)原信号(符号化の場合)・復号フレーム(復号の場合)に加えて,さらに (iv) 空間的な位置に応じた重み係数を用いる点が従来技術と異なる。MCTFのupdate step において,動き補償で用いるブロック内の空間的な位置に応じた重みを乗じることにより,ghoasting の発生を抑圧する。具体的には,例えば次のような処理を行う。 That is, according to the present invention, in the generation of a low frequency signal frame (low pass frame) in MCTF, the conventional (i) motion vector, (ii) high frequency signal frame (high pass frame), (iii) original signal (encoding) In addition to the decoded frame (in the case of decoding), (iv) the weighting coefficient corresponding to the spatial position is used. In the update step of MCTF, the occurrence of ghoasting is suppressed by multiplying the weight according to the spatial position in the block used for motion compensation. Specifically, for example, the following processing is performed.
[Weighted Update Step]
ブロックベースの動き補償(MC)を用いたフレーム間予測の場合,ブロック中心部と比較してブロック境界部に大きな予測誤差が発生する傾向にある。つまり,ブロック境界部には,update step においてghoasting の発生する可能性が高いことになる。
[Weighted Update Step]
In the case of inter-frame prediction using block-based motion compensation (MC), there is a tendency that a large prediction error occurs at a block boundary portion as compared with the block center portion. In other words, there is a high possibility that ghoasting occurs at the update step at the block boundary.
そこで,本発明では,図1に示すように,update step においてMCのブロック内の空間的な位置に応じた重みを乗じることにより,ghoasting の発生を抑圧する。なお,図1において,1は偶数(2k)フレーム,2は奇数(2k+1)フレームである。3のMCは動き補償部,4は差分器,5のIMCは逆動き補償部を表す。また,6のFは後述する重み関数による適応処理部を示す。7は加算器であり,8はlow passフレーム,9はhigh pass フレームを表す。 Therefore, in the present invention, as shown in FIG. 1, the occurrence of ghoasting is suppressed by multiplying the weight according to the spatial position in the MC block in the update step. In FIG. 1, 1 is an even (2k) frame, and 2 is an odd (2k + 1) frame. MC of 3 represents a motion compensation unit, 4 represents a differentiator, and 5 IMC represents an inverse motion compensation unit. In addition, F of 6 indicates an adaptive processing unit using a weight function described later. 7 represents an adder, 8 represents a low pass frame, and 9 represents a high pass frame.
以下では,MCにおけるブロックを動き補償ブロックと呼び,同ブロックのサイズをBx ×By とする。 Hereinafter, the block in MC is called a motion compensation block, and the size of the block is B x × B y .
本発明におけるupdate step は,以下のようになる。 The update step in the present invention is as follows.
〔w()の例1〕 [Example 1 of w ()]
〔w()の例2〕 [Example 2 of w ()]
Weighted update stepは,lifting 構造を用いて実装できる。符号化器側の構成を図2に示す。一方,復号器側の構成を図3に示す。ここで,図2および図3におけるFは次式となる。 The weighted update step can be implemented using the lifting structure. The configuration on the encoder side is shown in FIG. On the other hand, the configuration on the decoder side is shown in FIG. Here, F in FIG. 2 and FIG.
なお,各動き補償ブロック毎に,各格子点における空間重み窓関数の値は予めルックアップテーブルに格納するものとする。これにより,該関数の値の算出を該テーブルの参照により行うことが可能となる。 For each motion compensation block, the value of the space weight window function at each grid point is stored in advance in the lookup table. Thereby, the value of the function can be calculated by referring to the table.
[Adaptive Weighted Update Step ]
前述のWeighted update stepに入力画素値の大きさも考慮した適応処理を導入する。この場合,update Step は以下のようになる。
[Adaptive Weighted Update Step]
An adaptive process that considers the size of the input pixel value is introduced into the aforementioned Weighted update step. In this case, update Step is as follows.
x0 =x−(x mod bx )
y0 =y−(y mod by )
A()はサイズbx ×by の矩形領域に対する重み係数を設定する。同矩形領域を振幅値制御ブロックと呼び,振幅値制御ブロックに対する重み係数を振幅値制御重み係数と呼ぶ。この矩形領域のサイズを表すパラメータbx ,by は外部から与えられるものとする。例えば,bx =1,by =1とした場合,画素単位で振幅値制御重み係数を設定することになり,bx =Bx ,by =By とすれば,動き補償ブロック毎に振幅値制御重み係数を設定することになる。
x 0 = x− (x mod b x )
y 0 = y- (y mod b y)
A () sets the weighting factor for the rectangular region size b x × b y. The rectangular area is called an amplitude value control block, and a weighting factor for the amplitude value control block is called an amplitude value control weighting factor. Parameter b x representing the size of the rectangular area, b y is assumed to be given from the outside. For example, when b x = 1 and b y = 1, the amplitude value control weight coefficient is set for each pixel. If b x = B x and b y = B y , each motion compensation block An amplitude value control weight coefficient is set.
Adaptive weighted update step は,前述のWeighted update stepと同様にlifting 構造を用いて実装できる。この場合,図2および図3におけるFは次式となる。 The Adaptive weighted update step can be implemented using the lifting structure in the same way as the Weighted update step described above. In this case, F in FIG. 2 and FIG.
本発明によりupdate step においてlow passフィルタリングを行う際,ブロック境界部に局在する予測誤差を抑制することが可能となり,MCTFにおけるlow passフレームにおけるghoasting を低減できる。low passフレームは再帰的にMCTFによるフィルタリングの対象となるため,このghoasting の低減は符号化効率の向上につながる。 According to the present invention, when low pass filtering is performed in the update step, it is possible to suppress a prediction error localized at a block boundary, and to reduce ghoasting in a low pass frame in MCTF. Since low pass frames are recursively filtered by MCTF, this reduction in ghoasting leads to an improvement in coding efficiency.
また,空間的な重み係数を算出する際,空間重み窓関数の値を予めルックアップテーブルに格納しておくことで,該関数の値の算出を該テーブルの参照により行うことが可能となる。このテーブル参照により,同一の値を繰り返し算出することを回避でき,演算量が削減される。 Further, when the spatial weighting coefficient is calculated, the value of the spatial weighting window function is stored in the lookup table in advance, so that the value of the function can be calculated by referring to the table. By referring to this table, repeated calculation of the same value can be avoided, and the amount of calculation is reduced.
[符号化処理]
本発明の符号化器の実施形態について図面を参照して説明する。図4は,本発明の実施の形態に係る符号化処理のフローチャートである。
[Encoding process]
An embodiment of an encoder of the present invention will be described with reference to the drawings. FIG. 4 is a flowchart of the encoding process according to the embodiment of the present invention.
まず,ステップS11では,フレーム信号を入力とし,prediction step 処理を行い,high pass 信号および動きベクトル情報を出力する。具体的な算出方法は式(10)に従う。 First, in step S11, a frame signal is input, a prediction step process is performed, and a high pass signal and motion vector information are output. A specific calculation method follows Formula (10).
ステップS12では,ステップS11で出力されたhigh pass 信号および動きベクトル情報をレジスタに格納する。 In step S12, the high pass signal and motion vector information output in step S11 are stored in a register.
ステップS13では,振幅値制御ブロックのサイズ,同ブロックのフレーム内での位置を示す座標値,同ブロックの領域に相当するhigh pass 信号を入力とし,振幅値制御ブロック内の平均画素値を算出する処理を行い,同平均画素値を出力する。具体的な算出方法は式(9)に従う。 In step S13, the size of the amplitude value control block, the coordinate value indicating the position of the block in the frame, and the high pass signal corresponding to the area of the block are input, and the average pixel value in the amplitude value control block is calculated. Processing is performed and the average pixel value is output. A specific calculation method follows equation (9).
ステップS14では,振幅値制御ブロック内の平均画素値を入力とし,振幅値制御関数に基づき振幅値制御重み係数を算出する処理を行い,同重み係数を出力する。出力された重み係数は振幅値制御ブロック毎にレジスタに格納される。具体的な算出方法は式(8)に従う。 In step S14, an average pixel value in the amplitude value control block is input, an amplitude value control weighting coefficient is calculated based on the amplitude value control function, and the weighting coefficient is output. The output weight coefficient is stored in a register for each amplitude value control block. A specific calculation method follows equation (8).
ステップS15では,動き補償ブロック内のすべての振幅値制御ブロックに対して,振幅値制御重み係数の算出が終了したか否かの判定処理を行い,終了している場合には,真値を出力し,ステップS16へ進む。そうでなければ,偽値を出力し,ステップS13およびS14を繰り返す。 In step S15, it is determined whether or not the calculation of the amplitude value control weight coefficient has been completed for all the amplitude value control blocks in the motion compensation block. If the calculation has been completed, a true value is output. Then, the process proceeds to step S16. Otherwise, a false value is output and steps S13 and S14 are repeated.
ステップS16では,動き補償ブロック内の領域に相当するhigh pass 信号,同ブロック内の各振幅値制御ブロックの重み係数を入力とし,同重み係数をhigh pass 信号に乗じる処理を行い,同処理後のhigh pass 信号を用いて同処理前のhigh pass 信号の格納されていたレジスタの内容を上書きする。 In step S16, the high pass signal corresponding to the region in the motion compensation block and the weight coefficient of each amplitude value control block in the block are input, and the process of multiplying the high pass signal by the weight coefficient is performed. Use the high pass signal to overwrite the contents of the register in which the high pass signal was stored before processing.
ステップS17では,空間重み窓関数を読み込む。 In step S17, a space weight window function is read.
次に,ステップS18では,ステップS16で出力された動き補償ブロック内の領域に相当するhigh pass 信号,空間重み窓関数を入力とし,水平方向の位置に応じて同重み関数より求まる重み係数をhigh pass 信号に乗じる処理を行い,同処理後のhigh pass 信号を用いて同処理前のhigh pass 信号の格納されていたレジスタの内容を上書きする。 Next, in step S18, the high pass signal corresponding to the region in the motion compensation block output in step S16 and the spatial weight window function are input, and the weighting coefficient obtained from the weight function according to the position in the horizontal direction is set to high. Performs processing to multiply the pass signal, and overwrites the contents of the register in which the high pass signal before the processing was stored using the high pass signal after the processing.
ステップS19では,ステップS18で出力された動き補償ブロック内の領域に相当するhigh pass 信号,空間重み窓関数を入力とし,垂直方向の位置に応じて同重み関数より求まる重み係数をhigh pass 信号に乗じる処理を行い,同処理後のhigh pass 信号を用いて同処理前のhigh pass 信号の格納されていたレジスタの内容を上書きする。 In step S19, the high pass signal corresponding to the region in the motion compensation block output in step S18 and the spatial weight window function are input, and the weight coefficient obtained from the weight function according to the position in the vertical direction is converted to the high pass signal. Multiply processing, and use the high pass signal after the processing to overwrite the contents of the register in which the high pass signal before the processing was stored.
ステップS20では,以上のステップS18,S19の処理が動き補償ブロック内のすべての画素に対して終了したか否かの判定処理を行い,終了している場合には,真値を出力してステップS21へ進む。そうでなければ,偽値を出力し,ステップS18,S19を繰り返す。 In step S20, it is determined whether or not the processing in steps S18 and S19 has been completed for all pixels in the motion compensation block. If completed, a true value is output and step is performed. Proceed to S21. Otherwise, a false value is output and steps S18 and S19 are repeated.
ステップS21では,ステップS19で出力された動き補償ブロック内の領域に相当するhigh pass 信号,同ブロックに対する動きベクトル,偶数フレーム信号を入力とし,update step 処理を行い,low pass信号を出力する。具体的な算出方法は式(11)に従う。ステップS22では,ステップS21で出力されたlow pass信号をレジスタに格納する。 In step S21, the high pass signal corresponding to the region in the motion compensation block output in step S19, the motion vector for the block, and the even frame signal are input, update step processing is performed, and a low pass signal is output. A specific calculation method follows Formula (11). In step S22, the low pass signal output in step S21 is stored in a register.
ステップS23では,以上ステップS11〜S22の処理がすべての動き補償ブロックに対して終了したか否かの判定処理を行い,終了している場合には,真値を出力して終了する。そうでなければ,偽値を出力してステップS11〜S22の処理を繰り返す。 In step S23, it is determined whether or not the processing in steps S11 to S22 has been completed for all the motion compensation blocks. If it has been completed, a true value is output and the processing ends. Otherwise, a false value is output and the processing in steps S11 to S22 is repeated.
[復号処理]
本発明の復号器の実施形態について図面を参照して説明する。図5は,本発明の実施の形態に係る復号処理のフローチャートである。
[Decryption process]
An embodiment of a decoder according to the present invention will be described with reference to the drawings. FIG. 5 is a flowchart of the decoding process according to the embodiment of the present invention.
まず,ステップS31では,high pass フレーム信号,low passフレーム信号,動きベクトル情報を読み込む。 First, in step S31, a high pass frame signal, a low pass frame signal, and motion vector information are read.
ステップS32〜S39では,前述した符号化処理におけるステップS13〜S20と同様な処理を行う。 In steps S32 to S39, processing similar to that in steps S13 to S20 in the encoding process described above is performed.
ステップS40では,ステップS38で出力された動き補償ブロック内の領域に相当するlow pass信号,同high pass 信号,同ブロックに対する動きベクトルを入力とし,update step 処理を行い,偶数フレーム信号を出力する。具体的な算出方法は式(12)に従う。ステップS41では,ステップS40で出力された偶数フレーム信号をレジスタに格納する。 In step S40, the low pass signal corresponding to the region in the motion compensation block output in step S38, the high pass signal, and the motion vector for the block are input, update step processing is performed, and an even frame signal is output. A specific calculation method follows Formula (12). In step S41, the even frame signal output in step S40 is stored in a register.
ステップS42では,ステップS40で出力された動き補償ブロック内の領域に相当するhigh pass 信号,同ブロックに対する動きベクトル,偶数フレーム信号を入力とし,prediction step 処理を行い,奇数フレーム信号を出力する。具体的な算出方法は式(13)に従う。ステップS43では,ステップS42で出力された奇数フレーム信号をレジスタに格納する。 In step S42, the high pass signal corresponding to the region in the motion compensation block output in step S40, the motion vector for the block, and the even frame signal are input, the prediction step processing is performed, and the odd frame signal is output. A specific calculation method follows equation (13). In step S43, the odd frame signal output in step S42 is stored in a register.
ステップS44では,以上ステップS31〜S43の処理がすべての動き補償ブロックに対して終了したか否かの判定処理を行い,終了している場合には,真値を出力して終了する。そうでなければ,偽値を出力してステップS31〜S43の処理を繰り返す。 In step S44, it is determined whether or not the processing in steps S31 to S43 has been completed for all the motion compensation blocks. If the processing has been completed, a true value is output and the processing ends. Otherwise, a false value is output and the processing of steps S31 to S43 is repeated.
[符号化装置]
図6に本発明の符号化装置のブロック図を示す。入力した符号化対象信号は,符号化対象信号記憶部11に記憶される。
[Encoding device]
FIG. 6 shows a block diagram of the encoding apparatus of the present invention. The input encoding target signal is stored in the encoding target
prediction step 処理部12は,符号化対象信号記憶部11から読み出した符号化対象信号を入力として,prediction step 処理を行い,high pass 信号および動きベクトル情報を各々,high pass 信号記憶部14および動きベクトル記憶部13に書き出す。具体的な算出方法は式(10)に従う。なお,ここで,書き出したhigh pass 信号および動きベクトル情報は本装置の出力として,出力される。
The prediction
振幅値制御処理部15は,high pass 信号記憶部14から読み出したhigh pass 信号,振幅値制御ブロックのサイズ,同ブロックのフレーム内での位置を示す座標値を入力とし,同ブロックの領域に相当するhigh pass 信号に対して,振幅値制御重み係数を算出する処理を行い,同重み係数を出力する。
The amplitude value control processing unit 15 receives the high pass signal read from the high pass
本処理の詳細については,図7を用いて説明する。図7は,振幅値制御処理部15のブロック図である。 Details of this processing will be described with reference to FIG. FIG. 7 is a block diagram of the amplitude value control processing unit 15.
平均値算出部21は,振幅値制御ブロックのサイズ,同ブロックのフレーム内での位置を示す座標値,同ブロックの領域に相当するhigh pass 信号を入力とし,振幅値制御ブロック内の平均画素値を算出する処理を行い,同平均画素値を平均値記憶部22に書き出す。具体的な算出方法は式(9)に従う。
The average
重み係数算出部24は,平均値記憶部22から読み出した振幅値制御ブロック内の平均画素値,同ブロックの領域に相当するhigh pass 信号,振幅値制御関数記憶部23から読み出した振幅値制御関数を入力とし,振幅値制御関数に基づき振幅値制御重み係数を算出する処理を行い,同重み係数を重み係数記憶部25に書き出す。具体的な算出方法は式(8)に従う。
The weighting
繰返し処理判定部26は,動き補償ブロックにおけるすべての振幅値制御ブロックに対して,振幅値制御重み係数の算出を行う。すべての振幅値制御ブロックに対して処理が終了した場合には,次の処理に移る。
The iterative
図6の空間方向重み付け処理部16は,振幅値制御処理部15の重み係数記憶部25から読み出した各振幅値制御ブロックに対する重み係数,high pass 信号記憶部14から読み出したhigh pass 信号,動き補償ブロックのサイズ,同ブロックのフレーム内での位置を示す座標値を入力とし,同ブロックの領域に相当するhigh pass 信号に対して,同ブロック内の空間的な位置に応じた重み付けを行う処理を行い,重み付け後のhigh pass 信号を出力する。
The spatial direction
本処理の詳細については,図8を用いて説明する。図8は,空間方向重み付け処理部16のブロック図である。
Details of this processing will be described with reference to FIG. FIG. 8 is a block diagram of the spatial direction
重み付け処理部31は,動き補償ブロック内の領域に相当するhigh pass 信号,同ブロック内の各振幅値制御重み係数を入力とし,同重み係数をhigh pass 信号に乗じる処理を行い,重み係数が乗じられたhigh pass 信号をhigh pass 信号記憶部32に書き出す。
The
次に重み付け処理部33は,high pass 信号記憶部32から読み込まれた動き補償ブロック内の領域に相当するhigh pass 信号,空間重み窓関数記憶部34から読み込まれた空間重み窓関数を入力とし,水平方向の位置に応じて同重み関数より求まる重み係数をhigh pass 信号に乗じる処理を行い,同処理後のhigh pass 信号をhigh pass 信号記憶部35に書き出す。
Next, the weighting processing unit 33 receives the high pass signal corresponding to the region in the motion compensation block read from the high pass
また,重み付け処理部36は,high pass 信号記憶部35から読み込まれた動き補償ブロック内の領域に相当するhigh pass 信号,空間重み窓関数記憶部34から読み込まれた空間重み窓関数を入力とし,水平方向の位置に応じて同重み関数より求まる重み係数をhigh pass 信号に乗じる処理を行い,同処理後のhigh pass 信号をhigh pass 信号記憶部37に書き出す。
The
繰返し処理判定部38は,以上の重み付け処理部31から重み付け処理部36によりhigh pass 信号記憶部37にhigh pass 信号を記憶するまでの処理をhigh pass フレーム内のすべての動き補償ブロックに対して行う。すべての動き補償ブロックに対して処理が終了した場合には,次の処理に移る。
The iterative
図6のupdate step 処理部17は,空間方向重み付け処理部16のhigh pass 信号記憶部37(図8)から読み込まれた動き補償ブロック内の領域に相当するhigh pass 信号,同ブロックに対する動きベクトル,符号化対象信号記憶部11から読み出した偶数フレーム信号を入力とし,update step 処理を行い,出力されたlow pass信号をlow pass信号記憶部18に書き出す。具体的な算出方法は式(11)に従う。なお,ここで,書き出したlow pass信号は本装置の出力として,出力される。
The update step processing unit 17 in FIG. 6 includes a high pass signal corresponding to a region in the motion compensation block read from the high pass signal storage unit 37 (FIG. 8) of the spatial direction
[復号装置]
図9に本発明の復号装置のブロック図を示す。入力したhigh pass フレームは,high pass 信号記憶部41に記憶される。また,入力したlow passフレームは,low pass信号記憶部42に記憶される。入力した動きベクトルは,動きベクトル記憶部43に記憶される。
[Decoding device]
FIG. 9 shows a block diagram of the decoding apparatus of the present invention. The input high pass frame is stored in the high pass signal storage unit 41. The input low pass frame is stored in the low pass
振幅値制御処理部44,空間方向重み付け処理部45は,図6に示す振幅値制御処理部15,空間方向重み付け処理部16と同じ処理機能を持つ。
The amplitude value control processing unit 44 and the spatial direction weighting processing unit 45 have the same processing functions as the amplitude value control processing unit 15 and the spatial direction
update step 処理部46は,振幅値制御処理部44および空間方向重み付け処理部45によって重み付け処理された動き補償ブロック内の領域に相当するhigh pass 信号,同ブロックに対する動きベクトル,low pass信号記憶部42から読み出したlow passフレームを入力とし,update step 処理を行い,出力された偶数フレームを偶数フレーム記憶部47に書き出す。具体的な算出方法は式(12)に従う。なお,ここで,書き出した偶数フレームは本装置の出力として,出力される。
The update
prediction step 処理部48は,high pass 信号記憶部41から読み込まれた動き補償ブロック内の領域に相当するhigh pass 信号,同ブロックに対する動きベクトル,偶数フレーム記憶部47から読み出した偶数フレームを入力とし,prediction step 処理を行い,出力された奇数フレームを奇数フレーム記憶部49に書き出す。具体的な算出方法は式(13)に従う。なお,ここで,書き出した奇数フレームは本装置の出力として,出力される。
The prediction
以上の符号化および復号の処理は,コンピュータとソフトウェアプログラムとによって実現することもでき,そのプログラムをコンピュータ読み取り可能な記録媒体に記録して提供することも,ネットワークを通して提供することも可能である。 The above encoding and decoding processes can be realized by a computer and a software program, and the program can be provided by being recorded on a computer-readable recording medium or provided through a network.
1 偶数(2k)フレーム
2 奇数(2k+1)フレーム
3 動き補償部(MC)
4 差分器
5 逆動き補償部(IMC)
6 重み関数による適応処理部(F)
7 加算器
8 low passフレーム
9 high pass フレーム
11 符号化対象信号記憶部
12,48 prediction step 処理部
13 動きベクトル記憶部
14 high pass 信号記憶部
15,44 振幅値制御処理部
16,45 空間方向重み付け処理部
17,46 update step 処理部
18 low pass信号記憶部
21 平均値算出部
22 平均値記憶部
23 振幅値制御関数記憶部
24 重み係数算出部
25 重み係数記憶部
26,38 繰返し処理判定部
31,33,36 重み付け処理部
32,35,37 high pass 信号記憶部
34 空間重み窓関数記憶部
41 high pass 信号記憶部
42 low pass信号記憶部
43 動きベクトル記憶部
47 偶数フレーム記憶部
49 奇数フレーム記憶部
1 even number (2k)
4 Differentiator 5 Inverse motion compensator (IMC)
6 Adaptive processing unit with weight function (F)
7
Claims (12)
符号化対象信号を入力し,動き補償に基づくフレーム間予測処理により高域信号を算出する過程と,
ブロックに分割された前記高域信号の各ブロック内の空間的な位置に応じて,ブロック境界部での重み係数がブロック内の他の部分の重み係数より小さい重み係数を算出する過程と,
入力した符号化対象信号と前記高域信号との線形和をとることで低域信号を生成する際に,高域信号の加算値を前記重み係数を用いて変化させて低域信号を生成する過程とを有する
ことを特徴とするスケーラブル符号化方法。 In a scalable encoding method that performs filtering in the time axis direction to achieve temporal scalability,
A process of inputting a signal to be encoded and calculating a high-frequency signal by inter-frame prediction processing based on motion compensation;
Calculating a weighting factor at a block boundary that is smaller than the weighting factor of the other part in the block according to the spatial position in each block of the high-frequency signal divided into blocks;
When a low-frequency signal is generated by taking a linear sum of the input signal to be encoded and the high-frequency signal, a low-frequency signal is generated by changing the added value of the high-frequency signal using the weighting factor. A scalable encoding method comprising: a process.
前記高域信号に対する空間的な位置に応じた重み係数による空間的な重み付け処理と併せて,高域信号のbx ×by (bx ,by は所定の正の整数)の矩形領域内の画素値の絶対平均値に応じて該画素値を重み付けする処理を行い,空間方向および振幅方向に対して適応的な重み付け処理を高域信号に対して行う
ことを特徴とするスケーラブル符号化方法。 The scalable coding method according to claim 1,
In conjunction with spatial weighting processing by the weighting coefficients corresponding to the spatial position relative to the high frequency signal, the high-frequency signal b x × b y (b x , b y the predetermined positive integer) rectangular region of A scalable coding method characterized by performing a process of weighting a pixel value in accordance with an absolute average value of the pixel value and performing an adaptive weighting process on a high frequency signal in a spatial direction and an amplitude direction .
前記空間的な位置に応じた重み係数を算出する際に,予め前記重み係数を決定する空間重み窓関数の値が格納されたルックアップテーブルを用い,該空間重み窓関数の値の算出を該ルックアップテーブルの参照により行う
ことを特徴とするスケーラブル符号化方法。 In the scalable encoding method according to claim 1 or 2,
When calculating a weighting factor according to the spatial position, a lookup table in which a value of a spatial weighting window function for determining the weighting factor is stored in advance is used to calculate the value of the spatial weighting window function. A scalable coding method characterized by performing lookup by referring to a lookup table.
入力した低域信号と高域信号の線形和をとることで復号画像フレーム信号を生成する際に,ブロックに分割された高域信号の各ブロック内の空間的な位置に応じて,ブロック境界部での重み係数がブロック内の他の部分の重み係数より小さい重み係数を算出する過程と,
該重み係数を用いて前記線形和における高域信号の加算値を変化させ,入力した低域信号とブロック内の空間的な位置に応じて重み付け処理された高域信号との線形和により復号画像フレーム信号を生成する過程とを有する
ことを特徴とするスケーラブル復号方法。 In a scalable decoding method that performs a decoding process corresponding to a filtering process in the time axis direction for realizing temporal scalability,
When the decoded image frame signal is generated by taking the linear sum of the input low-frequency signal and high-frequency signal , the block boundary portion is determined according to the spatial position in each block of the high-frequency signal divided into blocks. A process of calculating a weighting factor smaller than the weighting factor of the other part in the block ,
The added value of the high frequency signal in the linear sum is changed using the weighting coefficient, and a decoded image is obtained by linear addition of the input low frequency signal and the high frequency signal weighted according to the spatial position in the block. A scalable decoding method, comprising: generating a frame signal.
前記復号画像フレーム信号を生成する過程では,高域信号に対する前記空間的な位置に応じた重み係数による空間的な重み付け処理と併せて,高域信号のbx ×by (bx ,by は所定の正の整数)の矩形領域内の画素値の絶対平均値に応じて該画素値を重み付けする処理を行い,空間方向および振幅方向に対して適応的な重み付け処理を高域信号に対して行う
ことを特徴とするスケーラブル復号方法。 The scalable decoding method according to claim 4,
In the process of generating the decoded image frame signals, in conjunction with spatial weighting processing by the weighting coefficient corresponding to the spatial position relative to the higher-band signal, the high-frequency signal b x × b y (b x , b y The pixel value is weighted according to the absolute average value of the pixel values in a rectangular area of a predetermined positive integer), and adaptive weighting processing is applied to the high frequency signal in the spatial direction and the amplitude direction. A scalable decoding method, characterized in that:
前記空間的な位置に応じた重み係数を算出する際に,予め前記重み係数を決定する空間重み窓関数の値が格納されたルックアップテーブルを用い,該空間重み窓関数の値の算出を該ルックアップテーブルの参照により行う
ことを特徴とするスケーラブル復号方法。 In the scalable decoding method according to claim 4 or 5,
When calculating a weighting factor according to the spatial position, a lookup table in which a value of a spatial weighting window function for determining the weighting factor is stored in advance is used to calculate the value of the spatial weighting window function. A scalable decoding method characterized by performing lookup by referring to a lookup table.
符号化対象信号を入力し,動き補償に基づくフレーム間予測処理により高域信号を算出する手段と,
ブロックに分割された前記高域信号の各ブロック内の空間的な位置に応じて,ブロック境界部での重み係数がブロック内の他の部分の重み係数より小さい重み係数を算出する手段と,
入力した符号化対象信号と前記高域信号との線形和をとることで低域信号を生成する際に,高域信号の加算値を前記重み係数を用いて変化させて低域信号を生成する手段とを備える
ことを特徴とするスケーラブル符号化装置。 In a scalable coding device that performs filtering in the time axis direction to achieve temporal scalability,
Means for inputting a signal to be encoded and calculating a high-frequency signal by inter-frame prediction processing based on motion compensation;
Means for calculating a weighting factor that is smaller than the weighting factor of the other part in the block , according to the spatial position in each block of the high-frequency signal divided into blocks;
When a low-frequency signal is generated by taking a linear sum of the input signal to be encoded and the high-frequency signal, a low-frequency signal is generated by changing the added value of the high-frequency signal using the weighting factor. A scalable encoding device.
入力した低域信号と高域信号の線形和をとることで復号画像フレーム信号を生成する際に,ブロックに分割された高域信号の各ブロック内の空間的な位置に応じて,ブロック境界部での重み係数がブロック内の他の部分の重み係数より小さい重み係数を算出する手段と,
該重み係数を用いて前記線形和における高域信号の加算値を変化させ,入力した低域信号とブロック内の空間的な位置に応じて重み付け処理された高域信号との線形和により復号された復号画像フレーム信号を生成する手段とを備える
ことを特徴とするスケーラブル復号装置。 In a scalable decoding device that performs a decoding process corresponding to a filtering process in the time axis direction for realizing temporal scalability,
When the decoded image frame signal is generated by taking the linear sum of the input low-frequency signal and high-frequency signal , the block boundary portion is determined according to the spatial position in each block of the high-frequency signal divided into blocks. Means for calculating a weighting factor smaller than the weighting factor of the other part in the block ;
The added value of the high frequency signal in the linear sum is changed using the weighting coefficient, and is decoded by the linear sum of the input low frequency signal and the high frequency signal weighted according to the spatial position in the block. And a means for generating a decoded image frame signal. A scalable decoding device comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005108458A JP4403094B2 (en) | 2005-04-05 | 2005-04-05 | Scalable encoding method, scalable decoding method, these devices, their programs, and computer-readable recording media recording these programs |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005108458A JP4403094B2 (en) | 2005-04-05 | 2005-04-05 | Scalable encoding method, scalable decoding method, these devices, their programs, and computer-readable recording media recording these programs |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006287848A JP2006287848A (en) | 2006-10-19 |
JP4403094B2 true JP4403094B2 (en) | 2010-01-20 |
Family
ID=37409233
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005108458A Expired - Fee Related JP4403094B2 (en) | 2005-04-05 | 2005-04-05 | Scalable encoding method, scalable decoding method, these devices, their programs, and computer-readable recording media recording these programs |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4403094B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9036695B2 (en) * | 2010-11-02 | 2015-05-19 | Sharp Laboratories Of America, Inc. | Motion-compensated temporal filtering based on variable filter parameters |
US11064196B2 (en) * | 2018-09-03 | 2021-07-13 | Qualcomm Incorporated | Parametrizable, quantization-noise aware bilateral filter for video coding |
-
2005
- 2005-04-05 JP JP2005108458A patent/JP4403094B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2006287848A (en) | 2006-10-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4920599B2 (en) | Nonlinear In-Loop Denoising Filter for Quantization Noise Reduction in Hybrid Video Compression | |
JP6114420B2 (en) | Method and apparatus for interpolating video using asymmetric interpolation filter | |
WO2010001911A1 (en) | Filter device | |
RU2696311C1 (en) | Video motion compensation device and method with selectable interpolation filter | |
KR100660358B1 (en) | Moving picture coding method and decoding method, and apparatus and program using the same | |
JP4988715B2 (en) | Noise filtering method and apparatus in video coding | |
JP5203379B2 (en) | Spatial convention guidance time prediction for video compression | |
JP5174238B2 (en) | Image / video quality improvement and super-resolution using sparse transform | |
JP2007028034A (en) | Scalable encoding method and device, scalable decoding method and device and these program and their recording media | |
WO2007148619A1 (en) | Dynamic image decoding device, decoded image recording device, and their method and program | |
GB2519289A (en) | Method and apparatus for displacement vector component transformation in video coding and decoding | |
JPWO2005055613A1 (en) | MOVING IMAGE ENCODING METHOD AND DEVICE, AND MOVING IMAGE DECODING METHOD AND DEVICE | |
JP4403094B2 (en) | Scalable encoding method, scalable decoding method, these devices, their programs, and computer-readable recording media recording these programs | |
JP4824708B2 (en) | Moving picture encoding method, apparatus, program, and computer-readable recording medium | |
KR102435316B1 (en) | Image processing apparatus and method | |
JP4719108B2 (en) | VIDEO ENCODING METHOD, VIDEO ENCODING DEVICE, VIDEO ENCODING PROGRAM, AND COMPUTER-READABLE RECORDING MEDIUM CONTAINING THE PROGRAM | |
JP4270733B2 (en) | Image size conversion method and apparatus | |
JP2021132302A (en) | Image coding device, image decoding device, and program of them | |
JP2007221208A (en) | Method and device for encoding moving picture | |
JP4768011B2 (en) | Moving picture encoding apparatus and moving picture decoding apparatus | |
JP6388476B2 (en) | Encoding apparatus and program | |
JP4117886B2 (en) | Image processing apparatus, image processing method, program, and information recording medium | |
JP4219302B2 (en) | Image processing apparatus, image processing method, program, and information recording medium | |
JP2022041172A (en) | Band limitation device and program | |
JP2013223149A (en) | Image encoding device, image decoding device, image encoding program, and image decoding program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070815 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090424 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090512 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090604 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091027 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091030 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4403094 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121106 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121106 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131106 Year of fee payment: 4 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |