EP3014611B1 - Improved frequency band extension in an audio signal decoder - Google Patents
Improved frequency band extension in an audio signal decoder Download PDFInfo
- Publication number
- EP3014611B1 EP3014611B1 EP14742262.0A EP14742262A EP3014611B1 EP 3014611 B1 EP3014611 B1 EP 3014611B1 EP 14742262 A EP14742262 A EP 14742262A EP 3014611 B1 EP3014611 B1 EP 3014611B1
- Authority
- EP
- European Patent Office
- Prior art keywords
- signal
- band
- extended
- frequency
- frequency band
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000005236 sound signal Effects 0.000 title description 15
- 230000005284 excitation Effects 0.000 claims description 109
- 238000000034 method Methods 0.000 claims description 47
- 238000001914 filtration Methods 0.000 claims description 46
- 230000003044 adaptive effect Effects 0.000 claims description 18
- 238000001228 spectrum Methods 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 7
- 238000002156 mixing Methods 0.000 claims description 5
- 239000000654 additive Substances 0.000 claims description 4
- 230000000996 additive effect Effects 0.000 claims description 4
- 239000000648 calcium alginate Substances 0.000 claims description 4
- 235000010410 calcium alginate Nutrition 0.000 claims description 4
- 230000006872 improvement Effects 0.000 claims description 4
- 239000000737 potassium alginate Substances 0.000 claims description 4
- 235000010408 potassium alginate Nutrition 0.000 claims description 4
- 239000000661 sodium alginate Substances 0.000 claims description 4
- 235000010413 sodium alginate Nutrition 0.000 claims description 4
- 239000000728 ammonium alginate Substances 0.000 claims description 3
- 235000010407 ammonium alginate Nutrition 0.000 claims description 3
- 239000008272 agar Substances 0.000 claims description 2
- 235000010419 agar Nutrition 0.000 claims description 2
- 230000008569 process Effects 0.000 claims description 2
- 239000000770 propane-1,2-diol alginate Substances 0.000 claims description 2
- 235000010409 propane-1,2-diol alginate Nutrition 0.000 claims description 2
- 230000015572 biosynthetic process Effects 0.000 description 28
- 238000003786 synthesis reaction Methods 0.000 description 28
- 230000004044 response Effects 0.000 description 19
- 230000006870 function Effects 0.000 description 17
- 238000012952 Resampling Methods 0.000 description 14
- 238000004458 analytical method Methods 0.000 description 13
- 230000003595 spectral effect Effects 0.000 description 13
- 238000012545 processing Methods 0.000 description 11
- 238000005070 sampling Methods 0.000 description 9
- 230000009466 transformation Effects 0.000 description 9
- 238000013459 approach Methods 0.000 description 8
- 238000012805 post-processing Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 7
- 230000000875 corresponding effect Effects 0.000 description 6
- 238000000605 extraction Methods 0.000 description 6
- 239000000203 mixture Substances 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000010606 normalization Methods 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 239000000679 carrageenan Substances 0.000 description 3
- 235000010418 carrageenan Nutrition 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 238000012417 linear regression Methods 0.000 description 3
- 230000000750 progressive effect Effects 0.000 description 3
- 230000002829 reductive effect Effects 0.000 description 3
- 230000002441 reversible effect Effects 0.000 description 3
- 230000001131 transforming effect Effects 0.000 description 3
- 238000011282 treatment Methods 0.000 description 3
- 241001080024 Telles Species 0.000 description 2
- 230000003321 amplification Effects 0.000 description 2
- 230000002238 attenuated effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000001427 coherent effect Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 238000013213 extrapolation Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 101150093826 par1 gene Proteins 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000002087 whitening effect Effects 0.000 description 2
- 239000004606 Fillers/Extenders Substances 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000009849 deactivation Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 235000021183 entrée Nutrition 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/038—Speech enhancement, e.g. noise reduction or echo cancellation using band spreading techniques
- G10L21/0388—Details of processing therefor
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/012—Comfort noise or silence coding
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/06—Determination or coding of the spectral characteristics, e.g. of the short-term prediction coefficients
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/08—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters
- G10L19/083—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters the excitation function being an excitation gain
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/08—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters
- G10L19/12—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters the excitation function being a code excitation, e.g. in code excited linear prediction [CELP] vocoders
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/26—Pre-filtering or post-filtering
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/038—Speech enhancement, e.g. noise reduction or echo cancellation using band spreading techniques
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/08—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters
Definitions
- the present invention relates to the field of coding / decoding and audio-frequency signal processing (such as speech, music or other signals) for their transmission or storage.
- the invention relates to a method and a device for extending the frequency band in a decoder or a processor performing an audio-frequency signal improvement.
- state of the art audio signal coding (mono) consists of perceptual encoding by transform or subband, with parametric coding of high frequencies by tape replication.
- a review of conventional speech and audio coding methods can be found in the books WB Kleijn and KK Paliwal (Eds.), Speech Coding and Synthesis, Elsevier, 1995 ; M. Bosi, RE Goldberg, Introduction to Digital Audio Coding and Standards, Springer 2002 ; J. Benesty, MM Sondhi, Y. Huang (Eds.), Handbook of Speech Processing, Springer 2008 .
- 3GPP AMR-WB Adaptive Multi-Rate Wideband codec (decoder and decoder), which operates at an input / output frequency of 16 kHz and in which the signal is divided into two sub-bands, the low band (0-6.4 kHz) which is sampled at 12.8 kHz and coded by CELP model and the high band (6.4-7 kHz) which is parametrically reconstructed by " band extension " ( or BWE for "Bandwidth Extension” with or without additional information depending on the mode of the current frame.
- band extension or BWE for "Bandwidth Extension
- the limitation of the coded band of the AMR-WB codec at 7 kHz is essentially related to the fact that the transmit frequency response of the broadband terminals has been approximated at the time of standardization (ETSI / 3GPP then ITU-T T) according to the frequency mask defined in the ITU-T P.341 standard and more precisely by using a so-called "P341" filter defined in the ITU-T G.191 standard which cuts frequencies above 7 kHz (this filter respects the mask defined in P.341).
- a signal sampled at 16 kHz may have a defined audio band of 0 to 8000 Hz; the AMR-WB codec thus introduces a limitation of the high band in comparison with the theoretical bandwidth of 8 kHz.
- the 3GPP AMR-WB speech codec was standardized in 2001 mainly for circuit-mode (CS) telephony applications over GSM (2G) and UMTS (3G). This same codec was also standardized in 2003 in the ITU-T as Recommendation G.722.2 "Wideband coding speech at around 16kbit / s using Adaptive Multi-Rate Wideband (AMR-WB)".
- band extension in the AMR-WB codec is rather rudimentary. Indeed, the high band (6.4-7 kHz) is generated by formatting a white noise through a temporal envelope (applied in the form of gains per subframe) and frequency (by the application of a linear prediction synthesis filter or LPC for Linear Predictive Coding). This band extension technique is illustrated in figure 1 .
- correction information is transmitted by the encoder AMR-WB and decoded (blocks 107, 108) in order to refine the estimated gain per subframe (4 bits every 5ms, ie 0.8 kbit / s) .
- s HB ( n ) is finally processed by a FIR ("Finite Impulse Response") band-pass filter (block 112), to keep only the band 6 - 7 kHz; at 23.85 kbit / s, a low-pass filter of FIR type (block 113) is added to the processing to further attenuate the frequencies above 7 kHz.
- the high frequency synthesis (HF) is finally added (block 130) to the low frequency synthesis (BF) obtained with the blocks 120 to 123 and resampled at 16 kHz (block 123).
- the AMR-WB decoding algorithm has been improved in part with the development of the ITU-T G.718 scalable codec that was standardized in 2008.
- ITU-T G.718 includes an interoperable mode, for which core coding is compatible with 12.65 kbit / s G.722.2 (AMR-WB) coding; in addition, the G.718 decoder has the distinction of being able to decode a bit stream AMR-WB / G.722.2 at all possible bit rates of the AMR-WB codec (6.6 to 23.85 kbit / s).
- blind band extension is disclosed by the prior art US 2003/050786 A1 which comprises an LPC analysis of the narrowband signal, the use of these coefficients to obtain an envelope of the broadband signal, the extension of the filtered narrowband excitation signal, a filtering to obtain a signal in high band which is finally combined with the narrowband signal to provide an enlarged band signal.
- the present invention improves the situation.
- the excitation signal (resulting from the decoding of the low band or from a low band signal extraction) makes it possible to carry out the band extension with a signal model that is more suitable for certain types of band. signals like music signals.
- the excitation signal decoded or estimated in the low band has in some cases harmonics, which when they exist, can be transposed in high frequency so that it ensures a certain level of harmonicity in the high band reconstructed.
- the band extension according to the method thus makes it possible to improve the quality for this type of signal.
- the band extension according to the method is performed by first extending an excitation signal and then applying a synthesis filtering step; this approach exploits the fact that the decoded excitation in the low band is a signal whose spectrum is relatively flat, which avoids the decoded signal whitening treatments that may exist in the known methods of band extension in the frequency domain in the state of the art.
- first frequency band the energy at the current frame and that of the subframe in the low band signal
- second frequency band the energy per frame in the high band
- This makes it possible to keep in the high band the same ratio of energy between subframe and frame as in the low band, which is particularly beneficial when the energy of the subframes varies greatly, for example in the case of transient sounds. , of attacks.
- the method further includes an adaptive bandpass filtering step based on the decoding rate of the current frame.
- This adaptive filtering makes it possible to optimize the extended bandwidth as a function of the bit rate, and therefore the quality of the reconstructed signal after band extension. Indeed, for low bit rates (typically 6.6 and 8.85 kbit / s for AMR-WB), the overall quality of the decoded signal in the low band (by the AMR-WB codec or an interoperable version) not being very good, it is preferable not to extend the decoded band too much and therefore to limit the band extension by adapting the frequency response of the filter bandpass associated to cover for example an approximate band of 6 to 7 kHz; this limitation is all the more advantageous that the excitation signal itself is relatively poorly coded and it is preferable not to use a sub-band too wide for the extension of high frequencies.
- the quality can be improved with HF synthesis covering a wider band, for example approximately 6 to 7.7 kHz.
- the high limit of 7.7 kHz (instead of 8 kHz) is an example embodiment, which can be adjusted to values close to 7.7 kHz. This limitation is here justified by the fact that the extension is made in the invention without auxiliary information and that an extension up to 8 kHz (although theoretically possible) could result in artifacts for particular signals.
- this limitation at 7.7 kHz takes into account the fact that typically the anti-aliasing filters in analog / digital conversion and resampling filters between 16 kHz and other frequencies are not perfect and they typically introduce a rejection at frequencies below 8 kHz.
- the method comprises a step of transforming the time-frequency of the excitation signal, the step of obtaining an extended signal then taking place in the frequency domain and a reverse time-frequency transforming step. of the extended signal before the scaling and filtering steps.
- the implementation of the band extension (of the excitation signal) in the frequency domain makes it possible to obtain a fineness of frequency analysis which is not available with a temporal approach, and also makes it possible to have a resolution Frequency sufficient to detect harmonics and transpose high harmonics of the signal (in the low band) to improve quality while respecting the structure of the signal.
- this function includes a resampling of the excitation signal by adding samples to the spectrum of this signal.
- the original spectrum is conserved, in order to be able to apply a progressive attenuation response of the high-pass filter in this frequency band and also to not introduce defects. 9 audible during the step of adding the low frequency synthesis to the high frequency synthesis.
- the method comprises a de-emphasis filtering step of the extended signal at least in the second frequency band.
- the signal in the second frequency band is brought into a domain coherent with the signal in the first frequency band.
- the method further comprises a step of generating a noise signal at least in the second frequency band, the extended signal being obtained by combining the extended excitation signal and the noise signal.
- the combining step is performed by adaptive additive mixing with a level equalization gain between the extended excitation signal and the noise signal.
- this equalization gain allows the combining step to adapt to the characteristics of the signal to optimize the relative proportion of noise in the mixture.
- This device has the same advantages as the method described above, which it implements.
- the invention relates to a decoder comprising a device as described.
- the invention relates to a storage medium, readable by a processor, integrated or not integrated with the band expansion device, possibly removable, storing a computer program implementing a band extension method as described above.
- the figure 3 illustrates an example of a decoder, compatible with the norm AMR-WB / G.722.2 in which one finds a postprocessing similar to that introduced in G.718 and described with reference to the figure 2 and an improved tape extension according to the extension method of the invention, implemented by the tape extension device illustrated by block 309.
- the CELP decoding (BF for low frequencies) always operates at the internal frequency of 12.8 kHz, as in AMR-WB and G.718, and the band extension (HF for high frequencies) subject of the invention operating at the frequency of 16 kHz, the synthesis BF and HF are combined (block 312) at the frequency fs after adequate resampling (block 306 and internal processing block 311).
- the combination of the low and high bands can be done at 16 kHz, after resampling the low band of 12.8 to 16 kHz, before resampling the extended signal at the frequency fs.
- the decoding of the low band described above assumes a current frame called "active" with a rate between 6.6 and 23.85 kbit / s.
- active a current frame
- some frames can be coded as "inactive” and in this case you can either transmit a silence descriptor (on 35 bits) or not transmit anything.
- SID frame describes several parameters: ISF parameters averaged over 8 frames, average energy over 8 frames, dithering flag for the non-stationary noise reconstruction.
- the decoder makes it possible to extend the decoded low band (50-6400 Hz while taking into account the 50 Hz high-pass filtering at the decoder, 0-6400 Hz in the decoder. the general case) to an extended band whose width varies, ranging from approximately 50-6900 Hz to 50-7700 Hz depending on the mode implemented in the current frame.
- the extension of the excitation is carried out in the frequency domain in a band of 5000 to 8000 Hz, to allow bandpass filtering of width 6000 to 6900 or 7700 Hz.
- the HF gain correction information (0.8 kbit / s) transmitted at 23.85 kbit / s is here ignored. So at the figure 3 no specific block at 23.85 kbit / s is used.
- the high band decoding part is produced in block 309 representing the band extension device according to the invention and which is detailed in FIG. figure 5 in a first embodiment and at the figure 7 in a second embodiment.
- This device comprises at least one module for obtaining an extended signal in at least one second frequency band greater than the first frequency band from an oversampled excitation signal and extended in at least a second band.
- frequency U HB1 (k)
- a delay (block 310) is introduced in the first embodiment to synchronize the outputs of the blocks 306 and 307 and the high band synthesized at 16 kHz is resampled from 16 kHz to the frequency fs (block output 311).
- the delay T 30 samples, which corresponds to the resampling delay of 12.8 to 16 kHz of 15 samples + delay of the low frequency post-processing of 15 samples.
- the extension method of the invention implemented in block 309 according to the first embodiment introduces preferentially no additional delay with respect to the low band reconstructed at 12.8 kHz; however, in variants of the invention (for example using a time / frequency transformation with overlap), a delay may be introduced.
- the low and high bands are then combined (added) in block 312 and the resulting synthesis is post-processed by high-order 50 Hz (type IIR) high-pass filtering whose coefficients depend on the frequency fs (block 313) and output post-processing with optional noise gate application similar to G.718 (block 314).
- high-order 50 Hz type IIR
- the band extension device according to the invention illustrated by the block 309 according to the embodiment of the decoder of the figure 3 , implements a band extension method described now with reference to the figure 4 .
- This extension device can also be independent of the decoder and can implement the method described in FIG. figure 4 to perform a band extension of an existing audio signal stored or transmitted to the device, with an analysis of the audio signal to extract an excitation and an LPC filter.
- This device receives as input an excitation signal in a first so-called low-band frequency band u ( n ) in the case of an implementation in the time domain or U ( k ) in the case of an implementation. in the frequency domain for which a time-frequency transform step is then applied.
- this received excitation signal is a decoded signal.
- the low band excitation signal is extracted by analysis of the audio signal.
- the low band audio signal is resampled before the excitation extraction step, so that the excitation extracted from the audio signal by linear prediction estimated from the low band signal (or LPC parameters associated with the low band) is already resampled.
- An exemplary embodiment in this case consists in taking a sampled low band signal at 12.8 kHz, which has a low-band LPC filter describing the short-term spectral envelope for the current frame, oversampling it at 16 kHz, and filter it by an LPC prediction filter obtained by extrapolating the LPC filter.
- Another embodiment is to take a low band signal sampled at 12.8 kHz which is not available LPC model, the oversampler at 16 kHz, perform an LPC analysis on this signal at 16 kHz, and filter this signal by a LPC prediction filter obtained by this analysis.
- a step E401 for generating an extended oversampled excitation signal ( u ext ( n ) or U HB 1 ( k )) in a second frequency band greater than the first frequency band is performed.
- This generation step may comprise both a resampling step and an extension step or simply an extension step depending on the excitation signal obtained at the input.
- This extended oversampled excitation signal is used to obtain an extended signal (U HB2 (k)) in a second frequency band.
- This extended signal then has a signal model adapted to certain types of signals thanks to the characteristics of the extended excitation signal.
- This extended signal can be obtained after combining the oversampled and extended excitation signal with another signal, for example a noise signal.
- a step E402 for generating a noise signal ( u HB ( n ) or U HB ( k )) at least in the second frequency band is performed.
- the second frequency band is for example a high frequency band ranging from 6000 to 8000 Hz.
- this noise can be generated pseudo-randomly by a linear congruential generator.
- this noise generation can be replaced by other methods, for example a signal of constant amplitude (of arbitrary value such as 1) could be defined and random signs applied to each frequency line. generated.
- the extended excitation signal is then combined with the noise signal in step E403 to obtain the extended signal which may also be called combined signal ( u HB 1 ( n ) or U HB 2 ( k )) in the band extended frequency corresponding to the entire frequency band including the first and the second frequency band.
- the combination of these two types of signals makes it possible to obtain a combined signal with characteristics more adapted to certain types of signals such as musical signals.
- the decoded or estimated excitation signal in the low band in some cases has harmonics closer to the musical signals than the noise signal alone.
- Low-frequency harmonics if they exist, can thus be transposed into high frequency so that their mixing with noise makes it possible to ensure a certain level of harmonicity or relative level of noise or spectral flatness ("spectral flatness"). in English) in the reconstructed high band.
- the band extension according to the method improves the quality for this type of signals compared to AMR-WB.
- the combined signal (or extended) is then filtered E404 by a linear prediction filter whose coefficients are derived from the filter coefficients of the low band ( ⁇ (z)) decoded or obtained by analysis and extraction from the low band signal or an oversampled version of it.
- the band extension according to the method is therefore achieved by first extending an excitation signal and then applying a linear prediction synthesis filtering step (LPC); this approach exploits the fact that the LPC decoded excitation in the low band is a signal whose spectrum is relatively flat, which avoids additional processing of whitening of the decoded signal in the band extension.
- LPC linear prediction synthesis filtering step
- the coefficients of this filter can for example be obtained from the decoded parameters of the linear band prediction filter (LPC).
- LPC filter used at 16 kHz sampled high band is of the form 1 / ⁇ ( z / ⁇ ), where 1 / ⁇ ( z ) is the decoded low band filter, and ⁇ is a weighting factor
- the frequency response of the filter 1 / ⁇ ( z / ⁇ ) corresponds to a spread of the frequency response of the decoded lowband filter.
- the filter 1 / A ( z ) can be extended to a higher order (as to 6.6 kbit / s in the block 111) to avoid such spreading.
- E405 adaptive bandpass filtering and / or E407 scaling can be carried out in order to improve the quality of the extension signal according to the decoding bit rate.
- additional steps of E405 adaptive bandpass filtering and / or E407 scaling can be carried out in order to improve the quality of the extension signal according to the decoding bit rate.
- E405 adaptive bandpass filtering and / or E407 scaling can be carried out in order to improve the quality of the extension signal according to the decoding bit rate.
- additional steps of E405 adaptive bandpass filtering and / or E407 scaling can be carried out in order to improve the quality of the extension signal according to the decoding bit rate.
- E407 scaling can be carried out in order to improve the quality of the extension signal according to the decoding bit rate.
- the tape extension device is now described with reference to the figure 5 .
- This device implements the band extension method described above with reference to the figure 4 .
- a low band excitation signal decoded or estimated by analysis is received ( u ( n )).
- the band extension here uses the decoded excitation at 12.8 kHz (exc2 or u ( n )) at the output of block 302.
- the generation of the oversampled and extended excitation is carried out in a frequency band ranging from 5 to 8 kHz, thus including a second frequency band (6.4-8 kHz) greater than the first one. frequency band (0-6.4 kHz).
- the generation of the extended excitation signal is effected at least on the second frequency band but also on a part of the first frequency band.
- this signal is transformed to obtain an excitation signal spectrum U ( k ) by the time-frequency transformation module 500.
- the DCT-IV transformation is implemented by FFT according to the algorithm called " Evolved DCT ( EDCT )" described in the article.
- EDCT Evolved DCT
- DM Zhang, HT Li, Low Complexity Transform - Evolved DCT, IEEE International Conference on Computational Science and Engineering (CSE), Aug. 2011, pp. 144-149 and implemented in ITU-T G.718 Annex B and G.729.1 Annex E.
- the DCT-IV transformation may be replaced with other short-term time-frequency transformations of the same length and in the field of excitation, such as an FFT (for " Fast Fourier Transform "in English ) or DCT-II ( Discrete Cosine Transform - Type II).
- FFT Fast Fourier Transform
- DCT-II Discrete Cosine Transform - Type II
- MDCT Modified Discrete Cosine Tranform
- This approach preserves the original spectrum in this band and avoids introducing distortions in the 5000-6000 Hz band during the addition of HF synthesis with BF synthesis - particularly the signal phase (implicitly represented in the DCT-IV domain) in this band is preserved.
- the band 6000-8000 Hz of U HB 1 ( k ) is here defined by copying the 4000-6000 Hz band of U ( k ) since the value of start_band is preferably fixed at 160.
- the value of start_band can be made adaptive around the value of 160, without changing the nature of the invention.
- the details of the adaptation of the value start_band are not described here because they go beyond the scope of the invention without changing the scope.
- the noise in the 6000-8000 Hz band
- U HBN k - 1 + 13849 k 240 , ⁇ 319 with the convention that U HBN (239) in the current frame corresponds to the value U HBN (319) of the previous frame.
- this noise generation can be replaced by other methods.
- the combination block 503 can be realized in different ways.
- G HBN is a normalization factor for equalizing the energy level between the two signals
- the coefficient ⁇ (between 0 and 1) is adjusted according to parameters estimated from the decoded low band and the coefficient ⁇ (between 0 and 1) depends on ⁇ .
- N ( k 1 , k 2 ) is the set of indices k for which the index coefficient k is classified as being associated with noise.
- This set can be obtained for example by detecting the local peaks in U '( k ) verifying
- and in whereas these lines are not associated with noise, ie (by applying the negation of the previous condition): NOT at b at ⁇ k ⁇ b
- the calculation of ⁇ may be replaced by other methods.
- the linear regression could for example be estimated in a supervised manner by estimating the factor ⁇ by giving itself the original high band in a learning base. Note that the calculation mode of ⁇ does not limit the nature of the invention.
- ⁇ 1 - ⁇ 2 to preserve the energy of the extended signal after mixing.
- block 503 realizes the equivalent of block 101 of the figure 1 to normalize the white noise according to an excitation which is on the other hand here in the frequency domain, already extended to the rate of 16 kHz; in addition, the mix is limited to the band 6000-8000 Hz.
- an embodiment of block 503 may be considered, where the spectra, U HB 1 ( k ) or G HBN U HBN ( k ), are selected (switched) adaptively, which amounts to allowing only the values 0 or 1 for ⁇ ; this approach amounts to classifying the type of excitation to be generated in the 6000-8000 Hz band
- the block 504 optionally carries out a dual operation of application of bandpass filter frequency response and deemphasis filtering (or deemphasis) in the frequency domain.
- G deemph (k) 1
- ⁇ k can be adjusted (for example for even frequencies).
- the HF synthesis is not de-emphasized.
- the high frequency signal is on the contrary de-emphasized so as to bring it back to a domain coherent with the low frequency signal (0-6.4 kHz) coming out of block 305. This is important for the estimation and the subsequent adjustment of the energy of the HF synthesis.
- the de-emphasis can be performed in an equivalent way in the time domain after inverse DCT.
- Such an embodiment is implemented at the figure 7 described later.
- This filtering is performed in the frequency domain, and its frequency response is illustrated in FIG. figure 6 .
- the 3 dB cut-off frequencies are 6000 Hz for the lower part and for the upper part approximately 6900, 7300, 7600 Hz at 6.6, 8.86 and the bit rates higher than 8.85 kbit / s (respectively).
- G hp ( k ) , k 0, ⁇ , 55, is given for example in Table 1 below.
- Table 1 ⁇ / b> K g hp ( k ) K g hp ( k ) K g hp ( k ) k g hp ( k ) 0 0.001622428 14 0.114057967 28 0.403990611 42 0.776551214 1 0.004717458 15 0.128865425 29 0.430149896 43 0.800503267 2 0.008410494 16 0.144662643 30 0.456722014 44 0.823611104 3 0.012747280 17 0.161445005 31 0.483628433 45 0.845788355 4 0.017772424 18 0.179202219 32 0.510787115 46 0.866951597 5 0.023528982 19 0.197918220 33 0.538112915 47 0.887020781 6 0.030058032 20 0.217571104 34 0.56
- G hp ( k ) may be modified while keeping a gradual attenuation.
- the variable bandwidth low-pass filtering, G lp ( k ) may be adjusted with different values or frequency support, without changing the principle of this filtering step.
- bandpass filtering example illustrated in FIG. figure 6 can be adapted by defining a single filtering step combining the high-pass and low-pass filtering.
- the bandpass filtering may be performed in an equivalent manner in the time domain (as in block 112 of the present invention). figure 1 ) with different filter coefficients according to the flow rate, after a reverse DCT step. Such an embodiment is implemented at the figure 7 described later. However, it will be noted that it is advantageous to carry out this step directly in the frequency domain because the filtering is carried out in the field of LPC excitation and therefore the problems of circular convolution and edge effects are very limited in this field. .
- the realization of the block 506 differs from that of the block 101 of the figure 1 because the energy at the current frame is taken into account in addition to that of the sub-frame. This makes it possible to have the ratio of the energy of each sub-frame with respect to the energy of the frame. Energy ratios (or relative energies) are compared rather than the absolute energies between low band and high band.
- this scaling step makes it possible to keep in the high band the energy ratio between the subframe and the frame in the same way as in the low band.
- Blocks 508 and 509 are useful for adjusting the level of the LPC synthesis filter (block 510), here depending on the tilt of the signal. Other methods of calculating the gain g HB 2 ( m ) are possible without changing the nature of the invention.
- this filtering can be done in the same way as that described for block 111 of the figure 1 of the AMR-WB decoder, however the order of the filter goes to 20 at the rate of 6.6, which does not significantly change the quality of the synthesized signal.
- the coding of the low band (0-6.4 kHz) may be replaced by a CELP coder other than that used in AMR-WB, for example the CELP coder in G.718 to 8. kbit / s.
- a CELP coder other than that used in AMR-WB, for example the CELP coder in G.718 to 8. kbit / s.
- other encoders in wide band or operating at frequencies higher than 16 kHz in which the coding of the low band operates at an internal frequency at 12.8 kHz could be used.
- the invention can be obviously adapted to other sampling frequencies than 12.8 kHz, when a low frequency encoder operates at a sampling frequency lower than that of the original or reconstructed signal.
- the low band decoding does not use a linear prediction, it does not have an excitation signal to be extended, in this case it will be possible to carry out an LPC analysis of the reconstructed signal in the current frame and calculate an LPC excitation. so as to be able to apply the invention.
- the excitation ( u ( n )) is resampled, for example by linear interpolation or "spline" cubic, from 12.8 to 16 kHz before transformation (for example DCT-IV)
- This variant has the defect of being more complex, because the transform (DCT-IV) of the excitation is then calculated over a greater length and the resampling is not carried out in the field of the transformed.
- the scaling step (E407 to figure 4 ) is performed by blocks 508 and 509 identical to the figure 5 .
- the filtering step (E404 of the figure 4 ) is performed by the filter module (block 510) identical to that described with reference to the figure 5 .
- the low band excitation u (n) and the LPC filter 1 / ⁇ (z) estimated by frame by LPC analysis of a low-band signal whose band is to be extended.
- the low band excitation signal is then extracted by analyzing the audio signal.
- the low band audio signal is resampled before the excitation extraction step, so that the excitation extracted from the audio signal (by linear prediction) is already resolved. sampled.
- the invention illustrated in figure 5 or the second embodiment not forming part of the invention and described in figure 7 , applies in this case to a low band which is not decoded but analyzed.
- the figure 8 represents an exemplary hardware embodiment of a band extension device 800 according to the invention. This may be an integral part of an audio-frequency signal decoder or equipment receiving decoded or non-decoded audio signals.
- This type of device comprises a PROC processor cooperating with a memory block BM having a memory storage and / or work MEM.
- a PROC processor cooperating with a memory block BM having a memory storage and / or work MEM.
- Such a device comprises an input module E able to receive a decoded or extracted excitation audio signal in a first so-called low band frequency band ( u ( n ) or U ( k )) and the parameters of a filter of linear prediction synthesis ( ⁇ ( z )). It comprises an output module S adapted to transmit the synthesized high frequency signal (HF_syn) for example to a delay application module such as the block 310 of the figure 3 or a resampling module such as module 311.
- a delay application module such as the block 310 of the figure 3
- a resampling module such as module 311.
- the memory block may advantageously comprise a computer program comprising code instructions for implementing the steps of the band extension method in the sense of the invention, when these instructions are executed by the processor PROC, and in particular the steps for obtaining an extended signal in at least a second frequency band greater than the first frequency band from an oversampled and extended excitation signal in at least a second frequency band, scaling of the signal extended by a subframe defined gain based on a frame and subframe energy ratio and filtering said extended signal scaled by a linear prediction filter whose coefficients are derived from the coefficients of the low band filter.
- the description of the figure 4 takes the steps of an algorithm of such a computer program.
- the computer program can also be stored on a memory medium readable by a reader of the device or downloadable in the memory space thereof.
- the memory MEM generally records all the data necessary for the implementation of the method.
- the device thus described can also comprise the low band decoding functions and other processing functions described for example in figure 3 in addition to the band extension functions according to the invention.
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
La présente invention se rapporte au domaine du codage/décodage et du traitement de signaux audiofréquences (comme des signaux de parole, de musique ou autres) pour leur transmission ou leur stockage.The present invention relates to the field of coding / decoding and audio-frequency signal processing (such as speech, music or other signals) for their transmission or storage.
Plus particulièrement, l'invention concerne un procédé et un dispositif d'extension de bande de fréquence dans un décodeur ou un processeur réalisant une amélioration de signal audiofréquence.More particularly, the invention relates to a method and a device for extending the frequency band in a decoder or a processor performing an audio-frequency signal improvement.
De nombreuses techniques existent pour compresser (avec perte) un signal audiofréquence comme la parole ou la musique.Many techniques exist to compress (with loss) an audiofrequency signal such as speech or music.
Les méthodes classiques de codage pour les applications conversationnelles sont en général classifiées en codage de forme d'onde (MIC pour "Modulation par Impulsion et codage", MICDA pour "Modulation par Impulsion et Codage Différentiel Adaptatif", codage par transformée...), codage paramétrique (LPC pour "Linear Predictive Coding" en anglais, codage sinusoïdal...) et codage hybride paramétrique avec une quantification des paramètres par "analyse par synthèse" dont le codage CELP (pour "Code Excited Linear Prediction" en anglais) est l'exemple le plus connu.Conventional methods of coding for conversational applications are generally classified in waveform coding (MIC for "pulse modulation and coding", ADPCM for "Pulse Modulation and Adaptive Differential Coding", transform coding ...). , parametric coding (LPC for "Linear Predictive Coding" in English, sinus coding ...) and parametric hybrid coding with a quantification of the parameters by "analysis by synthesis" whose coding CELP (for "Code Excited Linear Prediction" in English) is the best known example.
Pour les applications non conversationnelles, l'état de l'art en codage de signal audio (mono) est constitué par le codage perceptuel par transformée ou en sous-bandes, avec un codage paramétrique des hautes fréquences par réplication de bande.
Une revue des méthodes classiques de codage de parole et audio se trouve dans les ouvrages
A review of conventional speech and audio coding methods can be found in the books
On s'intéresse ici plus particulièrement au codec (codeur et décodeur) normalisé 3GPP AMR-WB (pour "Adaptive Multi-Rate Wideband" en anglais) qui fonctionne à une fréquence d'entrée/sortie de 16 kHz et dans lequel le signal est divisé en deux sous-bandes, la bande basse (0-6.4 kHz) qui est échantillonnée à 12.8 kHz et codée par modèle CELP et la bande haute (6.4-7 kHz) qui est reconstruite de façon paramétrique par « extension de bande » (ou BWE pour "Bandwidth Extension" en anglais) avec ou sans information supplémentaire selon le mode de la trame courante. On peut noter ici que la limitation de la bande codée du codec AMR-WB à 7kHz est essentiellement liée au fait que la réponse en fréquence en émission des terminaux en bande élargie a été approximée au moment de la normalisation (ETSI/3GPP puis UIT-T) selon le masque fréquentiel défini dans la norme UIT-T P.341 et plus précisément en utilisant un filtre dit « P341 » défini dans la norme UIT-T G.191 qui coupe les fréquences au-dessus de 7 kHz (ce filtre respecte le masque défini dans P.341). Cependant, en théorie, il est bien connu qu'un signal échantillonné à 16 kHz peut avoir une bande audio définie de 0 à 8000 Hz ; le codec AMR-WB introduit donc une limitation de la bande haute en comparaison à la largeur de bande théorique de 8 kHz.Of particular interest here is the 3GPP AMR-WB ("Adaptive Multi-Rate Wideband") codec (decoder and decoder), which operates at an input / output frequency of 16 kHz and in which the signal is divided into two sub-bands, the low band (0-6.4 kHz) which is sampled at 12.8 kHz and coded by CELP model and the high band (6.4-7 kHz) which is parametrically reconstructed by " band extension " ( or BWE for "Bandwidth Extension" with or without additional information depending on the mode of the current frame. It can be noted here that the limitation of the coded band of the AMR-WB codec at 7 kHz is essentially related to the fact that the transmit frequency response of the broadband terminals has been approximated at the time of standardization (ETSI / 3GPP then ITU-T T) according to the frequency mask defined in the ITU-T P.341 standard and more precisely by using a so-called "P341" filter defined in the ITU-T G.191 standard which cuts frequencies above 7 kHz (this filter respects the mask defined in P.341). However, in theory, it is well known that a signal sampled at 16 kHz may have a defined audio band of 0 to 8000 Hz; the AMR-WB codec thus introduces a limitation of the high band in comparison with the theoretical bandwidth of 8 kHz.
Le codec de parole 3GPP AMR-WB a été normalisé en 2001 principalement pour les applications de téléphonie en mode circuit (CS) sur GSM (2G) et UMTS (3G). Ce même codec a été aussi normalisé en 2003 à l'UIT-T en tant que recommandation G.722.2 "Wideband coding speech at around 16kbit/s using Adaptive Multi-Rate Wideband (AMR-WB)".The 3GPP AMR-WB speech codec was standardized in 2001 mainly for circuit-mode (CS) telephony applications over GSM (2G) and UMTS (3G). This same codec was also standardized in 2003 in the ITU-T as Recommendation G.722.2 "Wideband coding speech at around 16kbit / s using Adaptive Multi-Rate Wideband (AMR-WB)".
Il comprend neuf débits, appelés modes, de 6.6 à 23.85 kbit/s, et comprend des mécanismes de transmission continue (DTX pour "Discontinuous Transmission") avec détection d'activité vocale (VAD pour "Voice Activity Detection") et génération de bruit de confort (CNG pour "Confort Noise Generation") à partir de trames de description de silence (SID pour "Silence Insertion Descriptor"), ainsi que des mécanismes de correction de trames perdues (FEC pour "Frame Erasure Concealment", parfois appelé PLC pour "Packet Loss Concealment").It includes nine speeds, called modes, from 6.6 to 23.85 kbit / s, and includes continuous transmission mechanisms (DTX for "Discontinuous Transmission") with Voice Activity Detection (VAD) and noise generation. of comfort (CNG for "Comfort Noise Generation") from silence description frames (SID for "Silence Insertion Descriptor"), as well as mechanisms for the correction of lost frames (FEC for "Frame Erasure Concealment", sometimes called PLC for "Packet Loss Concealment").
On ne reprend pas ici les détails de l'algorithme de codage et de décodage AMR-WB, une description détaillée de ce codec se trouve dans les spécifications 3GPP (TS 26.190, 26.191, 26.192, 26.193, 26.194, 26.204) et UIT-T-G.722.2 (et les Annexes et Appendice correspondantes) ainsi que dans l'article de
Le principe de l'extension de bande dans le codec AMR-WB est assez rudimentaire. En effet, la bande haute (6.4-7 kHz) est générée en mettant en forme un bruit blanc par le biais d'une enveloppe temporelle (appliquée sous la forme de gains par sous-trame) et fréquentielle (par l'application d'un filtre de synthèse de prédiction linéaire ou LPC pour "Linear Predictive Coding"). Cette technique d'extension de bande est illustrée à la
Un bruit blanc, u HB1(n), n = 0,...,79, est généré à 16 kHz par sous-trame de 5 ms par générateur congruentiel linéaire (bloc 100). Ce bruit u HB1(n) est mis en forme dans le temps par application de gains par sous-trame ; cette opération est décomposée en deux étapes de traitement (blocs 102, 106 ou 109) :
- Un premier facteur est calculé (bloc 101) pour mettre le bruit blanc u HB1(n) (bloc 102) à un niveau semblable à celui de l'excitation, u(n), n = 0,···,63, décodée à 12.8 kHz dans la bande basse :
- A first factor is calculated (block 101) to set the white noise u HB 1 ( n ) (block 102) to a level similar to that of the excitation, u ( n ), n = 0, ···, 63, decoded at 12.8 kHz in the low band:
On peut noter ici que la normalisation des énergies se fait en comparant des blocs de taille différente (64 pour u(n) et 80 pour u HB1(n)), sans compensation des différences de fréquences d'échantillonnage (12.8 ou 16 kHz).
- L'excitation dans la bande haute est ensuite obtenue (
bloc 106 ou 109) sous la forme :bloc 103 filtre le signal décodé en bande basse par un filtre passe-haut ayant une fréquence de coupure à 400 Hz pour obtenir un signal ŝhp (n), n = 0,···,63 - ce filtre passe-haut élimine l'influence des très basses fréquences qui peuvent biaiser l'estimation faite dans le bloc 104 - puis on calcule le «tilt» (indicateur de pente spectrale) noté etilt du signal ŝhp (n) par autocorrélation normalisée (bloc 104):
- The excitation in the high band is then obtained (
block 106 or 109) in the form:block 103 filters the low-band decoded signal by a high-pass filter having a cut-off frequency at 400 Hz to obtain a signal ŝ hp ( n ), n = 0, ···, 63 - this filter high pass eliminates the influence of the very low frequencies which can bias the estimate made in the block 104 - then one calculates the "tilt" (indicator of spectral slope) noted e tilt of the signal ŝ hp ( n ) by autocorrelation normalized ( block 104):
A 23.85 kbit/s, une information de correction est transmise par le codeur AMR-WB et décodée (blocs 107, 108) afin d'affiner le gain estimé par sous-trame (4 bits toutes les 5ms, soit 0.8 kbit/s).At 23.85 kbit / s, correction information is transmitted by the encoder AMR-WB and decoded (
L'excitation artificielle uHB (n) est ensuite filtrée (bloc 111) par un filtre de synthèse LPC (bloc 111) de fonction de transfert 1/AHB (z) et fonctionnant à la fréquence d'échantillonnage de 16 kHz. La réalisation de ce filtre dépend du débit de la trame courante:
- A 6.6 kbit/s, le
filtre 1/AHB (z) est obtenu en pondérant par un facteur γ=0.9 un filtre LPC d'ordre 20, 1/Âext (z) qui « extrapole » le filtre LPC d'ordre 16, 1/Â(z), décodé dans la bande basse (à 12.8 kHz) - les détails de l'extrapolation dans le domaine des paramètres ISF (pour "Imittance Spectral Frequency" en anglais) sont décrits dans le norme G.722.2 à la section 6.3.2.1; dans ce cas, - Aux débits > 6.6 kbit/s, le
filtre 1/AHB (z) est d'ordre 16 et correspond simplement à :filtre 1/Â(z/γ) est utilisé à 16 kHz, ce qui résulte en un étalement (par homothétie) de la réponse en fréquence de ce filtre de [0, 6.4 kHz] à [0, 8 kHz].
- At 6.6 kbit / s, the
filter 1 / A HB ( z ) is obtained by weighting by a factor γ = 0.9 an LPC filter of 20, 1 / Â ext (z) which "extrapolates" the order LPC filter. 16, 1 / Â ( z ), decoded in the low band (at 12.8 kHz) - details of the extrapolation in the domain of the ISF parameters (for "Imittance Spectral Frequency") are described in the G.722.2 standard in section 6.3.2.1; in that case,order - At rates> 6.6 kbit / s, the
filter 1 / A HB ( z ) is oforder 16 and simply corresponds to:filter 1 / Â ( z / γ ) is used at 16 kHz, which results in a spread (by homothety) of the frequency response of this filter from [0, 6.4 kHz] to [0 , 8 kHz].
Le résultat, sHB (n), est enfin traité par un filtre passe-bande (bloc 112) de type FIR ("Finite Impulse Response"), pour ne garder que la bande 6 - 7 kHz ; à 23.85 kbit/s, un filtre passe-bas également de type FIR (bloc 113) se rajoute au traitement pour atténuer encore plus les fréquences supérieures à 7 kHz. La synthèse en hautes fréquences (HF) est finalement additionnée (bloc 130) à la synthèse en basses fréquences (BF) obtenue avec les blocs 120 à 123 et ré-échantillonnée à 16 kHz (bloc 123). Ainsi même si la bande haute s'étend en théorie de 6.4 à 7 kHz dans le codec AMR-WB, la synthèse HF est plutôt comprise dans la bande 6-7 kHz avant addition avec la synthèse BF.The result, s HB ( n ), is finally processed by a FIR ("Finite Impulse Response") band-pass filter (block 112), to keep only the band 6 - 7 kHz; at 23.85 kbit / s, a low-pass filter of FIR type (block 113) is added to the processing to further attenuate the frequencies above 7 kHz. The high frequency synthesis (HF) is finally added (block 130) to the low frequency synthesis (BF) obtained with the
On peut identifier plusieurs inconvénients à la technique d'extension de bande du codec AMR-WB :
- Le signal dans la bande haute est un bruit blanc mis en forme (par gains temporels par sous-trame, par filtrage par 1/AHB (z) et filtrage passe-bande), ce qui n'est pas un bon modèle général du signal dans la bande 6.4-7 kHz. Il existe par exemple des signaux de musique très harmoniques pour lesquels la bande 6.4-7 kHz contient des composantes sinusoïdales (ou tones) et aucun bruit (ou peu de bruit), pour ces signaux l'extension de bande du codec AMR-WB dégrade fortement la qualité.
- Le filtre passe-bas à 7 kHz (bloc 113) introduit un décalage de près de 1 ms entre les bandes basses et hautes, ce qui peut potentiellement dégrader la qualité de certains signaux en désynchronisant légèrement les deux bandes à 23.85 kbit/s - cette désynchronisation peut également poser problème lors d'une commutation de débit de 23.85 kbit/s à d'autres modes.
- L'estimation de gains par sous-trame (
101, 103 à 105) n'est pas optimale. Pour partie, elle se base sur une égalisation de l'énergie « absolue » par sous-trame (bloc 101) entre des signaux à des fréquences différentes : l'excitation artificielle à 16 kHz (bruit blanc) et un signal à 12.8 kHz (excitation ACELP décodée). On peut noter en particulier que cette approche induit implicitement une atténuation de l'excitation bande haute (par un ratio 12.8/16=0.8) ; en fait, on notera également qu'aucune désaccentuation (ou déemphase) n'est effectuée sur la bande haute dans le codec AMR-WB, ce qui induit implicitement une amplification relative proche de 0.6 (qui correspond à la valeur de la réponse en fréquence de 1/(1-0.68z -1) à 6400 Hz).bloc
- The signal in the high band is white noise formatted (by temporal gains per subframe, by filtering by 1 / A HB ( z ) and bandpass filtering), which is not a good general model of the signal in the band 6.4-7 kHz. There are, for example, very harmonic music signals for which the 6.4-7 kHz band contains sinusoidal components (or tones) and no noise (or little noise), for these signals the band extension of the AMR-WB codec degrades. strongly the quality.
- The 7 kHz low-pass filter (block 113) introduces an offset of almost 1 ms between the low and high bands, which can potentially degrade the quality of some signals by slightly desynchronizing the two bands at 23.85 kbit / s - this Desynchronization can also be a problem when switching from 23.85 kbit / s to other modes.
- The estimation of gains per subframe (block 101, 103 to 105) is not optimal. In part, it is based on an equalization of the "absolute" energy per sub-frame (block 101) between signals at different frequencies: the artificial excitation at 16 kHz (white noise) and a signal at 12.8 kHz ( ACELP excitation decoded). It can be noted in particular that this approach implicitly induces an attenuation of the high band excitation (by a ratio 12.8 / 16 = 0.8); in fact, it will also be noted that no deemphasis (or deemphasis) is performed on the high band in the AMR-WB codec, which implicitly induces a relative amplification close to 0.6 (which corresponds to the value of the frequency response from 1 / (1-0.68 z -1 ) to 6400 Hz).
En fait, les facteurs de 1/0.8 et de 0.6 se compensent approximativement.
- Sur la parole, les tests de caractérisation du codec 3GPP AMR-WB documentés dans le rapport 3GPP TR 26.976 ont montré que le mode à 23.85 kbit/s a une qualité moins bonne qu'à 23.05 kbit/s, sa qualité est en fait similaire à celle du mode à 15.85 kbit/s. Ceci montre en particulier que le niveau du signal HF artificiel doit être contrôlé de façon très prudente, car la qualité est dégradée à 23.85 kbit/s alors que les 4 bits par trame sont sensés permettre de mieux approcher l'énergie des hautes fréquences originales.
- La limitation de la bande codée à 7 kHz résulte de l'application d'un modèle strict de la réponse en émission des terminaux acoustiques (filtre P.341 dans la norme UIT-T G.191). Or, pour une fréquence d'échantillonnage de 16 kHz, les fréquences dans la bande 7-8 kHz restent importantes, en particulier pour les signaux de musique, pour assurer un bon niveau de qualité.
- On the talk, the 3GPP AMR-WB codec characterization tests documented in the 3GPP TR 26.976 report showed that the 23.85 kbit / sa mode is not as good as 23.05 kbit / s, its quality is actually similar to that of the 15.85 kbit / s mode. This shows in particular that the level of artificial RF signal must be controlled very carefully, because the quality is degraded to 23.85 kbit / s while the 4 bits per frame are supposed to better approach the energy of the original high frequencies.
- The limitation of the 7 kHz coded band results from the application of a strict model of the emission response of acoustic terminals (filter P.341 in ITU-T G.191). However, for a sampling frequency of 16 kHz, frequencies in the band 7-8 kHz remain important, especially for music signals, to ensure a good level of quality.
L'algorithme de décodage AMR-WB a été amélioré en partie avec le développement du codec scalable UIT-T G.718 qui a été normalisé en 2008.The AMR-WB decoding algorithm has been improved in part with the development of the ITU-T G.718 scalable codec that was standardized in 2008.
La norme UIT-T G.718 comprend un mode dit interopérable, pour lequel le codage coeur est compatible avec le codage G.722.2 (AMR-WB) à 12.65 kbit/s ; de plus, le décodeur G.718 a la particularité de pouvoir décoder un train binaire AMR-WB/G.722.2 à tous les débits possibles du codec AMR-WB (de 6.6 à 23.85 kbit/s).ITU-T G.718 includes an interoperable mode, for which core coding is compatible with 12.65 kbit / s G.722.2 (AMR-WB) coding; in addition, the G.718 decoder has the distinction of being able to decode a bit stream AMR-WB / G.722.2 at all possible bit rates of the AMR-WB codec (6.6 to 23.85 kbit / s).
Le décodeur interopérable G.718 en mode bas délai (« low delay » en anglais) (G.718-LD) est illustré à la
- L'extension de bande (décrite par exemple dans la clause 7.13.1 de la recommandation G.718, bloc 206) est identique à celle du décodeur AMR-WB, sauf que le filtre passe-bande 6-7 kHz et le filtre de synthèse 1/AHB(z) (
blocs 111 et 112) sont en ordre inversé. De plus, à 23.85 kbit/s les 4 bits transmis par sous-trames par le codeur AMR-WB ne sont pas utilisés dans le décodeur G.718 interopérable ; la synthèse des hautes fréquences (HF) à 23.85 kbit/s est donc identique à 23.05 kbit/s ce qui évite le problème connu de qualité du décodage AMR-WB à 23.85 kbit/s. A fortiori, le filtre passe-bas à 7 kHz (bloc 113) n'est pas utilisé, et le décodage spécifique du mode à 23.85 kbit/s est omis (blocs 107 à 109). - Un post-traitement de la synthèse à 16 kHz (voir clause 7.14 de G.718) est mis en oeuvre dans G.718 par "noise gate" dans le bloc 208 (pour « améliorer » la qualité des silences par réduction du niveau), filtrage passe-haut (bloc 209), post-filtre de basses fréquences (dit « bass posfilter ») dans le
bloc 210 atténuant le bruit inter-harmonique en basses fréquences et une conversion en entiers 16 bits avec contrôle de saturation (avec contrôle de gain ou AGC) dans lebloc 211.
- The band extension (described for example in clause 7.13.1 of Recommendation G.718, block 206) is identical to that of the AMR-WB decoder, except that the 6-7 kHz band-pass filter and
synthesis 1 / A HB (z) (blocks 111 and 112) are in reverse order. In addition, at 23.85 kbit / s the 4 bits transmitted by AMR-WB encoder subframes are not used in the interoperable G.718 decoder; the synthesis of high frequencies (HF) at 23.85 kbit / s is therefore identical to 23.05 kbit / s which avoids the known problem of quality of AMR-WB decoding at 23.85 kbit / s. A fortiori, the low-pass filter at 7 kHz (block 113) is not used, and the specific decoding mode 23.85 kbit / s is omitted (blocks 107 to 109). - A post-processing of the synthesis at 16 kHz (see clause 7.14 of G.718) is implemented in G.718 by "noise gate" in block 208 (to "improve" the quality of silences by reducing the level) , high-pass filtering (block 209), low-frequency post filter (so-called " bass posfilter ") in
block 210 attenuating inter-harmonic noise at low frequencies and conversion to 16-bit integers with saturation control (with control gain or AGC) inblock 211.
Cependant l'extension de bande dans les codecs AMR-WB et/ou G.718 (mode interopérable) reste encore limitée sur plusieurs aspects.
- En particulier, la synthèse de hautes fréquences par bruit blanc mis en forme (par une approche temporelle de type source-filtre LPC) est un modèle très limité du signal dans la bande des fréquences supérieures à 6.4 kHz.
- Seule la bande 6.4-7 kHz est re-synthétisée de façon artificielle, alors qu'en pratique une bande plus large (
jusqu'à 8 kHz) est en théorie possible à la fréquence d'échantillonnage de 16 kHz, ce qui peut potentiellement améliorer la qualité des signaux, s'ils ne sont pas pré-traités par un filtre de type P.341 (50-7000 Hz) tel que définie dans la Software Tool Library (norme G.191) de l'UIT-T.
- In particular, the synthesis of high frequencies by shaped white noise (by a temporal approach of the LPC source-filter type) is a very limited model of the signal in the frequency band above 6.4 kHz.
- Only the 6.4-7 kHz band is artificially re-synthesized, whereas in practice a wider band (up to 8 kHz) is theoretically possible at the sampling frequency of 16 kHz, which can potentially improve the quality of the signals, if not pre-processed by a P.341 (50-7000 Hz) filter as defined in the ITU-T Software Tool Library (G.191).
Un autre exemple d'extension de bande en aveugle est divulgué par l'art antérieur
Il existe donc un besoin pour améliorer l'extension de bande dans un codec de type AMR-WB ou une version interopérable de ce codec ou plus généralement pour améliorer l'extension de bande d'un signal audio.There is therefore a need to improve the band extension in an AMR-WB type codec or an interoperable version of this codec or more generally to improve the band extension of an audio signal.
La présente invention vient améliorer la situation.The present invention improves the situation.
L'invention propose à cet effet, un procédé d'extension de bande de fréquence d'un signal audiofréquence lors d'un processus de décodage ou d'amélioration comportant une étape de décodage ou d'extraction, dans une première bande de fréquence dite bande basse, d'un signal d'excitation et des coefficients d'un filtre de prédiction linéaire. Le procédé est tel qu'il comporte les étapes suivantes:
- obtention d'un signal étendu dans au moins une deuxième bande de fréquence supérieure à la première bande de fréquence à partir du signal d'excitation sur-échantillonné et étendu dans la au moins une deuxième bande de fréquence;
- mise à l'échelle du signal étendu par un gain défini par sous-trame en fonction d'un ratio entre le ratio entre l'énergie par sous-trame et l'énergie par trame du signal d'excitation de la bande basse et le ratio entre l'énergie par sous-trame et l'énergie par trame du signal étendu;
- filtrage dudit signal étendu mis à l'échelle par un filtre de prédiction linéaire dont les coefficients sont dérivés des coefficients du filtre de la bande basse.
- obtaining an extended signal in at least a second frequency band greater than the first frequency band from the oversampled and extended excitation signal in the at least one second frequency band;
- scaling the extended signal by a subframe-defined gain based on a ratio of the ratio of the subframe energy to the per-frame energy of the low-band excitation signal and the ratio between the energy per subframe and the energy per frame of the extended signal;
- filtering said extended signal scaled by a linear prediction filter whose coefficients are derived from the coefficients of the low band filter.
Ainsi, la prise en compte du signal d'excitation (issu du décodage de la bande basse ou d'une extraction du signal en bande basse) permet d'effectuer l'extension de bande avec un modèle de signal plus adapté pour certains types de signaux comme les signaux de musique.Thus, taking into account the excitation signal (resulting from the decoding of the low band or from a low band signal extraction) makes it possible to carry out the band extension with a signal model that is more suitable for certain types of band. signals like music signals.
En effet, le signal d'excitation décodé ou estimé dans la bande basse comporte dans certains cas des harmoniques, qui quand elles existent, peuvent être transposées en haute fréquence de telle sorte que cela permet d'assurer un certain niveau d'harmonicité dans la bande haute reconstruite.Indeed, the excitation signal decoded or estimated in the low band has in some cases harmonics, which when they exist, can be transposed in high frequency so that it ensures a certain level of harmonicity in the high band reconstructed.
L'extension de bande selon le procédé permet donc d'améliorer la qualité pour ce type de signaux.The band extension according to the method thus makes it possible to improve the quality for this type of signal.
De plus, l'extension de bande selon le procédé est réalisée en étendant d'abord un signal d'excitation et en appliquant ensuite une étape de filtrage de synthèse ; cette approche exploite le fait que l'excitation décodée dans la bande basse est un signal dont le spectre est relativement plat, ce qui évite les traitements de blanchiment du signal décodé qui peuvent exister dans les méthodes connues d'extension de bande dans le domaine fréquentiel dans l'état de l'art.In addition, the band extension according to the method is performed by first extending an excitation signal and then applying a synthesis filtering step; this approach exploits the fact that the decoded excitation in the low band is a signal whose spectrum is relatively flat, which avoids the decoded signal whitening treatments that may exist in the known methods of band extension in the frequency domain in the state of the art.
On remarquera que même si l'invention est motivée par l'amélioration de la qualité de l'extension de bande dans le contexte du codage AMR-WB interopérable, les différents modes de réalisation s'appliquent au cas plus général de l'extension de bande d'un signal audio, en particulier dans un dispositif d'amélioration effectuant une analyse du signal audio pour extraire les paramètres nécessaires à l'extension de bande.It will be noted that even if the invention is motivated by the improvement of the quality of the band extension in the context of the interoperable AMR-WB coding, the different embodiments apply to the more general case of the extension of band of an audio signal, in particular in an enhancement device performing an analysis of the audio signal to extract the parameters necessary for the band extension.
Le fait de prendre en compte l'énergie au niveau de la trame courante et celle de la sous-trame dans le signal en bande basse (première bande de fréquence) permet d'ajuster le ratio entre l'énergie par sous-trame et l'énergie par trame dans la bande haute (deuxième bande de fréquence) et d'ajuster ainsi des ratios d'énergie plutôt que des énergies absolues. Cela permet de garder dans la bande haute le même ratio d'énergie entre sous-trame et trame que dans la bande basse, ce qui est particulièrement bénéfique lorsque l'énergie des sous-trames varie beaucoup, par exemple dans le cas de sons transitoires, d'attaques.Taking into account the energy at the current frame and that of the subframe in the low band signal (first frequency band) makes it possible to adjust the ratio between the energy per subframe and the subframe. energy per frame in the high band (second frequency band) and thus adjust energy ratios rather than absolute energies. This makes it possible to keep in the high band the same ratio of energy between subframe and frame as in the low band, which is particularly beneficial when the energy of the subframes varies greatly, for example in the case of transient sounds. , of attacks.
Les différents modes particuliers de réalisation mentionnés ci-après peuvent être ajoutés indépendamment ou en combinaison les uns avec les autres, aux étapes du procédé d'extension défini ci-dessus.The various particular embodiments mentioned below may be added independently or in combination with each other, to the steps of the extension method defined above.
Dans un mode de réalisation, le procédé comporte en outre une étape de filtrage passe-bande adaptatif en fonction du débit de décodage de la trame courante.In one embodiment, the method further includes an adaptive bandpass filtering step based on the decoding rate of the current frame.
Ce filtrage adaptatif permet d'optimiser la largeur de bande étendue en fonction du débit, et donc la qualité du signal reconstruit après extension de bande. En effet, pour les bas débits (typiquement à 6.6 et 8.85 kbit/s pour AMR-WB), la qualité générale du signal décodé en bande basse (par le codec AMR-WB ou une version interopérable) n'étant pas très bonne, il est préférable de ne pas trop étendre la bande décodée et donc de limiter l'extension de bande en adaptant la réponse en fréquence du filtre passe-bande associé pour couvrir par exemple une bande approximative de 6 à 7 kHz ; cette limitation est d'autant plus avantageuse que le signal d'excitation lui-même est relativement mal codé et il est préférable de ne pas en utiliser une sous-bande trop large pour l'extension des hautes fréquences. A l'opposé, pour les débits supérieurs (12.65 kbit/s et supérieurs pour AMR-WB), la qualité peut être améliorée avec une synthèse HF couvrant une bande plus large, par exemple approximativement de 6 à 7.7 kHz. La limite haute de 7.7 kHz (au lieu de 8 kHz) est un exemple de réalisation, qui pourra être ajustée à des valeurs proches de 7.7 kHz. Cette limite est ici justifiée par le fait que l'extension est faite dans l'invention sans information auxiliaire et qu'une extension jusqu'à 8 kHz (même si elle est en théorie possible) pourrait résulter en des artefacts pour des signaux particuliers. De plus, cette limitation à 7.7 kHz tient compte du fait que typiquement les filtres anti-repliement en conversion analogique/numérique et les filtres de ré-échantillonnage entre 16 kHz et d'autres fréquences ne sont pas parfaits et qu'ils introduisent typiquement une réjection aux fréquences inférieures à 8 kHz.This adaptive filtering makes it possible to optimize the extended bandwidth as a function of the bit rate, and therefore the quality of the reconstructed signal after band extension. Indeed, for low bit rates (typically 6.6 and 8.85 kbit / s for AMR-WB), the overall quality of the decoded signal in the low band (by the AMR-WB codec or an interoperable version) not being very good, it is preferable not to extend the decoded band too much and therefore to limit the band extension by adapting the frequency response of the filter bandpass associated to cover for example an approximate band of 6 to 7 kHz; this limitation is all the more advantageous that the excitation signal itself is relatively poorly coded and it is preferable not to use a sub-band too wide for the extension of high frequencies. In contrast, for higher rates (12.65 kbit / s and higher for AMR-WB), the quality can be improved with HF synthesis covering a wider band, for example approximately 6 to 7.7 kHz. The high limit of 7.7 kHz (instead of 8 kHz) is an example embodiment, which can be adjusted to values close to 7.7 kHz. This limitation is here justified by the fact that the extension is made in the invention without auxiliary information and that an extension up to 8 kHz (although theoretically possible) could result in artifacts for particular signals. In addition, this limitation at 7.7 kHz takes into account the fact that typically the anti-aliasing filters in analog / digital conversion and resampling filters between 16 kHz and other frequencies are not perfect and they typically introduce a rejection at frequencies below 8 kHz.
Dans un mode possible de réalisation le procédé comporte une étape de transformée temps-fréquence du signal d'excitation, l'étape d'obtention d'un signal étendu s'effectuant alors dans le domaine fréquentiel et une étape de transformée temps-fréquence inverse du signal étendu avant les étapes de mise à l'échelle et de filtrage.In one possible embodiment, the method comprises a step of transforming the time-frequency of the excitation signal, the step of obtaining an extended signal then taking place in the frequency domain and a reverse time-frequency transforming step. of the extended signal before the scaling and filtering steps.
La mise en oeuvre de l'extension de bande (du signal d'excitation) dans le domaine fréquentiel permet d'obtenir une finesse d'analyse en fréquence dont on ne dispose pas avec une approche temporelle, et permet aussi d'avoir une résolution fréquentielle suffisante pour détecter des harmoniques et transposer en hautes fréquences des harmoniques du signal (dans la bande basse) pour améliorer la qualité tout en respectant la structure du signal.The implementation of the band extension (of the excitation signal) in the frequency domain makes it possible to obtain a fineness of frequency analysis which is not available with a temporal approach, and also makes it possible to have a resolution Frequency sufficient to detect harmonics and transpose high harmonics of the signal (in the low band) to improve quality while respecting the structure of the signal.
Dans un mode de réalisation détaillé, l'étape de génération d'un signal d'excitation sur-échantillonné et étendu est effectuée selon l'équation suivante:
Ainsi, cette fonction comprend bien un ré-échantillonnage du signal d'excitation en ajoutant des échantillons au spectre de ce signal.Thus, this function includes a resampling of the excitation signal by adding samples to the spectrum of this signal.
Dans la bande de fréquence correspondant aux échantillons allant de 200 à 239, le spectre original est conservé, pour pouvoir y appliquer une réponse d'atténuation progressive du filtre passe-haut dans cette bande de fréquence et aussi pour ne pas introduire de défauts 9 audibles lors de l'étape d'addition de la synthèse basse fréquence à la synthèse haute fréquence.In the frequency band corresponding to the samples ranging from 200 to 239, the original spectrum is conserved, in order to be able to apply a progressive attenuation response of the high-pass filter in this frequency band and also to not introduce defects. 9 audible during the step of adding the low frequency synthesis to the high frequency synthesis.
Dans un mode de réalisation particulier, le procédé comporte une étape de filtrage de désaccentuation du signal étendu au moins dans la deuxième bande de fréquence.In a particular embodiment, the method comprises a de-emphasis filtering step of the extended signal at least in the second frequency band.
Ainsi, le signal dans la deuxième bande de fréquence est ramené dans un domaine cohérent avec le signal dans la première bande de fréquence.Thus, the signal in the second frequency band is brought into a domain coherent with the signal in the first frequency band.
Dans un mode particulier de réalisation, le procédé comporte en outre une étape de génération d'un signal de bruit au moins dans la deuxième bande de fréquence le signal étendu étant obtenu par combinaison du signal d'excitation étendu et du signal de bruit.In a particular embodiment, the method further comprises a step of generating a noise signal at least in the second frequency band, the extended signal being obtained by combining the extended excitation signal and the noise signal.
En effet, il suffit d'avoir des caractéristiques issues du signal d'excitation sur-échantillonné et étendu dans au moins une deuxième bande de fréquence pour avoir un modèle de signal adapté à certains types de signaux. Celui-ci peut être combiné à un autre signal, par exemple un bruit généré pour obtenir le signal étendu ayant un modèle de signal adapté.Indeed, it suffices to have characteristics from the excitation signal oversampled and extended in at least a second frequency band to have a signal model adapted to certain types of signals. This can be combined with another signal, for example a noise generated to obtain the extended signal having a suitable signal pattern.
Dans un mode de réalisation l'étape de combinaison s'effectue par mixage additif adaptatif avec un gain d'égalisation de niveau entre le signal d'excitation étendu et le signal de bruit.In one embodiment, the combining step is performed by adaptive additive mixing with a level equalization gain between the extended excitation signal and the noise signal.
L'application de ce gain d'égalisation permet à l'étape de combinaison de s'adapter aux caractéristiques du signal pour optimiser la proportion relative de bruit dans le mélange.The application of this equalization gain allows the combining step to adapt to the characteristics of the signal to optimize the relative proportion of noise in the mixture.
La présente invention vise également un dispositif d'extension de bande de fréquence d'un signal audiofréquence comportant un étage de décodage ou d'extraction, dans une première bande de fréquence dite bande basse, d'un signal d'excitation et des coefficients d'un filtre de prédiction linéaire. Le dispositif est tel qu'il comporte:
- un module d'obtention d'un signal étendu (UHB2(k), 503)) dans au moins une deuxième bande de fréquence supérieure à la première bande de fréquence à partir du signal d'excitation sur-échantillonné et étendu dans la au moins une deuxième bande de fréquence (UHB1(k));
- mise à l'échelle (507) du signal étendu par un gain défini par sous-trame en fonction d'un ratio entre le ratio entre l'énergie par sous-trame et l'énergie par trame du signal d'excitation de la bande basse et le ratio entre l'énergie par sous-trame et l'énergie par trame du signal étendu;
- un module de filtrage (510) dudit signal étendu mis à l'échelle par un filtre de prédiction linéaire dont les coefficients sont dérivés des coefficients du filtre de la bande basse.
- a module for obtaining an extended signal (U HB2 (k), 503)) in at least a second frequency band greater than the first frequency band from the oversampled and extended excitation signal in the minus a second frequency band (U HB1 (k));
- scaling (507) the extended signal by a subframe defined gain based on a ratio of the ratio of subframe energy to frame energy of the band excitation signal low and the ratio between the energy per subframe and the energy per frame of the extended signal;
- a filtering module (510) of said extended signal scaled by a linear prediction filter whose coefficients are derived from the coefficients of the low band filter.
Ce dispositif présente les mêmes avantages que le procédé décrit précédemment, qu'il met en oeuvre.This device has the same advantages as the method described above, which it implements.
L'invention vise un décodeur comportant un dispositif tel que décrit.The invention relates to a decoder comprising a device as described.
Elle vise un programme informatique comportant des instructions de code pour la mise en oeuvre des étapes du procédé d'extension de bande tel que décrit, lorsque ces instructions sont exécutées par un processeur.It is directed to a computer program comprising code instructions for performing the steps of the tape extension method as described, when these instructions are executed by a processor.
Enfin l'invention se rapporte à un support de stockage, lisible par un processeur, intégré ou non au dispositif d'extension de bande, éventuellement amovible, mémorisant un programme informatique mettant en oeuvre un procédé d'extension de bande tel que décrit précédemment.Finally, the invention relates to a storage medium, readable by a processor, integrated or not integrated with the band expansion device, possibly removable, storing a computer program implementing a band extension method as described above.
D'autres caractéristiques et avantages de l'invention apparaîtront plus clairement à la lecture de la description suivante, donnée uniquement à titre d'exemple non limitatif, et faite en référence aux dessins annexés, sur lesquels :
- la
figure 1 illustre une partie d'un décodeur de type AMR-WB mettant en oeuvre des étapes d'extension de bande de fréquence de l'état de l'art et tel que décrit précédemment; - la
figure 2 illustre un décodeur de type interopérable G.718-LD à 16kHz selon l'état de l'art et tel que décrit précédemment; - la
figure 3 illustre un décodeur interopérable avec le codage AMR-WB et intégrant un dispositif d'extension de bande selon un mode de réalisation de l'invention; - la
figure 4 illustre sous forme d'organigramme, les étapes principales d'un procédé d'extension de bande selon un mode de réalisation de l'invention; - la
figure 5 illustre un premier mode de réalisation dans le domaine fréquentiel d'un dispositif d'extension de bande selon l'invention; - la
figure 6 illustre un exemple de réponse en fréquence d'un filtre passe-bande utilisée dans un mode particulier de l'invention; - la
figure 7 illustre un deuxième mode de réalisation dans le domaine temporel d'un dispositif d'extension de bande selon l'invention; et - la
figure 8 illustre une réalisation matérielle d'un dispositif d'extension de bande selon l'invention.
- the
figure 1 illustrates a part of an AMR-WB type decoder implementing frequency band extension steps of the state of the art and as described above; - the
figure 2 illustrates an interoperable decoder G.718-LD type 16kHz according to the state of the art and as described above; - the
figure 3 illustrates an interoperable decoder with the AMR-WB encoding and incorporating a band extension device according to one embodiment of the invention; - the
figure 4 illustrates in flowchart form the main steps of a band extension method according to one embodiment of the invention; - the
figure 5 illustrates a first embodiment in the frequency domain of a band extension device according to the invention; - the
figure 6 illustrates an example of a frequency response of a bandpass filter used in a particular embodiment of the invention; - the
figure 7 illustrates a second time domain embodiment of a tape extender according to the invention; and - the
figure 8 illustrates a hardware embodiment of a band extension device according to the invention.
La
Contrairement au décodage AMR-WB qui fonctionne avec une fréquence d'échantillonnage de sortie de 16 kHz et au décodage G.718 qui fonctionne à 8 ou 16 kHz, on considère ici un décodeur qui peut fonctionner avec un signal de sortie (synthèse) à la fréquence fs = 8, 16, 32 ou 48 kHz. A noter qu'on suppose ici que le codage a été effectué selon l'algorithme AMR-WB avec une fréquence interne de 12.8 kHz pour le codage CELP en bande basse et à 23.85 kbit/s un codage de gain par sous-trame à la fréquence de 16 kHz ; même si l'invention est décrite ici au niveau du décodage, on suppose ici que le codage peut aussi fonctionner avec un signal d'entrée à la fréquence fs = 8, 16, 32 ou 48 kHz et des opérations de ré-échantillonnage adéquate, dépassant le cadre de l'invention, sont mises en oeuvre au codage en fonction de la valeur de fs. On peut noter que quand fs=8 kHz, dans le cas d'un décodage compatible avec AMR-WB, il n'est pas nécessaire d'étendre la bande basse 0-6.4 kHz, car la bande audio reconstruite à la fréquence fs est limitée à 0-4000 Hz.Unlike AMR-WB decoding which operates with an output sampling frequency of 16 kHz and G.718 decoding which operates at 8 or 16 kHz, a decoder is considered here which can operate with an output signal (synthesis) at the frequency fs = 8, 16, 32 or 48 kHz. Note that it is assumed here that the coding was performed according to the AMR-WB algorithm with an internal frequency of 12.8 kHz for the CELP coding in low band and at 23.85 kbit / s a subframe gain coding at the frequency of 16 kHz; even if the invention is described here at the decoding level, it is assumed here that the coding can also operate with an input signal at the frequency fs = 8, 16, 32 or 48 kHz and adequate resampling operations, beyond the scope of the invention, are implemented in coding as a function of the value of fs. It can be noted that when fs = 8 kHz, in the case of a decoding compatible with AMR-WB, it is not necessary to extend the low band 0-6.4 kHz, because the audio band reconstructed at the frequency fs is limited to 0-4000 Hz.
A la
Le décodage selon la
- Démultiplexage des paramètres codés (bloc 300) en cas de trame correctement reçue (bfi=0 où bfi est le « bad frame indicator» valant 0 pour une trame reçue et 1 pour une trame perdue)
- Décodage des paramètres ISF avec interpolation et conversion en coefficients LPC (bloc 301) comme décrit dans la clause 6.1 de la norme G.722.2.
- Décodage de l'excitation CELP (bloc 302), avec une partie adaptative et fixe pour reconstruire l'excitation (exc ou u'(n)) dans chaque sous-trame de longueur 64 à 12.8 kHz:
- Filtrage de synthèse
par 1/Â(z) (bloc 303) où le filtre LPC décodé Â(z)est d'ordre 16 - Post-traitement bande étroite (bloc 304) selon la clause 7.3 de G.718 si fs=8 kHz.
- Désaccentuation (bloc 305)
par le filtre 1 / (1-0.68z -1) - Post-traitement des basses fréquences (bloc 306) tel que décrit à la clause 7.14.1.1 de G.718. Ce traitement introduit un retard qui est pris en compte dans le décodage de la bande haute (>6.4 kHz).
- Ré-échantillonnage de la fréquence interne de 12.8 kHz à la fréquence de sortie fs (bloc 307). Plusieurs réalisations sont possibles. Sans perte de généralité, on considère ici à titre d'exemple que si fs=8
ou 16 kHz, le ré-échantillonnage décrit dans la clause 7.6 de G.718 est repris ici, et si fs=32 ou 48 kHz, des filtres à réponse impulsionnelle finie (FIR) supplémentaires sont utilisés. - Calcul des paramètres du "noise gate" (bloc 308) qui est réalisé de façon préférentielle comme décrit dans la clause 7.14.3 de G.718.
- Demultiplexing the coded parameters (block 300) in the case of a correctly received frame ( bfi = 0 where bfi is the " bad frame indicator" equal to 0 for a received frame and 1 for a lost frame)
- Decoding ISF parameters with interpolation and conversion to LPC coefficients (block 301) as described in clause 6.1 of G.722.2.
- CELP excitation decoding (block 302), with an adaptive and fixed part to reconstruct the excitation (exc or u ' ( n )) in each subframe of length 64 to 12.8 kHz:
- Synthetic filtering by 1 /  (z) (block 303) where the decoded LPC filter  (z) is of
order 16 - Aftertreatment narrow band (block 304) according to clause 7.3 of G.718 if fs = 8 kHz.
- Deactivation (block 305) by the
filter 1 / (1-0.68 z -1 ) - Low frequency post-processing (block 306) as described in clause 7.14.1.1 of G.718. This processing introduces a delay which is taken into account in the decoding of the high band (> 6.4 kHz).
- Resampling of the internal frequency from 12.8 kHz to the output frequency fs (block 307). Several achievements are possible. Without loss of generality, we consider here as an example that if fs = 8 or 16 kHz, the resampling described in clause 7.6 of G.718 is repeated here, and if fs = 32 or 48 kHz, filters Finite Impulse Response (FIR) are used.
- Calculation of the "noise gate" parameters (block 308) which is preferably performed as described in clause 7.14.3 of G.718.
On peut noter que l'utilisation des blocs 306, 308, 314 est optionnelle.It can be noted that the use of
On notera également que le décodage de la bande basse décrit ci-dessus suppose une trame courante dite « active » avec un débit entre 6.6 et 23.85 kbit/s. En fait, quand le mode DTX (transmission continue en français) est activé, certaines trames peuvent être codées comme « inactives » et dans ce cas on peut soit transmettre un descripteur de silence (sur 35 bits) soit ne rien transmettre. En particulier, on rappelle que la trame SID décrit plusieurs paramètres : paramètres ISF moyennés sur 8 trames, énergie moyenne sur 8 trames, flag de dithering pour la reconstruction de bruit non stationnaire. Dans tous les cas, au décodeur, on retrouve le même modèle de décodage que pour une trame active, avec une reconstruction de l'excitation et d'un filtre LPC pour la trame courante, ce qui permet d'appliquer l'invention même sur des trames inactives. Le même constat s'applique pour le décodage de « trames perdues » (ou FEC, PLC) dans lequel le modèle LPC est appliqué.Note also that the decoding of the low band described above assumes a current frame called "active" with a rate between 6.6 and 23.85 kbit / s. In fact, when the DTX (Continuous Transmission in French) mode is activated, some frames can be coded as "inactive" and in this case you can either transmit a silence descriptor (on 35 bits) or not transmit anything. In particular, it is recalled that the SID frame describes several parameters: ISF parameters averaged over 8 frames, average energy over 8 frames, dithering flag for the non-stationary noise reconstruction. In all cases, at the decoder, we find the same decoding model as for an active frame, with a reconstruction of the excitation and an LPC filter for the current frame, which makes it possible to apply the invention itself to inactive frames. The same applies for the decoding of "lost frames" (or FEC, PLC) in which the LPC model is applied.
Contrairement au décodage AMR-WB ou G.718, le décodeur selon l'invention permet d'étendre la bande basse décodée (50-6400 Hz en tenant en compte du filtrage passe-haut à 50 Hz au décodeur, 0-6400 Hz dans le cas général) à une bande étendue dont la largeur varie, allant approximativement de 50-6900 Hz à 50-7700 Hz en fonction du mode mis en oeuvre dans la trame courante. On peut ainsi parler d'une première bande de fréquence de 0 à 6400Hz et d'une deuxième bande de fréquence de 6400 à 8000Hz. En réalité, dans le mode de réalisation privilégié, l'extension de l'excitation est réalisée dans le domaine fréquentiel dans une bande de 5000 à 8000 Hz, pour permettre un filtrage passe-bande de largeur 6000 à 6900 ou 7700 Hz.Unlike decoding AMR-WB or G.718, the decoder according to the invention makes it possible to extend the decoded low band (50-6400 Hz while taking into account the 50 Hz high-pass filtering at the decoder, 0-6400 Hz in the decoder. the general case) to an extended band whose width varies, ranging from approximately 50-6900 Hz to 50-7700 Hz depending on the mode implemented in the current frame. We can talk about a first frequency band from 0 to 6400Hz and a second frequency band from 6400 to 8000Hz. In reality, in the preferred embodiment, the extension of the excitation is carried out in the frequency domain in a band of 5000 to 8000 Hz, to allow bandpass filtering of
Dans un mode de réalisation privilégié, à 23.85 kbit/s, comme dans le décodeur G.718 décrit en référence à la
La partie décodage bande haute est réalisée dans le bloc 309 représentant le dispositif d'extension de bande selon l'invention et qui est détaillé à la
Ce dispositif comprend au moins un module d'obtention d'un signal étendu dans au moins une deuxième bande de fréquence supérieure à la première bande de fréquence à partir d'un signal d'excitation sur-échantillonné et étendu dans au moins une deuxième bande de fréquence (UHB1(k)), un module de mise à l'échelle du signal étendu par un gain défini par sous-trame en fonction d'un ratio d'énergie par trame et sous-trame du signal audiofréquence dans la première bande de fréquence et un module de filtrage dudit signal étendu mis à l'échelle par un filtre de prédiction linéaire dont les coefficients sont dérivés des coefficients du filtre de la bande basse.This device comprises at least one module for obtaining an extended signal in at least one second frequency band greater than the first frequency band from an oversampled excitation signal and extended in at least a second band. frequency (U HB1 (k)), a scaling module of the signal extended by a gain defined by subframe according to a ratio of energy per frame and subframe of the audiofrequency signal in the first frequency band and a filtering module of said extended signal scaled by a linear prediction filter whose coefficients are derived from the coefficients of the low band filter.
Afin d'aligner les bandes basses et hautes décodées, un retard (bloc 310) est introduit dans le premier mode de réalisation pour synchroniser les sorties des blocs 306 et 307 et la bande haute synthétisée à 16 kHz est ré-échantillonnée de 16 kHz à la fréquence fs (sortie de bloc 311). Par exemple, quand fs=16 kHz le retard T=30 échantillons, qui correspond au retard de ré-échantillonnage de 12.8 à 16 kHz de 15 échantillons + retard du post-traitement des basses fréquences de 15 échantillons. La valeur du retard T devra être adaptée pour les autres cas (fs=32, 48 kHz) en fonction des traitements mis en oeuvre. On rappelle que quand fs=8 kHz, il n'est pas nécessaire d'appliquer les blocs 309 à 311 car la bande du signal en sortie du décodeur est limité à 0-4000 Hz.In order to align the decoded low and high bands, a delay (block 310) is introduced in the first embodiment to synchronize the outputs of the
A noter que le procédé d'extension de l'invention mis en oeuvre dans le bloc 309 selon le premier mode de réalisation n'introduit de façon préférentielle aucun retard supplémentaire par rapport à la bande basse reconstruite à 12.8 kHz ; cependant, dans des variantes de l'invention (par exemple en utilisant une transformation temps/fréquence avec recouvrement), un retard pourra être introduit. Ainsi, de façon générale la valeur de T dans le bloc 310 devra être ajustée en fonction de la mise en oeuvre spécifique. Par exemple dans le cas où le post-traitement des basses fréquences (bloc 306) n'est pas utilisé, le retard à introduire pour fs=16 kHz pourra être fixé à T=15 échantillons ; de même si l'invention est réalisée suivant la variante du mode de réalisation décrite à la
Les bandes basse et haute sont ensuite combinées (ajoutées) dans le bloc 312 et la synthèse obtenue est post-traitée par filtrage passe-haut à 50 Hz (de type IIR) d'ordre 2 dont les coefficients dépendent de la fréquence fs (bloc 313) et post-traitement de sortie avec application optionnelle du "noise gate" de façon similaire à G.718 (bloc 314).The low and high bands are then combined (added) in
Le dispositif d'extension de bande selon l'invention, illustré par le bloc 309 selon le mode de réalisation du décodeur de la
Ce dispositif d'extension peut également être indépendant du décodeur et peut mettre en oeuvre le procédé décrit à la
Ce dispositif reçoit en entrée un signal d'excitation dans une première bande de fréquence dite bande basse u(n) dans le cas d'une mise en oeuvre dans le domaine temporel ou U(k) dans le cas d'une mise en oeuvre dans le domaine fréquentiel pour laquelle une étape de transformée temps fréquence est alors appliquée.This device receives as input an excitation signal in a first so-called low-band frequency band u ( n ) in the case of an implementation in the time domain or U ( k ) in the case of an implementation. in the frequency domain for which a time-frequency transform step is then applied.
Dans le cas d'une application dans un décodeur, ce signal d'excitation reçu est un signal décodé.In the case of an application in a decoder, this received excitation signal is a decoded signal.
Dans le cas d'un dispositif d'amélioration indépendant du décodeur, le signal d'excitation bande basse est extrait par analyse du signal audio.In the case of an enhancement device independent of the decoder, the low band excitation signal is extracted by analysis of the audio signal.
Dans un mode possible de réalisation, le signal audio bande basse est ré-échantillonné avant l'étape d'extraction de l'excitation, si bien que l'excitation extraite du signal audio par prédiction linéaire estimée à partir du signal bande basse (ou de paramètres LPC associés à la bande basse) est déjà ré-échantillonnée. Un exemple de réalisation dans ce cas consiste à prendre un signal bande basse échantillonné à 12.8 kHz dont on dispose d'un filtre LPC bande basse décrivant l'enveloppe spectrale court-terme pour la trame courante, le sur-échantillonner à 16 kHz, et le filtrer par un filtre de prédiction LPC obtenu en extrapolant le filtre LPC. Un autre exemple de réalisation consiste à prendre un signal bande basse échantillonné à 12.8 kHz dont on ne dispose pas de modèle LPC, le sur-échantillonner à 16 kHz, effectuer une analyse LPC sur ce signal à 16 kHz, et filtrer ce signal par un filtre de prédiction LPC obtenu par cette analyse.In a possible embodiment, the low band audio signal is resampled before the excitation extraction step, so that the excitation extracted from the audio signal by linear prediction estimated from the low band signal (or LPC parameters associated with the low band) is already resampled. An exemplary embodiment in this case consists in taking a sampled low band signal at 12.8 kHz, which has a low-band LPC filter describing the short-term spectral envelope for the current frame, oversampling it at 16 kHz, and filter it by an LPC prediction filter obtained by extrapolating the LPC filter. Another embodiment is to take a low band signal sampled at 12.8 kHz which is not available LPC model, the oversampler at 16 kHz, perform an LPC analysis on this signal at 16 kHz, and filter this signal by a LPC prediction filter obtained by this analysis.
Une étape E401 de génération d'un signal d'excitation sur-échantillonné étendu ( uext (n) ou U HB1(k)) dans une deuxième bande de fréquence supérieure à la première bande de fréquence est effectuée. Cette étape de génération peut comporter à la fois une étape de ré-échantillonnage et une étape d'extension ou simplement une étape d'extension en fonction du signal d'excitation obtenu en entrée.A step E401 for generating an extended oversampled excitation signal ( u ext ( n ) or U HB 1 ( k )) in a second frequency band greater than the first frequency band is performed. This generation step may comprise both a resampling step and an extension step or simply an extension step depending on the excitation signal obtained at the input.
Cette étape est détaillée ultérieurement dans les modes de réalisation décrits en référence aux
Ce signal d'excitation sur-échantillonné étendu est utilisé pour obtenir un signal étendu (UHB2(k)) dans une deuxième bande de fréquence. Ce signal étendu possède alors un modèle de signal adapté à certains types de signaux grâce aux caractéristiques du signal d'excitation étendu.This extended oversampled excitation signal is used to obtain an extended signal (U HB2 (k)) in a second frequency band. This extended signal then has a signal model adapted to certain types of signals thanks to the characteristics of the extended excitation signal.
Ce signal étendu peut être obtenu après combinaison du signal d'excitation sur-échantillonné et étendu avec un autre signal, par exemple un signal de bruit.This extended signal can be obtained after combining the oversampled and extended excitation signal with another signal, for example a noise signal.
Ainsi, dans un mode de réalisation, une étape E402 de génération d'un signal de bruit (uHB (n) ou UHB (k)) au moins dans la deuxième bande de fréquence est effectuée. La deuxième bande de fréquence est par exemple une bande haute fréquence allant de 6000 à 8000 Hz. Par exemple, ce bruit peut être généré de façon pseudo-aléatoire par un générateur congruentiel linéaire. Dans des variantes de l'invention, on pourra remplacer cette génération de bruit par d'autres méthodes, par exemple on pourra définir un signal d'amplitude constante (de valeur arbitraire, telle que 1) et appliquer des signes aléatoires à chaque raie fréquentielle générée.Thus, in one embodiment, a step E402 for generating a noise signal ( u HB ( n ) or U HB ( k )) at least in the second frequency band is performed. The second frequency band is for example a high frequency band ranging from 6000 to 8000 Hz. For example, this noise can be generated pseudo-randomly by a linear congruential generator. In variants of the invention, this noise generation can be replaced by other methods, for example a signal of constant amplitude (of arbitrary value such as 1) could be defined and random signs applied to each frequency line. generated.
Le signal d'excitation étendu est ensuite combiné au signal de bruit à l'étape E403 pour obtenir le signal étendu que l'on pourra également dénommer signal combiné (u HB1(n) ou U HB2(k)) dans la bande de fréquence étendue correspondant à toute la bande de fréquence incluant la première et la deuxième bande de fréquence. Ainsi, la combinaison de ces deux types de signaux permet d'obtenir un signal combiné avec des caractéristiques plus adaptées à certains types de signaux comme des signaux musicaux.The extended excitation signal is then combined with the noise signal in step E403 to obtain the extended signal which may also be called combined signal ( u HB 1 ( n ) or U HB 2 ( k )) in the band extended frequency corresponding to the entire frequency band including the first and the second frequency band. Thus, the combination of these two types of signals makes it possible to obtain a combined signal with characteristics more adapted to certain types of signals such as musical signals.
En effet, le signal d'excitation décodé ou estimé dans la bande basse comporte dans certains cas, des harmoniques plus proches des signaux musicaux que le signal de bruit seul. Les harmoniques basses fréquences, si elles existent, peuvent ainsi être transposées en haute fréquence de telle sorte que leur mélange avec du bruit permet d'assurer un certain niveau d'harmonicité ou de niveau relatif de bruit ou de planéité spectrale (« spectral flatness » en anglais) dans la bande haute reconstruite.Indeed, the decoded or estimated excitation signal in the low band in some cases has harmonics closer to the musical signals than the noise signal alone. Low-frequency harmonics, if they exist, can thus be transposed into high frequency so that their mixing with noise makes it possible to ensure a certain level of harmonicity or relative level of noise or spectral flatness ("spectral flatness"). in English) in the reconstructed high band.
L'extension de bande selon le procédé améliore la qualité pour ce type de signaux par rapport à AMR-WB.The band extension according to the method improves the quality for this type of signals compared to AMR-WB.
Le signal combiné (ou étendu) est ensuite filtré en E404 par un filtre de prédiction linéaire dont les coefficients sont dérivés des coefficients du filtre de la bande basse (Â(z)) décodés ou obtenus par analyse et extraction à partir du signal bande basse ou une version sur-échantillonnée de celui-ci. L'extension de bande selon le procédé est donc réalisée en étendant d'abord un signal d'excitation et en appliquant ensuite une étape de filtrage de synthèse par prédiction linéaire (LPC); cette approche exploite le fait que l'excitation LPC décodée dans la bande basse est un signal dont le spectre est relativement plat, ce qui évite des traitements supplémentaires de blanchiment du signal décodé dans l'extension de bande.The combined signal (or extended) is then filtered E404 by a linear prediction filter whose coefficients are derived from the filter coefficients of the low band (Â (z)) decoded or obtained by analysis and extraction from the low band signal or an oversampled version of it. The band extension according to the method is therefore achieved by first extending an excitation signal and then applying a linear prediction synthesis filtering step (LPC); this approach exploits the fact that the LPC decoded excitation in the low band is a signal whose spectrum is relatively flat, which avoids additional processing of whitening of the decoded signal in the band extension.
De façon avantageuse, les coefficients de ce filtre peuvent par exemple être obtenus à partir des paramètres décodés du filtre de prédiction linéaire (LPC) en bande basse. Si le filtre LPC utilisé en bande haute échantillonnée 16 kHz est de la forme 1/Â(z/γ), où 1/Â(z) est le filtre décodé en bande basse, et γ un facteur de pondération, la réponse en fréquence du filtre 1/Â(z/γ) correspond à un étalement de la réponse en fréquence du filtre décodé en bande basse. Dans une variante on pourra étendre le filtre 1/Â(z) à un ordre supérieur (comme à 6.6 kbit/s dans le bloc 111) pour éviter un tel étalement.Advantageously, the coefficients of this filter can for example be obtained from the decoded parameters of the linear band prediction filter (LPC). If the LPC filter used at 16 kHz sampled high band is of the
De façon préférentielle mais optionnelle, des étapes supplémentaires de filtrage passe-bande adaptatif en E405 et/ou de mise à l'échelle en E407 peuvent être effectuées pour d'une part améliorer la qualité du signal d'extension selon le débit de décodage et d'autre part pour s'assurer de garder le même ratio d'énergie entre une sous-trame et une trame de signal combiné que dans la bande basse de fréquence.Preferably, but additionally, additional steps of E405 adaptive bandpass filtering and / or E407 scaling can be carried out in order to improve the quality of the extension signal according to the decoding bit rate. on the other hand to make sure to keep the same energy ratio between a subframe and a combined signal frame as in the low frequency band.
Ces étapes seront expliquées plus en détails dans les modes de réalisation des
Dans un premier mode de réalisation, le dispositif d'extension de bande est décrit maintenant en référence à la
Ainsi, à l'entrée de ce dispositif, un signal d'excitation bande basse décodé ou estimé par analyse est reçu (u(n)). L'extension de bande utilise ici l'excitation décodée à 12.8 kHz (exc2 ou u(n)) en sortie du bloc 302.Thus, at the input of this device, a low band excitation signal decoded or estimated by analysis is received ( u ( n )). The band extension here uses the decoded excitation at 12.8 kHz (exc2 or u ( n )) at the output of
On notera que dans ce mode de réalisation, la génération de l'excitation sur-échantillonné et étendu s'effectue dans une bande de fréquence allant de 5 à 8 kHz incluant donc une deuxième bande de fréquence (6.4-8kHz) supérieure à la première bande de fréquence (0-6.4 kHz).It will be noted that in this embodiment, the generation of the oversampled and extended excitation is carried out in a frequency band ranging from 5 to 8 kHz, thus including a second frequency band (6.4-8 kHz) greater than the first one. frequency band (0-6.4 kHz).
Ainsi, la génération du signal d'excitation étendu s'effectue au moins sur la deuxième bande de fréquence mais aussi sur une partie de la première bande de fréquence.Thus, the generation of the extended excitation signal is effected at least on the second frequency band but also on a part of the first frequency band.
Bien évidemment, les valeurs définissant ces bandes de fréquences peuvent être différentes selon le décodeur ou le dispositif de traitement dans lequel l'invention s'applique.Of course, the values defining these frequency bands may be different depending on the decoder or the processing device in which the invention applies.
Pour cet exemple de réalisation, ce signal est transformé pour obtenir un spectre de signal d'excitation U(k) par le module de transformation temps-fréquence 500.
Dans un mode de réalisation particulier, la transformée utilise une DCT-IV (pour "Discrete Cosine Transform" - Type IV en anglais) (bloc 500) sur la trame courante de 20 ms (256 échantillons), sans fenêtrage, ce qui revient à transformer directement u(n) avec n = 0, ···, 255 selon la formule suivante :
In a particular embodiment, the transform uses a DCT-IV (for " Discrete Cosine Transform" - Type IV in English) (block 500) on the current frame of 20 ms (256 samples), without windowing, which amounts to directly transform u ( n ) with n = 0, ···, 255 according to the following formula:
On note ici que la transformation sans fenêtrage (ou de façon équivalente avec une fenêtre rectangulaire implicite de la longueur de la trame) est possible car le traitement est effectué dans le domaine de l'excitation, et non le domaine du signal, si bien qu'aucun artefact (effets de bloc) n'est audible, ce qui constitue un avantage important de ce mode de réalisation de l'invention.We note here that the transformation without windowing (or equivalently with a rectangular window implicit in the length of the frame) is possible because the processing is performed in the field of excitation, and not the domain of the signal, so that no artifact (block effects) is audible, which is an important advantage of this embodiment of the invention.
Dans ce mode de réalisation, la transformation DCT-IV est mise en oeuvre par FFT suivant l'algorithme dit « Evolved DCT (EDCT) » décrit dans l'article
Dans des variantes de l'invention et sans perte de généralité, la transformation DCT-IV pourra être remplacée par d'autres transformations temps-fréquences court-terme de même longueur et dans le domaine de l'excitation, comme une FFT (pour "Fast Fourier Transform" en anglais) ou une DCT-II (Discrete Cosine Transform - Type II). De façon alternative, on pourra remplacer la DCT-IV sur la trame par une transformation avec recouvrement-addition et fenêtrage de longueur supérieure à la longueur de la trame courante, par exemple en utilisant une MDCT (pour "Modified Discrete Cosine Tranform" en anglais). Dans ce cas le retard T dans le bloc 310 de la
Le spectre DCT, U(k), de 256 échantillons couvrant la bande 0-6400 Hz (à 12.8 kHz), est ensuite étendu (bloc 501) en un spectre de 320 échantillons couvrant la bande 0-8000 Hz (à 16 kHz) sous la forme suivante :
Le bloc 501 fonctionne comme module de génération d'un signal d'excitation sur-échantillonné et étendu et réalise l'étape E401 comportant un ré-échantillonnage de 12.8 à 16 kHz dans le domaine fréquentiel, en rajoutant ¼ d'échantillons (k = 240,···,319) au spectre, le ratio entre 16 et 12.8 étant de 5/4.The
De plus, le bloc 501 réalise un filtrage passe-haut implicite dans la bande 0-5000 Hz puisque les 200 premiers échantillons de U HB1(k) sont mis à zéro ; comme expliqué plus tard, ce filtrage passe-haut est également complété par une partie d'atténuation progressive des valeurs spectrales d'indices k = 200,···,255 dans la bande 5000-6400 Hz, cette atténuation progressive est mise en oeuvre dans le bloc 504 mais pourrait être réalisée séparément en dehors du bloc 504. De façon équivalente et dans des variantes de l'invention, la mise en oeuvre du filtrage passe-haut séparée en blocs de coefficients d'indice k = 0,···,199 mis à zéro, de coefficients k = 200,···,255 atténués, dans le domaine transformé, pourra donc être effectué en une seule étape.In addition, the
Dans cet exemple de réalisation et selon la définition de U HB1(k), on remarque que la bande 5000-6000 Hz de U HB1(k) (qui correspond aux indices k = 200,···,239) est copiée à partir de la bande 5000-6000 Hz de U(k). Cette approche permet de conserver le spectre original dans cette bande et elle évite d'introduire des distorsions dans la bande 5000-6000 Hz lors de l'addition de la synthèse HF avec la synthèse BF - en particulier la phase du signal (implicitement représentée dans le domaine DCT-IV) dans cette bande est préservée.In this exemplary embodiment and according to the definition of U HB 1 ( k ), it is noted that the 5000-6000 Hz band of U HB 1 ( k ) (which corresponds to the indices k = 200, ···, 239) is copied from the 5000-6000 Hz U ( k ) band . This approach preserves the original spectrum in this band and avoids introducing distortions in the 5000-6000 Hz band during the addition of HF synthesis with BF synthesis - particularly the signal phase (implicitly represented in the DCT-IV domain) in this band is preserved.
La bande 6000-8000 Hz de U HB1(k) est ici définie en copiant la bande 4000-6000 Hz de U(k) puisque la valeur de start_band est fixée préférentiellement à 160.The band 6000-8000 Hz of U HB 1 ( k ) is here defined by copying the 4000-6000 Hz band of U ( k ) since the value of start_band is preferably fixed at 160.
Dans une variante du mode de réalisation, la valeur de start_band pourra être rendue adaptative autour de la valeur de 160, sans modifier la nature de l'invention. Les détails de l'adaptation de la valeur start_band ne sont pas décrits ici car ils dépassent le cadre de l'invention sans en changer la portée.In a variant of the embodiment, the value of start_band can be made adaptive around the value of 160, without changing the nature of the invention. The details of the adaptation of the value start_band are not described here because they go beyond the scope of the invention without changing the scope.
Pour certains signaux en bande élargie (échantillonnés à 16 kHz), la bande haute (>6 kHz) peut être bruitée, harmonique ou comporter un mélange de bruit et d'harmoniques. De plus, le niveau d'harmonicité dans la bande 6000-8000 Hz est généralement corrélé à celui des bandes de fréquences inférieures. Ainsi, dans un mode particulier de réalisation, le bloc 502 de génération de bruit, met en oeuvre l'étape E402 de la
Dans un mode de réalisation particulier, le bruit (dans la bande 6000-8000 Hz) est généré de façon pseudo-aléatoire avec un générateur congruentiel linéaire sur 16 bits :
Le bloc 503 de combinaison peut être réalisé de différentes façons. De façon privilégiée, on considère un mixage additif adaptatif de la forme :
Dans un mode de réalisation privilégié on calcule l'énergie du bruit dans trois bandes : 2000-4000 Hz, 4000-6000 Hz et 6000-8000 Hz, avec
On peut noter que d'autres méthodes de calcul de l'énergie du bruit sont possibles, par exemple en prenant la valeur médiane du spectre sur la bande considérée ou en appliquant un lissage à chaque raie fréquentielle avant de calculer l'énergie par bande.It may be noted that other methods of calculating the noise energy are possible, for example by taking the median value of the spectrum on the band in question or by applying a smoothing to each frequency line before calculating the energy per band.
On fixe α de telle sorte que le ratio entre l'énergie du bruit dans les bandes 4-6 kHz et 6-8 kHz soit le même qu'entre les bandes 2-4 kHz et 4-6 kHz :
Dans des variantes de l'invention, le calcul de α pourra être remplacé par d'autres méthodes. Par exemple, dans une variante, on pourra extraire (calculer) différents paramètres (ou « features » en anglais) caractérisant le signal en bande basse, dont un paramètre « tilt » similaire à celui calculé dans le codec AMR-WB, et on estimera le facteur α en fonction d'une régression linéaire à partir de ces différents paramètres en limitant sa valeur entre 0 et 1. La régression linéaire pourra par exemple être estimée de façon supervisée en estimant le facteur α en se donnant la bande haute originale dans une base d'apprentissage. On notera que le mode de calcul de α ne limite pas la nature de l'invention.In variants of the invention, the calculation of α may be replaced by other methods. For example, in one variant, it will be possible to extract (calculate) different parameters (or "features" in English) characterizing the low band signal, including a "tilt" parameter similar to that calculated in the AMR-WB codec, and it will be estimated the factor α as a function of a linear regression from these different parameters by limiting its value between 0 and 1. The linear regression could for example be estimated in a supervised manner by estimating the factor α by giving itself the original high band in a learning base. Note that the calculation mode of α does not limit the nature of the invention.
Dans un mode de réalisation privilégié, on prend
Dans une variante les facteurs β et α pourront être adaptés pour tenir compte du fait qu'un bruit injecté dans une bande donnée du signal est perçu en général comme plus fort qu'un signal harmonique à la même énergie dans la même bande. Ainsi on pourra modifier les facteurs β et α comme suit:
- β ← β.f(α)
- α ← α.f(α)
- β ← β.f ( α )
- α ← α.f ( α )
On remarque donc ici que le bloc 503 réalise l'équivalent du bloc 101 de la
Dans une variante simple, on peut considérer une réalisation du bloc 503, où les spectres, U HB1(k) ou GHBNUHBN (k), sont sélectionnés (commutés) de façon adaptative, ce qui revient à n'autoriser que les valeurs 0 ou 1 pour α; cette approche revient à classifier le type d'excitation à générer dans la bande 6000-8000 HzIn a simple variant, an embodiment of
Le bloc 504 réalise de façon optionnelle, une double opération d'application de réponse en fréquence de filtre passe-bande et de filtrage de désaccentuation (ou déemphase) dans le domaine fréquentiel.The
Dans une variante de l'invention, le filtrage de désaccentuation pourra être réalisé dans le domaine temporel, après le bloc 505 voire avant le bloc 500 ; cependant, dans ce cas, le filtrage passe-bande réalisé dans le bloc 504 peut laisser certaines composantes basses fréquences de très faibles niveaux qui se voient amplifier par désaccentuation, ce qui peut modifier de façon légèrement perceptible la bande basse décodée. Pour cette raison, on préfère ici réaliser la désaccentuation dans le domaine fréquentiel. Dans le mode de réalisation privilégié, les coefficients d'indice k=0,···,199 sont mis à zéro, ainsi la désaccentuation est limitée aux coefficients supérieurs.
L'excitation est d'abord désaccentuée selon l'équation suivante :
On note que la désaccentuation est appliquée en deux phases pour k = 200,···,255 correspondant à la bande de fréquence 5000-6400 Hz, où la réponse 1/(1-0.68z-1) est appliquée comme à 12.8 kHz, et pour k = 256,···,319 correspondant à la bande de fréquence 6400-8000 Hz, où la réponse est étendue de 16 kHz ici à une valeur constante dans la bande 6.4-8 kHz.In a variant of the invention, the deemphasis filtering may be performed in the time domain, after
The excitation is first de-emphasized according to the following equation:
It is noted that the deemphasis is applied in two phases for k = 200, ···, 255 corresponding to the frequency band 5000-6400 Hz, where the
On peut noter que dans le codec AMR-WB la synthèse HF n'est pas désaccentuée. Dans le mode de réalisation présenté ici, le signal hautes fréquences est au contraire désaccentué de manière à le ramener dans un domaine cohérent avec le signal basses fréquences (0-6.4 kHz) qui sort du bloc 305. Ceci est important pour l'estimation et l'ajustement ultérieur de l'énergie de la synthèse HF.It may be noted that in the AMR-WB codec the HF synthesis is not de-emphasized. In the embodiment presented here, the high frequency signal is on the contrary de-emphasized so as to bring it back to a domain coherent with the low frequency signal (0-6.4 kHz) coming out of
Dans une variante du mode de réalisation, afin de réduire la complexité, on pourra fixer Gdeemph (k) à une valeur constante indépendante de k, en prenant par exemple Gdeemph (k) = 0.6 ce qui correspond approximativement à la valeur moyenne de Gdeemph (k) pour k = 200,···,319 dans les conditions du mode de réalisation décrit ci-dessus.In a variant of the embodiment, in order to reduce the complexity, it is possible to fix G deemph ( k ) to a constant value independent of k , taking for example G deemph ( k ) = 0.6 which corresponds approximately to the average value of G deemph ( k ) for k = 200, ···, 319 under the conditions of the embodiment described above.
Dans une autre variante du mode de réalisation du dispositif d'extension, la désaccentuation pourra être réalisée de façon équivalente dans le domaine temporel après DCT inverse. Une telle réalisation est mise en oeuvre à la
En plus de la désaccentuation, un filtrage passe-bande est appliqué avec deux parties séparées : l'une passe-haut fixe, l'autre passe-bas adaptative (fonction du débit).In addition to de-emphasis, band-pass filtering is applied with two separate parts: one fixed high-pass, the other adaptive low-pass (flow-rate function).
Ce filtrage est effectué dans le domaine fréquentiel, et sa réponse en fréquence est illustrée à la
Dans le mode de réalisation privilégiée, on calcule la réponse partielle de filtre passe-bas dans le domaine fréquentiel comme suit:
La définition de Ghp (k), k = 0,···,55, est donnée par exemple au tableau 1 ci-dessous.
On notera que dans des variantes de l'invention les valeurs de Ghp (k) pourront être modifiées tout en gardant une atténuation progressive. De même le filtrage passe-bas à largeur de bande variable, Glp (k), pourra être ajusté avec des valeurs ou un support fréquentiel différents, sans changer le principe de cette étape de filtrage.It will be noted that in variants of the invention the values of G hp ( k ) may be modified while keeping a gradual attenuation. Similarly, the variable bandwidth low-pass filtering, G lp ( k ), may be adjusted with different values or frequency support, without changing the principle of this filtering step.
On notera aussi que l'exemple de filtrage passe-bande illustré à la
Dans un autre mode de réalisation, le filtrage passe-bande pourra être réalisé de façon équivalente dans le domaine temporel (comme dans le bloc 112 de la
Le bloc 505 de transformée inverse réalise une DCT inverse sur 320 échantillons pour trouver l'excitation haute-fréquence échantillonnée à 16 kHz. Sa mise en oeuvre est identique au bloc 500, car la DCT-IV est orthonormée, sauf que la longueur de la transformée est de 320 au lieu de 256, et on obtient:
Cette excitation échantillonnée à 16 kHz est ensuite mise à l'échelle par des gains définis par sous-trame de 80 échantillons (bloc 507).
Dans un mode de réalisation privilégié, on calcule d'abord (bloc 506) un gain gHB1(m) par sous-trame par des ratios d'énergie des sous-trames tel que dans chaque sous-trame d'indice m=0, 1, 2 ou 3 de la trame courante:
In a preferred embodiment, a gain g HB1 (m) per subframe is first calculated (block 506) by sub-frame energy ratios such that in each sub-frame of index m = 0 , 1, 2 or 3 of the current frame:
Le bloc 507 effectue la mise à l'échelle du signal combiné (ou étendu) (étape E406 de la
On notera que la réalisation du bloc 506 diffère de celle du bloc 101 de la
Ainsi, cette étape de mise à l'échelle permet de conserver dans la bande haute le ratio d'énergie entre la sous-trame et la trame de la même façon que dans la bande basse.Thus, this scaling step makes it possible to keep in the high band the energy ratio between the subframe and the frame in the same way as in the low band.
De façon optionnelle, le bloc 509 effectue ensuite la mise à l'échelle du signal (étape E407 de la
Enfin, l'excitation, uHB '(n) ou uHB "(n), est filtrée (étape E404 de la
Dans une variante, ce filtrage pourra être réalisé de la même façon que ce qui est décrit pour le bloc 111 de la
Dans des variantes de réalisation de l'invention, le codage de la bande basse (0-6.4 kHz) pourra être remplacé par un codeur CELP autre que celui utilisé dans AMR-WB, comme par exemple le codeur CELP dans G.718 à 8 kbit/s. Sans perte de généralité d'autres codeurs en bande élargie ou fonctionnant à des fréquences supérieurs à 16 kHz, dans lesquels le codage de la bande basse fonctionne à une fréquence interne à 12.8 kHz pourraient être utilisés. Par ailleurs, l'invention peut être adaptée de façon évidente à d'autres fréquences d'échantillonnage que 12.8 kHz, lorsqu'un codeur de basses fréquences fonctionne à une fréquence d'échantillonnage inférieure à celle du signal original ou reconstruit. Lorsque le décodage en bande basse n'utilise pas de prédiction linéaire, on ne dispose pas d'un signal d'excitation à étendre, dans ce cas on pourra réaliser une analyse LPC du signal reconstruit dans la trame courante et on calculera une excitation LPC de manière à pouvoir appliquer l'invention.In alternative embodiments of the invention, the coding of the low band (0-6.4 kHz) may be replaced by a CELP coder other than that used in AMR-WB, for example the CELP coder in G.718 to 8. kbit / s. Without loss of generality other encoders in wide band or operating at frequencies higher than 16 kHz, in which the coding of the low band operates at an internal frequency at 12.8 kHz could be used. Moreover, the invention can be obviously adapted to other sampling frequencies than 12.8 kHz, when a low frequency encoder operates at a sampling frequency lower than that of the original or reconstructed signal. When the low band decoding does not use a linear prediction, it does not have an excitation signal to be extended, in this case it will be possible to carry out an LPC analysis of the reconstructed signal in the current frame and calculate an LPC excitation. so as to be able to apply the invention.
Enfin, dans une autre variante de l'invention, l'excitation (u(n)) est ré-échantillonnée, par exemple par interpolation linéaire ou "spline" cubique, de 12.8 à 16 kHz avant transformation (par exemple DCT-IV) de longueur 320. Cette variante a le défaut d'être plus complexe, car la transformée (DCT-IV) de l'excitation est alors calculée sur une plus grande longueur et le ré-échantillonnage n'est pas effectué dans le domaine de la transformée.Finally, in another variant of the invention, the excitation ( u ( n )) is resampled, for example by linear interpolation or "spline" cubic, from 12.8 to 16 kHz before transformation (for example DCT-IV) This variant has the defect of being more complex, because the transform (DCT-IV) of the excitation is then calculated over a greater length and the resampling is not carried out in the field of the transformed.
De plus, dans des variantes de l'invention, tous les calculs nécessaires à l'estimation des gains (GHBN, g HB1(m), g HB2(m), gHBN, ...) pourront être effectués dans un domaine logarithmique.Moreover, in variants of the invention, all the calculations necessary for the estimation of the gains ( G HBN , g HB 1 ( m ), g HB 2 ( m ), g HBN , ...) can be made in a logarithmic domain.
En référence à la
Comme dans le mode de réalisation de la
Le signal d'excitation u(n), n = 0,···,255, issu du décodage basse fréquence dans la trame courante est d'abord ré-échantillonné sans retard (étape E401 de la
On s'assure que l'énergie du signal uext (n) a un niveau similaire à l'excitation u(n) avec les blocs 701 et 702 de la façon suivante:
Dans une variante de réalisation on pourra multiplier u'ext (n) par 5/4 pour compenser l'atténuation par le ratio 12.8/16, causée par différentes fréquences d'échantillonnage de signaux uext (n) et u(n).
Le générateur de bruit dans le bloc 703 met en oeuvre l'étape E402 de la
Le bloc 704 de combinaison peut être réalisé de différentes façons. De façon privilégiée, on considère un mixage additif adaptatif par sous-trame de la forme :
- u HB1(n + 80m) = βuext (n + 80m) + αgHBNuHBN (n+80m), n = 0,···,79 où gHBN est un facteur de normalisation servant à égaliser le niveau d'harmonicité des deux signaux combinés
- et m est l'indice de la sous-trame et les facteurs α et β sont calculés comme dans le premier mode de réalisation. On remarque donc ici que le
bloc 704 réalise l'équivalent dubloc 101 de lafigure 1 . De plus, le calcul du facteur α oblige à calculer la transformée du signal d'excitation décodé (ou le signal décodé lui-même selon le domaine de calcul du niveau relatif de bruit ou de planéité spectrale dite "spectral flatness" en anglais) en bande basse si ce calcul repose sur la planéité spectrale ; dans des variantes, dont l'utilisation d'une régression linéaire décrite précédemment, une telle transformée n'est pas nécessaire.
The noise generator in
The
- HB u 1 (n + 80m) = βu space (80m + n) + u αg HBN HBN (n 80 m), n = 0, ···, 79 where g HBN is a normalization factor for equalizing the level of harmonicity of the two combined signals
- and m is the index of the subframe and the factors α and β are calculated as in the first embodiment. So we note here that the
block 704 realizes the equivalent of theblock 101 of thefigure 1 . In addition, the calculation of the factor α makes it necessary to calculate the transform of the decoded excitation signal (or the decoded signal itself according to the domain of calculation of the relative level of noise or spectral flatness called "spectral flatness" in English). low band if this calculation is based on the spectral flatness; in variants, including the use of a linear regression described above, such a transform is not necessary.
Ensuite le signal temporel est désaccentué (bloc 705) par un filtre de la forme gdeemph /(1-0.68z-1), où gdeemph est calculé de sorte à prolonger le filtre 1/(1-0.68z-1) (défini à 12.8 kHz) à la fréquence d'échantillonnage de 16 kHz gdeemph = |(1-0.68e j2π6000/16000) / (1-0.68e j2π6000/12800)|, puis traité par un filtrage passe-bande de largeur de bande variable (bloc 706) dont l'ordre est fixe (de valeur 30) mais les coefficients changent en fonction du débit de décodage de la trame courante.Then the time signal is deemphasized (block 705) by a filter of the form g deemph /(1-0.68z -1 ), where g deemph is calculated so as to extend the
Un exemple de réalisation d'un tel filtrage passe-bande adaptatif de type FIR est donné aux tableaux ci-dessous définissant la réponse impulsionnelle du filtre FIR selon le débit.
L'étape de mise à l'échelle (E407 à la
L'étape de filtrage (E404 de la
Il n'est pas utile ici de mettre en oeuvre une étape de mise à l'échelle comme effectué dans le mode de réalisation de la
Dans des variantes de l'invention, l'excitation en bande basse u(n)et le filtre LPC 1/Â(z) seront estimés par trame, par analyse LPC d'un signal en bande basse dont la bande doit être étendue. Le signal d'excitation bande basse est alors extrait par analyse du signal audio.In variants of the invention, the low band excitation u (n) and the
Dans un mode possible de réalisation de cette variante, le signal audio bande basse est ré-échantillonné avant l'étape d'extraction de l'excitation, si bien que l'excitation extraite du signal audio (par prédiction linéaire) est déjà ré-échantillonnée.
L'invention illustrée à la
The invention illustrated in
La
Ce type de dispositif comporte un processeur PROC coopérant avec un bloc mémoire BM comportant une mémoire de stockage et/ou de travail MEM.
Un tel dispositif comporte un module d'entrée E apte à recevoir un signal audio d'excitation décodé ou extrait dans une première bande de fréquence dite bande basse (u(n) ou U(k)) et les paramètres d'un filtre de synthèse de prédiction linéaire (Â(z)). Il comporte un module de sortie S apte à transmettre le signal haute fréquence synthétisé (HF_syn) par exemple à un module d'application d'un retard comme le bloc 310 de la
Such a device comprises an input module E able to receive a decoded or extracted excitation audio signal in a first so-called low band frequency band ( u ( n ) or U ( k )) and the parameters of a filter of linear prediction synthesis ( Â ( z )). It comprises an output module S adapted to transmit the synthesized high frequency signal (HF_syn) for example to a delay application module such as the
Le bloc mémoire peut avantageusement comporter un programme informatique comportant des instructions de code pour la mise en oeuvre des étapes du procédé de d'extension de bande au sens de l'invention, lorsque ces instructions sont exécutées par le processeur PROC, et notamment les étapes d'obtention d'un signal étendu dans au moins une deuxième bande de fréquence supérieure à la première bande de fréquence à partir d'un signal d'excitation sur-échantillonné et étendu dans au moins une deuxième bande de fréquence, de mise à l'échelle du signal étendu par un gain défini par sous-trame en fonction d'un ratio d'énergie d'une trame et d'une sous-trame et de filtrage dudit signal étendu mis à l'échelle par un filtre de prédiction linéaire dont les coefficients sont dérivés des coefficients du filtre de la bande basse.The memory block may advantageously comprise a computer program comprising code instructions for implementing the steps of the band extension method in the sense of the invention, when these instructions are executed by the processor PROC, and in particular the steps for obtaining an extended signal in at least a second frequency band greater than the first frequency band from an oversampled and extended excitation signal in at least a second frequency band, scaling of the signal extended by a subframe defined gain based on a frame and subframe energy ratio and filtering said extended signal scaled by a linear prediction filter whose coefficients are derived from the coefficients of the low band filter.
Typiquement, la description de la
La mémoire MEM enregistre de manière générale, toutes les données nécessaires à la mise en oeuvre du procédé.The memory MEM generally records all the data necessary for the implementation of the method.
Dans un mode possible de réalisation, le dispositif ainsi décrit peut également comporter les fonctions de décodage bande basse et autre fonctions de traitement décrites par exemple en
Claims (11)
- Method for extending a frequency band of an audio frequency signal in a decoding or improvement process, including a step of decoding or extracting, in a first frequency band, called low band, an excitation signal and coefficients of a linear prediction filter, the method being characterized in that it includes the following steps:- obtaining an extended signal (UHB2(k), E403) in at least one second frequency band higher than the first frequency band from the excitation signal upsampled and extended into the at least one second frequency band (UHB1(k), E401);- scaling (E406) the extended signal by a defined gain per subframe as a function of a ratio between the ratio between the energy per subframe and the energy per frame of the excitation signal of the low band and the ratio between the energy per subframe and the energy per frame of the extended signal;- filtering (E404) said scaled extended signal using a linear prediction filter whose coefficients are derived from the coefficients of the low band filter.
- Method according to Claim 1, characterized in that it furthermore includes a step (E405) of adaptive bandpass filtering, as a function of the decoding bit rate of the current frame, on the extended signal before the scaling step.
- Method according to Claim 1, characterized in that it includes a time-frequency transform step on the excitation signal, the step of obtaining an extended signal then being performed in the frequency domain, and an inverse time-frequency transform step on the extended signal before the scaling and filtering steps.
- Method according to Claim 3, characterized in that the step of generating an upsampled and extended excitation signal is performed using the following equation:
- Method according to one of Claims 1 to 4, characterized in that it includes a de-emphasis filtering step on the extended signal at least in the second frequency band.
- Method according to Claim 1, characterized in that it furthermore includes a step (E402) of generating a noise signal at least in the second frequency band, the extended signal (UHB2(k)) being obtained by combining (E403) the extended excitation signal and the noise signal.
- Method according to Claim 6, characterized in that the combination step is performed by adaptive additive mixing with an equalization gain of a level between the extended excitation signal and the noise signal.
- Device for extending a frequency band of an audio frequency signal including a stage for decoding or extracting, in a first frequency band, called low band, an excitation signal and coefficients of a linear prediction filter, the device being characterized in that it includes:- a module for obtaining an extended signal (UHB2(k), 503) in at least one second frequency band higher than the first frequency band from the excitation signal upsampled and extended into the at least one second frequency band (UHB1(k)) ;- scaling (507) the extended signal by a defined gain per subframe as a function of a ratio between the ratio between the energy per subframe and the energy per frame of the excitation signal of the low band and the ratio between the energy per subframe and the energy per frame of the extended signal;- a module (510) for filtering said scaled extended signal using a linear prediction filter whose coefficients are derived from the coefficients of the low band filter.
- Audio frequency signal decoder, characterized in that it includes a frequency band extension device according to Claim 8.
- Computer program including code instructions for implementing the steps of the frequency band extension method according to one of Claims 1 to 7 when these instructions are executed by a processor.
- Storage medium able to be read by a frequency band extension device and on which there is recorded a computer program comprising code instructions for executing the steps of the frequency band extension method according to one of Claims 1 to 7.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR1356100A FR3007563A1 (en) | 2013-06-25 | 2013-06-25 | ENHANCED FREQUENCY BAND EXTENSION IN AUDIO FREQUENCY SIGNAL DECODER |
PCT/FR2014/051563 WO2014207362A1 (en) | 2013-06-25 | 2014-06-24 | Improved frequency band extension in an audio signal decoder |
Publications (2)
Publication Number | Publication Date |
---|---|
EP3014611A1 EP3014611A1 (en) | 2016-05-04 |
EP3014611B1 true EP3014611B1 (en) | 2019-03-13 |
Family
ID=49151174
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
EP14742262.0A Active EP3014611B1 (en) | 2013-06-25 | 2014-06-24 | Improved frequency band extension in an audio signal decoder |
Country Status (6)
Country | Link |
---|---|
US (1) | US9911432B2 (en) |
EP (1) | EP3014611B1 (en) |
CN (1) | CN105324814B (en) |
ES (1) | ES2724576T3 (en) |
FR (1) | FR3007563A1 (en) |
WO (1) | WO2014207362A1 (en) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA3045686C (en) | 2010-04-09 | 2020-07-14 | Dolby International Ab | Audio upmixer operable in prediction or non-prediction mode |
EP3182411A1 (en) | 2015-12-14 | 2017-06-21 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Apparatus and method for processing an encoded audio signal |
US10249307B2 (en) | 2016-06-27 | 2019-04-02 | Qualcomm Incorporated | Audio decoding using intermediate sampling rate |
EP3382702A1 (en) * | 2017-03-31 | 2018-10-03 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Apparatus and method for determining a predetermined characteristic related to an artificial bandwidth limitation processing of an audio signal |
US10825467B2 (en) * | 2017-04-21 | 2020-11-03 | Qualcomm Incorporated | Non-harmonic speech detection and bandwidth extension in a multi-source environment |
US20190051286A1 (en) * | 2017-08-14 | 2019-02-14 | Microsoft Technology Licensing, Llc | Normalization of high band signals in network telephony communications |
CN107886966A (en) * | 2017-10-30 | 2018-04-06 | 捷开通讯(深圳)有限公司 | Terminal and its method for optimization voice command, storage device |
EP3553777B1 (en) * | 2018-04-09 | 2022-07-20 | Dolby Laboratories Licensing Corporation | Low-complexity packet loss concealment for transcoded audio signals |
CN110660409A (en) * | 2018-06-29 | 2020-01-07 | 华为技术有限公司 | Method and device for spreading spectrum |
CN110556122B (en) * | 2019-09-18 | 2024-01-19 | 腾讯科技(深圳)有限公司 | Band expansion method, device, electronic equipment and computer readable storage medium |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE10041512B4 (en) * | 2000-08-24 | 2005-05-04 | Infineon Technologies Ag | Method and device for artificially expanding the bandwidth of speech signals |
US6889182B2 (en) * | 2001-01-12 | 2005-05-03 | Telefonaktiebolaget L M Ericsson (Publ) | Speech bandwidth extension |
SE522553C2 (en) * | 2001-04-23 | 2004-02-17 | Ericsson Telefon Ab L M | Bandwidth extension of acoustic signals |
US6988066B2 (en) * | 2001-10-04 | 2006-01-17 | At&T Corp. | Method of bandwidth extension for narrow-band speech |
ATE331280T1 (en) * | 2001-11-23 | 2006-07-15 | Koninkl Philips Electronics Nv | BANDWIDTH EXTENSION FOR AUDIO SIGNALS |
AU2003260958A1 (en) * | 2002-09-19 | 2004-04-08 | Matsushita Electric Industrial Co., Ltd. | Audio decoding apparatus and method |
US20050004793A1 (en) * | 2003-07-03 | 2005-01-06 | Pasi Ojala | Signal adaptation for higher band coding in a codec utilizing band split coding |
KR100707174B1 (en) * | 2004-12-31 | 2007-04-13 | 삼성전자주식회사 | High band Speech coding and decoding apparatus in the wide-band speech coding/decoding system, and method thereof |
CA2603246C (en) * | 2005-04-01 | 2012-07-17 | Qualcomm Incorporated | Systems, methods, and apparatus for anti-sparseness filtering |
KR101171098B1 (en) * | 2005-07-22 | 2012-08-20 | 삼성전자주식회사 | Scalable speech coding/decoding methods and apparatus using mixed structure |
US9454974B2 (en) * | 2006-07-31 | 2016-09-27 | Qualcomm Incorporated | Systems, methods, and apparatus for gain factor limiting |
US20090201983A1 (en) * | 2008-02-07 | 2009-08-13 | Motorola, Inc. | Method and apparatus for estimating high-band energy in a bandwidth extension system |
WO2010028297A1 (en) * | 2008-09-06 | 2010-03-11 | GH Innovation, Inc. | Selective bandwidth extension |
WO2010036061A2 (en) * | 2008-09-25 | 2010-04-01 | Lg Electronics Inc. | An apparatus for processing an audio signal and method thereof |
US8463599B2 (en) * | 2009-02-04 | 2013-06-11 | Motorola Mobility Llc | Bandwidth extension method and apparatus for a modified discrete cosine transform audio coder |
FR2947945A1 (en) * | 2009-07-07 | 2011-01-14 | France Telecom | BIT ALLOCATION IN ENCODING / DECODING ENHANCEMENT OF HIERARCHICAL CODING / DECODING OF AUDIONUMERIC SIGNALS |
CA2780971A1 (en) * | 2009-11-19 | 2011-05-26 | Telefonaktiebolaget L M Ericsson (Publ) | Improved excitation signal bandwidth extension |
US8600737B2 (en) * | 2010-06-01 | 2013-12-03 | Qualcomm Incorporated | Systems, methods, apparatus, and computer program products for wideband speech coding |
MX2013009295A (en) * | 2011-02-15 | 2013-10-08 | Voiceage Corp | Device and method for quantizing the gains of the adaptive and fixed contributions of the excitation in a celp codec. |
US20140019125A1 (en) * | 2011-03-31 | 2014-01-16 | Nokia Corporation | Low band bandwidth extended |
WO2013066238A2 (en) * | 2011-11-02 | 2013-05-10 | Telefonaktiebolaget L M Ericsson (Publ) | Generation of a high band extension of a bandwidth extended audio signal |
-
2013
- 2013-06-25 FR FR1356100A patent/FR3007563A1/en not_active Withdrawn
-
2014
- 2014-06-24 US US14/896,651 patent/US9911432B2/en active Active
- 2014-06-24 CN CN201480036730.5A patent/CN105324814B/en active Active
- 2014-06-24 WO PCT/FR2014/051563 patent/WO2014207362A1/en active Application Filing
- 2014-06-24 EP EP14742262.0A patent/EP3014611B1/en active Active
- 2014-06-24 ES ES14742262T patent/ES2724576T3/en active Active
Non-Patent Citations (1)
Title |
---|
None * |
Also Published As
Publication number | Publication date |
---|---|
CN105324814B (en) | 2019-06-04 |
EP3014611A1 (en) | 2016-05-04 |
US20160133273A1 (en) | 2016-05-12 |
WO2014207362A1 (en) | 2014-12-31 |
CN105324814A (en) | 2016-02-10 |
FR3007563A1 (en) | 2014-12-26 |
US9911432B2 (en) | 2018-03-06 |
ES2724576T3 (en) | 2019-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3014611B1 (en) | Improved frequency band extension in an audio signal decoder | |
EP3020043B1 (en) | Optimized scale factor for frequency band extension in an audiofrequency signal decoder | |
EP3103116B1 (en) | Improved frequency band extension in an audio signal decoder | |
RU2386179C2 (en) | Method and device for coding of voice signals with strip splitting | |
WO2014009657A1 (en) | Processing method for improving the quality of audio frequency signals |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PUAI | Public reference made under article 153(3) epc to a published international application that has entered the european phase |
Free format text: ORIGINAL CODE: 0009012 |
|
17P | Request for examination filed |
Effective date: 20160122 |
|
AK | Designated contracting states |
Kind code of ref document: A1 Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR |
|
AX | Request for extension of the european patent |
Extension state: BA ME |
|
DAX | Request for extension of the european patent (deleted) | ||
RIN1 | Information on inventor provided before grant (corrected) |
Inventor name: RAGOT, STEPHANE Inventor name: KANIEWSKA, MAGDALENA |
|
GRAP | Despatch of communication of intention to grant a patent |
Free format text: ORIGINAL CODE: EPIDOSNIGR1 |
|
STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: GRANT OF PATENT IS INTENDED |
|
INTG | Intention to grant announced |
Effective date: 20181106 |
|
RIN1 | Information on inventor provided before grant (corrected) |
Inventor name: KANIEWSKA, MAGDALENA Inventor name: RAGOT, STEPHANE |
|
GRAS | Grant fee paid |
Free format text: ORIGINAL CODE: EPIDOSNIGR3 |
|
GRAA | (expected) grant |
Free format text: ORIGINAL CODE: 0009210 |
|
STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: THE PATENT HAS BEEN GRANTED |
|
AK | Designated contracting states |
Kind code of ref document: B1 Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR |
|
REG | Reference to a national code |
Ref country code: GB Ref legal event code: FG4D Free format text: NOT ENGLISH |
|
REG | Reference to a national code |
Ref country code: CH Ref legal event code: EP Ref country code: AT Ref legal event code: REF Ref document number: 1108804 Country of ref document: AT Kind code of ref document: T Effective date: 20190315 |
|
REG | Reference to a national code |
Ref country code: IE Ref legal event code: FG4D Free format text: LANGUAGE OF EP DOCUMENT: FRENCH |
|
REG | Reference to a national code |
Ref country code: DE Ref legal event code: R096 Ref document number: 602014042825 Country of ref document: DE |
|
REG | Reference to a national code |
Ref country code: NL Ref legal event code: MP Effective date: 20190313 |
|
REG | Reference to a national code |
Ref country code: LT Ref legal event code: MG4D |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: SE Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: LT Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: FI Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: NO Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190613 |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: BG Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190613 Ref country code: RS Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: LV Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: NL Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: GR Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190614 Ref country code: HR Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 |
|
REG | Reference to a national code |
Ref country code: ES Ref legal event code: FG2A Ref document number: 2724576 Country of ref document: ES Kind code of ref document: T3 Effective date: 20190912 |
|
REG | Reference to a national code |
Ref country code: AT Ref legal event code: MK05 Ref document number: 1108804 Country of ref document: AT Kind code of ref document: T Effective date: 20190313 |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: AL Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: PT Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190713 Ref country code: SK Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: EE Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: RO Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: CZ Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: SM Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: PL Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 |
|
REG | Reference to a national code |
Ref country code: DE Ref legal event code: R097 Ref document number: 602014042825 Country of ref document: DE |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: IS Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190713 Ref country code: AT Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 |
|
PLBE | No opposition filed within time limit |
Free format text: ORIGINAL CODE: 0009261 |
|
STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: MC Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: DK Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 |
|
REG | Reference to a national code |
Ref country code: CH Ref legal event code: PL |
|
26N | No opposition filed |
Effective date: 20191216 |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: SI Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 |
|
REG | Reference to a national code |
Ref country code: BE Ref legal event code: MM Effective date: 20190630 |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: TR Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: IE Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES Effective date: 20190624 |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: LI Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES Effective date: 20190630 Ref country code: BE Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES Effective date: 20190630 Ref country code: LU Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES Effective date: 20190624 Ref country code: CH Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES Effective date: 20190630 |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: CY Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: MT Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 Ref country code: HU Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT; INVALID AB INITIO Effective date: 20140624 |
|
PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: MK Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20190313 |
|
PGFP | Annual fee paid to national office [announced via postgrant information from national office to epo] |
Ref country code: IT Payment date: 20230523 Year of fee payment: 10 Ref country code: FR Payment date: 20230524 Year of fee payment: 10 |
|
PGFP | Annual fee paid to national office [announced via postgrant information from national office to epo] |
Ref country code: ES Payment date: 20230703 Year of fee payment: 10 |
|
PGFP | Annual fee paid to national office [announced via postgrant information from national office to epo] |
Ref country code: GB Payment date: 20240521 Year of fee payment: 11 |
|
PGFP | Annual fee paid to national office [announced via postgrant information from national office to epo] |
Ref country code: DE Payment date: 20240521 Year of fee payment: 11 |