WO2020185025A1 - 라우드니스 레벨을 제어하는 오디오 신호 처리 방법 및 장치 - Google Patents
라우드니스 레벨을 제어하는 오디오 신호 처리 방법 및 장치 Download PDFInfo
- Publication number
- WO2020185025A1 WO2020185025A1 PCT/KR2020/003489 KR2020003489W WO2020185025A1 WO 2020185025 A1 WO2020185025 A1 WO 2020185025A1 KR 2020003489 W KR2020003489 W KR 2020003489W WO 2020185025 A1 WO2020185025 A1 WO 2020185025A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- loudness
- audio signal
- input audio
- level
- processing apparatus
- Prior art date
Links
- 230000005236 sound signal Effects 0.000 title claims abstract description 873
- 238000003672 processing method Methods 0.000 title description 3
- 238000012545 processing Methods 0.000 claims abstract description 357
- 238000005259 measurement Methods 0.000 claims description 106
- 238000000034 method Methods 0.000 claims description 98
- 238000012805 post-processing Methods 0.000 claims description 81
- 230000001186 cumulative effect Effects 0.000 claims description 33
- 238000012937 correction Methods 0.000 claims description 16
- 230000001149 cognitive effect Effects 0.000 claims description 12
- 230000000670 limiting effect Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 32
- 230000008859 change Effects 0.000 description 31
- 238000000605 extraction Methods 0.000 description 16
- 238000009499 grossing Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 230000003068 static effect Effects 0.000 description 10
- 238000004458 analytical method Methods 0.000 description 7
- 230000006866 deterioration Effects 0.000 description 6
- 238000011045 prefiltration Methods 0.000 description 6
- 230000004044 response Effects 0.000 description 6
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 230000001771 impaired effect Effects 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 230000001364 causal effect Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 230000036961 partial effect Effects 0.000 description 2
- 238000000275 quality assurance Methods 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 230000021615 conjugation Effects 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- XOFYZVNMUHMLCC-ZPOLXVRWSA-N prednisone Chemical compound O=C1C=C[C@]2(C)[C@H]3C(=O)C[C@](C)([C@@](CC4)(O)C(=O)CO)[C@@H]4[C@@H]3CCC2=C1 XOFYZVNMUHMLCC-ZPOLXVRWSA-N 0.000 description 1
- 238000005086 pumping Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S3/00—Systems employing more than two channels, e.g. quadraphonic
- H04S3/008—Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03G—CONTROL OF AMPLIFICATION
- H03G3/00—Gain control in amplifiers or frequency changers
- H03G3/20—Automatic control
- H03G3/30—Automatic control in amplifiers having semiconductor devices
- H03G3/3005—Automatic control in amplifiers having semiconductor devices in amplifiers suitable for low-frequencies, e.g. audio amplifiers
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03G—CONTROL OF AMPLIFICATION
- H03G3/00—Gain control in amplifiers or frequency changers
- H03G3/20—Automatic control
- H03G3/30—Automatic control in amplifiers having semiconductor devices
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03G—CONTROL OF AMPLIFICATION
- H03G3/00—Gain control in amplifiers or frequency changers
- H03G3/20—Automatic control
- H03G3/30—Automatic control in amplifiers having semiconductor devices
- H03G3/3089—Control of digital or coded signals
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03G—CONTROL OF AMPLIFICATION
- H03G7/00—Volume compression or expansion in amplifiers
- H03G7/002—Volume compression or expansion in amplifiers in untuned or low-frequency amplifiers, e.g. audio amplifiers
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03G—CONTROL OF AMPLIFICATION
- H03G7/00—Volume compression or expansion in amplifiers
- H03G7/007—Volume compression or expansion in amplifiers of digital or coded signals
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03G—CONTROL OF AMPLIFICATION
- H03G9/00—Combinations of two or more types of control, e.g. gain control and tone control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S3/00—Systems employing more than two channels, e.g. quadraphonic
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
- H04S2400/13—Aspects of volume control, not necessarily automatic, in stereophonic sound systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2420/00—Techniques used stereophonic systems covered by H04S but not provided for in its groups
- H04S2420/01—Enhancing the perception of the sound image or of the spatial distribution using head related transfer functions [HRTF's] or equivalents thereof, e.g. interaural time difference [ITD] or interaural level difference [ILD]
Definitions
- the present invention relates to an audio signal processing method and apparatus for effectively reproducing an audio signal, and more particularly, an audio signal for providing an audio signal with a more immersive feeling to a user by adjusting a loudness level at which an audio signal of a content is output. It relates to a treatment method and apparatus.
- the volume of an audio signal is diversifying according to content corresponding to the audio signal. This is because, in the process of producing audio content, intended loudness may be set differently for each audio content. Accordingly, international standards organizations such as the International Telecommunication Union (ITU) and the European Broadcasting Union (EBU) have issued standards for audio loudness. However, since the methods and standards for measuring loudness are different for each country, it is difficult to apply the standards issued by international standards organizations.
- ITU International Telecommunication Union
- EBU European Broadcasting Union
- Content creators try to produce content with relatively large loudness mixed and provide it to users. This is because when the sound level of the audio signal increases, the sound quality of the audio signal is perceived to be improved. Accordingly, a competition structure called Loudness War is being formed. As a result, a difference in loudness occurs internally or between a plurality of contents, and a user may experience inconvenience of repeatedly adjusting the volume of a device in which the corresponding contents are played. Therefore, a technique for normalizing the loudness of audio content is required for the convenience of a user using a content playback device.
- An object of the present invention is to efficiently adjust an output loudness level of a corresponding content in an audio signal processing method for reproducing content including an audio signal.
- an audio signal processing apparatus includes a receiving unit that receives an input audio signal, a processor that generates loudness metadata corresponding to the input audio signal, and a loudness generated by the processor. It includes an output unit for transmitting metadata.
- the processor measures the loudness of the input audio signal to obtain loudness information of the input audio signal, converts the loudness information to generate the loudness metadata, and generates the loudness metadata through the output unit. It may be transmitted to an output device that outputs the input audio signal.
- the loudness information includes information indicating a quality secure histogram index (QSHI) of the input audio signal, and the QSHI indicates a threshold loudness level at which cognitive sound quality is not impaired.
- QSHI quality secure histogram index
- the processor may obtain the QSHI based on the loudness histogram of the input audio signal.
- the processor may obtain the loudness histogram based on a distribution of at least one short-term loudness level of the input audio signal and obtain the QSHI based on the loudness histogram.
- the short section loudness level may be measured in a section shorter than the entire section of the input audio signal.
- the loudness histogram may be a peak value for each section of the input audio signal or a magnitude histogram of a root-mean-square (RMS).
- RMS root-mean-square
- the processor predicts a loudness parameter when the input audio signal is output according to a target loudness level based on the loudness histogram of the input audio signal, and the predicted loudness histogram of the input audio signal based on the predicted loudness parameter. May be obtained, and the QSHI may be obtained based on the predicted loudness prediction histogram.
- the loudness information includes a cumulative loudness level of the input audio signal, the QSHI is greater than the cumulative loudness level of the input audio signal, and the cumulative loudness level is based on a loudness measurement obtained from a setup time set in the audio signal processing apparatus. It may be the calculated loudness level.
- the QSHI may be a parameter corrected according to whether the output device performs post processing on the input audio signal.
- the processor may set QSHI so that short-term loudness levels of the entire section of the input audio signal output from the output device are equal to or less than a preset level.
- an audio signal processing apparatus includes a processor that adjusts an output loudness level of an input audio signal.
- the processor receives loudness metadata corresponding to the input audio signal, parses the loudness metadata to obtain loudness information of the input audio signal, and determines the loudness information and the target loudness level.
- a loudness gain of the input audio signal may be determined based on the loudness gain, and an output loudness level of the input audio signal may be adjusted based on the loudness gain.
- the loudness information may include information indicating a quality secure histogram index (QSHI) of the input audio signal, and the QSHI may indicate a threshold loudness level at which no cognitive sound quality damage occurs.
- QSHI quality secure histogram index
- the processor may compare the target loudness level of the input audio signal and the QSHI, and determine the loudness gain based on the comparison result.
- the processor may determine the loudness gain based on a smaller value among the target loudness level of the input audio signal and the QSHI.
- the processor may receive an accumulated loudness level of the input audio signal and determine the loudness gain based on the accumulated loudness level of the input audio signal, the QSHI, and the target loudness level.
- the cumulative loudness level may be a loudness level calculated based on a loudness measurement value obtained from a setup time set by an apparatus for measuring the loudness of the input audio signal.
- the QSHI may be a loudness parameter calculated based on a loudness histogram of the input audio signal.
- the loudness histogram is a histogram of magnitudes of short-term loudness levels of the input audio signal for each time period, and the short-term loudness level may be measured in a section shorter than the entire duration of the input audio signal.
- the loudness histogram may be a peak value for each section of the input audio signal or a magnitude histogram of a root-mean-square (RMS).
- RMS root-mean-square
- the QSHI is a parameter calculated based on a predicted loudness histogram predicted from the loudness histogram of the input audio signal, and the predicted loudness histogram is based on a predicted loudness parameter when the input audio signal is output according to the target loudness level. It may be a generated histogram.
- the QSHI may be greater than the cumulative loudness level of the input audio signal, and the cumulative loudness level may be a loudness level calculated based on a loudness measurement value obtained from a setup time set by a device measuring loudness of the input audio signal.
- the processor generates an output audio signal by adjusting the output loudness level of the input audio signal according to the loudness gain, and applies a loudness limiter for limiting the loudness level of the output audio signal to the output audio signal to output the output. can do.
- the QSHI may be a loudness parameter determined based on the number of times the limiter is driven in the audio signal processing apparatus.
- the processor performs post processing on the input audio signal, receives post processing information indicating characteristics of post processing on the input audio signal, and based on the post processing information
- the obtained QSHI may be corrected, and the loudness gain may be determined based on the corrected QSHI.
- the processor may correct the QSHI based on the post-processing information and a previously stored function.
- the processor may correct the QSHI based on the post-processing information and a previously stored look-up table.
- the pre-stored lookup table may include information on QSHI correction according to post-processing characteristics.
- the information on the QSHI correction may include information indicating a QSHI correction value according to a post-processing characteristic.
- the processor may obtain a QSHI correction value corresponding to post-processing of the input audio signal based on the previously stored lookup table, and correct the QSHI by adding the QSHI correction value to the obtained QSHI.
- the loudness gain may be a fixed gain having a fixed value over the entire section of the input audio signal.
- the loudness gain may be a gain that changes with time during a time when the input audio signal is reproduced.
- the processor may generate an output audio signal by adjusting an output loudness level of the input audio signal according to the loudness gain.
- the QSHI may be a parameter set so that the short-term loudness levels of the entire section of the output audio signal are less than or equal to a preset level.
- the apparatus and method according to an embodiment of the present invention can effectively normalize the loudness level of the audio signal in reproducing content including an audio signal.
- the apparatus and method according to an embodiment of the present invention may provide a user with convenience for sound quality improvement and volume control.
- the audio signal processing apparatus may provide output content having a more stable output loudness level by using loudness metadata.
- FIG. 1 is a diagram illustrating a loudness level that changes with time while a plurality of contents are being played according to an embodiment of the present invention.
- FIG. 2 is a schematic diagram illustrating a system including a first audio signal processing device and a second audio signal processing device according to an embodiment of the present invention.
- FIG. 3 is a flowchart illustrating a method of adjusting a loudness level of an input audio signal according to an embodiment of the present invention.
- FIG. 4 is a block diagram illustrating in detail a method for extracting loudness information of an input audio signal by an audio signal processing apparatus according to an embodiment of the present invention.
- FIG. 5 shows the frequency response of the first order pre-filter defined in ITU-R BS.1770-4.
- FIG. 7 is a diagram illustrating a method of generating loudness metadata of an input audio signal by a server according to an embodiment of the present invention.
- FIG. 8 is a diagram illustrating a method of outputting an input audio signal by a client using loudness metadata according to an embodiment of the present invention.
- FIG. 9 is a diagram illustrating a histogram for each short-term loudness size of an input audio signal according to an embodiment of the present invention.
- FIG. 10 is a block diagram illustrating a system in which an audio signal processing apparatus optimizes a loudness gain of an input audio signal in consideration of a target loudness level and cognitive sound quality deterioration according to an embodiment of the present invention.
- 11 and 12 are diagrams illustrating a loudness level of an input audio signal according to time and a fixed gain for a target loudness level.
- FIG. 13 and 14 are schematic diagrams illustrating a method of adjusting an output loudness level of an input audio signal according to an embodiment of the present disclosure.
- 15 is a diagram illustrating a method of acquiring loudness information of an input audio signal by an audio signal processing apparatus according to an embodiment of the present invention.
- 16 is a diagram illustrating a method of adjusting an output loudness level of an input audio signal by an audio signal processing apparatus according to an embodiment of the present invention.
- FIG. 17 is a diagram illustrating a method of adjusting an output loudness level of an input audio signal based on a target loudness range by an audio signal processing apparatus according to an embodiment of the present invention.
- FIG. 18 is a diagram illustrating a method of measuring a loudness of an input content by an audio signal processing apparatus according to an embodiment of the present invention.
- FIG. 19 is a flowchart illustrating an operation of an audio signal processing apparatus according to an embodiment of the present invention.
- FIG. 20 is a block diagram showing the configuration of an audio signal processing apparatus 2000 according to an embodiment of the present invention.
- 21 is a diagram illustrating peak values for each time section of an input audio signal according to an embodiment of the present invention.
- 22 is a diagram illustrating a method of adjusting an output loudness level of an input audio signal by using smoothing by an audio signal processing apparatus according to an embodiment of the present invention.
- the present disclosure relates to a method of adjusting an output loudness level of an input content by an audio signal processing apparatus.
- the input content may be content including an audio signal.
- the input content may be referred to as an input audio signal.
- loudness may indicate the size of a sound perceived through hearing.
- the loudness level may be a value representing loudness.
- the loudness level may be displayed using units such as Loudness K-Weighted relative to Full Scale (LKFS) or Loudness Unit relative to Full Scale (LUFS).
- the loudness level may be indicated using units such as sone or phon.
- FIG. 1 is a diagram illustrating a loudness level that changes with time while a plurality of contents are being played according to an embodiment of the present invention.
- the average loudness level may be a single loudness value corresponding to one content.
- the average loudness level may be different for each content (content1, content2, content3).
- a solid line represents an average loudness level for each content (content1, content2, content3).
- the average loudness of FIG. 1 may represent integrated loudness.
- the above-described cumulative loudness and short-term loudness may follow the definition of loudness standards such as ITU-R BS.1770-4, EBU R 128, EBU TECH 3341, and EBU TECH 3342.
- the short section loudness level may be a loudness level measured in a section shorter than the entire section of the input audio signal.
- the short-term loudness level may be a measure of loudness for a portion of the content.
- a part of the content may be a part included in one measurement window.
- the audio signal processing apparatus may acquire a plurality of short-term loudness levels for one content.
- the average loudness level may be an average of a plurality of short-term loudness levels.
- each of a plurality of contents to be reproduced and switched has different loudness characteristics.
- advertisement contents may be inserted between the converted contents.
- a difference in loudness dynamic range between different contents may be large. In such an environment, it may be difficult for the audio signal processing apparatus to provide a loudness level within a range desired by the listener.
- the listener may first recognize that the short-term loudness level changes rapidly. Accordingly, the listener may have to adjust the volume of the device that outputs the audio signal. In addition, the listener may have to adjust the volume again to set an appropriate gain according to the average loudness as the converted content is played. For example, when the converted content is played according to the volume adjusted based on the loudness of the initial section of the converted content, the loudness level may rapidly increase or decrease rapidly according to the content characteristics. When the loudness level increases or decreases rapidly and the content of the content cannot be grasped, the listener may have to adjust the volume of the device outputting the audio signal again.
- the audio signal processing apparatus can increase the convenience of a listener by controlling the output loudness level of the input content.
- the audio signal processing apparatus may adjust the loudness level based on the loudness gain of the input content.
- the audio signal processing apparatus may use loudness metadata including loudness information of the input audio signal.
- a loudness level of input content generated with different criteria or generated without a specific criterion may be normalized based on a target loudness level.
- the target loudness level may be a loudness level to be output by the audio signal processing apparatus.
- the target loudness level may be set by a content creator of the input content.
- the audio signal processing apparatus may receive information on target loudness together with the input content.
- the target loudness level may be set to different values according to the genre of the input content.
- the audio signal processing apparatus may determine the target loudness level based on the genre of the input content.
- the target loudness level may be set to a default value previously stored in the audio signal processing apparatus.
- the target loudness level may be set to a value independent of the input content or the genre of the input content.
- the audio signal processing apparatus may adjust the output loudness level of the input content based on the target loudness level.
- the audio signal processing apparatus may obtain a loudness gain based on a relationship between the loudness level of the input content and the target loudness level.
- the relationship between the loudness level of the input content and the target loudness level may include a difference or ratio between the loudness level of the input content and the target loudness level.
- the audio signal processing apparatus may obtain a loudness gain based on a relationship between the representative loudness level of the input content and the target loudness level.
- the representative loudness level may be a loudness level representing the loudness level for the entire section of the input content.
- the audio signal processing apparatus may receive a representative loudness level of the input content together with the input content.
- the audio signal processing apparatus may acquire a representative loudness level based on the loudness information analyzed from the input content.
- the audio signal processing apparatus may obtain loudness information based on a loudness measurement value for the input content.
- loudness information of an input audio signal may include loudness metadata converted into a metadata format.
- the audio signal processing apparatus may adjust the output loudness level of the input content based on the loudness gain.
- the audio signal processing apparatus may obtain an output audio signal whose loudness level is adjusted by applying a loudness gain to the input content.
- the audio signal processing apparatus may adjust the output loudness level of the input audio signal by using the loudness metadata of the input audio signal. Through this, the audio signal processing apparatus may control the loudness level of the input content without deteriorating sound quality of the input audio signal included in the input content.
- the preset target loudness level may be larger than the representative loudness level of the input audio signal.
- the audio signal processing apparatus may obtain a loudness gain based on the loudness characteristic and a preset target loudness.
- the audio signal processing apparatus may obtain a loudness gain that prevents sound quality damage of an input audio signal from occurring based on the loudness characteristic.
- the audio signal processing apparatus may adjust the output loudness level of the input audio signal based on the obtained loudness gain.
- the audio signal processing apparatus may acquire loudness information by using loudness metadata of the input audio signal.
- the audio signal processing apparatus may receive loudness metadata of an input audio signal from a device external to the audio signal processing apparatus.
- the external device may analyze the loudness characteristic of the input audio signal and generate loudness metadata of the input audio signal based on the analyzed loudness characteristic.
- the external device may transmit loudness metadata of the input audio signal to the audio signal processing device.
- FIG. 2 is a schematic diagram illustrating a system 200 including a first audio signal processing device 210 and a second audio signal processing device 220 according to an embodiment of the present invention.
- the first audio signal processing device 210 may be a server.
- the second audio signal processing device 220 may be a client device.
- FIG. 2 illustrates that a series of operations for normalizing the loudness of input content are performed by a server-client structured system, but the present disclosure is not limited thereto.
- a series of operations described through FIG. 2 may be performed by a single audio signal processing apparatus.
- the first audio signal processing apparatus 210 may generate loudness metadata of an input audio signal.
- the first audio signal processing device 210 may transmit the generated loudness metadata to the second audio signal processing device 220 to output a corresponding input audio signal.
- the second audio signal processing device 220 may receive loudness metadata from the first audio signal processing device 210.
- the second audio signal processing apparatus 220 may adjust the output loudness level of the input audio signal based on the received loudness metadata.
- the second audio signal processing apparatus 220 may determine a loudness gain to be applied to the input audio signal based on the loudness metadata.
- the second audio signal processing apparatus 220 may adjust the loudness level of the input audio signal based on the determined loudness gain.
- the first audio signal processing device 210 may receive input content.
- the input content may be an input audio signal composed of a plurality of frames.
- the first audio signal processing device 210 may measure the loudness level of the input content.
- the first audio signal processing apparatus 210 may obtain a loudness measurement value of an audio signal by using a loudness filter based on an auditory scale.
- the loudness filter may be at least one of an inverse filter of equal-loudness contours or a K-weighting filter approximating the same.
- the first audio signal processing apparatus 210 may obtain a loudness measurement value by applying a loudness filter to at least a partial section of the previously received input content.
- some sections may be unit time used to acquire one loudness measurement value.
- Some sections may include at least one frame.
- a unit time used to acquire one loudness measurement value may be referred to as a measurement window.
- the first audio signal processing apparatus 210 may obtain a loudness measurement value for each measurement window of the input content.
- the obtained loudness measurement may be an instantaneous loudness level or a short-term loudness level according to the length of the measurement window.
- the instantaneous loudness level may be a loudness measurement value measured for a short time period compared to the short-term loudness level.
- the length of a measurement window used to acquire one instantaneous loudness level may be 400 milliseconds (ms).
- the length of the measurement window used to obtain one short-term loudness level may be 3 seconds.
- the length of the measurement window for loudness analysis may be different for each input content. According to an embodiment, the length of the measurement window may be determined based on additional information of the input content. A method of determining the length of the measurement window by the audio signal processing apparatus will be described later with reference to FIG. 18.
- the first audio signal processing apparatus 210 may obtain loudness information of the input content based on the loudness measurement value of the input content.
- the loudness information may include at least one loudness measurement value for the input content.
- the loudness information may include information calculated based on a loudness measurement value for the input content.
- the first audio signal processing device 210 may update loudness information in real time.
- the loudness information may include at least one of an accumulated loudness level, a short-term loudness level, and an instant loudness level.
- the first audio signal processing apparatus 210 may acquire an accumulated loudness level representing a plurality of loudness measurements accumulated from a time when a loudness measurement for input content is started to a current time.
- the cumulative loudness level may represent a loudness level accumulated from a set-up time set in the apparatus for measuring the loudness level.
- the cumulative loudness level may be a loudness level calculated based on a loudness measurement value measured from a setup time set by the first audio signal processing apparatus 210.
- the cumulative loudness level may be an average loudness level calculated based on a loudness measurement value for each section acquired from a setup time point.
- the loudness measurement value for each section may represent one of a short-term loudness level and an instantaneous loudness level.
- the cumulative loudness level may be obtained based on an average of effective loudness measurements measured between a setup time point and a current time point.
- the effective loudness measurements may be loudness measurements that satisfy at least one reference requirement among a plurality of loudness measurements measured between the setup time point and the current time point.
- the effective loudness measurements may be loudness measurements having a loudness level equal to or higher than a specific level.
- the first audio signal processing apparatus 210 may calculate a first average of loudness measurements having a loudness level equal to or greater than a first threshold among a plurality of loudness measurements.
- the first threshold may be a value set based on the minimum audible size.
- the first audio signal processing apparatus 210 may calculate a second average of loudness measurements having a loudness level equal to or greater than a second threshold among the loudness measurements used for calculating the first average.
- the second threshold value may be a value obtained by subtracting a preset value from the first average.
- the first audio signal processing apparatus 210 may use the second average as an accumulated loudness level of the input content. Meanwhile, the first audio signal processing apparatus 210 may reset the setup time for the accumulated loudness level according to a specific requirement.
- the first audio signal processing apparatus 210 may generate loudness metadata based on the loudness information. For example, the first audio signal processing device 210 may remove unnecessary information from the loudness information and generate loudness metadata in the form of a syntax that the second audio signal processing device 220 can understand. Additionally, the first audio signal processing apparatus 210 may generate loudness metadata including additional information related to the input audio signal. The additional information related to the input audio signal may include at least one of information representing each of the length, genre, content provider, content creator, popularity, number of views, album, and channel of the input audio signal. Through this, the first audio signal processing device 210 enables another device that outputs the input audio signal to adjust the output loudness level of the input audio signal using the additional information.
- the input audio signal may be a sound source of the same content creator as the previously reproduced audio signal.
- the input audio signal and the previously reproduced audio signal may have similar sound characteristics such as style/tone.
- an apparatus that outputs an input audio signal for example, the second audio signal processing apparatus 220 may determine a loudness gain of the input audio signal based on the target loudness level of the previously reproduced audio signal.
- the second audio signal processing apparatus 220 may be used for loudness metadata including additional information.
- the loudness metadata generated by the first audio signal processing apparatus 210 may be stored in a metadata database (hereinafter, referred to as'DB').
- the first audio signal processing device 210 may receive a request for loudness metadata of an input audio signal from the second audio signal processing device 220. In this case, the first audio signal processing device 210 may transmit loudness metadata of the corresponding input audio signal to the second audio signal processing device.
- the second audio signal processing apparatus 220 may obtain loudness information of an input audio signal from the first audio signal processing apparatus 210. Specifically, the second audio signal processing device 220 may request the loudness metadata of the input audio signal from the first audio signal processing device 210. Also, the second audio signal processing device 220 may receive loudness metadata of an input audio signal from the first audio signal processing device 210. The second audio signal processing apparatus 220 may obtain loudness information of an input audio signal based on the received loudness metadata.
- the second audio signal processing apparatus 220 may acquire a loudness gain applied to the input content based on the loudness information. Specifically, the second audio signal processing apparatus 220 may acquire a loudness gain based on the loudness information and the target loudness level. According to an embodiment, the second audio signal processing apparatus 220 may obtain a loudness gain applied to a specific frame of input content. The loudness gain applied for each frame in some specific sections of the input content may be dynamically adjusted over time. The loudness gain applied for each frame in the remaining sections except for a specific section may be a static gain that is not dynamically adjusted. In addition, in some specific sections of input content, the loudness gain may be limited to a value within a specific range.
- the second audio signal processing apparatus 220 may adjust the output loudness level of the input content based on the loudness gain. For example, the second audio signal processing apparatus 220 may adjust the output loudness level by applying a loudness gain to the input content. According to an embodiment, the loudness gain may be applied for each frame constituting the input content. In this case, the second audio signal processing apparatus 220 may adjust the output loudness level of the input content by multiplying the audio signal corresponding to each frame by the loudness gain. The second audio signal processing apparatus 220 may obtain output content whose output loudness level is adjusted by the loudness gain from the input content. Also, the second audio signal processing apparatus 220 may output the obtained output content. For example, the second audio signal processing device 220 may reproduce output content. Alternatively, the second audio signal processing apparatus 220 may transmit the output content to a playback device through a wired/wireless interface.
- the second audio signal processing apparatus 220 may control a dynamic range of the adjusted output loudness level. This is because when the output loudness level for a specific frame of the input content is out of a preset dynamic range, sound quality distortion may occur due to clipping.
- the second audio signal processing apparatus 220 may control the dynamic range of the output loudness level based on the preset dynamic range. For example, the second audio signal processing apparatus 220 may control the dynamic range of the output loudness level by using processing such as a limiter and a dynamic range limiter (DRC).
- DRC dynamic range limiter
- FIG. 3 is a flowchart illustrating a method of adjusting a loudness level of an input audio signal according to an embodiment of the present invention.
- FIG. 3 for convenience of explanation, a series of operations for adjusting the output loudness level of an input audio signal are described as being performed by a single audio signal processing apparatus, but the present disclosure is not limited thereto.
- some of the operations described with reference to FIG. 3 may be performed by a server, and some of the operations may be performed by a client.
- the audio signal processing apparatus may perform a post processing operation on the input audio signal.
- the audio signal processing apparatus may perform at least one of equalization and sound field modes on an input audio signal.
- the equalization and sound field modes performed by the audio signal processing apparatus may be operations of a general media playback system.
- the audio signal processing apparatus may extract loudness information of the input audio signal.
- the audio signal processing apparatus may extract loudness information based on frequency characteristics of post-processing.
- the audio signal processing apparatus may acquire loudness level information (weight of post processing, w_Proc) for each band that changes through post-processing based on a frequency characteristic of post-processing.
- the audio signal processing apparatus may extract loudness information using w_Proc.
- w_Proc may include equalization curve information in a corresponding frequency domain.
- the audio signal processing apparatus may extract loudness information of an input audio signal based on the equalization curve information.
- w_Proc may include at least one of characteristic information and reverb information of a filter used in the corresponding sound field mode.
- an environment in which an input audio signal is output may be an environment in which frequency characteristics are not uniform and a response to a low frequency is small, such as a small speaker used in a mobile phone.
- w_Proc may include frequency characteristic information of a corresponding output environment.
- the audio signal processing apparatus may adjust the output loudness level of the input audio signal based on w_Proc. Through this, the audio signal processing apparatus may provide an output loudness level adjustment that reflects characteristics of a device to which an input audio signal is output.
- the loudness information extracted in step S303 is accumulated loudness information (Integrated Loudness, L_Integ), a quality secure histogram index (QSHI), and a loudness change prediction value (Difference in Loudness by post).
- dL_Proc may include at least one.
- L_Integ is ITU-R BS.
- QSHI may represent a threshold loudness level at which cognitive sound quality is not impaired by an output limiter.
- QSHI may include a maximum target loudness (Max_TL).
- QSHI can be calculated based on an automatic algorithm or can be defined by the content creator.
- dL_Proc may be a predicted value for a change in loudness of an input audio signal after post-processing.
- the audio signal processing apparatus may acquire dL_Proc based on post-processing information set by the user.
- the audio signal processing apparatus may obtain dL_Proc based on at least one of w_Proc and a characteristic for each frequency of the input audio signal.
- the audio signal processing apparatus may determine a loudness gain G_target of the input audio signal. For example, the audio signal processing apparatus may determine the loudness gain G_target based on the preset target loudness level L_target and the loudness information extracted in step S303. In this case, the preset target loudness level may be a value set by a user.
- the audio signal processing apparatus may output an output audio signal by applying a final loudness gain to the input audio signal post-processed in step S301.
- the output audio signal may be a signal that has passed through a limiter.
- the audio signal processing apparatus may generate a first output audio signal by applying a final loudness gain to the post-processed input audio signal.
- the audio signal processing apparatus may generate a second output audio signal by applying a limiter to the first output audio signal.
- the audio signal processing apparatus may output a second output audio signal to which a limiter is applied.
- FIG. 4 is a block diagram illustrating in detail a method for extracting loudness information of an input audio signal by an audio signal processing apparatus according to an embodiment of the present invention.
- each unit/unit is described as performing a respective operation, but the present disclosure is not limited thereto.
- each of the units/units of the loudness information extracting unit 400 of FIG. 4 may be a series of operations performed by a processor included in the audio signal processing apparatus.
- the loudness information extracting unit 400 may include a loudness measuring unit 401, a loudness analyzing unit 402 for each frequency, a post-processing loudness predicting unit 403, and a QSHI extracting unit 404. have.
- the loudness information extracting unit 400 may perform the operations described through step S303 of FIG. 3.
- the loudness measurement unit 401 may obtain a loudness measurement value of an input audio signal.
- the loudness measuring unit 401 may acquire at least one of a short-term loudness level and an accumulated loudness level of the input audio signal.
- the loudness measuring unit 401 is a standard standard ITU-R BS. Accumulated loudness information (L_Integ) and short-term loudness information (L_ShortTerm) may be obtained from the input audio signal through the same process as in the example of 1770-4.
- the frequency-specific loudness analyzer 402 may obtain a frequency-specific loudness ratio (Multi-band Weight in loudness, WLoud_MB) of the entire input audio signal.
- WLoud_MB Multi-band Weight in loudness
- the loudness analyzer 402 for each frequency may obtain WLoud_MB by applying a K-weighted filter to the input audio signal.
- the frequency-specific loudness analyzer 402 may calculate WLoud_MB by frequency-converting the signal to which the K-weighting filter is applied.
- x_k filter (h_kweight, x_in ),
- x_k filter (h_pre2_kweight, filter (h_pre1_kweight, x_in))
- x_k represents a signal to which a K-weighted filter is applied to the input audio signal x_in.
- filter(A,B) denotes an operation of filtering the input audio signal B with a filter coefficient A.
- h_kweight may represent a single K-weight filter.
- each of h_pre2_kweight and h_pre1_kweight may represent a first-order pre-filter and a second-order pre-filter defined in ITU-R BS.1770-4.
- the frequency-specific loudness analyzer 402 may filter and apply the K-weighted filter coefficient to the input audio signal.
- 5 shows the frequency response of the first order pre-filter defined in ITU-R BS.1770-4.
- FIG. 6 shows the frequency response of the second-order pre-filter.
- Equation 2 The signal for each frame of the signal x_k obtained through Equation 1 may be expressed as Equation 2.
- x_frame[l] represents the signal of the l-th frame of the signal x_k.
- NF may indicate the length of the frame
- NH may indicate the hop size.
- x_frame[l] x_k[ ((l-1)*NH+1): ((l-1)*NH+NF)]
- the loudness analyzer 402 for each frequency may obtain xw_frame[l][-] by windowing the x_frame[l].
- the frequency-specific loudness analyzer 402 may obtain xw_frame[l][-] by using a rectangular window function in which all coefficients of the window function are 1.
- the frequency-specific loudness analyzer 402 may obtain xw_frame[l][-] by using various window functions such as a hamming window function or a hanning window function.
- the window operation may be an operation for frequency analysis of an input audio signal.
- wind[n] denotes the n-th coefficient of the window function, and n may be the sample number of the window. For example, when NF is 512, the value of n may be any one of 1 to 512.
- the loudness analyzer 402 for each frequency may perform a Discrete Fourier Transform (DFT) on xw_frame[l][-].
- DFT Discrete Fourier Transform
- the frequency domain signal XW_frame[l] which is discrete Fourier transformed from xw_frame[l][-] can be expressed as Equation 4 below.
- Equation 4 XW_frame[l] represents a discrete Fourier transform of the time domain signal'x'.
- XW_frame[l] DFT ⁇ xw_frame[l][1:NF] ⁇
- the loudness analyzer 402 for each frequency may obtain power for each frequency bin of the converted frequency signal XW_frame[l].
- P_frame_bin[l][k] represents the power in the k-th frequency bin of the l-th frame.
- conj(x) represents a conjugation function of'x'.
- the loudness analysis unit 402 for each frequency maps P_frame_bin[l][k] to a preset frequency band, and the power for each frequency band of the l-th frame (P_frame_band[l][b ]) can be obtained.
- band[b] represents the index of the start frequency bin of the b-frequency band. That is, the loudness analyzer 402 for each frequency may obtain power for each frequency band by summing powers for each frequency bin from band[b] to band[b+1]-1.
- sum_ ⁇ y ⁇ (x) may represent the sum of each index of a function'x' having an index k as an argument. In this case,'y' may indicate the range of the index for the corresponding operation.
- the loudness analyzing unit 402 for each frequency is based on the power for each frequency band of the l-th frame (P_frame_band[l][b]), and the power for each frequency band of the entire input audio signal (P_band[ b]) can be obtained.
- the frequency-specific loudness analysis unit 402 acquires power (P_band[b]) for each frequency band of the entire section of the input audio signal by summing the power (P_frame_band[l][b]) obtained for each frame with the same frequency bands. can do.
- NumberOfFrames represents the number of all frames.
- l representing the frame index is defined within a range from 1 to NumberOfFrames.
- P_band[b] sum_ ⁇ l from 1 to NumberOfFrames ⁇ (P_frame_band[l][b])
- the loudness analyzing unit 402 for each frequency may obtain a loudness ratio WLoud_MB[b] for each frequency band based on the power P_band[b] for each frequency band. Specifically, the loudness analyzer 402 for each frequency may normalize the power P_band[b] for each specific frequency band based on the sum of the powers for each frequency band.
- NumberOfBands represents the total number of divided frequency bands.
- b representing the band index is defined within a range from 1 to NumberOfBands.
- WLoud_MB[b] P_band[b]/ [sum_ ⁇ b from 1 to NumberOfBands ⁇ (P_band[b])]
- WLoud_MB[b] calculated through Equation 8 represents the ratio of the cumulative loudness level for each frequency band of the input audio signal.
- the input audio signal may be a 2-band signal
- WLoud_MB[10] 0.8
- WLoud_MB[1] 0.2.
- the post-processing loudness predictor 403 changes the loudness based on at least one of the loudness level information for each band (w_Proc) changed by the post-processing and the loudness ratio for each frequency (WLoud_MB) of the entire input audio signal.
- the predicted value can be obtained.
- the post-processing loudness predictor 403 may use a loudness ratio (WLoud_MB) for each frequency of the entire input audio signal obtained through the loudness analyzer 402 for each frequency.
- the loudness level information w_Proc for each band that is changed by post-processing may be obtained according to characteristics of post-processing for the input audio signal. The characteristics of post-processing for the input audio signal may be determined based on information input by the user.
- the equalization set by the user is applied to the input audio signal, and the gain for each frequency band of the corresponding equalization is set to w_ProcBand_dB in decibel units for each of NumberOfBands frequency bands, and the total gain of the corresponding equalization is set to w_ProcGain_dB.
- the loudness analyzer 402 for each frequency may obtain a loudness ratio for each frequency band based on a gain for each frequency band (w_ProcBand_dB) and an overall gain (w_ProcGain_dB).
- a method that the loudness analyzing unit 402 for each frequency calculates to obtain a loudness ratio for each frequency band may be expressed as Equation 9.
- w_Proc[b] 10 ⁇ ((w_ProcBand_dB[b] + 0.5*w_ProcGain_dB)/10)
- a method of obtaining the loudness change prediction value dL_Proc by the post-processing loudness predictor 403 may be expressed as Equation 10.
- dL_Proc 10 * log10 (sum_ ⁇ b from 1 to NumberOfBands ⁇ (WLoud_MB[b] * w_Proc[b]))
- the QSHI extraction unit 404 may extract a quality assurance histogram index QSHI based on the short-term loudness information L_ShortTerm.
- the quality assurance histogram index (hereinafter,'QSHI') may be a threshold loudness level at which cognitive sound quality is not impaired.
- the QSHI extraction unit 404 may acquire QSHI based on the short-term loudness information (L_ShortTerm) obtained through the loudness measurement unit 401.
- the QSHI extraction unit 404 may obtain QSHI by analyzing short-term loudness information (L_ShortTerm).
- the short-term loudness information (L_ShortTerm) may include one or more short-term loudness levels of the input audio signal.
- the QSHI extraction unit 404 may obtain a histogram for each short-term loudness level of the input audio signal based on one or more short-term loudness levels.
- the QSHI extracting unit 404 may acquire the QSHI of the input audio signal based on the histogram of the obtained short-term loudness size.
- L_ShortTerm_Sorted represents information in which one or more short-term loudness levels included in the short-term loudness information (L_ShortTerm) of the input audio signal are arranged in order of size.
- the QSHI extraction unit 404 may sort one or more short-term loudness levels in a descending order ('descending').
- L_ShortTerm_Sorted sort (L_ShortTerm,'descending')
- the QSHI extraction unit 404 may acquire a loudness level corresponding to a preset index from among one or more short-term loudness levels of the input audio signal based on L_ShortTerm_Sorted.
- EffectiveIndex may represent a preset effective index.
- the preset effective index may indicate a short-term loudness level in a preset order in order of magnitude among one or more short-term loudness levels of the input audio signal. That is, the QSHI extraction unit 404 may obtain the effectiveIndex-th largest short-term loudness level among one or more short-term loudness levels of the input audio signal.
- the short-term loudness level that is the largest EffectiveIndex among one or more short-term loudness levels of the input audio signal may be referred to as an effective short-term loudness level (L_ShortTerm_Effective) of the input audio signal.
- the QSHI extractor 404 may obtain QSHI based on at least one of an effective short term loudness level (L_ShortTerm_Effective) and an accumulated loudness level of the input audio signal. Also, QSHI may be a value equal to or greater than the cumulative loudness level.
- L_ShortTerm_Effective an effective short term loudness level
- QSHI may be a value equal to or greater than the cumulative loudness level.
- the QSHI extraction unit 404 may acquire an effective short-term loudness level (L_ShortTerm_Effective_Shift) to be changed when the input audio signal is output according to a preset target loudness level. Specifically, the QSHI extraction unit 404 may predict short-term loudness information (L_ShortTerm_Shft) to be changed based on the short-term loudness information (L_ShortTerm) of the input audio signal. In this case, the short-term loudness information to be changed (L_ShortTerm_Shft) may include one or more short-term loudness levels to be changed when the input audio signal is output according to a preset target loudness level.
- the QSHI extraction unit 404 may acquire QSHI based on the acquired L_ShortTerm_Effective_Shift.
- QSHI may be the maximum allowable target loudness value in the case of restricting the L_ShortTerm_Effective_Shift[EffectiveIndex] short-term loudness level to be less than or equal to the threshold value.
- L_ShortTerm_Effective_Shift of the input audio signal may be used as a threshold value (L_Threshold) of the short-term loudness level.
- the QSHI extraction unit 404 may correct the maximum allowable target loudness value based on L_ShortTerm_Effective_Shift.
- the QSHI extraction unit 404 may use the corrected maximum allowable target loudness value as the value of QSHI.
- the QSHI extraction unit 404 may select a larger value of the maximum allowable target loudness corrected in the above manner and the accumulated loudness of the input audio signal as the QSHI value.
- the audio signal processing apparatus can effectively prevent deterioration of sound quality of the input audio signal due to the limiter. This is because, among the entire section of the input audio signal, the sound quality may be degraded by the limiter in the portion where the volume is set relatively high.
- QSHI may be a value set such that the number of short-term loudness levels greater than a specific value among one or more short-term loudness levels of the input audio signal is less than EffectiveIndex.
- EffectiveIndex may be a value determined based on characteristics of a limiter of the audio signal processing apparatus. For example, the EffectiveIndex may be changed according to the degree of deterioration in sound quality caused by the operation of the limiter.
- the short-term loudness threshold value L_Threshold may be a value determined based on a characteristic of a limiter of the audio signal processing apparatus. For example, the short-term loudness threshold value L_Threshold may be changed according to the degree of deterioration of sound quality caused by the operation of the limiter.
- the input audio signal may have a relatively large dynamic range.
- the QSHI of the input audio signal may be defined as a value arbitrarily set by a producer of content including the input audio signal or an operator of a sound system that outputs the input audio signal.
- the audio signal processing apparatus may obtain QSHI by analyzing a histogram of at least one of a peak envelope and an RMS of an input audio signal in addition to the short-term loudness level.
- the QSHI of an input audio signal may vary according to a change in histogram for each short-term loudness size.
- the histogram for each short-term loudness size may be changed according to whether or not post-processing is determined according to a user's input.
- the QSHI of the input audio signal may be changed to another value based on a preset table.
- the QSHI of the input audio signal may be changed to a value calculated based on the characteristics of post-processing.
- Equation 13 represents the changed cumulative loudness level (L_IntegProc) of the input audio signal when a post-processing process is performed on the input audio signal.
- the audio signal processing apparatus may obtain a changed cumulative loudness level L_IntegProc of the input audio signal based on the predicted loudness change value dL_Proc by post-processing.
- the audio signal processing apparatus may acquire the changed accumulated loudness level L_IntegProc by adding the predicted loudness change value dL_Proc by post-processing to the accumulated loudness level of the input audio signal.
- the audio signal processing apparatus may calculate a loudness gain for adjusting an output loudness level based on the above-described QSHI, a preset target loudness level (L_Target), and an accumulated loudness level changed by post-processing.
- the target loudness level (L_Target) may be a value set by the user.
- the preset target loudness level L_Target may be a default value provided by a playback system that outputs an input audio signal.
- the preset target loudness level L_Target may be a value set based on a reproduction environment for outputting an input audio signal.
- the audio signal processing apparatus may apply a loudness gain G_Target to the first intermediate audio signal post-processed from the input audio signal. For practical reasons, a post-processing process may be performed after the input audio signal before post-processing is multiplied by a loudness gain (G_Target). Also, the audio signal processing apparatus may output the second intermediate audio signal to which the loudness gain G_Target is applied through the limiter.
- a system for providing a multimedia streaming service may generally be composed of a server and a user device (ie, a client) that store content to be streamed.
- the multimedia streaming service on the client side may be provided in the form of playback in an application or in a web.
- Each of the server and the client may be an audio signal processing apparatus that performs the operations described in the present disclosure.
- the server may provide loudness information by performing input content analysis.
- the client may adjust the output loudness level of the input content based on loudness information provided from the server.
- the server may transmit loudness metadata including loudness information of the input audio signal to the client.
- the client may receive the loudness metadata of the input audio signal from the server.
- the client may acquire a loudness gain applied to the input audio signal based on the loudness metadata of the input audio signal.
- the server according to an embodiment of the present invention may generate and/or output an audio stream by encoding an input audio signal.
- the server according to an embodiment of the present invention may extract loudness information of an input audio signal.
- the server of FIG. 7 may perform the operations described with reference to the loudness information extraction (step S303) of FIG. 3 and the operations described with reference to the loudness information extractor 400 of FIG. 4.
- the server may generate loudness metadata including the extracted loudness information.
- the server may output the generated loudness metadata to an external device.
- the server may transmit the generated loudness metadata to the client in the form of a metadata stream.
- a client may receive an audio stream. Also, the client may obtain an input audio signal by decoding the received audio stream. The client can perform a post-processing process on the input audio signal. In this case, whether or not to perform the post-processing process and characteristics may be determined based on an input received from a user or a preset value stored in the system.
- the client may determine the loudness gain of the input audio signal based on the loudness metadata of the input audio signal.
- the client may receive loudness metadata in the form of a metadata stream.
- the client may obtain loudness information of the input audio signal by parsing the loudness metadata of the input audio signal. Specifically, the client may obtain at least one of WLoud_MB, L_Integ, and QSHI described above through FIGS. 3 and 4 from the loudness metadata of the input audio signal.
- the client may determine the loudness gain of the input audio signal based on the obtained loudness information.
- the client can adjust the output loudness level by applying a loudness gain to the input audio signal.
- the client can generate an output audio signal by applying a limiter to the intermediate audio signal whose output loudness level has been adjusted. Also, the client can output an output audio signal.
- the client of FIG. 8 includes the operations described with reference to the post-processing of FIG. 3 (step S301), the loudness gain determination (step S305), the loudness gain application (step S307), and the post-processing loudness of FIG. Operations described with reference to the prediction unit 403 may be performed.
- the music content may have various loudness according to the era and/or genre.
- the cumulative loudness level of classical music is relatively low to provide a wide dynamic range, while the cumulative loudness level of pop music of the 2000s is relatively large.
- the cumulative loudness level of pop music in the 2000s may be -13 to -8 LKFS, and the cumulative loudness level of a quiet movement among classical music may be about -30 LKFS.
- the audio signal processing apparatus may determine different target loudness levels according to the reproduction environment.
- the target loudness level of pop music of the 2000s is set to -10, the volume of pop music of the 2000s may not change significantly.
- the target loudness level of music having a relatively low integrated loudness level such as classical music or music of the 1970s ⁇ 80s, is set to -10, the change in volume may be large.
- FIG. 9 is a diagram illustrating a histogram for each short-term loudness size of an input audio signal according to an embodiment of the present invention.
- the genre of the input audio signal may be classic.
- the accumulated loudness of the input audio signal may be -21 LKFS.
- the histogram for each short-term loudness size moves +11 LKFS to the right. At this time, a section having a short section loudness level greater than -7 LKFS occurs.
- sound quality due to the limiter may be deteriorated in a section having a short-term loudness level greater than -7 LKFS.
- the audio signal processing apparatus may perform loudness normalization of an input audio signal based on QSHI as described above.
- the loudness normalization performance may be relatively reduced, but a best-effort method that is most actively matched within preventing sound quality deterioration may be used.
- the apparatus for processing an audio signal may use a loudness gain correction method that is as close as possible to a target loudness level based on loudness information of an input audio signal.
- the audio signal processing apparatus may provide equalization in which the loudness level does not change using the corresponding method.
- Equalization is to adjust the energy for each frequency of the input audio signal so that the user has a desired tone.
- the overall energy may increase depending on the degree of adjustment of the input audio signal.
- the input audio signal may be clipped.
- sound quality compared to the input audio signal may be damaged by the limiter.
- the audio signal processing apparatus may set a preset target loudness level (L_Target), an accumulated loudness level (L_Integ), and QSHI to the same arbitrary value.
- the loudness gain G_Target of the input audio signal may be expressed as Equation 14. That is, the audio signal processing apparatus may obtain a linear loudness gain G_Target. This is because the target loudness level (L_Target), the accumulated loudness level (L_Integ), and QSHI cancel each other.
- G_Target power (10, -dL_Proc) / 20
- the audio signal processing apparatus may apply the loudness gain G_Target of Equation 14 to the input audio signal.
- the audio signal processing apparatus may provide an output loudness level equal to the loudness level of an input audio signal by correcting a change in loudness caused by post-processing.
- the audio signal processing apparatus may maintain a loudness level of an input audio signal by correcting a change in loudness caused by post-processing.
- the audio signal processing apparatus may set the loudness level of the intermediate audio signal to be the same as the loudness level of the input audio signal by using the predicted value of the loudness change by post-processing.
- the intermediate audio signal may be a signal post-processed from the input audio signal.
- the audio signal processing apparatus changes the tone compared to the input audio signal through a post-processing process, but provides the same as the loudness level of the original input audio signal.
- the predicted value of the loudness change by post-processing may be obtained by the method described above with reference to FIGS. 3 and 4.
- the predicted value of the loudness change by post-processing may be obtained based on the WLoud_MB provided by analysis or the WLoud_MB based on the characteristics of the content.
- FIG. 10 is a block diagram illustrating a system in which an audio signal processing apparatus optimizes a loudness gain of an input audio signal in consideration of a target loudness level and cognitive sound quality deterioration according to an embodiment of the present invention.
- the audio signal processing apparatus may determine a target loudness gain acceptable to the dynamic processor based on the target loudness level and loudness information of the input audio signal.
- the dynamic processor may represent a processing process of clipping a signal according to a loudness level, such as a limiter or a compressor described above.
- the loudness information of the input audio signal may include at least one of an accumulated loudness level, a short-term loudness level, an instantaneous loudness level, a sample peak, a true peak, a loudness range, and a root-mean-square (RMS).
- RMS root-mean-square
- the audio signal processing apparatus determines the loudness gain of an input audio signal.
- the maximum value of the target loudness level that can be set by the user may be -10LKFS, and the accumulated loudness of the input audio signal may be -22LKFS.
- a short-term loudness level corresponding to the tenth among a plurality of short-term loudness levels of the input audio signal may be -18LKFS.
- the short-term loudness level corresponding to the tenth may be a specific embodiment of the effective short-term loudness level (L_ShortTerm_Effective) described with reference to the QSHI extraction unit 404 of FIG. 4 described above.
- the audio signal processing apparatus may acquire QSHI based on the tenth short section loudness level amplified by the maximum amplification amount.
- the audio signal processing apparatus may compare a target loudness level input by a user and a QSHI.
- the audio signal processing apparatus may determine a loudness gain of the input audio signal based on the comparison result. For example, the audio signal processing apparatus may determine the loudness gain of the input audio signal based on a smaller value among a preset target loudness level and QSHI.
- short-term loudness levels for obtaining an index for determining whether DRC sound quality is deteriorated are selected as the upper tenth in descending order, but the present disclosure is not limited thereto.
- the audio signal processing apparatus may obtain QSHI by performing histogram analysis on at least one of a peak value of a signal and an RMS in addition to the short-term loudness level.
- 11 and 12 are diagrams illustrating a loudness level of an input audio signal according to time and a fixed gain for a target loudness level.
- 11 shows a fixed gain for adjusting the loudness level of a first input audio signal having a loudness distribution smaller than the target loudness level to the target loudness level.
- excessive tone distortion may occur due to clipping of the first input audio signal in a section greater than 0dBFS.
- the audio signal processing apparatus may apply a gain smaller than the fixed gain value to the section (2) and section (4) of the first input audio signal.
- the second input audio signal has a large dynamic range compared to the first input audio signal of FIG. 11. Accordingly, when the audio signal processing apparatus applies a fixed gain for the target loudness level to the second input audio signal, the loudness level may be relatively small in some sections. Accordingly, the audio signal processing apparatus may apply a gain greater than the fixed gain value to the section (1) and section (3) of the second input audio signal.
- the audio signal processing apparatus may apply a gain boost.
- the audio signal processing apparatus may acquire a target loudness range.
- the audio signal processing apparatus may set an additional gain for each section of the input audio signal based on the acquired target loudness range.
- the audio signal processing apparatus may apply the set additional gain to a section having a loudness level outside the target loudness range among the entire duration of the input audio signal.
- the audio signal processing apparatus may adjust the output loudness level of the input audio signal by applying a different gain to the input audio signal over time.
- the audio signal processing apparatus may adjust the input audio signal output loudness level based on the loudness metadata of the input audio signal.
- the loudness metadata of the input audio signal may include information that changes over time.
- the audio signal processing apparatus may normalize the output loudness level of the input audio signal according to the target loudness level and the target loudness range by referring to different metadata over time in order to apply a different gain over time. Through this, the audio signal processing apparatus in the present disclosure may solve the above-described problem when compensating by applying a fixed gain to an input audio signal for normalizing loudness.
- 13 and 14 are schematic diagrams illustrating a method of adjusting an output loudness level of an input audio signal according to an embodiment of the present disclosure.
- 13 shows an embodiment in which loudness information of an input audio signal is extracted and an output loudness level of an input audio signal is adjusted in a single audio signal processing apparatus.
- the audio signal processing apparatus may measure the loudness level of the input audio signal.
- the audio signal processing apparatus may obtain loudness information of the input content from the loudness measurement value.
- a method of measuring the loudness level of an input audio signal by the audio signal processing apparatus in real time will be described in detail with reference to FIG. 19.
- the server may analyze the input audio signal and extract loudness information of the input audio signal.
- the server may generate loudness metadata by converting loudness information of an input audio signal into a metadata format.
- the client may receive the input audio signal and receive loudness metadata of the input audio signal separately from the input audio signal.
- the client may parse the loudness metadata to obtain loudness information used to adjust the output loudness level of the input audio signal.
- the client may obtain a loudness gain of an input audio signal based on the loudness information and a preset target loudness level. The client may adjust the output loudness level of the input audio signal based on the loudness gain of the input audio signal.
- the audio signal processing apparatus may obtain loudness information by analyzing an input audio signal. For example, the method of FIG. 15 may be performed in the server of FIG. 7 described above.
- the audio signal processing apparatus may output loudness information in the form of loudness metadata.
- the loudness information may include static loudness metadata and dynamic loudness metadata.
- the static loudness metadata may include at least one static loudness parameter.
- static loudness metadata is the cumulative loudness level of the input audio signal, the maximum sample peak (Max.Sample Peak), the loudness range (LRA), and the peak-to-loudness range (PLR).
- Album Integrated Loudness, Relative Threshold, Min. Momentary Loudness, Max. Momentary Loudness, and Sample Per Frame. can do.
- the audio signal processing apparatus may acquire static loudness metadata of an input audio signal. Specifically, the audio signal processing apparatus may measure at least one of an instantaneous loudness level of an input audio signal and a short-term loudness level of an input audio signal using a loudness filter based on an auditory measure. The audio signal processing apparatus may generate static loudness metadata including at least one static loudness parameter.
- the dynamic loudness metadata may represent loudness information that changes over time.
- the dynamic loudness metadata may include at least one dynamic loudness parameter.
- the dynamic loudness metadata may include at least one of a short-term loudness level and a peak value for each time of an input audio signal. A method of obtaining the peak value by the audio signal processing apparatus will be described in detail with reference to FIG. 21.
- the audio signal processing apparatus may acquire dynamic loudness metadata of an input audio signal. For example, the audio signal processing apparatus may obtain a short-term loudness measurement value for a specific section of the input audio signal. The audio signal processing apparatus may obtain a peak value of an input audio signal for a corresponding section. The audio signal processing apparatus may generate dynamic loudness metadata including at least one dynamic loudness parameter. In addition, the audio signal processing apparatus may correct a time delay or lead of a dynamic loudness parameter such as a short-term loudness measurement value and a peak value. For example, the audio signal processing apparatus may shift the dynamic loudness parameter. This will be described in detail with reference to FIG. 21.
- the audio signal processing apparatus may acquire a short-term loudness level for a sample value in the past and a sample value to be input later based on a specific time point. Through this, the audio signal processing apparatus may more stably control the loudness level in response to the loudness change of the input audio signal. For example, the audio signal processing apparatus may acquire a short-term loudness level for a sample value in the past and a sample value to be input in the future by shifting the time reference value of the already acquired dynamic loudness parameter. Also, the audio signal processing apparatus may acquire a short-term loudness level for a sample value in the past and a sample value to be input later by using the buffer. In this case, the audio signal processing apparatus may set a sufficient look-ahead time.
- the audio signal processing apparatus may obtain a loudness gain of the input audio signal based on the target loudness level and loudness metadata of the input audio signal. Specifically, the audio signal processing apparatus may calculate a gain parameter based on the target loudness level and static loudness metadata. The audio signal processing apparatus may obtain a loudness gain applied to a specific frame of the input audio signal based on the calculated gain parameter and dynamic loudness metadata. For example, the audio signal processing apparatus may parse the dynamic loudness metadata to obtain at least one of a short-term loudness level and a peak value corresponding to a corresponding frame.
- the audio signal processing apparatus may obtain a loudness gain applied to a corresponding frame based on at least one of a short-term loudness level and a peak value corresponding to the frame. Specifically, the audio signal processing apparatus may obtain a loudness gain applied to a corresponding frame based on the calculated gain parameter and a short-term loudness level corresponding to the frame. In this case, the loudness gain applied to the frame may be limited so that clipping according to the loudness level does not occur within the frame. The audio signal processing apparatus may correct a loudness gain applied to a corresponding frame so that clipping according to a loudness level does not occur within a corresponding frame based on the peak value. The audio signal processing apparatus may generate an intermediate audio signal by applying a final loudness gain to the input audio signal.
- the audio signal processing apparatus may generate an output audio signal by applying a limiter to the intermediate audio signal.
- the audio signal processing apparatus may output an output audio signal.
- the audio signal processing apparatus may correct the loudness gain for each frame. .
- the audio signal processing apparatus may adjust the loudness gain to change smoothly by using a smoothing method. Through this, the audio signal processing apparatus can prevent tone distortion according to a change in a loudness gain for each frame or volume pumping in which a level suddenly changes significantly. A method of smoothing the loudness gain by the audio signal processing apparatus will be described in detail with reference to FIG. 22.
- FIG. 17 is a diagram illustrating a method of adjusting an output loudness level of an input audio signal based on a target loudness range by an audio signal processing apparatus according to an embodiment of the present invention.
- the audio signal processing apparatus may additionally consider a target loudness range in the process of calculating the gain parameter of FIG. 16 described above. As described with reference to FIG. 12, the target loudness range may be narrower than the dynamic range of the input audio signal.
- the target loudness range may be narrower than the dynamic range of the input audio signal.
- the audio signal processing apparatus may calculate a gain parameter of the input audio signal based on the target loudness range of the input audio signal.
- the gain parameter may include a gain ratio used for loudness compression.
- the audio signal processing apparatus may apply an additional boost gain to a frame having a short-term loudness smaller than a preset size among a plurality of frames included in the input audio signal based on the gain ratio.
- the audio signal processing apparatus may apply an additional cut gain to a frame having a short-term loudness greater than a preset size among a plurality of frames included in the input audio signal based on the gain ratio. Through this, the audio signal processing apparatus may adjust the output loudness level of the entire section of the input audio signal to approximate the target loudness level.
- the audio signal processing apparatus may perform loudness normalization for each time interval based on a loudness parameter measured differently for each time interval.
- the audio signal processing apparatus includes a target loudness level (L_T), an accumulated loudness level (L_I), a short-term loudness level (L_S), a relative threshold (L_Rel), a noise floor level (L_Noise).
- L_T target loudness level
- L_I accumulated loudness level
- L_S short-term loudness level
- L_Rel a relative threshold
- L_Noise a noise floor level
- L_Rel may be a value obtained by adding a preset value to the average of the dynamic loudness parameters that are effective in all areas of the input audio signal.
- the preset value may be -20 LU.
- the dynamic loudness parameter may be an instantaneous loudness level or a short-term loudness level.
- L_Rel may be a value calculated based on an average of short-term loudness levels having a value greater than at least an effective loudness level among short-term loudness levels for each section of the input audio signal.
- L_Rel may be a value calculated based on an average of instantaneous loudness levels having a value greater than at least an effective loudness level among instantaneous loudness levels for each section of the input audio signal.
- the effective loudness level may be a value set based on a loudness level that is difficult to perceive audibly.
- the effective loudness level may be a value set based on the loudness level of an audio signal in which almost no sound exists.
- the effective loudness level may be a value set based on -70LKFS.
- L_Noise may be a value calculated based on at least one of a loudness level of a section in which almost no sound exists in the input audio signal or a loudness level of a section corresponding to a very low level of background noise in the input audio signal.
- each of L_T, L_I, L_S, L_Rel, L_Noise, and P may be obtained through the above-described loudness metadata.
- the time interval may include a frame.
- the short-term loudness level L_S may be replaced with a representative loudness value representing a specific time period.
- the short-term loudness level L_S may be replaced with an instantaneous loudness level of the input audio signal.
- a method of obtaining the loudness gain G_loud for each time interval based on L_T, L_I, L_S, L_Rel, L_Noise and P by the audio signal processing apparatus is expressed as Equation 16 below.
- r_1 and r_2 may represent a loudness compression ratio for controlling a dynamic range of an output audio signal to an input audio signal.
- r1 may be a loudness compression ratio used to obtain a loudness gain of a corresponding section in a section in which the input loudness level of the input audio signal is at least less than the accumulated loudness level.
- r_1 may be set based on at least one of LRA, PLR, or instantaneous loudness maximum indicating the loudness range of the input audio signal.
- r_1 may be an arbitrary constant between 0 and 1.
- r_2 may be a compression ratio used to obtain a loudness gain of a corresponding section in a section in which the input loudness level of the input audio signal is less than the accumulated loudness level and the input loudness level is less than L_Rel.
- r_2 may be set to a value smaller than at least r_1 in order to minimize the boost of the noise component.
- the audio signal processing apparatus may apply G_loud[n] to the input audio signal by smoothing it.
- clippingThreshold may indicate the maximum allowable sample peak value.
- the clippingThreshold may be a value set based on at least one of the aforementioned QSHI, a maximum true peak, and a maximum sample peak value.
- clippingThreshold may be the same value as QSHI.
- clippingThreshold may be a value arbitrarily set in an audio signal processing device or an audio providing system.
- FIG. 18 is a diagram illustrating a method of measuring a loudness of an input content by an audio signal processing apparatus according to an embodiment of the present invention.
- the audio signal processing apparatus may measure the loudness of the input content based on the above-described measurement window.
- the audio signal processing apparatus may obtain a loudness measurement value for each measurement window of the input content.
- the audio signal processing apparatus may acquire loudness information based on a loudness measurement value for each measurement window.
- the audio signal processing apparatus may obtain a measurement value for each measurement window based on the length of the measurement window 801.
- the length of the measurement window 801 may be a default value previously stored in the audio signal processing apparatus.
- the length of the measurement window 801 may vary according to input content.
- the audio signal processing apparatus may obtain the length of the measurement window corresponding to the input content based on the additional information of the input content.
- the length of the measurement window corresponding to the input content may be 400 ms.
- the audio signal processing apparatus may obtain a loudness measurement value corresponding to a specific 400 ms length of the entire input content section.
- the length of the measurement window may be obtained based on additional information.
- the length of the measurement window may be obtained based on the loudness range of the input content.
- the loudness range may be a value representing the loudness level distribution for the entire section of the content.
- the loudness range can be expressed using a unit representing a relative measure, such as LU.
- the audio signal processing apparatus may obtain information on the loudness range of the input content from the additional information.
- the audio signal processing apparatus may determine the length of the measurement window based on the loudness range of the input content.
- the length of the measurement window of the input content may be set to a value shorter than the length of the measurement window of other content having a width of the loudness range that is wider than that of the input content. For example, when the loudness range of the first input content is larger than the loudness range of the second input content, the length of the measurement window for the first input content may be longer than the length of the measurement window for the second input content.
- the audio signal processing apparatus may obtain a loudness measurement value for each measurement window according to a measurement period in which a measurement value for the input content is obtained.
- the measurement period may represent a temporal distance at which the measurement window is moved.
- the first measurement value 802 may be a loudness measurement value corresponding to a section (300 ms to 700 ms) based on a time point at which the input content starts to be played.
- the second measurement value 803 may be a loudness measurement value corresponding to a section (400 ms to 800 ms) based on a time point at which the input content starts to be played.
- the audio signal processing apparatus may acquire the loudness measurement value in the nearest measurement period coming after the current point of time. In this case, the audio signal processing apparatus may obtain a loudness measurement value corresponding to a section shorter than the length of the measurement window.
- the audio signal processing apparatus may determine a measurement period based on the additional information. For example, the measurement period may be determined based on the length of the input content. For example, when the length of the second input content is longer than the length of the first input content, the measurement period of the first input content may be shorter than the measurement period of the second input content.
- the audio signal processing apparatus may obtain a loudness measurement value for each measurement window based on the determined measurement period. In the embodiment of FIG. 18, the measurement period may be 100 ms.
- the audio signal processing apparatus may obtain a loudness measurement value for each measurement window by moving the measurement window every 100 ms. Also, the audio signal processing apparatus may obtain the above-described loudness information based on the plurality of loudness measurements measured through FIG. 18.
- the audio signal processing apparatus may receive an input audio signal (step S1901).
- the input audio signal may include the input content described with reference to FIG. 2.
- the audio signal processing apparatus may receive loudness metadata corresponding to the input audio signal (step S1902).
- the audio signal processing apparatus may parse the loudness metadata to obtain loudness information of the input audio signal (step S1903).
- the loudness information includes an accumulated loudness level of an input audio signal, at least one short-term loudness level, a quality secure histogram index (QSHI), and a dynamic range of the input audio signal. ), a loudness energy for each frequency, a loudness ratio for each frequency, and information representing each of a peak envelope may be included.
- QSHI quality secure histogram index
- Embodiments described with reference to FIGS. 2 to 18 described above may be applied to a method for the audio signal processing apparatus to obtain each information included in the loudness information.
- QSHI can represent a threshold loudness level at which cognitive sound quality is not impaired.
- the QSHI may be obtained according to the above-described step S303 of FIG. 3, the QSHI extracting unit 404 of FIG. 4 and the embodiments described through FIG. 10.
- QSHI may be a loudness parameter calculated based on a loudness histogram of an input audio signal.
- the loudness histogram may be a histogram of the magnitude of the short-term loudness levels of the input audio signal by time.
- the loudness histogram may be a peak value for each section of the input audio signal or a size histogram of a root-mean-square (RMS).
- RMS root-mean-square
- QSHI may be greater than the accumulated loudness level of the input audio signal.
- QSHI may be a parameter calculated based on a predicted loudness histogram predicted from a loudness histogram of an input audio signal.
- the predicted loudness histogram may be a histogram generated based on a predicted loudness parameter when the input audio signal is output according to the target loudness level.
- QSHI may be determined based on the number of times the limiter is driven in the audio signal processing apparatus.
- the audio signal processing apparatus may apply and output a loudness limiter that limits the loudness level of the output audio signal to the output audio signal.
- the output audio signal may be a signal in which the output loudness level of the input audio signal is adjusted according to the loudness gain.
- QSHI may be a parameter set so that the short-term loudness levels of the entire section of the output audio signal are less than or equal to a preset level.
- the audio signal processing apparatus may obtain a loudness gain of the input audio signal based on the loudness information and the target loudness level (S1904).
- the loudness gain of the input audio signal may be a fixed gain having a fixed value over the entire section of the input audio signal.
- the loudness gain of the input audio signal may be a gain that changes with time during the time the input audio signal is reproduced.
- the audio signal processing apparatus may receive an accumulated loudness of an input audio signal. Also, the audio signal processing apparatus may determine a loudness gain based on the accumulated loudness, QSHI, and the target loudness level of the input audio signal.
- the audio signal processing apparatus may compare the target loudness level of the input audio signal and QSHI. Also, the audio signal processing apparatus may determine the loudness gain based on the comparison result. The audio signal processing apparatus may determine the loudness gain based on a smaller value among the target loudness level and QSHI of the input audio signal. For this, specific embodiments described with reference to FIG. 10 may be applied.
- the audio signal processing apparatus may obtain a loudness gain of the input audio signal based on the corrected QSHI from the QSHI of the input audio signal. For example, the audio signal processing apparatus may perform post processing on an input audio signal. In this case, the audio signal processing apparatus may receive post-processing information indicating characteristics of post-processing for the input audio signal. Also, the audio signal processing apparatus may correct the previously acquired QSHI based on post-processing information. According to an embodiment, the audio signal processing apparatus may correct a previously acquired QSHI based on post-processing information and a previously stored function. The audio signal processing apparatus may correct the previously acquired QSHI based on post-processing information and a previously stored look-up table.
- the pre-stored lookup table may be a table including information on QSHI correction according to characteristics of post-processing.
- the information on the QSHI correction may include information indicating a QSHI correction value according to the characteristics of post-processing.
- the audio signal processing apparatus may obtain a QSHI correction value corresponding to post-processing of the input audio signal based on a previously stored lookup table.
- the audio signal processing apparatus may correct the QSHI by adding a QSHI correction value to the obtained QSHI.
- the audio signal processing apparatus may determine the loudness gain of the input audio signal based on the QSHI corrected by the above-described method.
- the audio signal processing apparatus may determine a loudness gain of an input audio signal based on a loudness energy for each frequency and post-processing information indicating a post-processing characteristic of the input audio signal.
- the audio signal processing apparatus may determine a loudness gain of an input audio signal based on a loudness level for each band that changes through post-processing.
- the audio signal processing apparatus may acquire a loudness level for each band that changes through post-processing based on a loudness energy for each frequency and post-processing information indicating a post-processing characteristic for an input audio signal.
- the audio signal processing apparatus may acquire a loudness level for each band that changes through post-processing based on a loudness ratio for each frequency and post-processing information of the input audio signal.
- the loudness level for each band that is changed by post-processing may be calculated based on the dot product of the loudness ratio for each frequency of the input audio signal.
- the loudness level for each band that is changed by post-processing may also be a parameter obtained based on the cognitive loudness characteristic.
- the audio signal processing apparatus may acquire a loudness level for each band that changes by post-processing an input audio signal based on a loudness filter based on an auditory measure.
- the loudness filter may be at least one of an inverse filter of equal-loudness contours or a K-weighting filter approximating the same. If the loudness level of a specific frame among a plurality of frames included in the input audio signal is less than or equal to the relative threshold value, the audio signal processing apparatus may not calculate the loudness level for each band that changes by post-processing corresponding to the frame. have.
- the loudness level for each band that changes by post-processing of the input audio signal may be a parameter set based on at least one of a genre of an input audio signal and a user input.
- the loudness ratio for each frequency of the input audio signal and/or the loudness energy for each frequency may be a value calculated based on a loudness measurement value for the input audio signal.
- the loudness ratio for each frequency may be a parameter obtained based on a cognitive loudness characteristic.
- the audio signal processing apparatus may obtain a loudness ratio for each frequency of an input audio signal based on a loudness filter based on an auditory measure.
- the loudness filter may be at least one of an inverse filter of equal-loudness contours or a K-weighting filter approximating the same.
- the audio signal processing apparatus may not calculate a loudness ratio for each frequency corresponding to the frame.
- the loudness ratio for each frequency may be obtained according to the embodiment described with reference to the loudness analyzer 402 for each frequency of FIG. 4.
- the loudness ratio for each frequency of the input audio signal may be a parameter set based on at least one of a genre of the input audio signal and a user input.
- the audio signal processing apparatus may obtain post-processing information on the input audio signal based on the user input.
- the user input may be an input related to an input audio signal.
- the user may be a user who uses the audio signal processing device.
- the post-processing information includes at least one of information representing each of an output characteristic of an audio signal processing device, a genre of an input audio signal, a post-processing mode according to a user input, an equalization type, reverberation, and room compensation. Can include.
- Embodiments described through step S303 of FIG. 3 may be applied to a method for the audio signal processing apparatus to determine the loudness gain of the input audio signal based on the loudness level of each band that changes through post-processing.
- the audio signal processing apparatus may determine a loudness gain of an input audio signal based on a predicted loudness change value.
- the loudness change prediction value may be a predicted value for the loudness change of the input audio signal by post-processing.
- the audio signal processing apparatus may obtain a loudness change prediction value based on post-processing information set by a user.
- the audio signal processing apparatus may obtain a loudness change prediction value based on at least one of a characteristic for each frequency of the input audio signal and a loudness level for each band that changes through post-processing.
- the predicted value of the loudness change may be calculated based on the dot product of the loudness ratio for each frequency of the input audio signal.
- the loudness change prediction value may be a parameter obtained based on the cognitive loudness characteristic.
- the audio signal processing apparatus may obtain a predicted value of a change in loudness of an input audio signal based on a loudness filter based on an auditory measure.
- the loudness filter may be at least one of an inverse filter of equal-loudness contours or a K-weighting filter approximating the same. If the loudness level of a specific frame among a plurality of frames included in the input audio signal is less than or equal to a relative threshold value, the audio signal processing apparatus may not calculate a loudness change prediction value corresponding to the corresponding frame.
- Embodiments described with reference to the frequency-specific loudness analyzer 402 and the post-processed loudness predictor 403 of FIG. 4 may be applied to a method for the audio signal processing apparatus to obtain the predicted value of the loudness change.
- the audio signal processing apparatus may determine a loudness gain of an input audio signal based on loudness information for each frame of the input audio signal.
- the audio signal processing apparatus may obtain a loudness gain for each frame of the input audio signal based on the loudness information for each frame of the input audio signal.
- the loudness gain of the input audio signal may be a gain that changes with time during the time the input audio signal is reproduced.
- the audio signal processing apparatus may receive loudness metadata including loudness information for each frame of an input audio signal.
- the audio signal processing apparatus may parse the loudness metadata to obtain loudness information for each frame of the input audio signal.
- the loudness information for each frame may include a dynamic loudness parameter.
- the loudness information for each frame may include information indicating a peak value for each frame. The peak value for each frame may be obtained based on a maximum absolute value of an audio signal included in a frame having a preset length.
- the audio signal processing apparatus may determine a loudness gain for each frame of the input audio signal based on a peak value for each frame of the input audio signal.
- the audio signal processing apparatus may determine a loudness gain for each frame of the input audio signal based on the target loudness level and a peak value for each frame of the input audio signal. For example, the audio signal processing apparatus may set the loudness gain for each frame so as not to exceed the peak value for each frame based on the target loudness level. Also, the audio signal processing apparatus may adjust the output loudness level of the corresponding frame of the input audio signal based on the loudness gain for each frame.
- the embodiments described with reference to FIG. 17 may be applied to a method for the audio signal processing apparatus to determine the loudness gain based on the loudness information for each frame.
- the audio signal processing apparatus may adjust the output loudness level of the input audio signal based on the loudness gain (S1905).
- the audio signal processing apparatus may generate an output audio signal by adjusting an output loudness level of an input audio signal.
- the audio signal processing apparatus may use the determined loudness gain.
- the audio signal processing apparatus may apply and output a loudness limiter to the generated output audio signal.
- the audio signal processing apparatus may adjust the output loudness level of the input audio signal based on the section loudness gain for some sections of the entire section of the input audio signal.
- the audio signal processing apparatus may acquire a loudness gain corresponding to a corresponding section based on a loudness parameter corresponding to a specific section of the input audio signal.
- the loudness parameter corresponding to a specific section of the input audio signal may include at least one representative value for the corresponding section.
- the representative value may include at least one of a maximum value of an absolute value of a loudness level of an input audio signal corresponding to a corresponding section, and a short section loudness level.
- the audio signal processing apparatus may determine a loudness gain for each time section of the input audio signal based on a target loudness level, an accumulated loudness level, and an input loudness level.
- the input loudness level may be a loudness level representing a specific section.
- the input loudness level may be a short-term loudness level.
- the audio signal processing apparatus may compare at least two or more of a target loudness level, an accumulated loudness level, an input loudness level, a relative threshold, a noise floor level, and a peak value. Also, the audio signal processing apparatus may determine a loudness gain for each time section of the input audio signal based on the comparison result.
- the audio signal processing apparatus may compare the target loudness level and the accumulated loudness level.
- the audio signal processing apparatus may compare the input loudness level and the accumulated loudness level. When the target loudness level is less than the cumulative loudness level and the input loudness level is greater than the cumulative loudness level, the audio signal processing apparatus may apply the loudness gain for each first section to the input audio signal of the corresponding section.
- the audio signal processing device inputs the loudness gain for each second section. Applicable to audio signals.
- the audio signal processing device is The loudness gain for each third section can be applied to the input audio signal of the corresponding section.
- the audio signal processing device may be applied to the input audio signal of the corresponding section.
- the loudness gain for each fourth section may be a loudness gain of a frame preceding the corresponding frame.
- the target loudness level is greater than the cumulative loudness level
- the input loudness level corresponding to the N-th frame is less than the cumulative loudness level
- the input loudness level corresponding to the N-th frame is less than the relative threshold
- N- When the input loudness level corresponding to the second frame is less than the noise floor level, the audio signal processing apparatus may use the loudness gain corresponding to the N-1-th frame as the loudness gain corresponding to the N-th frame.
- the loudness gain for each fourth section may represent a fixed gain applied to the entire input audio signal.
- the loudness gain for each first section, the loudness gain for each second section, and the loudness gain for each third section may be gains corrected in different ways based on the loudness gain for each fourth section.
- the loudness gain for each first section, the loudness gain for each second section, and the loudness gain for each third section may be gains having different values.
- the representative loudness value of the N-th section of the input audio signal may be a representative value corresponding to a section adjacent to the N-th section of the input audio signal.
- the representative loudness value of the N-th specific section of the input audio signal may be a representative value corresponding to the N+L-th or N-L-th section.
- L may be an index value corresponding to an interval smaller than the time interval for obtaining the representative value.
- the time interval for obtaining the representative value may be 3 seconds.
- the audio signal processing apparatus may obtain a representative value of a specific section of the input audio signal based on the time-delayed input audio signal. In this case, the audio signal processing apparatus may obtain at least one loudness measurement value used to obtain a representative value by delaying the input audio signal based on a preset delay time.
- the audio signal processing apparatus may obtain a loudness fixed gain applied to the entire input audio signal.
- the audio signal processing apparatus may correct the loudness fixed gain based on the loudness parameter corresponding to the specific section of the input audio signal.
- the audio signal processing apparatus may adjust the output loudness level of the input audio signal of the corresponding section based on the corrected gain.
- the embodiments described with reference to FIG. 17 may be applied to a method for the input audio signal processing apparatus to adjust the output loudness level of the input audio signal based on the section loudness gain for a partial section of the entire section of the input audio signal.
- the audio signal processing apparatus 2000 may include a reception unit 2100, a processor 2200, and an output unit 2300. However, not all of the components shown in FIG. 10 are essential components of the audio signal processing apparatus.
- the audio signal processing apparatus 2000 may additionally include components not shown in FIG. 20.
- the audio signal processing apparatus according to an embodiment may further include a storage unit (not shown).
- at least some of the components of the audio signal processing apparatus 2000 illustrated in FIG. 20 may be omitted.
- the audio signal processing apparatus according to an embodiment may not include at least one of the receiving unit 2100 and the output unit 2300.
- the receiving unit 2100 may receive input content input to the audio signal processing apparatus 2000.
- the receiver 2100 may receive input content for which the output loudness level is adjusted by the processor 2200.
- the input content may include an audio signal.
- the audio signal may include at least one of an ambisonic signal, an object signal, or a channel signal.
- the audio signal may be one object signal or a mono signal.
- the audio signal may be a multi-object or multi-channel signal.
- the receiving unit 2100 may include an input terminal for receiving input content transmitted by wire.
- the receiving unit 2100 may include a wireless receiving module for receiving input content wirelessly transmitted.
- the audio signal processing apparatus 2000 may include a separate decoder.
- the receiving unit 2100 may receive an encoded bitstream of the input content.
- the encoded bitstream may be decoded as input content through a decoder.
- the receiving unit 2100 may receive additional information related to the input content.
- the receiving unit 2100 may include a transmitting/receiving means for transmitting/receiving data with external devices through a network.
- the data may include at least one of a bitstream of the input content or additional information.
- the receiving unit 2100 may include a wired transmission/reception terminal for receiving data transmitted by wire.
- the receiving unit 2100 may include a wireless transmission/reception module for receiving wirelessly transmitted data.
- the receiving unit 2100 may receive data transmitted wirelessly using a Bluetooth or Wi-Fi communication method.
- the reception unit 2100 may receive data transmitted according to a mobile communication standard such as long term evolution (LTE) and LTE-advanced, and the present disclosure is not limited thereto.
- the receiver 2100 may receive various types of data transmitted according to various wired/wireless communication standards.
- the processor 2200 may control the overall operation of the audio signal processing apparatus 2000.
- the processor 2200 may control each component of the audio signal processing apparatus 2000.
- the processor 2200 may perform calculations and processing of various data and signals.
- the processor 2200 may be implemented as hardware in the form of a semiconductor chip or an electronic circuit, or may be implemented as software that controls hardware.
- the processor 2200 may be implemented in a form in which hardware and the software are combined.
- the processor 2200 may control operations of the receiving unit 2100 and the output unit 2300 by executing at least one program.
- the processor 2200 may execute at least one program to perform the operations described with reference to FIGS. 1 to 19.
- the processor 2200 may adjust the output loudness level of the input content.
- the processor 2200 may adjust the output loudness level of the input content based on the loudness gain.
- the loudness information may be a loudness characteristic of the input content analyzed from the input content. In this case, the loudness gain may be obtained based on the loudness information.
- the processor 2200 may output output content whose output loudness level is adjusted from the input content. In this case, the processor 2200 may output the output content through the output unit 2300 to be described later.
- the output unit 2300 may output output content.
- the output unit 2300 may output output content whose output loudness level is adjusted from the input content by the processor 2200.
- the output content may include an output audio signal.
- the output audio signal may include at least one of an ambisonic signal, an object signal, or a channel signal.
- the output audio signal may be a multi-object or multi-channel signal.
- the output audio signal may include a two-channel output audio signal respectively corresponding to the amount of the listener.
- the output audio signal may include a binaural two-channel output audio signal.
- the output unit 2300 may output an audio headphone signal whose output loudness level is adjusted by the processor 2200.
- the output unit 2300 may include an output means for outputting output content.
- the output unit 2300 may include an output terminal that outputs an output audio signal to the outside.
- the audio signal processing apparatus 2000 may output an output audio signal to an external device connected to an output terminal.
- the output unit 2300 may include a wireless audio transmission module that outputs an output audio signal to the outside.
- the output unit 2300 may output an output audio signal to an external device using a wireless communication method such as Bluetooth or Wi-Fi.
- the output unit 2300 may include a speaker.
- the audio signal processing apparatus 2000 may output an output audio signal through a speaker.
- the output unit 2300 may additionally include a converter (eg, digital-to-analog converter, DAC) for converting a digital audio signal into an analog audio signal.
- the output unit 2300 may include display means for outputting a video signal included in the output content.
- the audio signal processing apparatus 2000 may further include a storage unit (not shown).
- the storage unit may store at least one of data or programs for processing and controlling the processor 2200.
- the storage unit may store loudness information.
- the storage unit may store loudness information extracted from the received loudness metadata.
- the storage unit may store the received target loudness level.
- the storage unit may store the loudness measurement value obtained through the processor 2200.
- the storage unit may store a result calculated by the processor 2200.
- the storage unit may store the loudness gain determined based on the loudness information.
- the storage unit may store data input to the audio signal processing apparatus 2000 or output from the audio signal processing apparatus 2000.
- the storage unit may include at least one memory.
- the memory is a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory, etc.), RAM ( RAM, Random Access Memory) SRAM (Static Random Access Memory), ROM (ROM, Read-Only Memory), EEPROM (Electrically Erasable Programmable Read-Only Memory), PROM (Programmable Read-Only Memory), magnetic memory, magnetic disk, It may include at least one type of storage medium among optical disks.
- the peak value for each time section may be a value obtained based on a loudness measurement value measured from an input audio signal.
- values indicated by solid lines represent loudness measurements of an input audio signal over time.
- the values indicated by the first broken line (-*-) represent representative values of loudness measurements for each time period of the input audio signal.
- the audio signal processing apparatus may obtain a peak value for each time section based on the representative value for each time section. At this time, since the representative values are calculated based on a value input to the input buffer of the loudness meter, an error may occur based on the actual input audio signal.
- values indicated by the second broken line (- ⁇ -) may be representative values for each time section obtained through a time delay of about 15 ms.
- the audio signal processing apparatus may obtain a representative value for each time section by applying a time delay to the input audio signal. Through this, the audio signal processing apparatus may correct the obtained peak value to better respond to the loudness change of the input audio signal.
- the delay duration used for the time delay may be set based on the length of the measurement frame of the input audio signal.
- the method for correcting the time delay of the peak value described with reference to FIG. 21 may also be applied to other dynamic loudness parameters described with reference to FIG. 15. For example, the audio signal processing apparatus may acquire a short-term loudness level by using a time delay.
- the audio signal processing apparatus may adjust the output loudness level of the input audio signal so that the loudness gain gradually changes through smoothing.
- smoothing is performed based on the loudness measurement value of the input audio signal (Causal Processing)
- the audio signal processing apparatus may be difficult to properly provide the necessary parameters in the corresponding frame compared to the actual loudness change.
- the audio signal processing apparatus may perform a smoothing operation on the loudness gain of the input audio signal by using the loudness parameter obtained through the time delay.
- the loudness parameter obtained through the time delay may be a parameter obtained by the method described above with reference to FIG. 21.
- values indicated by solid lines may indicate a loudness gain for each frame of an input audio signal.
- values indicated by solid lines may indicate loudness gains to which smoothing is not applied.
- values indicated by the third and fourth broken lines (-) and the fourth broken lines (- ⁇ -) may be a loudness gain to which smoothing is applied from a loudness gain for each frame.
- each of the frame-specific loudness gains indicated by the third broken line (--) may represent a first frame-specific loudness gain (smoothing from shifted input) obtained based on measurements to which a time delay is applied.
- each of the frame-specific loudness gains indicated by the fourth broken line (- ⁇ -) may represent a second frame-specific loudness gain (smoothing from org. input) obtained based on measurements to which a time delay is not applied.
- the loudness gain for each second frame may be more similar to the loudness level of the input audio signal compared to the loudness gain for each first frame.
- the loudness gain for each frame to which smoothing of the input audio signal is not applied is rapidly decreased.
- the loudness gain for each first frame is gradually decreased compared to the loudness gain for each second frame.
- the loudness gain for each second frame is sharply reduced compared to the loudness gain for each first frame.
- the loudness gain for each first frame starts to decrease by a certain frame earlier than the loudness gain for each second frame. Accordingly, the audio signal processing apparatus may prevent a listener from experiencing a sudden change in loudness by using the loudness gain for each first frame obtained based on measurements to which the time delay is applied.
- the audio signal processing apparatus may apply a loudness gain determined for each section to the input audio signal in order to process the characteristics of the input audio signal according to the target loudness level.
- an excessive loudness gain value may be applied in a specific section.
- clipping that is greater than 0dBFS may occur, or a result that is greater than a predefined threshold value may appear.
- the audio signal processing apparatus may apply a limiter to the output audio signal. Through this, the audio signal processing apparatus may apply the limiter to a section in which the loudness level of the output audio signal, for which the output loudness level is adjusted from the input audio signal, is greater than the preset loudness level.
- a method in which the output audio signal is processed by the limiter may be processed in real time or in a time order (Causal Processing) according to a limiter parameter related to the limiter.
- the audio signal processing apparatus may cause unintended tone distortion.
- the audio signal processing apparatus may adjust the output loudness level of the input audio signal using the loudness gain determined for each section.
- the loudness gain determined for each section may be a gain in consideration of a peak value for each section.
- the audio signal processing apparatus may predict occurrence of a section having a level exceeding a target loudness level or clipping occurring in a corresponding section based on a peak value for each section.
- the audio signal processing apparatus may determine a loudness gain for each section of the input audio signal based on the prediction. That is, the audio signal processing apparatus may reversely correct the loudness gain based on the prediction. Through this, the audio signal processing apparatus may prevent tone distortion of the output audio signal caused by the limiter.
- Computer-readable media may be any available media that can be accessed by a computer, and may include both volatile and nonvolatile media, removable and non-removable media. Further, the computer-readable medium may include a computer storage medium. Computer storage media may include both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data.
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Signal Processing (AREA)
- Tone Control, Compression And Expansion, Limiting Amplitude (AREA)
- Circuit For Audible Band Transducer (AREA)
- Reverberation, Karaoke And Other Acoustics (AREA)
Abstract
오디오 신호 처리 장치는 입력 오디오 신호를 수신하는 수신부, 상기 입력 오디오 신호에 대응하는 라우드니스(loudness) 메타데이터(metadata)를 생성하는 프로세서 및 상기 프로세서에서 생성된 라우드니스 메타데이터를 전송하는 출력부를 포함한다. 상기 프로세서는, 상기 입력 컨텐츠로부터 분석된 라우드니스 정보를 획득하고, 상기 입력 오디오 신호의 라우드니스를 측정하여 상기 입력 오디오 신호의 라우드니스 정보를 획득하고, 상기 라우드니스 정보를 변환하여 상기 라우드니스 메타데이터를 생성하고, 상기 출력부를 통해, 상기 생성된 라우드니스 메타데이터를 상기 입력 오디오 신호를 출력하는 출력 장치로 전송한다.
Description
본 발명은 오디오 신호를 효과적으로 재생하기 위한 오디오 신호 처리 방법 및 장치에 관한 것으로, 더욱 상세하게는 컨텐츠의 오디오 신호가 출력되는 라우드니스 레벨을 조정하여 사용자에게 보다 몰입감이 높은 오디오 신호를 제공하기 위한 오디오 신호 처리 방법 및 장치에 관한 것이다.
사용자에게 오디오를 제공하는 방법이 아날로그 방식에서 디지털화되면서, 더 넓은 음량 영역에 대한 표현이 가능하게 되었다. 또한, 오디오 신호의 음량은 오디오 신호에 대응하는 컨텐츠에 따라 다양화되고 있는 추세이다. 오디오 컨텐츠 제작 과정에서, 오디오 컨텐츠 별로 의도하는 라우드니스가 서로 다르게 설정될 수 있기 때문이다. 이에 따라, 국제 전기 통신 연합(International Telecommunication Union, ITU), 유럽 방송 연합(European Broadcasting Union, EBU)과 같은 국제 표준 단체에서는 오디오의 라우드니스에 대한 표준을 발행하였다. 그러나 국가 별로 라우드니스를 측정하는 방법과 기준이 상이하기 때문에, 국제 표준 단체에 의해 발행된 표준을 적용하기 어려운 문제점이 있다.
컨텐츠의 제작자들은 상대적으로 라우드니스가 크게 믹싱된 컨텐츠를 제작하여 사용자에게 제공하려 한다. 오디오 신호의 음향 크기가 증가하는 경우 해당 오디오 신호의 음질이 향상된 것으로 인지하는 심리적 음향 특성 때문이다. 이에 따라, 라우드니스 전쟁(Loudness War)이라 일컫는 경쟁 구도가 형성되고 있다. 이로 인해, 컨텐츠 내부적으로 또는 복수의 컨텐츠 간의 라우드니스 차이가 발생하게 되고, 사용자는 해당 컨텐츠들이 재생되는 기기의 볼륨을 반복적으로 조정해야 하는 불편함을 겪을 수 있다. 따라서, 컨텐츠 재생 기기를 사용하는 사용자의 편의를 위해 오디오 컨텐츠의 라우드니스를 정규화하는 기술이 요구된다.
본 발명의 일 실시예는 오디오 신호를 포함하는 컨텐츠를 재생하는 오디오 신호 처리 방법에 있어서, 해당 컨텐츠의 출력 라우드니스 레벨을 효율적으로 조정하는 것을 목적으로 한다.
본 발명의 일 실시예에 따르면, 오디오 신호 처리 장치는 입력 오디오 신호를 수신하는 수신부, 상기 입력 오디오 신호에 대응하는 라우드니스(loudness) 메타데이터(metadata)를 생성하는 프로세서, 및 상기 프로세서에서 생성된 라우드니스 메타데이터를 전송하는 출력부를 포함한다. 상기 프로세서는, 상기 입력 오디오 신호의 라우드니스를 측정하여 상기 입력 오디오 신호의 라우드니스 정보를 획득하고, 상기 라우드니스 정보를 변환하여 상기 라우드니스 메타데이터를 생성하고, 상기 출력부를 통해, 상기 생성된 라우드니스 메타데이터를 상기 입력 오디오 신호를 출력하는 출력 장치로 전송할 수 있다. 상기 라우드니스 정보는 상기 입력 오디오 신호의 품질 보장 히스토그램 지표(Quality Secure Histogram Index, QSHI)를 나타내는 정보를 포함하고, 상기 QSHI는 인지적 음질 손상이 발생하지 않는 문턱 라우드니스 레벨을 나타낸다.
상기 프로세서는, 상기 입력 오디오 신호의 라우드니스 히스토그램에 기초하여 상기 QSHI를 획득할 수 있다.
상기 프로세서는, 상기 입력 오디오 신호의 적어도 하나의 단구간 라우드니스 레벨의 분포에 기초하여 상기 라우드니스 히스토그램을 획득하고, 상기 라우드니스 히스토그램에 기초하여 상기 QSHI를 획득할 수 있다. 상기 단구간 라우드니스 레벨은 상기 입력 오디오 신호의 전체 구간 보다 짧은 구간에서 측정될 수 있다.
상기 라우드니스 히스토그램은 상기 입력 오디오 신호의 구간 별 피크 값 또는 RMS(root-mean-square)에 관한 크기 히스토그램일 수 있다.
상기 프로세서는, 상기 입력 오디오 신호의 라우드니스 히스토그램을 기초로 상기 입력 오디오 신호가 타겟 라우드니스 레벨에 따라 출력되는 경우의 라우드니스 파라미터를 예측하고, 상기 예측된 라우드니스 파라미터에 기초하여 상기 입력 오디오 신호의 예측 라우드니스 히스토그램을 획득하고, 상기 예측된 라우드니스 예측 히스토그램에 기초하여 상기 QSHI를 획득할 수 있다.
상기 라우드니스 정보는 상기 입력 오디오 신호의 누적 라우드니스 레벨을 포함하고, 상기 QSHI는 상기 입력 오디오 신호의 누적 라우드니스 레벨 보다 크고, 상기 누적 라우드니스 레벨은 오디오 신호 처리 장치에서 설정된 셋업 시점으로부터 획득된 라우드니스 측정치에 기초하여 산출된 라우드니스 레벨일 수 있다.
상기 QSHI는 상기 출력 장치에서 상기 입력 오디오 신호에 대한 후처리(post processing) 여부에 따라 보정되는 파라미터일 수 있다.
상기 프로세서는, 상기 출력 장치에서 출력되는 상기 입력 오디오 신호의 전체 구간의 단구간 라우드니스 레벨들이 기 설정된 레벨 이하가 되도록 QSHI를 설정할 수 있다.
본 발명의 다른 측면에 따르면, 오디오 신호 처리 장치는 입력 오디오 신호의 출력 라우드니스(loudness) 레벨을 조정하는 프로세서를 포함한다. 상기 프로세서는, 상기 입력 오디오 신호에 대응하는 라우드니스 메타데이터(metadata)를 수신하고, 상기 라우드니스 메타데이터를 파싱(parsing)하여 상기 입력 오디오 신호의 라우드니스 정보를 획득하고, 상기 라우드니스 정보 및 타겟 라우드니스 레벨에 기초하여 상기 입력 오디오 신호의 라우드니스 게인을 결정하고, 상기 입력 오디오 신호의 출력 라우드니스 레벨을 상기 라우드니스 게인에 기초하여 조정할 수 있다. 상기 라우드니스 정보는 상기 입력 오디오 신호의 품질 보장 히스토그램 지표(Quality Secure Histogram Index, QSHI)를 나타내는 정보를 포함하고, 상기 QSHI는 인지적 음질 손상이 발생하지 않는 문턱 라우드니스 레벨을 나타낼 수 있다.
상기 프로세서는, 상기 입력 오디오 신호의 타겟 라우드니스 레벨과 상기 QSHI를 비교하고, 상기 비교 결과에 기초하여 상기 라우드니스 게인을 결정할 수 있다.
상기 프로세서는, 상기 입력 오디오 신호의 타겟 라우드니스 레벨과 상기 QSHI 중에서 더 작은 값에 기초하여 상기 라우드니스 게인을 결정할 수 있다.
상기 프로세서는, 상기 입력 오디오 신호의 누적 라우드니스 레벨을 수신하고, 상기 입력 오디오 신호의 누적 라우드니스 레벨, 상기 QSHI 및 상기 타겟 라우드니스 레벨에 기초하여 상기 라우드니스 게인을 결정할 수 있다. 상기 누적 라우드니스 레벨은 상기 입력 오디오 신호의 라우드니스를 측정하는 장치에서 설정된 셋업 시점으로부터 획득된 라우드니스 측정치에 기초하여 산출된 라우드니스 레벨일 수 있다.
상기 QSHI는 상기 입력 오디오 신호의 라우드니스 히스토그램에 기초하여 산출된 라우드니스 파라미터일 수 있다.
상기 라우드니스 히스토그램은, 상기 입력 오디오 신호의 시간 별 단구간 라우드니스 레벨들의 크기 히스토그램이고, 상기 단구간 라우드니스 레벨은 상기 입력 오디오 신호의 전체 구간 보다 짧은 구간에서 측정될 수 있다.
상기 라우드니스 히스토그램은 상기 입력 오디오 신호의 구간 별 피크 값 또는 RMS(root-mean-square)에 관한 크기 히스토그램일 수 있다.
상기 QSHI는 상기 입력 오디오 신호의 라우드니스 히스토그램으로부터 예측된 예측 라우드니스 히스토그램에 기초하여 산출된 파라미터이고, 상기 예측 라우드니스 히스토그램은 상기 입력 오디오 신호가 상기 타겟 라우드니스 레벨에 따라 출력되는 경우 예측되는 라우드니스 파라미터에 기초하여 생성된 히스토그램일 수 있다.
상기 QSHI는 상기 입력 오디오 신호의 누적 라우드니스 레벨 보다 크고, 상기 누적 라우드니스 레벨은 상기 입력 오디오 신호의 라우드니스를 측정하는 장치에서 설정된 셋업 시점으로부터 획득된 라우드니스 측정치에 기초하여 산출된 라우드니스 레벨일 수 있다.
상기 프로세서는, 상기 입력 오디오 신호의 출력 라우드니스 레벨을 상기 라우드니스 게인에 따라 조정하여 출력 오디오 신호를 생성하고, 상기 출력 오디오 신호에 출력 오디오 신호의 라우드니스 레벨을 제한하는 라우드니스 리미터(limiter)를 적용하여 출력할 수 있다.
상기 QSHI는 상기 오디오 신호 처리 장치에서 리미터가 구동되는 횟수에 기초하여 결정된 라우드니스 파라미터일 수 있다.
상기 프로세서는, 상기 입력 오디오 신호에 대한 후처리(post processing)를 수행하고, 상기 입력 오디오 신호에 대한 후처리(post processing)의 특성을 나타내는 후처리 정보를 수신하고, 상기 후처리 정보에 기초하여 상기 획득된 QSHI를 보정하고, 상기 보정된 QSHI에 기초하여 상기 라우드니스 게인을 결정할 수 있다.
상기 프로세서는, 상기 후처리 정보 및 기 저장된 함수에 기초하여 상기 QSHI를 보정할 수 있다.
상기 프로세서는, 상기 후처리 정보 및 기 저장된 룩업 테이블(look-up table)에 기초하여 상기 QSHI를 보정할 수 있다. 상기 기 저장된 룩업 테이블은 후처리의 특성에 따른 QSHI 보정에 관한 정보를 포함할 수 있다.
상기 QSHI 보정에 관한 정보는 후처리의 특성에 따른 QSHI 보정 값을 나타내는 정보를 포함할 수 있다. 상기 프로세서는, 상기 기 저장된 룩업 테이블에 기초하여 상기 입력 오디오 신호에 대한 후처리에 대응하는 QSHI 보정 값을 획득하고, 상기 획득된 QSHI에 상기 QSHI 보정 값을 더해 상기 QSHI를 보정할 수 있다.
상기 라우드니스 게인은 상기 입력 오디오 신호의 전체 구간에서 고정된 값을 가지는 고정 게인일 수 있다.
상기 라우드니스 게인은 상기 입력 오디오 신호가 재생되는 시간 동안 시간에 따라 변화하는 게인일 수 있다.
상기 프로세서는, 상기 입력 오디오 신호의 출력 라우드니스 레벨을 상기 라우드니스 게인에 따라 조정하여 출력 오디오 신호를 생성할 수 있다. 상기 QSHI는 상기 출력 오디오 신호의 전체 구간의 단구간 라우드니스 레벨들이 기 설정된 레벨 이하가 되도록 설정된 파라미터일 수 있다.
본 발명의 일 실시예에 따른 장치 및 방법은 오디오 신호를 포함하는 컨텐츠를 재생하는데 있어서, 오디오 신호의 라우드니스 레벨을 효과적으로 정규화할 수 있다. 또한, 본 발명의 일 실시예에 따른 장치 및 방법은 사용자에게 음질 향상 및 음량 조절에 대한 편의를 제공할 수 있다.
특히, 본 발명의 일 실시예에 따르면, 음질 훼손을 발생시키지 않고 라우드니스 레벨을 제어할 수 있다. 또한 본 발명의 일 실시예에 따른 오디오 신호 처리 장치는 라우드니스 메타데이터를 이용하여 보다 안정적인 출력 라우드니스 레벨을 가지는 출력 컨텐츠를 제공할 수 있다. 또한, 청취자가 실제로 인지하는 라우드니스에 가까운 라우드니스 정규화를 수행할 수 있다.
도 1은 본 발명의 일 실시예에 따라 복수의 컨텐츠가 재생되는 동안 시간에 따라 변화하는 라우드니스 레벨을 나타내는 도면이다.
도 2는 본 발명의 일 실시예에 따라 제1 오디오 신호 처리 장치 및 제2 오디오 신호 처리 장치를 포함하는 시스템을 나타내는 개략도이다.
도 3 은 본 발명의 일 실시예에 따라 입력 오디오 신호의 라우드니스 레벨이 조정되는 방법을 나타내는 흐름도이다.
도 4는 본 발명의 일 실시예에 따라 오디오 신호 처리 장치가 입력 오디오 신호의 라우드니스 정보를 추출하는 방법을 구체적으로 나타내는 블록도이다.
도 5는 ITU-R BS.1770-4에서 정의하는 1차 사전 필터의 주파수 응답을 나타낸다.
도 6은 2차 사전 필터의 주파수 응답을 나타낸다.
도 7은 본 발명의 일 실시예에 따른 서버가 입력 오디오 신호의 라우드니스 메타데이터를 생성하는 방법을 나타내는 도면이다.
도 8은 본 발명의 일 실시예에 따른 클라이언트가 라우드니스 메타데이터를 사용하여 입력 오디오 신호를 출력하는 방법을 나타내는 도면이다.
도 9는 본 발명의 일 실시예에 따라 입력 오디오 신호의 단구간 라우드니스 크기 별 히스토그램을 나타내는 도면이다.
도 10은 본 발명의 일 실시예에 따라 오디오 신호 처리 장치가 타겟 라우드니스 레벨 및 인지적 음질 열화를 고려하여 입력 오디오 신호의 라우드니스 게인을 최적화하는 시스템을 나타내는 블록도이다.
도 11 및 도 12는 시간 별 입력 오디오 신호의 라우드니스 레벨 및 타겟 라우드니스 레벨을 위한 고정 게인을 나타내는 도면이다.
도 13 및 도 14는 본 개시의 일 실시예에 따라 입력 오디오 신호의 출력 라우드니스 레벨이 조정되는 방법을 나타내는 개략도이다.
도 15는 본 발명의 일 실시예에 따른 오디오 신호 처리 장치가 입력 오디오 신호의 라우드니스 정보를 획득하는 방법을 나타내는 도면이다.
도 16은 본 발명의 일 실시예에 따른 오디오 신호 처리 장치가 입력 오디오 신호의 출력 라우드니스 레벨을 조정하는 방법을 나타내는 도면이다.
도 17은 본 발명의 일 실시예에 따른 오디오 신호 처리 장치가 타겟 라우드니스 범위에 기초하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정하는 방법을 나타내는 도면이다.
도 18은 본 발명의 일 실시예에 따라 오디오 신호 처리 장치가 입력 컨텐츠의 라우드니스를 측정하는 방법을 나타내는 도면이다.
도 19는 본 발명의 일 실시예에 따른 오디오 신호 처리 장치의 동작을 나타내는 흐름도이다.
도 20은 본 발명의 일 실시예에 따른 오디오 신호 처리 장치(2000)의 구성을 나타내는 블록도이다.
도 21은 본 발명의 일 실시예에 따른 입력 오디오 신호의 시간 구간 별 피크 값을 나타내는 도면이다.
도 22는 본 발명의 일 실시예에 따른 오디오 신호 처리 장치가 스무딩을 이용하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정하는 방법을 설명하는 도면이다.
아래에서는 첨부한 도면을 참고로 하여 본 발명의 실시 예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
본 개시는 오디오 신호 처리 장치가 입력 컨텐츠의 출력 라우드니스(loudness) 레벨을 조정하는 방법에 관한 것이다. 본 개시에서, 입력 컨텐츠는 오디오 신호를 포함하는 컨텐츠일 수 있다. 본 개시에서, 입력 컨텐츠는 입력 오디오 신호로 지칭될 수도 있다. 또한, 라우드니스는 청각을 통해 인지되는 음향의 크기를 나타낼 수 있다. 라우드니스 레벨은 라우드니스를 나타내는 수치일 수 있다. 예를 들어, 라우드니스 레벨은 LKFS(Loudness K-Weighted relative to Full Scale) 또는 LUFS(Loudness Unit relative to Full Scale)와 같은 단위를 사용하여 표시될 수 있다. 또한, 라우드니스 레벨은 sone 또는 phon과 같은 단위를 사용하여 표시될 수도 있다.
이하에서는, 도 1을 참조하여 오디오 신호의 라우드니스에 대해 설명하도록 한다. 도 1은 본 발명의 일 실시예에 따라 복수의 컨텐츠가 재생되는 동안 시간에 따라 변화하는 라우드니스 레벨을 나타내는 도면이다. 도 1을 참조하면, 시간에 따라 변화하는 평균 라우드니스(average loudness), 단구간 라우드니스(short-term loudness) 및 라우드니스 동적 범위(dynamic range)가 도시된다. 평균 라우드니스 레벨은 하나의 컨텐츠에 대응하는 단일의 라우드니스 값일 수 있다. 평균 라우드니스 레벨은 컨텐츠(content1, content2, content3) 별로 상이할 수 있다. 도 1에서, 실선은 각 컨텐츠(content1, content2, content3) 별 평균 라우드니스 레벨을 나타낸다. 도 1의 평균 라우드니스는 누적 라우드니스(integrated loudness)를 나타낼 수 있다. 전술한, 누적 라우드니스 및 단구간 라우드니스는 ITU-R BS.1770-4, EBU R 128, EBU TECH 3341, EBU TECH 3342와 같은 라우드니스 표준의 정의를 따를 수 있다.
일 실시예에 따라, 단구간 라우드니스 레벨은 입력 오디오 신호의 전체 구간 보다 짧은 구간에서 측정된 라우드니스 레벨일 수 있다. 단구간 라우드니스 레벨은 컨텐츠의 일부분에 대한 라우드니스 측정치일 수 있다. 이때, 컨텐츠의 일부분은 하나의 측정 윈도우에 포함된 부분일 수 있다. 오디오 신호 처리 장치는 하나의 컨텐츠에 대해 복수의 단구간 라우드니스 레벨들을 획득할 수 있다. 또한, 평균 라우드니스 레벨은 복수의 단구간 라우드니스 레벨들의 평균일 수 있다.
도 1에서, 재생 및 전환되는 복수의 컨텐츠들 각각은 서로 다른 라우드니스 특성을 가진다. 예를 들어, 영상 제공 서비스를 제공하는 플랫폼에서 서로 다른 컨텐츠들이 전환되는 경우, 전환되는 컨텐츠들 사이에 광고 컨텐츠가 삽입될 수 있다. 이 경우, 오디오 신호 처리 장치는 일정한 범위 내의 라우드니스 레벨을 유지하기 어려울 수 있다. 또한, 서로 다른 컨텐츠 간에 라우드니스 동적 범위의 차이가 클 수 있다. 이러한 환경에서, 오디오 신호 처리 장치는 청취자가 원하는 범위 내의 라우드니스 레벨을 제공하기 어려울 수 있다.
구체적으로, 컨텐츠가 전환되는 경우, 청취자는 먼저 단구간 라우드니스 레벨이 급격히 변화되는 것을 인지할 수 있다. 이에 따라, 청취자는 오디오 신호를 출력하는 기기의 볼륨을 조절해야 할 수 있다. 또한, 청취자는 전환된 컨텐츠가 재생되면서 평균 라우드니스에 따른 적정 게인을 설정하기 위해 볼륨을 다시 조절해야 할 수 있다. 예를 들어, 전환된 컨텐츠의 초기 구간의 라우드니스에 기반하여 조절된 볼륨에 따라 전환된 컨텐츠가 재생되는 경우, 컨텐츠 특성에 따라 라우드니스 레벨이 급격히 증가하거나 급격히 감소하는 상황이 발생할 수 있다. 라우드니스 레벨이 급격히 증가하거나 급격히 감소하여 컨텐츠의 내용을 파악할 수 없는 경우, 청취자는 오디오 신호를 출력하는 기기의 볼륨을 또 다시 조절해야 할 수 있다.
이에 따라, 본 발명의 일 실시예에 따른 오디오 신호 처리 장치는 입력 컨텐츠의 출력 라우드니스 레벨을 제어하여 청취자의 편의성을 높일 수 있다. 구체적으로, 오디오 신호 처리 장치는 입력 컨텐츠의 라우드니스 게인에 기초하여 라우드니스 레벨을 조정할 수 있다. 이때, 오디오 신호 처리 장치는 입력 오디오 신호의 라우드니스 정보를 포함하는 라우드니스 메타데이터를 이용할 수 있다.
본 발명의 일 실시예에 따르면, 서로 다른 기준으로 생성되었거나, 특정한 기준 없이 생성된 입력 컨텐츠의 라우드니스 레벨을 타겟 라우드니스(target loudness) 레벨을 기준으로 정규화할 수 있다. 여기에서, 타겟 라우드니스 레벨은 오디오 신호 처리 장치가 출력하고자 하는 라우드니스 레벨일 수 있다. 예를 들어, 타겟 라우드니스 레벨은 입력 컨텐츠의 컨텐츠 제작자에 의해 설정될 수 있다. 이 경우, 오디오 신호 처리 장치는 입력 컨텐츠와 함께 타겟 라우드니스에 대한 정보를 수신할 수 있다. 또한, 타겟 라우드니스 레벨은 입력 컨텐츠의 장르에 따라 서로 다른 값으로 설정될 수도 있다. 이 경우, 오디오 신호 처리 장치는 입력 컨텐츠의 장르에 기초하여 타겟 라우드니스 레벨을 결정할 수 있다. 타겟 라우드니스 레벨은 오디오 신호 처리 장치에 기 저장된 디폴트 값으로 설정될 수도 있다. 이 경우, 타겟 라우드니스 레벨은 입력 컨텐츠 또는 입력 컨텐츠의 장르와 무관한 값으로 설정될 수 있다. 오디오 신호 처리 장치는 타겟 라우드니스 레벨에 기초하여 입력 컨텐츠의 출력 라우드니스 레벨을 조정할 수 있다.
일 실시예에 따라, 오디오 신호 처리 장치는 입력 컨텐츠의 라우드니스 레벨과 타겟 라우드니스 레벨 사이의 관계에 기초하여 라우드니스 게인을 획득할 수 있다. 입력 컨텐츠의 라우드니스 레벨과 타겟 라우드니스 레벨 사이의 관계는 입력 컨텐츠의 라우드니스 레벨과 타겟 라우드니스 레벨 간의 차이 또는 비율을 포함할 수 있다.
예를 들어, 오디오 신호 처리 장치는 입력 컨텐츠의 대표 라우드니스 레벨과 타겟 라우드니스 레벨 사이의 관계에 기초하여 라우드니스 게인을 획득할 수 있다. 여기에서, 대표 라우드니스 레벨은 입력 컨텐츠 전 구간에 대한 라우드니스 레벨을 대표하는 라우드니스 레벨일 수 있다. 오디오 신호 처리 장치는 입력 컨텐츠와 함께 입력 컨텐츠의 대표 라우드니스 레벨을 수신할 수 있다. 또는 오디오 신호 처리 장치는 입력 컨텐츠로부터 분석된 라우드니스 정보에 기초하여 대표 라우드니스 레벨을 획득할 수도 있다. 이 경우, 오디오 신호 처리 장치는 입력 컨텐츠에 대한 라우드니스 측정치에 기초하여 라우드니스 정보를 획득할 수 있다. 본 개시에서, 입력 오디오 신호의 라우드니스 정보는 메타데이터 형식으로 변환된 라우드니스 메타데이터를 포함할 수 있다.
또한, 오디오 신호 처리 장치는 라우드니스 게인에 기초하여 입력 컨텐츠의 출력 라우드니스 레벨을 조정할 수 있다. 구체적으로, 오디오 신호 처리 장치는 입력 컨텐츠에 라우드니스 게인을 적용하여 라우드니스 레벨이 조정된 출력 오디오 신호를 획득할 수 있다.
본 발명의 일 실시예에 따른 오디오 신호 처리 장치는 입력 오디오 신호의 라우드니스 메타데이터를 이용하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정할 수 있다. 이를 통해, 오디오 신호 처리 장치는 입력 컨텐츠가 포함하는 입력 오디오 신호의 음질 훼손을 발생시키지 않고 입력 컨텐츠의 라우드니스 레벨을 제어할 수 있다.
예를 들어, 기 설정된 타겟 라우드니스 레벨이 입력 오디오 신호의 대표 라우드니스 레벨에 비해 클 수 있다. 이 경우, 입력 오디오 신호가 기 설정된 타겟 라우드니스 레벨에 따라 출력되면 음질 훼손이 발생할 수 있다. 이에 따라, 오디오 신호 처리 장치는 라우드니스 특성 및 기 설정된 타겟 라우드니스에 기초하여 라우드니스 게인을 획득할 수 있다. 오디오 신호 처리 장치는 라우드니스 특성에 기초하여 입력 오디오 신호의 음질 훼손이 발생하지 않게 하는 라우드니스 게인을 획득할 수 있다. 오디오 신호 처리 장치는 획득된 라우드니스 게인에 기초하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정할 수 있다.
이때, 오디오 신호 처리 장치는 입력 오디오 신호의 라우드니스 메타데이터를 이용하여 라우드니스 정보를 획득할 수 있다. 구체적으로, 오디오 신호 처리 장치는 오디오 신호 처리 장치 외부의 장치로부터 입력 오디오 신호의 라우드니스 메타데이터를 수신할 수 있다. 외부의 장치는 입력 오디오 신호의 라우드니스 특성을 분석하고, 분석된 라우드니스 특성을 기초로 입력 오디오 신호의 라우드니스 메타데이터를 생성할 수 있다. 또한, 외부의 장치는 입력 오디오 신호의 라우드니스 메타데이터를 오디오 신호 처리 장치에게 전송할 수 있다.
이하에서는, 본 발명의 일 실시예에 따라 입력 컨텐츠의 출력 라우드니스 레벨이 조정되는 방법에 관하여 도 2를 참조하여 설명하도록 한다. 도 2는 본 발명의 일 실시예에 따라 제1 오디오 신호 처리 장치(210) 및 제2 오디오 신호 처리 장치(220)를 포함하는 시스템(200)을 나타내는 개략도이다. 도 2에서 제1 오디오 신호 처리 장치(210)는 서버일 수 있다. 도 2에서 제2 오디오 신호 처리 장치(220)는 클라이언트 장치일 수 있다.
도 2에서는 입력 컨텐츠의 라우드니스 정규화를 위한 일련의 동작들이 서버-클라이언트 구조의 시스템에 의해 수행되는 것으로 도시하였으나, 본 개시가 이에 제한되는 것은 아니다. 예를 들어, 도 2를 통해 설명되는 일련의 동작들은 단일의 오디오 신호 처리 장치에 의해 수행될 수도 있다.
본 발명의 일 실시예에 따라, 제1 오디오 신호 처리 장치(210)는 입력 오디오 신호의 라우드니스 메타데이터 생성할 수 있다. 제1 오디오 신호 처리 장치(210)는 생성된 라우드니스 메타데이터를 해당 입력 오디오 신호를 출력하려는 제2 오디오 신호 처리 장치(220)에게 전송할 수 있다. 제2 오디오 신호 처리 장치(220)는 제1 오디오 신호 처리 장치(210)로부터 라우드니스 메타데이터를 수신할 수 있다. 또한, 제2 오디오 신호 처리 장치(220)는 수신된 라우드니스 메타데이터에 기초하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정할 수 있다. 구체적으로, 제2 오디오 신호 처리 장치(220)는 라우드니스 메타데이터에 기초하여 입력 오디오 신호에 적용될 라우드니스 게인을 결정할 수 있다. 또한, 제2 오디오 신호 처리 장치(220)는 결정된 라우드니스 게인에 기초하여 입력 오디오 신호의 라우드니스 레벨을 조정할 수 있다.
구체적으로, 제1 오디오 신호 처리 장치(210)는 입력 컨텐츠를 수신할 수 있다. 본 개시에서 입력 컨텐츠는 복수의 프레임들로 구성된 입력 오디오 신호일 수 있다. 다음으로, 제1 오디오 신호 처리 장치(210)는 입력 컨텐츠의 라우드니스 레벨을 측정할 수 있다. 제1 오디오 신호 처리 장치(210)는 청각 척도에 기반한 라우드니스 필터를 사용하여 오디오 신호의 라우드니스 측정치를 획득할 수 있다. 구체적으로, 라우드니스 필터는 등-라우드니스 곡선(equal-loudness contours)의 역필터, 또는 이를 근사화시킨 케이-가중(K-weighting) 필터 중 적어도 하나일 수 있다.
예를 들어, 제1 오디오 신호 처리 장치(210)는 기 수신된 입력 컨텐츠의 적어도 일부 구간에 라우드니스 필터를 적용하여 라우드니스 측정치를 획득할 수 있다. 여기에서, 일부 구간은 하나의 라우드니스 측정치 획득에 사용되는 단위 시간일 수 있다. 일부 구간은 적어도 하나의 프레임을 포함할 수 있다. 본 개시에서, 하나의 라우드니스 측정치 획득에 사용되는 단위 시간은 측정 윈도우로 지칭될 수 있다.
제1 오디오 신호 처리 장치(210)는 입력 컨텐츠에 대한 측정 윈도우 별 라우드니스 측정치를 획득할 수 있다. 이때, 획득된 라우드니스 측정치는 측정 윈도우의 길이에 따라 순간 라우드니스 레벨 또는 단구간 라우드니스 레벨일 수 있다. 순간 라우드니스 레벨은 단구간 라우드니스 레벨에 비해 짧은 시간 구간동안 측정된 라우드니스 측정치일 수 있다. 예를 들어, 하나의 순간 라우드니스 레벨 획득에 사용되는 측정 윈도우의 길이는 400밀리초(ms)일 수 있다. 또한, 하나의 단구간 라우드니스 레벨 획득에 사용되는 측정 윈도우의 길이는 3초일 수 있다. 그러나 본 개시가 이에 제한되는 것은 아니다. 라우드니스 분석을 위한 측정 윈도우의 길이는 입력 컨텐츠 별로 다를 수 있다. 일 실시예에 따라, 측정 윈도우의 길이는 입력 컨텐츠의 부가 정보에 기초하여 결정될 수도 있다. 오디오 신호 처리 장치가 측정 윈도우의 길이를 결정하는 방법에 대해서는 도 18을 통해 후술하도록 한다.
다음으로, 제1 오디오 신호 처리 장치(210)는 입력 컨텐츠에 대한 라우드니스 측정치에 기초하여 입력 컨텐츠의 라우드니스 정보를 획득할 수 있다. 라우드니스 정보는 입력 컨텐츠에 대한 적어도 하나의 라우드니스 측정치를 포함할 수 있다. 또한, 라우드니스 정보는 입력 컨텐츠에 대한 라우드니스 측정치에 기반하여 연산된 정보를 포함할 수 있다. 제1 오디오 신호 처리 장치(210)는 라우드니스 정보를 실시간으로 업데이트할 수 있다. 예를 들어, 라우드니스 정보는 누적 라우드니스 레벨, 단구간 라우드니스 레벨, 순간 라우드니스 레벨 중 적어도 하나를 포함할 수 있다. 제1 오디오 신호 처리 장치(210)는 입력 컨텐츠에 대한 라우드니스 측정이 시작된 시점부터 현재 시점까지 누적된 복수의 라우드니스 측정치들을 대표하는 누적 라우드니스 레벨을 획득할 수 있다.
본 개시에서, 누적 라우드니스 레벨은 라우드니스 레벨을 측정하는 장치에서 설정된 셋업 시점으로부터 누적된 라우드니스 레벨을 나타낼 수 있다. 일 실시예에 따라, 누적 라우드니스 레벨은 제1 오디오 신호 처리 장치(210)에서 설정된 셋업 시점으로부터 측정된 라우드니스 측정치에 기초하여 산출된 라우드니스 레벨일 수 있다. 예를 들어, 누적 라우드니스 레벨은 셋업 시점으로부터 획득된 구간 별 라우드니스 측정치를 기반으로 계산된 평균 라우드니스 레벨일 수 있다. 이때, 구간 별 라우드니스 측정치는 단구간 라우드니스 레벨 및 순간 라우드니스 레벨 중 어느 하나를 나타낼 수 있다.
일 실시예에 따라, 누적 라우드니스 레벨은 셋업 시점과 현재 시점 사이에서 측정된 유효 라우드니스 측정치들의 평균에 기초하여 획득될 수 있다. 여기에서, 유효 라우드니스 측정치들은 셋업 시점과 현재 시점 사이에서 측정된 복수의 라우드니스 측정치들 중에서 적어도 하나의 기준 요건을 만족하는 라우드니스 측정치들일 수 있다.
예를 들어, 유효 라우드니스 측정치들은 라우드니스 레벨이 특정 레벨 이상인 라우드니스 측정치들일 수 있다. 먼저, 제1 오디오 신호 처리 장치(210)는 복수의 라우드니스 측정치들 중에서 라우드니스 레벨이 제1 임계값 이상인 라우드니스 측정치들에 대한 제1 평균을 연산할 수 있다. 이때, 제1 임계값은 최소 가청 크기에 기초하여 설정된 값일 수 있다. 다음으로, 제1 오디오 신호 처리 장치(210)는 제1 평균의 연산에 이용된 라우드니스 측정치들 중에서 라우드니스 레벨이 제2 임계값 이상인 라우드니스 측정치들에 대한 제2 평균을 연산할 수 있다. 이때, 제2 임계값은 제1 평균으로부터 기 설정된 값을 뺀 값일 수 있다. 또한, 제1 오디오 신호 처리 장치(210)는 제2 평균을 입력 컨텐츠의 누적 라우드니스 레벨로 사용할 수 있다. 한편, 제1 오디오 신호 처리 장치(210)는 특정 요건에 따라 누적 라우드니스 레벨을 위한 셋업 시점을 재설정할 수 있다.
다음으로, 제1 오디오 신호 처리 장치(210)는 라우드니스 정보를 기초로 라우드니스 메타데이터를 생성할 수 있다. 예를 들어, 제1 오디오 신호 처리 장치(210)는 라우드니스 정보로부터 불필요한 정보를 제거하고 제2 오디오 신호 처리 장치(220)가 이해할 수 있는 신택스(Syntax) 형태의 라우드니스 메타데이터를 생성할 수 있다. 추가적으로, 제1 오디오 신호 처리 장치(210)는 입력 오디오 신호와 관련된 부가 정보를 포함하는 라우드니스 메타데이터를 생성할 수 있다. 입력 오디오 신호와 관련된 부가 정보는 입력 오디오 신호의 길이, 장르, 컨텐츠 제공자, 컨텐츠 제작자, 인기도, 시청 횟수, 앨범, 채널 각각을 나타내는 정보 중 적어도 하나를 포함할 수 있다. 이를 통해, 제1 오디오 신호 처리 장치(210)는 입력 오디오 신호를 출력하는 다른 장치가 부가 정보를 이용하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정할 수 있게 한다.
예를 들어, 입력 오디오 신호가 기 재생된 오디오 신호와 동일한 컨텐츠 제작자의 음원일 수 있다. 이 경우, 입력 오디오 신호와 기 재생된 오디오 신호는 유사한 스타일/음색 등 소리적 특성을 가지고 있을 수 있다. 이에 따라, 입력 오디오 신호를 출력하는 장치(예를 들어, 제2 오디오 신호 처리 장치(220)는 기 재생된 오디오 신호의 타겟 라우드니스 레벨을 기초로 입력 오디오 신호의 라우드니스 게인을 결정할 수 있다. 이때, 제2 오디오 신호 처리 장치(220)는 부가 정보를 포함하는 라우드니스 메타데이터에 사용할 수 있다.
다음으로, 제1 오디오 신호 처리 장치(210)에 의해 생성된 라우드니스 메타데이터는 메타데이터 데이터베이스(database, 이하, 'DB')에 저장될 수 있다. 제1 오디오 신호 처리 장치(210)는 제2 오디오 신호 처리 장치(220)로부터 입력 오디오 신호의 라우드니스 메타데이터 요청을 수신할 수 있다. 이 경우, 제1 오디오 신호 처리 장치(210)는 해당 입력 오디오 신호의 라우드니스 메타데이터를 제2 오디오 신호 처리 장치에게 전송할 수 있다.
본 발명의 일 실시예에 따른, 제2 오디오 신호 처리 장치(220)는 제1 오디오 신호 처리 장치(210)로부터 입력 오디오 신호의 라우드니스 정보를 획득할 수 있다. 구체적으로, 제2 오디오 신호 처리 장치(220)는 제1 오디오 신호 처리 장치(210)에게 입력 오디오 신호의 라우드니스 메타데이터를 요청할 수 있다. 또한, 제2 오디오 신호 처리 장치(220)는 제1 오디오 신호 처리 장치(210)로부터 입력 오디오 신호의 라우드니스 메타데이터를 수신할 수 있다. 제2 오디오 신호 처리 장치(220)는 수신된 라우드니스 메타데이터에 기초하여 입력 오디오 신호의 라우드니스 정보를 획득할 수 있다.
제2 오디오 신호 처리 장치(220)는 라우드니스 정보에 기초하여 입력 컨텐츠에 적용되는 라우드니스 게인을 획득할 수 있다. 구체적으로, 제2 오디오 신호 처리 장치(220)는 라우드니스 정보 및 타겟 라우드니스 레벨에 기초하여 라우드니스 게인을 획득할 수 있다. 일 실시예에 따라, 제2 오디오 신호 처리 장치(220)는 입력 컨텐츠의 특정 프레임에 적용되는 라우드니스 게인을 획득할 수 있다. 입력 컨텐츠의 일부 특정 구간에서 프레임 별로 적용되는 라우드니스 게인은 시간에 따라 동적으로 조정될 수도 있다. 특정 구간을 제외한 나머지 구간에서 프레임 별로 적용되는 라우드니스 게인은 동적으로 조정되지 않는 정적 게인일 수 있다. 또한, 입력 컨텐츠의 일부 특정 구간에서 라우드니스 게인은 특정 범위 내의 값으로 제한될 수 있다.
다음으로, 제2 오디오 신호 처리 장치(220)는 라우드니스 게인에 기초하여 입력 컨텐츠의 출력 라우드니스 레벨을 조정할 수 있다. 예를 들어, 제2 오디오 신호 처리 장치(220)는 입력 컨텐츠에 라우드니스 게인을 적용하여 출력 라우드니스 레벨을 조정할 수 있다. 일 실시예에 따라, 라우드니스 게인은 입력 컨텐츠를 구성하는 프레임 별로 적용될 수 있다. 이 경우, 제2 오디오 신호 처리 장치(220)는 각각의 프레임에 대응하는 오디오 신호에 라우드니스 게인을 곱하여 입력 컨텐츠의 출력 라우드니스 레벨을 조정할 수 있다. 제2 오디오 신호 처리 장치(220)는 입력 컨텐츠로부터 라우드니스 게인에 의해 출력 라우드니스 레벨이 조정된 출력 컨텐츠를 획득할 수 있다. 또한, 제2 오디오 신호 처리 장치(220)는 획득된 출력 컨텐츠를 출력할 수 있다. 예를 들어, 제2 오디오 신호 처리 장치(220)는 출력 컨텐츠를 재생할 수 있다. 또는 제2 오디오 신호 처리 장치(220)는 출력 컨텐츠를 유/무선 인터페이스를 통해 재생기기로 전달할 수도 있다.
추가적으로, 제2 오디오 신호 처리 장치(220)는 조정된 출력 라우드니스 레벨의 동적 범위를 제어할 수 있다. 입력 컨텐츠의 특정 프레임에 대한 출력 라우드니스 레벨이 기 설정된 동적 범위를 벗어나는 경우, 클리핑(clipping)에 의한 음질 왜곡이 발생할 수 있기 때문이다. 제2 오디오 신호 처리 장치(220)는 기 설정된 동적 범위에 기초하여 출력 라우드니스 레벨의 동적 범위를 제어할 수 있다. 예를 들어, 제2 오디오 신호 처리 장치(220)는 리미터(limiter) 및 동적 범위 제한기(Dynamic Range Compressor, DRC)와 같은 프로세싱을 사용하여 출력 라우드니스 레벨의 동적 범위를 제어할 수 있다.
도 3은 본 발명의 일 실시예에 따라 입력 오디오 신호의 라우드니스 레벨이 조정되는 방법을 나타내는 흐름도이다. 도 3에서는 설명의 편의를 위해 입력 오디오 신호의 출력 라우드니스 레벨 조정을 위한 일련의 동작들이 단일의 오디오 신호 처리 장치에 의해 수행되는 것으로 설명하고 있으나, 본 개시가 이에 제한되는 것은 아니다. 예를 들어, 도 3을 통해 설명되는 동작들 중 일부는 서버를 통해 수행되고, 나머지 일부는 클라이언트에 의해 수행될 수도 있다.
도 3의 단계 S301에서, 오디오 신호 처리 장치는 입력 오디오 신호에 대한 후처리(Post Processing) 동작을 수행할 수 있다. 예를 들어, 오디오 신호 처리 장치는 입력 오디오 신호에 대한 이퀄라이제이션(equalization) 및 음장 모드 중 적어도 하나의 동작을 수행할 수 있다. 이때, 오디오 신호 처리 장치에 의해 수행되는 이퀄라이제이션 및 음장 모드는 일반적인 미디어 재생 시스템의 동작일 수 있다.
단계 S303에서, 오디오 신호 처리 장치는 입력 오디오 신호의 라우드니스 정보를 추출할 수 있다. 일 실시예에 따라, 단계 S301이 수행되는 경우, 단계 S303에서, 오디오 신호 처리 장치는 후처리의 주파수 특성에 기초하여 라우드니스 정보를 추출할 수 있다. 오디오 신호 처리 장치는 후처리의 주파수 특성에 기초하여 후처리에 의해 변화하는 밴드 별 라우드니스 레벨 정보(weight of post processing, w_Proc)를 획득할 수 있다. 또한, 오디오 신호 처리 장치는 w_Proc를 이용하여 라우드니스 정보를 추출할 수 있다.
예를 들어, 입력 오디오 신호에 대해 전술한 이퀄라이제이션이 수행되는 경우, w_Proc는 해당 주파수 영역에서의 이퀄라이제이션 커브(equalization curve) 정보를 포함할 수 있다. 오디오 신호 처리 장치는 상기 이퀄라이제이션 커브 정보에 기초하여 입력 오디오 신호의 라우드니스 정보를 추출할 수 있다. 입력 오디오 신호에 대해 전술한 음장 모드가 적용되는 경우, w_Proc는 해당 음장 모드에 사용되는 필터의 특성 정보 및 리버브(reverb) 정보 중 적어도 하나를 포함할 수 있다.
다른 일 실시예에 따라, 입력 오디오 신호가 출력되는 환경이 휴대폰에서 사용되는 소형 스피커와 같이 주파수 특성이 균등하지 않고 저주파에 대한 응답이 작은 환경일 수 있다. 이 경우, w_Proc는 해당 출력 환경의 주파수 특성 정보를 포함할 수 있다. 최종적으로, 오디오 신호 처리 장치는 w_Proc에 기초하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정할 수 있다. 이를 통해, 오디오 신호 처리 장치는 입력 오디오 신호가 출력되는 기기의 특성을 반영하는 출력 라우드니스 레벨 조정을 제공할 수 있다.
본 개시의 일 실시예에 따라, 단계 S303에서 추출된 라우드니스 정보는 누적 라우드니스 정보(Integrated Loudness, L_Integ), 품질보장 히스토그램 지표(Quality Secure Histogram Index, QSHI) 및 라우드니스 변화 예측 값(Difference in Loudness by post-Processing, dL_Proc) 중 적어도 하나를 포함할 수 있다. 이때, L_Integ는 ITU-R BS. 1770-4 표준 규격을 따를 수 있다. 또한, QSHI는 출력단 리미터에 의해 인지적 음질 손상이 발생하지 않는 문턱 라우드니스 레벨을 나타낼 수 있다. 본 개시에서, QSHI는 타겟 라우드니스 최대 허용치(maximum target loudness, Max_TL)을 포함할 수 있다. QSHI는 자동 알고리즘에 기초하여 계산되거나 컨텐츠 제작자에 의해 정의될 수 있다. QSHI가 획득되는 구체적인 방법에 대해서는 도 4를 통해 후술하도록 한다. 또한, dL_Proc는 후처리 이후의 입력 오디오 신호의 라우드니스 변화에 대한 예측 값일 수 있다. 오디오 신호 처리 장치는 사용자에 의해 설정된 후처리 정보에 기초하여 dL_Proc를 획득할 수 있다. 오디오 신호 처리 장치는 입력 오디오 신호의 주파수 별 특성 및 w_Proc 중 적어도 하나에 기초하여 dL_Proc를 획득할 수 있다.
단계 S305에서, 오디오 신호 처리 장치는 입력 오디오 신호의 라우드니스 게인(G_target)을 결정할 수 있다. 예를 들어, 오디오 신호 처리 장치는 기 설정된 타겟 라우드니스 레벨(L_target) 및 단계 S303에서 추출된 라우드니스 정보에 기초하여 라우드니스 게인(G_target)을 결정할 수 있다. 이때, 기 설정된 타겟 라우드니스 레벨은 사용자에 의해 설정된 값일 수 있다. 단계 S307에서, 오디오 신호 처리 장치는 단계 S301에서 후처리된 입력 오디오 신호에 최종 라우드니스 게인을 적용하여 출력 오디오 신호를 출력할 수 있다.
이때, 출력 오디오 신호는 리미터를 거친 신호일 수 있다. 예를 들어, 오디오 신호 처리 장치는 후처리된 입력 오디오 신호에 최종 라우드니스 게인을 적용하여 제1 출력 오디오 신호를 생성할 수 있다. 또한, 오디오 신호 처리 장치는 제1 출력 오디오 신호에 리미터를 적용하여 제2 출력 오디오 신호를 생성할 수 있다. 최종적으로, 오디오 신호 처리 장치는 리미터가 적용된 제2 출력 오디오 신호를 출력할 수 있다.
이하, 오디오 신호 처리 장치가 라우드니스 정보를 추출하는 방법에 대해 도 4를 통해 구체적으로 설명하도록 한다. 도 4는 본 발명의 일 실시예에 따라 오디오 신호 처리 장치가 입력 오디오 신호의 라우드니스 정보를 추출하는 방법을 구체적으로 나타내는 블록도이다. 도 4에서 설명의 편의를 위해 각각의 유닛/부가 각각의 동작을 수행하는 것으로 기재되어 있으나, 본 개시가 이에 제한되는 것은 아니다. 예를 들어, 도 4의 라우드니스 정보 추출부(400)의 유닛/부들 각각의 동작들은 오디오 신호 처리 장치가 포함하는 프로세서에 의해 수행되는 일련의 동작들일 수 있다.
도 4를 참조하면, 라우드니스 정보 추출부(400)는 라우드니스 측정부(401), 주파수 별 라우드니스 분석부(402), 후처리 라우드니스 예측부(403), 및 QSHI 추출부(404)를 포함할 수 있다. 라우드니스 정보 추출부(400)는 도 3의 단계 S303을 통해 설명한 동작들을 수행할 수 있다.
일 실시예에 따라, 라우드니스 측정부(401)는 입력 오디오 신호의 라우드니스 측정치를 획득할 수 있다. 예를 들어, 라우드니스 측정부(401)는 입력 오디오 신호의 단구간 라우드니스 레벨 및 누적 라우드니스 레벨 중 적어도 하나를 획득할 수 있다. 구체적으로, 라우드니스 측정부(401)는 표준 규격 ITU-R BS. 1770-4에서의 예와 같은 과정을 통해 입력 오디오 신호로부터 누적 라우드니스 정보(L_Integ) 및 단구간 라우드니스 정보(L_ShortTerm)를 획득할 수 있다.
일 실시예에 따라, 주파수 별 라우드니스 분석부(402)는 입력 오디오 신호 전체의 주파수 별 라우드니스 비율 (Multi-band Weight in loudness, WLoud_MB)를 획득할 수 있다. 예를 들어, 주파수 별 라우드니스 분석부(402)는 입력 오디오 신호에 케이-가중 필터를 적용하여 WLoud_MB를 획득할 수 있다. 주파수 별 라우드니스 분석부(402)는 케이-가중 필터가 적용된 신호를 주파수 변환하여 WLoud_MB를 계산할 수 있다.
이하에서는, 수학식 1 내지 수학식 8을 참조하여 주파수 별 라우드니스 분석부(402)가 WLoud_MB를 계산하는 구체적인 방법에 대해 설명하도록 한다.
[수학식 1]
x_k = filter ( h_kweight, x_in ),
또는
x_k = filter ( h_pre2_kweight, filter ( h_pre1_kweight, x_in ) )
수학식 1에서, x_k는 입력 오디오 신호(x_in)에 대해 케이-가중 필터가 적용된 신호를 나타낸다. 수학식 1에서, “filter(A,B)”는 입력 오디오 신호 B를 필터 계수 A로 필터링하는 연산을 나타낸다. 수학식 1에서, h_kweight는 단일의 케이-가중 필터를 나타낼 수 있다. 또한, h_pre2_kweight 및 h_pre1_kweight 각각은 ITU-R BS.1770-4에서 정의하는 1차 사전 필터(pre-filter)와 2차 사전 필터를 나타낼 수 있다. 주파수 별 라우드니스 분석부(402)는 입력 오디오 신호에 케이-가중 필터 계수를 필터링하여 적용할 수 있다. 도 5는 ITU-R BS.1770-4에서 정의하는 1차 사전 필터의 주파수 응답을 나타낸다. 또한, 도 6은 2차 사전 필터의 주파수 응답을 나타낸다.
수학식 1을 통해 얻어진 신호 x_k의 프레임(frame) 별 신호는 수학식 2와 같이 표현될 수 있다. 수학식 2에서, x_frame[l]는 신호 x_k의 l-번째 프레임의 신호를 나타낸다. 여기에서, NF는 프레임의 길이를 나타내고, NH는 홉 사이즈를 나타낼 수 있다.
[수학식 2]
x_frame[l] = x_k[ ((l-1)*NH+1) : ((l-1)*NH+NF) ]
다음으로, 수학식 3을 참조하면, 주파수 별 라우드니스 분석부(402)는 x_frame[l]를 윈도우 연산(windowing)하여 xw_frame[l][-]을 획득할 수 있다. 이때, 주파수별 라우드니스 분석부(402)는 윈도우 함수의 모든 계수가 1인 직사각형 윈도우(rectangular window) 함수를 사용하여 xw_frame[l][-]을 획득할 수 있다. 또는 주파수별 라우드니스 분석부(402)는 해밍 윈도우(hamming window) 함수 또는 해닝 윈도우(hanning window) 함수와 같은 다양한 윈도우 함수를 사용하여 xw_frame[l][-]을 획득할 수 있다. 윈도우 연산은 입력 오디오 신호의 주파수 분석을 위한 동작일 수 있다. 수학식 3에서, wind[n]는 윈도우 함수의 n-번째 계수를 나타내고, n은 윈도우의 샘플 넘버가 될 수 있다. 예를 들어, NF가 512인 경우, n의 값은 1부터 512 중 어느 하나일 수 있다.
[수학식 3]
xw_frame[l][n] = x_frame[l][n] * wind[n] for n=1, 2, …NF
또한, 주파수 별 라우드니스 분석부(402)는 xw_frame[l][-]을 이산 푸리에 변환(Discrete Fourier Transform, DFT)할 수 있다. xw_frame[l][-]로부터 이산 푸리에 변환된 주파수 영역 신호(XW_frame[l])는 수학식 4와 같이 표현될 수 있다. XW_frame[l]는 수학식 4에서 DFT{x}는 시간 영역의 신호 'x'의 이산 푸리에 변환을 나타낸다.
[수학식 4]
XW_frame[l] = DFT { xw_frame[l][1:NF] }
다음으로, 수학식 5를 참조하면, 주파수 별 라우드니스 분석부(402)는 변환된 주파수 신호 XW_frame[l]의 주파수 빈(bin) 별 파워(power)를 획득할 수 있다. 수학식 5에서, P_frame_bin[l][k]는 l-번째 프레임의 k-번째 주파수 빈에서의 파워를 나타낸다. 또한, conj(x)는 'x'의 켤레 함수(conjugation function)를 나타낸다.
[수학식 5]
P_frame_bin[l][k] = XW_frame[l][k] * conj(XW_frame[l][k]) for k=1, 2, …NF
다음으로, 수학식 6을 참조하면, 주파수 별 라우드니스 분석부(402)는 P_frame_bin[l][k]를 기 설정된 주파수 밴드에 매핑하여 l-번째 프레임의 주파수 밴드 별 파워(P_frame_band[l][b])를 획득할 수 있다. 수학식 6에서, band[b]는 b-주파수 밴드의 시작 주파수 빈의 인덱스를 나타낸다. 즉, 주파수 별 라우드니스 분석부(402)는 band[b]부터 band[b+1]-1까지의 주파수 빈 별 파워들을 합하여 주파수 밴드 별 파워를 획득할 수 있다. 수학식 6에서, sum_{y} (x)는 인덱스 k를 인자로 가지는 함수 'x' 인덱스 별 합을 나타낼 수 있다. 이때, 'y'는 해당 연산을 위한 인덱스의 범위를 나타낼 수 있다.
[수학식 6]
P_frame_band[l][b]
= sum_{k from band[b] to band[b+1]-1} (P_frame_bin[l][k])
수학식 7을 참조하면, 주파수 별 라우드니스 분석부(402)는 l-번째 프레임의 주파수 밴드 별 파워(P_frame_band[l][b])에 기초하여 입력 오디오 신호 전 구간의 주파수 밴드 별 파워(P_band[b])를 획득할 수 있다. 주파수 별 라우드니스 분석부(402)는 프레임 별로 획득된 주파수 밴드 별 파워(P_frame_band[l][b])를 동일한 주파수 밴드끼리 합하여 입력 오디오 신호의 전체 구간의 주파수 밴드 별 파워(P_band[b]) 획득할 수 있다. 수학식 7에서, NumberOfFrames는 전체 frame의 개수를 나타낸다. 또한, 프레임 인덱스를 나타내는 l은 1부터 NumberOfFrames까지의 범위 내에서 정의된다.
[수학식 7]
P_band[b] = sum_{l from 1 to NumberOfFrames} (P_frame_band[l][b])
다음으로, 수학식 8을 참조하면, 주파수 별 라우드니스 분석부(402)는 주파수 밴드 별 파워(P_band[b])에 기초하여 주파수 밴드 별 라우드니스 비율(WLoud_MB[b])를 획득할 수 있다. 구체적으로, 주파수 별 라우드니스 분석부(402)는 특정 주파수 밴드 별 파워(P_band[b])를 전체 주파수 밴드 별 파워들 각각의 합에 기초하여 정규화(normalize)할 수 있다. 수학식 8에서, NumberOfBands는 분할된 주파수 밴드의 전체 개수를 나타낸다. 또한, 밴드 인덱스를 나타내는 b는 1부터 NumberOfBands까지의 범위 내에서 정의된다.
[수학식 8]
WLoud_MB[b] = P_band[b]/ [sum_{b from 1 to NumberOfBands} (P_band[b])]
수학식 8을 통해서 계산된 WLoud_MB[b]는 입력 오디오 신호의 주파수 밴드 별 누적 라우드니스 레벨의 비율을 나타낸다. 예를 들어, 입력 오디오 신호가 2-밴드 신호이고, 입력 오디오 신호의 누적 라우드니스 레벨이 L_Integ=-20 LKFS 이고, WLoud_MB[10] = 0.8, WLoud_MB[1] = 0.2일 수 있다. 이 경우, 입력 오디오 신호의 첫 번째 주파수 밴드에 대한 라우드니스 레벨은 -20 + 10*log10(0.8) = -20.97 LKFS 이고, 두 번째 주파수 밴드에 대한 라우드니스 레벨은 -20 + 10*log10(0.2) = -26.99 LKFS로 예측될 수 있다.
일 실시예에 따라, 후처리 라우드니스 예측부(403)는 후처리에 의해 변화하는 밴드 별 라우드니스 레벨 정보(w_Proc) 및 입력 오디오 신호 전체의 주파수 별 라우드니스 비율(WLoud_MB) 중 적어도 하나에 기초하여 라우드니스 변화 예측 값을 획득할 수 있다.
이때, 후처리 라우드니스 예측부(403)는 주파수별 라우드니스 분석부(402)를 통해 획득된 입력 오디오 신호 전체의 주파수 별 라우드니스 비율(WLoud_MB)를 사용할 수 있다. 또한, 후처리에 의해 변화하는 밴드 별 라우드니스 레벨 정보(w_Proc)는 입력 오디오 신호에 대한 후처리의 특성에 따라 획득될 수 있다. 입력 오디오 신호에 대한 후처리의 특성은 사용자에 의해 입력된 정보에 기초하여 결정될 수 있다.
구체적으로, 입력 오디오 신호에 사용자에 의해 설정된 이퀄라이제이션이 적용되고, NumberOfBands개의 주파수 밴드 각각에 대하여 해당 이퀄라이제이션의 주파수 밴드 별 게인이 데시벨(decibel) 단위에서 w_ProcBand_dB로 설정되고, 해당 이퀄라이제이션의 전체 게인은 w_ProcGain_dB로 설정될 수 있다. 이 경우, 주파수 별 라우드니스 분석부(402)는 주파수 밴드 별 게인(w_ProcBand_dB) 및 전체 게인(w_ProcGain_dB)에 기초하여 주파수 밴드 별 라우드니스 비율을 획득할 수 있다. 주파수 별 라우드니스 분석부(402)가 주파수 밴드 별 라우드니스 비율을 획득하기 위해 연산하는 방법은 수학식 9와 같이 나타낼 수 있다.
[수학식 9]
w_Proc[b] = 10^((w_ProcBand_dB[b] + 0.5*w_ProcGain_dB)/10)
for 1=<b=<NumberOfBands
또한, 후처리 라우드니스 예측부(403)가 라우드니스 변화 예측 값(dL_Proc)을 획득하는 방법은 수학식 10과 같이 나타낼 수 있다.
[수학식 10]
dL_Proc = 10 * log10 ( sum_{b from 1 to NumberOfBands} (WLoud_MB[b] * w_Proc[b]) )
일 실시예에 따라, QSHI 추출부(404)는 단구간 라우드니스 정보(L_ShortTerm)에 기초하여 품질보장 히스토그램 지표(QSHI)를 추출할 수 있다. 전술한 바와 같이 품질보장 히스토그램 지표(이하, 'QSHI')는 인지적 음질 손상이 발생하지 않는 문턱 라우드니스 레벨일 수 있다. QSHI 추출부(404)는 라우드니스 측정부(401)를 통해 획득한 단구간 라우드니스 정보(L_ShortTerm)를 기초로 QSHI를 획득할 수 있다.
예를 들어, QSHI 추출부(404)는 단구간 라우드니스 정보(L_ShortTerm)를 분석하여 QSHI를 획득할 수 있다. 이때, 단구간 라우드니스 정보(L_ShortTerm)는 입력 오디오 신호의 하나 이상의 단구간 라우드니스 레벨을 포함할 수 있다. 구체적으로, QSHI 추출부(404)는 하나 이상의 단구간 라우드니스 레벨에 기초하여 입력 오디오 신호의 단구간 라우드니스 크기 별 히스토그램을 획득할 수 있다. 또한, QSHI 추출부(404)는 획득된 단구간 라우드니스 크기 별 히스토그램에 기초하여 입력 오디오 신호의 QSHI를 획득할 수 있다.
이하에서는, 수학식 11 및 수학식 12를 참조하여 QSHI 추출부(404)가 입력 오디오 신호의 단구간 라우드니스 정보(L_ShortTerm)로부터 QSHI를 추출하는 구체적인 방법을 설명하도록 한다. 수학식 11에서, L_ShortTerm_Sorted는 입력 오디오 신호의 단구간 라우드니스 정보(L_ShortTerm)가 포함하는 하나 이상의 단구간 라우드니스 레벨이 크기 순으로 정렬된 정보를 나타낸다. 예를 들어, QSHI 추출부(404)는 하나 이상의 단구간 라우드니스 레벨을 내림차순('descending')으로 정렬할 수 있다.
[수학식 11]
L_ShortTerm_Sorted = sort ( L_ShortTerm, 'descending' )
또한, QSHI 추출부(404)는 L_ShortTerm_Sorted를 기초로 입력 오디오 신호의 하나 이상의 단구간 라우드니스 레벨 중에서 기 설정된 인덱스에 대응하는 라우드니스 레벨을 획득할 수 있다. 수학식 12에서, EffectiveIndex는 기 설정된 유효 인덱스를 나타낼 수 있다. 구체적으로, 기 설정된 유효 인덱스(EffectiveIndex)는 입력 오디오 신호의 하나 이상의 단구간 라우드니스 레벨 중에서 크기 순으로 기 설정된 순서의 단구간 라우드니스 레벨을 지시할 수 있다. 즉, QSHI 추출부(404)는 입력 오디오 신호의 하나 이상의 단구간 라우드니스 레벨 중에서 EffectiveIndex-번째로 큰 단구간 라우드니스 레벨을 획득할 수 있다. 이때, 입력 오디오 신호의 하나 이상의 단구간 라우드니스 레벨 중에서 EffectiveIndex번째로 큰 단구간 라우드니스 레벨은 입력 오디오 신호의 유효 단구간 라우드니스 레벨(L_ShortTerm_Effective)로 지칭될 수 있다.
[수학식 12]
L_ShortTerm_Effective = L_ShortTerm_Sorted[EffectiveIndex]
다음으로, QSHI 추출부(404)는 입력 오디오 신호의 유효 단구간 라우드니스 레벨(L_ShortTerm_Effective) 및 누적 라우드니스 레벨 중 적어도 하나에 기초하여 QSHI를 획득할 수 있다. 또한, QSHI는 누적 라우드니스 레벨보다 크거나 동일한 값일 수 있다.
추가적으로, QSHI 추출부(404)는 입력 오디오 신호가 기 설정된 타겟 라우드니스 레벨에 따라 출력되는 경우의 변경될 유효 단구간 라우드니스 레벨(L_ShortTerm_Effective_Shift)을 획득할 수 있다. 구체적으로, QSHI 추출부(404)는 입력 오디오 신호의 단구간 라우드니스 정보(L_ShortTerm)를 기초로 변경될 단구간 라우드니스 정보(L_ShortTerm_Shft)를 예측할 수 있다. 이때, 변경될 단구간 라우드니스 정보(L_ShortTerm_Shft)는 입력 오디오 신호가 기 설정된 타겟 라우드니스 레벨에 따라 출력되는 경우의 하나 이상의 변경될 단구간 라우드니스 레벨을 포함할 수 있다. 이 경우, QSHI 추출부(404)는 획득된 L_ShortTerm_Effective_Shift를 기초로 QSHI를 획득할 수 있다. 예를 들어, QSHI는 L_ShortTerm_Effective_Shift[EffectiveIndex] 단구간 라우드니스 레벨의 역치 값 이하가 되도록 제한하는 경우의 타겟 라우드니스 최대 허용치일 수 있다.
예를 들어, 입력 오디오 신호의 L_ShortTerm_Effective_Shift는 단구간 라우드니스 레벨의 역치 값(L_Threshold)으로 사용될 수 있다. QSHI 추출부(404)는 L_ShortTerm_Effective_Shift에 기초하여 타겟 라우드니스 최대 허용치를 보정할 수 있다. QSHI 추출부(404)는 보정된 타겟 라우드니스 최대 허용치를 QSHI의 값으로 사용할 수 있다. 또는 QSHI 추출부(404)는 상기 방식으로 보정된 타겟 라우드니스 최대 허용치와 입력 오디오 신호의 누적 라우드니스 중 큰 값을 QSHI의 값으로 선택할 수 있다.
상기 방법을 통해, 오디오 신호 처리 장치는 상대적으로 리미터에 의한 입력 오디오 신호의 음질 저하를 효과적으로 방지할 수 있다. 입력 오디오 신호의 전체 구간 중에서 상대적으로 음량이 크게 설정된 부분은 리미터에 의해 음질 저하가 발생할 수 있기 때문이다.
일 실시예에 따라, QSHI는 입력 오디오 신호의 하나 이상의 단구간 라우드니스 레벨 중에서 특정 값 보다 큰 단구간 라우드니스 레벨의 개수가 EffectiveIndex보다 작도록 설정된 값일 수 있다. 이때, EffectiveIndex는 오디오 신호 처리 장치의 리미터의 특성을 기초로 결정된 값일 수 있다. 예를 들어, EffectiveIndex는 리미터의 동작에 의해 발생하는 음질 저하의 정도에 따라 변경될 수 있다. 추가적으로, 단구간 라우드니스 역치 값(L_Threshold)은 오디오 신호 처리 장치의 리미터의 특성을 기초로 결정된 값일 수 있다. 예를 들어, 단구간 라우드니스 역치 값(L_Threshold) 는 리미터의 동작에 의해 발생하는 음질 저하의 정도에 따라 변경될 수 있다.
구체적인 실시예에 따라, 입력 오디오 신호가 상대적으로 큰 동적 범위를 가질 수 있다. 예를 들어, 입력 오디오 신호의 누적 라우드니스 레벨이 L_Integ = -24LKFS이고, 유효 단구간 라우드니스 레벨이 L_ShortTerm_Effective = -10LKFS으로 추출될 수 있다. 이 경우, EffectiveIndex = 10, 단구간 라우드니스 역치 값= -7LKFS로 설정했을 때, QSHI는 -21LKFS로 계산될 수 있다.
전술한 실시예에서는 입력 오디오 신호의 QSHI가 단구간 라우드니스 크기 별 히스토그램에 기초하여 추출되는 방법에 대하여 서술하였으나, 본 개시가 이에 제한되는 것은 아니다. 예를 들어, 입력 오디오 신호의 QSHI는 입력 오디오 신호를 포함하는 컨텐츠의 제작자 또는 입력 오디오 신호를 출력하는 음향 시스템의 운영자에 의해 임의로 설정된 값으로 정의될 수도 있다. 또한, 오디오 신호 처리 장치는 단구간 라우드니스 레벨 외에 입력 오디오 신호의 피크 값(peak envelope), RMS 중 적어도 하나에 대한 히스토그램 분석을 수행하여 QSHI를 획득할 수 있다.
일 실시예에 따라, 입력 오디오 신호의 QSHI는 단구간 라우드니스 크기 별 히스토그램의 변화에 따라 달라질 수 있다. 예를 들어, 전술한 단구간 라우드니스 크기 별 히스토그램은 사용자의 입력에 따라 결정된 후처리 여부에 따라 변화할 수 있다. 이 경우, 입력 오디오 신호의 QSHI는 기 설정된 테이블에 기초하여 다른 값으로 변경될 수 있다. 또는 입력 오디오 신호의 QSHI는 후처리의 특성에 기초하여 연산된 값으로 변경될 수도 있다.
추가적으로, 본 개시의 일 실시예에 따른 오디오 신호 처리 장치가 전술한 라우드니스 정보에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정하는 방법에 대해 설명하도록 한다. 수학식 13은 입력 오디오 신호에 대한 후처리 과정이 수행된 경우, 입력 오디오 신호의 변화된 누적 라우드니스 레벨(L_IntegProc)을 나타낸다. 오디오 신호 처리 장치는 후처리에 의한 라우드니스 변화 예측 값(dL_Proc)을 기초로 입력 오디오 신호의 변화된 누적 라우드니스 레벨(L_IntegProc)을 획득할 수 있다. 수학식 13을 참조하면, 오디오 신호 처리 장치는 입력 오디오 신호의 누적 라우드니스 레벨에 후처리에 의한 라우드니스 변화 예측 값(dL_Proc)을 더해 변화된 누적 라우드니스 레벨(L_IntegProc)을 획득할 수 있다.
[수학식 13]
L_IntegProc = L_Integ + dL_Proc
오디오 신호 처리 장치는 전술한 QSHI, 기 설정된 타겟 라우드니스 레벨(L_Target) 및 후처리에 의해 변화된 누적 라우드니스 레벨을 기반으로 출력 라우드니스 레벨 조정을 위한 라우드니스 게인을 계산할 수 있다.
전술한 실시예에서, 타겟 라우드니스 레벨(L_Target)을 사용자에 의해 설정된 값일 수 있다. 그러나 본 개시가 이에 제한되는 것은 아니다. 예를 들어, 기 설정된 타겟 라우드니스 레벨(L_Target)은 입력 오디오 신호를 출력하는 재생 시스템에서 제공하는 디폴트 값일 수 있다. 또는 기 설정된 타겟 라우드니스 레벨(L_Target)은 입력 오디오 신호를 출력하는 재생 환경에 기초하여 설정된 값일 수 있다. 오디오 신호 처리 장치는 입력 오디오 신호로부터 후처리된 제1 중간 오디오 신호에 라우드니스 게인(G_Target)을 적용할 수 있다. 실질적인 구현상의 편이상, 후처리 이전의 입력 오디오 신호에 라우드니스 게인(G_Target)이 곱해진 후 후처리 과정이 수행될 수도 있다. 또한, 오디오 신호 처리 장치는 라우드니스 게인(G_Target)이 적용된 제2 중간 오디오 신호를 리미터에 통과시켜 출력할 수 있다.
한편, 멀티미디어 스트리밍 서비스(multimedia streaming service)는 현재 미디어 시장에서 널리 쓰이는 방식이다. 멀티미디어 스트리밍 서비스를 제공하는 시스템은 일반적으로 스트리밍의 대상이 되는 컨텐츠를 저장하는 서버와 사용자 기기(즉, 클라이언트)로 구성될 수 있다. 이때, 클라이언트 측에서 멀티미디어 스트리밍 서비스는 어플리케이션(application) 내 재생 또는 웹(web) 내 재생 형태로 제공될 수 있다. 서버 및 클라이언트 각각은 본 개시에서 설명하는 동작들을 수행하는 오디오 신호 처리 장치일 수 있다. 이와 같은 서버-클라이언트 구조에서, 서버는 입력 컨텐츠 분석을 수행하여 라우드니스 정보를 제공할 수 있다. 또한, 클라이언트는 서버로부터 제공된 라우드니스 정보에 기초하여 입력 컨텐츠의 출력 라우드니스 레벨을 조정할 수 있다. 구체적으로, 서버는 입력 오디오 신호의 라우드니스 정보를 포함하는 라우드니스 메타데이터를 클라이언트에게 전송할 수 있다. 클라이언트는 서버로부터 입력 오디오 신호의 라우드니스 메타데이터를 수신할 수 있다. 또한, 클라이언트는 입력 오디오 신호의 라우드니스 메타데이터에 기초하여 입력 오디오 신호에 적용되는 라우드니스 게인을 획득할 수 있다.
도 7은 본 발명의 일 실시예에 따른 서버가 입력 오디오 신호의 라우드니스 메타데이터를 생성하는 방법을 나타내는 도면이다. 본 발명의 일 실시예에 따른 서버는 입력오디오 신호를 인코딩하여 오디오 스트림을 생성 및/또는 출력할 수 있다. 본 발명의 일 실시예에 따른 서버는 입력 오디오 신호의 라우드니스 정보를 추출할 수 있다. 예를 들어, 도 7의 서버는 도 3의 라우드니스 정보 추출(단계 S303)을 참조하여 설명된 동작들 및 도 4의 라우드니스 정보 추출부(400)를 참조하여 설명된 동작들을 수행할 수 있다. 또한, 서버는 추출된 라우드니스 정보를 포함하는 라우드니스 메타데이터를 생성할 수 있다. 서버는 생성된 라우드니스 메타데이터를 외부의 장치로 출력할 수 있다. 예를 들어, 서버는 생성된 라우드니스 메타데이터를 메타데이터 스트림의 형태로 클라이언트에게 전송할 수 있다.
도 8은 본 발명의 일 실시예에 따른 클라이언트가 라우드니스 메타데이터를 사용하여 입력 오디오 신호를 출력하는 방법을 나타내는 도면이다. 본 발명의 일 실시예에 따른 클라이언트는 오디오 스트림을 수신할 수 있다. 또한, 클라이언트는 수신된 오디오 스트림은 디코딩하여 입력 오디오 신호를 획득할 수 있다. 클라이언트는 입력 오디오 신호에 대한 후처리 과정을 수행할 수 있다. 이때, 후처리 과정의 수행 여부 및 특성은 사용자로부터 수신된 입력 또는 시스템에 기 저장된 설정 값에 기초하여 결정될 수 있다.
본 발명의 일 실시예에 따른 클라이언트는 입력 오디오 신호의 라우드니스 메타데이터에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정할 수 있다. 예를 들어, 클라이언트는 메타데이터 스트림 형태의 라우드니스 메타데이터를 수신할 수 있다. 클라이언트는 입력 오디오 신호의 라우드니스 메타데이터를 파싱하여 입력 오디오 신호의 라우드니스 정보를 획득할 수 있다. 구체적으로, 클라이언트는 입력 오디오 신호의 라우드니스 메타데이터로부터 도 3 및 도 4를 통해 전술한 WLoud_MB, L_Integ 및 QSHI 중 적어도 하나를 획득할 수 있다. 클라이언트는 획득된 라우드니스 정보에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정할 수 있다. 클라이언트는 입력 오디오 신호에 라우드니스 게인을 적용하여 출력 라우드니스 레벨을 조정할 수 있다. 클라이언트는 출력 라우드니스 레벨이 조정된 중간 오디오 신호에 리미터를 적용하여 출력 오디오 신호를 생성할 수 있다. 또한, 클라이언트는 출력 오디오 신호를 출력할 수 있다.
일 실시예에 따라, 도 8의 클라이언트는 도 3의 후처리(단계 S301), 라우드니스 게인 결정(단계 S305), 라우드니스 게인 적용(단계 S307)을 참조하여 설명된 동작들 및 도 4의 후처리 라우드니스 예측부(403)를 참조하여 설명된 동작들을 수행할 수 있다.
한편, 음악 컨텐츠는 시대 및/또는 장르에 따라 다양한 라우드니스를 가질 수 있다. 예를 들어, 클래식 음악의 누적 라우드니스 레벨은 넓은 동적 범위를 제공하기 위해 상대적으로 낮은 반면, 2000년대의 팝음악의 누적 라우드니스 레벨은 상대적으로 크다. 구체적으로, 2000년대의 팝음악의 누적 라우드니스 레벨은 -13~-8 LKFS이고, 클래식 음악 중 조용한 악장의 누적 라우드니스 레벨은 -30 LKFS 정도일 수 있다.
타겟 라우드니스 레벨을 결정함에 있어서, 방송 표준에서 정의하고 있는 -23~-24LKFS를 활용할 수 있다. 그러나, 이는 지하철과 같은 시끄러운 환경에서는 외부 잡음 대비 충분한 음량을 제공하지 않을 수 있다. 이에 따라, 본 발명의 일 실시예에 따른 오디오 신호 처리 장치는 재생 환경에 따라 서로 다른 타겟 라우드니스 레벨을 결정할 수 있다. 2000년대의 팝음악의 타겟 라우드니스 레벨을 -10으로 설정하는 경우, 2000년대의 팝음악의 음량은 큰 변화가 없을 수 있다. 반면, 클래식이나 1970~80년대의 음악과 같이 상대적으로 낮은 통합 라우드니스 레벨을 가지는 음악의 타겟 라우드니스 레벨을 -10으로 설정하는 경우, 음량의 변화가 클 수 있다.
도 9는 본 발명의 일 실시예에 따라 입력 오디오 신호의 단구간 라우드니스 크기 별 히스토그램을 나타내는 도면이다. 도 9를 통해 설명되는 실시예에서, 입력 오디오 신호의 장르는 클래식일 수 있다. 또한, 도 9를 통해 설명되는 실시예에서, 입력 오디오 신호의 누적 라우드니스는 -21 LKFS일 수 있다. 예를 들어, 해당 입력 오디오 신호의 타겟 라우드니스 레벨은 L_Target = -10 LKFS일 수 있다. 이 경우, 단구간 라우드니스 크기 별 히스토그램은 우측으로 +11 LKFS 이동한다. 이때, -7 LKFS보다 큰 단구간 라우드니스 레벨을 갖는 구간이 발생하게 된다.
일 실시예에 따라, -7 LKFS보다 큰 단구간 라우드니스 레벨을 가지는 구간에서 리미터에 의한 음질을 열화가 발생할 수 있다. 이에 따라, 본 발명의 일 실시예에 따른 오디오 신호 처리 장치는 전술한 바와 같이 QSHI에 기초하여 입력 오디오 신호의 라우드니스 정규화를 수행할 수 있다. 이 경우, 라우드니스 정규화 성능이 상대적으로 감소할 수 있으나 음질 훼손을 방지하는 내에서 가장 적극적으로 맞추는 베스트-에포트(Best-effort) 방법을 사용할 수 있다.
본 발명의 일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 라우드니스 정보에 기초하여 타겟 라우드니스 레벨에 최대한 가깝게 하는 라우드니스 게인 보정 방식을 사용할 수 있다. 오디오 신호 처리 장치는 해당 방식을 이용하여 라우드니스 레벨이 변화하지 않는 이퀄라이제이션을 제공할 수 있다.
이퀄라이제이션은 입력 오디오 신호의 주파수 별 에너지를 조절하여 사용자가 원하는 음색을 가지도록 하는 것이다. 이때, 입력 오디오 신호의 조절 정도에 따라서 전체적인 에너지가 커지는 현상이 발생할 수 있다. 이 경우, 입력 오디오 신호가 클리핑(Clipping)될 수 있다. 또한, 리미터에 의해 입력 오디오 신호 대비 음질 훼손이 발생하기도 한다. 이에 따라, 본 발명의 일 실시예에 따른 오디오 신호 처리 장치는 기 설정된 타겟 라우드니스 레벨(L_Target), 누적 라우드니스 레벨(L_Integ), 및 QSHI를 동일한 임의의 값으로 설정할 수 있다. 이 경우, 입력 오디오 신호의 라우드니스 게인(G_Target)은 수학식 14와 같이 표현될 수 있다. 즉, 오디오 신호 처리 장치는 선형의 라우드니스 게인(G_Target)을 획득할 수 있다. 타겟 라우드니스 레벨(L_Target), 누적 라우드니스 레벨(L_Integ), 및 QSHI이 서로 상쇄되기 때문이다.
[수학식 14]
G_Target = power ( 10, -dL_Proc) / 20
오디오 신호 처리 장치는 수학식 14의 라우드니스 게인(G_Target)을 입력 오디오 신호에 적용시킬 수 있다. 오디오 신호 처리 장치는 후처리에 의한 라우드니스 변화를 보정하여 입력 오디오 신호의 라우드니스 레벨과 동일한 출력 라우드니스 레벨을 제공할 수 있다. 오디오 신호 처리 장치는 후처리에 의한 라우드니스 변화를 보정하여 입력 오디오 신호의 라우드니스 레벨을 유지할 수 있다. 오디오 신호 처리 장치는 후처리에 의한 라우드니스 변화 예측 값을 이용하여 중간 오디오 신호의 라우드니스 레벨을 입력 오디오 신호의 라우드니스 레벨과 동일하게 설정할 수 있다. 이때, 중간 오디오 신호는 입력 오디오 신호로부터 후처리된 신호일 수 있다. 이는 오디오 신호 처리 장치가 후처리 과정을 통해 입력 오디오 신호 대비 톤(tone)이 변경되지만 본래 입력 오디오 신호의 라우드니스 레벨과 동일하게 제공함을 의미한다. 한편, 후처리에 의한 라우드니스 변화 예측 값은 도 3 및 도 4를 통해 전술한 방법으로 획득될 수 있다. 후처리에 의한 라우드니스 변화 예측 값은 분석에 의하여 제공된 WLoud_MB 또는 컨텐츠의 특성에 기반한 WLoud_MB에 기초하여 획득될 수 있다.
도 10은 본 발명의 일 실시예에 따라 오디오 신호 처리 장치가 타겟 라우드니스 레벨 및 인지적 음질 열화를 고려하여 입력 오디오 신호의 라우드니스 게인을 최적화하는 시스템을 나타내는 블록도이다. 오디오 신호 처리 장치는 입력 오디오 신호의 타겟 라우드니스 레벨 및 라우드니스 정보에 기초하여 동적 프로세서가 수용할 수 있는 타게 라우드니스 게인을 결정할 수 있다. 여기에서, 동적 프로세서는 전술한 리미터(limiter) 또는 컴프레서(compressor)와 같이 라우드니스 레벨에 따라 신호를 클리핑하는 처리 과정을 나타낼 수 있다. 입력 오디오 신호의 라우드니스 정보는 누적 라우드니스 레벨, 단구간 라우드니스 레벨, 순간 라우드니스 레벨, 샘플 피크, 트루 피크, 라우드니스 범위, 및 RMS(root- mean-square) 중 적어도 하나를 포함할 수 있다.
이하에서는, 오디오 신호 처리 장치가 입력 오디오 신호의 라우드니스 게인을 결정하는 구체적인 실시예에 대해 설명하도록 한다. 일 실시예에 따라 사용자가 설정 할 수 있는 타겟 라우드니스 레벨의 최대값은 -10LKFS이고, 입력 오디오 신호의 누적 라우드니스는 -22LKFS일 수 있다. 또한, 입력 오디오 신호의 복수의 단구간 라우드니스 레벨 중에서 열 번째에 해당하는 단구간 라우드니스 레벨은 -18LKFS일 수 있다. 이때, 열 번째에 해당하는 단구간 라우드니스 레벨은 전술한 도 4의 QSHI 추출부(404)를 참조하여 설명한 유효 단구간 라우드니스 레벨(L_ShortTerm_Effective)의 구체적인 실시예일 수 있다. 즉, -18LKFS은 DRC에 의한 음질 열화 여부를 판별하는 지표로 활용될 수 있다. 타겟 라우드니스 레벨의 최대값이 -10LKFS인 경우, 최대 증폭량은 12 LU (Loudness Unit)일 수 있다. 이 경우, 오디오 신호 처리 장치는 최대 증폭량 만큼 증폭시킨 열 번째 단구간 라우드니스 레벨을 기초로 QSHI를 획득할 수 있다.
오디오 신호 처리 장치는 사용자에 의해 입력된 기 설정된 타겟 라우드니스 레벨과 QSHI를 비교할 수 있다. 오디오 신호 처리 장치는 비교 결과에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정할 수 있다. 예를 들어, 오디오 신호 처리 장치는 기 설정된 타겟 라우드니스 레벨과 QSHI 중 더 작은 값에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정할 수 있다. 전술한 실시예에서는 DRC 음질 열화 여부를 판별하는 지표를 구하기 위한 단구간 라우드니스 레벨들을 내림차순 정렬시 상위 열번째로 선택하였으나, 본 개시가 이에 제한되는 것은 아니다. 또한, 오디오 신호 처리 장치는 단구간 라우드니스 레벨 외에 신호의 피크 값, RMS 중 적어도 하나에 대한 히스토그램 분석을 수행하여 QSHI를 획득할 수 있다.
도 11 및 도 12는 시간 별 입력 오디오 신호의 라우드니스 레벨 및 타겟 라우드니스 레벨을 위한 고정 게인을 나타내는 도면이다. 도 11은 타겟 라우드니스 레벨보다 작은 라우드니스 분포를 가지는 제1 입력 오디오 신호의 라우드니스 레벨을 타겟 라우드니스 레벨로 조정하기 위한 고정 게인을 나타낸다. 이 경우, 0dBFS보다 큰 구간에서 제1 입력 오디오 신호가 클리핑되어 과도한 음색 왜곡이 발생할 수 있다. 이와 같이, 타겟 라우드니스 레벨에 근접한 값을 얻기 위해서는 고정 게인을 통한 라우드니스 레벨 조정 방법에는 한계가 있다. 이에 따라, 오디오 신호 처리 장치는 제1 입력 오디오 신호의 구간 (2) 및 구간 (4)에 대해서는 고정 게인 값 보다 작은 게인을 적용할 수 있다.
도 12를 참조하면 제2 입력 오디오 신호는 도 11의 제1 입력 오디오 신호에 비래 동적 범위가 크다. 이에 따라, 오디오 신호 처리 장치가 제2 입력 오디오 신호에 타겟 라우드니스 레벨을 위한 고정 게인을 적용하는 경우 일부 구간은 상대적으로 라우드니스 레벨이 작을 수 있다. 이에 따라, 오디오 신호 처리 장치는 제2 입력 오디오 신호의 구간 (1) 및 구간 (3)에 대해서는 고정 게인 값 보다 큰 게인을 적용할 수 있다.
추가적인 실시예에 따라, 오디오 신호 처리 장치는 게인 부스트(Gain Boost)를 적용할 수 있다. 예를 들어, 오디오 신호 처리 장치는 타겟 라우드니스 범위를 획득할 수 있다. 오디오 신호 처리 장치는 획득된 타겟 라우드니스 범위에 기초하여 입력 오디오 신호의 구간 별 추가 게인을 설정할 수 있다. 구체적으로, 오디오 신호 처리 장치는 입력 오디오 신호의 시간 별 전체 구간 중에서 타겟 라우드니스 범위 밖의 라우드니스 레벨을 가지는 구간에 대해 설정된 추가 게인을 적용시킬 수 있다.
전술한 바와 같이, 본 발명의 일 실시예에 따른 오디오 신호 처리 장치는 입력 오디오 신호에 대해 시간에 따라 다른 게인을 적용하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정할 수 있다. 오디오 신호 처리 장치는 입력 오디오 신호의 라우드니스 메타데이터에 기초하여 입력 오디오 신호출력 라우드니스 레벨을 조정할 수 있다. 이때, 입력 오디오 신호의 라우드니스 메타데이터는 시간의 따라 변경되는 정보를 포함할 수 있다. 오디오 신호 처리 장치는 시간에 따라 다른 게인을 적용하기 위해 시간에 따라 다른 메타데이터를 참고하여 타겟 라우드니스 레벨, 타게 라우드니스 범위에 따라 입력 오디오 신호의 출력 라우드니스 레벨을 정규화할 수 있다. 이를 통해, 본 개시에서 오디오 신호 처리 장치는 라우드니스 정규화를 위해 입력 오디오 신호에 고정 게인을 적용하여 보상할 경우 전술한 바와 같은 문제점을 해결할 수 있다.
도 13 및 도 14는 본 개시의 일 실시예에 따라 입력 오디오 신호의 출력 라우드니스 레벨이 조정되는 방법을 나타내는 개략도이다. 도 13은 단일의 오디오 신호 처리 장치 내에서 입력 오디오 신호의 라우드니스 정보가 추출되고 입력 오디오 신호의 출력 라우드니스 레벨이 조정되는 실시예를 나타낸다. 이 경우, 오디오 신호 처리 장치는 입력 오디오 신호의 라우드니스 레벨을 측정할 수 있다. 오디오 신호 처리 장치는 라우드니스 측정치에 입력 컨텐츠의 라우드니스 정보를 획득할 수 있다. 오디오 신호 처리 장치가 실시간으로 입력 오디오 신호의 라우드니스 레벨을 측정하는 방법에 대해서는 도 19를 통해 구체적으로 설명하도록 한다.
도 14는 도 7 및 도 8을 통해 전술한 서버-클라이언트 구조를 나타낸다. 먼저, 서버는 입력 오디오신호를 분석하여 입력 오디오 신호의 라우드니스 정보를 추출할 수 있다. 또한, 서버는 입력 오디오 신호의 라우드니스 정보를 메타데이터 포맷으로 변환하여 라우드니스 메타데이터를 생성할 수 있다. 다음으로, 클라이언트는 입력 오디오 신호를 수신하고, 입력 오디오 신호와 별도로 입력 오디오 신호의 라우드니스 메타데이터를 수신할 수 있다. 또한, 클라이언트는 라우드니스 메타데이터를 파싱하여 입력 오디오 신호의 출력 라우드니스 레벨 조정에 사용되는 라우드니스 정보를 획득할 수 있다. 또한, 클라이언트는 라우드니스 정보 및 기 설정된 타겟 라우드니스 레벨에 기초하여 입력 오디오 신호의 라우드니스 게인을 획득할 수 있다. 클라이언트는 입력 오디오 신호의 출력 라우드니스 레벨을 입력 오디오 신호의 라우드니스 게인에 기초하여 조정할 수 있다.
도 15는 본 발명의 일 실시예에 따른 오디오 신호 처리 장치가 입력 오디오 신호의 라우드니스 정보를 획득하는 방법을 나타내는 도면이다. 오디오 신호 처리 장치는 입력 오디오 신호를 분석하여 라우드니스 정보를 획득할 수 있다. 예를 들어, 도 15의 방법은 전술한 도 7의 서버에서 수행될 수 있다. 오디오 신호 처리 장치는 라우드니스 정보를 라우드니스 메타데이터 형태로 출력할 수 있다.
일 실시예에 따라, 라우드니스 정보는 정적 라우드니스 메타데이터 및 동적 라우드니스 메타데이터를 포함할 수 있다. 정적 라우드니스 메타데이터는 적어도 하나의 정적 라우드니스 파라미터를 포함할 수 있다. 예를 들어, 정적 라우드니스 메타데이터는 입력 오디오 신호의 누적 라우드니스 레벨, 샘플 최대 피크(Max. Sample Peak), 라우드니스 범위(Loudness Range, LRA), 피크-to-라우드니스 범위(Peak to Loudness Range, PLR), 앨범 누적 라우드니스(Album Integrated Loudness), 상대 임계치(Relative Threshold), 최소 순간 라우드니스(Min. Momentary Loudness), 최대 순간 라우드니스(Max. Momentary Loudness), 프레임 당 샘플(Sample Per Frame) 중 적어도 하나를 포함할 수 있다.
오디오 신호 처리 장치는 입력 오디오 신호의 정적 라우드니스 메타데이터를 획득할 수 있다. 구체적으로, 오디오 신호 처리 장치는 청각 척도에 기반한 라우드니스 필터를 사용하여 입력 오디오 신호의 순간 라우드니스 레벨 및 입력 오디오 신호의 단구간 라우드니스 레벨 중 적어도 하나를 측정할 수 있다. 오디오 신호 처리 장치는 적어도 하나의 정적 라우드니스 파라미터를 포함하는 정적 라우드니스 메타데이터를 생성할 수 있다.
동적 라우드니스 메타데이터는 시간에 따라 변화하는 라우드니스 정보를 나타낼 수 있다. 동적 라우드니스 메타데이터는 적어도 하나의 동적 라우드니스 파라미터를 포함할 수 있다. 예를 들어, 동적 라우드니스 메타데이터는 입력 오디오 신호의 시간 별 단구간 라우드니스 레벨 및 피크 값(Peak Envelope) 중 적어도 하나를 포함할 수 있다. 오디오 신호 처리 장치가 피크 값을 획득하는 방법에 대해서는 도 21을 통해 구체적으로 설명하도록 한다.
일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 동적 라우드니스 메타데이터를 획득할 수 있다. 예를 들어, 오디오 신호 처리 장치는 입력 오디오 신호의 특정 구간에 대한 단구간 라우드니스 측정치를 획득할 수 있다. 오디오 신호 처리 장치는 해당 구간에 대한 입력 오디오 신호의 피크 값을 획득할 수 있다. 오디오 신호 처리 장치는 적어도 하나의 동적 라우드니스 파라미터를 포함하는 동적 라우드니스 메타데이터를 생성할 수 있다. 또한, 오디오 신호 처리 장치는 단구간 라우드니스 측정치 및 피크 값과 같은 동적 라우드니스 파라미터의 시간 지연 또는 앞섬을 보정할 수 있다. 예를 들어, 오디오 신호 처리 장치는 동적 라우드니스 파라미터를 쉬프트(shift)할 수 있다. 이에 대해서는, 도 21을 참조하여 구체적으로 설명하도록 한다.
오디오 신호 처리 장치는 특정 시점을 기준으로 과거의 샘플 값과 이후에 입력될 샘플 값에 대한 단구간 라우드니스 레벨을 획득할 수 있다. 이를 통해, 오디오 신호 처리 장치는 입력 오디오 신호의 라우드니스 변화에 보다 안정적으로 라우드니스 레벨을 제어할 수 있다. 예를 들어, 오디오 신호 처리 장치가 이미 획득된 동적 라우드니스 파라미터의 시간 기준 값을 쉬프트하여 과거의 샘플 값과 이후에 입력될 샘플 값에 대한 단구간 라우드니스 레벨을 획득할 수 있다. 또한, 오디오 신호 처리 장치는 버퍼를 이용하여 과거의 샘플 값과 이후에 입력될 샘플 값에 대한 단구간 라우드니스 레벨을 획득할 수 있다. 이때, 오디오 신호 처리 장치는 충분한 룩-어헤드(Look-ahead) 시간을 설정할 수 있다.
도 16은 본 발명의 일 실시예에 따른 오디오 신호 처리 장치가 입력 오디오 신호의 출력 라우드니스 레벨을 조정하는 방법을 나타내는 도면이다. 오디오 신호 처리 장치는 입력 오디오 신호의 타겟 라우드니스 레벨 및 라우드니스 메타데이터에 기초하여 입력 오디오 신호의 라우드니스 게인을 획득할 수 있다. 구체적으로, 오디오 신호 처리 장치는 타겟 라우드니스 레벨 및 정적 라우드니스 메타데이터에 기초하여 게인 파라미터를 계산할 수 있다. 오디오 신호 처리 장치는 계산된 게인 파라미터 및 동적 라우드니스 메타데이터에 기초하여 입력 오디오 신호의 특정 프레임에 적용되는 라우드니스 게인을 획득할 수 있다. 예를 들어, 오디오 신호 처리 장치는 동적 라우드니스 메타데이터를 파싱하여 해당 프레임에 대응하는 단구간 라우드니스 레벨 및 피크 값 중 적어도 하나를 획득할 수 있다. 오디오 신호 처리 장치는 해당 프레임에 대응하는 단구간 라우드니스 레벨 및 피크 값 중 적어도 하나에 기초하여 해당 프레임에 적용되는 라우드니스 게인을 획득할 수 있다. 구체적으로, 오디오 신호 처리 장치는 계산된 게인 파라미터 및 해당 프레임에 대응하는 단구간 라우드니스 레벨에 기초하여 해당 프레임에 적용되는 라우드니스 게인을 획득할 수 있다. 이때, 해당 프레임에 적용되는 라우드니스 게인은 해당 프레임 내에서 라우드니스 레벨에 따른 클리핑이 발생하지 않도록 제한될 수 있다. 오디오 신호 처리 장치는 피크 값에 기초하여 해당 프레임 내에서 라우드니스 레벨에 따른 클리핑이 발생하지 않도록 해당 프레임에 적용되는 라우드니스 게인을 보정할 수 있다. 오디오 신호 처리 장치는 입력 오디오 신호에 최종 라우드니스 게인을 적용하여 중간 오디오 신호를 생성할 수 있다. 또한, 오디오 신호 처리 장치는 중간 오디오 신호에 리미터를 적용하여 출력 오디오 신호를 생성할 수 있다. 오디오 신호 처리 장치는 출력 오디오 신호를 출력할 수 있다.추가적인 실시예에 따라, 인접한 프레임 간의 프레임 별 라우드니스 게인의 차이가 기 설정된 크기 이상인 경우, 오디오 신호 처리 장치는 프레임 별 라우드니스 게인을 보정할 수 있다. 이때, 오디오 신호 처리 장치는 스무딩(Smoothing) 방법을 사용하여 라우드니스 게인이 완만하게 변하도록 조정할 수 있다. 이를 통해, 오디오 신호 처리 장치는 프레임 별 라우드니스 게인의 변화에 따른 음색 왜곡이나 갑자기 레벨이 크게 바뀌는 볼륨 펌핑(pumping)을 방지할 수 있다. 오디오 신호 처리 장치가 라우드니스 게인을 스무딩하는 방법과 관련하여서는 도 22를 통해 구체적으로 설명하도록 한다.
도 17은 본 발명의 일 실시예에 따른 오디오 신호 처리 장치가 타겟 라우드니스 범위에 기초하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정하는 방법을 나타내는 도면이다. 오디오 신호 처리 장치는 전술한 도 16의 게인 파라미터를 계산하는 과정에서 타게 라우드니스 범위를 추가적으로 고려할 수 있다. 도 12를 통해 설명한 바와 같이, 타겟 라우드니스 범위는 입력 오디오 신호의 동적 범위에 비해 좁을 수 있다. 환경에 따라 작은 볼륨으로 영상/음향을 청취하는 경우나, 지하철 또는 길거리와 같이 시끄러운 환경에서 음악을 듣는 경우 입력 오디오 신호의 동적 범위를 감소시켜 재생할 필요가 있다.
이에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 타겟 라우드니스 범위에 기초하여 입력 오디오 신호의 게인 파라미터를 계산할 수 있다. 이때, 게인 파라미터는 라우드니스 압축에 사용되는 게인 비율(gain ratio)를 포함할 수 있다. 오디오 신호 처리 장치는 게인 비율에 기초하여 입력 오디오 신호가 포함하는 복수의 프레임 중에서 기 설정된 크기 보다 작은 단구간 라우드니스를 가지는 프레임에 대해 추가적인 부스트(boost) 게인를 적용할 수 있다. 오디오 신호 처리 장치는 게인 비율에 기초하여 입력 오디오 신호가 포함하는 복수의 프레임 중에서 기 설정된 크기 보다 큰 단구간 라우드니스를 가지는 프레임에 대해 추가적인 컷(cut) 게인을 적용할 수 있다. 이를 통해, 오디오 신호 처리 장치는 입력 오디오 신호의 전 구간의 출력 라우드니스 레벨이 타겟 라우드니스 레벨에 근사하도록 조정할 수 있다.
추가적인 실시예에 따라, 오디오 신호 처리 장치는 시간 구간 별로 다르게 측정된 라우드니스 파라미터에 기초하여 시간 구간 별 라우드니스 정규화를 수행할 수 있다. 구체적으로, 오디오 신호 처리 장치는 타겟 라우드니스 레벨(L_T), 누적 라우드니스 레벨(L_I), 단구간 라우드니스 레벨(L_S), 상대적인 문턱 값(relative threshold, L_Rel), 노이즈 플로어 레벨(noise floor level, L_Noise), 피크 값(P)에 기초하여 입력 오디오 신호의 시간 구간 별 라우드니스 게인(G_loud)을 결정할 수 있다. 여기에서, L_Rel은 입력 오디오 신호의 전구간에서 유효한 동적 라우드니스 파라미터의 평균에 기 설정되 값이 더해진 값일 수 있다. 이때, 기 설정된 값은 -20 LU일 수 있다. 또한, 동적 라우드니스 파라미터는 순간 라우드니스 레벨 또는 단구간 라우드니스 레벨일 수 있다.
예를 들어, L_Rel은 입력 오디오 신호의 구간 별 단구간 라우드니스 레벨들 중에서 적어도 유효 라우드니스 레벨 보다 큰 값을 가지는 단구간 라우드니스 레벨들의 평균에 기초하여 산출된 값일 수 있다. L_Rel은 입력 오디오 신호의 구간 별 순간 라우드니스 레벨들 중에서 적어도 유효 라우드니스 레벨 보다 큰 값을 가지는 순간 라우드니스 레벨들의 평균에 기초하여 산출된 값일 수 있다. 여기에서, 유효 라우드니스 레벨은 청각적으로 인지되기 어려운 라우드니스 레벨에 기초하여 설정된 값일 수 있다. 유효 라우드니스 레벨은 소리가 거의 존재하지 않는 오디오 신호의 라우드니스 레벨에 기초하여 설정된 값일 수 있다. 예를 들어, 유효 라우드니스 레벨은 -70LKFS에 기초하여 설정된 값일 수 있다.
또한, L_Noise는 입력 오디오 신호에서 소리가 거의 존재하지 않는 구간 라우드니스 레벨 또는 입력 오디오 신호에서 매우 낮은 레벨의 배경 잡음(background noise)에 대응하는 구간의 라우드니스 레벨 중 적어도 하나에 기초하여 산출된 값일 수 있다.
일 실시예에 따라, L_T, L_I, L_S, L_Rel, L_Noise 및 P 각각은 전술한 라우드니스 메타데이터를 통해 획득될 수 있다. 또한, 시간 구간은 프레임을 포함할 수 있다. 전술한 실시예에서 단구간 라우드니스 레벨(L_S)은 특정 시간 구간을 대표하는 라우드니스 대표 값으로 대체될 수 있다. 예를 들어, 단구간 라우드니스 레벨(L_S)은 입력 오디오 신호의 순간 라우드니스 레벨로 대체될 수 있다. 오디오 신호 처리 장치가 L_T, L_I, L_S, L_Rel, L_Noise 및 P에 기초하여 시간 구간 별 라우드니스 게인(G_loud)을 획득하는 방법을 수학식으로 나타내면 아래 수학식 16과 같다.
[수학식 16]
수학식 16에서, r_1 및 r_2은 입력 오디오 신호 대비 출력 오디오 신호의 동적 범위를 제어하기 위한 라우드니스 압축 비율을 나타낼 수 있다. r1은 입력 오디오 신호의 입력 라우드니스 레벨이 적어도 누적 라우드니스 레벨보다 작은 구간에서 해당 구간의 라우드니스 게인을 획득하기 위해 사용되는 라우드니스 압축 비율일 수 있다. r_1은 입력 오디오 신호의 라우드니스 범위를 나타내는 LRA, PLR, 또는 순간 라우드니스 최대치 중 적어도 하나에 기초하여 설정될 수 있다. r_1은 0과 1사이 임의의 상수일 수 있다. r_2는 입력 오디오 신호의 입력 라우드니스 레벨이 누적 라우드니스 레벨보다 작고, 입력 라우드니스 레벨이 L_Rel 보다도 작은 구간에서 해당 구간의 라우드니스 게인을 획득하기 위해 사용되는 압축 비율일 수 있다. 이때, r_2는 노이즈 성분의 부스트를 최소화하기 위해 적어도 r_1 보다 작은 값으로 설정될 수 있다. 오디오 신호 처리 장치는 G_loud[n]를 스무딩하여 입력 오디오 신호에 적용할 수 있다. 또한, clippingThreshold는 최대 허용 샘플 피크 값을 나타낼 수 있다. clippingThreshold는 전술한 QSHI, 최대 트루 피크(truePeak) 및 최대 샘플 피크 값 중 적어도 하나를 기초로 설정된 값일 수 있다. 예를 들어, clippingThreshold는 QSHI와 동일한 값일 수 있다. 또는 clippingThreshold는 오디오 신호 처리 장치 또는 오디오 제공 시스템에서 임의로 설정되는 값일 수 있다.
이하에서는, 본 발명의 일 실시예에 따른 오디오 신호 처리 장치가 라우드니스 측정치를 획득하는 방법에 대해 도 18을 참조하여 구체적으로 설명하도록 한다. 도 18은 본 발명의 일 실시예에 따라 오디오 신호 처리 장치가 입력 컨텐츠의 라우드니스를 측정하는 방법을 나타내는 도면이다. 일 실시예에 따라, 오디오 신호 처리 장치는 전술한 측정 윈도우에 기초하여 입력 컨텐츠의 라우드니스를 측정할 수 있다. 또한, 오디오 신호 처리 장치는 입력 컨텐츠의 측정 윈도우 별 라우드니스 측정치를 획득할 수 있다. 오디오 신호 처리 장치는 측정 윈도우 별 라우드니스 측정치에 기초하여 라우드니스 정보를 획득할 수 있다.
도 18의 실시예에서, 오디오 신호 처리 장치는 측정 윈도우(801)의 길이에 기초하여 측정 윈도우 별 측정치를 획득할 수 있다. 이때, 측정 윈도우(801)의 길이는 오디오 신호 처리 장치에 기 저장된 디폴트 값일 수 있다. 본 발명의 일 실시예에 따라, 측정 윈도우(801)의 길이는 입력 컨텐츠에 따라 달라질 수도 있다. 예를 들어, 오디오 신호 처리 장치는 입력 컨텐츠의 부가 정보에 기초하여 입력 컨텐츠에 대응하는 측정 윈도우의 길이를 획득할 수 있다. 도 18의 실시예에서, 입력 컨텐츠에 대응하는 측정 윈도우의 길이는 400ms일 수 있다. 오디오 신호 처리 장치는 입력 컨텐츠 전체 구간 중에서 특정 400ms 길이의 구간에 대응하는 라우드니스 측정치를 획득할 수 있다.
일 실시예에 따라, 측정 윈도우의 길이는 부가 정보에 기초하여 획득될 수 있다. 예를 들어, 측정 윈도우의 길이는 입력 컨텐츠의 라우드니스 범위에 기초하여 획득될 수 있다. 여기에서, 라우드니스 범위는 컨텐츠의 전체 구간에 대한 라우드니스 레벨 분포를 나타내는 값일 수 있다. 라우드니스 범위는 LU와 같은 상대적인 측정량을 나타내는 단위를 이용하여 표시될 수 있다. 오디오 신호 처리 장치는 부가 정보로부터 입력 컨텐츠의 라우드니스 범위에 대한 정보를 획득할 수 있다. 다음으로, 오디오 신호 처리 장치는 입력 컨텐츠의 라우드니스 범위에 기초하여 측정 윈도우의 길이를 결정할 수 있다. 이때, 입력 컨텐츠의 측정 윈도우의 길이는 입력 컨텐츠의 라우드니스 범위 보다 넓은 라우드니스 범위의 폭을 가지는 다른 컨텐츠의 측정 윈도우 길이 보다 짧은 값으로 설정될 수 있다. 예를 들어, 제1 입력 컨텐츠의 라우드니스 범위가 제2 입력 컨텐츠의 라우드니스 범위 보다 큰 경우, 제1 입력 컨텐츠에 대한 측정 윈도우의 길이는 제2 입력 컨텐츠에 대한 측정 윈도우의 길이보다 길 수 있다.
또한, 오디오 신호 처리 장치는 입력 컨텐츠에 대한 측정치를 획득하는 측정 주기에 따라 측정 윈도우 별 라우드니스 측정치를 획득할 수 있다. 본 개시에서, 측정 주기는 측정 윈도우가 이동되는 시간적 거리를 나타낼 수 있다. 도 18을 참조하면, 제1 측정치(802)는 입력 컨텐츠가 재생되기 시작한 시점을 기준으로 (300ms~ 700ms) 구간에 대응하는 라우드니스 측정치일 수 있다. 또한, 제2 측정치(803)는 입력 컨텐츠가 재생되기 시작한 시점을 기준으로 (400ms~800ms) 구간에 대응하는 라우드니스 측정치일 수 있다. 입력 컨텐츠가 재생되기 시작한 시점으로부터 현재 시점까지의 시간 길이가 측정 윈도우의 길이 보다 작은 경우, 오디오 신호 처리 장치는 현재 시점 이후 도래하는 가장 가까운 측정 주기에 라우드니스 측정치를 획득할 수 있다. 이 경우, 오디오 신호 처리 장치는 측정 윈도우의 길이 보다 짧은 구간에 대응하는 라우드니스 측정치를 획득할 수 있다.
구체적으로, 오디오 신호 처리 장치는 부가 정보에 기초하여 측정 주기를 결정할 수 있다. 예를 들어, 측정 주기는 입력 컨텐츠의 길이에 기초하여 결정될 수 있다. 예를 들어, 제1 입력 컨텐츠의 길이 보다 제2 입력 컨텐츠의 길이가 긴 경우, 제1 입력 컨텐츠의 측정 주기는 제2 입력 컨텐츠의 측정 주기 보다 짧을 수 있다. 또한, 오디오 신호 처리 장치는 결정된 측정 주기에 기초하여 측정 윈도우 별 라우드니스 측정치를 획득할 수 있다. 도 18의 실시예에서 측정 주기는 100ms일 수 있다. 오디오 신호 처리 장치는 측정 윈도우를 100ms 마다 이동시켜, 측정 윈도우 별 라우드니스 측정치를 획득할 수 있다. 또한, 오디오 신호 처리 장치는 도 18을 통해 측정된 복수의 라우드니스 측정치들에 기초하여 전술한 라우드니스 정보를 획득할 수 있다.
도 19는 본 발명의 일 실시예에 따른 오디오 신호 처리 장치의 동작을 나타내는 흐름도이다. 본 발명의 일 실시예에 따른 오디오 신호 처리 장치는 입력 오디오 신호를 수신할 수 있다(단계 S1901). 이때, 입력 오디오 신호는 도 2를 통해 설명한 입력 컨텐츠를 포함할 수 있다. 다음으로, 오디오 신호 처리 장치는 입력 오디오 신호에 대응하는 라우드니스 메타데이터를 수신할 수 있다(단계 S1902).
다음으로, 오디오 신호 처리 장치는 라우드니스 메타데이터를 파싱하여 입력 오디오 신호의 라우드니스 정보를 획득할 수 있다(단계 S1903). 본 발명의 일 실시예에 따라, 라우드니스 정보는 입력 오디오 신호의 누적 라우드니스 레벨, 적어도 하나의 단구간 라우드니스 레벨, 품질 보장 히스토그램 지표(Quality Secure Histogram Index, QSHI), 입력 오디오 신호의 동적 범위(dynamic range), 주파수 별 라우드니스 에너지, 주파수 별 라우드니스 비율, 및 피크 값(peak envelope) 각각을 나타내는 정보 중 적어도 하나를 포함할 수 있다. 오디오 신호 처리 장치가 라우드니스 정보가 포함하는 각각의 정보들을 획득하는 방법에는 전술한 도 2 내지 도 18을 참조하여 설명될 실시예들이 적용될 수 있다.
QSHI는 인지적 음질 손상이 발생하지 않는 문턱 라우드니스 레벨을 나타낼 수 있다. QSHI는 전술한 도 3의 단계 S303, 도 4의 QSHI 추출부(404) 및 도 10을 통해 설명한 실시예들에 따라 획득될 수 있다. 예를 들어, QSHI는 입력 오디오 신호의 라우드니스 히스토그램에 기초하여 산출된 라우드니스 파라미터일 수 있다. 이때, 라우드니스 히스토그램은 입력 오디오 신호의 시간 별 단구간 라우드니스 레벨들의 크기 히스토그램일 수 있다. 또는 라우드니스 히스토그램은 입력 오디오 신호의 구간 별 피크 값 또는 RMS(root-mean-square)에 관한 크기 히스토그램일 수 있다. QSHI는 상기 입력 오디오 신호의 누적 라우드니스 레벨 보다 클 수 있다.
일 실시예에 따라, QSHI는 입력 오디오 신호의 라우드니스 히스토그램으로부터 예측된 예측 라우드니스 히스토그램에 기초하여 산출된 파라미터일 수 있다. 이때, 예측 라우드니스 히스토그램은 입력 오디오 신호가 타겟 라우드니스 레벨에 따라 출력되는 경우 예측되는 라우드니스 파라미터에 기초하여 생성된 히스토그램일 수 있다.
일 실시예에 따라, QSHI는 오디오 신호 처리 장치에서 리미터가 구동되는 횟수에 기초하여 결정될 수 있다. 이 경우, 오디오 신호 처리 장치는 출력 오디오 신호에 출력 오디오 신호의 라우드니스 레벨을 제한하는 라우드니스 리미터(limiter)를 적용하여 출력할 수 있다. 이때, 출력 오디오 신호는 입력 오디오 신호의 출력 라우드니스 레벨이 라우드니스 게인에 따라 조정된 신호일 수 있다. QSHI는 출력 오디오 신호의 전체 구간의 단구간 라우드니스 레벨들이 기 설정된 레벨 이하가 되도록 설정된 파라미터일 수 있다.
다음으로, 오디오 신호 처리 장치는 라우드니스 정보 및 타겟 라우드니스 레벨에 기초하여 입력 오디오 신호의 라우드니스 게인을 획득할 수 있다(S1904). 일 실시예에 따라, 입력 오디오 신호의 라우드니스 게인은 상기 입력 오디오 신호의 전체 구간에서 고정된 값을 가지는 고정 게인일 수 있다. 다른 일 실시예에 따라, 입력 오디오 신호의 라우드니스 게인은 상기 입력 오디오 신호가 재생되는 시간 동안 시간에 따라 변화하는 게인일 수 있다.
본 발명의 일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 누적 라우드니스를 수신할 수 있다. 또한, 오디오 신호 처리 장치는 입력 오디오 신호의 누적 라우드니스, QSHI 및 상기 타겟 라우드니스 레벨에 기초하여 라우드니스 게인을 결정할 수 있다.
일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 타겟 라우드니스 레벨과 QSHI를 비교할 수 있다. 또한, 오디오 신호 처리 장치는 비교 결과에 기초하여 라우드니스 게인을 결정할 수 있다. 오디오 신호 처리 장치는 입력 오디오 신호의 타겟 라우드니스 레벨과 QSHI 중에서 더 작은 값에 기초하여 라우드니스 게인을 결정할 수 있다. 이에 대해서는, 도 10을 통해 설명한 구체적인 실시예들이 적용될 수 있다.
일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 QSHI로부터 보정된 QSHI를 기초로 입력 오디오 신호의 라우드니스 게인을 획득할 수 있다. 예를 들어, 오디오 신호 처리 장치는 입력 오디오 신호에 대한 후처리(post processing)를 수행할 수 있다. 이 경우, 오디오 신호 처리 장치는 입력 오디오 신호에 대한 후처리의 특성을 나타내는 후처리 정보를 수신할 수 있다. 또한, 오디오 신호 처리 장치는 후처리 정보에 기초하여 기 획득된 QSHI를 보정할 수 있다. 일 실시예에 따라, 오디오 신호 처리 장치는 후처리 정보 및 기 저장된 함수에 기초하여 기 획득된 QSHI를 보정할 수 있다. 오디오 신호 처리 장치는 후처리 정보 및 기 저장된 룩업 테이블(look-up table)에 기초하여 기 획득된 QSHI를 보정할 수 있다. 이때, 기 저장된 룩업 테이블은 후처리의 특성에 따른 QSHI 보정에 관한 정보를 포함하는 테이블일 수 있다. 또한, QSHI 보정에 관한 정보는 후처리의 특성에 따른 QSHI 보정 값을 나타내는 정보를 포함할 수 있다. 오디오 신호 처리 장치는 기 저장된 룩업 테이블에 기초하여 입력 오디오 신호에 대한 후처리에 대응하는 QSHI 보정 값을 획득할 수 있다. 오디오 신호 처리 장치는 획득된 QSHI에 QSHI 보정 값을 더해 상기 QSHI를 보정할 수 있다. 오디오 신호 처리 장치는 전술한 방법으로 보정된 QSHI에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정할 수 있다.
일 실시예에 따라, 오디오 신호 처리 장치는 주파수 별 라우드니스 에너지 및 입력 오디오 신호에 대한 후처리의 특성을 나타내는 후처리 정보에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정할 수 있다. 오디오 신호 처리 장치는 후처리에 의해 변화하는 밴드 별 라우드니스 레벨에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정할 수 있다.
일 실시예에 따라, 오디오 신호 처리 장치는 주파수 별 라우드니스 에너지 및 입력 오디오 신호에 대한 후처리의 특성을 나타내는 후처리 정보에 기초하여 후처리에 의해 변화하는 밴드 별 라우드니스 레벨을 획득할 수 있다. 오디오 신호 처리 장치는 주파수 별 라우드니스 비율 및 입력 오디오 신호의 후처리 정보에 기초하여 후처리에 의해 변화하는 밴드 별 라우드니스 레벨을 획득할 수 있다. 후처리에 의해 변화하는 밴드 별 라우드니스 레벨은 입력 오디오 신호의 주파수 별 라우드니스 비율의 내적에 기반하여 계산될 수 있다. 후처리에 의해 변화하는 밴드 별 라우드니스 레벨은 또한, 인지적 라우드니스 특성에 기반하여 획득된 파라미터일 수 있다. 오디오 신호 처리 장치는 청각 척도에 기반한 라우드니스 필터를 기초로 입력 오디오 신호의 후처리에 의해 변화하는 밴드 별 라우드니스 레벨을 획득할 수 있다. 구체적으로, 라우드니스 필터는 등-라우드니스 곡선(equal-loudness contours)의 역필터, 또는 이를 근사화시킨 케이-가중(K-weighting) 필터 중 적어도 하나일 수 있다. 입력 오디오 신호가 포함하는 복수의 프레임 중에서 특정 프레임의 라우드니스 레벨이 상대적인 문턱 값 보다 작거나 동일한 경우, 오디오 신호처리 장치는 해당 프레임에 대응하는 후처리에 의해 변화하는 밴드 별 라우드니스 레벨을 연산하지 않을 수 있다. 다른 예로, 입력 오디오 신호의 후처리에 의해 변화하는 밴드 별 라우드니스 레벨은 입력 오디오 신호의 장르, 및 사용자의 입력 중 적어도 하나의 기초하여 설정된 파라미터일 수 있다.
입력 오디오 신호의 주파수 별 라우드니스 비율 및/또는 주파수 별 라우드니스 에너지는 입력 오디오 신호에 대한 라우드니스 측정치에 기초하여 산출된 값일 수 있다. 주파수 별 라우드니스 비율은 인지적 라우드니스 특성에 기반하여 획득된 파라미터일 수 있다. 오디오 신호 처리 장치는 청각 척도에 기반한 라우드니스 필터를 기초로 입력 오디오 신호의 주파수 별 라우드니스 비율을 획득할 수 있다. 구체적으로, 라우드니스 필터는 등-라우드니스 곡선(equal-loudness contours)의 역필터, 또는 이를 근사화시킨 케이-가중(K-weighting) 필터 중 적어도 하나일 수 있다. 입력 오디오 신호가 포함하는 복수의 프레임 중에서 특정 프레임의 라우드니스 레벨이 상대적인 문턱 값 보다 작거나 동일한 경우, 오디오 신호처리 장치는 해당 프레임에 대응하는 주파수 별 라우드니스 비율을 연산하지 않을 수 있다. 주파수 별 라우드니스 비율은 도 4의 주파수 별 라우드니스 분석부(402)를 참조하여 설명된 실시예에 따라 획득될 수 있다. 다른 예로, 입력 오디오 신호의 주파수 별 라우드니스 비율은 입력 오디오 신호의 장르, 및 사용자의 입력 중 적어도 하나의 기초하여 설정된 파라미터일 수 있다.
오디오 신호 처리 장치는 사용자 입력에 기초하여 입력 오디오 신호에 대한 후처리 정보를 획득할 수 있다. 이때, 사용자 입력은 입력 오디오 신호와 관련된 입력일 수 있다. 또한, 사용자는 오디오 신호 처리 장치를 사용하는 사용자일 수 있다. 후처리 정보는 오디오 신호 처리 장치의 출력 특성, 입력 오디오 신호의 장르, 사용자 입력에 따른 후처리 모드, 이퀄라이제이션 종류, 리벌버레이션(reverberation), 공간 보상(room compensation) 각각을 나타내는 정보 중 적어도 하나를 포함할 수 있다. 오디오 신호 처리 장치가 후처리에 의해 변화하는 밴드 별 라우드니스 레벨에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정하는 방법에는 도 3의 단계 S303을 통해 설명한 실시예들이 적용될 수 있다.
일 실시예에 따라, 오디오 신호 처리 장치는 라우드니스 변화 예측 값에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정할 수 있다. 라우드니스 변화 예측 값은 후처리에 의한 입력 오디오 신호의 라우드니스 변화에 대한 예측 값일 수 있다. 오디오 신호 처리 장치는 사용자에 의해 설정된 후처리 정보에 기초하여 라우드니스 변화 예측 값을 획득할 수 있다. 오디오 신호 처리 장치는 입력 오디오 신호의 주파수 별 특성 및 후처리에 의해 변화하는 밴드 별 라우드니스 레벨 중 적어도 하나에 기초하여 라우드니스 변화 예측 값을 획득할 수 있다. 라우드니스 변화 예측 값은 입력 오디오 신호의 주파수 별 라우드니스 비율의 내적에 기반하여 계산될 수 있다. 라우드니스 변화 예측 값은 인지적 라우드니스 특성에 기반하여 획득된 파라미터일 수 있다. 오디오 신호 처리 장치는 청각 척도에 기반한 라우드니스 필터를 기초로 입력 오디오 신호의 라우드니스 변화 예측 값을 획득할 수 있다. 구체적으로, 라우드니스 필터는 등-라우드니스 곡선(equal-loudness contours)의 역필터, 또는 이를 근사화시킨 케이-가중(K-weighting) 필터 중 적어도 하나일 수 있다. 입력 오디오 신호가 포함하는 복수의 프레임 중에서 특정 프레임의 라우드니스 레벨이 상대적인 문턱 값 보다 작거나 동일한 경우, 오디오 신호처리 장치는 해당 프레임에 대응하는 라우드니스 변화 예측 값을 연산하지 않을 수 있다. 오디오 신호 처리 장치가 라우드니스 변화 예측 값을 획득하는 방법에는 도 4의 주파수 별 라우드니스 분석부(402) 및 후처리 라우드니스 예측부(403)를 참조하여 설명된 실시예들이 적용될 수 있다.
본 발명의 일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 프레임 별 라우드니스 정보에 기초하여 입력 오디오 신호의 라우드니스 게인을 결정할 수 있다. 오디오 신호 처리 장치는 입력 오디오 신호의 프레임 별 라우드니스 정보에 기초하여 입력 오디오 신호의 프레임 별 라우드니스 게인을 획득할 수 있다. 입력 오디오 신호의 라우드니스 게인은 상기 입력 오디오 신호가 재생되는 시간 동안 시간에 따라 변화하는 게인일 수 있다. 일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 프레임 별 라우드니스 정보를 포함하는 라우드니스 메타데이터를 수신할 수 있다. 오디오 신호 처리 장치는 라우드니스 메타데이터를 파싱하여 입력 오디오 신호의 프레임 별 라우드니스 정보를 획득할 수 있다. 프레임 별 라우드니스 정보는 동적 라우드니스 파라미터를 포함할 수 있다. 일 실시예에 따라, 프레임 별 라우드니스 정보는 프레임 별 피크 값을 나타내는 정보를 포함할 수 있다. 프레임 별 피크 값은 기 설정된 길이의 프레임에 포함된 오디오 신호의 최대 절대 값에 기초하여 획득될 수 있다.
일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 프레임 별 피크 값에 기초하여 입력 오디오 신호의 프레임 별 라우드니스 게인을 결정할 수 있다. 오디오 신호 처리 장치는 타겟 라우드니스 레벨 및 입력 오디오 신호의 프레임 별 피크 값에 기초하여 입력 오디오 신호의 프레임 별 라우드니스 게인을 결정할 수 있다. 예를 들어, 오디오 신호 처리 장치는 타겟 라우드니스 레벨에 기초하여 프레임 별 피크 값을 초과하지 않도록 프레임 별 라우드니스 게인을 설정할 수 있다. 또한, 오디오 신호 처리 장치는 프레임 별 라우드니스 게인에 기초하여 입력 오디오 신호의 해당 프레임의 출력 라우드니스 레벨을 조정할 수 있다. 오디오 신호 처리 장치가 프레임 별 라우드니스 정보에 기초하여 라우드니스 게인을 결정하는 방법에는 전술한 도 17을 참조하여 설명한 실시예들이 적용될 수 있다.
다음으로, 오디오 신호 처리 장치는 입력 오디오 신호의 출력 라우드니스 레벨을 라우드니스 게인에 기초하여 조정할 수 있다(S1905). 일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 출력 라우드니스 레벨을 조정하여 출력 오디오 신호를 생성할 수 있다. 이때, 오디오 신호 처리 장치는 결정된 라우드니스 게인을 사용할 수 있다. 일 실시예에 따라, 오디오 신호 처리 장치는 생성된 출력 오디오 신호에 라우드니스 리미터(limiter)를 적용하여 출력할 수 있다.
본 발명의 추가적인 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 전체 구간 중에서 일부 구간에 대한 구간 라우드니스 게인에 기초하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정할 수 있다. 일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 특정 구간에 대응하는 라우드니스 파라미터에 기초하여 해당 구간에 대응하는 라우드니스 게인을 획득할 수 있다. 예를 들어, 입력 오디오 신호의 특정 구간에 대응하는 라우드니스 파라미터는 해당 구간에 대한 적어도 하나의 대표 값을 포함할 수 있다. 이때, 대표 값은 해당 구간에 대응하는 입력 오디오 신호의 라우드니스 레벨의 절대값의 최대값, 및 단구간 라우드니스 레벨 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라, 오디오 신호 처리 장치는 타겟 라우드니스 레벨, 누적 라우드니스 레벨, 및 입력 라우드니스 레벨에 기초하여 입력 오디오 신호의 시간 구간 별 라우드니스 게인을 결정할 수 있다. 이때, 입력 라우드니스 레벨은 특정 구간을 대표하는 라우드니스 레벨일 수 있다. 예를 들어, 입력 라우드니스 레벨은 단구간 라우드니스 레벨일 수 있다. 오디오 신호 처리 장치는 타겟 라우드니스 레벨, 누적 라우드니스 레벨, 입력 라우드니스 레벨, 상대적인 문턱 값(relative threshold), 노이즈 플로어 레벨(noise floor level), 피크 값 중 적어도 둘 이상을 서로 비교할 수 있다. 또한, 오디오 신호 처리 장치는 비교 결과에 기초하여 입력 오디오 신호의 시간 구간 별 라우드니스 게인을 결정할 수 있다.
예를 들어, 오디오 신호 처리 장치는 타겟 라우드니스 레벨과 누적 라우드니스 레벨을 비교할 수 있다. 오디오 신호 처리 장치는 입력 라우드니스 레벨과 누적 라우드니스 레벨을 비교할 수 있다. 타겟 라우드니스 레벨이 누적 라우드니스 레벨 보다 작고, 입력 라우드니스 레벨이 누적 라우드니스 레벨 보다 큰 경우, 오디오 신호 처리 장치는 제1 구간 별 라우드니스 게인을 해당 구간의 입력 오디오 신호에 적용할 수 있다.
다른 예로, 타겟 라우드니스 레벨이 누적 라우드니스 레벨 보다 크고, 입력 라우드니스 레벨이 누적 라우드니스 레벨 보다 작고, 입력 라우드니스 레벨이 상대적인 문턱 값 보다 큰 경우, 오디오 신호 처리 장치는 제2 구간 별 라우드니스 게인을 해당 구간의 입력 오디오 신호에 적용할 수 있다.
또 다른 예로, 타겟 라우드니스 레벨이 누적 라우드니스 레벨 보다 크고, 입력 라우드니스 레벨이 누적 라우드니스 레벨 보다 작고, 입력 라우드니스 레벨이 상대적인 문턱 값 보다 작고, 입력 라우드니스 레벨이 노이즈 플로어 레벨 보다 큰 경우, 오디오 신호 처리 장치는 제3 구간 별 라우드니스 게인을 해당 구간의 입력 오디오 신호에 적용할 수 있다.
또 다른 예로, 타겟 라우드니스 레벨이 누적 라우드니스 레벨 보다 크고, 입력 라우드니스 레벨이 누적 라우드니스 레벨 보다 작고, 입력 라우드니스 레벨이 상대적인 문턱 값 보다 작고, 입력 라우드니스 레벨이 노이즈 플로어 레벨 보다 작은 경우, 오디오 신호 처리 장치는 제4 구간 별 라우드니스 게인을 해당 구간의 입력 오디오 신호에 적용할 수 있다. 이때, 제4 구간 별 라우드니스 게인은 해당 프레임보다 앞선 프레임의 라우드니스 게인일 수 있다. 예를 들어, 타겟 라우드니스 레벨이 누적 라우드니스 레벨 보다 크고, N-번째 프레임에 대응하는 입력 라우드니스 레벨이 누적 라우드니스 레벨 보다 작고, N-번째 프레임에 대응하는 입력 라우드니스 레벨이 상대적인 문턱 값 보다 작고, N-번째 프레임에 대응하는 입력 라우드니스 레벨이 노이즈 플로어 레벨 보다 작은 경우, 오디오 신호 처리 장치는 N-1-번째 프레임에 대응하는 라우드니스 게인을 N-번째 프레임에 대응하는 라우드니스 게인으로 사용할 수 있다.
다른 실시예에 따라, 제4 구간 별 라우드니스 게인은 입력 오디오 신호 전체에 적용되는 고정 게인을 나타낼 수 있다. 또한, 제1 구간 별 라우드니스 게인, 제2 구간 별 라우드니스 게인, 및 제3 구간 별 라우드니스 게인들은 각각 제4 구간 별 라우드니스 게인을 기준으로 서로 다른 방법으로 보정된 게인일 수 있다. 또한, 제1 구간 별 라우드니스 게인, 제2 구간 별 라우드니스 게인, 및 제3 구간 별 라우드니스 게인들은 서로 다른 값을 가지는 게인일 수 있다.
일 실시예에 따라, 입력 오디오 신호의 N-번째 구간의 라우드니스 대표 값은 입력 오디오 신호의 N-번째 구간에 인접한 구간에 대응하는 대표 값일 수 있다. 예를 들어, 입력 오디오 신호의 N-번째 특정 구간의 라우드니스 대표 값은 N+L-번째 또는 N-L-번째 구간에 대응하는 대표 값일 수 있다. 이때, L은 대표 값을 획득하기 위한 시간 구간 보다 작은 구간에 해당하는 인덱스 값일 수 있다. 예를 들어, 대표 값을 획득하기 위한 시간 구간은 3초일 수 있다. 또한, 오디오 신호 처리 장치는 시간 지연된 입력 오디오 신호를 기반으로 입력 오디오 신호의 특정 구간의 대표 값을 획득할 수 있다. 이때, 오디오 신호 처리 장치는 기 설정된 지연 시간에 기초하여 입력 오디오 신호를 시간 지연시켜 대표 값 획득에 사용되는 적어도 하나의 라우드니스 측정치를 획득할 수 있다.
일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호 전체에 적용되는 라우드니스 고정 게인을 획득할 수 있다. 이 경우, 오디오 신호 처리 장치는 입력 오디오 신호의 특정 구간에 대응하는 라우드니스 파라미터에 기초하여 라우드니스 고정 게인을 보정할 수 있다. 또한, 오디오 신호 처리 장치는 보정된 게인에 기초하여 해당 구간의 입력 오디오 신호의 출력 라우드니스 레벨을 조정할 수 있다. 입력 오디오 신호 처리 장치가 입력 오디오 신호의 전체 구간 중에서 일부 구간에 대한 구간 라우드니스 게인에 기초하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정하는 방법에는 전술한 도 17을 참조하여 설명한 실시예들이 적용될 수 있다.
도 20은 본 발명의 일 실시예에 따른 오디오 신호 처리 장치(2000)의 구성을 나타내는 블록도이다. 일 실시예에 따라, 오디오 신호 처리 장치(2000)는 수신부(2100), 프로세서(2200), 및 출력부(2300)를 포함할 수 있다. 그러나 도 10에 도시된 구성 요소 모두가 오디오 신호 처리 장치의 필수 구성 요소인 것은 아니다. 오디오 신호 처리 장치(2000)는 도 20에 도시되지 않은 구성 요소를 추가로 포함할 수 있다. 예를 들어, 일 실시예에 따른 오디오 신호 처리 장치는 저장부(미도시)를 더 포함할 수 있다. 뿐만 아니라 도 20에 도시된 오디오 신호 처리 장치(2000)의 구성 요소 중 적어도 일부가 생략될 수도 있다. 예를 들어, 일 실시예에 따른 오디오 신호 처리 장치는 수신부(2100) 및 출력부(2300) 중 적어도 하나를 포함하지 않을 수도 있다.
수신부(2100)는 오디오 신호 처리 장치(2000)로 입력되는 입력 컨텐츠를 수신할 수 있다. 수신부(2100)는 프로세서(2200)에 의한 출력 라우드니스 레벨이 조정되는 입력 컨텐츠를 수신할 수 있다. 전술한 바와 같이, 입력 컨텐츠는 오디오 신호를 포함할 수 있다. 이때, 오디오 신호는 앰비소닉 신호, 오브젝트 신호 또는 채널 신호 중 적어도 하나를 포함할 수 있다. 또한, 오디오 신호는 1개의 오브젝트 신호 또는 모노 신호일 수 있다. 오디오 신호는 멀티 오브젝트 또는 멀티 채널 신호일 수도 있다. 일 실시예에 따라, 수신부(2100)는 유선으로 전송되는 입력 컨텐츠를 수신하는 입력 단자를 포함할 수 있다. 또한, 수신부(2100)는 무선으로 전송되는 입력 컨텐츠를 수신하는 무선 수신 모듈을 포함할 수 있다.
일 실시예에 따라, 오디오 신호 처리 장치(2000)는 별도의 디코더를 포함할 수 있다. 이 경우, 수신부(2100)는 입력 컨텐츠의 부호화된 비트스트림을 수신할 수도 있다. 또한, 부호화된 비트스트림은 디코더를 통해 입력 컨텐츠로 복호화될 수 있다. 추가적으로, 수신부(2100)는 입력 컨텐츠와 관련된 부가 정보를 수신할 수 있다.
일 실시예에 따라, 수신부(2100)는 네트워크를 통해 외부의 장치들과 데이터를 송수신하기 위한 송수신 수단을 구비할 수 있다. 이때, 데이터는 입력 컨텐츠의 비트스트림 또는 부가 정보 중 적어도 하나를 포함할 수 있다. 수신부(2100)는 유선으로 전송되는 데이터를 수신하기 위한 유선 송수신 단자를 포함할 있다. 또한, 수신부(2100)는 무선으로 전송되는 데이터를 수신하기 위한 무선 송수신 모듈을 포함할 수 있다. 이 경우, 수신부(2100)는 블루투스(bluetooth) 또는 와이파이(Wi-Fi) 통신 방법을 이용하여 무선으로 전송되는 데이터를 수신할 수 있다. 또한, 수신부(2100)는 LTE(long term evolution), LTE-advanced와 같은 이동 통신 규격에 따라 전송되는 데이터를 수신할 수 있으며, 본 개시가 이에 한정되는 것은 아니다. 수신부(2100)는 다양한 유무선 통신 규격에 따라 전송되는 다양한 형태의 데이터를 수신할 수 있다.
프로세서(2200)는 오디오 신호 처리 장치(2000)의 전반적인 동작을 제어할 수 있다. 프로세서(2200)는 오디오 신호 처리 장치(2000)의 각 구성 요소를 제어할 수 있다. 프로세서(2200)는 각종 데이터와 신호의 연산 및 처리를 수행할 수 있다. 프로세서(2200)는 반도체 칩 또는 전자 회로 형태의 하드웨어로 구현되거나 하드웨어를 제어하는 소프트웨어로 구현될 수 있다. 프로세서(2200)는 하드웨어와 상기 소프트웨어가 결합된 형태로 구현될 수도 있다. 예를 들어, 프로세서(2200)는 적어도 하나의 프로그램을 실행함으로써, 수신부(2100), 및 출력부(2300)의 동작을 제어할 수 있다. 또한, 프로세서(2200)는 적어도 하나의 프로그램을 실행하여 전술한 도 1 내지 도 19를 통해 설명된 동작을 수행할 수 있다.
일 실시예에 따라, 프로세서(2200)는 입력 컨텐츠의 출력 라우드니스 레벨을 조정할 수 있다. 예를 들어, 프로세서(2200)는 라우드니스 게인에 기초하여 입력 컨텐츠의 출력 라우드니스 레벨을 조정할 수 있다. 라우드니스 정보는 입력 컨텐츠로부터 분석된 입력 컨텐츠의 라우드니스 특성일 수 있다. 이때, 라우드니스 게인은 라우드니스 정보에 기초하여 획득될 수 있다. 또한, 프로세서(2200)는 입력 컨텐츠로부터 출력 라우드니스 레벨이 조정된 출력 컨텐츠를 출력할 수 있다. 이때, 프로세서(2200)는 후술할 출력부(2300)를 통해 출력 컨텐츠를 출력할 수 있다.
출력부(2300)는 출력 컨텐츠를 출력할 수 있다. 출력부(2300)는 프로세서(2200)에 의해 입력 컨텐츠로부터 출력 라우드니스 레벨이 조정된 출력 컨텐츠를 출력할 수 있다. 여기에서, 출력 컨텐츠는 출력 오디오 신호를 포함할 수 있다. 이 경우, 출력 오디오 신호는 앰비소닉 신호, 오브젝트 신호 또는 채널 신호 중 적어도 하나를 포함할 수 있다. 출력 오디오 신호는 멀티 오브젝트 또는 멀티 채널 신호일 수도 있다. 또한, 출력 오디오 신호는 청취자의 양이에 각각 대응하는 2-채널 출력 오디오 신호를 포함할 수 있다. 출력 오디오 신호는 바이노럴 2-채널 출력 오디오 신호를 포함할 수 있다. 출력부(2300)는 프로세서(2200)에 의해 출력 라우드니스 레벨이 조정된 오디오 헤드폰 신호를 출력할 수 있다.
일 실시예에 따라, 출력부(2300)는 출력 컨텐츠를 출력하는 출력 수단을 구비할 수 있다. 예를 들어, 출력부(2300)는 출력 오디오 신호를 외부로 출력하는 출력 단자를 포함할 수 있다. 이때, 오디오 신호 처리 장치(2000)는 출력 단자에 연결된 외부 장치로 출력 오디오 신호를 출력할 수 있다. 출력부(2300)는 출력 오디오 신호를 외부로 출력하는 무선 오디오 송신 모듈을 포함할 수 있다. 이 경우, 출력부(2300)는 블루투스 또는 와이파이와 같은 무선 통신 방법을 이용하여 외부 장치로 출력 오디오 신호를 출력할 수 있다.
또한, 출력부(2300)는 스피커를 포함할 수 있다. 이 경우, 오디오 신호 처리 장치(2000)는 스피커를 통해 출력 오디오 신호를 출력할 수 있다. 또한, 출력부(2300)는 디지털 오디오 신호를 아날로그 오디오 신호로 변환하는 컨버터(예를 들어, digital-to-analog converter, DAC)를 추가적으로 포함할 수 있다. 추가적으로, 출력부(2300)는 출력 컨텐츠가 포함하는 비디오 신호를 출력하는 디스플레이 수단을 구비할 수 있다.
전술한 바와 같이 오디오 신호 처리 장치(2000)는 저장부(미도시)를 더 포함할 수 있다. 저장부는 프로세서(2200)의 처리 및 제어를 위한 데이터 또는 프로그램 중 적어도 하나를 저장할 수 있다. 또한, 저장부는 라우드니스 정보를 저장할 수 있다. 저장부는 수신된 라우드니스 메타데이터로부터 추출된 라우드니스 정보를 저장할 수 있다. 저장부는 수신된 타겟 라우드니스 레벨을 저장할 수 있다. 또는 저장부는 프로세서(2200)를 통해 획득된 라우드니스 측정치를 저장할 수도 있다. 또한, 저장부는 프로세서(2200)에서 연산된 결과를 저장할 수 있다. 예를 들어, 저장부는 라우드니스 정보를 기반으로 결정된 라우드니스 게인을 저장할 수 있다. 또한, 저장부는 오디오 신호 처리 장치(2000)로 입력되거나 오디오 신호 처리 장치(2000)로부터 출력되는 데이터를 저장할 수도 있다.
저장부는 적어도 하나의 메모리를 구비할 수 있다. 이때, 메모리는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
도 21은 본 발명의 일 실시예에 따른 입력 오디오 신호의 시간 구간 별 피크 값을 나타내는 도면이다. 도 21의 실시예에서, 시간 구간 별 피크 값은 입력 오디오 신호로부터 측정된 라우드니스 측정치를 기반으로 획득된 값일 수 있다. 도 21에서, 실선으로 표시된 값들은 입력 오디오 신호의 시간 별 라우드니스 측정치를 나타낸다. 또한, 제1 파쇄선(-*-)으로 표시된 값들은 입력 오디오 신호의 시간 별 라우드니스 측정치들의 시간 구간 별 대표 값을 나타낸다. 오디오 신호 처리 장치는 시간 구간 별 대표 값을 기초로 시간 구간 별 피크 값을 획득할 수 있다. 이때, 해당 대표 값들은 라우드니스 측정기의 입력 버퍼에 입력된 값을 기준으로 계산되기 때문에 실제 입력 오디오 신호를 기준으로는 오차가 발생할 수 있다.
도 21에서, 제2 파쇄선(-△-)으로 표시된 값들은 15ms 정도의 시간 지연을 통해 획득한 시간 구간 별 대표 값일 수 있다. 오디오 신호 처리 장치는 입력 오디오 신호에 시간 지연을 적용하여 시간 구간 별 대표 값을 획득할 수 있다. 이를 통해, 오디오 신호 처리 장치는 획득된 피크 값이 입력 오디오 신호의 라우드니스 변화에 더 잘 대응할 수 있게 보정할 수 있다. 이때, 시간 지연에 사용되는 지연 듀레이션(duration)은 입력 오디오 신호의 측정 프레임의 길이를 기준으로 설정될 수 있다. 도 21을 통해 설명한 피크 값의 시간 지연 보정 방법은 도 15를 통해 설명한 다른 동적 라우드니스 파라미터에 대해서도 적용될 수 있다. 예를 들어, 오디오 신호 처리 장치는 시간 지연을 이용하여 단구간 라우드니스 레벨을 획득할 수 있다.
도 22는 본 발명의 일 실시예에 따른 오디오 신호 처리 장치가 스무딩을 이용하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정하는 방법을 설명하는 도면이다. 본 발명의 일 실시예에 따라, 오디오 신호 처리 장치는 스무딩을 통해 라우드니스 게인이 완만하게 변하도록 입력 오디오 신호의 출력 라우드니스 레벨을 조정할 수 있다. 이 경우, 스무딩은 입력 오디오 신호의 라우드니스 측정치를 기준으로 수행(Causal Processing)되기 때문에, 오디오 신호 처리 장치는 실제 라우드니스 변화 대비 해당 프레임에서 필요한 파라미터를 제대로 제공하기 어려울 수 있다.
이에 따라, 오디오 신호 처리 장치는 시간 지연을 통해 획득한 라우드니스 파라미터를 사용하여 입력 오디오 신호의 라우드니스 게인에 대한 스무딩 동작을 수행할 수 있다. 이때, 시간 지연을 통해 획득한 라우드니스 파라미터는 도 21을 통해 전술한 방법으로 획득된 파라미터일 수 있다.
도 22에서, 실선으로 표시된 값들은 입력 오디오 신호의 프레임 별 라우드니스 게인을 나타낼 수 있다. 이때, 실선으로 표시된 값들은 스무딩이 적용되지 않은 라우드니스 게인을 나타낼 수 있다. 또한, 제3 파쇄선(--) 및 제4 파쇄선(-·-) 각각으로 표시된 값들은 프레임 별 라우드니스 게인으로부터 스무딩이 적용된 라우드니스 게인일 수 있다. 이때, 제3 파쇄선(--)으로 표시된 프레임 별 라우드니스 게인들 각각은 시간 지연이 적용된 측정치들을 기초로 획득된 제1 프레임 별 라우드니스 게인(smoothing from shifted input)을 나타낼 수 있다. 반면, 제4 파쇄선(-·-)으로 표시된 프레임 별 라우드니스 게인들 각각은 시간 지연이 적용되지 않은 측정치들을 기초로 획득된 제2 프레임 별 라우드니스 게인(smoothing from org. input)을 나타낼 수 있다.
도 22를 참조하면, 제1 프레임 별 라우드니스 게인에 비해 제2 프레임 별 라우드니스 게인은 입력 오디오 신호의 라우드니스 레벨과 더 유사하게 변화할 수 있다. 도 22의 가로축인 프레임 인덱스가 110~130인 구간을 참조하면, 입력 오디오 신호의 스무딩이 적용되지 않은 프레임 별 라우드니스 게인이 급격하게 감소한다. 해당 구간에서, 제1 프레임 별 라우드니스 게인은 제2 프레임 별 라우드니스 게인에 비해 점진적으로 감소된다. 제2 프레임 별 라우드니스 게인은 제1 프레임 별 라우드니스 게인에 비해 급격히 감소된다. 또한, 제1 프레임 별 라우드니스 게인은 제2 프레임 별 라우드니스 게인에 비해 일정 프레임 더 먼저 감소되기 시작한다. 이에 따라, 오디오 신호 처리 장치는 시간 지연이 적용된 측정치들을 기초로 획득된 제1 프레임 별 라우드니스 게인을 사용하여 청취자가 급격한 라우드니스 변화를 느끼는 것을 방지할 수 있다.
본 발명의 일 실시예에 따라, 오디오 신호 처리 장치는 입력 오디오 신호의 특성을 타겟 라우드니스 레벨에 맞게 처리하기 위해 입력 오디오 신호에 대해 구간 별로 결정된 라우드니스 게인을 적용할 수 있다. 이 경우, 특정 구간에서는 과도한 라우드니스 게인 값이 적용될 수 있다. 이로 인해, 0dBFS보다 커지는 클리핑이 발생하거나, 사전에 정의된 수치(Threshold)값 보다 더 커지는 결과가 나타날 수 있다. 이에 따라, 오디오 신호 처리 장치는 출력 오디오 신호에 리미터를 적용할 수 있다. 이를 통해, 오디오 신호 처리 장치는 입력 오디오 신호로부터 출력 라우드니스 레벨이 조정된 출력 오디오 신호의 라우드니스 레벨이 기 설정된 라우드니스 레벨보다 커지는 구간에 대해 리미터를 적용할 수 있다.
이 경우, 리미터에서 출력 오디오 신호가 처리되는 방식은 리미터와 관련된 리미터 파라미터에 따라 실시간으로 또는 시간 순서에 따라(Causal Processing) 처리될 수 있다. 오디오 신호 처리 장치가 리미터를 사용하는 경우, 오디오 신호 처리 장치는 의도하지 않은 음색 왜곡을 발생시킬 수 있다. 전술한 바와 같이, 오디오 신호 처리 장치는 구간 별로 결정된 라우드니스 게인을 사용하여 입력 오디오 신호의 출력 라우드니스 레벨을 조정할 수 있다. 이때, 구간 별로 결정된 라우드니스 게인은 구간 별 피크 값을 고려한 게인일 수 있다. 오디오 신호 처리 장치는 구간 별 피크 값에 기초하여 해당 구간에서 발생하는 클리핑 또는 타겟 라우드니스 레벨을 초과하는 레벨을 가지는 구간의 발생을 예측할 수 있다. 또한, 오디오 신호 처리 장치는 상기 예측에 기초하여 입력 오디오 신호의 구간 별 라우드니스 게인을 결정할 수 있다. 즉, 오디오 신호 처리 장치는 예측를 토대로 역으로 라우드니스 게인을 보정할 수 있다. 이를 통해, 오디오 신호 처리 장치는 리미터에 의해 발생하는 출력 오디오 신호의 음색 왜곡을 방지할 수 있다.
일부 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함할 수 있다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체를 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함할 수 있다.
이상에서는 본 개시를 구체적인 실시예를 통하여 설명하였으나, 본 개시가 속하는 기술분야의 통상의 지식을 가진 당업자라면 본 개시의 취지 및 범위를 벗어나지 않고 수정, 변경을 할 수 있다. 즉, 본 개시는 오디오 신호에 대한 라우드니스 레벨 조정의 실시예에 대하여 설명하였지만, 본 개시는 오디오 신호뿐만 아니라 비디오 신호를 포함하는 다양한 멀티미디어 신호에도 동일하게 적용 및 확장 가능하다. 따라서 본 개시의 상세한 설명 및 실시예로부터 본 개시가 속하는 기술분야에 속한 사람이 용이하게 유추할 수 있는 것은 본 개시의 권리범위에 속하는 것으로 해석된다.
Claims (26)
- 오디오 신호 처리 장치에 있어서,입력 오디오 신호를 수신하는 수신부;상기 입력 오디오 신호에 대응하는 라우드니스(loudness) 메타데이터(metadata)를 생성하는 프로세서; 및상기 프로세서에서 생성된 라우드니스 메타데이터를 전송하는 출력부를 포함하고,상기 프로세서는,상기 입력 오디오 신호의 라우드니스를 측정하여 상기 입력 오디오 신호의 라우드니스 정보를 획득하고,상기 라우드니스 정보를 변환하여 상기 라우드니스 메타데이터를 생성하고,상기 출력부를 통해, 상기 생성된 라우드니스 메타데이터를 상기 입력 오디오 신호를 출력하는 출력 장치로 전송하되,상기 라우드니스 정보는 상기 입력 오디오 신호의 품질 보장 히스토그램 지표(Quality Secure Histogram Index, QSHI)를 나타내는 정보를 포함하고,상기 QSHI는 인지적 음질 손상이 발생하지 않는 문턱 라우드니스 레벨을 나타내는, 오디오 신호 처리 장치.
- 제1 항에 있어서,상기 프로세서는,상기 입력 오디오 신호의 라우드니스 히스토그램에 기초하여 상기 QSHI를 획득하는, 오디오 신호 처리 장치.
- 제2 항에 있어서,상기 프로세서는,상기 입력 오디오 신호의 적어도 하나의 단구간 라우드니스 레벨의 분포에 기초하여 상기 라우드니스 히스토그램을 획득하고,상기 라우드니스 히스토그램에 기초하여 상기 QSHI를 획득하되,상기 단구간 라우드니스 레벨은 상기 입력 오디오 신호의 전체 구간 보다 짧은 구간에서 측정된, 오디오 신호 처리 장치.
- 제2 항에 있어서,상기 라우드니스 히스토그램은 상기 입력 오디오 신호의 구간 별 피크 값 또는 RMS(root-mean-square)에 관한 크기 히스토그램인, 오디오 신호 처리 장치.
- 제2 항에 있어서,상기 프로세서는,상기 입력 오디오 신호의 라우드니스 히스토그램을 기초로 상기 입력 오디오 신호가 타겟 라우드니스 레벨에 따라 출력되는 경우의 라우드니스 파라미터를 예측하고,상기 예측된 라우드니스 파라미터에 기초하여 상기 입력 오디오 신호의 예측 라우드니스 히스토그램을 획득하고,상기 예측된 라우드니스 예측 히스토그램에 기초하여 상기 QSHI를 획득하는, 오디오 신호 처리 장치.
- 제1 항에 있어서,상기 라우드니스 정보는 상기 입력 오디오 신호의 누적 라우드니스 레벨을 포함하고,상기 QSHI는 상기 입력 오디오 신호의 누적 라우드니스 레벨 보다 크고,상기 누적 라우드니스 레벨은 오디오 신호 처리 장치에서 설정된 셋업 시점으로부터 획득된 라우드니스 측정치에 기초하여 산출된 라우드니스 레벨인, 오디오 신호 처리 장치.
- 제1 항에 있어서,상기 QSHI는 상기 출력 장치에서 상기 입력 오디오 신호에 대한 후처리(post processing) 여부에 따라 보정되는 파라미터인, 오디오 신호 처리 장치.
- 제1 항에 있어서,상기 프로세서는,상기 출력 장치에서 출력되는 상기 입력 오디오 신호의 전체 구간의 단구간 라우드니스 레벨들이 기 설정된 레벨 이하가 되도록 QSHI를 설정하는, 오디오 신호 처리 장치.
- 오디오 신호 처리 장치에 있어서,입력 오디오 신호의 출력 라우드니스(loudness) 레벨을 조정하는 프로세서를 포함하고,상기 프로세서는,상기 입력 오디오 신호에 대응하는 라우드니스 메타데이터(metadata)를 수신하고,상기 라우드니스 메타데이터를 파싱(parsing)하여 상기 입력 오디오 신호의 라우드니스 정보를 획득하고,상기 라우드니스 정보 및 타겟 라우드니스 레벨에 기초하여 상기 입력 오디오 신호의 라우드니스 게인을 결정하고,상기 입력 오디오 신호의 출력 라우드니스 레벨을 상기 라우드니스 게인에 기초하여 조정하되,상기 라우드니스 정보는 상기 입력 오디오 신호의 품질 보장 히스토그램 지표(Quality Secure Histogram Index, QSHI)를 나타내는 정보를 포함하고,상기 QSHI는 인지적 음질 손상이 발생하지 않는 문턱 라우드니스 레벨을 나타내는, 오디오 신호 처리 장치.
- 제9 항에 있어서,상기 프로세서는,상기 입력 오디오 신호의 타겟 라우드니스 레벨과 상기 QSHI를 비교하고,상기 비교 결과에 기초하여 상기 라우드니스 게인을 결정하는, 오디오 신호 처리 장치.
- 제10 항에 있어서,상기 프로세서는,상기 입력 오디오 신호의 타겟 라우드니스 레벨과 상기 QSHI 중에서 더 작은 값에 기초하여 상기 라우드니스 게인을 결정하는, 오디오 신호 처리 장치.
- 제10 항에 있어서,상기 프로세서는,상기 입력 오디오 신호의 누적 라우드니스 레벨을 수신하고,상기 입력 오디오 신호의 누적 라우드니스 레벨, 상기 QSHI 및 상기 타겟 라우드니스 레벨에 기초하여 상기 라우드니스 게인을 결정하되,상기 누적 라우드니스 레벨은 상기 입력 오디오 신호의 라우드니스를 측정하는 장치에서 설정된 셋업 시점으로부터 획득된 라우드니스 측정치에 기초하여 산출된 라우드니스 레벨인, 오디오 신호 처리 장치.
- 제10 항에 있어서,상기 QSHI는 상기 입력 오디오 신호의 라우드니스 히스토그램에 기초하여 산출된 라우드니스 파라미터인, 오디오 신호 처리 장치.
- 제13 항에 있어서,상기 라우드니스 히스토그램은, 상기 입력 오디오 신호의 시간 별 단구간 라우드니스 레벨들의 크기 히스토그램이고,상기 단구간 라우드니스 레벨은 상기 입력 오디오 신호의 전체 구간 보다 짧은 구간에서 측정된, 오디오 신호 처리 장치.
- 제13 항에 있어서,상기 라우드니스 히스토그램은 상기 입력 오디오 신호의 구간 별 피크 값 또는 RMS(root-mean-square)에 관한 크기 히스토그램인, 오디오 신호 처리 장치.
- 제10 항에 있어서,상기 QSHI는 상기 입력 오디오 신호의 라우드니스 히스토그램으로부터 예측된 예측 라우드니스 히스토그램에 기초하여 산출된 파라미터이고,상기 예측 라우드니스 히스토그램은 상기 입력 오디오 신호가 상기 타겟 라우드니스 레벨에 따라 출력되는 경우 예측되는 라우드니스 파라미터에 기초하여 생성된 히스토그램인, 오디오 신호 처리 장치.
- 제10 항에 있어서,상기 QSHI는 상기 입력 오디오 신호의 누적 라우드니스 레벨 보다 크고,상기 누적 라우드니스 레벨은 상기 입력 오디오 신호의 라우드니스를 측정하는 장치에서 설정된 셋업 시점으로부터 획득된 라우드니스 측정치에 기초하여 산출된 라우드니스 레벨인, 오디오 신호 처리 장치.
- 제10 항에 있어서,상기 프로세서는,상기 입력 오디오 신호의 출력 라우드니스 레벨을 상기 라우드니스 게인에 따라 조정하여 출력 오디오 신호를 생성하고,상기 출력 오디오 신호에 출력 오디오 신호의 라우드니스 레벨을 제한하는 라우드니스 리미터(limiter)를 적용하여 출력하는, 오디오 신호 처리 장치.
- 제18 항에 있어서,상기 QSHI는 상기 오디오 신호 처리 장치에서 리미터가 구동되는 횟수에 기초하여 결정된 라우드니스 파라미터인, 오디오 신호 처리 장치.
- 제10 항에 있어서,상기 프로세서는,상기 입력 오디오 신호에 대한 후처리(post processing)를 수행하고,상기 입력 오디오 신호에 대한 후처리(post processing)의 특성을 나타내는 후처리 정보를 수신하고,상기 후처리 정보에 기초하여 상기 획득된 QSHI를 보정하고,상기 보정된 QSHI에 기초하여 상기 라우드니스 게인을 결정하는, 오디오 신호 처리 장치.
- 제20 항에 있어서,상기 프로세서는,상기 후처리 정보 및 기 저장된 함수에 기초하여 상기 QSHI를 보정하는, 오디오 신호 처리 장치.
- 제20 항에 있어서,상기 프로세서는,상기 후처리 정보 및 기 저장된 룩업 테이블(look-up table)에 기초하여 상기 QSHI를 보정하되,상기 기 저장된 룩업 테이블은 후처리의 특성에 따른 QSHI 보정에 관한 정보를 포함하는, 오디오 신호 처리 장치.
- 제22 항에 있어서,상기 QSHI 보정에 관한 정보는 후처리의 특성에 따른 QSHI 보정 값을 나타내는 정보를 포함하고,상기 프로세서는,상기 기 저장된 룩업 테이블에 기초하여 상기 입력 오디오 신호에 대한 후처리에 대응하는 QSHI 보정 값을 획득하고,상기 획득된 QSHI에 상기 QSHI 보정 값을 더해 상기 QSHI를 보정하는, 오디오 신호 처리 장치.
- 제10 항에 있어서,상기 라우드니스 게인은 상기 입력 오디오 신호의 전체 구간에서 고정된 값을 가지는 고정 게인인, 오디오 신호 처리 장치.
- 제10 항에 있어서,상기 라우드니스 게인은 상기 입력 오디오 신호가 재생되는 시간 동안 시간에 따라 변화하는 게인인, 오디오 신호 처리 장치.
- 제10 항에 있어서,상기 프로세서는,상기 입력 오디오 신호의 출력 라우드니스 레벨을 상기 라우드니스 게인에 따라 조정하여 출력 오디오 신호를 생성하되,상기 QSHI는 상기 출력 오디오 신호의 전체 구간의 단구간 라우드니스 레벨들이 기 설정된 레벨 이하가 되도록 설정된 파라미터인, 오디오 신호 처리 장치.
Priority Applications (10)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021555508A JP7266916B2 (ja) | 2019-03-14 | 2020-03-12 | ラウドネスレベルを制御するオーディオ信号処理方法及び装置 |
US17/053,772 US11316490B2 (en) | 2019-03-14 | 2020-03-12 | Audio signal processing method and device for controlling loudness level |
KR1020237005676A KR20230027333A (ko) | 2019-03-14 | 2020-03-12 | 라우드니스 레벨을 제어하는 오디오 신호 처리 방법 및 장치 |
CN202310883141.1A CN116866816A (zh) | 2019-03-14 | 2020-03-12 | 用于控制响度级的音频信号处理方法和装置 |
KR1020207033746A KR102502521B1 (ko) | 2019-03-14 | 2020-03-12 | 라우드니스 레벨을 제어하는 오디오 신호 처리 방법 및 장치 |
CN202310881169.1A CN116962954A (zh) | 2019-03-14 | 2020-03-12 | 用于控制响度级的音频信号处理方法和装置 |
KR1020237037252A KR20230156156A (ko) | 2019-03-14 | 2020-03-12 | 라우드니스 레벨을 제어하는 오디오 신호 처리 방법 및 장치 |
CN202080020871.3A CN113647120B (zh) | 2019-03-14 | 2020-03-12 | 用于控制响度级的音频信号处理装置 |
US17/700,494 US11791789B2 (en) | 2019-03-14 | 2022-03-22 | Audio signal processing method and device for controlling loudness level |
US18/375,441 US20240030881A1 (en) | 2019-03-14 | 2023-09-29 | Audio signal processing method and device for controlling loudness level |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2019-0029517 | 2019-03-14 | ||
KR20190029517 | 2019-03-14 | ||
KR20190124150 | 2019-10-07 | ||
KR10-2019-0124150 | 2019-10-07 |
Related Child Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
US17/053,772 A-371-Of-International US11316490B2 (en) | 2019-03-14 | 2020-03-12 | Audio signal processing method and device for controlling loudness level |
US17/700,494 Continuation US11791789B2 (en) | 2019-03-14 | 2022-03-22 | Audio signal processing method and device for controlling loudness level |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2020185025A1 true WO2020185025A1 (ko) | 2020-09-17 |
Family
ID=72427865
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/KR2020/003489 WO2020185025A1 (ko) | 2019-03-14 | 2020-03-12 | 라우드니스 레벨을 제어하는 오디오 신호 처리 방법 및 장치 |
Country Status (5)
Country | Link |
---|---|
US (3) | US11316490B2 (ko) |
JP (2) | JP7266916B2 (ko) |
KR (3) | KR20230027333A (ko) |
CN (3) | CN113647120B (ko) |
WO (1) | WO2020185025A1 (ko) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023028154A1 (en) * | 2021-08-26 | 2023-03-02 | Dolby Laboratories Licensing Corporation | Method and apparatus for metadata-based dynamic processing of audio data |
JP7505830B2 (ja) | 2020-10-22 | 2024-06-25 | ガウディオ・ラボ・インコーポレイテッド | 機械学習モデルを用いて複数の信号成分を含むオーディオ信号処理装置 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113647120B (zh) | 2019-03-14 | 2023-08-08 | 高迪奥实验室公司 | 用于控制响度级的音频信号处理装置 |
WO2021195429A1 (en) * | 2020-03-27 | 2021-09-30 | Dolby Laboratories Licensing Corporation | Automatic leveling of speech content |
CN116156041A (zh) * | 2021-11-22 | 2023-05-23 | 北京荣耀终端有限公司 | 音量调节方法及电子设备 |
WO2024079625A1 (en) * | 2022-10-10 | 2024-04-18 | Wetweak Sa | A computer assisted method for classifying digital audio files |
WO2024081785A1 (en) * | 2022-10-12 | 2024-04-18 | Sameer Kumar | Digital audio measurement systems and method |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120306677A1 (en) * | 2008-10-31 | 2012-12-06 | Chanyu Holdings, Llc | System and method to modify a metadata parameter |
KR20150086263A (ko) * | 2012-11-19 | 2015-07-27 | 하만인터내셔날인더스트리스인코포레이티드 | 오디오 라우드니스 제어 시스템 |
KR20160072255A (ko) * | 2013-10-22 | 2016-06-22 | 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. | 오디오 장치에 대한 조합된 동적 범위 압축 및 안내 클리핑 방지를 위한 개념 |
JP2016197250A (ja) * | 2013-01-21 | 2016-11-24 | ドルビー ラボラトリーズ ライセンシング コーポレイション | プログラム・ラウドネスおよび境界メタデータをもつオーディオ・エンコーダおよびデコーダ |
KR20180034565A (ko) * | 2015-09-30 | 2018-04-04 | 애플 인크. | 인코딩된 오디오 메타데이터 기반 라우드니스 등화 및 drc 동안의 동적 등화 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7617109B2 (en) * | 2004-07-01 | 2009-11-10 | Dolby Laboratories Licensing Corporation | Method for correcting metadata affecting the playback loudness and dynamic range of audio information |
TWI525987B (zh) * | 2010-03-10 | 2016-03-11 | 杜比實驗室特許公司 | 在單一播放模式中組合響度量測的系統 |
JP5909100B2 (ja) * | 2012-01-26 | 2016-04-26 | 日本放送協会 | ラウドネスレンジ制御システム、伝送装置、受信装置、伝送用プログラム、および受信用プログラム |
US9565508B1 (en) * | 2012-09-07 | 2017-02-07 | MUSIC Group IP Ltd. | Loudness level and range processing |
US9559651B2 (en) * | 2013-03-29 | 2017-01-31 | Apple Inc. | Metadata for loudness and dynamic range control |
WO2015038475A1 (en) * | 2013-09-12 | 2015-03-19 | Dolby Laboratories Licensing Corporation | Dynamic range control for a wide variety of playback environments |
US9590580B1 (en) * | 2015-09-13 | 2017-03-07 | Guoguang Electric Company Limited | Loudness-based audio-signal compensation |
US10251016B2 (en) * | 2015-10-28 | 2019-04-02 | Dts, Inc. | Dialog audio signal balancing in an object-based audio program |
US10389323B2 (en) * | 2017-12-18 | 2019-08-20 | Tls Corp. | Context-aware loudness control |
US11347470B2 (en) * | 2018-11-16 | 2022-05-31 | Roku, Inc. | Detection of media playback loudness level and corresponding adjustment to audio during media replacement event |
CN113647120B (zh) | 2019-03-14 | 2023-08-08 | 高迪奥实验室公司 | 用于控制响度级的音频信号处理装置 |
-
2020
- 2020-03-12 CN CN202080020871.3A patent/CN113647120B/zh active Active
- 2020-03-12 JP JP2021555508A patent/JP7266916B2/ja active Active
- 2020-03-12 KR KR1020237005676A patent/KR20230027333A/ko not_active Application Discontinuation
- 2020-03-12 KR KR1020207033746A patent/KR102502521B1/ko active IP Right Grant
- 2020-03-12 KR KR1020237037252A patent/KR20230156156A/ko active Application Filing
- 2020-03-12 CN CN202310883141.1A patent/CN116866816A/zh active Pending
- 2020-03-12 US US17/053,772 patent/US11316490B2/en active Active
- 2020-03-12 CN CN202310881169.1A patent/CN116962954A/zh active Pending
- 2020-03-12 WO PCT/KR2020/003489 patent/WO2020185025A1/ko active Application Filing
-
2022
- 2022-03-22 US US17/700,494 patent/US11791789B2/en active Active
-
2023
- 2023-04-11 JP JP2023064367A patent/JP2023103223A/ja active Pending
- 2023-09-29 US US18/375,441 patent/US20240030881A1/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120306677A1 (en) * | 2008-10-31 | 2012-12-06 | Chanyu Holdings, Llc | System and method to modify a metadata parameter |
KR20150086263A (ko) * | 2012-11-19 | 2015-07-27 | 하만인터내셔날인더스트리스인코포레이티드 | 오디오 라우드니스 제어 시스템 |
JP2016197250A (ja) * | 2013-01-21 | 2016-11-24 | ドルビー ラボラトリーズ ライセンシング コーポレイション | プログラム・ラウドネスおよび境界メタデータをもつオーディオ・エンコーダおよびデコーダ |
KR20160072255A (ko) * | 2013-10-22 | 2016-06-22 | 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. | 오디오 장치에 대한 조합된 동적 범위 압축 및 안내 클리핑 방지를 위한 개념 |
KR20180034565A (ko) * | 2015-09-30 | 2018-04-04 | 애플 인크. | 인코딩된 오디오 메타데이터 기반 라우드니스 등화 및 drc 동안의 동적 등화 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7505830B2 (ja) | 2020-10-22 | 2024-06-25 | ガウディオ・ラボ・インコーポレイテッド | 機械学習モデルを用いて複数の信号成分を含むオーディオ信号処理装置 |
WO2023028154A1 (en) * | 2021-08-26 | 2023-03-02 | Dolby Laboratories Licensing Corporation | Method and apparatus for metadata-based dynamic processing of audio data |
Also Published As
Publication number | Publication date |
---|---|
JP2022526271A (ja) | 2022-05-24 |
US20240030881A1 (en) | 2024-01-25 |
US11316490B2 (en) | 2022-04-26 |
CN116962954A (zh) | 2023-10-27 |
CN113647120B (zh) | 2023-08-08 |
US20210367574A1 (en) | 2021-11-25 |
KR20210019415A (ko) | 2021-02-22 |
KR102502521B1 (ko) | 2023-02-23 |
US20220231649A1 (en) | 2022-07-21 |
CN116866816A (zh) | 2023-10-10 |
CN113647120A (zh) | 2021-11-12 |
JP7266916B2 (ja) | 2023-05-01 |
JP2023103223A (ja) | 2023-07-26 |
US11791789B2 (en) | 2023-10-17 |
KR20230027333A (ko) | 2023-02-27 |
KR20230156156A (ko) | 2023-11-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2020185025A1 (ko) | 라우드니스 레벨을 제어하는 오디오 신호 처리 방법 및 장치 | |
KR101120970B1 (ko) | 이동 오디오 디바이스에 대한 자동 음량 및 다이나믹 레인지 조절 | |
WO2017039422A2 (ko) | 음질 향상을 위한 신호 처리방법 및 장치 | |
JP4940158B2 (ja) | 音補正装置 | |
WO2018164304A1 (ko) | 잡음 환경의 통화 품질을 개선하는 방법 및 장치 | |
WO2012157931A2 (en) | Noise filling and audio decoding | |
WO2005064986A1 (ja) | 音声出力装置 | |
WO2014148845A1 (ko) | 오디오 신호 크기 제어 방법 및 장치 | |
WO2017222356A1 (ko) | 잡음 환경에 적응적인 신호 처리방법 및 장치와 이를 채용하는 단말장치 | |
US10686420B2 (en) | Audio signal processing method and apparatus for controlling loudness level | |
WO2009145449A2 (ko) | 노이지 음성 신호의 처리 방법과 이를 위한 장치 및 컴퓨터 판독 가능한 기록매체 | |
WO2017045441A1 (zh) | 基于智能电视的音频播放方法及装置 | |
WO2009123412A1 (ko) | 노이지 음성 신호의 처리 방법과 이를 위한 장치 및 컴퓨터 판독 가능한 기록매체 | |
JPH05219180A (ja) | 音声端末の音量制御回路装置 | |
KR102550396B1 (ko) | 메타데이터를 이용하여 오디오 신호의 라우드니스 레벨을 제어 방법 및 이를 이용하는 장치 | |
WO2017096764A1 (zh) | 音频数据输出方法及装置 | |
US8532309B2 (en) | Signal correction apparatus and signal correction method | |
WO2019098779A1 (ko) | 오디오 시스템 및 그 제어 방법 | |
JP2001188599A (ja) | オーディオ信号復号装置 | |
WO2022114787A1 (ko) | 오디오 신호의 정규화를 수행하는 방법 및 이를 위한 장치 | |
KR101430607B1 (ko) | 휴대용 단말기에서 스테레오 효과를 제공하기 위한 장치 및방법 | |
JP3627189B2 (ja) | 音響電子回路の音量調節方法 | |
KR0131942B1 (ko) | 오디오의 잡음 보상장치 | |
WO2021085891A1 (ko) | 제한된 출력 레벨 내에서 라우드니스를 증폭시키는 장치 및 그 제어 방법 | |
WO2017113589A1 (zh) | 声效模式同步方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 20769242 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2021555508 Country of ref document: JP Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 20769242 Country of ref document: EP Kind code of ref document: A1 |