CN113611330A - 一种音频检测方法、装置、电子设备及存储介质 - Google Patents
一种音频检测方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113611330A CN113611330A CN202110865067.1A CN202110865067A CN113611330A CN 113611330 A CN113611330 A CN 113611330A CN 202110865067 A CN202110865067 A CN 202110865067A CN 113611330 A CN113611330 A CN 113611330A
- Authority
- CN
- China
- Prior art keywords
- audio
- frame
- ventilation
- processed
- frames
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 113
- 238000003860 storage Methods 0.000 title claims abstract description 11
- 238000009423 ventilation Methods 0.000 claims abstract description 425
- 238000009499 grossing Methods 0.000 claims abstract description 43
- 238000009826 distribution Methods 0.000 claims abstract description 31
- 238000012545 processing Methods 0.000 claims abstract description 24
- 238000000034 method Methods 0.000 claims description 44
- 238000012216 screening Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 13
- 230000005236 sound signal Effects 0.000 claims description 9
- 238000009432 framing Methods 0.000 claims description 8
- 238000012986 modification Methods 0.000 claims description 5
- 230000004048 modification Effects 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 21
- 238000000605 extraction Methods 0.000 description 8
- 238000005070 sampling Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 238000012706 support-vector machine Methods 0.000 description 5
- 238000004140 cleaning Methods 0.000 description 4
- 238000012937 correction Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000001174 ascending effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000001755 vocal effect Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/78—Detection of presence or absence of voice signals
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/78—Detection of presence or absence of voice signals
- G10L25/87—Detection of discrete points within a voice signal
Landscapes
- Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Soundproofing, Sound Blocking, And Sound Damping (AREA)
- Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
Abstract
本公开涉及音频处理技术领域,尤其涉及一种音频检测方法、装置、电子设备及存储介质,从原始音频中确定出待处理音频,以及待处理音频的各音频帧对应的能量值和时域分布的时间点信息,并从待处理音频中确定出初始目标音频,从初始目标音频的各换气帧中最高换气帧,分别对待处理音频的各音频帧对应的能量值进行平滑处理,并从待处理音频的起始帧与最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从最高换气帧与待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧,将第一最低换气帧和第二最低换气帧之间的各音频帧,作为原始音频的目标音频。这样,能够提高检测换气声的准确性。
Description
技术领域
本公开涉及音频处理技术领域,尤其涉及一种音频检测方法、装置、电子设备及存储介质。
背景技术
为了达到美化声音的目的,需要消除歌曲音频中的换气声,因此,如何能够检测出歌曲音频中的换气声,成为了一个亟待解决的问题。
相关技术中,通常可以在输入原始音频之后,采用换气相似度的计算,确定出每一帧是否为换气声,然而,通过相关技术中的这种方式,仅基于换气相似度的计算来确定换气声区域,因此,确定出的换气声的边界不准确,从而导致检测出的换气声不准确。
发明内容
本公开实施例提供一种音频检测方法、装置、电子设备及存储介质,以提高检测换气声的准确性。
本公开实施例提供的具体技术方案如下:
一种音频检测方法,包括:
从原始音频中确定出待处理音频,以及所述待处理音频的各音频帧对应的能量值和时域分布的时间点信息,并从所述待处理音频中确定出初始目标音频,其中,所述待处理音频为包含有换气声的非人声音频,所述初始目标音频表征初步检测出的换气声;
从所述初始目标音频的各换气帧中确定出能量值满足最高能量值条件的最高换气帧,其中,所述初始目标音频由至少一帧换气帧组成;
分别对所述待处理音频的各音频帧对应的能量值进行平滑处理,并从所述待处理音频的起始帧与所述最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从所述最高换气帧与所述待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧;
将所述第一最低换气帧和所述第二最低换气帧之间的各音频帧,作为所述原始音频的目标音频,其中,所述目标音频表征边界修正后的换气声。
可选的,分别对所述待处理音频的各音频帧对应的能量值进行平滑处理,具体包括:
分别针对所述待处理音频的各音频帧,根据预设的平滑阶数和各音频帧的时间点信息,确定任意一音频帧对应的预设数个音频帧,根据所述预设数个音频帧的能量值之和,与所述平滑阶数之间的比值,确定该音频帧的处理后的能量值。
可选的,从所述待处理音频的起始帧与所述最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从所述最高换气帧与所述待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧,具体包括:
将所述待处理音频的起始帧与所述最高换气帧之间的各音频帧,作为第一候选音频,并将所述最高换气帧与所述待处理音频的结束帧之间的各音频帧作为第二候选音频;
从所述第一候选音频的各音频帧中,确定出所述能量值小于前一音频帧且小于后一音频帧的音频帧,并将确定出的各音频帧中时间点信息最大的音频帧作为第一最低换气帧;以及,
从所述第二候选音频的各音频帧中,确定出能量值小于前一音频帧且小于后一音频帧的音频帧,并将确定出的各音频帧中时间点信息最小的音频帧作为第二最低换气帧。
可选的,将所述第一最低换气帧和所述第二最低换气帧之间的各音频帧,作为所述原始音频的目标音频之后,还包括:
确定所述目标音频的各换气帧对应的锐度值,其中,所述锐度值表征音频帧的声音信号的尖锐程度;
根据各锐度值,确定所述目标音频是否为正确检测出的换气声。
可选的,根据各锐度值,确定所述目标音频是否为正确检测出的换气声,具体包括:
从所述目标音频的各换气帧中筛选出锐度值高于锐度值阈值的换气帧;
若确定所述目标音频中不存在预设连续数个高于所述锐度值阈值的换气帧,则确定所述目标音频为正确检测出的换气声。
可选的,从所述初始目标音频的各换气帧中确定出能量值满足最高能量值条件的最高换气帧,具体包括:
从所述初始目标音频的各换气帧中,确定出能量值最高的换气帧;
将确定出的换气帧作为所述初始目标音频中的最高换气帧。
可选的,从原始音频中确定出待处理音频,具体包括:
对原始音频进行时域分帧,获得各音频帧;
基于已训练的第一音频检测模型,以所述各音频帧为输入参数,通过所述第一音频检测模型中的人声检测网络,从所述原始音频中确定出待处理音频,并通过所述第一音频检测模型中的静音检测网络,筛选掉所述待处理音频中的静音音频,获得处理后的待处理音频,其中,所述第一音频检测模型用于检测出所述原始音频中包含有换气声的待处理音频。
可选的,通过所述第一音频检测模型中的静音检测网络,筛选掉所述待处理音频中的静音音频,获得处理后的待处理音频,具体包括:
确定所述待处理音频中的各音频帧对应的能量值和时域分布的时间点信息;
从所述待处理音频中的各音频帧中确定出大于等于预设能量值阈值的音频帧;
将所述小于所述能量值阈值的音频帧组成静音音频;
从所述待处理音频中去除所述静音音频,获得处理后的待处理音频。
可选的,获得处理后的待处理音频之后,进一步包括:
分别对所述待处理音频的各音频帧进行特征提取,确定各音频特征;
分别针对所述待处理音频的各音频帧,基于已训练的第二音频检测模型,以任意一帧音频帧的音频特征为输入参数,确定该音频帧是否为换气帧,其中,所述第二音频检测模型用于检测所述待处理音频中的音频帧是否为换气帧;
将高于数量阈值的连续数个换气帧组成初始目标音频。
一种音频检测装置,包括:
第一确定模块,用于从原始音频中确定出待处理音频,以及所述待处理音频的各音频帧对应的能量值和时域分布的时间点信息,并从所述待处理音频中确定出初始目标音频,其中,所述待处理音频为包含有换气声的非人声音频,所述初始目标音频表征初步检测出的换气声;
第二确定模块,用于从所述初始目标音频的各换气帧中确定出能量值满足最高能量值条件的最高换气帧,其中,所述初始目标音频由至少一帧换气帧组成;
第一处理模块,用于分别对所述待处理音频的各音频帧对应的能量值进行平滑处理,并从所述待处理音频的起始帧与所述最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从所述最高换气帧与所述待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧;
第三确定模块,用于将所述第一最低换气帧和所述第二最低换气帧之间的各音频帧,作为所述原始音频的目标音频,其中,所述目标音频表征边界修正后的换气声。
可选的,分别对所述待处理音频的各音频帧对应的能量值进行平滑处理时,第一处理模块具体用于:
分别针对所述待处理音频的各音频帧,根据预设的平滑阶数和各音频帧的时间点信息,确定任意一音频帧对应的预设数个音频帧,根据所述预设数个音频帧的能量值之和,与所述平滑阶数之间的比值,确定该音频帧的处理后的能量值。
可选的,从所述待处理音频的起始帧与所述最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从所述最高换气帧与所述待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧时,第一处理模块具体用于:
将所述待处理音频的起始帧与所述最高换气帧之间的各音频帧,作为第一候选音频,并将所述最高换气帧与所述待处理音频的结束帧之间的各音频帧作为第二候选音频;
从所述第一候选音频的各音频帧中,确定出所述能量值小于前一音频帧且小于后一音频帧的音频帧,并将确定出的各音频帧中时间点信息最大的音频帧作为第一最低换气帧;以及,
从所述第二候选音频的各音频帧中,确定出能量值小于前一音频帧且小于后一音频帧的音频帧,并将确定出的各音频帧中时间点信息最小的音频帧作为第二最低换气帧。
可选的,将所述第一最低换气帧和所述第二最低换气帧之间的各音频帧,作为所述原始音频的目标音频之后,还包括:
第四确定模块,用于确定所述目标音频的各换气帧对应的锐度值,其中,所述锐度值表征音频帧的声音信号的尖锐程度;
判断模块,用于根据各锐度值,确定所述目标音频是否为正确检测出的换气声。
可选的,判断模块具体用于:
从所述目标音频的各换气帧中筛选出锐度值高于锐度值阈值的换气帧;
若确定所述目标音频中不存在预设连续数个高于所述锐度值阈值的换气帧,则确定所述目标音频为正确检测出的换气声。
可选的,第二确定模块具体用于:
从所述初始目标音频的各换气帧中,确定出能量值最高的换气帧;
将确定出的换气帧作为所述初始目标音频中的最高换气帧。
可选的,从原始音频中确定出待处理音频时,第一确定模块具体用于:
对原始音频进行时域分帧,获得各音频帧;
基于已训练的第一音频检测模型,以所述各音频帧为输入参数,通过所述第一音频检测模型中的人声检测网络,从所述原始音频中确定出待处理音频,并通过所述第一音频检测模型中的静音检测网络,筛选掉所述待处理音频中的静音音频,获得处理后的待处理音频,其中,所述第一音频检测模型用于检测出所述原始音频中包含有换气声的待处理音频。
可选的,通过所述第一音频检测模型中的静音检测网络,筛选掉所述待处理音频中的静音音频,获得处理后的待处理音频时,第一确定模块具体用于:
确定所述待处理音频中的各音频帧对应的能量值和时域分布的时间点信息;
从所述待处理音频中的各音频帧中确定出大于等于预设能量值阈值的音频帧;
将所述小于所述能量值阈值的音频帧组成静音音频;
从所述待处理音频中去除所述静音音频,获得处理后的待处理音频。
可选的,获得处理后的待处理音频之后,进一步包括:
特征提取模块,用于分别对所述待处理音频的各音频帧进行特征提取,确定各音频特征;
第二处理模块,用于分别针对所述待处理音频的各音频帧,基于已训练的第二音频检测模型,以任意一帧音频帧的音频特征为输入参数,确定该音频帧是否为换气帧,其中,所述第二音频检测模型用于检测所述待处理音频中的音频帧是否为换气帧;
组合模块,用于将高于数量阈值的连续数个换气帧组成初始目标音频。
一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述音频检测方法的步骤。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述音频检测方法的步骤。
本公开实施例中,从原始音频中确定出待处理音频,以及待处理音频的各音频帧对应的能量值和时域分布的时间点信息,并从待处理音频中确定出初始目标音频,从初始目标音频的各换气帧中确定出能量值满足最高能量值条件的最高换气帧,分别对待处理音频的各音频帧对应的能量值进行平滑处理,并从待处理音频的起始帧与最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从最高换气帧与待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧,将第一最低换气帧和第二最低换气帧之间的各音频帧,作为原始音频的目标音频。这样,根据换气声的发声原理,吸气时能量上升,呼气时能量下降,对待处理音频的各音频帧的能量值进行平滑处理,能够使得待处理音频具有明显的最低能量值,并从平滑处理后的各能量值中确定出满足预设最低能量值条件的第一最低换气帧和第二最低换气帧,从而修正换气声边界,以达到边界和实际换气声吻合的目的,提高了换气声检测的准确性。
附图说明
图1为相关技术中换气声的波形示意图;
图2为本公开实施例中一种音频检测方法的流程图;
图3为本公开实施例中的能量值分布的第一示意图;
图4为本公开实施例中平滑处理后的能量值分布的第二示意图;
图5为本公开实施例中删除清齿音的方法的流程图;
图6为本公开实施例中锐度值分布示意图;
图7为本公开实施例中一种音频检测方法的另一流程图;
图8为本公开实施例中音频检测装置的结构示意图;
图9为本公开实施例中电子设备的结构示意图。
具体实施方式
下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,并不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
下面先对本公开实施例中的名词进行介绍:
原始音频:是指未经过人为处理的干声演唱数据,原始音频中包括人声音频、静音音频和换气声。
待处理音频:是指包含有换气声的非人声音频。
能量值:是指音频信号的均方根能量,表示音频信号波形短时间内的平均能量。
初始目标音频:是初步检测出的换气声。
换气帧:用于表示一帧数据是否为一处换气声的其中一帧。
换气声:一处换气声由多个换气帧组成,换气帧密集的部分可以整合为一处换气声。例如,一个完整换气声的换气持续时间为100ms~600ms。
锐度值:是指音频帧的声音信号的尖锐程度。
静音音频:是由能量值小于能量值阈值的多个音频帧组成的。
人声活动区域检测技术(voice activity detection,VAD):通过VAD技术可以区分出原始音频中的人声音频和非人声音频。
支持向量机(support vector machine,SVM):用于对音频帧是否为换气帧进行二分类。
梅尔倒谱系数(Mel-Frequency Cepstral Coefficients,MFCC):是音频的一种频域特征,由频域信号提取得到。
清齿音:清齿音是包含一定齿音成分的清音,汉语中一般有“c”、“s”、“q”此类发音。
齿音:为人唱歌吐字时发出的咝擦声,一般出现在字词发音的起始位置,能量集中在2~10kHz的频带范围。
为了消除唱歌过程中的换气声,从而达到声音美化的目的,换气声检测的准确性非常重要。因此,如何能够检测出歌曲音频中的换气声,成为了一个亟待解决的问题。参阅图1所示,为相关技术中换气声的波形示意图。
相关技术中,首先过滤掉不可能是换气声的位置,然后,通过检测模型,计算原始音频的每一音频帧与标准换气帧之间的换气相似度,从而确定出每一帧是否为换气声,最后,整合所有的换气帧,从而确定出原始音频中的换气声。然而,相关技术中的这种方式,由于仅基于换气相似度来确定换气声,面对复杂的人声信号表现出较低性能,且对于换气声的边界修正仅依赖于经验,因此,确定出的换气声的边界不准确,从而导致检测出的换气声不准确。
为了解决上述问题,本公开实施例中,提供了一种音频检测方法,从原始音频中确定出待处理音频,以及待处理音频的各音频帧对应的能量值和时域分布的时间点信息,并从待处理音频中确定出初始目标音频,从初始目标音频的各换气帧中确定出能量值满足最高能量值条件的最高换气帧,分别对待处理音频的各音频帧对应的能量值进行平滑处理,并从待处理音频的起始帧与最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从最高换气帧与待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧,将第一最低换气帧和第二最低换气帧之间的各音频帧,作为原始音频的目标音频。这样,通过对各音频帧的能量值进行平滑处理后,将平滑处理后获得的第一最低换气帧和第二最低换气帧之间的各音频帧作为边界修正后的换气声,从而能够提高换气声检测的准确性。
基于上述实施例,参阅图2所示,为本公开实施例中一种音频检测方法的流程图,具体包括:
步骤200:从原始音频中确定出待处理音频,以及待处理音频的各音频帧对应的能量值和时域分布的时间点信息,并从待处理音频中确定出初始目标音频。
其中,待处理音频为包含有换气声的非人声音频,初始目标音频表征初步检测出的换气声。
本公开实施例中,由于原始音频为未经过处理的干声演唱数据,因此,原始音频中包含有人声音频,需要对原始音频进行处理,从原始音频中确定出包含有换气声的非人声音频,并将确定出的非人声音频作为待处理音频。同时,获得待处理音频的每个音频帧对应的能量值和时域分布的时间点信息。
其中,待处理音频由多个音频帧组成,待处理音频中包含有换气声。
本公开实施例中为从原始音频中确定出待处理音频提供了一种可能的实施方式,下面对本公开实施例中,从原始音频中确定出待处理音频的过程进行详细阐述,具体包括:
S2001:对原始音频进行时域分帧,获得各音频帧。
本公开实施例中,根据预先设定的每帧音频帧的采样点的数量,获得每帧音频帧的长度,并根据预先设定的各音频帧之间的间隔采样点数量,获得采样间隔。然后,根据每帧音频帧的长度和采样间隔,对原始音频进行时域分帧,从而获得各音频帧。
例如,假设每帧音频帧的采样点的数量为2048个采样点,各音频帧之间的间隔采样点数量为1024个采样点,采样率为48Hz,因此,在48kHz的采样率下,每帧音频帧的长度约为23ms。
S2002:基于已训练的第一音频检测模型,以各音频帧为输入参数,通过第一音频检测模型中的人声检测网络,从原始音频中确定出待处理音频,并通过第一音频检测模型中的静音检测网络,筛选掉待处理音频中的静音音频,获得处理后的待处理音频。
其中,第一音频检测模型用于检测出原始音频中包含有换气声的待处理音频。
本公开实施例中,将各音频帧输入至已训练的第一音频检测模型中,并输入至第一音频检测模型中的人声检测网络中,通过人声检测网络,将原始音频中的不可能存在换气声的人声区域筛选掉,得到可能存在换气声的待处理音频,然后,将待处理音频输入至第一音频检测模型中的静音网络,通过静音网络,筛选出待处理音频中的静音音频,从而获得处理后的待处理音频。
可选的,本公开实施例中的一种可能的实施方式为,第一音频检测模型由两个网络串行组成,第一个网络为人声检测网络,人声检测网络用于检测出原始音频中包含的不可能存在换气声的人声区域,并删除人声音频,从而得到可能存在换气声的非人声区域,也即待处理音频;第二个网络为静音网络,静音网络用于检测出待处理音频中包含的静音音频,并将待处理音频中的静音区域筛选掉,获得处理后的待处理音频。
其中,人声检测网络例如可以为VAD模块,本公开实施例中对此并不进行限制。
可选的,本公开实施例中为获得处理后的待处理音频提供了一种可能的实施方式,下面对本公开实施例中,筛选掉待处理音频中的静音音频的过程进行详细阐述,具体包括:
S2010:确定待处理音频中的各音频帧对应的能量值和时域分布的时间点信息。
本公开实施例中,由于待处理音频由多个音频帧组成,因此,确定各待处理音频中的各音频帧对应的能量值和时域分布的时间点信息。
其中,每个音频帧对应一个能量值,以及该音频帧在时域分布的时间点信息。
S2011:从待处理音频中的各音频帧中确定出大于等于预设能量值阈值的音频帧。
本公开实施例中,在确定出的待处理音频中的各音频帧对应的能量值之后,首先,分别确定待处理音频中的各音频帧是否大于等于预先设定的能量值阈值,从而就能够获知每一个音频帧是否大于能量值阈值,然后,从待处理音频中的各音频帧中,确定出大于等于预设能量值阈值的音频帧,以及小于预设能量值阈值的音频帧。
S2012:将小于能量值阈值的音频帧组成静音音频。
本公开实施例中,预先设定音频帧数量阈值,将待处理音频的各音频帧中,超过预设音频帧数量阈值的连续数个小于能量值阈值的音频帧,作为静音音频。
例如,假设第1个音频帧对应的能量值大于能量值阈值,第2-10个音频帧对应的能量值小于能量值阈值,第11-25个音频帧对应的能量值大于能量值阈值,第26-27个音频帧对应的能量值小于能量值阈值,第28-35个音频帧对应的能量值大于能量值阈值,预先设定的音频帧数量阈值为5。由于第2-10个音频帧对应的能量值小于能量值阈值,且该连续9个音频帧的数量大于预设音频帧数量阈值,则将第2-10个音频帧组成的音频,作为静音音频;虽然第26-27个音频帧对应的能量值小于能量值阈值,但该连续2个音频帧的数量小于预设音频帧数量阈值,因此,第26-27个音频帧组成的音频无法作为静音音频。
需要说明的是,本公开实施例中从待处理音频中确定出的静音音频可能为一段静音音频,也可能为多段静音音频,对此并不进行限制。
需要说明的是,如图1所示,静音音频的各音频帧的能量值小于换气声的换气帧的能量值,并且,静音音频的各音频帧的能量值小于人声音频的音频帧的能量值,因此,预先设定能量值阈值,从待处理音频的各音频帧中,确定出小于预设能量值阈值的音频帧,即可从待处理音频中确定出静音音频。
S2013:从待处理音频中去除静音音频,获得处理后的待处理音频。
本公开实施例中,由于静音音频中不存在换气,因此,需要从待处理音频中去除静音音频,获得处理后的待处理音频。进而就能够从处理后的待处理音频中确定出初始目标音频。
然后,就能够根据各音频帧对应的能量值和时域分布的时间点信息,从待处理音频中确定出初始目标音频。
可选的,本公开实施例中,为确定出初始目标音频提供了一种可能的实施方式,下面对本公开实施例中,从处理后的待处理音频中确定出初始目标音频的过程进行详细阐述,具体包括:
S2020:分别对待处理音频的各音频帧进行特征提取,确定各音频特征。
本公开实施例中,分别针对待处理音频的各音频帧,执行以下操作步骤:通过预设的特征提取方式,对任意一音频帧进行特征提取,从而获得该音频帧对应的音频特征。
其中,在对任意一音频帧进行特征提取时,提取每个音频帧的13维的MFCC特征,MFCC是音频的一种频域特征,对音频帧的频域信号,得到音频帧的13维的MFCC特征,当然,并不仅限于上述特征。
需要说明的是,在进行特征提取时,是对处理后的待处理音频包含的各音频帧进行特征提取的,也即,对不包含有人声音频和静音音频的待处理音频进行特征提取。
S2022:分别针对待处理音频的各音频帧,基于已训练的第二音频检测模型,以任意一帧音频帧的音频特征为输入参数,确定该音频帧是否为换气帧。
其中,第二音频检测模型用于检测待处理音频中的音频帧是否为换气帧。
本公开实施例中,分别针对处理后的待处理音频帧中包含的各音频帧,基于已训练的第二音频检测模型,以任意一帧音频帧对应的音频特征为输入参数,对该音频帧进行二分类处理,从而获得该音频帧是否为换气帧的检测结果。
其中,第二音频检测模型例如可以为已训练的SVM模型,本公开实施例中对此并不进行限制。
另外需要说明的是,SVM模型为二分类模型,用于输出音频帧是否为换气帧的检测结果,也即,将音频帧输入至已训练的SVM模型中,输出音频帧为换气帧,或音频帧为非换气帧的检测结果。
S2023:将高于数量阈值的连续数个换气帧组成初始目标音频。
本公开实施例中,由于第二音频检测模型仅能够输出每个音频帧是否为换气帧,而无法直接检测出换气声,并且,由数量较少的连续个换气帧无法组成完整的一处换气声。因此,对于通过第二音频检测模型输出的检测结果为换气帧的音频帧,需要剔除时域上分布零散的换气帧,合并时域上密集分布的换气帧,并整合为一处完整的换气声,也即初始目标音频。
例如,假设确定出的第1个音频帧为非换气帧,第2-10个音频帧为换气帧,第11-25个音频帧为非换气帧,第26-27个音频帧为换气帧,第28-35个音频帧为非换气帧,预先设定的数量阈值为5(110ms以内)。由于第2-10个音频帧为换气帧,且第2-10个音频帧的数量大于预设音频帧数量阈值5,则可以将第2-10个音频帧整合为检测出的换气声;虽然第26-27个音频帧为换气帧,但第26-27个音频帧的数量小于预设数量阈值,因此,无法将第26-27个音频帧组成的音频作为检测出的换气声。
另外,需要说明的是,通过步骤200确定出的初始目标音频为换气声,但初始目标音频为边界不准的换气声,也即,初始目标音频为真实换气声的一部分,并非完整的换气声,因此,需要对初步检测出的初始目标音频的边界进行修正,从而获得真实的换气声。
步骤210:从初始目标音频的各换气帧中确定出能量值满足最高能量值条件的最高换气帧。
其中,初始目标音频由至少一帧换气帧组成。
本公开实施例中,在获得初始目标音频之后,确定初始目标音频的每个换气帧对应的能量值是否满足最高能量值条件,并从初始目标音频的各换气帧中,确定出能量值满足最高能量值条件的最高换气帧。
其中,本公开实施例中的最高能量值条件例如可以为能量值最高,本公开实施例中对此并不进行限制。
下面最高能量值条件为能量值最高为例,对本公开实施例中确定出满足预设能量值条件的步骤进行详细阐述,具体包括:
S2101:从初始目标音频的各换气帧中,确定出能量值最高的换气帧。
本公开实施例中,在确定出初始目标音频之后,确定初始目标音频的各换气帧对应的能量值,然后,从初始目标音频的各换气帧中,确定出能量值取值最大对应的换气帧。
其中,初始目标音频为边界不准确的换气声。
S2102:将确定出的换气帧作为初始目标音频中的最高换气帧。
本公开实施例中,将确定出的能量值取值最大对应的换气帧作为初始目标音频中的最高换气帧。
需要说明的是,由于换气声的发声原理为,吸气时能量上升,呼气时能量下降,因此,本公开实施例中确定初始目标音频的目的是,从初始目标音频中确定出能量值最高的换气帧,该换气帧为吸气过程结束,呼气过程开始对应的换气帧,并根据能量值最高的换气帧找到吸气过程开始的音频帧,以及呼气过程结束的音频帧,从而获得真实的换气声。
例如,参阅图3所示,为本公开实施例中的能量值分布的第一示意图,如图3可知,由于每个音频帧对应的能量值分布会产生毛刺,因此,确定出的初始目标音频的边界不准确。
步骤220:分别对待处理音频的各音频帧对应的能量值进行平滑处理,并从待处理音频的起始帧与最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从最高换气帧与待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧。
本公开实施例中,由于每个音频帧对应的能量值分布会产生毛刺,因此,为了提高查找到第一最低换气帧和第二最低换气帧的准确度,需要对每个音频帧对应的能量值进行平滑处理,去除各音频帧对应的能量值分布的毛刺,从而使得各音频帧对应的能量值形成的波形中,产生明显的波谷。
其中,本公开实施例中为对各音频帧对应的能量值进行平滑处理提供了一种可能的实施方式。下面对本公开实施例中,对待处理音频的各音频帧对应的能量值进行平滑处理的过程进行详细阐述,具体包括:
分别针对待处理音频的各音频帧,根据预设的平滑阶数和各音频帧的时间点信息,确定任意一音频帧对应的预设数个音频帧,根据预设数个音频帧之和,与平滑阶数之间的比值,确定该音频帧的处理后的能量值。
本公开实施例中,分别针对待处理音频的各音频帧,执行以下操作步骤:
S2201:根据预设的平滑阶数和各音频帧的时间点信息,确定任意一音频帧对应的预设数个音频帧。
本公开实施例中,获取预先设定的平滑阶数,并根据获取到的平滑阶数,确定采样数量。然后,根据确定出的采样数量,以及各音频帧的时间点信息,确定任意一音频帧对应的各音频帧,进而就能够根据确定出的各音频帧,对任意一音频帧进行平滑处理。
其中,采样数量表征基于任意一音频帧之前的音频帧和之后的音频帧进行平滑处理的音频帧数量。例如,当平滑阶数为3时,则需要根据任意一音频帧之前的一个音频帧的能量值,以及该音频帧之后的音频帧的能量值,对该音频帧进行平滑处理。
S2202:根据预设数个音频帧的能量值之和,与平滑阶数之间的比值,确定该音频帧的处理后的能量值。
本公开实施例中,对确定出的各音频帧的能量值进行累加,获得累加结果,然后,通过计算累加结果与平滑阶数之间的比值,确定该音频帧的处理后的能量值。
其中,本公开实施例中,对各音频帧的能量值进行平滑处理时,采用了基于均值滤波的方法,每个音频帧的平滑处理公式为:
其中,rms(k)为第k个音频帧处理后的能量值,n为平滑阶数,i为第i个音频帧。
例如,当n为3时,第k个音频帧的处理后的能量值等于第k个音频帧的能量值与左右相邻音频帧的能量值的均值,也即,rms(k-1),rms(k),rms(k+1)的均值为第k个音频帧的处理后的能量值。
当然,本公开实施例中对平滑阶数并不进行限制。
例如,参阅图4所示,为本公开实施例中平滑处理后的能量值分布的第二示意图,如图4可知,对每个音频帧对应的能量值进行平滑处理后,使得由每个音频帧处理后的能量值的分布具有明显的波峰和波谷。波峰即为本公开实施例中的最高换气帧,波谷分别为本公开实施例中的第一最低换气帧和第二最低换气帧。
这样,根据发声原理,吸气呼气存在一个上升下降的过程,这个过程可以用平滑后的能量值来模拟,本公开实施例中,平滑处理的作用是为了去除掉能量值分布的毛刺,让能量值分布的走势更清晰地反映换气声的发声原理,也即吸气时能量上升,呼气时能量下降。
在对待处理音频的各音频帧对应的能量值进行平滑处理之后,获得处理后的待处理音频帧对应的能量值,由于待处理音频的起始帧和终止帧之间包含有多个音频帧,因此,以最高换气帧为中心点,从待处理音频的起始帧和最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,以及,从最高换气帧与待处理音频的终止帧之间的各音频帧中,确定出满足该最低能量值条件的第二最低换气帧。下面对本公开实施例中确定第一最低换气帧和第二最低换气帧的步骤进行详细阐述,具体包括:
A1:将待处理音频的起始帧与最高换气帧之间的各音频帧,作为第一候选音频,并将最高换气帧与待处理音频的结束帧之间的各音频帧作为第二候选音频。
本公开实施例中,将待处理音频包含的各音频帧中,时间点信息最小的音频帧作为该待处理音频的起始帧,并将待处理音频包含的各音频帧中,时间点信息最大的音频帧作为该待处理音频的终止帧。然后,将待处理音频的起始帧与最高换气帧之间的各音频帧,作为待处理音频的第一候选音频,并将最高换气帧与待处理音频的终止帧之间的各音频帧,作为待处理音频的第二候选音频。
需要说明的是,本公开实施例中,是从第一候选音频中确定出第一最低换气帧的,并且,是从第二候选音频中确定出第二最低换气帧的。
A2:从第一候选音频的各音频帧中,确定出能量值小于前一音频帧且小于后一音频帧的音频帧,并将确定出的各音频帧中时间点信息最大的音频帧作为第一最低换气帧;以及,从第二候选音频的各音频帧中,确定出能量值小于前一音频帧且小于后一音频帧的音频帧,并将确定出的各音频帧中时间点信息最小的音频帧作为第二最低换气帧。
本公开实施例中,确定第一候选音频的各音频帧,并从各音频中,确定出能量值小于前一音频帧,且该能量值小于后一音频帧对应的音频帧,并将确定出的各音频帧中,时间点信息最大的音频帧作为第一最低换气帧。同时,确定第二候选音频的各音频帧,并从各音频帧中,确定出能量值小于前一音频帧,且该能量值小于后一音频帧对应的音频帧,并将确定出的各音频帧中,时间点信息最小的音频帧作为第二最低换气帧。
例如,如图4所示,波峰为最高换气帧,从波峰对应的音频帧往左,为第一候选音频,开始往左对逐个音频帧进行遍历,从而确定出左波谷的位置,也即在第一候选音频中能量值最小对应的音频帧,并将该音频帧作为第一最低换气帧。同时,从波峰对应的音频帧往右,为第二候选音频,开始往右对逐个音频帧进行遍历,从而确定出右波谷的位置,也即在第二候选音频中能量值最小对应的音频帧,并将该音频帧作为第二最低换气帧。
其中,第一最低换气帧为准确的换气声左边界,第二最低换气帧为准确的换气声右边界。
这样,本公开实施例中,通过对各音频帧对应的能量值进行平滑处理,并根据平滑处理后的能量值修正换气声边界,能够提高换气声检测的准确性。
步骤230:将第一最低换气帧和第二最低换气帧之间的各音频帧,作为原始音频的目标音频。
其中,目标音频表征边界修正后的换气声。
本公开实施例中,在获得第一最低换气帧和第二最低换气帧之后,将第一换气帧和第二换气帧之间的各音频帧,作为原始音频的目标音频,也即确定出的边界修正后的换气声。
例如,如图4所示,黑色线条为检测出的真实换气声的区域。
本公开实施例中,用对待处理音频的各音频帧对应的能量值进行平滑处理,从而修正换气声边界,以达到边界和实际换气声吻的目的,因此,通过本公开实施例中的这种方法,能够提高换气声检测的准确性。
基于上述实施例,在获得目标音频之后,目标音频中有可能还会存在被误检为换气声的清齿音,因此,需要将被误检为换气声的清齿音剔除,下面对本公开实施例中筛选掉清齿音的步骤进行详细阐述,参阅图5所示,为本公开实施例中删除清齿音的方法的流程图,具体包括:
步骤500:确定目标音频的各换气帧对应的锐度值。
其中,锐度值表征音频帧的声音信号的尖锐程度。
本公开实施例中,根据实验可知,误检的换气声几乎均为包含齿音的清齿音,因此,可以通过计算目标音频的各换气帧对应的锐度值,从而确定出被误检为换气声的清齿音。因此,确定目标音频的各换气帧对应的锐度值。
可选的,本公开实施例中对确定锐度值的方法提供了一种可能的实施方式,具体可以表示为:
其中,SA为锐度值,N'(z)为特征响度值,ga(z)为加权函数,z为临界频带,accum为锐度值的单位。
步骤510:根据各锐度值,确定目标音频是否为正确检测出的换气声。
本公开实施例中,由于清齿音的锐度值较高,因此,可以根据目标音频的各音频帧对应的锐度值,确定目标音频是否为正确检测出的换气声。
可选的,本公开实施例中,为确定目标音频是否为正确检测出的换气声提供了一种可能的实施方式,下面对各锐度值,确定目标音频是否为正确检测出的换气声的过程进行详细阐述,具体包括:
S5101:从目标音频的各换气帧中筛选出锐度值高于锐度值阈值的换气帧。
本公开实施例中,由于误检的换气声几乎都是包含齿音的清齿音,因此,根据换气帧的锐度值,确定出齿音位置,并判断齿音位置与换气声是否有交集,有交集的部分被认为是齿音,而并非换气声。因此,分别确定目标音频的各换气帧的锐度值是否高于锐度值阈值,以获得锐度值检测结果,并从锐度值检测结果中,筛选出锐度值高于锐度值阈值的换气帧。
例如,假设锐度值阈值为950,将锐度值高于950的换气帧作为出现了齿音的换气帧。
S5102:若确定目标音频中不存在预设连续数个高于锐度值阈值的换气帧,则确定目标音频为正确检测出的换气声。
本公开实施例中,在获得高于锐度值阈值的换气帧之后,由于数量较少的连续个高于锐度值阈值的换气帧无法组成清齿音,因此,判断目标音频中是否存在预设连续数个高于锐度值阈值的换气帧,若确定目标音频中存在预设连续数个高于锐度值阈值的换气帧,则确定目标音频为误检为换气声的清齿音,若确定目标音频中不存在预设连续数个高于锐度值阈值的换气帧,则确定目标音频为正确检测出的换气声。
例如,参阅图6所示,为本公开实施例中锐度值分布示意图,图中生成的曲线为锐度值分布,假设共检测到两处真实的换气声,分别为换气声1和换气声2,假设确定出的换气声1中并未存在连续5个高于锐度值阈值的换气帧,确定出的换气声2中的连续5个换气帧的锐度值高于预设锐度值阈值,则可以确定换气声1为正确检测出的真实换气声,第二处为误检为换气声的清齿音字母“c”。
本公开实施例中,由于误检的换气声几乎都是包含齿音的清齿音。因此,根据目标音频所包含的换气帧对应的锐度值,确定目标音频是否为正确检测出的换气帧,能够判断换气声是否误检,从而提高换气声检测的准确性。
基于上述实施例,参阅图7所示,为本公开实施例中一种音频检测方法的另一流程图,具体包括:
步骤700:对原始音频进行时域分帧,获得各音频帧。
本公开实施例中,原始音频为包含有人声区域和非人声区域的音频。
步骤701:基于已训练的第一音频检测模型,以各音频帧为输入参数,通过第一音频检测模型中的人声检测网络,从原始音频中确定出待处理音频,并通过第一音频检测模型中的静音检测网络,筛选掉待处理音频中的静音音频,获得处理后的待处理音频。
其中,第一音频检测模型用于检测出原始音频中包含有换气声的待处理音频。
本公开实施例中,将各音频帧输入至已训练的第一音频检测模型的人声检测网络中,通过人声检测网络,从原始音频中确定出待处理音频,并通过静音检测网络,筛选掉待处理音频中的静音音频,从而获得处理后的待处理音频。
其中,在筛选待处理音频中的静音音频时,可以先确定待处理音频中的各音频帧对应的能量值和时域分布的时间点信息,并从各音频帧中确定出不小于预设能量值阈值的音频帧,并将小于预设能量值阈值的音频帧所组成的静音音频删除,从而获得处理后的待处理音频。
步骤702:分别对待处理音频的各音频帧进行特征提取,确定各音频特征。
本公开实施例中,各音频帧对应的音频特征例如可以为MFCC特征。
步骤703:分别针对待处理音频的各音频帧,基于已训练的第二音频检测模型,以任意一帧音频帧的音频特征为输入参数,确定该音频帧是否为换气帧。
步骤704:将高于数量阈值的连续数个换气帧组成初始目标音频。
本公开实施例中,初始目标音频为初步检测出的换气声,但该换气声的边界不准确。
步骤705:从初始目标音频的各换气帧中确定出能量值取值最大的最高换气帧。
本公开实施例中,将能量值取值最大的换气帧,作为初始目标音频中确定出的最高换气帧。
步骤706:分别对待处理音频的各音频帧对应的能量值进行平滑处理。
本公开实施例中,分别对待处理音频的各音频帧对应的能量值进行平滑处理。
步骤707:从待处理音频的起始帧与最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,以及,从最高换气帧与待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧。
本公开实施例中,从待处理音频的起始帧至最高换气帧之间,确定出能量值取值最小的音频帧,作为第一最低换气帧,并从最高换气帧至待处理音频的终止帧之间,确定出能量值取值最小的音频帧,作为第二最低换气帧。
步骤708:将第一最低换气帧和第二最低换气帧之间的各音频帧,作为原始音频的目标音频。
步骤709:确定目标音频的各换气帧对应的锐度值。
其中,锐度值表征音频帧的声音信号的尖锐程度。
本公开实施例中,由于清齿音包含的齿音对应的锐度值较高,因此,可以确定目标音频的各换气帧对应的锐度值,并筛选出高于锐度值阈值的音频帧。
步骤710:从目标音频的各换气帧中筛选出锐度值高于锐度值阈值的换气帧。
本公开实施例中,从目标音频的各换气帧中筛选出高于锐度值阈值的换气帧,这些换气帧可以认定为齿音。
步骤711:若确定目标音频中不存在预设连续数个高于锐度值阈值的换气帧,则确定目标音频为正确检测出的换气声。
本公开实施例中,通过对音频帧的能量值进行平滑处理,修正换气声的边界,以达到边界与实际换气声吻合的目的,并且,通过换气帧的锐度值,从而判断换气声是否误检,结合修正换气声边界和判断换气声是否误检,对换气声进行检测,能够进一步提高换气声检测的准确性,从而能够应用到对歌唱人声的换气声消除美化的场景中,准确的换气声检测可以确保换消除美化不会误伤人声;还可应用于确定演唱过程中气口开始和闭合位置的场景中,结合原唱的歌词时间信息,可以确定哪些位置该不该换气,进而评价演唱者的气息控制能力在K歌气息打分和演唱教学方面均可应用,可应用到多种场景中,具有广泛的应用价值。
基于同一发明构思,本公开实施例中还提供了一种音频检测装置,该音频检测装置可以是硬件结构、软件模块、或硬件结构加软件模块,该音频检测装置实施例可以继承前述方法实施例描述的内容。基于上述实施例,参阅图8所示为本公开实施例中音频检测装置的结构示意图,具体包括:
第一确定模块800,用于从原始音频中确定出待处理音频,以及所述待处理音频的各音频帧对应的能量值和时域分布的时间点信息,并从所述待处理音频中确定出初始目标音频,其中,所述待处理音频为包含有换气声的非人声音频,所述初始目标音频表征初步检测出的换气声;
第二确定模块810,用于从所述初始目标音频的各换气帧中确定出能量值满足最高能量值条件的最高换气帧,其中,所述初始目标音频由至少一帧换气帧组成;
第一处理模块820,用于分别对所述待处理音频的各音频帧对应的能量值进行平滑处理,并从所述待处理音频的起始帧与所述最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从所述最高换气帧与所述待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧;
第三确定模块830,用于将所述第一最低换气帧和所述第二最低换气帧之间的各音频帧,作为所述原始音频的目标音频,其中,所述目标音频表征边界修正后的换气声。
可选的,分别对所述待处理音频的各音频帧对应的能量值进行平滑处理时,第一处理模块820具体用于:
分别针对所述待处理音频的各音频帧,根据预设的平滑阶数和各音频帧的时间点信息,确定任意一音频帧对应的预设数个音频帧,根据所述预设数个音频帧的能量值之和,与所述平滑阶数之间的比值,确定该音频帧的处理后的能量值。
可选的,从所述待处理音频的起始帧与所述最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从所述最高换气帧与所述待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧时,第一处理模块820具体用于:
将所述待处理音频的起始帧与所述最高换气帧之间的各音频帧,作为第一候选音频,并将所述最高换气帧与所述待处理音频的结束帧之间的各音频帧作为第二候选音频;
从所述第一候选音频的各音频帧中,确定出所述能量值小于前一音频帧且小于后一音频帧的音频帧,并将确定出的各音频帧中时间点信息最大的音频帧作为第一最低换气帧;以及,
从所述第二候选音频的各音频帧中,确定出能量值小于前一音频帧且小于后一音频帧的音频帧,并将确定出的各音频帧中时间点信息最小的音频帧作为第二最低换气帧。
可选的,将所述第一最低换气帧和所述第二最低换气帧之间的各音频帧,作为所述原始音频的目标音频之后,还包括:
第四确定模块840,用于确定所述目标音频的各换气帧对应的锐度值,其中,所述锐度值表征音频帧的声音信号的尖锐程度;
判断模块850,用于根据各锐度值,确定所述目标音频是否为正确检测出的换气声。
可选的,判断模块850具体用于:
从所述目标音频的各换气帧中筛选出锐度值高于锐度值阈值的换气帧;
若确定所述目标音频中不存在预设连续数个高于所述锐度值阈值的换气帧,则确定所述目标音频为正确检测出的换气声。
可选的,第二确定模块810具体用于:
从所述初始目标音频的各换气帧中,确定出能量值最高的换气帧;
将确定出的换气帧作为所述初始目标音频中的最高换气帧。
可选的,从原始音频中确定出待处理音频时,第一确定模块800具体用于:
对原始音频进行时域分帧,获得各音频帧;
对原始音频进行时域分帧,获得各音频帧;
基于已训练的第一音频检测模型,以所述各音频帧为输入参数,通过所述第一音频检测模型中的人声检测网络,从所述原始音频中确定出待处理音频,并通过所述第一音频检测模型中的静音检测网络,筛选掉所述待处理音频中的静音音频,获得处理后的待处理音频,其中,所述第一音频检测模型用于检测出所述原始音频中包含有换气声的待处理音频。
可选的,通过所述第一音频检测模型中的静音检测网络,筛选掉所述待处理音频中的静音音频,获得处理后的待处理音频时,第一确定模块800具体用于:
确定所述待处理音频中的各音频帧对应的能量值和时域分布的时间点信息;
从所述待处理音频中的各音频帧中确定出大于等于预设能量值阈值的音频帧;
将所述小于所述能量值阈值的音频帧组成静音音频;
从所述待处理音频中去除所述静音音频,获得处理后的待处理音频。
可选的,获得处理后的待处理音频之后,进一步包括:
特征提取模块860,用于分别对所述待处理音频的各音频帧进行特征提取,确定各音频特征;
第二处理模块870,用于分别针对所述待处理音频的各音频帧,基于已训练的第二音频检测模型,以任意一帧音频帧的音频特征为输入参数,确定该音频帧是否为换气帧,其中,所述第二音频检测模型用于检测所述待处理音频中的音频帧是否为换气帧;
组合模块880,用于将高于数量阈值的连续数个换气帧组成初始目标音频。
基于上述实施例,参阅图9所示为本公开实施例中电子设备的结构示意图。
本公开实施例提供了一种电子设备,该电子设备可以包括处理器910(CenterProcessing Unit,CPU)、存储器920、输入设备930和输出设备940等,输入设备930可以包括键盘、鼠标、触摸屏等,输出设备940可以包括显示设备,如液晶显示器(Liquid CrystalDisplay,LCD)、阴极射线管(Cathode Ray Tube,CRT)等。
存储器920可以包括只读存储器(ROM)和随机存取存储器(RAM),并向处理器910提供存储器920中存储的程序指令和数据。在本公开实施例中,存储器920可以用于存储本公开实施例中任一种音频检测方法的程序。
处理器910通过调用存储器920存储的程序指令,处理器910用于按照获得的程序指令执行本公开实施例中任一种音频检测方法。
基于上述实施例,本公开实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任意方法实施例中的音频检测方法。
本领域内的技术人员应明白,本公开的实施例可提供为方法、***、或计算机程序产品。因此,本公开可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本公开可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本公开是参照根据本公开的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,本领域的技术人员可以对本公开进行各种改动和变型而不脱离本公开的精神和范围。这样,倘若本公开的这些修改和变型属于本公开权利要求及其等同技术的范围之内,则本公开也意图包含这些改动和变型在内。
Claims (10)
1.一种音频检测方法,其特征在于,包括:
从原始音频中确定出待处理音频,以及所述待处理音频的各音频帧对应的能量值和时域分布的时间点信息,并从所述待处理音频中确定出初始目标音频,其中,所述待处理音频为包含有换气声的非人声音频,所述初始目标音频表征初步检测出的换气声;
从所述初始目标音频的各换气帧中确定出能量值满足最高能量值条件的最高换气帧,其中,所述初始目标音频由至少一帧换气帧组成;
分别对所述待处理音频的各音频帧对应的能量值进行平滑处理,并从所述待处理音频的起始帧与所述最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从所述最高换气帧与所述待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧;
将所述第一最低换气帧和所述第二最低换气帧之间的各音频帧,作为所述原始音频的目标音频,其中,所述目标音频表征边界修正后的换气声。
2.如权利要求1所述的方法,其特征在于,分别对所述待处理音频的各音频帧对应的能量值进行平滑处理,具体包括:
分别针对所述待处理音频的各音频帧,根据预设的平滑阶数和各音频帧的时间点信息,确定任意一音频帧对应的预设数个音频帧,根据所述预设数个音频帧的能量值之和,与所述平滑阶数之间的比值,确定该音频帧的处理后的能量值。
3.如权利要求1所述的方法,其特征在于,从所述待处理音频的起始帧与所述最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从所述最高换气帧与所述待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧,具体包括:
将所述待处理音频的起始帧与所述最高换气帧之间的各音频帧,作为第一候选音频,并将所述最高换气帧与所述待处理音频的结束帧之间的各音频帧作为第二候选音频;
从所述第一候选音频的各音频帧中,确定出所述能量值小于前一音频帧且小于后一音频帧的音频帧,并将确定出的各音频帧中时间点信息最大的音频帧作为第一最低换气帧;以及,
从所述第二候选音频的各音频帧中,确定出能量值小于前一音频帧且小于后一音频帧的音频帧,并将确定出的各音频帧中时间点信息最小的音频帧作为第二最低换气帧。
4.如权利要求1所述的方法,其特征在于,将所述第一最低换气帧和所述第二最低换气帧之间的各音频帧,作为所述原始音频的目标音频之后,还包括:
确定所述目标音频的各换气帧对应的锐度值,其中,所述锐度值表征音频帧的声音信号的尖锐程度;
根据各锐度值,确定所述目标音频是否为正确检测出的换气声。
5.如权利要求4所述的方法,其特征在于,根据各锐度值,确定所述目标音频是否为正确检测出的换气声,具体包括:
从所述目标音频的各换气帧中筛选出锐度值高于锐度值阈值的换气帧;
若确定所述目标音频中不存在预设连续数个高于所述锐度值阈值的换气帧,则确定所述目标音频为正确检测出的换气声。
6.如权利要求1所述的方法,其特征在于,从所述初始目标音频的各换气帧中确定出能量值满足最高能量值条件的最高换气帧,具体包括:
从所述初始目标音频的各换气帧中,确定出能量值最高的换气帧;
将确定出的换气帧作为所述初始目标音频中的最高换气帧。
7.如权利要求1所述的方法,其特征在于,从原始音频中确定出待处理音频,具体包括:
对原始音频进行时域分帧,获得各音频帧;
基于已训练的第一音频检测模型,以所述各音频帧为输入参数,通过所述第一音频检测模型中的人声检测网络,从所述原始音频中确定出待处理音频,并通过所述第一音频检测模型中的静音检测网络,筛选掉所述待处理音频中的静音音频,获得处理后的待处理音频,其中,所述第一音频检测模型用于检测出所述原始音频中包含有换气声的待处理音频。
8.一种音频检测装置,其特征在于,包括:
第一确定模块,用于从原始音频中确定出待处理音频,以及所述待处理音频的各音频帧对应的能量值和时域分布的时间点信息,并从所述待处理音频中确定出初始目标音频,其中,所述待处理音频为包含有换气声的非人声音频,所述初始目标音频表征初步检测出的换气声;
第二确定模块,用于从所述初始目标音频的各换气帧中确定出能量值满足最高能量值条件的最高换气帧,其中,所述初始目标音频由至少一帧换气帧组成;
第一处理模块,用于分别对所述待处理音频的各音频帧对应的能量值进行平滑处理,并从所述待处理音频的起始帧与所述最高换气帧之间的各音频帧中,确定出满足最低能量值条件的第一最低换气帧,并从所述最高换气帧与所述待处理音频的终止帧之间的各音频帧中,确定出满足最低能量值条件的第二最低换气帧;
第三确定模块,用于将所述第一最低换气帧和所述第二最低换气帧之间的各音频帧,作为所述原始音频的目标音频,其中,所述目标音频表征边界修正后的换气声。
9.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1-7任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现权利要求1-7任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110865067.1A CN113611330B (zh) | 2021-07-29 | 2021-07-29 | 一种音频检测方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110865067.1A CN113611330B (zh) | 2021-07-29 | 2021-07-29 | 一种音频检测方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113611330A true CN113611330A (zh) | 2021-11-05 |
CN113611330B CN113611330B (zh) | 2024-05-03 |
Family
ID=78306017
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110865067.1A Active CN113611330B (zh) | 2021-07-29 | 2021-07-29 | 一种音频检测方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113611330B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116013349A (zh) * | 2023-03-28 | 2023-04-25 | 荣耀终端有限公司 | 音频处理方法及相关装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007225916A (ja) * | 2006-02-23 | 2007-09-06 | Yamaha Corp | オーサリング装置、オーサリング方法およびプログラム |
US20090306937A1 (en) * | 2006-09-29 | 2009-12-10 | Panasonic Corporation | Method and system for detecting wind noise |
US20180139554A1 (en) * | 2016-04-29 | 2018-05-17 | Huawei Technologies Co., Ltd. | Voice Input Exception Determining Method, Apparatus, Terminal, and Storage Medium |
CN110036246A (zh) * | 2016-12-16 | 2019-07-19 | 三菱电机株式会社 | 控制装置、换气***、换气装置、换气方法及程序 |
WO2020248308A1 (zh) * | 2019-06-12 | 2020-12-17 | 腾讯音乐娱乐科技(深圳)有限公司 | 音频爆音检测方法、装置和存储介质 |
CN112420079A (zh) * | 2020-11-18 | 2021-02-26 | 青岛海尔科技有限公司 | 语音端点检测方法和装置、存储介质及电子设备 |
CN112435669A (zh) * | 2020-11-19 | 2021-03-02 | 福州灵医科技有限公司 | 一种机器人多轮对话语音交互方法、***和终端设备 |
CN112908302A (zh) * | 2021-01-26 | 2021-06-04 | 腾讯音乐娱乐科技(深圳)有限公司 | 一种音频处理方法、装置、设备及可读存储介质 |
-
2021
- 2021-07-29 CN CN202110865067.1A patent/CN113611330B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007225916A (ja) * | 2006-02-23 | 2007-09-06 | Yamaha Corp | オーサリング装置、オーサリング方法およびプログラム |
US20090306937A1 (en) * | 2006-09-29 | 2009-12-10 | Panasonic Corporation | Method and system for detecting wind noise |
US20180139554A1 (en) * | 2016-04-29 | 2018-05-17 | Huawei Technologies Co., Ltd. | Voice Input Exception Determining Method, Apparatus, Terminal, and Storage Medium |
CN110036246A (zh) * | 2016-12-16 | 2019-07-19 | 三菱电机株式会社 | 控制装置、换气***、换气装置、换气方法及程序 |
WO2020248308A1 (zh) * | 2019-06-12 | 2020-12-17 | 腾讯音乐娱乐科技(深圳)有限公司 | 音频爆音检测方法、装置和存储介质 |
CN112420079A (zh) * | 2020-11-18 | 2021-02-26 | 青岛海尔科技有限公司 | 语音端点检测方法和装置、存储介质及电子设备 |
CN112435669A (zh) * | 2020-11-19 | 2021-03-02 | 福州灵医科技有限公司 | 一种机器人多轮对话语音交互方法、***和终端设备 |
CN112908302A (zh) * | 2021-01-26 | 2021-06-04 | 腾讯音乐娱乐科技(深圳)有限公司 | 一种音频处理方法、装置、设备及可读存储介质 |
Non-Patent Citations (2)
Title |
---|
RUIKAI HE ET AL.: "A non-intrusive approach for fault detection and diagnosis of water distribution systems based on image sensors, audio sensors and an inspection robot", ENERGY & BUILDINGS, pages 110967 - 110987 * |
钱博;李燕萍;唐振民;徐利敏;: "基于频域能量分布分析的自适应元音帧提取算法", 电子学报, no. 02, pages 279 - 282 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116013349A (zh) * | 2023-03-28 | 2023-04-25 | 荣耀终端有限公司 | 音频处理方法及相关装置 |
CN116013349B (zh) * | 2023-03-28 | 2023-08-29 | 荣耀终端有限公司 | 音频处理方法及相关装置 |
Also Published As
Publication number | Publication date |
---|---|
CN113611330B (zh) | 2024-05-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7567900B2 (en) | Harmonic structure based acoustic speech interval detection method and device | |
Deshmukh et al. | Use of temporal information: Detection of periodicity, aperiodicity, and pitch in speech | |
US8428945B2 (en) | Acoustic signal classification system | |
EP1083542B1 (en) | A method and apparatus for speech detection | |
Weinstein et al. | A system for acoustic-phonetic analysis of continuous speech | |
US8069039B2 (en) | Sound signal processing apparatus and program | |
CN104992712B (zh) | 能识别音乐自动成谱的方法 | |
US8473282B2 (en) | Sound processing device and program | |
CN110599987A (zh) | 基于卷积神经网络的钢琴音符识别算法 | |
JPH10508389A (ja) | 音声検出装置 | |
Arora et al. | On-line melody extraction from polyphonic audio using harmonic cluster tracking | |
CN111540342A (zh) | 一种能量阈值调整方法、装置、设备及介质 | |
CN113611330B (zh) | 一种音频检测方法、装置、电子设备及存储介质 | |
EP2328143B1 (en) | Human voice distinguishing method and device | |
US7680654B2 (en) | Apparatus and method for segmentation of audio data into meta patterns | |
CN112489692A (zh) | 语音端点检测方法和装置 | |
JPS60200300A (ja) | 音声の始端・終端検出装置 | |
CN104318931B (zh) | 一种音频文件的情绪活跃度获取方法及分类方法、装置 | |
JP2018081277A (ja) | 音声区間検出方法、音声区間検出装置および音声区間検出プログラム | |
CN110827859B (zh) | 一种颤音识别的方法与装置 | |
JP5157474B2 (ja) | 音処理装置およびプログラム | |
CN110853678B (zh) | 颤音识别评分方法、装置、终端和非临时性计算机可读存储介质 | |
JP4360527B2 (ja) | ピッチ検出方法 | |
JPH09247800A (ja) | 左右音像方向抽出方法 | |
KR100345402B1 (ko) | 피치 정보를 이용한 실시간 음성 검출 장치 및 그 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |