CN102568494A - 消除回声的优化方法、装置及*** - Google Patents

消除回声的优化方法、装置及*** Download PDF

Info

Publication number
CN102568494A
CN102568494A CN2012100880820A CN201210088082A CN102568494A CN 102568494 A CN102568494 A CN 102568494A CN 2012100880820 A CN2012100880820 A CN 2012100880820A CN 201210088082 A CN201210088082 A CN 201210088082A CN 102568494 A CN102568494 A CN 102568494A
Authority
CN
China
Prior art keywords
playback
recording
echo
sampling rate
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2012100880820A
Other languages
English (en)
Other versions
CN102568494B (zh
Inventor
黄国宏
潘年华
胡海
周平
王海
晏利平
李晓鹏
罗光喜
杨晓东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guiyang Longmaster Information and Technology Co ltd
Original Assignee
Guiyang Longmaster Information and Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guiyang Longmaster Information and Technology Co ltd filed Critical Guiyang Longmaster Information and Technology Co ltd
Priority to CN201210088082.0A priority Critical patent/CN102568494B/zh
Publication of CN102568494A publication Critical patent/CN102568494A/zh
Application granted granted Critical
Publication of CN102568494B publication Critical patent/CN102568494B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Telephone Function (AREA)

Abstract

本发明公开一种消除回声的优化方法、装置及***,以解决现有的回声消除器消除效果不佳的问题。本发明公开的消除回声的方法包括:通过录音线程获取录音数据,其中所述录音线程先于放音线程启动;获取放音采样率及其对应的放音缓冲区长度,根据所述放音采样率及其对应的放音缓冲区长度计算放音延迟时长;当放音数据传送至回声消除器以启动所述回声消除器后,分离出所述回声消除器启动后所得到的录音数据中排列在前的且对应一个所述放音延迟时长的录音数据;将所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给所述回声消除器,供其进行回声消除处理。

Description

消除回声的优化方法、装置及***
技术领域
本发明涉及计算机通信技术领域,尤其涉及一种消除回声的优化方法、装置及***。
背景技术
在语音通信中,有一个很影响通话质量的因素就是回声。回声就是指,说话者通过通信设备发送给其他人的语音又重新回到自己听筒里的现象。回声会对说话者产生严重的干扰,必须想办法消除。一般,回声分为两种,即:“电路回声”和“声学回声”。“电路回声”可以通过硬件设备的合理设计而消除,在此不作讨论。而本发明则是对“声学回声”所作的优化处理。
“声学回声”是指远端用户的声音从听筒出来以后,经过空气或其他的传播媒介传到近端用户的话筒,再通过话筒录音后又重新传到远端用户的听筒中形成的回声。当近端用户的放音音量比较大而录音设备和放音设备距离比较近时回声尤其明显。“声学回声”受近端用户环境的影响,可能产生多路回声,各个回声的路径不同,延迟各异,因而难以消除。
对于声学回声消除,常见的消除算法有2类,即:回声抑制(acoustic echosuppression)算法和声学回声消除(acoustic echo cancellation)算法。
回声抑制算法是较早的一种回声控制算法。回声抑制是一种非线性的回声消除。它通过简单的比较器将准备由扬声器播放的声音与当前话筒拾取的声音的电平进行比较,如果前者高于某个阈值,那么就允许传至扬声器,而且话筒被关闭,以阻止它拾取扬声器播放的声音而引起远端回声。如果话筒拾取的声音电平高于某个阈值,扬声器被禁止,以达到消除回声的目的。由于回声抑制是一种非线性的回声控制方法,会引起扬声器播放的不连续,影响回声消除的效果,随着高性能的回声消除器的出现,回声抑制已经很少有人使用了。
声学回声消除算法(AEC,Acoustic Echo Canceller)的回声消除接口的一般形式为:AecFunction(input frame,playback frame,out frame),其是对扬声器信号与由它产生的多路径回声的相关性为基础,以等量的播放数据输入作为建立回声模型的参考数据,利用它对回声进行估计,并不断地修改滤波器的系数,使得估计值更加逼近真实的回声;然后,将回声估计值从话筒的输入信号中减去,从而达到消除回声的目的。其中,回声消除器的初始化需要两个参数:一次处理的数据量(帧长)和估计的录音中回声相对于录音开头的偏移量,该偏移量即回声相对于录音的延迟的最大值,主要由两放音延迟和录音延迟两部分组成。由于所有的回声消除器支持的尾长都有一个范围,偏移量超过这个范围的回声就无法消除了,因此回声消除的效果则跟回声偏移量的大小息息相关。然而现有的消除回声的技术大多存在录音开头偏移量无法控制的缺陷,从而导致回声消除的效果欠佳。
发明内容
本发明的主要目的在于公开一种消除回声的优化方法、装置及***,以解决现有的回声消除器因尾长过长而导致的消除效果不佳的问题。
为达上述目的,本发明公开一种消除回声的优化方法,包括以下步骤:
通过录音线程获取录音数据,其中所述录音线程先于放音线程启动;
获取放音采样率及其对应的放音缓冲区长度,根据所述放音采样率及其对应的放音缓冲区长度计算放音延迟时长;
当放音数据传送至回声消除器以启动所述回声消除器后,分离出所述回声消除器启动后所得到的录音数据中排列在前的且对应一个所述放音延迟时长的录音数据;
将所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给所述回声消除器,供其进行回声消除处理。
为达上述目的,本发明还公开一种消除回声的优化装置,包括:
录音数据获取模块,用于通过录音线程获取录音数据,其中所述录音线程先于放音线程启动;
放音延迟时长计算模块,用于获取放音采样率及其对应的放音缓冲区长度,根据所述放音采样率及其对应的放音缓冲区长度计算放音延迟时长;
录音数据发送模块,用于当放音数据传送至回声消除器以启动所述回声消除器后,分离出所述回声消除器启动后所述录音数据获取模块所得到的录音数据中排列在前的且对应一个所述放音延迟时长计算模块所计算的放音延迟时长的录音数据;将所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给所述回声消除器,供其进行回声消除处理。
为达上述目的,本发明还公开一种消除回声的优化***,包括用于获取放音数据和录音数据以进行AEC回声消除的回声消除器以及与该回声消除器建立通信连接的优化装置,其中,该优化装置用于执行下述的操作:
通过录音线程获取录音数据,其中所述录音线程先于放音线程启动;
获取放音采样率及其对应的放音缓冲区长度,根据所述放音采样率及其对应的放音缓冲区长度计算放音延迟时长;
当放音数据传送至回声消除器以启动所述回声消除器后,分离出所述回声消除器启动后所得到的录音数据中排列在前的且对应一个所述放音延迟时长的录音数据;
将所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给所述回声消除器,供其进行回声消除处理。
与现有技术相比,本发明公开的消除回声消除的优化方法、装置及***至少具有以下优点:
录音线程先于放音线程启动,放音数据先于录音数据到达回声消除器,确保了回声消除效果的完整性。且在回声消除器启动后,分离出回声消除器启动后所得到的录音数据中排列在前的且对应一个所述放音延迟时长的录音数据,只对回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据进行回声消除处理,使得回声消除器处理的录音数据相对于放音数据的延迟减小了放音延迟这么长,减少了回声消除器处理回声的尾长;尾长越小,则同样长度的数据回声消除器的处理时间越短,回声消除算法的收敛也越快,即开始消除回声的时间越早;从而对回声消除的效果起到了很好的优化作用。
附图说明
图1是本发明实施例公开的消除回声的优化方法的流程图;
图2是本发明实施例公开的消除回声的优化***的架构图;
图3是本发明实施例公开的一种消除回声的优化装置的结构框图;
图4为本发明实施例公开的又一种消除消除回声的优化装置的结构框图。
具体实施方式
下面结合说明书附图对本发明的具体实现方式做一详细描述。
AEC回声消除器其接口的一般形式为:AecFunction(input frame,playback frame,out frame),对录音数据进行回声消除需要等量的播放数据输入作为建立回声模型的参考数据。其中,回声消除器的初始化需要两个参数:一次处理的数据量(即帧长)和估计的录音中回声相对于录音开头的偏移量,即回声相对于录音的延迟的最大值(即尾长)。
本发明实施例所作的优化主要是针对回声消除器的参数所作出的,其优化方法,如图1所示,具体包括:
步骤S1、通过录音线程获取录音数据,其中录音线程先于放音线程启动。该步骤中,录音线程先于放音线程启动的时间应尽量控制在一个比较短的时间内,而不是两者之间的时间差越大越好;较佳的,可以将录音线程先于放音线程启动的时间控制在一个录音延迟时长内;而通常,只要录音线程开始工作了就可以去启动放音线程了。
该步骤中,所谓录音线程主要是指从通信终端的录音接口获取录音数据的线程;所谓放音线程主要是指向通信终端的放音接口提供放音数据的线程;其中该录音接口和放音接口大多由该通信终端的声卡提供。
与本发明实施例不同的,如果先启动放音线程,那么放音一开始,有数据就会给回声消除器,而这个时候如果录音线程还没开始收集录音数据,那么开头的那一段放音数据就不会在录音数据里得到体现,录音数据里一开始体现的就是较为靠后的放音数据;因为回声消除器只能消除它“看到过”的回声,这样的话回声消除器要消除的回声要在后面的放音数据里才出现,那么就一定消不掉。而本发明实施例所采用的“录音线程先于放音线程启动”,那么放音线程里给***播放的所有数据一定会被完整地在录音线程得到的录音数据里体现,从而使得回声消除处理的效果更彻底。
步骤S2、获取放音采样率及其对应的放音缓冲区长度,根据放音采样率及其对应的放音缓冲区长度计算放音延迟时长。
该步骤中,通信终端的每个放音采样率(注:采样率即单位时间内的采样数)都对应有一个最小的放音缓冲区长度,即每种采样率下的放音缓冲区不能设置的比这个长度短,其中本发明实施例所述的长度是指数据占用的物理空间,一般以采样数来进行表征,后续不再赘述。其中,获取放音采样率及其对应的放音缓冲区长度可以通过调用一个***的API接口或与通信终端的中央处理器进行交互来具体实现,为本领域技术人员所能轻易实现的技术,在此不做赘述。
在该步骤S2之前,需要通过放音线程或者其它方式设定好放音采样率及其对应的放音缓冲区长度。在放音过程中,基于近端的通信终端与远端通信终端在软硬件上的差异,每次给放音API播放的数据会先根据近端通信终端的软硬件属性对放音帧进行重采样,然后再以重采样的数据去填充放音缓冲区,只有当放音缓冲区被填满以后才会真正拿到声卡去播放。如果放音帧比放音缓冲区长,那么放音不会有延迟。如果放音帧比放音缓冲区短,那么就要等若干个放音帧来填充放音缓冲区,直到填满以后才开始播放第一帧数据。在这段时间内产生的录音数据也会被送到回声消除器里去处理,因此这段时间内造成的数据延迟为(以时长为单位):
Figure BDA0000148375180000061
(公式一)
上述公式一中,
Figure BDA0000148375180000062
表示向上取整,即取不小于该数的最小整数,表示“放音帧缓冲长度”除以“重采样到放音帧采样率后的放音帧的长度”,“*”为乘法符号。而重采样到放音采样率的放音帧的长度=放音帧原始长度/放音帧原始采样率*放音采样率(注:“/”为除法符号,“*”为乘法符号)。其中,放音帧原始的长度及采样率分别是指远端通信终端编码发送的语音帧的帧长和采样率。其中声卡延迟是指声卡得到放音数据以后到它开始播放这段数据的固有延迟,该延迟一般不超过“最小放音缓冲区播放时长”。
通常,移动设备支持的放音采样率有多种,本发明实施例中,为使通信终端及时地向用户放音,需将放音延迟控制在比较小的范围内。为此,参照上述公式一,本发明实施例优选择取的放音采样率为使
Figure BDA0000148375180000064
的值最小的放音采样率,并将其对应的放音缓冲区长度设置为重采样到放音采样率下的放音帧长度的不小于其要求的最小放音缓冲区长度的最小整数倍(即满足两个条件,1、将放音缓冲区的长度设置为对应放音采样率下放音帧长度的整数倍;2、满足条件1所设置的放音缓冲区的长度的值应大于或等于该放音采样率所要求的下限值,若大于该下限值,则设置后的值应与该下限值之差越小越好)。其中,当
Figure BDA0000148375180000071
存在两个或两个以上的最小值时(例如:32000Hz的采样率下500个字节大小的放音缓冲区的放音延迟与16000Hz采样率下的250字节大小的放音缓冲区的放音延迟是相等的),从中择取与放音帧原始采样率最接近的放音采样率,以此降低重采样所导致的放音帧的失真。
步骤S3、当放音数据传送至回声消除器以启动回声消除器后,分离出回声消除器启动后所得到的录音数据中排列在前的且对应一个放音延迟时长的录音数据。
本发明实施例中,通常在放音线程提交第一个放音帧数据的同时开启回声消除器,因此只有在回声消除器启动后才有放音数据的播放,从而使得回声消除器启动前的录音数据中是不含有回声信息的,即该步骤中分离出的录音数据是不包含有回声信息的,因此不参与回声消除器的回声处理,可直接转交给编码器进行编码传输处理以传送至远端的通信终端,以确保数据传输的完整性。
步骤S4、将回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给回声消除器,供其进行回声消除处理。
本发明实施例中,我们假设声音一放出来立即被录到录音文件里,忽略其在媒介中的传播时间,因为实际中最突出的回声是直接回声,即声音从播放设备出来,通过空气或手机本身直接传输到录音设备,而不是经过反射回到录音设备,一般直接回声从放音设备出来再回到录音设备的时间是很短的,一般不到1毫秒,可以忽略。在该步骤S4中,由于放音延迟的时间是大致固定的(计算公式为式一),作为一种优化方式,我们可以把回声消除器处理的录音数据从头部(即按时间顺序排列在前的)先丢掉与放音延迟对应时长的数据,那么回声消除器所处理的录音和放音数据之间的延迟就只剩下录音引起的延迟。由于这部分延迟的长度是不确定的,我们就把这部分延迟可能的最大值再加上一个估计的其他因素(比如移动设备处理数据的时间)引起的延迟作为“尾长”。
通过上述步骤,使得回声消除器处理的录音数据相对于放音数据的延迟减小了放音延迟这么长,减少了回声消除器处理回声的尾长;尾长越小,则同样长度的数据回声消除器的处理时间越短,回声消除算法的收敛也越快,即开始消除回声的时间越早;从而对回声消除的效果起到了很好的优化作用。
实施例二
本实施例是在上述实施例一的基础上对播放数据的声音对应的回声在录音数据中出现的位置相对于录音的开头的偏移量做进一步的优化。具体的,由于回声偏移量的大小主要是由放音延迟和录音延迟两部分组成,本实施例则是在实施例一的基础上,对录音延迟做进一步的优化处理。
录音也和放音一样,在每种录音采样率下录音缓冲区长度都有一个下限,录音缓冲区只能设置得比这个长度长或和这个下限值一样。当录音数据填满第一个缓冲区以后,我们才能从录音API中获得第一个录音块,由于回声消除的原因,我们每次都要从录音数据里取得和放音帧“等长”(这里的“等长”是指播放时长相等)的录音帧来进行处理。在放音线程得到第一个放音帧、开始回声消除这个时刻之后,我们从录音API里得到的录音数据里包含有多少在回声消除开始之前就录到的正常数据(即录音延迟)则跟录音帧长度以及录音缓冲区的长度都有关。如果录音缓冲区的长度不是录音帧长度的整数倍,录音数据里录到的回声消除前的声音数据的时长最大可能是一个录音帧时长加上填满一个录音缓冲区需要的数据对应的播放时长之和。举例说明:比如录音缓冲区长度是录音帧长度的1.5倍,可能上一次取录音帧的时候录音缓冲区里只剩下0.99倍录音帧长度的数据,从而导致不能取得录音帧,而这时又刚好开始下一个录音缓冲区的填充,从而下一次取得录音帧又得等这个缓冲区完全填满,因此到缓冲区填满以后,这时残留的录音数据就是0.99倍录音帧长度加上缓冲区的长度,就是2.49倍录音帧长度,接近2.5倍了。而如果录音缓冲区长度是录音帧长度的整数倍,那么录到的回声消除前的声音的最大时长就是填满一个录音缓冲区需要的数据对应的等待/录制时长,如下述公式二。
Figure BDA0000148375180000091
(公式二)
因此本实施例优选将通信终端的录音缓冲区长度设置(该设置的具体实现可以通过一个***的API接口调用就可以实现了,上述实施例一中对通信终端放音采样率及其对应的放音缓冲区的参数的择取及设置也与此类似,为本领域技术人员所熟知的技艺,在此不做详述)为对应录音采样率下的录音帧长度的不小于其要求的录音缓冲区下限值的最小整数倍(即满足两个条件,1、将录音缓冲区的长度设置为对应录音采样率下录音帧长度的整数倍;2、满足条件1所设置的录音缓冲区长度的值大于或等于该录音采样率所要求的下限值,若大于该下限值,则设置后的值与该下限值之差越小越好)。
根据上述公式二,录音延迟跟录音采样率和录音缓冲区的大小(及能容纳该采样率下录音帧的个数)息息相关。藉此,当通信终端可设置的录音采样率为两个或两个以上时,择取的录音采样率则为使“对应的录音采样率所对应的录音帧长度的不小于其要求的录音缓冲区下限值的最小整数倍”与该对应的“录音采样率”之商的值最小的录音采样率。依此,则尽可能地缩短了录音延迟,使得回声消除器处理的尾长进一步缩短,尾长越缩短,则同样长度的数据回声消除器的处理时间越短,回声消除算法的收敛也越快,即开始消除回声的时间越早;从而对回声消除的效果起到了进一步的优化作用。进一步的当“最小录音缓冲区长度”与对应的“录音采样率”之商存在两个或两个以上的最小值时,优选择取与放音帧原始采样率最接近的录音采样率,以减少回声消除过程中重采样所导致的失真。
值得说明的是,在本发明实施例中,在回声消除器进行回声消除时,为达到良好的回声消除效果,播放数据的产生速度要和录音数据的产生速度达到动态平衡,为此如果录放音数据的采样率不同,那么需要在回声消除器进行回声消除处理前,把他们统一成同一采样率下的数据以后再进行回声消除。因此,本发明可在执行上述实施例一中步骤S4“将回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给回声消除器,供其进行回声消除处理”的过程中,首先以回声消除器的采样率对回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据进行重新采样,然后再将重新采样后的录音数据发送给回声消除器。而后,回声消除器处理之后的数据再按编码采样率重采样,然后编码、发送。此外,对于实时的语音处理而言,由于网络的不稳定性,数据包可能在网络上丢失或者由于过大的延迟而被其他的处理环节丢弃,那么来自远端的放音帧可能会少于近端录音产生的数据量,对于这种情况我们必须补充播放数据,以保证放音数据的量和录音数据量达到平衡。可选的,本发明实施例可以对放音线程数据产生的速度进行控制,当放音数据未均匀缓存至放音数据队列中时,通过在该放音数据队列中填充静音数据或是通过wsola算法来模拟连续语音数据,以控制拿给声卡播放的数据量和从声卡获得的录音数据量总是保持一致。
综上,在本发明实施例中,通信终端可以结合自身的属性和回声消除效果而灵活设置放音采样率、放音缓冲区长度、录音采样率以及录音缓冲区长度等参数,以优化通话的实时性、确保数据传输的完整性并提高语音数据的信噪比。
实施例三
与上述方法实施例所对应的,本实施例提供一种消除回声的优化***及其装置,以供通信终端结合自身的属性和回声消除效果而灵活设置放音采样率、放音缓冲区长度、录音采样率以及录音缓冲区长度等参数,以优化通话的实时性、确保数据传输的完整性并提高语音数据的信噪比。如图2所示,该***包括用于获取放音数据和录音数据以进行AEC回声消除的回声消除器1以及与该回声消除器1建立通信连接的优化装置2,其中,该优化装置用于执行下述的操作:
通过录音线程获取录音数据,其中该录音线程先于放音线程启动;
获取放音采样率及其对应的放音缓冲区长度,根据该放音采样率及其对应的放音缓冲区长度计算放音延迟时长;
当放音数据传送至回声消除器以启动回声消除器后,分离出回声消除器启动后所得到的录音数据中排列在前的且对应一个放音延迟时长的录音数据;
将回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给回声消除器,供其进行回声消除处理。
可选的,上述优化装置2的内部功能模块的架构如图3所示,包括:
录音数据获取模块21,用于通过录音线程获取录音数据,其中录音线程先于放音线程启动;
放音延迟时长计算模块23,用于获取放音采样率及其对应的放音缓冲区长度,根据放音采样率及其对应的放音缓冲区长度计算放音延迟时长(计算公式可参照上述实施例一种的公式一);
录音数据发送模块25,用于当放音数据传送至回声消除器以启动回声消除器后,分离出回声消除器启动后录音数据获取模块21所得到的录音数据中排列在前的且对应一个放音延迟时长计算模块23所计算的放音延迟时长的录音数据;将回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给回声消除器,供其进行回声消除处理。
较佳的,如图4所示,上述放音延迟时长计算模块23还包括:
放音线程管理单元231,用于对放音线程数据产生的速度进行控制,当放音数据未均匀缓存至放音数据队列中,通过在该放音数据队列中填充静音数据或是通过wsola算法来模拟连续语音数据,控制拿给声卡播放的数据量和从声卡获得的录音数据量总是保持一致。
进一步的,该放音线程管理单元231还用于:
获取通信终端的放音采样率及其对应的最小放音缓冲区长度,并将放音缓冲区的时长设置为重采样到放音采样率后的放音帧长度的不小于该最小放音缓冲区长度的最小整数倍;以及
当通信终端可设置的放音采样率为两个或两个以上时,择取的放音采样率为使的值最小的放音采样率;以及
Figure BDA0000148375180000122
存在两个或两个以上的最小值时,从中择取与放音帧原始采样率最接近的放音采样率。
较佳的,如图4所示,上述录音数据获取模块21还可以进一步包括用于执行下述操作的录音线程管理单元211:
获取通信终端的录音采样率及其对应的最小录音缓冲区长度,并将录音缓冲区的长度设置为对应录音采样率下的放录音帧长度的不小于该最小录音缓冲区长度的最小整数倍;以及
当通信终端可设置的录音采样率为两个或两个以上时,择取的录音采样率为使“对应的录音采样率所对应的录音帧长度的不小于其要求的录音缓冲区下限值的最小整数倍”与对应的“录音采样率”之商最小的录音采样率;以及当“对应的录音采样率所对应的录音帧长度的不小于其要求的录音缓冲区下限值的最小整数倍”与对应的“录音采样率”之商存在两个或两个以上的最小值时,从中择取与该通信终端的编码采样率最接近的录音采样率。
本实施例中,可选的,上述录音数据发送模块2在执行将回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给回声消除器的操作具体为:以回声消除器的采样率对回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据及回声消除器启动后的录音数据进行重新采样;将重新采样后的录音数据发送给回声消除器。进一步的,该录音数据发送模块2还用于将分离出的回声消除器启动后所得到的录音数据中排列在前的且对应一个放音延迟时长的录音数据及回声消除器启动前的录音数据直接发送给编码器,供其按编码采样率重采样及编码发送给对端的通信终端。其中该编码器还用于对回声消除后的录音数据以编码采样率进行重采样及编码发送给对端的通信终端。
本实施例公开的消除回声消除的优化***及装置至少还具有以下优点:
录音线程先于放音线程启动,放音数据先于录音数据到达回声消除器,确保了回声消除效果的完整性。且在回声消除器启动后,分离出回声消除器启动后所得到的录音数据中排列在前的且对应一个所述放音延迟时长的录音数据,只对回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据进行回声消除处理,使得回声消除器处理的录音数据相对于放音数据的延迟减小了放音延迟这么长,减少了回声消除器处理回声的尾长;尾长越小,则同样长度的数据回声消除器的处理时间越短,回声消除算法的收敛也越快,即开始消除回声的时间越早;从而对回声消除的效果起到了很好的优化作用。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到本发明可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
本领域技术人员可以理解附图只是一个优选实施例的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
本领域技术人员可以理解实施例中的装置中的模块可以按照实施例描述进行分布于实施例的装置中,也可以进行相应变化位于不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
以上公开的仅为本发明的几个具体实施例,但是,本发明并非局限于此,任何本领域的技术人员能思之的变化都应落入本发明的保护范围。

Claims (17)

1.一种消除回声的优化方法,其特征在于,包括以下步骤:
通过录音线程获取录音数据,其中所述录音线程先于放音线程启动;
获取放音采样率及其对应的放音缓冲区长度,根据所述放音采样率及其对应的放音缓冲区长度计算放音延迟时长;
当放音数据传送至回声消除器以启动所述回声消除器后,分离出所述回声消除器启动后所得到的录音数据中排列在前的且对应一个所述放音延迟时长的录音数据;
将所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给所述回声消除器,供其进行回声消除处理。
2.根据权利要求1所述的消除回声的优化方法,其特征在于,启动放音线程时还包括:
对放音线程数据产生的速度进行控制,当放音数据未均匀缓存至放音数据队列中时,通过在该放音数据队列中填充静音数据或是通过wsola算法来模拟连续语音数据,以控制拿给声卡播放的数据量和从声卡获得的录音数据量总是保持一致。
3.根据权利要求2所述的消除回声的优化方法,其特征在于,所述启动放音线程之前还包括:
获取通信终端的放音采样率及其对应的最小放音缓冲区长度,并将所述放音缓冲区的时长设置为重采样到放音采样率后的放音帧长度的不小于该最小放音缓冲区长度的最小整数倍。
4.根据权利要求3所述的消除回声的优化方法,其特征在于,当通信终端可设置的放音采样率为两个或两个以上时,择取的放音采样率为使
Figure FDA0000148375170000011
的值最小的放音采样率。
5.根据权利要求4所述的消除回声的优化方法,其特征在于,当
Figure FDA0000148375170000021
存在两个或两个以上的最小值时,从中择取与所述放音帧原始采样率最接近的放音采样率。
6.根据权利要求1至5任一所述的消除回声的优化方法,其特征在于,所述启动录音线程之前还包括:
获取通信终端的录音采样率及其对应的最小录音缓冲区长度,并将所述录音缓冲区的长度设置为对应录音采样率下的录音帧长度的不小于该最小录音缓冲区长度的最小整数倍。
7.根据权利要求6所述的消除回声的优化方法,其特征在于,当通信终端可设置的录音采样率为两个或两个以上时,择取的录音采样率为使“对应的录音采样率所对应的录音帧长度的不小于其要求的录音缓冲区下限值的最小整数倍”与对应的“录音采样率”之商最小的录音采样率。
8.根据权利要求7所述的消除回声的优化方法,其特征在于,当“对应的录音采样率所对应的录音帧长度的不小于其要求的录音缓冲区下限值的最小整数倍”与对应的“录音采样率”之商存在两个或两个以上的最小值时,从中择取与该通信终端的编码采样率最接近的录音采样率。
9.根据权利要求8所述的消除回声的优化方法,其特征在于,所述将所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给所述回声消除器,供其进行回声消除处理具体为:
以回声消除器的采样率对所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据进行重新采样;
将重新采样后的录音数据发送给回声消除器,供其进行回声消除处理。
10.根据权利要求8所述的消除回声的优化方法,其特征在于,还包括:
将分离出所述回声消除器启动后所得到的录音数据中排列在前的且对应一个所述放音延迟时长的录音数据及所述回声消除器启动前的录音数据直接发送给编码器,供其按编码采样率重采样之后编码发送给对端的通信终端,其中该编码器还用于对回声消除后的录音数据以编码采样率进行重采样及编码发送。
11.一种消除回声的优化装置,其特征在于,包括:
录音数据获取模块,用于通过录音线程获取录音数据,其中所述录音线程先于放音线程启动;
放音延迟时长计算模块,用于获取放音采样率及其对应的放音缓冲区长度,根据所述放音采样率及其对应的放音缓冲区长度计算放音延迟时长;
录音数据发送模块,用于当放音数据传送至回声消除器以启动所述回声消除器后,分离出所述回声消除器启动后所述录音数据获取模块所得到的录音数据中排列在前的且对应一个所述放音延迟时长计算模块所计算的放音延迟时长的录音数据;将所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给所述回声消除器,供其进行回声消除处理。
12.根据权利要求11所述的消除回声的优化装置,其特征在于,所述放音延迟时长计算模块还包括:
放音线程管理单元,用于对放音线程数据产生的速度进行控制,当放音数据未均匀缓存至放音数据队列中时,通过在该放音数据队列中填充静音数据或是通过wsola算法来模拟连续语音数据,以控制拿给声卡播放的数据量和从声卡获得的录音数据量总是保持一致。
13.根据权利要求12所述的消除回声的优化方法,其特征在于,所述放音线程管理单元还用于:
获取通信终端的放音采样率及其对应的最小放音缓冲区长度,并将所述放音缓冲区的长度设置为重采样到放音采样率后的放音帧长度的不小于该最小放音缓冲区长度的最小整数倍;以及
当通信终端可设置的放音采样率为两个或两个以上时,择取的放音采样率为使的值最小的放音采样率;以及
Figure FDA0000148375170000042
存在两个或两个以上的最小值时,从中择取与所述放音帧原始采样率最接近的放音采样率。
14.根据权利要求11至13所述的消除回声的优化装置,其特征在于,所述录音数据获取模块还包括用于执行下述操作的录音线程管理单元:
获取通信终端的录音采样率及其对应的最小录音缓冲区长度,并将所述录音缓冲区的长度设置为对应录音采样率下的放录音帧长度的不小于该最小录音缓冲区长度的最小整数倍;以及
当通信终端可设置的录音采样率为两个或两个以上时,择取的录音采样率为使“对应的录音采样率所对应的录音帧长度的不小于其要求的录音缓冲区下限值的最小整数倍”与对应的“录音采样率”之商最小的录音采样率;以及
当“对应的录音采样率所对应的录音帧长度的不小于其要求的录音缓冲区下限值的最小整数倍”与对应的“录音采样率”之商存在两个或两个以上的最小值时,从中择取与该通信终端的编码采样率最接近的录音采样率。
15.根据权利要求11至13所述的消除回声的优化装置,其特征在于,所述录音数据发送模块在执行将所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给所述回声消除器的操作具体为:
以回声消除器的采样率对所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据及回声消除器启动后的录音数据进行重新采样;
将重新采样后的录音数据发送给回声消除器。
16.根据权利要求15所述的消除回声的优化装置,其特征在于,所述录音数据发送模块还用于将分离出所述回声消除器启动后所得到的录音数据中排列在前的且对应一个所述放音延迟时长的录音数据及所述回声消除器启动前的录音数据直接发送给编码器,供其编码发送给对端的通信终端。
17.一种消除回声的优化***,其特征在于,包括用于获取放音数据和录音数据以进行AEC回声消除的回声消除器以及与该回声消除器建立通信连接的优化装置,其中,该优化装置用于执行下述的操作:
通过录音线程获取录音数据,其中所述录音线程先于放音线程启动;
获取放音采样率及其对应的放音缓冲区长度,根据所述放音采样率及其对应的放音缓冲区长度计算放音延迟时长;
当放音数据传送至回声消除器以启动所述回声消除器后,分离出所述回声消除器启动后所得到的录音数据中排列在前的且对应一个所述放音延迟时长的录音数据;
将所述回声消除器启动后得到的录音数据中排列在一个放音延迟时长之后的录音数据发送给所述回声消除器,供其进行回声消除处理。
CN201210088082.0A 2012-02-23 2012-03-29 消除回声的优化方法、装置及*** Active CN102568494B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210088082.0A CN102568494B (zh) 2012-02-23 2012-03-29 消除回声的优化方法、装置及***

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201210041520.8 2012-02-23
CN201210041520 2012-02-23
CN201210088082.0A CN102568494B (zh) 2012-02-23 2012-03-29 消除回声的优化方法、装置及***

Publications (2)

Publication Number Publication Date
CN102568494A true CN102568494A (zh) 2012-07-11
CN102568494B CN102568494B (zh) 2014-02-05

Family

ID=46413742

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210088082.0A Active CN102568494B (zh) 2012-02-23 2012-03-29 消除回声的优化方法、装置及***

Country Status (1)

Country Link
CN (1) CN102568494B (zh)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103354588A (zh) * 2013-06-28 2013-10-16 贵阳朗玛信息技术股份有限公司 录放音采样率的确定方法、装置及***
CN104394286A (zh) * 2014-08-27 2015-03-04 贵阳朗玛信息技术股份有限公司 一种回声消除方法及装置
CN105897666A (zh) * 2015-10-08 2016-08-24 乐视致新电子科技(天津)有限公司 实时语音通话中的实时语音接收设备及降低延迟的方法
CN106385517A (zh) * 2016-08-31 2017-02-08 广州视源电子科技股份有限公司 一种音频通话的实现方法、***及智能会议设备
CN106782552A (zh) * 2016-12-06 2017-05-31 深圳Tcl数字技术有限公司 尾音识别方法及语音遥控器
CN107592430A (zh) * 2016-07-07 2018-01-16 腾讯科技(深圳)有限公司 一种回声消除的方法及终端设备
WO2018040431A1 (zh) * 2016-08-31 2018-03-08 广州视源电子科技股份有限公司 一种信号数据的处理方法、装置及智能会议设备
CN107799123A (zh) * 2017-12-14 2018-03-13 南京地平线机器人技术有限公司 控制回声消除器的方法和具有回声消除功能的装置
CN108630215A (zh) * 2017-09-21 2018-10-09 北京视联动力国际信息技术有限公司 一种基于视联网的回声抑制方法及装置
CN108702568A (zh) * 2016-12-30 2018-10-23 华为技术有限公司 一种测试音频回路时延的方法及设备
CN110099183A (zh) * 2019-05-06 2019-08-06 湖南国科微电子股份有限公司 一种音频数据处理装置、方法以及通话设备
CN110138991A (zh) * 2019-06-21 2019-08-16 苏州思必驰信息科技有限公司 回音消除方法和装置
CN110956974A (zh) * 2019-12-05 2020-04-03 浙江大华技术股份有限公司 回声消除方法及其相关装置
CN111031449A (zh) * 2019-12-26 2020-04-17 深圳物控智联科技有限公司 在通话时消除回声的智能产品
CN113409808A (zh) * 2021-06-18 2021-09-17 上海盈方微电子有限公司 一种回声消除时延估算方法及回声消除方法
CN113823306A (zh) * 2021-08-17 2021-12-21 北京佳讯飞鸿电气股份有限公司 语音的回声消除方法、装置、设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1165461A (zh) * 1996-04-15 1997-11-19 索尼公司 电话***和话音编码/解码方法
CN1650537A (zh) * 2002-04-26 2005-08-03 环球Ip音响欧洲公司 回音消除
CN101064530A (zh) * 2006-04-28 2007-10-31 互联天下科技发展(深圳)有限公司 一种回音消除数据自动对齐的方法
CN101253755A (zh) * 2005-06-30 2008-08-27 讯宝科技公司 音频数据流同步
US20080259828A1 (en) * 2007-04-23 2008-10-23 Microsoft Corporation Method and apparatus for reducing timestamp noise in audio echo cancellation
CN101843082A (zh) * 2007-12-18 2010-09-22 坦德伯格电信公司 用于时钟漂移补偿的方法和***

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1165461A (zh) * 1996-04-15 1997-11-19 索尼公司 电话***和话音编码/解码方法
CN1650537A (zh) * 2002-04-26 2005-08-03 环球Ip音响欧洲公司 回音消除
CN101253755A (zh) * 2005-06-30 2008-08-27 讯宝科技公司 音频数据流同步
CN101064530A (zh) * 2006-04-28 2007-10-31 互联天下科技发展(深圳)有限公司 一种回音消除数据自动对齐的方法
US20080259828A1 (en) * 2007-04-23 2008-10-23 Microsoft Corporation Method and apparatus for reducing timestamp noise in audio echo cancellation
CN101843082A (zh) * 2007-12-18 2010-09-22 坦德伯格电信公司 用于时钟漂移补偿的方法和***

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103354588A (zh) * 2013-06-28 2013-10-16 贵阳朗玛信息技术股份有限公司 录放音采样率的确定方法、装置及***
CN104394286A (zh) * 2014-08-27 2015-03-04 贵阳朗玛信息技术股份有限公司 一种回声消除方法及装置
CN105897666A (zh) * 2015-10-08 2016-08-24 乐视致新电子科技(天津)有限公司 实时语音通话中的实时语音接收设备及降低延迟的方法
CN107592430A (zh) * 2016-07-07 2018-01-16 腾讯科技(深圳)有限公司 一种回声消除的方法及终端设备
CN106385517A (zh) * 2016-08-31 2017-02-08 广州视源电子科技股份有限公司 一种音频通话的实现方法、***及智能会议设备
WO2018040431A1 (zh) * 2016-08-31 2018-03-08 广州视源电子科技股份有限公司 一种信号数据的处理方法、装置及智能会议设备
WO2018040432A1 (zh) * 2016-08-31 2018-03-08 广州视源电子科技股份有限公司 一种音频通话的实现方法、***及智能会议设备
CN106782552A (zh) * 2016-12-06 2017-05-31 深圳Tcl数字技术有限公司 尾音识别方法及语音遥控器
CN106782552B (zh) * 2016-12-06 2020-05-22 深圳Tcl数字技术有限公司 尾音识别方法及语音遥控器
CN108702568A (zh) * 2016-12-30 2018-10-23 华为技术有限公司 一种测试音频回路时延的方法及设备
CN108702568B (zh) * 2016-12-30 2020-04-21 华为技术有限公司 一种测试音频回路时延的方法及设备
CN108630215A (zh) * 2017-09-21 2018-10-09 北京视联动力国际信息技术有限公司 一种基于视联网的回声抑制方法及装置
CN107799123A (zh) * 2017-12-14 2018-03-13 南京地平线机器人技术有限公司 控制回声消除器的方法和具有回声消除功能的装置
CN107799123B (zh) * 2017-12-14 2021-07-23 南京地平线机器人技术有限公司 控制回声消除器的方法和具有回声消除功能的装置
CN110099183A (zh) * 2019-05-06 2019-08-06 湖南国科微电子股份有限公司 一种音频数据处理装置、方法以及通话设备
CN110138991A (zh) * 2019-06-21 2019-08-16 苏州思必驰信息科技有限公司 回音消除方法和装置
CN110956974A (zh) * 2019-12-05 2020-04-03 浙江大华技术股份有限公司 回声消除方法及其相关装置
CN111031449A (zh) * 2019-12-26 2020-04-17 深圳物控智联科技有限公司 在通话时消除回声的智能产品
CN113409808A (zh) * 2021-06-18 2021-09-17 上海盈方微电子有限公司 一种回声消除时延估算方法及回声消除方法
CN113409808B (zh) * 2021-06-18 2024-05-03 上海盈方微电子有限公司 一种回声消除时延估算方法及回声消除方法
CN113823306A (zh) * 2021-08-17 2021-12-21 北京佳讯飞鸿电气股份有限公司 语音的回声消除方法、装置、设备及存储介质
CN113823306B (zh) * 2021-08-17 2024-02-02 北京佳讯飞鸿电气股份有限公司 语音的回声消除方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN102568494B (zh) 2014-02-05

Similar Documents

Publication Publication Date Title
CN102568494B (zh) 消除回声的优化方法、装置及***
US9509852B2 (en) Audio acoustic echo cancellation for video conferencing
CN104219403B (zh) 一种消除回声的方法及装置
US20150332704A1 (en) Method for Controlling Acoustic Echo Cancellation and Audio Processing Apparatus
CN103391381A (zh) 回声消除方法及装置
CN104010100B (zh) VoIP通信中的回声消除***及方法
CN108076239B (zh) 一种改善ip电话回声的方法
CN107592430B (zh) 一种回声消除的方法及终端设备
CN110992923B (zh) 回声消除方法、电子设备以及存储装置
CN111145771A (zh) 语音信号处理方法、处理装置、终端及其存储介质
WO2016003955A1 (en) Variable step size echo cancellation with accounting for instantaneous interference
KR102580418B1 (ko) 어쿠스틱 에코 제거 장치 및 방법
CN106657507A (zh) 一种声学回声消除方法及装置
WO2020103209A1 (zh) 一种回声消除方法及终端
CN104394286A (zh) 一种回声消除方法及装置
US20150341722A1 (en) Methods and devices for reverberation suppression
Ogunfunmi et al. Speech over VoIP networks: Advanced signal processing and system implementation
CN103354588A (zh) 录放音采样率的确定方法、装置及***
CN107920176A (zh) 一种用于语音通信***的音质优化装置
CN109981482A (zh) 音频处理方法及装置
CN103442427A (zh) 数据同步方法、装置及***,回声消除方法及***
CN108269580A (zh) 回声消除方法及装置
CN109379501A (zh) 一种用于回声消除的滤波方法及装置、设备、介质
CN113225574B (zh) 信号处理方法及装置
JP5792877B1 (ja) 遅延時間調整装置及び方法及びプログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20120711

Assignee: Guiyang Longma Video Technology Co.,Ltd.

Assignor: GUIYANG LONGMASTER INFORMATION & TECHNOLOGY Co.,Ltd.

Contract record no.: X2023980033354

Denomination of invention: Optimization Methods, Devices, and Systems for Eliminating Echoes

Granted publication date: 20140205

License type: Common License

Record date: 20230308

EE01 Entry into force of recordation of patent licensing contract
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20120711

Assignee: Guiyang Langma Communication Technology Co.,Ltd.

Assignor: GUIYANG LONGMASTER INFORMATION & TECHNOLOGY Co.,Ltd.

Contract record no.: X2023980033647

Denomination of invention: Optimization Methods, Devices, and Systems for Eliminating Echoes

Granted publication date: 20140205

License type: Common License

Record date: 20230316

EE01 Entry into force of recordation of patent licensing contract
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20120711

Assignee: GUIYANG SANJIU INTERNET MEDICAL Co.,Ltd.

Assignor: GUIYANG LONGMASTER INFORMATION & TECHNOLOGY Co.,Ltd.

Contract record no.: X2023980033909

Denomination of invention: Optimization methods, devices, and systems for eliminating echoes

Granted publication date: 20140205

License type: Common License

Record date: 20230324

EE01 Entry into force of recordation of patent licensing contract