CN113936669A - 数据传输方法、***、装置、计算机可读存储介质及设备 - Google Patents
数据传输方法、***、装置、计算机可读存储介质及设备 Download PDFInfo
- Publication number
- CN113936669A CN113936669A CN202010600714.1A CN202010600714A CN113936669A CN 113936669 A CN113936669 A CN 113936669A CN 202010600714 A CN202010600714 A CN 202010600714A CN 113936669 A CN113936669 A CN 113936669A
- Authority
- CN
- China
- Prior art keywords
- audio data
- data packet
- target
- audio
- loudness
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 230000005540 biological transmission Effects 0.000 title claims abstract description 75
- 238000012937 correction Methods 0.000 claims abstract description 190
- 230000005236 sound signal Effects 0.000 claims description 86
- 238000001228 spectrum Methods 0.000 claims description 62
- 230000006870 function Effects 0.000 claims description 60
- 238000001514 detection method Methods 0.000 claims description 31
- 238000012545 processing Methods 0.000 claims description 25
- 238000012216 screening Methods 0.000 claims description 15
- 238000000605 extraction Methods 0.000 claims description 12
- 230000014509 gene expression Effects 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 10
- 238000004806 packaging method and process Methods 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 6
- 238000009432 framing Methods 0.000 claims description 5
- 239000002699 waste material Substances 0.000 abstract description 9
- 230000000875 corresponding effect Effects 0.000 description 184
- 238000010586 diagram Methods 0.000 description 22
- 238000004891 communication Methods 0.000 description 8
- 238000011084 recovery Methods 0.000 description 8
- 239000000284 extract Substances 0.000 description 7
- 230000002596 correlated effect Effects 0.000 description 6
- 238000005070 sampling Methods 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 5
- 238000005311 autocorrelation function Methods 0.000 description 5
- 238000001914 filtration Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000008447 perception Effects 0.000 description 4
- 210000005069 ears Anatomy 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000035807 sensation Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/0017—Lossless audio signal coding; Perfect reconstruction of coded audio signal by transmission of coding error
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/21—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being power information
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
Landscapes
- Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Telephonic Communication Services (AREA)
Abstract
本申请提供一种数据传输方法、数据传输***、数据传输装置、计算机可读存储介质及电子设备;涉及计算机技术领域,该数据传输方法包括:获取目标音频数据包对应的响度;根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码;向接收方终端传输目标音频数据包和目标纠错码。可见,实施本申请的技术方案,可以提升带宽利用率,改善对于网络资源的浪费问题。
Description
技术领域
本申请涉及计算机技术领域,具体而言,涉及一种数据传输方法、数据传输***、数据传输装置、计算机可读存储介质及电子设备。
背景技术
在音频数据传输过程中,通常会因为传输网络不稳定等原因导致数据传输过程出现丢包现象。针对丢包现象,一般采用前向纠错技术计算所传输的音频数据的纠错码,以使得接收方能够该纠错码对音频数据进行数据纠错,进而保证接收方能够获得传输的完整音频数据。但是,在实时音频数据传输过程中,通常会存在如下情况:音频数据包中的音频数据(例如,轻微的环境音)在被解码输出后并不一定能够被人耳所感知,如果依照上述方式对此类数据也进行纠错码计算,则在数据传输过程中容易造成带宽利用率不高的问题。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本申请的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本申请的目的在于提供一种数据传输方法、数据传输***、数据传输装置、计算机可读存储介质及电子设备,可以提升带宽利用率,改善对于网络资源的浪费问题。
本申请的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本申请的实践而习得。
根据本申请的一方面,提供一种数据传输方法,包括:
获取目标音频数据包对应的响度;
根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码;
向接收方终端传输目标音频数据包和目标纠错码。
在本申请的一种示例性实施例中,获取目标音频数据包对应的响度之前,上述方法还包括:
从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包。
在本申请的一种示例性实施例中,音频数据包中包括音频数据包对应的响度、音频码流和音频码流对应的音频特征,音频码流对应的音频特征包括音频码流对应的能量分布以及音频码流中各频点对应的能量幅值。
在本申请的一种示例性实施例中,从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包之前,上述方法还包括:
获取多个音频数据包分别对应的纠错码;
根据纠错码对多个音频数据包进行丢包检测,得到多个音频数据包分别对应的丢包率;
向发送方终端反馈丢包率并根据纠错码对多个音频数据包进行纠错。
在本申请的一种示例性实施例中,接收到的多个音频数据包由发送方终端发送;
其中,发送方终端发送多个音频数据包的方式具体为:
发送方终端采集音频信号并对音频信号进行特征提取,得到音频特征;
发送方终端对音频信号进行编码,得到音频码流;
发送方终端将音频码流和音频特征打包为音频数据包并发送至服务器。
在本申请的一种示例性实施例中,预设条件包括预设能量幅值和/ 或预设信噪比,从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包,包括:
若检测到音频码流的音频特征中存在大于预设能量幅值的至少一个能量幅值,则将音频码流所属的音频数据包确定为目标音频数据包;和/ 或,
若检测到音频码流的音频特征中存在大于预设信噪比的至少一个信噪比,则将音频码流所属的音频数据包确定为目标音频数据包。
在本申请的一种示例性实施例中,上述方法还包括:
发送方终端根据预设时长对所述音频码流进行分帧处理,得到多个音频帧;
所述发送方终端通过预设窗函数分别处理多个音频帧,得到多个参考帧;
发送方终端计算多个参考帧分别对应的功率谱;
发送方终端根据功率谱计算音频数据包对应的响度。
在本申请的一种示例性实施例中,预设窗函数为汉宁窗函数、汉明窗函数、布莱克曼窗函数、凯泽窗函数、三角形窗函数或矩形窗函数。
在本申请的一种示例性实施例中,发送方终端根据功率谱计算音频数据包对应的响度,包括:
发送方终端根据功率谱中各频点的能量幅值计算功率谱中各频点的频点响度;
发送方终端根据频点响度计算功率谱中各频点的响度权重;
发送方终端计算功率谱中各频点的能量幅值与功率谱中各频点的响度权重之间的加权和,作为功率谱对应的参考帧的响度值;
发送方终端将多个参考帧分别的响度值之和确定为音频数据包对应的响度。
在本申请的一种示例性实施例中,根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码,包括:
根据接收方终端反馈的丢包率确定参考冗余度;其中,丢包率与距离目标音频数据包的发送时间最近的历史单位时间相对应;
根据参考冗余度和目标音频数据包对应的响度计算目标音频数据包对应的目标冗余度;
根据目标冗余度计算目标音频数据包的目标纠错码。
在本申请的一种示例性实施例中,根据参考冗余度和目标音频数据包对应的响度计算目标音频数据包对应的目标冗余度,包括:
将目标音频数据包对应的响度作为预设函数表达式的输入计算输出值;
将输出值和参考冗余度的乘积确定为目标音频数据包的目标冗余度。
在本申请的一种示例性实施例中,向接收方终端传输目标音频数据包和目标纠错码,包括:
将目标音频数据包和目标纠错码打包为待传输数据包传输至接收方终端,以使得接收方终端在解码待传输数据包后根据解码结果中的目标纠错码检测目标音频数据包对应的丢包情况并根据丢包情况对目标音频数据包进行纠错。
在本申请的一种示例性实施例中,接收方终端在解码待传输数据包后根据解码结果中的目标纠错码检测目标音频数据包对应的丢包情况并根据丢包情况对目标音频数据包进行纠错的方式具体为:
接收方终端对待传输数据包进行解码,得到目标音频数据包中的音频码流和目标纠错码;
接收方终端根据目标纠错码检测目标音频数据包中的音频码流的丢失码;
接收方终端根据目标纠错码对丢失码进行还原,以实现对于目标音频数据包的纠错。
在本申请的一种示例性实施例中,接收方终端根据目标纠错码对丢失码进行还原,以实现对于目标音频数据包的纠错之后,上述方法还包括:
接收方终端对所有纠错后的目标音频数据包进行混音,得到混音信号并播放。
根据本申请的一方面,提供一种数据传输***,包括发送方终端、服务器以及接收方终端,其中:
发送方终端,用于向服务器发送目标音频数据包,目标音频数据包中包括目标音频数据包对应的响度;
服务器,用于接收目标音频数据包并获取目标音频数据包对应的响度;根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码;向接收方终端传输目标音频数据包和目标纠错码;
接收方终端,用于根据目标纠错码检测目标音频数据包对应的丢包情况。
根据本申请的一方面,提供一种数据传输装置,包括:
响度获取单元,用于获取目标音频数据包对应的响度;
纠错码计算单元,用于根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码;
数据发送单元,用于向接收方终端传输目标音频数据包和目标纠错码。
在本申请的一种示例性实施例中,上述装置还包括:
数据筛选单元,用于在响度获取单元获取目标音频数据包对应的响度之前,从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包。
在本申请的一种示例性实施例中,音频数据包中包括音频数据包对应的响度、音频码流和音频码流对应的音频特征,音频码流对应的音频特征包括音频码流对应的能量分布以及音频码流中各频点对应的能量幅值。
在本申请的一种示例性实施例中,上述装置还包括:
纠错码获取单元,用于在数据筛选单元从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包之前,获取多个音频数据包分别对应的纠错码;
丢包检测单元,用于根据纠错码对多个音频数据包进行丢包检测,得到多个音频数据包分别对应的丢包率;
数据纠错单元,用于向发送方终端反馈所述丢包率并根据纠错码对多个音频数据包进行纠错。
在本申请的一种示例性实施例中,接收到的多个音频数据包由发送方终端发送;
其中,发送方终端发送多个音频数据包的方式具体为:
发送方终端采集音频信号并对音频信号进行特征提取,得到音频特征;
发送方终端对音频信号进行编码,得到音频码流;
发送方终端将音频码流和音频特征打包为音频数据包并发送至服务器。
在本申请的一种示例性实施例中,预设条件包括预设能量幅值和/ 或预设信噪比,数据筛选单元从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包,包括:
若检测到音频码流的音频特征中存在大于预设能量幅值的至少一个能量幅值,则将音频码流所属的音频数据包确定为目标音频数据包;和/ 或,
若检测到音频码流的音频特征中存在大于预设信噪比的至少一个信噪比,则将音频码流所属的音频数据包确定为目标音频数据包。
在本申请的一种示例性实施例中,还包括:
发送方终端根据预设时长对所述音频码流进行分帧处理,得到多个音频帧;
所述发送方终端通过预设窗函数分别处理多个音频帧,得到多个参考帧;
发送方终端计算多个参考帧分别对应的功率谱;
发送方终端根据功率谱计算音频数据包对应的响度。
在本申请的一种示例性实施例中,预设窗函数为汉宁窗函数、汉明窗函数、布莱克曼窗函数、凯泽窗函数、三角形窗函数或矩形窗函数。
在本申请的一种示例性实施例中,发送方终端根据功率谱计算音频数据包对应的响度,包括:
发送方终端根据功率谱中各频点的能量幅值计算功率谱中各频点的频点响度;
发送方终端根据频点响度计算功率谱中各频点的响度权重;
发送方终端计算功率谱中各频点的能量幅值与功率谱中各频点的响度权重之间的加权和,作为功率谱对应的参考帧的响度值;
发送方终端将多个参考帧分别的响度值之和确定为音频数据包对应的响度。
在本申请的一种示例性实施例中,纠错码计算单元根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码,包括:
根据接收方终端反馈的丢包率确定参考冗余度;其中,丢包率与距离目标音频数据包的发送时间最近的历史单位时间相对应;
根据参考冗余度和目标音频数据包对应的响度计算目标音频数据包对应的目标冗余度;
根据目标冗余度计算目标音频数据包的目标纠错码。
在本申请的一种示例性实施例中,纠错码计算单元根据参考冗余度和目标音频数据包对应的响度计算目标音频数据包对应的目标冗余度,包括:
将目标音频数据包对应的响度作为预设函数表达式的输入计算输出值;
将输出值和参考冗余度的乘积确定为目标音频数据包的目标冗余度。
在本申请的一种示例性实施例中,数据发送单元向接收方终端传输目标音频数据包和目标纠错码,包括:
将目标音频数据包和目标纠错码打包为待传输数据包传输至接收方终端,以使得接收方终端在解码待传输数据包后根据解码结果中的目标纠错码检测目标音频数据包对应的丢包情况并根据丢包情况对目标音频数据包进行纠错。
在本申请的一种示例性实施例中,接收方终端在解码待传输数据包后根据解码结果中的目标纠错码检测目标音频数据包对应的丢包情况并根据丢包情况对目标音频数据包进行纠错的方式具体为:
接收方终端对待传输数据包进行解码,得到目标音频数据包中的音频码流和目标纠错码;
接收方终端根据目标纠错码检测目标音频数据包中的音频码流的丢失码;
接收方终端根据目标纠错码对丢失码进行还原,以实现对于目标音频数据包的纠错。
在本申请的一种示例性实施例中,接收方终端根据目标纠错码对丢失码进行还原,以实现对于目标音频数据包的纠错之后,还包括:
接收方终端对所有纠错后的目标音频数据包进行混音,得到混音信号并播放。
根据本申请的一方面,提供一种电子设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的方法。
根据本申请的一方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任意一项所述的方法。
本申请示例性实施例可以具有以下部分或全部有益效果:
在本申请的一示例实施方式所提供的数据传输方法中,可以获取目标音频数据包对应的响度;根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码;向接收方终端传输目标音频数据包和目标纠错码。依据上述方案描述,本申请一方面可以根据目标音频数据包对应的响度计算对应的目标纠错码,而非对所有音频数据包计算纠错码,以实现对于带宽利用率的提升;另一方面,相较于现有技术计算所有音频数据包的纠错码并传输所有音频数据包和其对应的纠错码,可以实现对于有效数据的传输,从而改善对于网络资源的浪费问题。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了可以应用本申请实施例的一种数据传输方法及数据传输装置的示例性***架构的示意图;
图2示出了适于用来实现本申请实施例的电子设备的计算机***的结构示意图;
图3示意性示出了本申请实施例所基于的一种数据传输方法的架构图;
图4示意性示出了根据本申请的一个实施例的数据传输方法的流程图;
图5示意性示出了根据本申请的一个实施例的声学等响曲线图;
图6示意性示出了根据本申请的一个实施例的响度权重曲线图;
图7示意性示出了根据本申请的一个实施例的FEC包的结构图;
图8示意性示出了根据本申请的一个实施例的FEC头的结构图;
图9示意性示出了根据本申请的一个实施例的数据传输***的结构框图;
图10示意性示出了根据本申请的另一个实施例的数据传输***的结构框图;
图11示意性示出了根据本申请的又一个实施例的数据传输***的结构框图;
图12示意性示出了根据本申请的一个实施例中的数据传输装置的结构框图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本申请将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本申请的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本申请的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本申请的各方面变得模糊。
此外,附图仅为本申请的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
图1示出了可以应用本申请实施例的一种数据传输方法及数据传输装置的示例性应用环境的***架构的示意图。
如图1所示,***架构100可以包括终端设备101、102、103中的一个或多个,网络104和服务器105。网络104用以在终端设备101、102、 103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。终端设备101、 102、103可以是具有显示屏的各种电子设备,包括但不限于台式计算机、便携式计算机、智能手机和平板电脑等等。应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。
具体地,本申请实施例所提供的数据传输方法一般由服务器105执行,相应地,数据传输装置一般设置于服务器105中。但本领域技术人员容易理解的是,本申请实施例所提供的数据传输方法也可以由终端设备101、102或103执行,相应的,数据传输装置也可以设置于终端设备101、102或103中,本示例性实施例中对此不做特殊限定。举例而言,在一种示例性实施例中,服务器105可以获取目标音频数据包对应的响度;根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码;向接收方终端传输目标音频数据包和目标纠错码。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示出了适于用来实现本申请实施例的电子设备的计算机***的结构示意图。
需要说明的是,图2示出的电子设备的计算机***200仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图2所示,计算机***200包括中央处理单元(CPU)201,其可以根据存储在只读存储器(ROM)202中的程序或者从储存部分208加载到随机访问存储器(RAM)203中的程序而执行各种适当的动作和处理。在RAM 203中,还存储有***操作所需的各种程序和数据。CPU201、 ROM 202以及RAM 203通过总线204彼此相连。输入/输出(I/O)接口 205也连接至总线204。
以下部件连接至I/O接口205:包括键盘、鼠标等的输入部分206;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分207;包括硬盘等的储存部分208;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分209。通信部分209经由诸如因特网的网络执行通信处理。驱动器210也根据需要连接至I/O接口205。可拆卸介质211,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器210上,以便于从其上读出的计算机程序根据需要被安装入储存部分208。
特别地,根据本申请的实施例,下文参考流程图描述的过程可以被实现为计算机软件程序。例如,本申请的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分209从网络上被下载和安装,和/或从可拆卸介质211被安装。在该计算机程序被中央处理单元(CPU)201执行时,执行本申请的方法和装置中限定的各种功能。
一般来说,音频传输过程中很难避免丢包情况发生,导致丢包的原因通常有:WIFI或移动网络的无线信道干扰、高峰时期路由器拥塞、移动设备性能不足等。当一个音频数据包在网络上传输的时间过长,即,在需要播放时不能及时传达,即使后续收到也会判定丢包。现有的丢包处理方式一般为:接收端在接收到发送端传输的数据时对其进行丢包检测,若存在丢包情况,则反馈至发送端以使其进行数据重发,直到检测到接收到的数据中不存在丢包为止。
请参阅图3,图3示意性示出了本申请实施例所基于的一种数据传输方法的架构图。图3所示的架构图包括:发送方终端310、服务器320 以及接收方终端330;其中,发送方终端310包括特征提取模块311、语音编码模块312以及前向编码模块313,服务器320包括丢包检测模块 321、音频选路模块322以及前向编码模块323,接收方终端330包括丢包检测模块331、语音解码模块332、混音模块333以及播放模块334。
具体地,特征提取模块311可以采集音频信号,对采集到的音频信号进行特征提取,得到音频特征,并将采集到的音频信号发送至语音编码模块312。语音编码模块312可以对音频信号进行编码,得到对应的音频码流,并将音频码流发送至前向编码模块323。前向编码模块323 可以将相匹配的音频码流和音频特征打包为音频数据包,根据丢包检测模块321反馈的前一单位时间内的丢包率计算音频数据包的纠错码并打包发送至服务器320,以使得服务器320中的丢包检测模块321对接收到的音频数据包进行丢包检测并在音频数据包存在丢包情况时,根据纠错码对其进行纠错并将纠错后的音频数据包发送至音频选路模块322。
进而,音频选路模块322可以根据数据分组中每个数据包对应的音频特征对数据分组中的音频数据包进行筛选,得到目标音频数据包;其中,目标音频数据包对应的最大能量幅值大于数据分组中其他音频数据包,或者,目标音频数据包对应的能量谱分布与预设能量谱分布的相似度大于数据分组中其他音频数据包。进而,音频选路模块322可以将目标音频数据包发送至前向编码模块323,以使得前向编码模块323根据丢包检测模块331反馈的前一单位时间内的丢包率计算目标音频数据包的纠错码并打包发送至接收方终端330。进而,接收方终端330中的丢包检测模块331对接收到的目标音频数据包进行丢包检测并在目标音频数据包存在丢包情况时,根据纠错码对其进行纠错并将纠错后的目标音频数据包发送至语音解码模块332。
进而,语音解码模块332可以将各个目标音频数据包中的音频码流解码为音频信号,并将解码得到的音频信号发送至混音模块333,以使得混音模块333对音频信号进行混音处理。进而,混音模块333可以将混音处理结果发送至播放模块334,以使得播放模块334播放混音处理结果。
在现代通信***中,差错控制方式通常包括以下几种类型:自动重传请求(Automatic Repeat Request,ARQ)、前向纠错(Forward Error Correction,FEC)、混合差错控制(Hybrid Error Correction,HEC)和信息反馈(Information Repeat Request,IRQ)。ARQ是一种检错机制,通过反馈应答方式来保证数据的可靠性。接收端译码器使用发送端发出的检错码来判断传输中是否出错,并通过反馈信道将检错结果告知发送端。若接收端正确接收数据,则向发送端发送确认消息ACK,否则发送端认为数据传输失败,重新向接收端发送该消息,直至收到来自接收端的确认信息后再继续发送新的数据。ARQ方式不具备纠错能力,仅能检查出错误而不能纠正错误,其优点是译码设备简单,在多余度一定时,码的检错能力比纠错能力高得多,可获得较低的误码率,但发送ACK会增加网络开销并影响传输速率,传输信息的连贯性和实时性也较差,不适用于视频流的传输。FEC是一种纠错机制,通过发送冗余信息来恢复丢失的数据包。发送端发送具有纠错能力的纠错码,接收端根据收到的数据和使用的编码规则进行译码,以纠正传输过程中出现的错误。FEC方式避免了信息的重传,缩短了恢复错误数据所需的时间,传输时延较小。因此,相比于ARQ方式,FEC更适于实时通信中信息丢失的处理,可以极大地降低丢包率,然而,由于添加了冗余包,不可避免地降低了带宽利用率,还可能引起网络拥塞。
进一步地,当FEC应用于对于多人会议的数据传输时,由于用户通常对响度较弱的音频信号感知力较弱,申请人想到可以将用户听觉不容易感知的响度较弱的音频信号作为音频数据包的筛选条件。具体地,如果服务器不仅能够根据音频信号的能量对音频数据包进行筛选,还能够通过音频信号的响度对筛选后的音频数据包进行二次筛选,进而再对二次筛选后的音频数据包计算纠错码并将包含二次筛选后的音频数据包以及纠错码的数据包传输至接收方终端,就可以提升带宽利用率,改善对于网络资源的浪费问题。
基于上述问题,本示例实施方式提供了一种数据传输方法。该数据传输方法可以应用于上述服务器105,也可以应用于上述终端设备101、 102、103中的一个或多个,本示例性实施例中对此不做特殊限定。参考图4所示,该数据传输方法可以包括以下步骤S410至步骤S430:
步骤S410:获取目标音频数据包对应的响度。
步骤S420:根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码。
步骤S430:向接收方终端传输目标音频数据包和目标纠错码。
其中,步骤S410和步骤S430可以由服务器执行。举例来说,该服务器可以为用于筛选通路信号的选路服务器。
实施图1所示的方法,可以根据目标音频数据包对应的响度计算对应的目标纠错码,而非对所有音频数据包计算纠错码,以实现对于带宽利用率的提升。此外,相较于现有技术计算所有音频数据包的纠错码并传输所有音频数据包和其对应的纠错码,可以实现对于有效数据的传输,从而改善对于网络资源的浪费问题。
下面,对于本示例实施方式的上述步骤进行更加详细的说明。
在步骤S410中,获取目标音频数据包对应的响度。
本申请实施例中,可选的,获取目标音频数据包对应的响度之前,上述方法还包括:从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包。
其中,音频数据包中包括音频数据包对应的响度、音频码流和音频码流对应的音频特征,音频码流对应的音频特征可以包括音频码流对应的能量分布以及音频码流中各频点对应的能量幅值。此外,目标音频数据包的数量为一个或多个,本申请实施例不作限定。
可见,实施该可选的实施例,能够通过音频特征对接收到的音频数据包进行筛选,以降低转发的数据量,从而降低对于网络资源的损耗,提升数据传输效率。
本申请实施例中,可选的,从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包之前,上述方法还包括:
获取多个音频数据包分别对应的纠错码;根据纠错码对多个音频数据包进行丢包检测,得到多个音频数据包分别对应的丢包率;向发送方终端反馈丢包率并根据纠错码对多个音频数据包进行纠错。
具体地,发送方终端的数量可以为一个或多个,本申请实施例不作限定。当本申请实施例应用于多人会议时,多人会议中的会议成员终端可以作为发送方终端,同时也可以作为接收方终端。另外,多个音频数据包可以同属于一个数据分组,发送方终端一次可以发送一个数据分组或多个数据分组,每个数据分组中包括一个或多个音频数据包,多个音频数据包对应于不同的音频通路。
作为一种可选的实施方式,获取多个音频数据包分别对应的纠错码的方式具体可以为:根据里所码(Reed-solomon codes,RS编码)的编码方式获取多个音频数据包分别对应的纠错码。具体包括:根据伽罗华域(Galois Field,GF)构造音频数据包分别对应的多项式,根据多项式确定用于表示音频数据包的校验方程,求解校验方程得到音频数据包对应的纠错码。
作为一种可选的实施方式,根据纠错码对多个音频数据包进行丢包检测,得到多个音频数据包分别对应的丢包率的方式具体可以为:根据纠错码分别检测多个音频数据包的音频码流中各码字的连续性,若检测到不存在连续性的两个码字,则确定不存在连续性的两个码字之间缺失的码字,作为相对应的音频数据包的丢失码。
作为一种可选的实施方式,向发送方终端反馈丢包率并根据纠错码对多个音频数据包进行纠错的方式具体可以为:按照预设单位时间(如, 10秒)向发送方终端反馈预设单位时间内的丢包率并根据多个音频数据包分别对应的纠错码对多个音频数据包进行纠错。
可见,实施该可选的实施例,能够通过向发送方终端传输丢包率,为发送方终端计算冗余度提供参考条件,这样可以使得发送方终端每次计算出的冗余度与上一预设单位时间内的丢包率相关,提升本申请的自适应性。
本申请实施例中,可选的,接收到的多个音频数据包由发送方终端发送;
其中,发送方终端发送多个音频数据包的方式具体为:发送方终端采集音频信号并对音频信号进行特征提取,得到音频特征;对音频信号进行编码,得到音频码流;将音频码流和音频特征打包为音频数据包并发送至服务器。
需要说明的是,发送方终端采集的音频信号可以为模拟信号。音频码流用于表示音频信号在单位时间内使用的数据流量,音频码流=采样率 *比特数*声道,如,44100*16*2=1.41Mbit/sec。
作为一个可选的实施方式,音频信号对应的音频特征可以包括过零率、短时能量、短时自相关函数以及短时平均幅度差中至少一种,本申请实施例不作限定。
当音频信号对应的音频特征包括过零率时,发送方终端采集音频信号并对音频信号进行特征提取,得到音频特征的方式具体可以为:发送方终端采集音频信号并根据计算音频信号的过零率,作为音频信号的音频特征;其中,N为音频信号的帧长,n为音频信号的帧数。计算得到的过零率可以用于表征每帧音频信号通过零值的次数,通过上述的过零率可以判定音频信号中清音和浊音,有利于服务器筛选接收到的多个音频数据包。
当音频信号对应的音频特征包括短时能量时,发送方终端采集音频信号并对音频信号进行特征提取,得到音频特征的方式具体可以为:发送方终端采集音频信号并根据检测采集到的音频信号中第n帧音频信号xn(m)的短时能量En,得到各帧对应的短时能量,作为音频信号的音频特征;其中,N为音频信号的帧长,n为正整数。一般来说,人声的能量比噪声的能量大,计算得到的各帧对应的短时能量能够用于区分音频信号中的人声和噪声,进而有利于服务器根据该各帧对应的能量对接收到的多个音频数据包进行噪声筛除,从而提升对于音频数据的处理效率。
当音频信号对应的音频特征包括短时自相关函数时,发送方终端采集音频信号并对音频信号进行特征提取,得到音频特征的方式具体可以为:发送方终端采集音频信号并根据 计算音频信号的短时自相关函数,作为音频信号的音频特征;其中,N为音频信号的帧长,n为正整数,w用于表示窗函数,w’(m)用于表示加窗后的音频帧。计算得到的短时自相关函数能够用于衡量信号自身时间波形的相似性,有利于服务器根据短时自相关函数检测音频的相似特性,从而有利于提升对于音频数据的处理效率。
当音频信号对应的音频特征包括短时平均幅度差时,发送方终端采集音频信号并对音频信号进行特征提取,得到音频特征的方式具体可以为:发送方终端采集音频信号并根据计算音频信号的短时平均幅度差,作为音频信号的音频特征;其中,k=0,1,……,N-1,计算得到的短时平均幅度差可以用于衡量音频幅度的变化。
此外,音频信号对应的音频特征还可以包括语谱图、短时功率谱密度、谱熵、基频、共振峰等特征,本申请实施例不作限定。
可见,实施该可选的实施例,发送方终端可以对音频信号进行特征提取,这样可以有利于服务器依据特征提取的结果进行通路信号选取,从而在保证多人会议的音频输出实时性的同时,还能够保证音频输出的效果。
本申请实施例中,可选的,预设条件包括预设能量幅值和/或预设信噪比,从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包,包括:
若检测到音频码流的音频特征中存在大于预设能量幅值的至少一个能量幅值,则将音频码流所属的音频数据包确定为目标音频数据包;和/ 或,
若检测到音频码流的音频特征中存在大于预设信噪比的至少一个信噪比,则将音频码流所属的音频数据包确定为目标音频数据包。
具体地,音频码流中各音频帧分别对应一个能量幅值,能量幅值用于表示音频帧对应的短时能量。信噪比(Signal-to-Noise Ratio)为音频信号的平均功率和噪声的平均功率之比,即:信噪比(dB)=10*log10(S/N) (dB)。
可见,实施该可选的实施例,能够通过能量幅值或信噪比对音频数据包进筛选,以精简需要传输的音频数据包,提升数据传输效率。
本申请实施例中,可选的,上述方法还包括:
发送方终端根据预设时长对所述音频码流进行分帧处理,得到多个音频帧;通过预设窗函数分别处理多个音频帧,得到多个参考帧;计算多个参考帧分别对应的功率谱;根据功率谱计算音频数据包对应的响度。
具体地,多个音频帧对应的时长一致(如,10ms或20ms),多个参考帧与音频帧对应的时长一致。另外,由于快速傅里叶变换(Fast Fourier Transform,FFT)只能对有限长度的时域数据进行变换,因此,需要对时域信号进行信号截断。即使是周期信号,如果截断的周期信号的时间长度不是周期的整数倍,截取后的信号将容易存在泄漏。因此,本申请应用了可以使时域的音频信号满足傅里叶变换的周期性要求的预设窗函数,以减少信号泄漏。预设窗函数为汉宁窗函数、汉明窗函数、布莱克曼窗函数、凯泽窗函数、三角形窗函数或矩形窗函数。
作为一种可选的实施方式,通过预设窗函数分别处理多个音频帧,得到多个参考帧的方式可以为:确定多个音频帧分别对应的时域表达式;将多个音频帧分别对应的时域表达式与预设窗函数进行点乘,得到多个音频帧分别对应的参考帧。
作为一种可选的实施方式,计算多个参考帧分别对应的功率谱的方式可以为:对多个参考帧进行快速傅里叶变换,以确定出多个参考帧分别对应的功率谱。
可见,实施该可选的实施例,能够计算得到目标音频数据包的响度,该响度可以作为计算冗余度的条件,以使得用于计算纠错码的冗余度与音频的响度呈正相关,提升接收方终端对于响度较高的音频的纠错正确率,从而改善接收方终端的音频信号输出质量。
本申请实施例中,可选的,发送方终端根据功率谱计算音频数据包对应的响度,包括:
发送方终端根据功率谱中各频点的能量幅值计算功率谱中各频点的频点响度;根据频点响度计算功率谱中各频点的响度权重;计算功率谱中各频点的能量幅值与功率谱中各频点的响度权重之间的加权和,作为功率谱对应的参考帧的响度值;将多个参考帧分别的响度值之和确定为音频数据包对应的响度。
具体地,频点是固定频率的编号,可以作为固定频率的唯一表征。另外,响度是用于描述声音大小的主观感觉量,单位是宋(sone)。1000Hz 纯音,声压级为40dB时的响度为1宋;2宋的声音是40方声音响度的 2倍;4宋为40方声音响度的4倍。也就是说,声压级增加10dB,响度增加一倍,人耳对响度的感觉随声压级变化。请参阅图5,图5示意性示出了根据本申请的一个实施例的声学等响曲线图。图5所示的声学等响曲线中展示了多种响度级(即,100phon、80phon、60phon、40phon、 20phon、阈值thrshold phon)的曲线,横轴用于表示声波频率(Frequency),纵轴用于表示声压级(Sound Pressure Level),通过图5所示的声学等响曲线图可知,等响曲线是描述等响条件下声压级与声波频率的关系曲线,在中低频(1kHz以下)中,频率越低,等响需要的声压强度(能量) 越大。即,声音能量越大,人耳的听觉感受越一致。而在中高频中(1kHz 以上),不同频段的频率对应不同的声学听觉感知特征。参见图5可知,若将响度作为计算冗余度的条件,以使得用于计算纠错码的冗余度与音频的响度呈正相关,进而可以提升接收方终端对于响度较高的音频的纠错正确率,从而改善接收方终端的音频信号输出质量。
作为一种可选的实施方式,根据功率谱中各频点的能量幅值计算功率谱中各频点的频点响度的方式具体可以为:确定功率谱中各频点i的能量幅值的绝对值P(i,j),j=0~K-1,K为总频点数。
freq的响度loud=4.2+afy*(dB-cfy)/(1+bfy*(dB-cfy));
结合cof(freq)的表达式参阅图6,图6示意性示出了根据本申请的一个实施例的响度权重曲线图。图6所示的曲线图中,横轴用于表示频率,纵轴用于表示响度权重。在已知频点响度情况下,可以通过图6所示的曲线图确定出该频点对应的权重。
作为一种可选的实施方式,计算功率谱中各频点的能量幅值与功率谱中各频点的响度权重之间的加权和,作为功率谱对应的参考帧的响度值的方式具体可以为:根据功率谱中各频点的能量幅值和功率谱中各频点的响度权重之间的加权和,作为功率谱对应的参考帧的响度值EP(i);其中,i为帧序号,k为频点序号。
可见,实施该可选的实施例,能够根据各频点对应的响度确定目标音频数据包对应的响度作为计算冗余度的条件,从而接收方终端对于响度较高的音频的纠错正确率,改善接收方终端的音频信号输出质量。
在步骤S420中,根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码。
本申请实施例中,可选的,根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码,包括:根据接收方终端反馈的丢包率确定参考冗余度;其中,丢包率与距离目标音频数据包的发送时间最近的历史单位时间相对应;根据参考冗余度和目标音频数据包对应的响度计算目标音频数据包对应的目标冗余度;根据目标冗余度计算目标音频数据包的目标纠错码。
具体地,由于目标音频数据包可以为一个或多个,当目标音频数据包的数量为多个时,多个目标音频数据包可以对应一个参考纠错码也可以对应多个参考纠错码。举例来说,如果一个参考纠错码可以用于纠错 5个目标音频数据包,那么,10个目标音频数据包则可以对应2个参考纠错码,即,每5个目标音频数据包对应一个1个参考纠错码。此外,还需要说明的是,参考纠错码可以通过冗余包的形式传输。此外,冗余度与码率成反比,即,码率越小,冗余度越大,其中的码率可以理解为编码效率=信息码元数量k/码长n。
作为一种可选的实施方式,在根据接收方终端反馈的丢包率确定参考冗余度之前,上述方法还可以包括:接收方终端根据单位时间内接收到的所有音频数据包计算丢包率并将丢包率反馈至服务器。
作为一种可选的实施方式,根据接收方终端反馈的丢包率确定参考冗余度的方式具体可以为:从多个预设区间中确定接收方终端反馈的丢包率所处的目标预设区间;选取目标预设区间对应的参考冗余度。举例来说,可以从[0~20%)、[20%~30%)、[30%~40%)、[40%~50%]等多个预设区间中确定接收方终端反馈的丢包率23%所处的目标预设区间 [20%~30%),由于目标预设区间[20%~30%)对应的冗余度为25%,则可以选取25%作为参考冗余度。
作为一种可选的实施方式,根据目标冗余度计算目标音频数据包对应的目标纠错码的方式具体可以为:确定目标音频数据包中的音频码流;按照每组x位对音频码流中的码字进行分组,并将分组结果依次输入编码器,以使得编码器根据目标冗余度生成每组对应的长度为z的码字;其中,长度为z的码字中包括x位音频码流中的码字以及y位用于纠错的目标纠错码,z=x+y,目标冗余度与y相对应。另外,长度为z的码字可以为RS编码,其中,RS编码是线性循环编码。
作为另一种可选的实施方式,目标音频数据包的数量为k个,k为正整数,根据目标冗余度计算目标音频数据包对应的目标纠错码的方式具体可以为:通过目标冗余度以及数据压缩算法对第n个音频数据包进行压缩;将得到的压缩结果确定为第(n+1)个音频数据包的目标纠错码;其中,第(n+1)个音频数据包为上述的目标音频数据包,压缩结果与目标冗余度相匹配,n为正整数。也就是说,当第n个音频数据包丢失时,可以通过第(n+1)个音频数据包中的目标纠错码修复第n个音频数据包。
可见,实施该可选的实施例,能够根据历史单位时间内的丢包率确定出目标纠错码的目标冗余度,即,根据网络状况实时调整目标纠错码的目标冗余度,这样可以有效利用带宽并实现对于丢包率的有效控制。
本申请实施例中,可选的,根据参考冗余度和目标音频数据包对应的响度计算目标音频数据包对应的目标冗余度,包括:将目标音频数据包对应的响度作为预设函数表达式的输入计算输出值;将输出值和参考冗余度的乘积确定为目标音频数据包的目标冗余度。
具体地,目标冗余度大于参考冗余度。
作为一种可选的实施方式,将目标音频数据包对应的响度作为预设函数表达式的输入计算输出值的方式可以为:将目标音频数据包对应的响度EP(i)作为预设函数表达式f(EP(i))的输入计算输出值。另外,需要说明的是,预设函数表达式f(EP(i))可以为单调递增函数,预设函数表达式f(EP(i))的输出值范围为[0,1],这样可以保证目标冗余度可以随着目标音频数据包对应的响度的增加而提升,即,使得目标冗余度与目标音频数据包对应的响度呈正相关。
进一步可选的,将输出值和参考冗余度的乘积确定为目标音频数据包的目标冗余度的方式具体可以为:将f(EP(i))的输出值和参考冗余度 red_org(i)的乘积f(EP(i))*red_org(i)确定为目标音频数据包的目标冗余度red’(i)。
可见,实施该可选的实施例,能够结合目标音频数据包对应的响度重新确定冗余度(即,目标冗余度),可以提升目标音频数据包对应的响度与目标冗余度之间的正相关性,进而可以使得响度较高的音频信号对应的冗余度较高,有利于接收方终端更准确地还原目标音频数据包。
在步骤S430中,向接收方终端传输目标音频数据包和目标纠错码。
具体地,丢包情况中包括目标音频数据包对应的丢包率(如,50%、 0、100%等)。
本申请实施例中,可选的,向接收方终端传输目标音频数据包和目标纠错码,包括:将目标音频数据包和目标纠错码打包为待传输数据包传输至接收方终端,以使得接收方终端在解码待传输数据包后根据解码结果中的目标纠错码检测目标音频数据包对应的丢包情况并根据丢包情况对目标音频数据包进行纠错。
具体地,上述的待传输数据包可以为前向纠错(Forward Error Correction,FEC)包,其中,FEC包结构700可以参阅图7,图7示意性示出了根据本申请的一个实施例的FEC包的结构图。如图7所示,FEC 包结构700可以由RTP头701、FEC头702和FEC载荷703构成;其中,FEC头702和FEC载荷703均可以作为RTP负载。
进一步地,针对图7中的FEC头702的结构进行进一步说明,请参阅图8,图8示意性示出了根据本申请的一个实施例的FEC头的结构图。具体地,FEC头结构800为12字节,包括SN基数域、长度恢复域、E 域、PT恢复域、mask域和TS恢复域;其中,长度恢复域用于确定待纠错音频数据包的长度;E域用于指示音频数据包中是否存在扩展部分; PT恢复域用于恢复丢失数据分组的载荷类型,PT恢复域的值可以通过对多个目标音频数据包的载荷类型域的值进行异或运算得到;Mask域的大小为24个比特,比特位由低到高为0~23,若第i各比特设为1,则序号为N+i的目标音频数据包与该FEC包关联,其中,N为SN域的值; SN基数域的值为与FEC包相关的目标音频数据包的序号最小值。TS恢复域的值为与FEC包相关的目标音频数据包的时间戳异或运算后得到的结果,TS恢复域可以用于恢复丢失数据包的时间戳。
可见,实施该可选的实施例,能够通过传输与目标音频数据包的响度相关的目标纠错码,改善接收方终端的纠错正确率。
本申请实施例中,可选的,接收方终端在解码待传输数据包后根据解码结果中的目标纠错码检测目标音频数据包对应的丢包情况并根据丢包情况对目标音频数据包进行纠错的方式具体为:接收方终端对待传输数据包进行解码,得到目标音频数据包中的音频码流和目标纠错码;根据目标纠错码检测目标音频数据包中的音频码流的丢失码;根据目标纠错码对丢失码进行还原,以实现对于目标音频数据包的纠错。
其中,作为一种可选的实施方式,接收方终端根据目标纠错码检测目标音频数据包中的音频码流的丢失码的方式具体可以为:接收方终端根据目标纠错码检测音频码流中各码字的连续性,若检测到不存在连续性的两个码字,则确定不存在连续性的两个码字之间缺失的码字,作为丢失码。其中,缺失的码字可以为一个或多个,本申请实施例不作限定。
作为一种可选的实施方式,接收方终端还可以在根据目标纠错码对丢失码进行还原之后,计算单位时间内的丢包率并将丢包率反馈至服务器,以便于服务器根据反馈的丢包率进行下一次数据传输过程中的冗余度计算。
可见,实施该可选的实施例,接收方终端可以依据解码得到的目标纠错码对接收到的目标音频数据包进行纠错,由于目标纠错码与目标音频数据包的响度呈正相关,因此,响度越高的音频数据被正确还原的概率越大,其中,响度越高的音频数据中包含人声的概率越大,这样可以保证输出给用户的响度高的音频信号清晰完整,从而改善用户的使用体验。
本申请实施例中,可选的,接收方终端根据目标纠错码对丢失码进行还原,以实现对于目标音频数据包的纠错之后,上述方法还包括:接收方终端对所有纠错后的目标音频数据包进行混音,得到混音信号并播放。
作为一种可选的实施方式,在接收方终端对所有纠错后的目标音频数据包进行混音之前,还可以包括以下步骤:接收方终端对纠错后的目标音频数据包进行格式归一化,这样可以保证纠错后的目标音频数据包格式统一;进而,将纠错后的目标音频数据包转换为预设采样率(如, 16k Hz、32k Hz、44.1k Hz、48k Hz等);进而,检测纠错后的目标音频数据包的位深(Bit-Depth)或采样格式(Sample Format)的一致性,若位深不一致或采样格式不一致,则对纠错后的目标音频数据包进行相应的归一化处理,以使得承载每个采样点音频数据的比特数相同;进而,检测纠错后的目标音频数据包的声道(如,单声道或双声道)是否一致,若不一致,则输出用于表示声道不一致的提示消息;若一致,则执行对所有纠错后的目标音频数据包进行混音的操作。此外,可选的,在接收方终端对所有纠错后的目标音频数据包进行混音处理之前,接收方终端还可以对纠错后的目标音频数据包进行回声消除、噪音抑制、静音检测等处理,本申请实施例不作限定。
作为一种可选的实施方式,接收方终端对所有纠错后的目标音频数据包进行混音,得到混音信号的方式可以为:接收方终端根据所有纠错后的目标音频数据包分别对应的能量幅值均衡调节各个纠错后的目标音频数据包的音量,并混合均衡调节的结果,得到混音信号。
作为一种可选的实施方式,接收方终端对所有纠错后的目标音频数据包进行混音,得到混音信号之后,还可以包括以下步骤:接收方终端对混音信号进行溢出检测,若存在溢出,则对溢出的采样点进行溢出处理/平滑处理,进而播放处理结果。
可见,实施该可选的实施例,接收方终端在对目标音频数据包进行纠错后可以对其进行混音输出,该输出结果保留了会议中的重要音频内容,摒弃了人耳感知能力不强的音频内容,可以提升多人会议的消息转发效率,保证输出音频信号的实时性,从而改善用户的使用体验。
进一步的,本示例实施方式中,还提供了一种数据传输***900。请参阅图9,包括发送方终端901、服务器902以及接收方终端903,其中:
发送方终端901,用于向服务器902发送目标音频数据包,目标音频数据包中包括目标音频数据包对应的响度;
服务器902,用于接收目标音频数据包并获取目标音频数据包对应的响度;根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码;向接收方终端903传输目标音频数据包和目标纠错码;
接收方终端903,用于根据目标纠错码检测目标音频数据包对应的丢包情况。
可见,实施图9所示的***,可以根据目标音频数据包对应的响度计算对应的目标纠错码,而非对所有音频数据包计算纠错码,以实现对于带宽利用率的提升。此外,相较于现有技术计算所有音频数据包的纠错码并传输所有音频数据包和其对应的纠错码,可以实现对于有效数据的传输,从而改善对于网络资源的浪费问题。
具体地,请参阅图10。图10示意性示出了根据本申请的另一个实施例的数据传输***1000的结构框图。如图10所示,图10所示的结构框图包括:发送方终端1010、服务器1020以及接收方终端1030;其中,发送方终端1010包括特征提取模块1011、语音编码模块1012以及前向编码模块1013,服务器1020包括丢包检测模块1021、音频选路模块1022、前向编码模块1023以及感知分析模块1024,接收方终端1030包括丢包检测模块1031、语音解码模块1032、混音模块1033以及播放模块1034。
具体地,特征提取模块1011可以采集音频信号,对采集到的音频信号进行特征提取,得到音频特征,并将采集到的音频信号发送至语音编码模块1012。语音编码模块1012可以对音频信号进行编码,得到对应的音频码流,并将音频码流发送至前向编码模块1023。前向编码模块 1023可以将相匹配的音频码流和音频特征打包为音频数据包,音频数据包中包括音频数据包对应的响度、音频码流和音频码流对应的音频特征;根据丢包检测模块1021反馈的前一单位时间内的丢包率计算音频数据包的纠错码并打包发送至服务器1020,以使得服务器1020中的丢包检测模块1021对接收到的音频数据包进行丢包检测并在音频数据包存在丢包情况时,根据纠错码对其进行纠错并将纠错后的音频数据包发送至音频选路模块1022。
针对前段内容,其中,音频数据包中也可以不包括响度,在发送方终端1010中的前向编码模块1013将音频数据包发送至服务器1020的感知分析模块1024之后,感知分析模块1024可以根据音频数据包中的音频特征计算音频信号对应的响度。
进而,音频选路模块1022可以根据数据分组中每个数据包对应的音频特征对数据分组中的音频数据包进行筛选,得到目标音频数据包;其中,目标音频数据包对应的最大能量幅值大于数据分组中其他音频数据包,或者,目标音频数据包对应的能量谱分布与预设能量谱分布的相似度大于数据分组中其他音频数据包。进而,音频选路模块1022可以将目标音频数据包发送至感知分析模块1024,以使得感知分析模块1024根据目标音频数据包对应的响度对于目标音频数据包进行筛选并将筛选后的目标音频数据包发送至前向编码模块1023。前向编码模块1023根据丢包检测模块1031反馈的前一单位时间内的丢包率计算筛选后的目标音频数据包的纠错码并打包发送至接收方终端1030。进而,接收方终端 1030中的丢包检测模块1031对接收到的目标音频数据包进行丢包检测并在目标音频数据包存在丢包情况时,根据纠错码对其进行纠错并将纠错后的目标音频数据包发送至语音解码模块1032;其中,目标音频数据包的数量可以为一个或多个。
进而,语音解码模块1032可以将各个目标音频数据包中的音频码流解码为音频信号,并将解码得到的音频信号发送至混音模块1033,以使得混音模块1033对音频信号进行混音处理。进而,混音模块1033可以将混音处理结果发送至播放模块1034,以使得播放模块1034播放混音处理结果。
可见,实施图10所示的***,可以根据目标音频数据包对应的响度计算对应的目标纠错码,而非对所有音频数据包计算纠错码,以实现对于带宽利用率的提升。此外,相较于现有技术计算所有音频数据包的纠错码并传输所有音频数据包和其对应的纠错码,可以实现对于有效数据的传输,从而改善对于网络资源的浪费问题。
进一步地,本实例实施例中,可选的,上述的发送方终端和接收方终端的数量均可以为多个,上述的服务器可以为服务器集群。请参阅图 11,图11示意性示出了根据本申请的又一个实施例的数据传输***1100 的结构框图。如图11所示,包括发送方终端1111、发送方终端1112、……、发送方终端111n、服务器集群1130、接收方终端1121、接收方终端1122、……、接收方终端112n;其中,n为正整数且大于等于3。
参见图11可知,本申请中的服务器集群1130可以接收来自发送方终端1111、发送方终端1112、……、发送方终端111n中至少一个发送的数据分组,每个数据分组中可以包括一个或多个音频数据包,若音频数据包满足预设条件,则音频数据包可以被服务器集群1130判定为目标音频数据包,根据目标音频数据包的响度计算目标音频数据包的纠错码并将目标音频数据包和纠错码打包为待传输数据包转发至接收方终端 1121、接收方终端1122、……、接收方终端112n,以使得接收方终端 1121、接收方终端1122、……、接收方终端112n可以根据纠错码对存在丢包情况的目标音频数据包进行纠错。
可见,实施图11所示的***,可以根据目标音频数据包对应的响度计算对应的目标纠错码,而非对所有音频数据包计算纠错码,以实现对于带宽利用率的提升。此外,相较于现有技术计算所有音频数据包的纠错码并传输所有音频数据包和其对应的纠错码,可以实现对于有效数据的传输,从而改善对于网络资源的浪费问题。
进一步的,本示例实施方式中,还提供了一种数据传输装置。参考图12所示,该数据传输装置1200可以包括:
响度获取单元1201,用于获取目标音频数据包对应的响度;
纠错码计算单元1202,用于根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码;
数据发送单元1203,用于向接收方终端传输目标音频数据包和目标纠错码。
可见,实施图12所示的装置,可以根据目标音频数据包对应的响度计算对应的目标纠错码,而非对所有音频数据包计算纠错码,以实现对于带宽利用率的提升。此外,相较于现有技术计算所有音频数据包的纠错码并传输所有音频数据包和其对应的纠错码,可以实现对于有效数据的传输,从而改善对于网络资源的浪费问题。
在本申请的一种示例性实施例中,上述装置还包括数据筛选单元(未图示):
数据筛选单元,用于在响度获取单元1201获取目标音频数据包对应的响度之前,从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包。
其中,音频数据包中包括音频数据包对应的响度、音频码流和音频码流对应的音频特征,音频码流对应的音频特征包括音频码流对应的能量分布以及音频码流中各频点对应的能量幅值。
可见,实施该可选的实施例,能够通过音频特征对接收到的音频数据包进行筛选,以降低转发的数据量,从而降低对于网络资源的损耗,提升数据传输效率。
在本申请的一种示例性实施例中,上述装置还包括纠错码获取单元 (未图示)、丢包检测单元(未图示)以及数据纠错单元(未图示):
纠错码获取单元,用于在数据筛选单元从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包之前,获取多个音频数据包分别对应的纠错码;
丢包检测单元,用于根据纠错码对多个音频数据包进行丢包检测,得到多个音频数据包分别对应的丢包率;
数据纠错单元,用于向发送方终端反馈所述丢包率并根据纠错码对多个音频数据包进行纠错。
可见,实施该可选的实施例,能够通过向发送方终端传输丢包率,为发送方终端计算冗余度提供参考条件,这样可以使得发送方终端每次计算出的冗余度与上一预设单位时间内的丢包率相关,提升本申请的自适应性。
在本申请的一种示例性实施例中,接收到的多个音频数据包由发送方终端发送;
其中,发送方终端发送多个音频数据包的方式具体为:
发送方终端采集音频信号并对音频信号进行特征提取,得到音频特征;
发送方终端对音频信号进行编码,得到音频码流;
发送方终端将音频码流和音频特征打包为音频数据包并发送至服务器。
可见,实施该可选的实施例,发送方终端可以对音频信号进行特征提取,这样可以有利于服务器依据特征提取的结果进行通路信号选取,从而在保证多人会议的音频输出实时性的同时,还能够保证音频输出的效果。
在本申请的一种示例性实施例中,预设条件包括预设能量幅值和/ 或预设信噪比,数据筛选单元从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包,包括:
若检测到音频码流的音频特征中存在大于预设能量幅值的至少一个能量幅值,则将音频码流所属的音频数据包确定为目标音频数据包;和/ 或,
若检测到音频码流的音频特征中存在大于预设信噪比的至少一个信噪比,则将音频码流所属的音频数据包确定为目标音频数据包。
可见,实施该可选的实施例,能够通过能量幅值或信噪比对音频数据包进筛选,以精简需要传输的音频数据包,提升数据传输效率。
在本申请的一种示例性实施例中,还包括:
发送方终端根据预设时长对所述音频码流进行分帧处理,得到多个音频帧;
所述发送方终端通过预设窗函数分别处理多个音频帧,得到多个参考帧;
发送方终端计算多个参考帧分别对应的功率谱;
发送方终端根据功率谱计算音频数据包对应的响度。
其中,预设窗函数为汉宁窗函数、汉明窗函数、布莱克曼窗函数、凯泽窗函数、三角形窗函数或矩形窗函数。
可见,实施该可选的实施例,能够计算得到目标音频数据包的响度,该响度可以作为计算冗余度的条件,以使得用于计算纠错码的冗余度与音频的响度呈正相关,提升接收方终端对于响度较高的音频的纠错正确率,从而改善接收方终端的音频信号输出质量。
在本申请的一种示例性实施例中,发送方终端根据功率谱计算音频数据包对应的响度,包括:
发送方终端根据功率谱中各频点的能量幅值计算功率谱中各频点的频点响度;
发送方终端根据频点响度计算功率谱中各频点的响度权重;
发送方终端计算功率谱中各频点的能量幅值与功率谱中各频点的响度权重之间的加权和,作为功率谱对应的参考帧的响度值;
发送方终端将多个参考帧分别的响度值之和确定为音频数据包对应的响度。
可见,实施该可选的实施例,能够根据各频点对应的响度确定目标音频数据包对应的响度作为计算冗余度的条件,从而接收方终端对于响度较高的音频的纠错正确率,改善接收方终端的音频信号输出质量。
在本申请的一种示例性实施例中,纠错码计算单元1202根据目标音频数据包对应的响度计算目标音频数据包的目标纠错码,包括:
根据接收方终端反馈的丢包率确定参考冗余度;其中,丢包率与距离目标音频数据包的发送时间最近的历史单位时间相对应;
根据参考冗余度和目标音频数据包对应的响度计算目标音频数据包对应的目标冗余度;
根据目标冗余度计算目标音频数据包的目标纠错码。
可见,实施该可选的实施例,能够根据历史单位时间内的丢包率确定出目标纠错码的目标冗余度,即,根据网络状况实时调整目标纠错码的目标冗余度,这样可以有效利用带宽并实现对于丢包率的有效控制。
在本申请的一种示例性实施例中,纠错码计算单元1202根据参考冗余度和目标音频数据包对应的响度计算目标音频数据包对应的目标冗余度,包括:
将目标音频数据包对应的响度作为预设函数表达式的输入计算输出值;
将输出值和参考冗余度的乘积确定为目标音频数据包的目标冗余度。
可见,实施该可选的实施例,能够结合目标音频数据包对应的响度重新确定冗余度(即,目标冗余度),可以提升目标音频数据包对应的响度与目标冗余度之间的正相关性,进而可以使得响度较高的音频信号对应的冗余度较高,有利于接收方终端更准确地还原目标音频数据包。
在本申请的一种示例性实施例中,数据发送单元1203向接收方终端传输目标音频数据包和目标纠错码,包括:
将目标音频数据包和目标纠错码打包为待传输数据包传输至接收方终端,以使得接收方终端在解码待传输数据包后根据解码结果中的目标纠错码检测目标音频数据包对应的丢包情况并根据丢包情况对目标音频数据包进行纠错。
可见,实施该可选的实施例,能够通过传输与目标音频数据包的响度相关的目标纠错码,改善接收方终端的纠错正确率。
在本申请的一种示例性实施例中,接收方终端在解码待传输数据包后根据解码结果中的目标纠错码检测目标音频数据包对应的丢包情况并根据丢包情况对目标音频数据包进行纠错的方式具体为:
接收方终端对待传输数据包进行解码,得到目标音频数据包中的音频码流和目标纠错码;
接收方终端根据目标纠错码检测目标音频数据包中的音频码流的丢失码;
接收方终端根据目标纠错码对丢失码进行还原,以实现对于目标音频数据包的纠错。
可见,实施该可选的实施例,接收方终端可以依据解码得到的目标纠错码对接收到的目标音频数据包进行纠错,由于目标纠错码与目标音频数据包的响度呈正相关,因此,响度越高的音频数据被正确还原的概率越大,其中,响度越高的音频数据中包含人声的概率越大,这样可以保证输出给用户的响度高的音频信号清晰完整,从而改善用户的使用体验。
在本申请的一种示例性实施例中,接收方终端根据目标纠错码对丢失码进行还原,以实现对于目标音频数据包的纠错之后,还包括:
接收方终端对所有纠错后的目标音频数据包进行混音,得到混音信号并播放。
可见,实施该可选的实施例,接收方终端在对目标音频数据包进行纠错后可以对其进行混音输出,该输出结果保留了会议中的重要音频内容,摒弃了人耳感知能力不强的音频内容,可以提升多人会议的消息转发效率,保证输出音频信号的实时性,从而改善用户的使用体验。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本申请的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
由于本申请的示例实施例的数据传输装置的各个功能模块与上述数据传输方法的示例实施例的步骤对应,因此对于本申请装置实施例中未披露的细节,请参照本申请上述的数据传输方法的实施例。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现上述实施例中所述的方法。
需要说明的是,本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由下面的权利要求指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。
Claims (18)
1.一种数据传输方法,其特征在于,包括:
获取目标音频数据包对应的响度;
根据所述目标音频数据包对应的响度计算所述目标音频数据包的目标纠错码;
向接收方终端传输所述目标音频数据包和所述目标纠错码。
2.根据权利要求1所述的方法,其特征在于,获取目标音频数据包对应的响度之前,所述方法还包括:
从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包。
3.根据权利要求2所述的方法,其特征在于,所述音频数据包中包括所述音频数据包对应的响度、音频码流和所述音频码流对应的音频特征,所述音频码流对应的音频特征包括所述音频码流对应的能量分布以及所述音频码流中各频点对应的能量幅值。
4.根据权利要求2所述的方法,其特征在于,从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包之前,所述方法还包括:
获取所述多个音频数据包分别对应的纠错码;
根据所述纠错码对所述多个音频数据包进行丢包检测,得到所述多个音频数据包分别对应的丢包率;
向发送方终端反馈所述丢包率并根据所述纠错码对所述多个音频数据包进行纠错。
5.根据权利要求3所述的方法,其特征在于,接收到的所述多个音频数据包由发送方终端发送;
其中,所述发送方终端发送所述多个音频数据包的方式具体为:
所述发送方终端采集音频信号并对所述音频信号进行特征提取,得到所述音频特征;
所述发送方终端对所述音频信号进行编码,得到所述音频码流;
所述发送方终端将所述音频码流和所述音频特征打包为所述音频数据包并发送至服务器。
6.根据权利要求3所述的方法,其特征在于,所述预设条件包括预设能量幅值和/或预设信噪比,从接收到的多个音频数据包中筛选音频特征满足预设条件的目标音频数据包,包括:
若检测到所述音频码流的音频特征中存在大于所述预设能量幅值的至少一个能量幅值,则将所述音频码流所属的音频数据包确定为所述目标音频数据包;和/或,
若检测到所述音频码流的音频特征中存在大于所述预设信噪比的至少一个信噪比,则将所述音频码流所属的音频数据包确定为所述目标音频数据包。
7.根据权利要求3所述的方法,其特征在于,所述方法还包括:
发送方终端根据预设时长对所述音频码流进行分帧处理,得到多个音频帧;
所述发送方终端通过预设窗函数分别处理所述多个音频帧,得到多个参考帧;
所述发送方终端计算所述多个参考帧分别对应的功率谱;
所述发送方终端根据所述功率谱计算所述音频数据包对应的响度。
8.根据权利要求7所述的方法,其特征在于,所述预设窗函数为汉宁窗函数、汉明窗函数、布莱克曼窗函数、凯泽窗函数、三角形窗函数或矩形窗函数。
9.根据权利要求7所述的方法,其特征在于,所述发送方终端根据所述功率谱计算所述音频数据包对应的响度,包括:
所述发送方终端根据所述功率谱中各频点的能量幅值计算所述功率谱中各频点的频点响度;
所述发送方终端根据所述频点响度计算所述功率谱中各频点的响度权重;
所述发送方终端计算所述功率谱中各频点的能量幅值与所述功率谱中各频点的响度权重之间的加权和,作为所述功率谱对应的参考帧的响度值;
所述发送方终端将所述多个参考帧分别的响度值之和确定为所述音频数据包对应的响度。
10.根据权利要求1所述的方法,其特征在于,根据所述目标音频数据包对应的响度计算所述目标音频数据包的目标纠错码,包括:
根据所述接收方终端反馈的丢包率确定参考冗余度;其中,所述丢包率与距离所述目标音频数据包的发送时间最近的历史单位时间相对应;
根据所述参考冗余度和所述目标音频数据包对应的响度计算所述目标音频数据包对应的目标冗余度;
根据所述目标冗余度计算所述目标音频数据包的目标纠错码。
11.根据权利要求10所述的方法,其特征在于,根据所述参考冗余度和所述目标音频数据包对应的响度计算所述目标音频数据包对应的目标冗余度,包括:
将所述目标音频数据包对应的响度作为预设函数表达式的输入计算输出值;
将所述输出值和所述参考冗余度的乘积确定为所述目标音频数据包的目标冗余度。
12.根据权利要求1~11任一项所述的方法,其特征在于,向接收方终端传输所述目标音频数据包和所述目标纠错码,包括:
将所述目标音频数据包和所述目标纠错码打包为待传输数据包传输至接收方终端,以使得接收方终端在解码所述待传输数据包后根据解码结果中的所述目标纠错码检测所述目标音频数据包对应的丢包情况并根据所述丢包情况对所述目标音频数据包进行纠错。
13.根据权利要求12所述的方法,其特征在于,所述接收方终端在解码所述待传输数据包后根据解码结果中的所述目标纠错码检测所述目标音频数据包对应的丢包情况并根据所述丢包情况对所述目标音频数据包进行纠错的方式具体为:
所述接收方终端对所述待传输数据包进行解码,得到所述目标音频数据包中的音频码流和所述目标纠错码;
所述接收方终端根据所述目标纠错码检测所述目标音频数据包中的音频码流的丢失码;
所述接收方终端根据所述目标纠错码对所述丢失码进行还原,以实现对于所述目标音频数据包的纠错。
14.根据权利要求13所述的方法,其特征在于,所述接收方终端根据所述目标纠错码对所述丢失码进行还原,以实现对于所述目标音频数据包的纠错之后,所述方法还包括:
所述接收方终端对所有纠错后的目标音频数据包进行混音,得到混音信号并播放。
15.一种数据传输***,其特征在于,包括发送方终端、服务器以及接收方终端,其中:
所述发送方终端,用于向所述服务器发送目标音频数据包,所述目标音频数据包中包括所述目标音频数据包对应的响度;
所述服务器,用于接收所述目标音频数据包并获取目标音频数据包对应的响度;根据所述目标音频数据包对应的响度计算所述目标音频数据包的目标纠错码;向接收方终端传输所述目标音频数据包和所述目标纠错码;
所述接收方终端,用于根据所述目标纠错码检测所述目标音频数据包对应的丢包情况。
16.一种数据传输装置,其特征在于,包括:
响度获取单元,用于获取目标音频数据包对应的响度;
纠错码计算单元,用于根据所述目标音频数据包对应的响度计算所述目标音频数据包的目标纠错码;
数据发送单元,用于向接收方终端传输所述目标音频数据包和所述目标纠错码,以使得所述接收方终端根据所述目标纠错码检测所述目标音频数据包对应的丢包情况。
17.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-14任一项所述的方法。
18.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1-14任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010600714.1A CN113936669A (zh) | 2020-06-28 | 2020-06-28 | 数据传输方法、***、装置、计算机可读存储介质及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010600714.1A CN113936669A (zh) | 2020-06-28 | 2020-06-28 | 数据传输方法、***、装置、计算机可读存储介质及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113936669A true CN113936669A (zh) | 2022-01-14 |
Family
ID=79272653
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010600714.1A Pending CN113936669A (zh) | 2020-06-28 | 2020-06-28 | 数据传输方法、***、装置、计算机可读存储介质及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113936669A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115085872A (zh) * | 2022-03-09 | 2022-09-20 | 网易(杭州)网络有限公司 | 数据处理方法及装置、存储介质、电子设备 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102137438A (zh) * | 2010-01-25 | 2011-07-27 | 华为技术有限公司 | 一种ip网络资源的分配方法及装置 |
CN106067847A (zh) * | 2016-05-25 | 2016-11-02 | 腾讯科技(深圳)有限公司 | 一种语音数据传输方法及装置 |
US20170103761A1 (en) * | 2015-10-10 | 2017-04-13 | Dolby Laboratories Licensing Corporation | Adaptive Forward Error Correction Redundant Payload Generation |
CN107257265A (zh) * | 2017-04-27 | 2017-10-17 | 深圳市鹏创软件有限公司 | 实时传输数据流前向纠错方法、设备及存储介质 |
CN109524015A (zh) * | 2017-09-18 | 2019-03-26 | 杭州海康威视数字技术股份有限公司 | 音频编码方法、解码方法、装置及音频编解码*** |
CN110838894A (zh) * | 2019-11-27 | 2020-02-25 | 腾讯科技(深圳)有限公司 | 语音处理方法、装置、计算机可读存储介质和计算机设备 |
CN110890945A (zh) * | 2019-11-20 | 2020-03-17 | 腾讯科技(深圳)有限公司 | 数据传输方法、装置、终端及存储介质 |
CN111181700A (zh) * | 2020-01-07 | 2020-05-19 | 广州华多网络科技有限公司 | 数据传输方法、装置、电子设备及存储介质 |
-
2020
- 2020-06-28 CN CN202010600714.1A patent/CN113936669A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102137438A (zh) * | 2010-01-25 | 2011-07-27 | 华为技术有限公司 | 一种ip网络资源的分配方法及装置 |
US20170103761A1 (en) * | 2015-10-10 | 2017-04-13 | Dolby Laboratories Licensing Corporation | Adaptive Forward Error Correction Redundant Payload Generation |
CN106067847A (zh) * | 2016-05-25 | 2016-11-02 | 腾讯科技(深圳)有限公司 | 一种语音数据传输方法及装置 |
CN107257265A (zh) * | 2017-04-27 | 2017-10-17 | 深圳市鹏创软件有限公司 | 实时传输数据流前向纠错方法、设备及存储介质 |
CN109524015A (zh) * | 2017-09-18 | 2019-03-26 | 杭州海康威视数字技术股份有限公司 | 音频编码方法、解码方法、装置及音频编解码*** |
CN110890945A (zh) * | 2019-11-20 | 2020-03-17 | 腾讯科技(深圳)有限公司 | 数据传输方法、装置、终端及存储介质 |
CN110838894A (zh) * | 2019-11-27 | 2020-02-25 | 腾讯科技(深圳)有限公司 | 语音处理方法、装置、计算机可读存储介质和计算机设备 |
CN111181700A (zh) * | 2020-01-07 | 2020-05-19 | 广州华多网络科技有限公司 | 数据传输方法、装置、电子设备及存储介质 |
Non-Patent Citations (3)
Title |
---|
杜鹢: "电声技术与音响***", 31 May 2015, 国防工业出版社 * |
柳孝图: "《建筑物理》", 31 July 1991, 中国建筑工业出版社, pages: 236 - 238 * |
马乐;李波;关小龙;: "基于WebRTC音视频传输的FEC技术研究", 电视技术, no. 13, 5 July 2019 (2019-07-05) * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115085872A (zh) * | 2022-03-09 | 2022-09-20 | 网易(杭州)网络有限公司 | 数据处理方法及装置、存储介质、电子设备 |
CN115085872B (zh) * | 2022-03-09 | 2024-06-04 | 网易(杭州)网络有限公司 | 数据处理方法及装置、存储介质、电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Hardman et al. | Reliable audio for use over the Internet | |
KR101301843B1 (ko) | 스피치 프레임내의 정보의 분실을 방지하는 시스템 및 방법 | |
CN106664161B (zh) | 基于冗余的包传输错误恢复的***和方法 | |
US6889187B2 (en) | Method and apparatus for improved voice activity detection in a packet voice network | |
CN100588143C (zh) | 可变速率接收机中速率误差检测的改进方法和设备 | |
US8751221B2 (en) | Communication apparatus for adjusting a voice signal | |
US20130185062A1 (en) | Systems, methods, apparatus, and computer-readable media for criticality threshold control | |
US20090055169A1 (en) | Voice encoding device, and voice encoding method | |
CA2408890C (en) | System and methods for concealing errors in data transmission | |
CN111464262B (zh) | 数据处理方法、装置、介质及电子设备 | |
CN114550732B (zh) | 一种高频音频信号的编解码方法和相关装置 | |
CN111245734B (zh) | 音频数据传输方法、装置、处理设备及存储介质 | |
JP2000508440A (ja) | オーディオデータストリームにおける誤りを修整する方法 | |
US20070107507A1 (en) | Mute processing apparatus and method for automatically sending mute frames | |
EP2109950B1 (en) | Method of transmitting data in a communication system | |
CN113936669A (zh) | 数据传输方法、***、装置、计算机可读存储介质及设备 | |
US11070666B2 (en) | Methods and devices for improvements relating to voice quality estimation | |
US11908482B2 (en) | Packet loss retransmission method, system, and apparatus, computer-readable storage medium, and device | |
KR101904422B1 (ko) | 코덱의 구성 설정 방법 및 이를 적용한 코덱 | |
Yousefi'zadeh | Optimal rate adaptation for voip over wireless tandem links | |
Merazka | Forward error correction concealment method for celp-based coders in packet networks | |
CN117793078A (zh) | 一种音频数据的处理方法、装置、电子设备和存储介质 | |
CN115188394A (zh) | 混音方法、装置、电子设备和存储介质 | |
Isenburg | Transmission of multimedia data over lossy networks | |
Mori et al. | Construction of a real‐time music delivery system for IMT‐2000 using twin VQ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40064115 Country of ref document: HK |
|
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |