具体实施方式
下面,参照附图说明本发明的实施方式。
(实施方式1)
图4是表示本发明的第1实施方式中的声音合成装置的结构的结构图。
本实施方式的声音合成装置可适当变换音质,包括:韵律推定部101、单元存储部102、选择部103、函数存储部104、拟合优度判断部105、音质变换部106、音质指定部107、波形合成部108。
单元存储部102作为单元存储机构构成,保存表示多种声音单元的信息。该声音单元根据预先收录的声音,按音素、音节、莫勒等单位进行保存。再有,单元存储部102也可以将声音单元作为声音波形或分析参数来保存。
函数存储部104作为函数保存机构构成,保存用于对保存在单元存储部102种的声音单元进行音质变换的多个变换函数。
这些多个变换函数与通过该变换函数可变换的音质相关联。例如,变换函数与表示“生气”、“高兴”、“悲伤”等感情的音质相关联。此外,变换函数例如与表示“DJ风格”、“播音员风格”等讲话风格等的音质相关联。
变换函数的使用单位例如是声音单元、音素、音节、莫勒、重音句等。
例如使用共振峰频率的变形率或差分值、功率的变形率或差分值、基本频率的变形率或差分值等来生成变换函数。此外,变换函数也可以是将共振峰、功率或基本频率等分别同时变更的函数。
此外,变换函数中设定有可应用该函数的声音单元的范围。例如,被设定为:若对预定的声音单元应用变换函数,则其使用结果被学习,从而该预定的声音单元被包含到变换函数的应用范围内。
此外,通过对表示“生气”等感情的音质的变换函数改变变量,来对音质进行内插,能够实现连续的音质变换。
韵律推定部101作为生成机构来构成,取得例如基于用户操作生成的文本数据。之后,韵律推定部101根据表示该文本数据中包含的各音素的音素信息,来对每个音素推定音韵环境、基本频率、持续时间长度,功率等韵律特征(韵律),并生成音素和表示该韵律的韵律信息。该韵律信息作为最终输出的合成声音的目标来使用。韵律推定部101向选择部103输出该韵律信息。此外,除音素信息之外,韵律推定部101也可以取得词素信息、重音信息、语法信息。
拟合优度判断部105作为类似度导出机构构成,判断存储在单元存储部102中的声音单元和存储在函数存储部104中的变换函数之间的拟合优度。
音质指定部107作为音质指定机构而构成,取得由用户指定的合成声音的音质,并输出表示其音质的音质信息。该音质表示例如“生气”、“高兴”、“悲伤”等感情或“DI风格”、“播音员风格”等讲话风格等。
选择部103作为选择机构而构成,根据从韵律推定部101输出的韵律信息、从音质指定部107输出的音质、以及由拟合优度105判断的拟合优度,从单元存储部102选择最佳的声音单元,并且,从函数存储部104选择最佳的变换函数。即,选择部103根据拟合优度来相辅地选择声音单元和变换函数。
音质变换部106作为使用机构而构成,对于由选择部103选择的声音单元使用由选择部103选择的变换函数。即,音质变换部106通过用该变换函数变换声音单元,来生成由音质指定部107指定的音质的声音单元。本实施方式中,由该音质变换部106和选择部103构成了变换机构。
波形合成部108根据由音质变换部106变换的声音单元生成并输出声音波形。例如,波形合成部108通过波形连接型声音合成方法、分析合成型声音合成方法,来生成声音波形。
在上述的声音合成装置中,当文本数据所包含的音质信息表示一连串的音素和韵律时,选择部103从单元存储部102选择与该音素信息对应的一连串声音单元(声音单元系列),并从函数存储部104选择与该音素信息对应的一连串的变换函数(变换函数系列)。之后,音质变换部106分别处理由选择部103选择的声音单元系列及变换函数系列的各自中包含的声音单元和变换函数。此外,波形合成部108根据由音质变换部106变换了的一连串声音单元,生成并输出声音波形。
图5是表示选择部103的结构的结构图。
选择部103具有单元点阵确定部201、函数点阵确定部202、单元成本判断部203、成本综合部204以及检索部205。
单元点阵确定部201根据从韵律推定部101输出的韵律信息,从存储在单元存储部102中的多个声音单元中确定最终应选择的声音单元的多个候补。
例如,单元点阵确定部201将所有的表示与韵律信息中包含的音素相同的音素的声音单元确定为候补。此外,单元点阵确定部201将韵律信息中包含的音素和韵律的类似度成为规定的阈值以内(例如,基本频率的差分在20Hz以内的情况等)的声音单元确定为候补。
函数点阵确定部202根据韵律信息、从音质指定部107输出的音质信息,从存储在函数存储部104中的多个变换函数中确定最终应选择的变换函数的几个候补。
例如,函数点阵确定部202将包含在韵律信息中的音素作为应用对象,将可变换为由音质信息表示的音质(例如“生气”的音质)的变换函数作为候补。
单元成本判断部203判断由单元点阵确定部201确定的声音单元候补和韵律信息的单元成本。
例如,单元成本判断部203将连接了由韵律推定部101推定的韵律和声音单元候补的韵律的类似度、及声音单元时的连接边界附近的平滑程度用作最近似度,来判断单元成本。
成本综合部204综合由拟合优度判断部105判断的拟合优度和由单元成本判断部203判断的单元成本。
检索部205从由单元点阵确定部201确定的声音单元候补、由函数点阵确定部202确定的变换函数候补中,选择由成本综合部204计算的成本的价值成为最小的声音单元和变换函数。
下面,对选择部103和拟合优度判断部105进行具体说明。
图6是用于说明单元点阵确定部201和函数点阵确定部202的动作的说明图。
例如,韵律推定部101取得表示“红”的文本数据(单元信息),并输出包含在该音素信息中的包括各音素和各韵律的韵律信息组11。该韵律信息组11包括:音素a和表示与其对应的韵律的韵律信息t1、音素k和表示与其对应的韵律的韵律信息t2、音素a和表示与其对应的韵律的韵律信息t3、音素i和表示与其对应的韵律的韵律信息t4。
单元点阵确定部201取得该韵律信息组11,来确定声音单元候补组12。该声音单元候补组12包括:对音素a的声音单元候补u11、u12、u13,对音素k的声音单元候补u21、u22,对音素a的声音单元候补u31、u32、u33,对音素i的声音单元候补u41、u42、u43、u44。
函数点阵确定部202取得上述韵律信息组11和音质信息,来确定例如与“生气”的音质对应的变换函数候补组13。该变换函数候补组13包括:对音素a的变换函数候补f11、f12、f13,对音素k的变换函数候补f21、f22、f23,对音素a的变换函数候补f31、f32、f33、f34、对音素i的变换函数候补f41、f42。
单元成本判断部203计算表示由单元点阵确定部201确定的声音单元候补的最近似程度的单元成本ucost(ti,uij)。该单元ucost(ti,uij)是根据由韵律推定部101推定的音素所应具有的韵律信息韵律信息ti和声音单元候补uij的类似度来判断的成本。
在此,韵律信息ti表示对由韵律推定部101推定的音素信息的第i个音素的音韵环境、基本频率、持续时间长度和功率等。此外,声音单元候补uij是对第i个音素的第j个声音单元候补。
例如,单元成本判断部203计算综合了音韵环境的一致度、基本频率的误差、持续时间长度的误差、功率的误差和连接了声音单元时的连接变形等的单元成本。
拟合优度判断部105计算声音单元候补uij和变换函数候补fij的拟合优度fcost(uij,fik)。在此,变换函数候补fjk是对第i个音素的第k个变换函数候补。由公式1定义该拟合优度fcost(uii,fik)。
公式1:
f cost(uij,fik)=static_cost(uij,fik)+dynamic_cost(u(i-1)j,uij,u(i+1)j,fik)…(式1)
在此,static#cost(uij,fik)是声音单元候补uij、(声音单元候补uij的音响特征)和变换函数候补fik(在制作变换函数候补fik时使用的声音单元的音响特征)的静态拟合优度(类似度)。这样的静态拟合优度通过例如在制作变换函数候补时使用的声音单元的音响特征、即假定为可适当使用变换函数的音响特征(例如,共振峰频率、基本频率、功率、倒频谱系数(cepstral coefficients)等)与声音单元候补的音响特征的类似度来表现。
另外,静态拟合优度不限于这些,只要利用声音单元和变换函数中的某个的类似度就可以。此外,对于所有的声音单元和变换函数,当预先在未连线的状态下计算静态拟合优度,并对各声音单元使拟合优度对应上位的变换函数,计算静态拟合优度时,可以只将与该声音单元对应的变换函数设定为对象。
另一方面,dynamic#cost(u(i-1)j,uij,u(i+1)j,fik)是动态拟合优度,是对象的变换函数候补fik和声音单元候补uij的前后环境之间的拟合优度。
图7是用于说明动态拟合优度的说明图。
动态拟合优度例如根据学习数据来计算。
变换函数是根据通常发音的声音单元与基于感情或讲话风格来学习发音的声音单元的差分值来学习(制作)的。
例如图7的(b)所示,学习数据表示对一连串的声音单元候补(系列)u11、u12、u13中的声音单元候补u12,提高了基本频率F0的变换函数F12所学习的情况。此外,如图7(c)所示,学习数据表示对一连串的声音单元候补(系列)u21、u22、u23中的声音单元候补u22,提高了基本频率F0的变换函数F22所学习的情况。
拟合优度判断部105在对图7(a)所示的声音单元候补u32选择变换函数时,根据包含u32的前后声音单元的环境(u31,u32,u33)、和变换函数候补(f11,f22)的学习数据环境(u11,u12,u13和u21,u22,u23)的一致度,来判断拟合优度。
在图7所示的情况下,(a)的学习数据所表示的环境是基本频率F0随时间t而增加的环境,因此,如图(c)的学习数据所示,拟合优度判断部105判断为在基本频率F0增加的环境下学习(生成)的变换函数f22的动态拟合优度高(dynamic#cost的值小)。
即,由于图7(a)所示的声音单元候补u33是基本频率F0与时间t一起增加的环境,因此,如图(b)所示,拟合优度判断部105将在图7(b)所示的基本频率F0减少的环境中学习了的变换函数f12的动态拟合优度计算为较低,将在图7(c)所示的基本频率F0增加的环境中学习了的变换函数f22的动态拟合优度计算为较高。
换言之,拟合优度判断部105判断为:同要抑制前后环境的基本频率F0相比,要进一步促进前后环境的基本频率F0的增加的变换函数f22的与图7(a)所示前后环境的拟合优度更高。即,拟合优度判断部105判断为,对于声音单元候补u32应选择变换函数候补f22。反之,若选择变换函数f12,则不能将具有变换函数f22的变换特性反映到声音单元候补u32。此外,可以说,动态拟合优度是应该应用变换函数候补fik的一连串声音单元(在制作变换函数候补fik时使用的一连串声音单元)的动态特性与一连串声音单元候补uij的动态特性之间的类似度。
再有,图7中使用了基本频率的F0动态特性,但本发明并不限于此,例如,也可以使用功率、持续时间长度、共振峰频率、倒频谱系数等。此外,不限于上述功率等的单个,而可以组合基本频率、功率、持续时间长度、共振峰频率、倒频谱系数等来计算动态拟合优度。
成本综合部204计算综合成本manage#cost(ti,uij,fik)。由公式2定义该综合成本。
公式2:
manage_cost(ti,uij,fjk)=u cost(ti,uij)+f cost(uij,fik)…(式2)
此外,在公式2中,分别将单元成本ucost(ti,uij)和拟合优度发fcost(tij,fik)均等地相加,但也可以分别附以权重之后相加。
检索部205从由单元点阵确定部201和函数点阵确定部202确定的声音单元候补和变换函数候补中,选择由成本综合部204计算的综合成本的累加值成为最小的声音单元系列U和变换函数系列F。例如,如图6所示,检索部205选择声音单元系列U(u11,u21,u31,u44)和变换函数系列F(f13,f22,f32,f41)。
具体来说,检索部205根据公式3选择上述的声音单元系列U和变换函数系列F。再有,n表示音素信息中所包含的音素的个数。
公式3:
…(式3)
图8是表示上述选择部103的动作的流程图。
首先,选择部103确定几个声音单元候补和变换函数候补(步骤S100)。接着,选择部103对n个韵律信息ti、对应于各韵律信息ti的n’个声音单元候补和对应于各韵律信息ti的n”个变换函数候补的各组合,计算综合成本manage#cost(ti,uij,fik)(步骤S102~S106)。
选择部103为了计算综合成本,首先计算单元成本ucost(ti,uij)(步骤S102),并计算拟合优度fcost(uij,fik)。此外,选择部103通过将在步骤S102、S104算出的单元成本ucost(ti,uij)和拟合优度fcost(uij,fik)相加,来计算综合成本manage#cost(ti,uij,fik)。这样的综合成本的计算,是通过选择部103的检索部205对单元成本判断部203和拟合优度判断部105指示改变i、j、k,来对各i、j、k的各组合进行。
接着,选择部103在个数n’、n”的范围内改变j、k来累加i=1~n的各综合成本manage#cost(ti,uij,fik)(步骤S108)。之后,选择部103选择该累加值成为最小的声音单元系列U和变换函数系列F(步骤S110)。
此外,图8中,预先计算成本值之后,选择了累加值成为最小的声音单元系列U和变换函数系列F,但也可以使用检索问题中所使用的Viterbi算法来选择声音单元系列U和变换函数系列F。
图9是表示本实施方式的声音合成装置的动作的流程图。
声音合成装置的韵律推定部101取得包含音素信息的文本数据,并根据该音素信息来推定各音素应具有的基本频率、持续时间长度、功率等韵律性特征(韵律)(步骤S200)。例如,韵律推定部101通过使用了数量化1类的方法来进行推定。
之后,声音合成装置的音质指定部107取得用户所指定的合成声音的音质,例如“生气”的音质(步骤S202)。
声音合成装置的选择部103根据表示韵律推定部101的推定结果的韵律信息和由音质指定部107取得的音质,从单元存储部102确定声音单元候补(步骤S204),并且,从函数存储部104确定表示“生气”的变换函数候补(步骤S206)。之后,选择部103从被确定的声音单元候补和变换函数候补选择综合成本成为最小的声音单元和变换函数(步骤S208)。即,在音素信息表示一连串的音素的情况下,选择部103选择综合成本的累加值成为最小的声音单元系列U和变换函数系列F。
接着,声音合成装置的音质变换部106使用变换函数系列F,对在步骤S208被选择的声音单元系列U进行音质变换(步骤S210)。声音合成装置的波形合成部108根据被音质变换部106进行了音质变换的声音单元系列U,生成并输出声音波形(步骤S212)。
如上所述,在本实施方式中,对每个声音单元应用最佳的变换函数,因此,能够适当地变换音质。
再此,将本实施方式与现有技术(特开2002-215198号公报)进行比较,来详细说明本实施方式的效果。
上述现有技术的声音合成装置,按元音和辅音等的各种类型制作频谱包络变换表(变换函数),对属于某种类型的声音单元,应用设定在该类型中的频谱包络变换表。
但是,若将由类型代表的频谱包络变换表应用于类型中的所有声音单元,则产生例如如下问题:在变换后的声音中多个共振峰频率过于接近,或者,变换后的声音的频率超过奈奎斯特频率。
具体地,用图10和图11说明上述问题。
图10是表示元音“i”的声音频谱的图。
图10中的A101、A102、A103表示频谱强度高的部分(频谱的峰值)。
图11是表示元音“i”以外的其他声音的频谱的图。
与图10同样,图11中的B101、B102、B103表示频谱强度高的部分。
如上述的图10和图11所示,即使是相同的元音“i”,有时频谱的形状也大不相同。因此,在以代表类型的声音(声音单元)为基础制作频谱包络变换表的情况下,若对与代表声音单元的频谱大不相同的声音单元使用该频谱包络变换表,则有时不能得到预想的音质变换效果。
用图12A和图12B说明更具体的例子。
图12A是表示对元音“i”的频谱应用变换函数的例子的图。
变换函数A202是对图10所示的元音“i”的声音制作的频谱包络变换表。频谱A201表示代表类型的声音单元(例如图10所示的元音“i”)的频谱。
例如,若对频谱A201使用变换函数A202,则频谱A201变换为频谱A203。该变换函数A202对中间频带频率进行了提升到高频带的变换。
但是,如图10和11所示,即使两个声音单元是相同的元音“i”,它们的频谱有时也大不相同。
图12B是表示对元音“i”的其它频谱应用了变换函数的例子的图。
频谱B201是例如图11所示的元音“i”的频谱,与图12A的频谱A201大不相同。
若对该频谱201应用变换函数A202,则频谱B102变换为频谱B203。即,频谱B203中,该频谱的第2峰值和第3峰值显著接近,形成一个峰值。这样,若对频谱B201应用变换函数A202,则不能得到与对频谱A201应用了变换函数A202时的音质变换同样的音质变换效果。此外,在上述现有技术中,存在有如下的问题:在变换后的频谱B203中两个峰值过于接近而形成一个峰值,损害元音“i”的音韵性。
另一方面,在本发明的实施方式的声音合成装置中,将声音单元的音响特征和作为变换函数的源数据的声音单元的音响特征,并将两个声音单元的音响特征最接近的声音单元和变换函数对应起来。接着,本发明的声音合成装置对声音单元的音质利用与该声音单元对应的变换函数来进行变换。
即,本发明的声音合成装置保持多个对元音“i”的变换函数候补,并根据在制作变换函数时使用的声音单元的音响特征,来选择对作为变换对象的声音单元最佳的变换函数,将该选择的变换函数应用于声音单元。
图13是用于说明本实施方式的声音合成装置适当地选择变换函数的情况的说明图。再有,图13(a)示出变换函数(变换函数候补)n、和在制作该变换函数候补n时使用了的声音单元的音响特征;图13(b)表示变换函数(变换函数候补)m、和在制作该变换函数候补m时使用了的声音单元的音响特征。此外,图13(c)表示变换对象的声音单元的音响特征。在此,(a)、(b)和(c)中,利用第1共振峰F1、第2共振峰F2、第3共振峰F3来用图表表示音响特征,该图表的横轴表示时间,该图表的纵轴表示频率。
本实施方式中的声音合成装置例如从(a)所示的变换函数候补n和(b)所示的变换函数候补m中,将音响特征与(c)所示的变换对象的声音单元类似的变换函数候补作为变换函数选择。
在此,(a)所示的变换函数候补n进行使第2共振峰F2降低100Hz的变换、使第3共振峰F3降低100Hz的变换。另一方面,(b)所示的变换函数候补m进行将第2共振峰F2提高500Hz、将第3共振峰F3降低500Hz。
这样的情况下,本实施方式的声音合成装置计算(c)所示的变换对象的声音单元的音响特征、和在制作(a)所示的变换函数候补n时所使用的声音单元的音响特征之间的类似度,并计算(c)所示的变换对象的声音单元的音响特征、和在制作(b)所示的变换函数候补m时所使用的声音单元的音响特征之间的类似度。其结果,本实施方式中的声音合成装置在第2共振峰F2和第3共振峰F3的频率中,能够判断为变换函数候补n的音响特征与变换函数候补m的音响特征相比,与变换函数候补n的音响特征更类似。因此,声音合成装置将变换函数候补n作为变换函数选择,并将该变换函数n应用于变换对象的声音单元。这时,声音合成装置利用各共振峰的移动量来进行频谱包络的变形。
在此,如上述现有技术的声音合成装置,在使用类型代表函数(例如,图13(b)所示的变换函数候补m)的情况下,第2共振峰和第3共振峰交叉,从而不仅得不到音质变换效果,还不能确保音韵性。
而在本发明的声音合成装置中,通过利用类似度(拟合优度)来选择变换函数,对图13(c)所示的变换对象的声音单元使用以与该声音单元的音响特征接近的声音单元为基础制作的变换函数。因此,在本实施方式中,在变换后的声音中,能够消除共振峰频率分别过于接近、或该声音的频率超过奈奎斯特频率的问题。此外,在本实施方式中,对于作为变换函数制作源的声音单元(例如,具有图13(a)所示的音响特征的声音单元)类似的声音单元(例如,具有图13(c)所示的音响特征的声音单元)应用该变换函数,因此,能够得到与将该变换函数应用于制作源的声音单元时所得到的音质变换效果相同的效果。
如上所述,在本实施方式中,不像上述现有的声音合成装置那样,不被声音单元的类型等而左右,而能够对各声音单元分别选择最适合的变换函数,能够将音质变换的变形抑制在最小限度上。
此外,在本实施方式中,由于用变换函数变换音质,能够连续变换音质,并且能够生成数据库(单元存储部102)中所没有的音质的声音波形。此外,在本实施方式中,由于如上所述能够对每个声音单元使用最佳的变换函数,因此,不用进行无用的校正即可将声音波形的共振峰频率抑制在适当的范围内。
此外,在本实施方式中,从单元存储部102和函数存储部104同时相辅地选择文本数据和用于实现由音质指定部107指定的音质的声音单元和变换函数。即,在找不到与声音单元对应的变换函数的情况下,变更为不同的声音单元。此外,在找不到与变换函数对应的声音单元的情况下,变更为不同的变换函数。由此,能够同时对与该文本数据对应的合成声音的质量和变换为由音质指定部107指定的音质的质量进行最优化,能够得到高音质(质量)且所希望的音质的合成声音。
再有,在本实施方式中,选择部103根据综合成本的结果来选择了声音单元和变换函数,但也可以选择由拟合优度判断部105计算的静态拟合优度、动态拟合优度或者将这些组合的拟合优度成为规定的阈值以上的声音单元和变换函数。
(变形例)
上述实施方式1的声音合成装置根据指定的一个音质,来选择声音单元系列U和变换函数系列F(声音单元和变换函数)。
本变形例的声音合成装置接受多个音质的指定,并根据该多个音质来选择声音单元系列U和变换函数系列F。
图14是用于说明本变形例的单元点阵确定部201和函数点阵确定部202的动作的说明图。
函数点阵确定部202确定用于实现由函数存储部104指定的多个音质的变换函数候补。例如,在由音质指定部107接受了“生气”和“高兴”的音质的指定的情况下,函数点阵确定部202从函数存储部104确定与“生气”和“高兴”的各音质对应的变换函数候补。
例如,如图14所示,函数点阵确定部202确定变换函数候补组13。该变换函数候补组13中包含与“生气”的音质对应的变换函数候补组14和与“高兴”的音质对应的变换函数候补组15。变换函数候补组14包括:对应于音素a的变换函数候补f11,f12,f13、对应于音素k的变换函数候补f21,f22,f23、对应于音素a的变换函数候补f31,f32,f33,f34、对应于音素i的变换函数候补f41,f42。变换函数候补组15包括:对应于音素a的变换函数候补g11,g12、对应于音素k的变换函数候补g21,g22,g23、对应于音素a的变换函数候补g31,g32,g33、对应于音素i的变换函数候补g41,g42,g43。
拟合优度判断部105计算声音单元候补uij、变换函数候补fik和变换函数候补gih之间的拟合优度fcost(uij,fik,gih)。在此,变换函数候补是对第i个音素的第h个变换函数候补。
根据公式4计算该拟合优度fcost(uij,fik,gih)。
公式4
f cost(uij,fik,gih)=f cost(uij,fik)+f cost(uij*fik,gih)…(式4)
在此,公式4中所示的uij*fik表示对单元使用了变换函数之后的声音单元。
成本综合部204使用单元选择成本ucost(ti,uij)和拟合优度fcost(uij,fik,gih),来计算综合成本manage#cost(ti,uij,fik,gih)。根据公式5计算该综合成本manage#cost(ti,uij,fik,gih)。
公式5:
manage_cost(ti,uij,fik,gih)=u cost(ti,uij)+f cost(uij,fik,gih)…(式5)
检索部205根据公式6选择声音单元系列U和变换函数系列F、G。
公式6:
…(式6)
例如,如图14所示,选择部103选择声音单元系列U(u11,u21,u32,u44)、变换函数系列F(f13,f22,f32,f4,)和变换函数系列G(g12,g22,g32,g41)。
如上所述,在本变形例中,音质指定部107接受多个音质的指定,来计算基于这些音质的拟合优度和综合成本,因此,能够同时对与文本数据对应的合成声音的质量和向上述多个音质的变换的质量进行最优化。
再有,在本实施方式中,拟合优度判断部105在拟合优度fcost(uij,fik)上加上拟合优度fcost(uij*fik,gih),来计算最终的拟合优度fcost(uij,fik,gih),但是也可以拟合优度fcost(uij,fik)上加上拟合优度fcost(uij,gih),来计算最终的拟合优度fcost(uij,fik,gih)。
此外,在本实施例中,音质指定部107接受了两个音质的指定,但是也可以接受3个以上的音质的指定。在这样的情况下,本变形例中,拟合优度判断部105用与上述同样的方法计算拟合优度,并将与各音质对应的变换函数应用于声音单元。
(实施方式2)
图15是表示本发明实施方式2的声音合成装置结构的结构图。
本实施方式的声音合成装置包括:韵律推定部101、单元存储部102、单元选择部303、函数存储部104、拟合优度判断部302、音质变换部106、音质指定部107、函数选择部301、波形合成部108。再有,本实施方式的构成要素中,对于与实施方式1的声音合成装置的构成要素相同的构件,标注了与实施方式1的构成要素相同的标记,并省略详细说明。
在此,在本实施方式的声音合成装置中,首先,函数选择部301根据由音质指定部107指定的音质和韵律信息来选择变换函数(变换函数系列),并由单元选择部303根据该变换函数选择声音单元(声音单元系列),这一点与实施方式1不同。
函数选择部301作为函数选择机构构成,根据从韵律推定部101输出的韵律信息和从音质指定部107输出的音质信息,从函数存储部104选择变换函数。
单元选择部303作为单元选择机构而构成,根据从韵律推定部101输出的韵律信息,从单元存储部102确定几个声音单元的候补。并且,单元选择部303从该候补中选择与该韵律信息和由函数选择部301选择的变换函数最合适的声音单元。
拟合优度判断部302利用与实施方式1的拟合优度判断部105相同的方法,来判断由函数选择部301已选择的变换函数和由单元选择部303确定的几个声音单元候补之间的拟合优度fcost(uij,fik)。
音质变换部106对由单元选择部303选择的声音单元,应用由函数选择部301选择的变换函数。由此,音质变换部106生成由用户在音质指定部107指定的音质的声音单元。本实施方式中,由该音质变换部106、函数选择部301和单元选择部303构成变换机构。
波形合成部108根据由音质变换部106变换的声音单元生成并输出声音波形。
图16是表示函数选择部301的结构的结构图。
函数选择部301包括函数点阵确定部311和检索部312。
函数点阵确定部311从存储在函数存储部104中的变换函数中,将几个变换函数确定为用于变换为由音质信息表示的音质(被指定的音质)的变换函数候补。
例如,在音质指定部107接受了“生气”的音质的指定的情况下,函数点阵确定部311从函数存储部104中存储的变换函数中,把用于变换为“生气”的音质的变换函数确定为候补。
检索部312从由函数点阵确定部311确定的几个变换函数候补中,选择对从韵律推定部107输出的韵律信息适当的变换函数。例如,韵律信息包括音素系列、基本频率、持续时间长度和功率等。
具体而言,检索部312选择一连串韵律信息ti和一连串变换函数候补fik的拟合优度(在学习变换函数候补fik时所使用的声音单元的韵律特征和韵律信息ti的类似度)最大、即如满足公式7的满足一连串变换函数的变换函数系列F(f1k,f2k,…,fnk)。
公式7:
…(式7)
在此,本实施方式中,如图7所示,在计算拟合优度时所使用的项目只是基本频率、持续时间长度、功率等韵律信息ti,这一点与实施方式1的公式1所表示的拟合优度不同。
此外,检索部312将所选择的候补作为用于变换为被指定的音质的变换函数(变换函数系列)来输出。
图17是表示单元选择部303结构的结构图。
单元选择部303具备单元点阵确定部321、单元成本判断部323、成本综合部324、检索部325。
这样的单元选择部303选择从韵律推定部101输出的韵律信息和最符合从函数选择部301输出的变换函数的声音单元。
单元点阵确定部321与实施方式1的单元点阵确定部321同样,根据由韵律推定部101输出的韵律信息,从单元存储部102中存储的多个声音单元中确定几个声音单元候补。
单元成本判断部323与实施方式1的单元成本判断部203同样,判断由单元点阵确定部321确定的声音单元候补和韵律信息的单元成本。即,单元成本判断部323计算由单元点阵确定部321确定的声音单元候补的最近似程度的单元成本ucost(ti,uij)。
成本综合部324与实施方式1的成本综合部204同样,通过综合由拟合优度判断部302判断的拟合优度和由单元成本判断部323判断的单元成本,计算综合成本manage#cost(ti,uij,fik)。
检索部325从由单元点阵确定部321确定的声音单元候补中,选择由成本综合部324计算出的综合成本的累加值成为最小的声音单元系列U。
具体来说,检索部325根据公式8来选择上述的声音单元系列U。
公式8:
…(式8)
图18是表示本实施方式中的声音合成装置的结构的流程图。
声音合成装置的韵律推定部101取得包含音素信息的文本数据,并根据该音素信息,来推定各音素所应具有的基本频率、持续时间长度、功率等韵律性特征(韵律)(步骤S300)。例如,韵律推定部101利用采用了数量化I类的方法来进行推定。
接着,声音合成装置的音质指定部107取得用户所指定的合成声音的音质例如“生气”的音质(步骤S302)。
声音合成装置的函数选择部301根据被音质指定部107取得的音质,从函数存储部104中确定表示“生气”的音质的变换函数候补(步骤S304)。之后,函数选择部301从该变换函数候补中选择与表示韵律推定部101的推定结果的韵律次信息最合适的变换函数(步骤S306)。
声音合成装置的单元选择部303根据韵律信息,从单元存储部102确定几个声音单元的候补(步骤S308)。此外,单元选择部303从该候补中选择与该韵律信息以及由函数选择部301选择的变换函数最适合的声音单元(步骤S310)。
接着,声音合成装置的音质变换部106将在步骤S306选择的变换函数应用于在步骤S310被选择的声音单元,进行音质变换(步骤S312)。声音合成装置的波形合成部108根据由音质变换部106进行了音质变换的声音单元,生成并输出声音波形(步骤S314)。
在上述的本实施方式中,首先,根据音质信息和韵律信息选择变换函数,并选择对该选择的变换函数最佳的声音单元。作为该实施方式的较佳状况,有时不能充分确保变换函数。具体而言,在准备对各种音质的变换函数时,对各音质准备多个变换函数是较困难的。在这样的情况下,即使函数存储部104中存储的变换函数的个数少,只要是单元存储部102中存储的声音单元的个数充分多,则能够同时最优化与文本数据对应的合成声音的质量和向由音质指定部107指定的音质变换的质量。
此外,与同时选择声音单元和变换函数的情况相比,能够减少计算量。
此外,在本实施方式中,单元选择部303根据综合成本的结果选择了声音单元,但也可以选择由拟合优度判断部302计算的静态拟合优度、动态拟合优度或组合它们的拟合优度大于等于预定的阈值的声音单元。
(实施方式3)
图19是表示本发明的第3实施方式的声音合成装置结构的结构图。
本实施方式的声音合成装置包括:韵律推定部101、单元存储部102、单元选择部403、函数存储部104、拟合优度判断部402、音质变换部106、音质指定部107、函数选择部401、波形合成部108。再有,本实施方式的构成要素中,对于与实施方式1的声音合成装置的构成要素相同的构件,标注与实施方式1的构成要素相同的标记,省略详细说明。
在此,在本实施方式的声音合成装置中,首先单元选择部403根据从韵律推定部101输出的韵律信息来选择声音单元(声音单元系列),并由函数选择部401根据该声音单元选择变换函数(变换函数系列),这一点与实施方式1不同。
单元选择部403从单元存储部102选择与从韵律推定部101输出的韵律信息最合适的声音单元。
函数选择部401根据音质信息和韵律信息,从函数存储部104确定几个变换函数的候补。此外,函数选择部401从该候补中选择适合由单元选择部403选择的声音单元的变换函数。
拟合优度判断部402通过与实施方式1的拟合优度判断部105相同的方法,判断已由单元选择部403选择的声音单元和由函数选择部401确定的几个变换函数候补之间的拟合优度fcost(uij,fik)。
音质变换部106对由单元选择部403选择的声音单元,应用由函数选择部401选择的变换函数。从而,音质变换部106生成由音质指定部107指定的音质的声音单元。
波形合成部108根据由音质变换部106变换了的声音单元生成并输出声音波形。
图20是表示单元选择部403的结构的结构图。
单元选择部403具备单元点阵确定部411、单元成本判断部412、检索部413。
单元点阵确定部411与实施方式1的单元点阵确定部201同样,根据从韵律推定部101输出的韵律信息,从存储在单元存储部102中的多个声音单元中,确定几个声音单元候补。
单元成本判断部412与实施方式1的单元成本判断部203同样,判断由单元点阵确定部411确定的声音单元候补和韵律信息的单元成本。即,单元成本判断部412计算表示由单元点阵确定部411确定的声音单元候补的最近似程度的单元成本ucost(ti,uij)。
检索部413从由单元点阵确定部411确定的声音单元候补中,选择由单元成本判断部412计算的单元成本的累加值最小的声音单元系列U。
具体而言,检索部413根据公式9,选择上述的声音单元系列U。
公式9:
…(式9)
图21是表示函数选择部401的结构的结构图。
函数选择部401具备函数点阵确定部421和检索部422。
函数点阵确定部421根据从音质指定部107输出的音质信息、从韵律推定部101输出的韵律信息,从函数存储部104确定几个变换函数候补。
检索部422从由函数点阵确定部421确定的几个变换函数候补中,选择最符合已由单元选择部403选择的声音单元的变换函数。
具体而言,检索部422根据公式10,选择一连串的变换函数即变换函数系列F(f1k,f2k,…,fnk)。
公式10:
…(式10)
图22是表示本实施方式的声音合成装置的动作的流程图。
声音合成装置的韵律推定部101取得包含音素信息的文本数据,并根据该音素信息推定各音素所应具有的基本频率、持续时间长度、功率等韵律性特征(韵律)(步骤S400)。例如,韵律推定部101利用采用了数量化I类的方法来进行推定。
接着,声音合成装置的音质指定部107取得用户所指定的合成声音的音质例如“生气”的音质(步骤S402)。
声音合成装置的单元选择部403根据从韵律推定部101输出的韵律信息,从单元存储部102确定几个声音单元候补(步骤S404)。此外,单元选择部403从该声音单元候补中选择与该韵律信息最适合的声音单元(步骤S406)。
声音合成装置的函数选择部401根据音质信息和韵律信息,从函数存储部104中确定几个表示“生气”的音质的变换函数候补(步骤S408)。之后,函数选择部401从该变换函数候补中选择与表示由单元选择部403已选择的声音单元最合适的变换函数(步骤S410)。
接着,声音合成装置的音质变换部106将在步骤S410选择的变换函数应用于在步骤S406被选择的声音单元,进行音质变换(步骤S412)。声音合成装置的波形合成部108根据由音质变换部106进行了音质变换的声音单元,生成并输出声音波形(步骤S414)。
在上述的本实施方式中,首先,根据音质信息选择声音单元,选择对该被选择了的声音单元最佳的变换函数。作为该实施方式的较佳状况,例如,能确保足够变量的变换函数,但是有时不能确保足够变量的表示新讲话者的音质的声音单元。具体而言,一般即使将多个使用者的声音作为声音单元来使用,也很难收录大量的声音。在这样的情况下,即使单元存储部102中存储的声音单元的个数少,如本实施方式那样,只要是函数存储部104中存储的变换函数的个数充分多,则能够同时最优化与文本数据对应的合成声音的质量和向由音质指定部107指定的音质变换的质量。
此外,与同时选择声音单元和变换函数的情况相比,能减少计算量。
此外,在本实施方式中,函数选择部401根据综合成本的结果选择了声音单元,但也可以选择由拟合优度判断部402计算的静态拟合优度、动态拟合优度或组合它们的拟合优度大于等于预定的阈值的声音单元。
(实施方式4)
下面,用附图对本发明的第4实施方式进行详细说明。
图23是表示本发明实施方式的音质变换装置(声音合成装置)结构的结构图。
本实施方式的声音合成装置根据文本数据501生成表示音质A的声音的A声音数据506,并将该音质A适当地变换为音质B,其包括:文本分析部502、韵律生成部503、单元连接部504、单元选择部505、变换率指定部507、函数应用部509、A单元数据库510、A基点数据库511、B基点数据库512、函数提取部513、变换函数数据库514、函数选择部515、第1缓冲器517、第2缓冲器518和第3缓冲器519。
此外,在本实施方式中,变换函数数据库514作为函数保存机构构成,函数选择部515作为类似度导出机构、代表值确定机构和选择机构来构成。此外,函数应用部509作为函数适用单元来构成。即,本实施方式中,由作为函数选择部515的选择机构的功能和作为函数应用部509的函数适用机构的功能来构成了变换机构。此外,文本分析部502作为分析机构构成,A单元数据库510作为单元代表值存储机构构成,单元选择部505作为选择存储机构构成。再有,A基点数据库511作为基准代表值存储机构构成,B基点数据库512作为目标代表值存储机构构成,函数提取部513作为变换函数生成机构构成。此外,第1缓冲器506作为单元存储机构构成。
文本分析部502取得作为读取对象的文本数据501并进行语言分析,进行从假名和汉字交叉的文章向单元串(音素串)的变换或词素信息的提取等。
韵律生成部503根据该分析结果,生成包括附加在声音上的重音或各单元(音素)的持续时间长度等的韵律信息。
A单元数据库510存储对应于音质A的声音的多个单元和附加在各单元上的表示该单元的音响特征的信息。以后,将该信息称作基点信息。
单元选择部505从A单元数据库510选择与所生成的语言分析结果和韵律信息对应的最佳单元。
单元连接部504通过连接被选择的单元,生成将文本数据501的内容作为音质A的声音表示的A声音数据506。之后,单元连接部504将该A声音数据506存储到第1缓冲器517中。
A声音数据506除了包含波形数据以外,还包含被使用的单元的基点信息和波形数据的标识信息。A声音数据506中包含的基点信息是附加在单元选择部505所选择的各单元上的信息,标识信息是由单元连接部504根据韵律生成部503所生成的各单元的持续时间长度来生成的。
A基点数据库511按照包含在音质A的声音中的各单元,存储着该单元的标识信息和基点信息。
B基点数据库512对与A基点数据库511中的音质A的声音中包含的各单元对应的、包含在音质B的声音中的各个单元,存储着该单元的标识信息和基点信息。例如,如果A基点数据库511对音质A的声音“祝贺”中包含的各个单元存储着该单元的标识信息和基点信息,则B基点数据库512对音质B的声音“祝贺”中所包含的各个单元存储着该单元的标识信息和基点信息。
函数提取部513将分别与A基点数据库511和B基点数据库512对应的单元之间的标识信息及基点信息的差分,作为用于将各单元的音质从音质A变换为音质B的变换函数来生成。之后,函数提取部513将A基点数据库511的每个单元的标识信息及基点信息分别与如上述那样声称的各单元的变换函数对应起来,存储到变换函数据库514中。
函数提取部515对A声音数据506中包含的每个单元部分,从变换函数数据库514选择与最接近该单元部分所具有的基点信息的基点信息对应的变换函数。从而,对A声音数据506中包含的各单元部分,能够自动高效地选择最适合于该单元部分的变换的变换函数。此外,函数选择部515将依次选择的所有变换函数作为变换函数数据516生成,并存储到第3缓冲器519中。
变换率指定部507对函数应用部509指定表示音质A的声音接近音质B的声音的比例的变换率。
函数应用部509用变换函数数据516将该A声音数据506变换为已变换声音数据508,以使A声音数据506所表示的音质A的声音按由变换率指定部507指定的变换率接近音质B的声音。此外,函数应用部509将已变换声音数据508存储在第2缓冲器518中。这样被存储的已变换声音数据508被传递给声音输出用设备或记录用设备以及通信用设备等。
再有,本实施方式中,将声音的构成单位即单元(声音单元)作为音素进行了说明,但该单元也可以是其它构成单位。
图24A和图24B是表示本实施方式中的基点信息的一例的概略图。
基点信息是表示音素的基点的信息,下面,说明该基点。
如图24A所示,音质A的声音中包含的规定的音素部分的频谱中,表现了带有声音的音质的两个共振峰的轨迹803。例如,该音素的基点807是作为两个共振峰的轨迹803所示的频率中的、与该音素的持续时间长度的中心805对应的频率定义。
和上述同样,如图24B所示,音质B的声音中包含的规定的音素部分的频谱中,表现了带有声音的音质的两个共振峰轨迹804。例如,该音素的基点808是作为两个共振峰轨迹804所示的频率中的、与该音素的持续时间长度的中心806对应的频率定义。
例如,上述音质A的声音和上述音质B的声音在文章(内容)上相同,图24A所示的音素与图24B所示的音素对应的情况下,本实施方式的音质变换装置利用上述基点807、808,变换该音素的音质。即,本实施方式的音质变换装置对音质A的音素的声音频谱进行频率轴上的频谱伸缩,以使基点807表示的音质A的声音频谱的共振峰位置对准进入到由基点808表示的音质B的声音频谱的共振峰位置,而且,在时间轴上也进行伸缩,以使该音素的持续时间长度对准进入。由此,能够使音质A的声音与音质B的声音相似。
此外,在本实施方式中,将音素的中心位置的共振峰频率作为基点来定义,是因为元音的声音频谱在音素中心附近最稳定。
图25A和图25B是用于说明存储在A基点数据库511和B基点数据库512中的信息的说明图。
如图25A所示,A基点数据库511中存储有包含在音质A的声音中的音素串和与该音素串的各音素对应的标识信息和基点信息。如图25B所示,B基点数据库512中存储有包含在音质B的声音中的音素串和与该音素串的各音素对应的标识信息和基点信息。标识信息是表示声音中包含的各音素的讲话定时的信息,通过各音素的持续时间长度(持续长度)来表现。即,规定音素的讲话定时由到前一个音素为止的各音素的持续长度的总合来表示。此外,基点信息由用上述各音素的频谱表示的两个基点(基点1和基点2)来表示。
例如,如图25A所示,A基点数据库511中存储有音素串“ome”,并且,对于音素“o”,存储着持续时间长度(80ms)、基点1(3000Hz)、基点2(4300Hz)。此外,对于音素“m”,存储着持续长度(50ms)、基点1(2500ms)、基点2(4250Hz)。此外,音素“m”的讲话定时是,在从音素“o”开始讲话的情况下,是从该开始起经过了80ms的定时。
另一方面,如图25B所示,B基点数据库512中存储着与上述A基点数据库对应的音素串“ome”,并且,对于音素“o”,存储着持续时间长度(70ms)、基点1(3100Hz)、基点2(4400Hz)。此外,对于音素“m”,存储着持续长度(40ms)、基点1(2400ms)、基点2(4200Hz)。
函数提取部513根据包含在A基点数据库511和B基点数据库512中的信息,来计算分别与其对应的音素部分的基点和持续长度之比。此外,函数提取部513将作为该计算结果的比值作为变换函数,将该变换函数和音质A的基点及持续长度成组,保存到变换函数数据库514。
图26是表示本实施方式中的函数提取部513的一处理例的概略图。
函数提取部513从A基点数据库511和B基点数据库512中,按分别对应的各音素取得该音素的基点和持续长度。之后,函数提取部513对每个音素计算音质B的值与音质A的值之比。
例如,函数提取部513从A基点数据库511取得音素“m”的持续长度(50ms)、基点1(2500Hz)、基点2(4250Hz),并从B基点数据库512取得音素“m”的持续长度(40ms)、基点1(2400Hz)、基点2(4200Hz)。此外,函数提取部513将音质B的持续长度与音质A的持续长度之比(持续长度比)计算为40/50=0.8,音质B的基点1与音质A的基点1之比(基点1比)计算为2400/2500=0.96,音质B的基点2与音质A的基点2之比(基点2比)计算为4200/4250=0.988。
当这样计算比值时,函数提取部513按每个音素、将音质A的持续长度(A持续长度)、基点1(A基点1)及基点2(A基点2)和计算出的持续长度比、基点1比及基点2比成组,保存到变换函数数据库514。
图27是表示本实施方式中的函数选择部515的一处理例的概略图。
函数选择部515按照A声音数据506所示的各音素,从变换函数数据库514检索表示与该音素的基点1和基点2的组最接近的频率的A基点1和A基点2的组。之后,当函数选择部515发现该组时,从变换函数数据库514中将与该组对应的持续长度比、基点1比和基点2比作为对该音素的变换函数选择。
例如,当函数选择部515从变换函数数据库514选择对A声音数据506所示的音素“m”的变换最佳的变换函数时,从变换函数数据库514检索表示与该音素“m”所示的基点1(2550Hz)及基点2(4200Hz)最接近的频率的A基点1及A基点2的组。即,在变换函数数据库514中有对音素“m”的两个变换函数时,函数选择部515计算A声音数据506的音素“m”所示的基点1及基点2(2550Hz,4200Hz)与变换函数数据库514的音素“m”所示的A基点1及A基点2(2500Hz,4250Hz)的距离(类似度)。此外,函数选择部515计算A声音数据506的音素“m”所示的基点1及基点2(2550Hz,4200Hz)与变换函数数据库514的音素“m”所示的另一个A基点1及A基点2(2400Hz,4300Hz)的距离(类似度)。结果,函数选择部515将与距离最短的即类似度最高的A基点1及基点2(2500Hz,4250Hz)对应的持续长度比(0.8)、基点1比(0.96)及基点2比(0.988),作为对A声音数据506的音素“m”的变换函数来选择。
这样,函数选择部515对A声音数据506所示的各音素,选择对该音素最佳的变换函数。即,该函数选择部515具备类似度导出机构,对作为单元存储机构的第1缓冲器517的A声音数据506中包含的各音素,比较该音素的音响特征(基点1和基点2)、和制作作为函数存储机构的变换函数数据库514中所存储的变换函数时使用的音素的音响特征(基点1和基点2),来导出类似度。此外,函数选择部515对包含在A声音数据506中的各音素,选择使用该音素和类似度最高的音素来生成的变换函数。此外,函数选择部515生成包含该选择的变换函数、和在变换函数数据库514中对应于该变换函数的A持续长度、包含A基点1及A基点2的变换函数数据516。
此外,也可以通过按照基点的种类来对距离附加权重,进行优先考虑某个特定种类的基点的位置的接近程度的计算。例如,通过使左右音韵性的低阶共振峰频率的权重较大,能够降低因音质变换而音韵性变形的风险。
图28是表示本实施方式中的函数应用部59的处理的一例的概略图。
函数应用部509通过对A声音数据506的各音素所表示的持续长度、基点1及基点2,乘上变换函数数据516所表示的持续时间长度比、基点1比及基点2比和由变换率指定部507指定的变换率,来校正该A声音数据506的各音素所示的持续长度、基点1及基点2。此外,函数应用部509使A声音数据506所示的波形数据变形,以与该被校正的持续长度、基点1及基点2一致。即,本实施方式中的函数应用部509对A声音数据506中包含的各音素,应用由函数选择部115选择的变换函数,来改变该音素的音质。
例如,函数应用部509在A声音数据506的音素“u”所表示的持续长度(80ms)、基点1(3100Hz)及基点2(4300Hz)上,乘上变换函数数据516所表示的持续长度比(1.5)、基点1比(0.95)及基点2比(1.05)和由变换率指定部507指定的变换率100%。从而,A声音数据506的音素“u”所表示的持续长度(80ms)、基点1(3000Hz)及基点2(4300Hz)被修正为持续长度(120ms)、基点1(2850Hz)及基点2(4515Hz)。之后,函数应用部509对其波形数据进行变形,以使A声音数据506的波形数据的音素“u”部分的持续长度、基点1和基点2成为被修正后的持续长度(120ms)、基点1(2850Hz)及基点2(4515Hz)。
图29是表示本实施方式的音质变换装置的动作的流程图。
首先,音质变换装置取得文本数据501(步骤S500)。音质变换装置对该取得的文本数据501进行语言分析或词素分析等,并根据该分析结果生成韵律(步骤S502)。
当生成韵律时,音质变换装置通过根据该韵律从A单元数据库510选择并连接音素,来生成表示音质A的声音的A声音数据506(步骤S504)。
音质变换装置确定A声音数据中包含的最初音素的基点(步骤S506),将基于与该基点最近的基点生成的变换函数作为对该音素最佳的变换函数,从变换函数数据库514中选择(步骤S508)。
在此,音质变换装置判断是否对在步骤S504生成的A声音数据中包含的所有音素都选择了变换函数(步骤S510)。在判断为没有被选择时(步骤S510的“否”),音质变换装置对A声音数据506中包含的下一个音素重复执行步骤S506后的处理。另一方面,在判断为被选择时(步骤S510的“是”),音质变换装置通过将所选择的变换函数适用于A声音数据506,将该A声音数据506变换为音质B的声音所示的已变换声音数据508(步骤S512)。
在这样的本实施方式中,通过对A声音数据506的音素使用根据与该音素的基点最近的基点来生成的变换函数,将A声音数据506所表示的声音的音质从音质A变换为音质B。因此,在本实施方式中,例如A声音数据506中有多个相同的音素、并且这些音素的音响特征不同时,不会像现有例那样不管音响特征不同将相同的变换函数用于这些音素,而应用对应于该音响特征的变换函数,能够适当地变换A声音数据506所示的声音的音质。
此外,在本实施方式中,用称作基点的代表值简单地表示了音响特征,因此,在从变换函数数据库514选择变换函数时,不进行复杂的运算处理即可简单且迅速并适当地选择变换函数。
此外,在以上的方法中,将各音素内的各基点的位置或对各音素内的各基点位置的倍率设定为恒定值,但是也可以分别光滑地内插到音素之间。例如,图28中,音素“u”的中心位置中的基点1的位置是3000Hz、音素“m”的中心位置中为2550Hz,但是在其中间时刻,考虑到基点1的位置为(3000+2550)/2=0.955,也可以进行变形,以使声音在该时刻的短时间频谱的2775Hz附近对准进入到2775×0.955=2650.125Hz附近。
再有,在上述方法中,通过使声音的频谱形状变形来进行了音质变换,但也可以通过变换模型基本(モデルベ一ス)声音合成法的模型参数值来进行音质变换。该情况下,可以不把基点位置提供到声音频谱上,而代之把各波形参数提供到各模型参数的时间系列变化图表上。
此外,在上述方法中,以对全部音素使用共同种类的基点为其前提,但是也可以改变根据音素的种类使用的基点的种类。例如,在元音中,以共振峰频率为基础定义基点信息的情况较有效,但是在无声辅音中,由于共振峰定义自身的物理意义较少,因此,也可以考虑与适用于元音的共振峰分析分开而独立地提取频谱上的特征点(峰值等),并设定为基点信息,这种情况也是有效的。此时,在元音部和无声辅音部设定的基点信息的个数(维数)相互不同。
(变形例1)
在上述实施方式的方式中,以音质变换为音素单位进行,但也能够以比单词单位和重音语句单位等更长的单位来进行。尤其是决定韵律的基本频率和持续长度的信息很难仅用音素单位来完成处理,因此,用变换目标的音质决定对文本整体的韵律信息,并通过进行与变换源音质中的韵律信息的替换或渐变(morphing)来进行变形。
即,本变形例中的音质变换装置通过分析文本数据501,来生成与将音质A靠近音质B的中间音质对应的韵律信息(中间韵律信息),并从A单元数据库510选择与该中间韵律信息对应的音素,来生成声音数据506。
图30是表示本变形例的音质变换装置结构的结构图。
本变形例的音质变换装置具备生成与从音质A靠近音质B的音质对应的中间韵律信息的韵律生成部503a。
该韵律生成部503a具备:A韵律生成部601、B韵律生成部602、中间韵律生成部603。
A韵律生成部601生成包含附加在音质A的声音上的重音或各音素的持续长度等的A韵律信息。
B韵律生成部602生成包含附加在音质B的声音上的重音或各音素的持续长度等的B韵律信息。
中间韵律生成部603根据分别由A韵律生成部601及B韵律生成部602生成的A韵律信息及B韵律信息、和由变换率指定部507指定的变换率进行计算,来生成与将音质A靠近音质B该变换率程度的音质对应的中间韵律信息。再有,变换率指定部507对中间韵律生成部603指定与对函数应用部509指定的变换率相同的变换率。
具体来说,中间韵律生成部603按照由变换率指定部507指定的变形率,对分别与A韵律信息和B韵律信息对应的音素计算持续长度的中间值和各时刻中的基本频率的中间值,并生成表示这些计算结果的中间韵律信息。之后,中间韵律生成部603将该生成的中间韵律信息输出到单元选择部505。
通过以上的结构,能够进行将可在音素单位内变形的共振峰频率等的变形和文本单位内的变形有效的韵律信息变形组合的音质变换处理。
此外,在本变形例中,根据中间韵律信息选择音素,并生成了A声音数据506,因此,在函数应用部509将A声音数据506变换为已变换声音数据508时,可防止无理的音质变换引起的音质的恶化。
(变形例2)
在上述方法中,通过在各音素的中心位置定义基点,来稳定地表现各音素的音响特征,但是也可以将基点定义为音素内的各共振峰频率的平均值、音素内的各频带的频谱强度的平均值、这些值的分散值等。即,也可以通过按照在声音识别技术中一般使用的HMM音响模型的形式定义基点,极端单元侧模型的各状态变量和变换函数侧模型的各状态变量之间的距离,来选择最佳的函数。
与上述实施方式比较,该方法中由于基点信息包含更多的信息,所以具有能够选择更适合的函数的优点,但是有如下缺点:为了基点信息的大小变大而使得选择处理的负荷变大,保持基点信息的各数据库的大小也变大。再有,在从HMM音响模型生成声音的HMM声音合成装置中,具有能够将单元数据和基点信息共同化的优良效果。即,只要比较表示各变换函数的生成源声音的特征的HMM的各状态变量和所使用的HMM音响模型的各状态变量,来选择最佳的变换函数即可。表示各变量的生成源声音的特征的HMM的各状态变量在用于合成的HMM音响中识别生成源声音,只要在各音素内的对应于各HMM状态的部分计算音响特征量的平均或分散值就可以。
(变形例3)
本实施方式是将文本数据51作为输入来接受并输出声音的声音合成装置中组合音质变换功能的方式,但也可以将声音作为输入来接受、并利用输入声音的自动标注来生成标识信息、在各音素中心提取频谱峰值点来自动生成基点信息。这样,能够将本发明的技术作为声音转换装置来使用。
图31是表示本变形例的音质变换装置的结构的结构图。
本变形例的音质变换装置包括:上述实施方式的图23所示的文本分析部502、韵律生成部503、单元连接部504、单元选择部505,以及代替A单元数据库510的A声音数据生成部700。该A声音数据生成部700把音质A的声音作为输入声音来取得,并生成与该输入声音对应的A声音数据506。即,本变形例中,A声音数据生成部700构成为生成A生意数据506的生成机构。
A声音数据生成部700包括麦克风705、标注部702、音响特征分析部703、标注用音响模型704。
麦克风705收集输入声音,并生成表示该输入声音的波形的A输入声音波形数据701。
标注部702参照标注用音响模型704,对A输入声音波形数据701进行音素的标注。从而生成对该A输入声音波形数据701种包含的音素的标签信息。
音响特征分析部703通过提取由标注部702标注的各音素中心点(时间轴中心)中的频谱峰值点(共振峰频率),来生成基点信息。此外,音响特征分析部703生成包括所生成的基点信息、标注部702生成的标签信息和A输入声音波形数据701的A声音数据506,并存储到第1缓冲器517。
从而,在本变形例中,能够变换所输入的声音音质。
此外,用实施方式和其变形例来对本发明进行说明,但是并不限定于此。
例如,在本实施方式及其变形例中,如基点1和基点2,将基点数设定为两个,并如基点1比和基点2比那样,将变换函数中的基点比的个数设定为两个,但是也可以将基点和基点比的个数分别设定为1个,也可以设定为3个以上。通过增加基点和基点比的个数,能够对音素选择更加合适的变换函数。
产业上的可利用性
本发明的声音合成装置具有可适当地变换音质的效果,并且,可用于例如汽车导航***、家庭用电器产品等娱乐性较高的声音接口、分开使用各种音质的同时进行合成音的信息提供的装置、以及应用程序等中,尤其是在需要声音的感情表现的邮件文章的读取或要求表现讲话者的性别的代理应用程序等用途中有用。此外,通过组合声音的自动标注技术,也可以应用到可按所希望的歌手的音质来唱歌的卡拉OK装置、或以个人秘密保护等为目的的声音转换等中。