CN101727943B - 一种图像配乐的方法、图像配乐装置及图像播放装置 - Google Patents

一种图像配乐的方法、图像配乐装置及图像播放装置 Download PDF

Info

Publication number
CN101727943B
CN101727943B CN200910241464A CN200910241464A CN101727943B CN 101727943 B CN101727943 B CN 101727943B CN 200910241464 A CN200910241464 A CN 200910241464A CN 200910241464 A CN200910241464 A CN 200910241464A CN 101727943 B CN101727943 B CN 101727943B
Authority
CN
China
Prior art keywords
image
dubbing
background music
loudness
frame signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN200910241464A
Other languages
English (en)
Other versions
CN101727943A (zh
Inventor
张晨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuxi Zhonggan Microelectronics Co Ltd
Original Assignee
Wuxi Vimicro Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuxi Vimicro Corp filed Critical Wuxi Vimicro Corp
Priority to CN200910241464A priority Critical patent/CN101727943B/zh
Publication of CN101727943A publication Critical patent/CN101727943A/zh
Application granted granted Critical
Publication of CN101727943B publication Critical patent/CN101727943B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)

Abstract

本发明提供了一种图像配乐的方法、图像配乐装置及图像播放装置。本发明利用图像的亮度、对比度、色调和锐度等信息,转换成乐曲的响度、起伏、流派和节奏,进而选择与图像特性相符的配乐,并可以利用这些信息对配乐的播放进行控制,使配乐与图像特征更加协调,从而实现了为图像自动配乐的功能。

Description

一种图像配乐的方法、图像配乐装置及图像播放装置
技术领域
本发明涉及图像处理技术领域,具体涉及一种图像配乐的方法、图像配乐装置及图像播放装置。
背景技术
目前,各种电子产品大大丰富了人们的日常生活,如可以播放图像的数码相框和MP4播放器,这些电子产品甚至还能够在播放图像的同时播放音频文件,即配乐,用以提高人们的视觉、听觉的感受。
现有技术中尚未发现给图像自动配乐的方法。在播放图像之前,通常需要人工选择好与之相对应的配乐,进而在播放该图像时,同时播放事先选择的配乐。显然,现有技术的这种人工选择的处理方式不够灵活,且选择结果有时候并不与当前播放的图像相匹配。
发明内容
本发明所要解决的技术问题是提供一种图像配乐的方法、图像配乐装置及图像播放装置,用以根据图像特性,选择与图像相匹配的配乐。
为解决上述技术问题,本发明提供方案如下:
一种图像配乐的方法,包括:
步骤A,确定图像的色调冷暖特性;
步骤B,根据预定的色调冷暖特性与风格流派之间的第一对应关系,确定所述图像的色调冷暖特性对应的第一风格流派;
步骤C,从预定的多个乐曲中,选择与所述第一风格流派相匹配的乐曲,作为所述图像的配乐。
优选地,上述图像配乐的方法中,所述步骤A中,进一步根据图像中的蓝色成分与黄色成分的大小,确定所述图像的色调冷暖特性。
优选地,上述图像配乐的方法中,
所述步骤A中还包括:根据所述图像中像素点的亮度,计算所述图像的平均锐度;
所述步骤B中还包括:根据预定的锐度和节奏之间的第二对应关系,确定所述平均锐度对应的第一节奏;
所述步骤C中,进一步选择与所述第一节奏和所述第一风格流派均匹配的乐曲,作为所述图像的配乐。
优选地,上述图像配乐的方法中,所述步骤C之后还包括:
根据预先获取的所述图像的亮度,确定所述配乐的衰减值,其中,所述衰减值随所述图像的亮度的增大而减小;并在播放所述配乐时,根据所述衰减值对所述配乐的响度进行整体衰减。
优选地,上述图像配乐的方法中,所述步骤C之后还包括:
根据预先获取的所述图像的对比度和预定的对比度基准值,确定一响度调整参数,其中,在所述图像的对比度大于所述对比度基准值时,所述响度调整参数为正数;在所述图像的对比度小于所述对比度基准值时,所述响度调整参数为负数;
在播放图像的配乐时,比较所述配乐的帧信号的初始响度与一预定的平均响度基准值的大小:在所述配乐的帧信号的初始响度大于所述平均响度基准值时,以所述帧信号的初始响度与所述响度调整参数的和值为目标值,调整所述帧信号的响度;在所述配乐的帧信号的初始响度小于或等于所述平均响度基准值时,以所述帧信号的初始响度减去所述响度调整参数得到的差值为目标值,调整所述帧信号的响度。
优选地,上述图像配乐的方法中,所述步骤C之后还包括:
根据所述图像的色调冷暖特性,指定所述配乐的伴奏乐器。
本发明还提供了一种图像配乐装置,包括:
图像分析单元,用于确定所述图像的色调冷暖特性;
配乐特性确定单元,用于根据预定的色调冷暖特性与风格流派之间的第一对应关系,确定所述图像的色调冷暖特性对应的第一风格流派;
配乐选择单元,用于从预定的多个乐曲中,选择与所述第一风格流派相匹配的乐曲,作为所述图像的配乐。
优选地,上述的图像配乐装置中,
所述图像分析单元包括:
色调分析单元,用于根据图像中的蓝色成分与黄色成分的大小,确定所述图像的色调冷暖特性。
优选地,上述的图像配乐装置中,
所述图像分析单元还包括:
锐度分析单元,用于根据所述图像中像素点的亮度,计算所述图像的平均锐度;
所述配乐特性确定单元,还用于根据预定的锐度和节奏之间的第二对应关系,确定所述平均锐度对应的第一节奏;
所述配乐选择单元,进一步用于选择与所述第一节奏和所述第一风格流派均匹配的乐曲,作为所述图像的配乐。
优选地,上述的图像配乐装置中,
所述配乐特性确定单元,还用于根据预先获取的所述图像的亮度,确定所述配乐的衰减值,其中,所述衰减值随所述图像的亮度的增大而减小;
所述图像配乐装置还包括:
播放控制单元,用于在播放所述配乐时,根据所述衰减值对所述配乐的响度进行整体衰减。
优选地,上述的图像配乐装置中,
所述配乐特性确定单元,还用于根据预先获取的所述图像的对比度和预定的对比度基准值,确定一响度调整参数,其中,在所述图像的对比度大于所述对比度基准值时,所述响度调整参数为正数;在所述图像的对比度小于所述对比度基准值时,所述响度调整参数为负数;
所述播放控制单元,还用于在播放图像的配乐时,比较所述配乐的帧信号的初始响度与一预定的平均响度基准值的大小:在所述配乐的帧信号的初始响度大于所述平均响度基准值时,以所述帧信号的初始响度与所述响度调整参数的和值为目标值,调整所述帧信号的响度;在所述配乐的帧信号的初始响度小于或等于所述平均响度基准值时,以所述帧信号的初始响度减去所述响度调整参数得到的差值为目标值,调整所述帧信号的响度。
本发明还提供了一种图像播放装置,包括:
图像播放单元,用于播放预定的图像;
图像分析单元,用于确定所述图像的色调冷暖特性;
配乐特性确定单元,用于根据预定的色调冷暖特性与风格流派之间的第一对应关系,确定所述图像的色调冷暖特性对应的第一风格流派;
配乐选择单元,用于从预定的多个乐曲中,选择与所述第一风格流派相匹配的乐曲,作为所述图像的配乐;
配乐播放单元,用于播放所述图像配乐单元选择出的配乐。
优选地,上述图像播放装置中,
所述图像分析单元包括:
色调分析单元,用于根据图像中的蓝色成分与黄色成分的大小,确定所述图像的色调冷暖特性。
优选地,上述图像播放装置中,
所述图像分析单元还包括:
锐度分析单元,用于根据所述图像中像素点的亮度,计算所述图像的平均锐度;
所述配乐特性确定单元,还用于根据预定的锐度和节奏之间的第二对应关系,确定所述平均锐度对应的第一节奏;
所述配乐选择单元,进一步用于选择与所述第一节奏和所述第一风格流派均匹配的乐曲,作为所述图像的配乐。
优选地,上述图像播放装置中,
所述配乐特性确定单元,还用于根据预先获取的所述图像的亮度,确定所述配乐的衰减值,其中,所述衰减值随所述图像的亮度的增大而减小;
所述配乐播放单元包括:
播放控制单元,用于在播放所述配乐时,根据所述衰减值对所述配乐的响度进行整体衰减。
优选地,上述图像播放装置中,
所述配乐特性确定单元,还用于根据预先获取的所述图像的对比度和预定的对比度基准值,确定一响度调整参数,其中,在所述图像的对比度大于所述对比度基准值时,所述响度调整参数为正数;在所述图像的对比度小于所述对比度基准值时,所述响度调整参数为负数;
所述播放控制单元,还用于在播放图像的配乐时,比较所述配乐的帧信号的初始响度与一预定的平均响度基准值的大小:在所述配乐的帧信号的初始响度大于所述平均响度基准值时,以所述帧信号的初始响度与所述响度调整参数的和值为目标值,调整所述帧信号的响度;在所述配乐的帧信号的初始响度小于或等于所述平均响度基准值时,以所述帧信号的初始响度减去所述响度调整参数得到的差值为目标值,调整所述帧信号的响度。
从以上所述可以看出,本发明提供的图像配乐的方法、图像配乐装置及图像播放装置,利用图像的亮度、对比度、色调和锐度等信息,转换成乐曲的响度、起伏、流派和节奏,进而选择与图像特性相符的配乐,并可以利用这些信息控制配乐的播放,使之与图像特征更加协调,从而实现了为图像自动配乐的功能。
附图说明
图1为本发明实施例1所述图像配乐的方法的流程示意图;
图2为本发明实施例2所述图像配乐的方法的流程示意图;
图3为本发明实施例4所述图像配乐装置的结构示意图。
具体实施方式
本发明提出了一种图像配乐的方法及装置,根据图像的特征来为图像自动配乐,其核心思想在于:利用图像的亮度、对比度、色调和锐度等特征,转换成乐曲的响度、起伏、流派和节奏,进而选择与图像特性相符的配乐,并可以进一步利用这些信息得到信号处理算法的参数,对配乐进行信号处理,使之与图像特征更加协调,从而实现了为图像自动配乐的功能,提高了视觉、听觉的感受。以下将结合附图,通过具体实施例对本发明做进一步的说明。
本发明实施例以YUV格式的图像为例进行说明。YUV格式中,Y分量表示像素点的亮度,U、V分量则表示像素点的色度。不同格式的图像通常都可以按照一定的规则进行转换,例如,RGB格式的图像中,每个像素点的R、G、B分量表示红色、绿色和蓝色分量,RGB格式和YUV格式可以按照以下公式进行相互转换:
RGB格式转换成YUV格式:
Y=0.299R+0.587G+0.114B
U=-0.147R-0.289G+0.436B
V=0.615R-0.515G-0.100B
YUV格式转换成RGB格式:
R=Y+1.14V
G=Y-0.39U-0.58V
B=Y+2.03U
<实施例1>
如图1所示,本实施例所述图像配乐的方法,包括以下步骤:
步骤11,根据图像中的蓝色成分与黄色成分的大小,确定所述图像的色调冷暖特性。
通常,按照人的色觉感受,黄色象征太阳,因此认为黄色是暖色调;而蓝色代表大海,被认为是冷色调。因此,上述步骤11中,可以按照以下方式判断方式来确定图像的色调冷暖:在所述图像中的蓝色成分大于黄色成分时,判断所述图像为冷色调;在所述图像中像素的蓝色成分小于黄色成分时,判断所述图像为暖色调;在所述图像中像素的蓝色成分等于黄色成分时,判断所述图像为中性色调。
当然,上述步骤11中,还可以按照以下方式确定图像的色调冷暖特性:计算图像中所有像素点的黄色成分的平均值和蓝色成分的平均值,并根据黄色成分的平均值和蓝色成分平均值的大小,决定图像的冷暖色调特性,其中,在图像中所有像素点的黄色成分的平均值与蓝色成分的平均值的差值的绝对值不超过预设的一门限时,判断该图像是中性色调;在图像中所有像素点的黄色成分的平均值与蓝色成分的平均值的差值大于上述门限时,判断该图像是暖色调;在图像中所有像素点的蓝色成分的平均值与黄色成分的平均值的差值大于上述门限时,判断该图像是冷色调。如果图像是YUV格式,则可以先转换为RGB格式,再进行黄色成分和蓝色成分的计算,具体的计算公式如下:
Ylw = 1 2 M * N &Sigma; i = 0 M * N ( R [ i ] + G [ i ] )
Blu = 1 M * N &Sigma; i = 0 M * N B [ i ]
上式中,Ylw、Blu分别表示图像中所有像素点的黄色成分和蓝色成分的平均值;R[i]、G[i]、B[i]分别表示像素点i的红色、绿色和蓝色分量;
Figure G2009102414640D00073
表示像素点i的黄分量;M*N表示图像中的像素点的数量。
如果|Ylw-Blu|≤Threshold,则判断图像为中性色调;
如果Ylw-Blu>Threshold,则判断图像为暖色调;
如果Blu-Ylw>Threshold,则判断图像为冷色调。
当然,步骤11中,也可以直接求出图像中所有像素点的蓝色成分的第一和值以及黄色成分的第二和值,根据第一和值与第二和值的大小,确定所述图像的色调冷暖特性。
步骤12,根据预定的色调冷暖特性与风格流派之间的第一对应关系,确定所述图像的色调冷暖特性对应的第一风格流派。
这里,图像的色调冷暖特性用来确定配乐的风格流派。暖色调象征欢快的;冷色调象征忧郁的,中性色调则象征中性的感情色彩。通常,从乐曲的风格流派上来说,摇滚(rock)风格、爵士(jazz)风格是欢快的,流行(pop)风格和经典(classic)风格是中性的,而蓝调(blue)风格是忧郁的。本实施例中,可以预先设定色调冷暖特性和风格流派之间的第一对应关系,该第一对应关系中,暖色调对应暖性风格流派,中性色调对应中性风格流派,冷色调对应冷性风格流派,其中,所述暖性风格流派包括摇滚(rock)风格和爵士(jazz)风格等,所述中性风格流派包括流行(pop)风格和经典(classic)风格等,所述冷性风格流派包括蓝调(blue)风格等。于是,根据上述第一对应关系和所述图像的色调冷暖特性,可以确定所述图像的色调冷暖特性对应的第一风格流派。
步骤13,从预定的多个乐曲中,选择与所述第一风格流派相匹配的乐曲,作为所述图像的配乐。
这里,可以预先将可供选择的多个乐曲按照风格流派进行分类,将相同风格流派的乐曲归为同一类别,进而从与所述第一风格流派相匹配的匹配类别所包含的乐曲中选择配乐。如果匹配类别中包括有2个以上的乐曲,则可以随机选择其中任一乐曲作为所述图像的配乐;如果匹配类别中尚未包含有任何乐曲,则进一步从其它类别中选择任意乐曲作为配乐。
从以上所述可以看出,本实施例通过确定图像的色调的冷暖特性,选择出与图像的冷暖色调相匹配的乐曲作为图像的配乐,从而使得配乐与图像相匹配,能够提高观众在欣赏图像时候的听觉感受。
<实施例2>
本实施例在实施例1的基础上,在选择配乐时进一步考虑图像的锐度信息,根据锐度确定配乐的节奏,使得配乐与图像更加相符。
如图2所示,本发明实施例所述图像配乐的方法,包括以下步骤:
步骤21,根据图像中像素点的亮度,计算图像的平均锐度,以及根据图像中的蓝色成分与黄色成分的大小,确定所述图像的色调冷暖特性。
这里,本实施例中图像的色调冷暖特性的确定与实施例1相同,不再赘述。本实施例中,图像的锐度的计算可以采用现有技术中的各种已有的方法。本实施例中,图像的锐度的计算还可以按照以下方式进行:
通过一个3*3的掩模,对第一图像中除边缘像素点外的其它像素点的亮度均进行滤波处理,所述图像中的边缘像素点则保持不变,得到一个锐化后的第二图像;再对所述第二图像中的所有像素点的亮度进行平均值计算,得到所述第一图像的平均锐度。即,所述第一图像的平均锐度为:
Shp = 1 M * N &Sigma; i = 0 M * N | Y &prime; [ i ] |
其中,M*N表示图像中的像素点的数量,Y′[i]表示第二图像中的各个像素点的亮度。通常一个像素点的亮度可以用8比特的二进制数来表示,此时平均锐度的取值范围是0到255。
上述计算方法中采用的3*3的掩模,如下所示:
  -1   -1   -1
  -1   8   -1
  -1   -1   -1
利用上述掩膜去加权处理每个像素点,得到滤波处理结果,即,某个像素点的经过上述加权处理后的结果为:该像素点的取值与8的乘积减去该像素点周边的8个相邻像素点的取值。
步骤22,根据预定的色调冷暖特性与风格流派之间的第一对应关系,确定所述图像的色调冷暖特性对应的第一风格流派,以及,根据预定的锐度和节奏之间的第二对应关系,确定所述图像的锐度对应的第一节奏。
这里,本实施例中第一风格流派的确定与实施例1相同,不再赘述;本实施例中图像的锐度用来确定配乐的节奏。锐度大表示图像上的细节变化大,该图像适合节奏快的配乐;锐度小时图片则适合节奏慢的配乐。本实施例中,可以进一步预先设定锐度和节奏之间的第二对应关系,该第二对应关系中,锐度较大的第一锐度对应的节奏,比锐度较小的第二锐度对应的节奏快。于是,根据上述第二对应关系和所述图像的锐度,可以确定配乐的节奏。
步骤23,从预定的多个乐曲中,选择与所述第一节奏和所述第一风格流派相匹配的乐曲,作为所述图像的配乐。
本实施例中,可以预先将可供选择的多个乐曲按照风格流派和节奏进行分类,将相同风格流派和相同节奏的乐曲归为同一类别的乐曲,进而从与所述第一节奏和所述第一风格流派相匹配的匹配类别中选择乐曲。如果匹配类别中包括有2个以上的乐曲,则可以随机选择其中任一乐曲作为所述图像的配乐;如果匹配类别中尚未包含有任何乐曲,则进一步从邻近类别(例如,与所述第一风格流派相同、与所述第一节奏接近的类别)中选择乐曲作为配乐。
音乐的分类可以用信号处理的方式通过训练和识别分类,也可以利用一些***格式中包含的信息分类,比如mp3格式音乐,其标签(tag)信息中包含了音乐的流派种类信息。
更进一步的,本实施例可以根据图像的色调冷暖特性来指定配乐的伴奏乐器。例如,伴奏乐器中,钢琴、小提琴等是比较中性的;吹奏乐器大多数是比较阴郁的;而打击乐器大多数是比较欢快的。因此,本实施例中,在上述步骤23之后,还可以进一步根据所述图像的色调冷暖特性,指定所述配乐的伴奏乐器,其中,在所述图像为中性色调时,指定伴奏乐器为钢琴或小提琴;在所述图像为冷色调时,指定伴奏乐器为吹奏乐器,如萨克斯、笛、笙等;在所述图像为暖色调时,指定伴奏乐器为打击乐器,如云锣、编钟、拍板、梆子等。
可以看出,本实施例根据图像的色调的冷暖特性和锐度大小,选择出与图像相匹配的乐曲作为图像的配乐,从而使得配乐与图像相互匹配、相得益彰,能够提高观众在欣赏图像时候的听觉享受,带来更佳的视、听觉体验。
<实施例3>
以上实施例说明了如何为图像选择配乐。本实施例进一步在实施例1或2的基础上,根据图像的其它特征,如亮度、对比度等,对配乐的播放效果进行适当地调整,进一步使得播放效果与图像相匹配,提高观众的视听体验。
本实施例中,认为图像的亮度与音频的响度相对应比较合适。图像明亮时,音乐的响度应该较大;而图像昏暗时,音乐的响度应该较小。而图像的对比度对应于音频的响度范围比较合适,即图像的对比度越鲜明,则配乐越跌宕起伏,反之则应平缓。上述配合方式符合图像的意境,能够提高观众的视听感受。于是本实施例中,通过以下两种处理方式对配乐进行进一步的处理。
处理方式一、根据预先获取的所述图像的亮度,确定所述配乐的衰减值,其中所述衰减值随所述图像的亮度的增大而减小;并在播放所述配乐时,根据所述衰减值对所述配乐的响度进行整体衰减。
上述方式一中,图像的亮度与音频的响度相对应,亮度较大的图像对应的配乐的衰减值,小于亮度较小的图像对应的配乐的衰减值。通常,音乐的响度峰值都达到了满幅,因此,这里只考虑对配乐进行衰减。所述图像的亮度可以用图像的所有像素点的亮度的平均值来表示,即所述图像的亮度Yavg为:
Yavg = 1 M * N &Sigma; i = 0 M * N Y [ i ]
其中,Y[i]表示像素点i的亮度,假设该图像共有M*N个像素点。
所述计算所述配乐对应的衰减值□Loud(单位为dB),具体可以按照以下公式进行计算:
□Loud=(Yavg/10-25.5)dB
上述公式使得当Yavg为最大亮度值255(对应于8比特)时,衰减约0dB;而当Yavg为0(图像全黑)时,衰减最大为25dB,从而能实现当图像明亮时,配乐整体响度自动被调大,而图像昏暗时,配乐整体响度自动被调小。
上述计算衰减值□Loud的公式中,衰减值与图像的亮度之间的函数关系是线性关系,当然,也可以其它函数,设置成非线性关系,只需满足衰减值随着亮度的增大而减小即可。
处理方式二、根据预先获取的所述图像的对比度和预定的对比度基准值,确定一响度调整参数,其中,在所述图像的对比度大于所述对比度基准值时,所述响度调整参数为正数;在所述图像的对比度小于所述对比度基准值时,所述响度调整参数为负数;然后,在播放图像的配乐时,比较所述配乐的帧信号的初始响度与一预定的平均响度基准值的大小:
在所述配乐的帧信号的初始响度大于所述平均响度基准值时,以所述帧信号的初始响度与所述响度调整参数的和值为目标值,调整所述帧信号的响度;
在所述配乐的帧信号的初始响度小于或等于所述平均响度基准值时,以所述帧信号的初始响度减去所述响度调整参数得到的差值为目标值,调整所述帧信号的响度。
上述处理方式二中,在所述图像的对比度等于所述对比度基准值时,所述响度调整参数为0,即不再调整所述配乐的帧信号的响度。
所述图像的对比度D可以按照以下公式确定:
D = 1 M * N &Sigma; i = 0 M * N | Y [ i ] - Yavg |
上述方式二中,将图像的对比度与音频的响度范围相对应。对比度的变化范围一般在0~100之间,因此设置一个对比度基准值(如50),具体可以按照以下公式确定响度调整参数PL。当然,也可以根据具体的播放环境采用其它函数关系,来计算响度调整参数PL:
PL=(D-50)/5dB。
可以看出,如果图像的对比度较大,即D大于50时,PL为正数;而如果图像对比度较小,即D小于50时,PL为负数。
为了增大音乐响度的动态范围,而不产生噪声,本实施例可以利用自动增益控制(AGC)装置来逐步地将调整当前播放的帧信号的响度,以使其逐步接近并达到计算出的所述目标值,调整步长可以设置的较小,以减少噪声。
可以看出,按照上述处理方式二进行调整时,在响度调整参数PL为正数时,如果帧信号的初始响度大于平均响度基准值,则本实施例会进一步提高该帧信号的增益;反之,则减小其增益,从而加大音乐的响度变化范围,使之更加跌宕起伏。而在PL为负数时,如果帧信号的初始响度大于平均响度基准值,则本实施例会进一步减小该帧信号的增益;反之,则增大其增益,从而将减小音乐的响度变化范围,使之变得更加平缓。
在播放图像的配乐时,可以通过上述方式一或方式二对配乐进行处理,也可以同时采用上述方式一和方式二对配乐进行处理。同时采用上述方式一和方式二时,先利用方式一对配乐的响度进行整体衰减,然后在播放配乐时,根据方式二对配乐的帧信号的响度进行调整。
以上各个实施例,利用图像的亮度、对比度、色调和锐度等信息,转换成乐曲的响度、起伏、流派和节奏,进而选择与图像特性相符的配乐,并可以利用这些信息得到的参数,在播放配乐时对配乐进行信号处理,使之与图像特征更加协调,从而实现了为图像自动配乐的功能。
<实施例4>
最后,基于以上各个实施例所述的图像配乐方法,本实施例提供了一种图像配乐装置,如图3所示,该图像配乐装置,包括:
图像分析单元,用于根据图像中的蓝色成分与黄色成分的大小,确定所述图像的色调冷暖特性;
配乐特性确定单元,用于根据预定的色调冷暖特性与风格流派之间的第一对应关系,确定所述图像的色调冷暖特性对应的第一风格流派;
配乐选择单元,用于从预定的多个乐曲中,选择与所述第一风格流派相匹配的乐曲,作为所述图像的配乐。
进一步考虑到图像的锐度与配乐的节奏之间的对应关系,图3所示的图像配乐装置中:
所述图像分析单元,还用于根据所述图像中像素点的亮度,计算所述图像的平均锐度;
所述配乐特性确定单元,还用于根据预定的锐度和节奏之间的第二对应关系,确定所述平均锐度对应的第一节奏;
所述配乐选择单元,进一步用于选择与所述第一节奏和所述第一风格流派均匹配的乐曲,作为所述图像的配乐。
进一步考虑到图像的亮度与配乐的响度衰减之间的对应关系,图3所示的图像配乐装置中还可以包括一播放控制单元,此时,
所述配乐特性确定单元,还用于根据预先获取的所述图像的亮度,确定所述配乐的衰减值,其中,所述衰减值随所述图像的亮度的增大而减小;
所述播放控制单元,用于在播放所述配乐时,根据所述衰减值对所述配乐的响度进行整体衰减。
进一步考虑到图像的对比度与配乐的响度变化范围之间的对应关系,图3所示的图像配乐装置中:
所述配乐特性确定单元,还用于根据预先获取的所述图像的对比度和预定的对比度基准值,确定一响度调整参数,其中,在所述图像的对比度大于所述对比度基准值时,所述响度调整参数为正数;在所述图像的对比度小于所述对比度基准值时,所述响度调整参数为负数;
所述播放控制单元,还用于在播放图像的配乐时,比较所述配乐的帧信号的初始响度与一预定的平均响度基准值的大小:在所述配乐的帧信号的初始响度大于所述平均响度基准值时,以所述帧信号的初始响度与所述响度调整参数的和值为目标值,调整所述帧信号的响度;在所述配乐的帧信号的初始响度小于或等于所述平均响度基准值时,以所述帧信号的初始响度减去所述响度调整参数得到的差值为目标值,调整所述帧信号的响度。
另外,图3所示的图像配乐装置中,还可以包括:
伴奏乐器指定单元,用于根据所述图像的色调冷暖特性,指定所述配乐的伴奏乐器。
<实施例5>
最后,本实施例提供了一种图像播放装置,该图像播放装置可以是一个数码相框或者MP4播放器,该图像播放装置具体包括:
图像播放单元,用于播放预定的图像;
图像分析单元,用于确定所述图像的色调冷暖特性;
配乐特性确定单元,用于根据预定的色调冷暖特性与风格流派之间的第一对应关系,确定所述图像的色调冷暖特性对应的第一风格流派;
配乐选择单元,用于从预定的多个乐曲中,选择与所述第一风格流派相匹配的乐曲,作为所述图像的配乐;
配乐播放单元,用于播放所述图像配乐单元选择出的配乐。
其中,所述图像分析单元包括:
一色调分析单元,用于根据图像中的蓝色成分与黄色成分的大小,确定所述图像的色调冷暖特性;
一锐度分析单元,用于根据所述图像中像素点的亮度,计算所述图像的平均锐度;
所述配乐特性确定单元,还用于根据预定的锐度和节奏之间的第二对应关系,确定所述平均锐度对应的第一节奏;
所述配乐选择单元,进一步用于选择与所述第一节奏和所述第一风格流派均匹配的乐曲,作为所述图像的配乐。
优选地,上述图像播放装置中,所述配乐特性确定单元,还用于根据预先获取的所述图像的亮度,确定所述配乐的衰减值,其中,所述衰减值随所述图像的亮度的增大而减小;
所述配乐播放单元包括:播放控制单元,用于在播放所述配乐时,根据所述衰减值对所述配乐的响度进行整体衰减。
优选地,上述图像播放装置中,
所述配乐特性确定单元,还用于根据预先获取的所述图像的对比度和预定的对比度基准值,确定一响度调整参数,其中,在所述图像的对比度大于所述对比度基准值时,所述响度调整参数为正数;在所述图像的对比度小于所述对比度基准值时,所述响度调整参数为负数;
所述播放控制单元,还用于在播放图像的配乐时,比较所述配乐的帧信号的初始响度与一预定的平均响度基准值的大小:在所述配乐的帧信号的初始响度大于所述平均响度基准值时,以所述帧信号的初始响度与所述响度调整参数的和值为目标值,调整所述帧信号的响度;在所述配乐的帧信号的初始响度小于或等于所述平均响度基准值时,以所述帧信号的初始响度减去所述响度调整参数得到的差值为目标值,调整所述帧信号的响度。
综上所述,本发明实施例提供的图像配乐方法、图像配乐装置及图像播放装置,利用图像的亮度、对比度、色调和锐度等信息,转换成乐曲的响度、起伏、流派和节奏,进而选择与图像特性相符的配乐,并可以利用这些信息得到的参数,在播放配乐时对配乐进行信号处理,使之与图像特征更加协调,从而实现了为图像自动配乐的功能。
以上所述仅是本发明的实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以作出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (13)

1.一种图像配乐的方法,其特征在于,包括:
步骤A,确定图像的色调冷暖特性;
步骤B,根据预定的色调冷暖特性与风格流派之间的第一对应关系,确定所述图像的色调冷暖特性对应的第一风格流派;
步骤C,从预定的多个乐曲中,选择与所述第一风格流派相匹配的乐曲,作为所述图像的配乐;
所述步骤A中还包括:根据所述图像中像素点的亮度,计算所述图像的平均锐度;
所述步骤B中还包括:根据预定的锐度和节奏之间的第二对应关系,确定所述平均锐度对应的第一节奏;
所述步骤C中,进一步选择与所述第一节奏和所述第一风格流派均匹配的乐曲,作为所述图像的配乐。
2.如权利要求1所述的方法,其特征在于,所述步骤A中,进一步根据图像中的蓝色成分与黄色成分的大小,确定所述图像的色调冷暖特性。
3.如权利要求1所述的方法,其特征在于,所述步骤C之后还包括:
根据预先获取的所述图像的亮度,确定所述配乐的衰减值,其中,所述衰减值随所述图像的亮度的增大而减小;并在播放所述配乐时,根据所述衰减值对所述配乐的响度进行整体衰减。
4.如权利要求1或3所述的方法,其特征在于,所述步骤C之后还包括:
根据预先获取的所述图像的对比度和预定的对比度基准值,确定一响度调整参数,其中,在所述图像的对比度大于所述对比度基准值时,所述响度调整参数为正数;在所述图像的对比度小于所述对比度基准值时,所述响度调整参数为负数;
在播放图像的配乐时,比较所述配乐的帧信号的初始响度与一预定的平均响度基准值的大小:在所述配乐的帧信号的初始响度大于所述平均响度基准值时,以所述帧信号的初始响度与所述响度调整参数的和值为目标值,调整所述帧信号的响度;在所述配乐的帧信号的初始响度小于或等于所述平均响度基准值时,以所述帧信号的初始响度减去所述响度调整参数得到的差值为目标值,调整所述帧信号的响度。
5.如权利要求1或2所述的方法,其特征在于,所述步骤C之后还包括:
根据所述图像的色调冷暖特性,指定所述配乐的伴奏乐器。
6.一种图像配乐装置,其特征在于,包括:
图像分析单元,用于确定所述图像的色调冷暖特性;
配乐特性确定单元,用于根据预定的色调冷暖特性与风格流派之间的第一对应关系,确定所述图像的色调冷暖特性对应的第一风格流派;
配乐选择单元,用于从预定的多个乐曲中,选择与所述第一风格流派相匹配的乐曲,作为所述图像的配乐;
其中,所述图像分析单元还包括:
锐度分析单元,用于根据所述图像中像素点的亮度,计算所述图像的平均锐度;
所述配乐特性确定单元,还用于根据预定的锐度和节奏之间的第二对应关系,确定所述平均锐度对应的第一节奏;
所述配乐选择单元,进一步用于选择与所述第一节奏和所述第一风格流派均匹配的乐曲,作为所述图像的配乐。
7.如权利要求6所述的图像配乐装置,其特征在于,
所述图像分析单元包括:
色调分析单元,用于根据图像中的蓝色成分与黄色成分的大小,确定所述图像的色调冷暖特性。
8.如权利要求6所述的图像配乐装置,其特征在于,
所述配乐特性确定单元,还用于根据预先获取的所述图像的亮度,确定所述配乐的衰减值,其中,所述衰减值随所述图像的亮度的增大而减小;
所述图像配乐装置还包括:
播放控制单元,用于在播放所述配乐时,根据所述衰减值对所述配乐的响度进行整体衰减。
9.如权利要求6或8所述的图像配乐装置,其特征在于,
所述配乐特性确定单元,还用于根据预先获取的所述图像的对比度和预定的对比度基准值,确定一响度调整参数,其中,在所述图像的对比度大于所述对比度基准值时,所述响度调整参数为正数;在所述图像的对比度小于所述对比度基准值时,所述响度调整参数为负数;
所述播放控制单元,还用于在播放图像的配乐时,比较所述配乐的帧信号的初始响度与一预定的平均响度基准值的大小:在所述配乐的帧信号的初始响度大于所述平均响度基准值时,以所述帧信号的初始响度与所述响度调整参数的和值为目标值,调整所述帧信号的响度;在所述配乐的帧信号的初始响度小于或等于所述平均响度基准值时,以所述帧信号的初始响度减去所述响度调整参数得到的差值为目标值,调整所述帧信号的响度。
10.一种图像播放装置,其特征在于,包括:
图像播放单元,用于播放预定的图像;
图像分析单元,用于确定所述图像的色调冷暖特性;
配乐特性确定单元,用于根据预定的色调冷暖特性与风格流派之间的第一对应关系,确定所述图像的色调冷暖特性对应的第一风格流派;
配乐选择单元,用于从预定的多个乐曲中,选择与所述第一风格流派相匹配的乐曲,作为所述图像的配乐;
配乐播放单元,用于播放所述图像配乐单元选择出的配乐;
其中,所述图像分析单元还包括:
锐度分析单元,用于根据所述图像中像素点的亮度,计算所述图像的平均锐度;
所述配乐特性确定单元,还用于根据预定的锐度和节奏之间的第二对应关系,确定所述平均锐度对应的第一节奏;
所述配乐选择单元,进一步用于选择与所述第一节奏和所述第一风格流派均匹配的乐曲,作为所述图像的配乐。
11.如权利要求10所述的图像播放装置,其特征在于,
所述图像分析单元包括:
色调分析单元,用于根据图像中的蓝色成分与黄色成分的大小,确定所述图像的色调冷暖特性。
12.如权利要求10所述的图像播放装置,其特征在于,
所述配乐特性确定单元,还用于根据预先获取的所述图像的亮度,确定所述配乐的衰减值,其中,所述衰减值随所述图像的亮度的增大而减小;
所述配乐播放单元包括:
播放控制单元,用于在播放所述配乐时,根据所述衰减值对所述配乐的响度进行整体衰减。
13.如权利要求10或12所述的图像播放装置,其特征在于,
所述配乐特性确定单元,还用于根据预先获取的所述图像的对比度和预定的对比度基准值,确定一响度调整参数,其中,在所述图像的对比度大于所述对比度基准值时,所述响度调整参数为正数;在所述图像的对比度小于所述对比度基准值时,所述响度调整参数为负数;
所述播放控制单元,还用于在播放图像的配乐时,比较所述配乐的帧信号的初始响度与一预定的平均响度基准值的大小:在所述配乐的帧信号的初始响度大于所述平均响度基准值时,以所述帧信号的初始响度与所述响度调整参数的和值为目标值,调整所述帧信号的响度;在所述配乐的帧信号的初始响度小于或等于所述平均响度基准值时,以所述帧信号的初始响度减去所述响度调整参数得到的差值为目标值,调整所述帧信号的响度。
CN200910241464A 2009-12-03 2009-12-03 一种图像配乐的方法、图像配乐装置及图像播放装置 Expired - Fee Related CN101727943B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN200910241464A CN101727943B (zh) 2009-12-03 2009-12-03 一种图像配乐的方法、图像配乐装置及图像播放装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN200910241464A CN101727943B (zh) 2009-12-03 2009-12-03 一种图像配乐的方法、图像配乐装置及图像播放装置

Publications (2)

Publication Number Publication Date
CN101727943A CN101727943A (zh) 2010-06-09
CN101727943B true CN101727943B (zh) 2012-10-17

Family

ID=42448705

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200910241464A Expired - Fee Related CN101727943B (zh) 2009-12-03 2009-12-03 一种图像配乐的方法、图像配乐装置及图像播放装置

Country Status (1)

Country Link
CN (1) CN101727943B (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103853537B (zh) * 2012-12-03 2017-07-21 华为技术有限公司 播放背景音乐的方法、装置
CN104091610B (zh) * 2013-11-15 2016-04-27 腾讯科技(深圳)有限公司 一种音频文件的管理方法及装置
CN106503034B (zh) * 2016-09-14 2019-07-19 厦门黑镜科技有限公司 一种为动画配乐的方法及装置
CN106649586A (zh) * 2016-11-18 2017-05-10 腾讯音乐娱乐(深圳)有限公司 一种音频文件的播放方法及装置
CN107170432B (zh) * 2017-03-31 2021-06-15 珠海市魅族科技有限公司 一种音乐产生方法和装置
CN110392302A (zh) * 2018-04-16 2019-10-29 北京陌陌信息技术有限公司 视频配乐方法、装置、设备及存储介质
CN109309863B (zh) * 2018-08-01 2019-09-13 磐安鬼谷子文化策划有限公司 电影内容匹配机构
CN109309776B (zh) * 2018-08-13 2019-08-27 上海蒙彤文化传播有限公司 基于动感程度的片尾曲选择***
CN109063163B (zh) 2018-08-14 2022-12-02 腾讯科技(深圳)有限公司 一种音乐推荐的方法、装置、终端设备和介质
CN109246474B (zh) * 2018-10-16 2021-03-02 维沃移动通信(杭州)有限公司 一种视频文件编辑方法及移动终端
CN110278388B (zh) * 2019-06-19 2022-02-22 北京字节跳动网络技术有限公司 展示视频的生成方法、装置、设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1287320A (zh) * 1999-09-03 2001-03-14 北京航空航天大学 一种将图像信息转换成音乐的方法
CN1503159A (zh) * 2002-11-25 2004-06-09 ���µ�����ҵ��ʽ���� 电影短片生成再现装置及其方法
CN101141603A (zh) * 2006-09-06 2008-03-12 富士胶片株式会社 用于产生音乐与图像同步的动画的脚本的方法、程序和设备
CN101151641A (zh) * 2005-05-24 2008-03-26 三菱电机株式会社 带图像显示的音乐装置
CN101313364A (zh) * 2005-11-21 2008-11-26 皇家飞利浦电子股份有限公司 使用数字图像的元数据和内容特征来找到相关音频伴奏的***和方法
CN101409070A (zh) * 2008-03-28 2009-04-15 徐开笑 基于运动图像解析的音乐重构方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1287320A (zh) * 1999-09-03 2001-03-14 北京航空航天大学 一种将图像信息转换成音乐的方法
CN1503159A (zh) * 2002-11-25 2004-06-09 ���µ�����ҵ��ʽ���� 电影短片生成再现装置及其方法
CN101151641A (zh) * 2005-05-24 2008-03-26 三菱电机株式会社 带图像显示的音乐装置
CN101313364A (zh) * 2005-11-21 2008-11-26 皇家飞利浦电子股份有限公司 使用数字图像的元数据和内容特征来找到相关音频伴奏的***和方法
CN101141603A (zh) * 2006-09-06 2008-03-12 富士胶片株式会社 用于产生音乐与图像同步的动画的脚本的方法、程序和设备
CN101409070A (zh) * 2008-03-28 2009-04-15 徐开笑 基于运动图像解析的音乐重构方法

Also Published As

Publication number Publication date
CN101727943A (zh) 2010-06-09

Similar Documents

Publication Publication Date Title
CN101727943B (zh) 一种图像配乐的方法、图像配乐装置及图像播放装置
CN101727476B (zh) 信息处理装置
CN101151653B (zh) 液晶显示装置
CN100358001C (zh) 显示装置
CN103827956B (zh) 用于图像的动态范围变换的装置和方法
CN1977542B (zh) 利用感知规律提取主色以产生来自视频内容的环境光
CN101059951B (zh) 图像处理设备和方法
CN109937444A (zh) 显示装置
CN1165183C (zh) 自适应色度补偿法及其补偿装置
KR102130667B1 (ko) 위치 기반 디스플레이 특성의 환경 적응을 갖춘 전자 디스플레이
CN104115213B (zh) 视频显示装置及电视接收装置
GB2316825B (en) Image enhancement method and circuit using quantized mean-matching histogram equalization
CN104078067B (zh) 信息处理设备、用于处理信息的方法以及程序
CN110444185B (zh) 一种音乐生成方法及装置
CN102123546A (zh) 一种全彩声光转换控制方法及***
CN109767690A (zh) 显示装置
CN101916555B (zh) 一种高动态范围图像的显示再现方法
JP2021506001A (ja) 改良された高ダイナミックレンジビデオ色再マッピング
CN103928036A (zh) 一种根据图像生成音频文件的方法及装置
CN106652925A (zh) 一种图像处理方法及液晶显示器
CN107241637A (zh) 基于hsb颜色模式的应用图标智能搭配背板色板的方法
CN105611693B (zh) 音响与调光灯的控制方法及装置
CN203608343U (zh) 音乐可视化音响
Hullfish et al. Color correction for video: using desktop tools to perfect your image
CN107786865A (zh) 一种视频帧的处理方法和装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: WUXI VIMICRO MICROELECTRONICS CO., LTD.

Free format text: FORMER OWNER: BEIJING ZHONGXING MICROELECTRONICS CO., LTD.

Effective date: 20110526

C41 Transfer of patent application or patent right or utility model
COR Change of bibliographic data

Free format text: CORRECT: ADDRESS; FROM: 100083 15/F, SHINING BUILDING, NO. 35, XUEYUAN ROAD, HAIDIAN DISTRICT, BEIJING TO: 214028 610, NATIONAL INTEGRATED CIRCUIT DESIGN PARK (CHUANGYUAN BUILDING), NO. 21-1, CHANGJIANG ROAD, WUXI NEW DISTRICT, JIANGSU PROVINCE, CHINA

TA01 Transfer of patent application right

Effective date of registration: 20110526

Address after: 214028 national integrated circuit design Park, 21-1 Changjiang Road, New District, Jiangsu, Wuxi, China, 610

Applicant after: Wuxi Vimicro Co., Ltd.

Address before: 100083, Haidian District, Xueyuan Road, Beijing No. 35, Nanjing Ning building, 15 Floor

Applicant before: Beijing Vimicro Corporation

C14 Grant of patent or utility model
GR01 Patent grant
CP03 Change of name, title or address
CP03 Change of name, title or address

Address after: 214135 Taihu International Science Park Sensor Network University Science Park 530 Building A1001, No. 18 Qingyuan Road, Wuxi City, Jiangsu Province

Patentee after: WUXI ZHONGGAN MICROELECTRONIC CO., LTD.

Address before: 214028 National Integrated Circuit Design Park (Chuangyuan Building) 610, 21-1 Changjiang Road, New District, Wuxi City, Jiangsu Province

Patentee before: Wuxi Vimicro Co., Ltd.

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20121017

Termination date: 20191203