显示图像的方法、装置、电子设备和计算机可读介质
技术领域
本公开的实施例涉及计算机技术领域,具体涉及显示图像的方法、装置、电子设备和计算机可读介质。
背景技术
视频包含了音频信息和图像信息等多种信息,可以为用户提供生动形象的视觉体验。实际中,视频中的音频信息和图像信息之间的关系不够明显,用户不易知晓音频信息和图像信息之间的关系,降低了用户获取视频中信息的有效性。
发明内容
本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了显示图像的方法、装置、电子设备和计算机可读介质,来解决以上背景技术部分提到的技术问题。
第一方面,本公开的一些实施例提供了一种显示图像的方法,该方法包括:从待处理视频中提取音频信息和待处理图像,上述音频信息包括至少一个发音信息,上述待处理图像包括与上述至少一个发音信息中发音信息对应的对象图像;建立上述音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系;设置对应上述待处理图像包含的每个目标对象图像的目标图像,上述目标图像为对上述目标对象图像进行图像处理后得到的图像;响应于上述音频信息中的目标发音信息被触发,在上述待处理视频中显示对应上述目标发音信息的目标图像。
第二方面,本公开的一些实施例提供了一种显示图像的装置,该装置包括:信息提取单元,被配置成从待处理视频中提取音频信息和待处理图像,上述音频信息包括至少一个发音信息,上述待处理图像包括与上述至少一个发音信息中发音信息对应的对象图像;关系建立单元,被配置成建立上述音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系;目标对象设置单元,被配置成设置对应上述待处理图像包含的每个目标对象图像的目标图像,上述目标图像为对上述目标对象图像进行图像处理后得到的图像;图像显示单元,响应于上述音频信息中的目标发音信息被触发,被配置成在上述待处理视频中显示对应上述目标发音信息的目标图像。
第三方面,本公开的一些实施例提供了一种电子设备,包括:一个或多个处理器;存储器,其上存储有一个或多个程序,当上述一个或多个程序被上述一个或多个处理器执行时,使得上述一个或多个处理器执行上述第一方面的显示图像的方法。
第四方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现上述第一方面的显示图像的方法。
本公开的上述各个实施例中的一个实施例具有如下有益效果:首先从待处理视频中提取音频信息和待处理图像,然后建立音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系,明确了信息的传递关系。之后,设置对应上述待处理图像包含的每个目标对象图像的目标图像,有利于加深用户观看视频的体验。最后,在音频信息中的目标发音信息被触发时,在上述待处理视频中显示对应上述目标发音信息的目标图像。可以使得用户明确目标发音信息和目标对象图像之间的信息传递关系,增强了视觉效果,有利于提高用户获取待处理视频中信息的有效性。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,元件和元素不一定按照比例绘制。
图1是本公开的一些实施例的显示图像的方法的应用场景的示意图;
图2是根据本公开的显示图像的方法的一些实施例的流程图;
图3是根据本公开的显示图像的方法的另一些实施例的流程图;
图4是根据本公开的显示图像的方法的又一些实施例的流程图;
图5是根据本公开的显示图像的装置的一些实施例的结构示意图;
图6是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例。相反,提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1是本公开的一些实施例的显示图像的方法的一个应用场景的示意图。
在图1的应用场景中,电子设备101从待处理视频中提取音频信息和待处理图像。其中,待处理图像包括两个人,音频信息为第一个人对第二个人发出的语音信息。电子设备101可以从音频信息中查询到目标发音信息102,以及对应目标发音信息102的目标对象图像103。其中,目标发音信息102可以是“看电影”、“逛街”等。目标对象图像103可以为第二个人的耳朵图像。然后,电子设备101可以建立目标发音信息102和目标对象图像103对应关系,该对应关系可以用于表示“看电影”、“逛街”作用于第二个人的耳朵。为了增加用户观看待处理视频时的视觉效果,电子设备101可以设置目标对象图像103的目标图像104。目标图像104可以是一对兔子耳朵,兔子耳朵可以夸张地表示第二个人在听取第一个人的语音信息,从而加深用户的视觉印象。当目标发音信息102在待处理视频中播放(即被触发)时,电子设备101可以显示目标图像104。
应该理解,图1中的电子设备101的数目仅仅是示意性的。根据实现需要,可以具有任意数目的电子设备101。
继续参考图2,图2示出了根据本公开的显示图像的方法的一些实施例的流程200。该显示图像的方法,包括以下步骤:
步骤201,从待处理视频中提取音频信息和待处理图像。
在一些实施例中,显示图像的方法的执行主体(例如图1所示的电子设备101)可以通过有线连接方式或者无线连接方式从待处理视频中提取音频信息和待处理图像。需要指出的是,上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。
执行主体可以首先获取待处理视频。其中,待处理视频可以是包含脸部图像的实时视频,也可以是包含脸部图像的非实时视频。脸部图像可以是人脸部图像、动物脸部图像、雕像脸部图像等。执行主体可以提取待处理视频中的音频信息和待处理图像。上述音频信息可以包括至少一个发音信息。发音信息可以是各种音频,例如,发音信息可以是人的语音音频、鸟叫音频、汽车发动机音频、环境噪音等。上述待处理图像可以包括与上述至少一个发音信息中发音信息对应的对象图像。执行主体可以对待处理图像进行图像识别,首先识别出待处理图像中人、动物或雕像的头部图像,然后再具体识别出头部图像包含的各个部分(例如可以是眼睛、鼻子、嘴巴等)。发音信息可以是多种多样的,有些发音信息可以有对象图像,有些发音信息可以没有对象图像。例如,发音信息为第一个人向第二个人发出的语音,则对象图像可以是第二个人的耳朵。发音信息为环境噪音,则可能没有对象图像。
步骤202,建立上述音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系。
由上述描述可知,有些发音信息可以有对应的对象图像。为了便于分析,执行主体可以将存在对象图像的发音信息设置为目标发音信息,并将该对象图像设置为对应目标发音信息的目标对象图像。之后,执行主体可以建立目标发音信息和目标对象图像之间的对应关系。需要说明的是,一个目标发音信息可以有多个目标对象图像。例如,待处理视频为学生上课视频,一个老师讲课,多个学生听课。对应的,目标发音信息可以为老师的语音,目标对象图像可以为每个学生的耳朵图像。多个目标发音信息也可以有一个目标对象图像。例如,多个学生同时背课文,一个老师听。对应的,目标发音信息为每个学生的语音,目标对象图像可以是老师的耳朵图像。还可以是多个目标发音信息有多个目标对象图像的情况。例如,多个人同时合唱一首歌曲,多个听众听歌。对应的,目标发音信息为每个人的唱歌语音,目标对象图像是每个听众的耳朵图像。如此,明确了信息的传递关系,有利于提高用户获取信息的效率。
步骤203,设置对应上述待处理图像包含的每个目标对象图像的目标图像。
为了加深用户观看视频的体验,执行主体可以为每个目标对象图像设置目标图像。其中,上述目标图像可以为对上述目标对象图像进行图像处理后得到的图像。例如,目标图像可以是目标对象图像的放大图像、形变图像等。目标图像还可以是对应目标对象图像的替代图像。如图1中,通过“兔子耳朵”来表征第二个人的“耳朵”。此外,目标图像还可以是增加其他特效(例如火车鸣笛、闪动的星星等)的图像。
步骤204,响应于上述音频信息中的目标发音信息被触发,在上述待处理视频中显示对应上述目标发音信息的目标图像。
当音频信息中的目标发音信息被触发(如播放目标发音信息)时,执行主体可以在待处理视频中显示对应目标发音信息的目标图像。如此,可以使得用户明确目标发音信息和目标对象图像之间的信息传递关系,增强了视觉效果,有利于提高用户获取待处理视频中信息的准确性和有效性。
本公开的一些实施例公开的显示图像的方法,首先从待处理视频中提取音频信息和待处理图像,然后建立音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系,明确了信息的传递关系。之后,设置对应上述待处理图像包含的每个目标对象图像的目标图像,有利于加深用户观看视频的体验。最后,在音频信息中的目标发音信息被触发时,在上述待处理视频中显示对应上述目标发音信息的目标图像。可以使得用户明确目标发音信息和目标对象图像之间的信息传递关系,增强了视觉效果,有利于提高用户获取待处理视频中信息的有效性。
继续参考图3,图3示出了根据本公开的显示图像的方法的一些实施例的流程300。该显示图像的方法,包括以下步骤:
步骤301,从待处理视频中提取音频信息和待处理图像。
步骤301的内容与步骤201的内容相同,此处不再一一赘述。
在一些实施例的一些可选的实现方式中,上述从待处理视频中提取音频信息和待处理图像,可以包括以下步骤:
第一步,识别上述待处理图像中的至少一个对象内容。
执行主体可以通过多种图像识别方法识别待处理图像中的至少一个对象内容。其中,上述对象内容包括以下至少一项:脸部图像、嘴部图像、耳朵图像。
第二步,对于上述至少一个对象内容中的对象内容,为该对象内容设置轮廓线,得到对象图像。
为了能够准确显示对象内容,执行主体可以为每个对象内容设置轮廓线。上述轮廓线用于标识对象内容的边界。即,对象图像就是为对象内容增加轮廓线后得到的图像。
步骤302,对于上述音频信息包含的每个发音信息,基于时间戳确定上述发音信息的触发时间。
通常,上述待处理视频可以包括时间戳,时间戳可以用于标记待处理视频的播放时间,也可以用于标记音频信息和待处理图像之间的对应关系。音频信息包含的发音信息通常发生在对应的时刻。因此,执行主体可以根据时间戳确定发音信息的触发时间。其中,触发时间可以用于表征发音信息播放的时间。例如,发音信息的触发时间对应的时间戳为1分20秒,则该发音信息在1分20秒时被播放。
步骤303,响应于存在上述触发时间之后的设定时间段内发生形变的对象图像,将上述发音信息标记为目标发音信息,将上述对象图像标记为目标对象图像。
为了建立发音信息与对象图像的对应关系,执行主体可以查询发音信息和对象图像在时间上的相关性。通常,发音信息播放后,与该发音信息对应的对象图像会有相应的变化。例如,第一个人讲了一个笑话,第二个人听到笑话后大笑,则目标发音信息就为笑话的音频,目标对象图像可以是第二个人的嘴部图像和耳部图像。其中,虽然耳部图像没有明显的形变,但音频是先传入耳朵,然后经过大脑理解后才控制嘴部发生形变的。因此,耳部图像也可以认为是目标对象图像。
步骤304,建立上述目标发音信息与目标对象图像之间的对应关系。
确定了目标发音信息和目标对象图像后,执行主体可以建立目标发音信息和目标对象图像之间的对应关系。例如,当目标发音信息播放了设定时间(例如可以是2秒)后,可以显示目标对象图像。
步骤305,设置对应上述待处理图像包含的每个目标对象图像的目标图像。
步骤306,响应于上述音频信息中的目标发音信息被触发,在上述待处理视频中显示对应上述目标发音信息的目标图像。
步骤305至306的内容与步骤203至204的内容相同,此处不再一一赘述。
图3对应的实施例,通过待处理视频的时间戳确定了对应目标发音信息的目标对象图像。由此建立了目标发音信息和目标对象图像之间的对应关系,提高了目标发音信息被触发时,显示目标图像的准确性。
继续参考图4,图4示出了根据本公开的显示图像的方法的一些实施例的流程400。该显示图像的方法,包括以下步骤:
步骤401,从待处理视频中提取音频信息和待处理图像。
步骤402,建立上述音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系。
步骤401至402与步骤201至202的内容相同,此处不再一一赘述。
步骤403,按照预设的放大倍数序列中的每个放大倍数对上述目标对象图像进行放大,得到目标图像序列。
执行主体可以对目标对象图像进行放大,得到对应目标对象图像的目标图像。在播放目标音频信息时,用户看到的是目标对象图像被放大后的目标图像。如此,提高了用户观看待处理视频时获取信息的准确性和有效性。具体的,执行主体可以按照预设的放大倍数序列中的每个放大倍数对上述目标对象图像进行放大,得到目标图像序列。其中,上述放大倍数序列内的放大倍数可以按照次序递增。进而,上述放大倍数序列中每个放大倍数可以与发音信息的音量幅值对应。
步骤404,确定上述目标发音信息的目标音量幅值,基于上述目标音量幅值从上述目标图像序列中选择对应的目标图像进行显示。
由上述描述可知,目标图像序列包含了按照预设的放大倍数序列中的每个放大倍数对目标对象图像放大后的目标图像。基于此,执行主体可以建立放大倍数序列中每个放大倍数与发音信息的音量幅值的对应关系。执行主体可以确定目标发音信息的目标音量幅值,进而从上述目标图像序列中选择对应目标音量幅值的目标图像进行显示。如此,通过音量幅值建立了目标发音信息与目标对象的对应关系。当目标音量幅值较小时,显示的目标图像也较小;当目标音量幅值较大时,显示的目标图像也较大。即,对于不同的音量幅值,目标图像的大小不同,用户观看目标图像的视觉体验也不同。如此,可以形象地展示目标发音信息和目标图像的对应关系,有利于提高用户观看待处理视频时获取信息的准确性和有效性。
在一些实施例的一些可选的实现方式中,上述基于上述目标音量幅值从上述目标图像序列中选择对应的目标图像进行显示,可以包括以下步骤:
第一步,响应于上述目标音量幅值大于设定音量阈值,为上述目标图像设置图像轴线和旋转角度。
当目标音量幅值大于设定音量阈值时,可以认为目标音量幅值已经超过了普通音量幅值给用户的听觉效果。此时,执行主体可以为目标图像设置图像轴线和旋转角度。其中,图像轴线可以是贯穿目标图像的一条线。旋转角度可以是任意的角度。通常,旋转角度的取值可以在10°到30°之间。上述旋转角度可以基于上述图像轴线设置。例如,图像轴线可以是旋转角度的一条边,可以是旋转角度的角平分线等,具体根据实际需要而定。
第二步,基于上述目标图像生成第一图像和第二图像。
执行主体可以根据目标图像生成第一图像和第二图像。其中,上述第一图像和第二图像可以与上述目标图像相同。上述第一图像包含的第一图像轴线和第二图像包含的第二图像轴线可以分别与上述目标图像的图像轴线对应。
第三步,设置上述第一图像的第一图像轴线与上述旋转角度的一条边重合,上述第二图像的第二图像轴线与上述旋转角度的另一条边重合。
执行主体可以将第一图像轴线和第二图像轴线分别于旋转角度的两个边重合。如此,可以确定第一图像和第二图像的位置关系和角度关系。进一步的,第一图像和第二图像可以角重合设置。其中,角重合设置可以是旋转角度的两条边重合时,第一图像和第二图像也重合。
第四步,按照设定频率交替显示上述第一图像或第二图像。
执行主体可以设置一个设定频率,使得第一图像和第二图像交替显示。如此,当目标音量幅值大于设定音量幅值时,可以使得目标图像显示出动态效果。例如,目标发音信息为一个笑话,目标图像为耳朵图像。当目标发音信息的目标音量幅值大于设定音量幅值时,耳朵图像交替显示出现振动效果。如此,可以加深用户体验,提高用户获取信息的准确性和有效性。
在一些实施例的一些可选的实现方式中,上述响应于上述音频信息中的目标发音信息被触发,在上述待处理视频中显示对应上述目标发音信息的目标图像,可以包括以下步骤:
第一步,获取对应上述目标发音信息的目标对象实时图像。
实际中,待处理对象中的对象图像可能随时间发生变化。为了能够实时展示对象图像。执行主体可以获取目标发音信息的目标对象实时图像。执行主体可以间隔设定时间采集一张目标对象实时图像。即,上述目标对象实时图像可以为上述目标发音信息被触发的时刻后、设定时间段内的对象图像。目标对象实时图像直观上可以理解为对设定时间段内的对象图像实时放大后的图像。相比较而言,图3中的目标图像则为相对静止的图像。
第二步,根据上述目标发音信息的目标音量幅值动态生成上述目标对象实时图像的实时目标图像。
得到目标对象实时图像后,执行主体可以根据目标发音信息的目标音量幅值动态生成上述目标对象实时图像的实时目标图像。如此,使得用户可以获取到实时目标图像,提高了用户获取信息的时效性和有效性。
在一些实施例的一些可选的实现方式中,上述响应于上述音频信息中的目标发音信息被触发,在上述待处理视频中显示对应上述目标发音信息的目标图像,可以包括以下步骤:
第一步,确定上述目标图像对应的目标对象图像与上述待处理图像的连接区域。
目标图像为目标对象图像的放大图。执行主体可以确定目标图像对应的目标对象图像与上述待处理图像的连接区域。例如,目标对象图像为耳朵图像,则连接区域可以是耳朵图像与待处理图像中头部图像之间设定大小的图像区域。
第二步,基于上述待处理图像和目标图像对连接区域进行过渡处理。
执行主体可以通过待处理图像和目标图像对连接区域进行过渡处理。上述过渡处理包括以下至少一项:色彩过渡、线条过渡等。如此,可以使得目标图像与待处理图像组合的更加自然,有利于提高待处理图像的显示效果,加深用户的观看体验,进而提高用户获取信息的准确性和有效性。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了一种显示图像的装置的一些实施例,这些装置实施例与图2所示的那些方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,一些实施例的显示图像的装置500包括:信息提取单元501、关系建立单元502、目标对象设置单元503和图像显示单元504。其中,信息提取单元501,被配置成从待处理视频中提取音频信息和待处理图像,上述音频信息包括至少一个发音信息,上述待处理图像包括与上述至少一个发音信息中发音信息对应的对象图像;关系建立单元502,被配置成建立上述音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系;目标对象设置单元503,被配置成设置对应上述待处理图像包含的每个目标对象图像的目标图像,上述目标图像为对上述目标对象图像进行图像处理后得到的图像;图像显示单元504,响应于上述音频信息中的目标发音信息被触发,被配置成在上述待处理视频中显示对应上述目标发音信息的目标图像。
在一些实施例的可选实现方式中,上述信息提取单元501可以包括:对象识别子单元(图中未示出)和对象图像获取子单元(图中未示出)。其中,对象识别子单元,被配置成识别上述待处理图像中的至少一个对象内容,上述对象内容包括以下至少一项:脸部图像、嘴部图像、耳朵图像;对象图像获取子单元,对于上述至少一个对象内容中的对象内容,被配置成为该对象内容设置轮廓线,得到对象图像。
在一些实施例的可选实现方式中,上述待处理视频包括时间戳,以及,上述关系建立单元502可以包括:触发时间确定子单元(图中未示出)、标记子单元(图中未示出)和关系建立子单元(图中未示出)。其中,触发时间确定子单元,对于上述音频信息包含的每个发音信息,被配置成基于上述时间戳确定上述发音信息的触发时间;标记子单元,响应于存在上述触发时间之后的设定时间段内发生形变的对象图像,被配置成将上述发音信息标记为目标发音信息,将上述对象图像标记为目标对象图像;关系建立子单元,被配置成建立上述目标发音信息与目标对象图像之间的对应关系。
在一些实施例的可选实现方式中,上述目标对象设置单元503可以包括:目标对象设置子单元(图中未示出),被配置成按照预设的放大倍数序列中的每个放大倍数对上述目标对象图像进行放大,得到目标图像序列,其中,上述放大倍数序列内的放大倍数按照次序递增。
在一些实施例的可选实现方式中,上述放大倍数序列中每个放大倍数与发音信息的音量幅值对应,以及,上述图像显示单元504可以包括:第一图像显示子单元(图中未示出),被配置成确定上述目标发音信息的目标音量幅值,基于上述目标音量幅值从上述目标图像序列中选择对应的目标图像进行显示。
在一些实施例的可选实现方式中,上述第一图像显示子单元可以包括:设置模块(图中未示出)、图像生成模块(图中未示出)、位置设置模块(图中未示出)和显示模块(图中未示出)。其中,设置模块,响应于上述目标音量幅值大于设定音量阈值,被配置成为上述目标图像设置图像轴线和旋转角度;图像生成模块,被配置成基于上述目标图像生成第一图像和第二图像,上述第一图像和第二图像与上述目标图像相同,上述第一图像包含的第一图像轴线和第二图像包含的第二图像轴线分别与上述目标图像的图像轴线对应;位置设置模块,被配置成设置上述第一图像的第一图像轴线与上述旋转角度的一条边重合,上述第二图像的第二图像轴线与上述旋转角度的另一条边重合;显示模块,被配置成按照设定频率交替显示上述第一图像或第二图像。
在一些实施例的可选实现方式中,上述图像显示单元503可以包括:图像获取子单元(图中未示出)和第二图像显示子单元(图中未示出)。其中,图像获取子单元,被配置成获取对应上述目标发音信息的目标对象实时图像,上述目标对象实时图像为上述目标发音信息被触发的时刻后、设定时间段内的对象图像;第二图像显示子单元,被配置成根据上述目标发音信息的目标音量幅值动态生成上述目标对象实时图像的实时目标图像。
在一些实施例的可选实现方式中,上述图像显示单元503可以包括:连接区域确定子单元(图中未示出)和过度处理子单元(图中未示出)。其中,连接区域确定子单元,被配置成确定上述目标图像对应的目标对象图像与上述待处理图像的连接区域;过度处理子单元,被配置成基于上述待处理图像和目标图像对连接区域进行过渡处理,上述过渡处理包括以下至少一项:色彩过渡、线条过渡。
可以理解的是,该装置500中记载的诸单元与参考图2描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置500及其中包含的单元,在此不再赘述。
如图6所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的一些实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的一些实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是,本公开的一些实施例上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:从待处理视频中提取音频信息和待处理图像,上述音频信息包括至少一个发音信息,上述待处理图像包括与上述至少一个发音信息中发音信息对应的对象图像;建立上述音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系;设置对应上述待处理图像包含的每个目标对象图像的目标图像,上述目标图像为对上述目标对象图像进行图像处理后得到的图像;响应于上述音频信息中的目标发音信息被触发,在上述待处理视频中显示对应上述目标发音信息的目标图像。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括信息提取单元、关系建立单元、目标对象设置单元和图像显示单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,图像显示单元还可以被描述为“用于显示目标图像的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上***(SOC)、复杂可编程逻辑设备(CPLD)等等。
根据本公开的一个或多个实施例,提供了一种显示图像的方法,包括:从待处理视频中提取音频信息和待处理图像,上述音频信息包括至少一个发音信息,上述待处理图像包括与上述至少一个发音信息中发音信息对应的对象图像;建立上述音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系;设置对应上述待处理图像包含的每个目标对象图像的目标图像,上述目标图像为对上述目标对象图像进行图像处理后得到的图像;响应于上述音频信息中的目标发音信息被触发,在上述待处理视频中显示对应上述目标发音信息的目标图像。
根据本公开的一个或多个实施例,上述从待处理视频中提取音频信息和待处理图像,包括:识别上述待处理图像中的至少一个对象内容,上述对象内容包括以下至少一项:脸部图像、嘴部图像、耳朵图像;对于上述至少一个对象内容中的对象内容,为该对象内容设置轮廓线,得到对象图像。
根据本公开的一个或多个实施例,上述待处理视频包括时间戳,以及,上述建立上述音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系,包括:对于上述音频信息包含的每个发音信息,基于上述时间戳确定上述发音信息的触发时间;响应于存在上述触发时间之后的设定时间段内发生形变的对象图像,将上述发音信息标记为目标发音信息,将上述对象图像标记为目标对象图像;建立上述目标发音信息与目标对象图像之间的对应关系。
根据本公开的一个或多个实施例,上述设置对应上述待处理图像包含的每个目标对象图像的目标图像,包括:按照预设的放大倍数序列中的每个放大倍数对上述目标对象图像进行放大,得到目标图像序列,其中,上述放大倍数序列内的放大倍数按照次序递增。
根据本公开的一个或多个实施例,上述放大倍数序列中每个放大倍数与发音信息的音量幅值对应,以及,上述响应于上述音频信息中的目标发音信息被触发,在上述待处理视频中显示对应上述目标发音信息的目标图像,包括:确定上述目标发音信息的目标音量幅值,基于上述目标音量幅值从上述目标图像序列中选择对应的目标图像进行显示。
根据本公开的一个或多个实施例,上述基于上述目标音量幅值从上述目标图像序列中选择对应的目标图像进行显示,包括:响应于上述目标音量幅值大于设定音量阈值,为上述目标图像设置图像轴线和旋转角度;基于上述目标图像生成第一图像和第二图像,上述第一图像和第二图像与上述目标图像相同,上述第一图像包含的第一图像轴线和第二图像包含的第二图像轴线分别与上述目标图像的图像轴线对应;设置上述第一图像的第一图像轴线与上述旋转角度的一条边重合,上述第二图像的第二图像轴线与上述旋转角度的另一条边重合;按照设定频率交替显示上述第一图像或第二图像。
根据本公开的一个或多个实施例,上述响应于上述音频信息中的目标发音信息被触发,在上述待处理视频中显示对应上述目标发音信息的目标图像,包括:获取对应上述目标发音信息的目标对象实时图像,上述目标对象实时图像为上述目标发音信息被触发的时刻后、设定时间段内的对象图像;根据上述目标发音信息的目标音量幅值动态生成上述目标对象实时图像的实时目标图像。
根据本公开的一个或多个实施例,上述响应于上述音频信息中的目标发音信息被触发,在上述待处理视频中显示对应上述目标发音信息的目标图像,包括:确定上述目标图像对应的目标对象图像与上述待处理图像的连接区域;基于上述待处理图像和目标图像对连接区域进行过渡处理,上述过渡处理包括以下至少一项:色彩过渡、线条过渡。
根据本公开的一个或多个实施例,提供了一种显示图像的装置,包括:信息提取单元,被配置成从待处理视频中提取音频信息和待处理图像,上述音频信息包括至少一个发音信息,上述待处理图像包括与上述至少一个发音信息中发音信息对应的对象图像;关系建立单元,被配置成建立上述音频信息包含的目标发音信息与待处理图像包含的目标对象图像的对应关系;目标对象设置单元,被配置成设置对应上述待处理图像包含的每个目标对象图像的目标图像,上述目标图像为对上述目标对象图像进行图像处理后得到的图像;图像显示单元,响应于上述音频信息中的目标发音信息被触发,被配置成在上述待处理视频中显示对应上述目标发音信息的目标图像。
根据本公开的一个或多个实施例,上述信息提取单元包括:对象识别子单元,被配置成识别上述待处理图像中的至少一个对象内容,上述对象内容包括以下至少一项:脸部图像、嘴部图像、耳朵图像;对象图像获取子单元,对于上述至少一个对象内容中的对象内容,被配置成为该对象内容设置轮廓线,得到对象图像。
根据本公开的一个或多个实施例,上述待处理视频包括时间戳,以及,上述关系建立单元包括:触发时间确定子单元,对于上述音频信息包含的每个发音信息,被配置成基于上述时间戳确定上述发音信息的触发时间;标记子单元,响应于存在上述触发时间之后的设定时间段内发生形变的对象图像,被配置成将上述发音信息标记为目标发音信息,将上述对象图像标记为目标对象图像;关系建立子单元,被配置成建立上述目标发音信息与目标对象图像之间的对应关系。
根据本公开的一个或多个实施例,上述目标对象设置单元包括:目标对象设置子单元,被配置成按照预设的放大倍数序列中的每个放大倍数对上述目标对象图像进行放大,得到目标图像序列,其中,上述放大倍数序列内的放大倍数按照次序递增。
根据本公开的一个或多个实施例,上述放大倍数序列中每个放大倍数与发音信息的音量幅值对应,以及,上述图像显示单元包括:第一图像显示子单元,被配置成确定上述目标发音信息的目标音量幅值,基于上述目标音量幅值从上述目标图像序列中选择对应的目标图像进行显示。
根据本公开的一个或多个实施例,上述第一图像显示子单元包括:设置模块,响应于上述目标音量幅值大于设定音量阈值,被配置成为上述目标图像设置图像轴线和旋转角度;图像生成模块,被配置成基于上述目标图像生成第一图像和第二图像,上述第一图像和第二图像与上述目标图像相同,上述第一图像包含的第一图像轴线和第二图像包含的第二图像轴线分别与上述目标图像的图像轴线对应;位置设置模块,被配置成设置上述第一图像的第一图像轴线与上述旋转角度的一条边重合,上述第二图像的第二图像轴线与上述旋转角度的另一条边重合;显示模块,被配置成按照设定频率交替显示上述第一图像或第二图像。
根据本公开的一个或多个实施例,上述图像显示单元包括:图像获取子单元,被配置成获取对应上述目标发音信息的目标对象实时图像,上述目标对象实时图像为上述目标发音信息被触发的时刻后、设定时间段内的对象图像;第二图像显示子单元,被配置成根据上述目标发音信息的目标音量幅值动态生成上述目标对象实时图像的实时目标图像。
根据本公开的一个或多个实施例,上述图像显示单元包括:连接区域确定子单元,被配置成确定上述目标图像对应的目标对象图像与上述待处理图像的连接区域;过度处理子单元,被配置成基于上述待处理图像和目标图像对连接区域进行过渡处理,上述过渡处理包括以下至少一项:色彩过渡、线条过渡。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。