CN107437272B - 基于增强现实的互动娱乐方法、装置及终端设备 - Google Patents
基于增强现实的互动娱乐方法、装置及终端设备 Download PDFInfo
- Publication number
- CN107437272B CN107437272B CN201710774285.8A CN201710774285A CN107437272B CN 107437272 B CN107437272 B CN 107437272B CN 201710774285 A CN201710774285 A CN 201710774285A CN 107437272 B CN107437272 B CN 107437272B
- Authority
- CN
- China
- Prior art keywords
- augmented reality
- model
- face
- video
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
Landscapes
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明适用于增强现实技术领域,提供了一种基于增强现实的互动娱乐方法、装置及终端设备,所述方法包括:实时获取视频中人脸的五官位置信息;在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息;基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型;输出叠加有所述增强现实模型的目标视频。通过上述方法能够实现实时互动,提高娱乐效果。
Description
技术领域
本发明属于增强现实技术领域,尤其涉及一种基于增强现实的互动娱乐方法、装置及终端设备。
背景技术
增强现实(Augmented Reality,简称AR)是近年来国外众多知名大学和研究机构的研究热点之一。AR技术是近年来发展起来的新兴技术,其核心是将虚拟内容和真实存在的内容进行实时融合,形成虚拟、现实之间的互动,从而创造出全新的体验。目前增强现实(AR)技术应用到各个行业的例子越来越多。结合AR技术,可以更全面,生动地展现目标的特性。
传统的播音主持人物形象呆板,趣味性不够,进而出现了使用虚拟动画偶像代替人进行主持播音,以提高趣味性。然而,使用虚拟动画进行播音主持,主持播放的内容都是预先设置的,灵活性差,无法进行互动,导致展现效果不生动,互动娱乐效果不佳。
发明内容
有鉴于此,本发明实施例提供了一种基于增强现实的互动娱乐方法、装置及终端设备,以解决现有技术中使用虚拟动画进行播音娱乐,播放的内容都是预先设置的,灵活性差,无法进行互动,导致展现效果不生动,互动娱乐效果不佳的问题。
本发明第一方面提供了一种基于增强现实的互动娱乐方法,所述互动娱乐方法包括:
实时获取视频中人脸的五官位置信息;
在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息;
基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型;
输出叠加有所述增强现实模型的目标视频。
本发明第二方面提供了一种基于增强现实的互动娱乐装置,所述互动娱乐装置包括:
人脸信息获取单元,用于实时获取视频中人脸的五官位置信息;
模型选取计算单元,用于在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息;
模型叠加单元,用于基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型;
视频输出单元,用于输出叠加有所述增强现实模型的目标视频。
本发明第三方面提供了一种终端设备,包括:存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上所述基于增强现实的互动娱乐方法的步骤。
本发明第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上所述基于增强现实的互动娱乐方法的步骤。
本发明实施例与现有技术相比存在的有益效果是:本发明实施例通过实时获取视频中人脸的五官位置信息,在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息,然后基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型,最后输出叠加有所述增强现实模型的目标视频,增加视频播放的趣味性,叠加在人脸上的增强现实模型与人脸的五官实时同步,使得播放内容可灵活调整,从而可实现实时互动,提高娱乐效果。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种基于增强现实的互动娱乐方法的实现流程图;
图2是本发明实施例提供的一种包括视频的声音音色转换的基于增强现实的互动娱乐方法的实现流程图;
图3是本发明实施例提供的一种基于增强现实的互动娱乐装置的结构框图;
图3.1是本发明实施例提供的另一种基于增强现实的互动娱乐装置的结构框图;
图4是本发明实施例提供的一种终端设备的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定***结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的***、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
为了说明本发明所述的技术方案,下面通过具体实施例来进行说明。
实施例一:
图1示出了本发明实施例提供的一种基于增强现实的互动娱乐方法的流程图,详述如下:
步骤S101,实时获取视频中人脸的五官位置信息。
其中,所述视频可以是用户正在观看的智能终端存储的本地视频,也可以是摄像设备实时采集的现场视频。
可选地,为准确获取视频中人脸的五官位置信息,所述步骤S101具体包括:
A1、实时获取视频中人脸的位置信息。
A2、定位每一帧视频中人脸的五官,确定所述人脸的五官位置信息。
具体地,对所述视频中视频数据进行人脸检测,获取视频中人脸的位置信息。在确定视频中人脸的位置信息后,获取每一帧视频中的人脸特征数据,将所述人脸特征数据进行图像处理,通过定位每一帧视频中人脸的五官,确定所述人脸的五官位置信息,提高准确性。需说明的是,现有的人脸检测算法比较多,可根据用户需求选择合适的人脸检测算法,在本发明实施例中不限定使用某一种人脸检测算法。
步骤S102,在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息。
其中,预先建立的模型库中有不同类型的增强现实模型,包括可覆盖全部人脸的全脸增强现实模型,例如卡头人物头像,还包括覆盖部分人脸的五官的局部增强现实模型,例如墨镜、胡须等。模型库中的模型可通过编号进行标识。所述增强现实模型的模型信息包括模型类型、模型中五官的大小信息、模型中五官的间距信息与模型的角度信息,所述人脸的五官位置信息包括人脸的五官间距信息与人脸的五官大小信息,还包括人脸的五官角度信息。
可选地,为提高效率,可自动选择与所述视频中的人脸合适的增强现实模型,所述步骤S103包括:
B1、获取所述视频中的语音信息。
B2、根据所述语音信息的声音特征选取与所述声音特征对应的增强现实模型。
B3、根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息。
具体地,不同人发出的语音信息一定存在不同的声音特征,例如不同人的音色都不相同,特别是男女的声音特征差别较大。在本发明实施例中,预先建立声音特征与模型库中的增强现实模型的对应关系,例如,女性声音特征对应偏女性的增强现实模型,男性声音特征对应偏男性的增强现实模型,反之亦然,可根据用户需求自行设定,在此不做限定。声音特征与增强现实模型一一对应。根据视频中语音信息的声音特征,选择与其一样或最接近的声音特征所对应的增强现实模型。其中,与视频中语音信息的声音特征最接近是指与视频中语音信息的声音特征的音色的差值在预设音色差值范围内。在选取增强现实模型后,根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息,例如,确定所述增强现实模型的模型中五官的间距信息与人脸的五官间距信息的间距差值,确定模型的角度信息与人脸的五官角度信息的角度差值,根据所述间距差值和角度差值计算所述增强现实模型在所述人脸上对应的添加位置信息。
在本发明实施例中,根据所述语音信息的声音特征选取与所述声音特征对应的增强现实模型,提高增强现实的效率,再根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息,所述添加位置信息可以是所述增强现实模型在所述人脸的坐标信息,以便提高将选取的增强现实模型添加至所述视频中的人脸上的准确性。
可选地,为了进一步提高互动娱乐效果,所述步骤S103具体包括:
C1、确定视频中的人脸数。
C2、若所述视频中的人脸数不小于1张,则在预先建立的模型库中为每一张人脸选取不同的增强现实模型。
C3、根据选取的增强现实模型的模型信息和对应的人脸的五官位置信息,分别计算选取的增强现实模型在对应的人脸上的添加位置信息。
在本发明实施例中,通过人脸检测算法,确定视频中人的人脸数,针对存在不止一张人脸的情况,按预设选取规则为每一张人脸选取不同的增强现实模型,再根据选取的增强现实模型的模型信息和对应的人脸的五官位置信息,分别计算选取的增强现实模型在对应的人脸上的添加位置信息,可进一步提高互动的娱乐效果。
步骤S103,基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型。
在本发明实施例中,视频中的人脸在说话,所述人脸的表情也在实时变化,因此,实时抓取人脸的五官的位置信息,根据所述人脸的五官位置信息调整所述增强现实模型,例如调整模型中五官的间距信息或模型的角度信息,以使得所述增强现实模型与所述人脸的表情变化同步,从而提高增强现实模型与人脸的契合度。进一步地,增强现实模型上设有模型特征点,与人脸的特征人脸特征数据对应,例如,增强现实模型上的模型特征点与人脸的五官一一对应,当人脸的五官位置发生变化,增强现实模型上与五官对应的模型特征点也同步发生变化,从而使得模型叠加更流畅、真实。
步骤S104,输出叠加有所述增强现实模型的目标视频。
在本发明实施例中,所述目标视频中包括叠加有所述增强现实模型的视频图像信息与所述视频中原始的声音音频信息。
本发明第一实施例中,通过实时获取视频中人脸的五官位置信息,例如,实时获取视频中人脸的位置信息,定位每一帧视频中人脸的五官,确定所述人脸的五官位置信息,在预先建立的模型库中选取增强现实模型,例如,获取所述视频中的语音信息,根据所述语音信息的声音特征选取与所述声音特征对应的增强现实模型,自动选取模型提高播放效率,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,若视频中的人脸是不少于1张,则在预先建立的模型库中为每一张人脸选取不同的增强现实模型,计算所述增强现实模型在所述人脸上对应的添加位置信息,然后基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型,最后输出叠加有所述增强现实模型的目标视频,增加视频播放的趣味性,叠加在人脸上的增强现实模型与人脸的五官实时同步,使得播放内容可灵活调整,从而可实现实时互动,提高娱乐效果。
实施例二:
图2示出了本发明实施例提供的另一种基于增强现实的互动娱乐方法的流程图,详述如下:
步骤S201,实时获取视频中人脸的五官位置信息。
步骤S202,在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息。
步骤S203,基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型。
本实施例中,步骤S201至步骤S203的具体步骤参见实施例一步骤S101至步骤S103,在此不再赘述。
步骤S204,实时将所述视频中语音信息的声音音色转换为与叠加至所述视频中人脸上的增强现实模型对应的预设声音音色。
具体地,在预先建立的模型库中,每一种增强现实模型都对应有一种预设声音音色,例如,唐老鸭头像的模型对应唐老鸭的嗓音,通过将视频中的原始的声音音色转换为预设声音音色,增加趣味性,提高娱乐效果。在本发明实施例中,用户可自行选择是否转换声音。
步骤S205,输出包括转换为与选取的增强现实模型对应的预设声音音色的语音信息以及叠加有所述增强现实模型的目标视频。
在本发明实施例中,所述目标视频中包括叠加有所述增强现实模型的视频图像,还包括与选取的增强现实模型对应的预设声音音色的语音信息。
本发明第二实施例中,通过实时获取视频中人脸的五官位置信息,在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息,然后基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型,同时,实时将所述视频中语音信息的声音音色转换为与叠加至所述视频中人脸上的增强现实模型对应的预设声音音色,最后输出包括转换为与选取的增强现实模型对应的预设声音音色的语音信息以及叠加有所述增强现实模型的目标视频,增加视频播放的趣味性,叠加在人脸上的增强现实模型与人脸的五官实时同步,唇音也同步,使得播放内容可灵活调整,从而可实现实时互动,提高娱乐效果。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
实施例三:
对应于上文实施例所述的基于增强现实的互动娱乐方法,图3示出了本发明实施例提供的一种基于增强现实的互动娱乐装置的结构框图,该装置可应用于智能终端,该智能终端可以包括经无线接入网RAN与一个或多个核心网进行通信的用户设备,该用户设备可以是移动电话(或称为“蜂窝”电话)、具有移动设备的计算机等。为了便于说明,仅示出了与本发明实施例相关的部分。
参照图3,该基于增强现实的互动娱乐装置包括:人脸信息获取单元31,模型选取计算单元32,模型叠加单元33,视频输出单元34,其中:
人脸信息获取单元31,用于实时获取视频中人脸的五官位置信息;
模型选取计算单元32,用于在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息;
模型叠加单元33,用于基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型;
视频输出单元34,用于输出叠加有所述增强现实模型的目标视频。
可选地,所述人脸信息获取单元31具体包括:
人脸位置获取模块,用于实时获取视频中人脸的位置信息;
五官定位模块,用于定位每一帧视频中人脸的五官,确定所述人脸的五官位置信息。
可选地,所述模型选取计算单元32具体包括:
语音信息获取模块,用于获取所述视频中的语音信息;
模型选取模块,用于根据所述语音信息的声音特征选取与所述声音特征对应的增强现实模型;
位置计算模块,用于根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息。
可选地,所述模型选取计算单元32具体包括:
人脸数确定模块,用于确定视频中的人脸数;
所述模型选取模块,还用于若所述视频中的人脸数不小于1张,则在预先建立的模型库中为每一张人脸选取不同的增强现实模型;
所述位置计算模块,还用于根据选取的增强现实模型的模型信息和对应的人脸的五官位置信息,分别计算选取的增强现实模型在对应的人脸上的添加位置信息。
可选地,如图3.1所示,所述互动娱乐装置还包括:
音色转换单元35,用于实时将所述视频中语音信息的声音音色转换为与叠加至所述视频中人脸上的增强现实模型对应的预设声音音色。
在本法实施例中,所述视频输出单元34,还用于输出包括转换为与选取的增强现实模型对应的预设声音音色的语音信息与叠加有所述增强现实模型的目标视频。
本发明第三实施例中,通过实时获取视频中人脸的五官位置信息,在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息,然后基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型,最后输出叠加有所述增强现实模型的目标视频,增加视频播放的趣味性,叠加在人脸上的增强现实模型与人脸的五官实时同步,使得播放内容可灵活调整。进一步地,实时将所述视频中语音信息的声音音色转换为与叠加至所述视频中人脸上的增强现实模型对应的预设声音音色,输出包括转换为与选取的增强现实模型对应的预设声音音色的语音信息以及叠加有所述增强现实模型的目标视频,增加视频播放的趣味性,叠加在人脸上的增强现实模型与人脸的五官实时同步,唇音也同步,使得播放内容可灵活调整,从而可实现实时互动,提高娱乐效果。
实施例四:
图4是本发明一实施例提供的终端设备的示意图。如图4所示,该实施例的终端设备4包括:处理器40、存储器41以及存储在所述存储器41中并可在所述处理器40上运行的计算机程序42,例如基于增强现实的互动娱乐程序。所述处理器40执行所述计算机程序42时实现上述各个基于增强现实的互动娱乐方法实施例中的步骤,例如图1所示的步骤101至步骤104,图2所示的步骤201至步骤205。或者,所述处理器40执行所述计算机程序42时实现上述各装置实施例中各模块/单元的功能,例如图3所示单元31至34的功能。
示例性的,所述计算机程序42可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器41中,并由所述处理器40执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序42在所述终端设备4中的执行过程。例如,所述计算机程序42可以被分割成人脸信息获取单元、模型选取计算单元、模型叠加单元、视频输出单元,各单元具体功能如下:
人脸信息获取单元,用于实时获取视频中人脸的五官位置信息;
模型选取计算单元,用于在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息;
模型叠加单元,用于基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型;
视频输出单元,用于输出叠加有所述增强现实模型的目标视频。
所述终端设备4可以是桌上型计算机、笔记本及掌上电脑等计算设备。所述终端设备4可包括,但不仅限于,处理器40、存储器41。本领域技术人员可以理解,图4仅仅是终端设备4的示例,并不构成对终端设备4的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器40可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器41可以是所述终端设备4的内部存储单元,例如终端设备4的硬盘或内存。所述存储器41也可以是所述终端设备4的外部存储设备,例如所述终端设备4上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器41还可以既包括所述终端设备4的内部存储单元也包括外部存储设备。所述存储器41用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器41还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的***实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括是电载波信号和电信信号。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (8)
1.一种基于增强现实的互动娱乐方法,其特征在于,所述互动娱乐方法包括:
实时获取视频中人脸的五官位置信息,所述人脸的五官位置信息包括人脸的五官间距信息与人脸的五官角度信息,所述视频是摄像设备实时采集的现场视频;
在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息;其中,所述预先建立的模型库中有不同类型的增强现实模型,包括可覆盖全部人脸的全脸增强现实模型和覆盖部分人脸五官的局部增强现实模型,所述增强现实模型的模型信息包括模型类型、模型中五官的间距信息与模型的角度信息;具体地,获取所述视频中的语音信息,根据所述语音信息的声音特征选取与所述声音特征对应的增强现实模型,具体选择与其一样或最接近的声音特征所对应的增强现实模型,其中,与所述视频中语音信息的声音特征最接近是指与视频中语音信息的声音特征的音色的差值在预设音色差值范围内;根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息;
基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型;具体地,实时抓取人脸的五官位置信息,根据所述人脸的五官位置信息调整所述增强现实模型中五官的间距信息或模型的角度信息,以使得所述增强现实模型与所述人脸的表情变化同步;
输出叠加有所述增强现实模型的目标视频。
2.如权利要求1所述的基于增强现实的互动娱乐方法,其特征在于,所述实时获取视频中人脸的五官位置信息,具体包括:
实时获取视频中人脸的位置信息;
定位每一帧视频中人脸的五官,确定所述人脸的五官位置信息。
3.如权利要求1所述的基于增强现实的互动娱乐方法,其特征在于,所述在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息,具体包括:
确定视频中的人脸数;
若所述视频中的人脸数不小于1张,则在预先建立的模型库中为每一张人脸选取不同的增强现实模型;
根据选取的增强现实模型的模型信息和对应的人脸的五官位置信息,分别计算选取的增强现实模型在对应的人脸上的添加位置信息。
4.如权利要求1至3任一项所述的基于增强现实的互动娱乐方法,其特征在于,所述互动娱乐方法还包括:
实时将所述视频中语音信息的声音音色转换为与叠加至所述视频中人脸上的增强现实模型对应的预设声音音色;
此时,所述输出叠加有所述增强现实模型的目标视频具体包括:
输出包括转换为与选取的增强现实模型对应的预设声音音色的语音信息与叠加有所述增强现实模型的目标视频。
5.一种基于增强现实的互动娱乐装置,其特征在于,所述互动娱乐装置包括:
人脸信息获取单元,用于实时获取视频中人脸的五官位置信息,所述人脸的五官位置信息包括人脸的五官间距信息与人脸的五官角度信息,所述视频是摄像设备实时采集的现场视频;
模型选取计算单元,用于在预先建立的模型库中选取增强现实模型,并根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息;其中,所述预先建立的模型库中有不同类型的增强现实模型,包括可覆盖全部人脸的全脸增强现实模型和覆盖部分人脸五官的局部增强现实模型,所述增强现实模型的模型信息包括模型类型、模型中五官的间距信息与模型的角度信息;所述模型选取计算单元具体包括:
语音信息获取模块,用于获取所述视频中的语音信息;
模型选取模块,用于根据所述语音信息的声音特征选取与所述声音特征对应的增强现实模型,具体选择与其一样或最接近的声音特征所对应的增强现实模型,其中,与所述视频中语音信息的声音特征最接近是指与视频中语音信息的声音特征的音色的差值在预设音色差值范围内;
位置计算模块,用于根据所述增强现实模型的模型信息和所述人脸的五官位置信息,计算所述增强现实模型在所述人脸上对应的添加位置信息;
模型叠加单元,用于基于所述添加位置信息,将选取的增强现实模型叠加至所述视频中的人脸上,并实时根据所述人脸的五官位置信息调整所述增强现实模型;具体地,实时抓取人脸的五官位置信息,根据所述人脸的五官位置信息调整所述增强现实模型中五官的间距信息或模型的角度信息,以使得所述增强现实模型与所述人脸的表情变化同步;
视频输出单元,用于输出叠加有所述增强现实模型的目标视频。
6.如权利要求5任一项所述的基于增强现实的互动娱乐装置,其特征在于,所述互动娱乐装置还包括:
音色转换单元,用于实时将所述视频中语音信息的声音音色转换为与叠加至所述视频中人脸上的增强现实模型对应的预设声音音色;
所述视频输出单元,还用于输出包括转换为与选取的增强现实模型对应的预设声音音色的语音信息与叠加有所述增强现实模型的目标视频。
7.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至4任一项所述基于增强现实的互动娱乐方法的步骤。
8.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至4任一项所述基于增强现实的互动娱乐方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710774285.8A CN107437272B (zh) | 2017-08-31 | 2017-08-31 | 基于增强现实的互动娱乐方法、装置及终端设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710774285.8A CN107437272B (zh) | 2017-08-31 | 2017-08-31 | 基于增强现实的互动娱乐方法、装置及终端设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107437272A CN107437272A (zh) | 2017-12-05 |
CN107437272B true CN107437272B (zh) | 2021-03-12 |
Family
ID=60461156
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710774285.8A Active CN107437272B (zh) | 2017-08-31 | 2017-08-31 | 基于增强现实的互动娱乐方法、装置及终端设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107437272B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108399653A (zh) * | 2018-01-24 | 2018-08-14 | 网宿科技股份有限公司 | 增强现实方法、终端设备及计算机可读存储介质 |
CN109089038B (zh) * | 2018-08-06 | 2021-07-06 | 百度在线网络技术(北京)有限公司 | 增强现实拍摄方法、装置、电子设备及存储介质 |
CN109120990B (zh) * | 2018-08-06 | 2021-10-15 | 百度在线网络技术(北京)有限公司 | 直播方法、装置和存储介质 |
CN109271599A (zh) * | 2018-08-13 | 2019-01-25 | 百度在线网络技术(北京)有限公司 | 数据分享方法、设备和存储介质 |
CN111507143B (zh) | 2019-01-31 | 2023-06-02 | 北京字节跳动网络技术有限公司 | 表情图像效果生成方法、装置和电子设备 |
CN111627095B (zh) * | 2019-02-28 | 2023-10-24 | 北京小米移动软件有限公司 | 表情生成方法及装置 |
CN109976519B (zh) * | 2019-03-14 | 2022-05-03 | 浙江工业大学 | 一种基于增强现实的交互显示装置及其交互显示方法 |
CN112449210A (zh) * | 2019-08-28 | 2021-03-05 | 北京字节跳动网络技术有限公司 | 声音处理方法、装置、电子设备及计算机可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9652894B1 (en) * | 2014-05-15 | 2017-05-16 | Wells Fargo Bank, N.A. | Augmented reality goal setter |
CN106782569A (zh) * | 2016-12-06 | 2017-05-31 | 深圳增强现实技术有限公司 | 一种基于声纹注册的增强现实方法及装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB201410285D0 (en) * | 2014-06-10 | 2014-07-23 | Appeartome Ltd | Augmented reality apparatus and method |
US20160379410A1 (en) * | 2015-06-25 | 2016-12-29 | Stmicroelectronics International N.V. | Enhanced augmented reality multimedia system |
CN106101858A (zh) * | 2016-06-27 | 2016-11-09 | 乐视控股(北京)有限公司 | 一种视频生成方法及装置 |
CN106127828A (zh) * | 2016-06-28 | 2016-11-16 | 广东欧珀移动通信有限公司 | 一种增强现实的处理方法、装置及移动终端 |
CN106373182A (zh) * | 2016-08-18 | 2017-02-01 | 苏州丽多数字科技有限公司 | 一种增强现实人脸互动娱乐方法 |
-
2017
- 2017-08-31 CN CN201710774285.8A patent/CN107437272B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9652894B1 (en) * | 2014-05-15 | 2017-05-16 | Wells Fargo Bank, N.A. | Augmented reality goal setter |
CN106782569A (zh) * | 2016-12-06 | 2017-05-31 | 深圳增强现实技术有限公司 | 一种基于声纹注册的增强现实方法及装置 |
Non-Patent Citations (2)
Title |
---|
Learning Anatomy via Mobile Augmented Reality: Effects on Achievement and Cognitive Load;Sevda Kucuk 等;《Anatomical Sciences Education》;20160307;第9卷(第5期);全文 * |
一种基于视频流的增强现实关键技术研究与实现;顾宁伦;《电信工程技术与标准化》;20170228;第2017年卷(第2期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN107437272A (zh) | 2017-12-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107437272B (zh) | 基于增强现实的互动娱乐方法、装置及终端设备 | |
CN112989904B (zh) | 风格图像生成方法、模型训练方法、装置、设备和介质 | |
CN110914873B (zh) | 增强现实方法、装置、混合现实眼镜及存储介质 | |
CN107204034B (zh) | 一种图像处理方法及终端 | |
CN110838084B (zh) | 一种图像的风格转移方法、装置、电子设备及存储介质 | |
CN111047509B (zh) | 一种图像特效处理方法、装置及终端 | |
CN110378947B (zh) | 3d模型重建方法、装置及电子设备 | |
CN109754464B (zh) | 用于生成信息的方法和装置 | |
CN109819316B (zh) | 处理视频中人脸贴纸的方法、装置、存储介质及电子设备 | |
US20170186243A1 (en) | Video Image Processing Method and Electronic Device Based on the Virtual Reality | |
CN111050271B (zh) | 用于处理音频信号的方法和装置 | |
CN111107278B (zh) | 图像处理方法、装置、电子设备及可读存储介质 | |
JP2023504608A (ja) | 拡張現実場面における表示方法、装置、機器、媒体及びプログラム | |
CN113344776B (zh) | 图像处理方法、模型训练方法、装置、电子设备及介质 | |
CN108810561A (zh) | 一种基于人工智能的三维偶像直播方法及装置 | |
CN112766215A (zh) | 人脸融合方法、装置、电子设备及存储介质 | |
CN112967193A (zh) | 图像校准方法及装置、计算机可读介质和电子设备 | |
CN110288532B (zh) | 生成全身图像的方法、装置、设备及计算机可读存储介质 | |
US20210201563A1 (en) | Systems and Methods for Processing Volumetric Data | |
CN110059739B (zh) | 图像合成方法、装置、电子设备和计算机可读存储介质 | |
CN115690281B (zh) | 角色表情的驱动方法及装置、存储介质、电子装置 | |
CN109816791B (zh) | 用于生成信息的方法和装置 | |
CN114663570A (zh) | 贴图生成方法、装置、电子装置及可读存储介质 | |
CN113850716A (zh) | 模型训练方法、图像处理方法、装置、电子设备及介质 | |
CN112508772A (zh) | 图像生成方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP02 | Change in the address of a patent holder | ||
CP02 | Change in the address of a patent holder |
Address after: 518000 north of 6th floor and north of 7th floor, building a, tefa infoport building, No.2 Kefeng Road, Science Park community, Yuehai street, Nanshan District, Shenzhen City, Guangdong Province Patentee after: SZ REACH TECH Co.,Ltd. Address before: 518000 Room 601, building B, Kingdee Software Park, No.2, Keji South 12th Road, Nanshan District, Shenzhen City, Guangdong Province Patentee before: SZ REACH TECH Co.,Ltd. |