CN106601217A - 一种交互式乐器演奏方法及装置 - Google Patents
一种交互式乐器演奏方法及装置 Download PDFInfo
- Publication number
- CN106601217A CN106601217A CN201611108803.4A CN201611108803A CN106601217A CN 106601217 A CN106601217 A CN 106601217A CN 201611108803 A CN201611108803 A CN 201611108803A CN 106601217 A CN106601217 A CN 106601217A
- Authority
- CN
- China
- Prior art keywords
- target
- pattern
- musical instrument
- action
- targeted customer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10H—ELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
- G10H1/00—Details of electrophonic musical instruments
- G10H1/0008—Associated control or indicating means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Electrophonic Musical Instruments (AREA)
Abstract
本发明实施例提供了一种交互式乐器演奏方法及装置,方法包括:获得预设时长内目标用户的预设数量个第一数据;根据各第一数据,确定目标用户的动作类别,其中,动作类别包括静态姿势或动态动作;当目标用户的动作类别为静态姿势时,根据每个第一数据确定目标用户的目标姿势,并根据目标姿势以及预设的乐器种类模板库,确定目标姿势对应的目标乐器种类;根据目标乐器种类以及预设图案库,显示与目标乐器种类对应的图案;当目标用户的动作类别为动态动作时,根据每个第一数据确定目标用户的目标动作,并根据目标动作、当前显示图案以及预设音频库,输出与当前显示图案对应的音频。应用本发明实施例,实现了交互式乐器演奏。
Description
技术领域
本发明涉及人机交互技术领域,特别是涉及一种交互式乐器演奏方法及装置。
背景技术
人机交互技术是指通过计算机输入、输出设备,以有效的方式实现人与计算机交互的技术。随着人机交互技术的发展,人与计算机交互的界面不断发生变化。从最原始的命令行用户界面(通过键盘进行文本命令输入,显示器进行文本信息输出)发展到图形用户界面(通过键盘输入文本,鼠标控制光标,显示器显示图形),用户界面的革新大大提升了用户与计算机的交互效率。随着更新硬件的发明和计算机算法的设计,深度相机等三维运动捕获设备得到了广泛的应用,自然用户界面也应运而生,并且得到了突飞猛进的发展。自然用户界面通过三维运动捕获设备捕获人体的运动姿态数据,并发送给计算机,计算机对人体姿态数据进行分析处理,比如识别用户的挥手、蹦跳等运动,再进一步将这些识别出来的运动转换成命令,从而实现人机交互。
交互式乐器演奏是指通过捕获人体动作,利用计算机进行动作分析和音乐演奏分析,然后进行图案显示和音频输出的过程。目前,自然用户界面利用三维运动捕获设备捕获人体的运动姿态数据,缺乏利用三维运动捕获设备捕获人体的运动姿态数据来实现交互式乐器演奏的技术。因此,需要一种利用三维捕获设备捕获人体动作来实现交互式乐器演奏的技术。
发明内容
本发明实施例的目的在于提供一种交互式乐器演奏方法及装置,以实现交互式乐器演奏。
为达到上述目的,本发明实施例公开了一种交互式乐器演奏方法,方法包括:
获得预设时长内目标用户的预设数量个第一数据;
根据各第一数据,确定所述目标用户的动作类别,其中,所述动作类别包括静态姿势或动态动作;
当所述目标用户的动作类别为静态姿势时,根据每个第一数据确定所述目标用户的目标姿势,并根据所述目标姿势以及预设的乐器种类模板库,确定所述目标姿势对应的目标乐器种类;根据所述目标乐器种类以及预设图案库,显示与所述目标乐器种类对应的图案;
当所述目标用户的动作类别为动态动作时,根据每个第一数据确定所述目标用户的目标动作,并根据所述目标动作、当前显示图案以及预设音频库,输出与所述当前显示图案对应的音频。
可选的,所述根据各第一数据,确定所述目标用户的动作类别,包括:
判断所述各第一数据是否满足相似条件;
如果是,确定所述目标用户的动作类别为静态姿势;
如果否,确定所述目标用户的动作类别为动态动作。
可选的,所述乐器种类模板库中保存有各乐器种类与静态姿势的对应关系,所述根据所述目标姿势以及预设的乐器种类模板库,确定所述目标姿势对应的目标乐器种类的步骤,包括:
在所述预设的乐器种类模板库中,查找与所述目标姿势相同的静态姿势;
根据所述乐器种类模板库,确定所查找到的静态姿势对应的乐器种类,并将该乐器种类确定为所述目标姿势对应的目标乐器种类。
可选的,所述根据所述目标乐器种类以及预设图案库,显示与所述目标乐器种类对应的图案的步骤,包括:
根据所述目标乐器种类以及预设图案库,确定与所述目标乐器种类对应的目标图案;
判断当前是否有显示的图案;
如果当前无显示的图案,则显示所述目标图案;
如果当前有显示的图案,判断所述目标图案与当前显示的图案是否一致;如果是,则保持所述当前显示的图案;如果否,则显示所述目标图案。
可选的,所述根据所述目标动作、当前显示图案以及预设音频库,输出与所述当前显示图案对应的音频的步骤,包括:
根据预设的图案与动作之间的对应关系,确定与所述目标动作对应的目标图案;
判断所述目标图案与当前显示的图案是否一致;
如果是,根据所述预设音频库,输出与所述当前显示的图案对应的音频。
本发明实施例还公开了一种交互式乐器演奏装置,所述装置包括:
获得模块,用于获得预设时长内目标用户的预设数量个第一数据;
确定模块,用于根据各第一数据,确定所述目标用户的动作类别,其中,所述动作类别包括静态姿势或动态动作;
显示模块,用于当所述确定模块确定目标用户的动作类别为静态姿势时,根据每个第一数据确定所述目标用户的目标姿势,并根据所述目标姿势以及预设的乐器种类模板库,确定所述目标姿势对应的目标乐器种类;根据所述目标乐器种类以及预设图案库,显示与所述目标乐器种类对应的图案;
输出模块,用于当所述确定模块确定所述目标用户的动作类别为动态动作时,根据每个第一数据确定所述目标用户的目标动作,并根据所述目标动作、当前显示图案以及预设音频库,输出与所述当前显示图案对应的音频。
可选的,所述确定模块,包括:
第一判断子模块,用于判断所述各第一数据是否满足相似条件;
第一确定子模块,用于当所述第一判断子模块判断结果为是时,确定所述目标用户的动作类别为静态姿势;
第二确定子模块,用于当所述第一判断子模块判断结果为否时,确定所述目标用户的动作类别为动态动作。
可选的,所述乐器种类模板库中保存有各乐器种类与静态姿势的对应关系,所述显示模块,包括:
查找子模块,用于在所述预设的乐器种类模板库中,查找与所述目标姿势相同的静态姿势;
第三确定子模块,用于根据所述乐器种类模板库,确定所查找到的静态姿势对应的乐器种类,并将该乐器种类确定为所述目标姿势对应的目标乐器种类。
可选的,所述显示模块,包括:
第四确定子模块,用于根据所述目标乐器种类以及预设图案库,确定与所述目标乐器种类对应的目标图案;
第二判断子模块,用于判断当前是否有显示图案;
第一显示子模块,用于当所述第二判断子模块判断结果为否时,显示所述目标图案;
第二显示子模块,用于当所述第二判断子模块判断结果为是时,判断所述目标图案与当前显示的图案是否一致;如果是,保持所述当前显示的图案;如果否,显示所述目标图案。
可选的,所述输出模块,包括:
第五确定子模块,用于根据预设的图案与动作之间的对应关系,确定与所述目标动作对应的目标图案;
第三判断子模块,用于判断所述目标图案与当前显示的图案是否一致;
输出子模块,用于当所述第三判断子模块判断结果为是时,根据所述预设音频库,输出与所述当前显示的图案对应的音频。
由上述的技术方案可见,本发明实施例提供的交互式乐器演奏方法及装置,可以获得预设时长内目标用户的预设数量个第一数据;根据各第一数据,确定目标用户的动作类别,其中,动作类别包括静态姿势或动态动作;当目标用户的动作类别为静态姿势时,根据每个第一数据确定目标用户的目标姿势,并根据目标姿势以及预设的乐器种类模板库,确定目标姿势对应的目标乐器种类;根据目标乐器种类以及预设图案库,显示与目标乐器种类对应的图案;当目标用户的动作类别为动态动作时,根据每个第一数据确定目标用户的目标动作,并根据目标动作、当前显示图案以及预设音频库,输出与当前显示图案对应的音频,从而实现了交互式乐器演奏。
当然,实施本发明的任一产品或方法必不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种交互式乐器演奏方法的流程示意图;
图2为本发明实施例提供的一种交互式乐器演奏装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例公开了一种交互式乐器演奏方法及装置,以下分别进行详细说明。
参见图1,图1为本发明实施例提供的一种交互式乐器演奏方法的流程示意图,包括如下步骤:
S101,获得预设时长内目标用户的预设数量个第一数据。
本发明实施例提供的方法可以应用于电子设备,例如:计算机。本发明实施例以计算机为例进行说明,在实际应用中,用户可以根据需求选择电子设备的类型,本发明对此不做限定。
需要说明的是,本发明实施例可以利用计算机外接的三维运动捕获设备在三维空间中对目标用户的姿势和运动进行捕获,从而计算机可以获得目标用户的第一数据。其中,三维运动捕获设备可以是深度相机(例如,Kinect)、惯性运动捕获设备(例如,陀螺仪、加速度计等)、形变传感器(例如,数据织物)等,本发明对此不作限定。计算机与三维运动捕获设备可以采用有线连接方式或者无线连接方式,具体的计算机与三维运动捕获设备之间的连接属于现有技术,本发明在此不做赘述。
第一数据至少可以包括目标用户肢体的三维位置、三维运动速度、三维运动加速度等。具体的利用三维运动捕获设备在三维空间中对目标用户的姿势和运动进行捕获,从而获得目标用户的第一数据的过程,属于现有技术,本发明实施例在此不再赘述。
示例性的,预设时长可以为3秒钟,三维运动捕获设备可以每秒钟采集30个第一数据,则预设时长内可以获得目标用户90个第一数据。
S102,根据各第一数据,确定目标用户的动作类别。
具体的,动作类别包括静态姿势或动态动作。计算机根据各第一数据,确定目标用户的动作类别,可以为:判断各第一数据是否满足相似条件;如果是,确定目标用户的动作类别为静态姿势;如果否,确定目标用户的动作类别为动态动作。
需要说明的是,计算机判断各第一数据是否满足相似条件的步骤,可以为:当各第一数据相同时,则判定各第一数据满足相似条件;当存在至少一个第一数据不同于其他至少一个第一数据时,则判定各第一数据不满足相似条件。
当第一数据中包括多项内容,如目标用户肢体的三维位置、三维运动速度、三维运动加速度等,可以将各第一数据的对应内容依次进行比较,以确定目标用户的动作类别。
示例性的,当获得的第一数据为2个,第一个第一数据的三维位置、三维运动速度、三维运动加速度分别为:21cm、5cm、7cm、0cm/s、0cm/s、0cm/s、0m/s2、0m/s2、0m/s2,第二个第一数据的三维位置、三维运动速度、三维运动加速度分别为:21cm、5cm、7cm、0cm/s、0cm/s、0cm/s、0m/s2、0m/s2、0m/s2,可以判断出第一个第一数据的三维位置、三维运动速度、三维运动加速度分别与第二个第一数据的三维位置、三维运动速度、三维运动加速度对应相同,则判定各第一数据满足相似条件,确定目标用户的动作类别为静态姿势。
示例性的,获得的第一数据共有2个,第一个第一数据的三维位置、三维运动速度、三维运动加速度分别为:21cm、5cm、7cm、0cm/s、0cm/s、0cm/s、0m/s2、0m/s2、0m/s2,第二个第一数据的三维位置、三维运动速度、三维运动加速度分别为:21cm、5cm、7cm、0cm/s、15cm/s、2cm/s、0m/s2、2m/s2、1m/s2,可以判断出第一个第一数据的三维运动速度与第二个第一数据的三维运动速度不同,第一个第一数据的三维运动加速度与第二个第一数据的三维运动加速度不同,则判定各第一数据不满足相似条件,确定目标用户的动作类别为动态动作。
计算机判断各第一数据是否满足相似条件的步骤,还可以为:根据各第一数据获得目标用户的骨骼点位置变化值,如果骨骼点位置变化值没有超过第一预设阈值,则判定各第一数据满足相似条件;如果骨骼点位置变化值超过第一预设阈值,则判定各第一数据不满足相似条件。
示例性的,当第一预设阈值为2cm时,如果骨骼点位置变化为1cm,则判定各第一数据满足相似条件,确定目标用户的动作类别为静态姿势;如果骨骼点位置变化为5cm,则判定各第一数据不满足相似条件,确定目标用户的动作类别为动态动作。
类似的,计算机判断各第一数据是否满足相似条件的步骤,还可以为:根据各第一数据获得目标用户的骨骼点速度变化值,如果骨骼点速度变化值没有超过第二预设阈值,则判定各第一数据满足相似条件;如果骨骼点速度变化值超过第二预设阈值,则判定各第一数据不满足相似条件。或者,根据各第一数据获得目标用户的骨骼点加速度变化值,如果骨骼点加速度变化值没有超过第三预设阈值,则判定各第一数据满足相似条件;如果骨骼点加速度变化值超过第三预设阈值,则判定各第一数据不满足相似条件。
示例性的,当第二预设阈值为0.5cm/s时,如果骨骼点速度变化为0cm/s,则判定各第一数据满足相似条件,确定目标用户的动作类别为静态姿势;如果骨骼点位置变化为5cm/s,则判定各第一数据不满足相似条件,确定目标用户的动作类别为动态动作。
其中,第一预设阈值、第二预设阈值以及第三预设阈值的大小可以根据用户需求设定,本发明对此不做限定。
S103,当目标用户的动作类别为静态姿势时,根据每个第一数据确定目标用户的目标姿势,并根据目标姿势以及预设的乐器种类模板库,确定目标姿势对应的目标乐器种类;根据目标乐器种类以及预设图案库,显示与目标乐器种类对应的图案。
需要说明的是,计算机可以利用信号处理、机器学习、位置识别、位置变化跟踪等方式,对每个第一数据进行分析处理,从而确定目标用户的目标姿势。在实际应用中,确定目标用户的目标姿势的方式可以根据用户需求设定,本发明对此不作限定,具体的确定目标用户的目标姿势的方法为现有技术,本发明在此不再赘述。
在本发明实施例中,乐器种类模板库中可以保存有各乐器种类与静态姿势的对应关系。例如,乐器种类模板库中保存的各乐器种类与静态姿势的对应关系可以如表1所示:
表1
乐器种类 | 静态姿势 |
鼓 | 双手合十放于胸前 |
小提琴 | 双手合十举于头顶 |
长号 | 双手分开举于头顶 |
计算机根据目标姿势以及预设的乐器种类模板库,确定目标姿势对应的目标乐器种类的步骤,可以为:在预设的乐器种类模板库中,查找与目标姿势相同的静态姿势;根据乐器种类模板库,确定所查找到的静态姿势对应的乐器种类,并将该乐器种类确定为目标姿势对应的目标乐器种类。
示例性的,利用机器学习方法,对每个第一数据进行分析处理,从而确定目标用户的目标姿势为双手合十举于头顶,预设的乐器种类模板库中双手合十举于头顶的姿势对应的乐器种类为小提琴,则确定目标乐器种类为小提琴。
具体的,计算机根据目标乐器种类以及预设图案库,显示与目标乐器种类对应的图案的步骤,可以为:根据目标乐器种类以及预设图案库,确定与目标乐器种类对应的目标图案;判断当前是否有显示的图案;如果当前无显示的图案,则显示所述目标图案;如果当前有显示的图案,判断所述目标图案与当前显示的图案是否一致;如果是,则保持所述当前显示的图案;如果否,则显示所述目标图案。
需要说明的是,图案的输出由图形输出框架完成。图形界面可以输出卡通动物图案和卡通场景,可以用每一种卡通动物代表一种乐器种类,例如:狮子对应鼓;狐狸对应小提琴;兔子对应长号。通过预先建立的乐器种类与卡通动物图案的一一对应关系,显示与目标乐器种类对应的目标图案。在当前没有显示的图案的情况下,直接显示目标图案;在当前有显示的图案的情况下,则需要判断目标图案与当前显示的图案是否一致,当目标图案与当前显示的图案一致时,发送信号给图形输出框架,保持当前显示的图案;当目标图案与当前显示的图案不一致时,发送信号给图形输出框架,更新当前显示的图案,以显示目标图案。
示例性的,当目标乐器种类为小提琴,预设图案库中与小提琴对应的图案为狐狸时,如果当前没有显示的图案,则显示狐狸图案;如果当前显示的图案为狐狸,则保持显示狐狸图案;如果当前显示的图案为老虎,则显示狐狸图案。
S104,当目标用户的动作类别为动态动作时,根据每个第一数据确定目标用户的目标动作,并根据目标动作、当前显示图案以及预设音频库,输出与当前显示图案对应的音频。
需要说明的是,计算机可以利用模式识别、机器学习、有限状态自动机等方式,对每个第一数据进行分析处理,从而确定目标用户的目标动作。在实际应用中,确定目标用户的目标动作对应的目标乐器种类的方式可以根据用户需求设定,本发明对此不作限定。具体的确定目标用户的目标动作的方法属于现有技术,本发明在此不再赘述。
示例性的,利用模式识别,对每个第一数据进行分析处理,从而确定目标用户的目标动作为:手部的一个向下的动作。
具体的,计算机根据目标动作、当前显示图案以及预设音频库,输出与当前显示图案对应的音频的步骤,可以为:根据预设的图案与动作之间的对应关系,确定与目标动作对应的目标图案;判断目标图案与当前显示的图案是否一致;如果是,根据预设音频库,输出与当前显示的图案对应的音频。
需要说明的是,目标用户演奏不同乐器时,其动作是不一样的。在本发明实施例中,预先可以采集各种乐器的动作数据,并进行标记,形成可用于乐器识别的动作模板库,动作模板库中可以保存有各乐器种类与动作的对应关系。例如,动作模板库中保存的各乐器种类与动作的对应关系可以如表2所示:
表2
乐器种类 | 动作 |
鼓 | 手部的向下运动 |
小提琴 | 手部的左右运动 |
长号 | 手部的前后运动 |
示例性的,本发明实施例的动作模板库保存了分别对应鼓、小提琴以及长号三种乐器的动作,描述如下:
对应鼓的动作:实际应用中,敲击鼓的动作主要由手部的向下运动完成,因此,检测是基于目标用户手部的数据。目标动作需要满足两个判定标准:
一、整体动作判定,判断手部是否在向下运动,并设定一个动作时长区间,规定在这个区间内手部完成从上到下运动的动作才是符合标准的;区间下界是普通人最快能完成相应敲击动作的时间,例如可以为5毫秒、8毫秒等,上界是设定的普通人最慢完成敲击动作的时间,例如可以为1秒、1.5秒等。
每接收到一个第一数据,存储并作为基准第一数据,依次找出之前的与该基准第一数据的时间差在动作时长区间内的各个第一数据,按照时长短到时长长的顺序依次对各个第一数据进行遍历,判断基准第一数据与遍历的第一数据的位置差值是否大于整体动作阈值,大于阈值则说明动作触发。并且基准第一数据与遍历的第一数据间隔的时长越短,可以认为目标用户敲击鼓的动作速度越快,并可以将这个信息反馈到输出的音频中,动作速度越快,输出音频的声音越大。
二、结尾动作判定,在满足整体动作判定后,判断最新的两个第一数据的运动距离是否大于结尾动作阈值,从而保证本次动作触发是一次动作的第一次触发,而不是敲击之后停在原地。这个判定可以有效防止出现一次敲击触发多次动作的误触。结尾动作阈值可以根据用户需求设定,本发明在此不做限定。
对应小提琴的动作:实际应用中,拉动小提琴的动作主要由手部的左右运动完成,因此,检测是基于目标用户手部的数据。本发明实施例以目标用户使用右手拉琴为例,为右手所处的状态构建一个有限状态自动机,满足对应状态后自动机进行状态转移,同时发出控制信号(音符开始/音符结束)。
五种状态定义如下:S1-右手在右侧预备区域准备开始,S2-右手从右往左运动中,S3-右手在左侧预备区域准备开始,S4-右手从左往右运动中,S5-右手在其他区域中。状态转移的关键在于:1)只有处于S1状态才能进入S2状态,进入S2状态后,发出音符开始信号,同样,只有处于S3状态才能进入S4状态,进入S4状态后,发出音符开始信号。换言之,只有在右侧准备区域,才能触发向左拉琴事件,这种处理方法可以过滤掉在动作结束后产生的误触发;2)在S2状态下,必须持续运动才能保持在S2状态,同样,在S4状态下,必须持续运动才能保持在S4状态,否则视为事件结束,发出音符结束信号。S1,S3,S5状态是并列的三个状态,分别对应平面内的三个区域,在不触发动作的情况下自动机会根据获得的第一数据中右手的位置数据,在S1、S3以及S5三个状态间自动转换。
对应长号的动作:实际应用中,拉动长号的动作主要由手部的前后运动完成,类似于小提琴的左右运动的动作,因此,同样采取有限状态自动机,只是S1、S3、S5状态对应的区域由深度数据X-Y平面的数据转换成X-Z平面的数据,具体方法参见小提琴部分的描述,在此不再赘述。
计算机根据动作模板库,可以确定目标动作对应的目标乐器种类,根据目标乐器种类可以确定与目标动作对应的目标图案。从而,判断该目标图案与当前显示的图案是否一致,并将判断结果发送信号给音频输出框架,以使音频输出框架确定是否输出音频。当该目标图案与当前显示的图案一致时,发送信号给音频输出框架,输出与当前显示图案对应的音频;当该目标图案与当前显示的图案不一致时,发送信号给音频输出框架,不输出音频。
其中,音频输出框架可以使用Windows***的MIDI(Musical Instrument DigitalInterface,乐器数字接口)框架。具体的使用MIDI框架进行音频输出的方法属于现有技术,本发明实施例在此不再赘述。
示例性的,根据上述动作模板库,确定目标用户的目标动作对应的乐器种类是小提琴,当前显示的图案是狐狸,狐狸图案对应的动作是演奏小提琴的动作,因此确定目标动作对应的目标图案是狐狸,与当前显示的图案一致,从而,输出与狐狸图案对应的小提琴音频。
可见,应用本发明实施例提供的交互式乐器演奏方法,实现了交互式乐器演奏。
与上述的方法实施例相对应,本发明实施例还提供一种交互式乐器演奏装置。
参见图2,图2为本发明实施例所提供的一种交互式乐器演奏装置的结构示意图,包括:
获得模块201,用于获得预设时长内目标用户的预设数量个第一数据;
确定模块202,用于根据各第一数据,确定所述目标用户的动作类别,其中,所述动作类别包括静态姿势或动态动作;
显示模块203,用于当所述确定模块确定目标用户的动作类别为静态姿势时,根据每个第一数据确定所述目标用户的目标姿势,并根据所述目标姿势以及预设的乐器种类模板库,确定所述目标姿势对应的目标乐器种类;根据所述目标乐器种类以及预设图案库,显示与所述目标乐器种类对应的图案;
输出模块204,用于当所述确定模块确定所述目标用户的动作类别为动态动作时,根据每个第一数据确定所述目标用户的目标动作,并根据所述目标动作、当前显示图案以及预设音频库,输出与所述当前显示图案对应的音频。
其中,确定模块202,包括:
第一判断子模块(图中未示出),用于判断所述各第一数据是否满足相似条件;
第一确定子模块(图中未示出),用于当所述第一判断子模块判断结果为是时,确定所述目标用户的动作类别为静态姿势;
第二确定子模块(图中未示出),用于当所述第一判断子模块判断结果为否时,确定所述目标用户的动作类别为动态动作。
其中,所述乐器种类模板库中保存有各乐器种类与静态姿势的对应关系,所述显示模块203,可以包括:
查找子模块(图中未示出),用于在所述预设的乐器种类模板库中,查找与所述目标姿势相同的静态姿势;
第三确定子模块(图中未示出),用于根据所述乐器种类模板库,确定所查找到的静态姿势对应的乐器种类,并将该乐器种类确定为所述目标姿势对应的目标乐器种类。
其中,显示模块203,还可以包括:
第四确定子模块(图中未示出),用于根据所述目标乐器种类以及预设图案库,确定与所述目标乐器种类对应的目标图案;
第二判断子模块(图中未示出),用于判断当前是否有显示的图案;
第一显示子模块(图中未示出),用于当所述第二判断子模块判断结果为否时,显示所述目标图案;
第二显示子模块(图中未示出),用于当所述第二判断子模块判断结果为是时,判断所述目标图案与当前显示的图案是否一致;如果是,保持所述当前显示的图案;如果否,显示所述目标图案。
其中,输出模块204,包括:
第五确定子模块(图中未示出),用于根据预设的图案与动作之间的对应关系,确定与所述目标动作对应的目标图案;
第三判断子模块(图中未示出),用于判断所述目标图案与当前显示的图案是否一致;
输出子模块(图中未示出),用于当所述第三判断子模块判断结果为是时,根据所述预设音频库,输出与所述当前显示的图案对应的音频。
可见,应用本发明实施例提供的交互式乐器演奏装置,实现了交互式乐器演奏。
对于装置实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于***实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (10)
1.一种交互式乐器演奏方法,其特征在于,所述方法包括:
获得预设时长内目标用户的预设数量个第一数据;
根据各第一数据,确定所述目标用户的动作类别,其中,所述动作类别包括静态姿势或动态动作;
当所述目标用户的动作类别为静态姿势时,根据每个第一数据确定所述目标用户的目标姿势,并根据所述目标姿势以及预设的乐器种类模板库,确定所述目标姿势对应的目标乐器种类;根据所述目标乐器种类以及预设图案库,显示与所述目标乐器种类对应的图案;
当所述目标用户的动作类别为动态动作时,根据每个第一数据确定所述目标用户的目标动作,并根据所述目标动作、当前显示图案以及预设音频库,输出与所述当前显示图案对应的音频。
2.根据权利要求1所述的方法,其特征在于,所述根据各第一数据,确定所述目标用户的动作类别,包括:
判断所述各第一数据是否满足相似条件;
如果是,确定所述目标用户的动作类别为静态姿势;
如果否,确定所述目标用户的动作类别为动态动作。
3.根据权利要求1所述的方法,其特征在于,所述乐器种类模板库中保存有各乐器种类与静态姿势的对应关系,所述根据所述目标姿势以及预设的乐器种类模板库,确定所述目标姿势对应的目标乐器种类的步骤,包括:
在所述预设的乐器种类模板库中,查找与所述目标姿势相同的静态姿势;
根据所述乐器种类模板库,确定所查找到的静态姿势对应的乐器种类,并将该乐器种类确定为所述目标姿势对应的目标乐器种类。
4.根据权利要求1所述的方法,其特征在于,所述根据所述目标乐器种类以及预设图案库,显示与所述目标乐器种类对应的图案的步骤,包括:
根据所述目标乐器种类以及预设图案库,确定与所述目标乐器种类对应的目标图案;
判断当前是否有显示的图案;
如果当前无显示的图案,则显示所述目标图案;
如果当前有显示的图案,判断所述目标图案与当前显示的图案是否一致;如果是,则保持所述当前显示的图案;如果否,则显示所述目标图案。
5.根据权利要求1所述的方法,其特征在于,所述根据所述目标动作、当前显示图案以及预设音频库,输出与所述当前显示图案对应的音频的步骤,包括:
根据预设的图案与动作之间的对应关系,确定与所述目标动作对应的目标图案;
判断所述目标图案与当前显示的图案是否一致;
如果是,根据所述预设音频库,输出与所述当前显示的图案对应的音频。
6.一种交互式乐器演奏装置,其特征在于,所述装置包括:
获得模块,用于获得预设时长内目标用户的预设数量个第一数据;
确定模块,用于根据各第一数据,确定所述目标用户的动作类别,其中,所述动作类别包括静态姿势或动态动作;
显示模块,用于当所述确定模块确定目标用户的动作类别为静态姿势时,根据每个第一数据确定所述目标用户的目标姿势,并根据所述目标姿势以及预设的乐器种类模板库,确定所述目标姿势对应的目标乐器种类;根据所述目标乐器种类以及预设图案库,显示与所述目标乐器种类对应的图案;
输出模块,用于当所述确定模块确定所述目标用户的动作类别为动态动作时,根据每个第一数据确定所述目标用户的目标动作,并根据所述目标动作、当前显示图案以及预设音频库,输出与所述当前显示图案对应的音频。
7.根据权利要求6所述的装置,其特征在于,所述确定模块,包括:
第一判断子模块,用于判断所述各第一数据是否满足相似条件;
第一确定子模块,用于当所述第一判断子模块判断结果为是时,确定所述目标用户的动作类别为静态姿势;
第二确定子模块,用于当所述第一判断子模块判断结果为否时,确定所述目标用户的动作类别为动态动作。
8.根据权利要求6所述的装置,其特征在于,所述乐器种类模板库中保存有各乐器种类与静态姿势的对应关系,所述显示模块,包括:
查找子模块,用于在所述预设的乐器种类模板库中,查找与所述目标姿势相同的静态姿势;
第三确定子模块,用于根据所述乐器种类模板库,确定所查找到的静态姿势对应的乐器种类,并将该乐器种类确定为所述目标姿势对应的目标乐器种类。
9.根据权利要求6所述的装置,其特征在于,所述显示模块,包括:
第四确定子模块,用于根据所述目标乐器种类以及预设图案库,确定与所述目标乐器种类对应的目标图案;
第二判断子模块,用于判断当前是否有显示图案;
第一显示子模块,用于当所述第二判断子模块判断结果为否时,显示所述目标图案;
第二显示子模块,用于当所述第二判断子模块判断结果为是时,判断所述目标图案与当前显示的图案是否一致;如果是,保持所述当前显示的图案;如果否,显示所述目标图案。
10.根据权利要求6所述的装置,其特征在于,所述输出模块,包括:
第五确定子模块,用于根据预设的图案与动作之间的对应关系,确定与所述目标动作对应的目标图案;
第三判断子模块,用于判断所述目标图案与当前显示的图案是否一致;
输出子模块,用于当所述第三判断子模块判断结果为是时,根据所述预设音频库,输出与所述当前显示的图案对应的音频。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611108803.4A CN106601217B (zh) | 2016-12-06 | 2016-12-06 | 一种交互式乐器演奏方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611108803.4A CN106601217B (zh) | 2016-12-06 | 2016-12-06 | 一种交互式乐器演奏方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106601217A true CN106601217A (zh) | 2017-04-26 |
CN106601217B CN106601217B (zh) | 2021-03-02 |
Family
ID=58596507
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611108803.4A Active CN106601217B (zh) | 2016-12-06 | 2016-12-06 | 一种交互式乐器演奏方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106601217B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111103983A (zh) * | 2019-12-31 | 2020-05-05 | 维沃移动通信有限公司 | 一种ar乐器演奏方法及电子设备 |
CN111199455A (zh) * | 2019-12-19 | 2020-05-26 | 南京酷派软件技术有限公司 | 选择乐器的方法、装置、电子设备及介质 |
CN112752149A (zh) * | 2020-12-29 | 2021-05-04 | 广州繁星互娱信息科技有限公司 | 直播方法、装置、终端及存储介质 |
CN114115528A (zh) * | 2021-11-02 | 2022-03-01 | 深圳市雷鸟网络传媒有限公司 | 虚拟对象控制方法、装置、计算机设备和存储介质 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020036617A1 (en) * | 1998-08-21 | 2002-03-28 | Timothy R. Pryor | Novel man machine interfaces and applications |
US20040046736A1 (en) * | 1997-08-22 | 2004-03-11 | Pryor Timothy R. | Novel man machine interfaces and applications |
CN101504832A (zh) * | 2009-03-24 | 2009-08-12 | 北京理工大学 | 基于手部动作感应的虚拟演奏*** |
CN102117117A (zh) * | 2010-01-06 | 2011-07-06 | 致伸科技股份有限公司 | 利用图像提取装置辨识使用者姿势进行控制的***及方法 |
CN102478959A (zh) * | 2010-11-28 | 2012-05-30 | 蒋霞 | 一种电子设备的控制***和方法 |
CN102609093A (zh) * | 2012-02-16 | 2012-07-25 | 中国农业大学 | 用手势控制视频播放的方法及装置 |
CN102915112A (zh) * | 2011-06-23 | 2013-02-06 | 奥美可互动有限责任公司 | 用于近距离动作跟踪的***和方法 |
CN102947777A (zh) * | 2010-06-22 | 2013-02-27 | 微软公司 | 用户跟踪反馈 |
CN103235641A (zh) * | 2013-03-17 | 2013-08-07 | 浙江大学 | 一种6维度感官交互的虚拟键盘乐器***及其实现方法 |
CN103986825A (zh) * | 2014-05-09 | 2014-08-13 | 苏州乐聚一堂电子科技有限公司 | 移动个性化卡拉ok影像特效*** |
CN104007844A (zh) * | 2014-06-18 | 2014-08-27 | 原硕朋 | 电子设备和用于电子设备的可穿戴式输入装置 |
CN105915987A (zh) * | 2016-04-15 | 2016-08-31 | 济南大学 | 一种面向智能电视的隐式交互方法 |
CN205680441U (zh) * | 2016-06-06 | 2016-11-09 | 北京千音互联科技有限公司 | 一种虚拟演奏*** |
CN106157363A (zh) * | 2016-06-28 | 2016-11-23 | 广东欧珀移动通信有限公司 | 一种基于增强现实的拍照方法、装置和移动终端 |
-
2016
- 2016-12-06 CN CN201611108803.4A patent/CN106601217B/zh active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040046736A1 (en) * | 1997-08-22 | 2004-03-11 | Pryor Timothy R. | Novel man machine interfaces and applications |
US20120040755A1 (en) * | 1997-08-22 | 2012-02-16 | Motion Games, Llc | Interactive video based games using objects sensed by tv cameras |
US20020036617A1 (en) * | 1998-08-21 | 2002-03-28 | Timothy R. Pryor | Novel man machine interfaces and applications |
CN101504832A (zh) * | 2009-03-24 | 2009-08-12 | 北京理工大学 | 基于手部动作感应的虚拟演奏*** |
CN102117117A (zh) * | 2010-01-06 | 2011-07-06 | 致伸科技股份有限公司 | 利用图像提取装置辨识使用者姿势进行控制的***及方法 |
CN102947777A (zh) * | 2010-06-22 | 2013-02-27 | 微软公司 | 用户跟踪反馈 |
CN102478959A (zh) * | 2010-11-28 | 2012-05-30 | 蒋霞 | 一种电子设备的控制***和方法 |
CN102915112A (zh) * | 2011-06-23 | 2013-02-06 | 奥美可互动有限责任公司 | 用于近距离动作跟踪的***和方法 |
CN102609093A (zh) * | 2012-02-16 | 2012-07-25 | 中国农业大学 | 用手势控制视频播放的方法及装置 |
CN103235641A (zh) * | 2013-03-17 | 2013-08-07 | 浙江大学 | 一种6维度感官交互的虚拟键盘乐器***及其实现方法 |
CN103986825A (zh) * | 2014-05-09 | 2014-08-13 | 苏州乐聚一堂电子科技有限公司 | 移动个性化卡拉ok影像特效*** |
CN104007844A (zh) * | 2014-06-18 | 2014-08-27 | 原硕朋 | 电子设备和用于电子设备的可穿戴式输入装置 |
CN105915987A (zh) * | 2016-04-15 | 2016-08-31 | 济南大学 | 一种面向智能电视的隐式交互方法 |
CN205680441U (zh) * | 2016-06-06 | 2016-11-09 | 北京千音互联科技有限公司 | 一种虚拟演奏*** |
CN106157363A (zh) * | 2016-06-28 | 2016-11-23 | 广东欧珀移动通信有限公司 | 一种基于增强现实的拍照方法、装置和移动终端 |
Non-Patent Citations (3)
Title |
---|
HONGMO JE ET AL.: ""Hand Gesture Recognition To Understand Musical Conducting Action"", 《16TH IEEE INTERNATIONAL CONFERENCE ON ROBOT & HUMAN INTERACTIVE COMMUNICATION》 * |
MINORU FUJIMOTO ET AL.: ""A Motion Recognition Method for a Wearable Dancing Musical Instrument"", 《2009 INTERNATIONAL SYMPOSIUM ON WEARABLE COMPUTERS》 * |
童号等: ""交互式乐器演奏的六自由度力觉渲染方法"", 《中国图象图形学报》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111199455A (zh) * | 2019-12-19 | 2020-05-26 | 南京酷派软件技术有限公司 | 选择乐器的方法、装置、电子设备及介质 |
CN111103983A (zh) * | 2019-12-31 | 2020-05-05 | 维沃移动通信有限公司 | 一种ar乐器演奏方法及电子设备 |
CN112752149A (zh) * | 2020-12-29 | 2021-05-04 | 广州繁星互娱信息科技有限公司 | 直播方法、装置、终端及存储介质 |
CN114115528A (zh) * | 2021-11-02 | 2022-03-01 | 深圳市雷鸟网络传媒有限公司 | 虚拟对象控制方法、装置、计算机设备和存储介质 |
CN114115528B (zh) * | 2021-11-02 | 2024-01-19 | 深圳市雷鸟网络传媒有限公司 | 虚拟对象控制方法、装置、计算机设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN106601217B (zh) | 2021-03-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10074186B2 (en) | Image search system, image search apparatus, and image search method | |
US9690982B2 (en) | Identifying gestures or movements using a feature matrix that was compressed/collapsed using principal joint variable analysis and thresholds | |
EP2940557B1 (en) | Method and device used for providing input candidate item corresponding to input character string | |
CN103809733B (zh) | 人机交互***和方法 | |
EP2391972B1 (en) | System and method for object recognition and tracking in a video stream | |
CN101142617B (zh) | 数据输入方法和装置 | |
CN106601217A (zh) | 一种交互式乐器演奏方法及装置 | |
US20120092304A1 (en) | System and method for inputing user commands to a processor | |
US20130044053A1 (en) | Combining Explicit Select Gestures And Timeclick In A Non-Tactile Three Dimensional User Interface | |
WO2015103693A1 (en) | Systems and methods of monitoring activities at a gaming venue | |
CN104090652A (zh) | 一种语音输入方法和装置 | |
CN105556438A (zh) | 用于使用关于状态变化的信息来提供对用户输入的响应并预测未来用户输入的***和方法 | |
CN110888532A (zh) | 人机交互方法、装置、移动终端及计算机可读存储介质 | |
CN111259751A (zh) | 基于视频的人体行为识别方法、装置、设备及存储介质 | |
CN103823554A (zh) | 一种数字化虚实交互***及方法 | |
CN103777748A (zh) | 一种体感输入方法及装置 | |
CN106393113A (zh) | 机器人和机器人的交互控制方法 | |
EP3379482A1 (en) | Information processing device calculating statistical information | |
CN111491123A (zh) | 视频背景处理方法、装置及电子设备 | |
CN103336967A (zh) | 一种手部运动轨迹检测方法及装置 | |
CN108073267A (zh) | 基于运动轨迹的三维控制方法及装置 | |
CN104020853A (zh) | 基于Kinect的操纵网络浏览器的***及方法 | |
CN111722700A (zh) | 一种人机交互方法及人机交互设备 | |
Bordegoni et al. | A dynamic gesture language and graphical feedback for interaction in a 3d user interface | |
Ko et al. | Finger mouse and gesture recognition system as a new human computer interface |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |