发明内容
本发明目的之一在于提供了一种VR教学***,使用户能积极地参与到VR情景中,以达到更好的学习效果。
本发明实施例提供的一种VR教学***,包括:
教师终端,用于接收教师录制或编制的课程;
服务器端,与教师终端通讯连接,用于接收教师终端上传的课程;
学生终端,与服务器端通讯连接,用于接收服务器端的课程并播放,并且在课程播放时接收学生的交互动作;
其中,学生终端包括:
至少一个VR手柄,用于在课程播放时接收学生的交互动作。
优选的,教师终端包括:
音频采集设备,用于采集教师的音频信息;
图像采集设备,用于采集教师的图像信息;
第一控制设备,与音频采集设备和图像采集设备电连接;第一控制设备用于获取音频采集设备和图像采集设备采集的音频信息和图像信息,接收教师对音频信息和图像信息的编辑操作以生成课程;
第一控制设备包括:
第一通讯模块,与服务器端通讯连接;
显示模块,用于显示音频信息和图像信息;
人体输入模块,用于接收教师的编辑操作;
处理模块,与第一通讯模块、显示模块、人体输入模块、音频采集设备和图像采集设备电连接。
优选的,图像采集设备包括:
至少四个摄像头,分别从教师的前、后、左、右四个方向拍摄教师录制课程时的图像。
优选的,音频采集设备包括:
多个麦克风,在教师录制课程时阵列设置在教师四周。
优选的,学生终端包括:
穿戴式VR设备,与VR手柄电连接,用于播放服务器端发送的课程;
第一移动感知模块,设置在穿戴式VR设备中,用于感知学生的移动;
服务器端执行如下操作:
基于图像采集设备采集的图像信息和音频采集设备采集的音频信息构建虚拟课程空间;
将虚拟课程空间与课程对应存储;
在接收到学生终端播放课程的状态时,调取对应的虚拟课程空间;
将学生映射至虚拟课程空间的初始点,播放虚拟课程空间中学生的视线范围内的图像;
通过第一移动感知模块感知学生的移动;
基于学生的移动,实时确定学生视线范围内的图像并播放;
基于学生的移动和初始点,确定学生在虚拟课程空间中的位置,播放位置对应的音频采集设备采集的音频信息。
优选的,基于学生的移动,实时确定学生视线范围内的图像并播放,包括:
获取构建虚拟空间的各个摄像头的中心拍摄向量,中心拍摄向量为以摄像头镜头的中心点并垂直摄像头镜头面向摄像头的拍摄方向;
获取学生的中心视野向量,中心视野向量为以学生瞳孔为起点向外;
基于学生位置与虚拟课程空间中教师的位置,确定位置向量;
当位置向量与中心视野向量的夹角小于预设的第一阈值时,计算中心视野向量与各个摄像头的中心摄像向量的夹角,计算公式如下:
其中,θi为中心视野向量与第i个中心摄像向量的夹角;xj为中心视野向量的第j维参数值;yij为第i个中心摄像向量的第j维参数值;n为数据维数;
比较夹角大小,选择夹角最小的摄像头拍摄的图像作为学生视线范围内的图像并播放;
基于学生的移动和初始点,确定学生在虚拟课程空间中的位置,播放位置对应的音频采集设备采集的音频信息,包括:
计算学生的位置与各个音频采集设备的设置位置的距离,计算公式如下:
其中,Lk为学生的位置与第k个音频采集设备的设置位置的距离;A1k、A2k、A3k分别为第k个音频采集设备的设置位置的X轴、Y轴和Z轴坐标值;B1、B1、B1分别为学生的位置的X轴、Y轴和Z轴坐标值;
比较学生的位置与各个音频采集设备的设置位置的距离,以距离最短的音频采集设备的音频信息为基础音频;
确定学生的位置与虚拟课程空间中教师的位置的第二距离、距离最短的音频采集设备与虚拟课程空间中教师的位置的第三距离;
基于第一距离、第二距离和第三距离查询预设的关联系数表,确定最终播放音频与基础音频之间的关系系数;
基于关系系数和基础音频,确定最终播放音频。
优选的,服务器端执行如下操作:
通过VR手柄接收学生的表示记录笔记的第一动作时,获取当前播放的课程的第一位置向前推进一预设时间的播放点作为记录起始点;
当通过VR手柄接收学生的表示笔记结束的第二动作时,获取当前播放的课程的第二位置作为记录终止点;
对记录起始点和记录终止点之间的音频数据进行转换,将其转换为文字数据,并在课程结束时输出给学生;
接收学生对于文字数据的编辑操作,以形成课程笔记;、
其中,第一动作包括:按压住VR手柄的按键;第二动作包括:松开被按压住的按键。
优选的,VR手柄包括:
壳体,为圆柱形,在外周设置有防滑纹路;
按键,设置壳体的一端面;
压力传感器阵列,设置在壳体的外周;
第二移动感知模块,设置在壳体内,用于感知VR手柄的移动;
处理器,设置壳体内,分别与按键、第二移动感知模块和压力传感器阵列电连接;
第二通讯模块,与处理器和服务器端电连接;
处理器通过压力传感器阵列检测学生的握力;当握力大于预设的第一压力阈值时,对应的虚拟形象手部握紧以抓取虚拟图像上的物体;
处理器通过第二感知模块感知VR手柄的移动,以同步改变学生对应的虚拟形象得手部移动。
本发明还提供一种多媒体教室,应用于上述任一的VR教学***,包括:
多个VR手柄连接接口,分别设置在各个学生座位上,用于VR手柄的连接。
本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。
具体实施方式
以下结合附图对本发明的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本发明,并不用于限定本发明。
本发明实施例提供了一种VR教学***,如图1所示,包括:
教师终端1,用于接收教师录制或编制的课程;
服务器端2,与教师终端1通讯连接,用于接收教师终端1上传的课程;
学生终端3,与服务器端2通讯连接,用于接收服务器端2的课程并播放,并且在课程播放时接收学生的交互动作;
其中,学生终端3包括:
至少一个VR手柄31,用于在课程播放时接收学生的交互动作。
上述技术方案的工作原理及有益效果为:
教师终端1为教师使用,教师可以使用教师终端1编制或录制课程;录制课程主要通过采用录像功能将教师的讲课过程进行录制;编制课程就比较复杂,需要考虑在课程播放时,学生的交互可能。例如:在编制浓硫酸稀释实验时,正确步骤为将浓硫酸顺着杯壁倒入水中;学生的操作可能存在多种情况:一、直接瞬间倒入,二、将水倒入浓硫酸中;三、将浓硫酸顺着杯壁倒入水中;在编制时,需要分别编制好学生的各种交互操作后的视频或现象。
学生终端3为学生使用,主要是学生登录到服务器端2使用;学生使用学生终端3观看服务器端2发送的课程时,通过VR手柄31实现交互动作,例如:视频暂停、回放、快进等;此外,还可在播放实验时,进行实验操作。例如浓硫酸稀释实验时,可以实现,一、直接将浓硫酸瞬间倒入水中,二、将水倒入浓硫酸中;三、将浓硫酸顺着杯壁倒入水中,诸如此类的操作。
本发明的VR教学***,使用户能积极地参与到VR情景中,以达到更好的学习效果,并且在进行危险的实验时,不会因为操作步骤的错误,造成事故的发生,并且让学生清楚直观地感受到操作错误造成的后果。
在一个实施例中,如图2所示,教师终端1包括:
音频采集设备11,用于采集教师的音频信息;
图像采集设备12,用于采集教师的图像信息;
第一控制设备13,与音频采集设备11和图像采集设备12电连接;第一控制设备13用于获取音频采集设备11和图像采集设备12采集的音频信息和图像信息,接收教师对音频信息和图像信息的编辑操作以生成课程;
第一控制设备13包括:
第一通讯模块132,与服务器端2通讯连接;
显示模块133,用于显示音频信息和图像信息;
人体输入模块134,用于接收教师的编辑操作;
处理模块131,与第一通讯模块132、显示模块133、人体输入模块134、音频采集设备11和图像采集设备12电连接。
上述技术方案的工作原理及有益效果为:
教师终端1通过图像采集设备12和音频采集设备11分别采集教师录制课程的视频信息和音频信息;实现了课程录制。录制后的课程需要经过编辑;编辑操作包括剪辑、设置触发交互动作等;其中,显示模块133为显示器;人体输入模块134包括:键盘和鼠标;第一通讯模块132包括网卡;处理模块131为电脑主机。
在一个实施例中,图像采集设备12包括:
至少四个摄像头,分别从教师的前、后、左、右四个方向拍摄教师录制课程时的图像。
上述技术方案的工作原理及有益效果为:
通过全方位的录制,实现全景录制;在学生终端3播放时,可以根据学生的交互动作,切换播放的角度,使学生能够有身临其境的感觉,提高学生的学习体验。
在一个实施例中,音频采集设备11包括:
多个麦克风,在教师录制课程时阵列设置在教师四周。
上述技术方案的工作原理及有益效果为:
通过阵列设置的麦克风,可以实现全方位的声音捕捉,实现在学生切换播放角度的时候同步切换声音的播放。例如可以采用四个麦克风与摄像头一一对应;当切换到对应的摄像头录制的画面时同步切换到播放对应的麦克风采集的声音。
在一个实施例中,学生终端3包括:
穿戴式VR设备,与VR手柄31电连接,用于播放服务器端2发送的课程;
第一移动感知模块,设置在穿戴式VR设备中,用于感知学生的移动;
服务器端2执行如下操作:
基于图像采集设备12采集的图像信息和音频采集设备11采集的音频信息构建虚拟课程空间;
将虚拟课程空间与课程对应存储;
在接收到学生终端3播放课程的状态时,调取对应的虚拟课程空间;
将学生映射至虚拟课程空间的初始点,播放虚拟课程空间中学生的视线范围内的图像;
通过第一移动感知模块感知学生的移动;
基于学生的移动,实时确定学生视线范围内的图像并播放;
基于学生的移动和初始点,确定学生在虚拟课程空间中的位置,播放位置对应的音频采集设备11采集的音频信息。
上述技术方案的工作原理及有益效果为:
基于穿戴式VR设备和第一移动感知模块实现了学生与虚拟课程空间的映射,以实现根据学生的视角显示图像,可以根据学生的移动切换对应的视角以及声音,实现沉浸式学习体验。
在一个实施例中,基于学生的移动,实时确定学生视线范围内的图像并播放,包括:
获取构建虚拟空间的各个摄像头的中心拍摄向量,中心拍摄向量为以摄像头镜头的中心点并垂直摄像头镜头面向摄像头的拍摄方向;
获取学生的中心视野向量,中心视野向量为以学生瞳孔为起点向外;
基于学生位置与虚拟课程空间中教师的位置,确定位置向量;
当位置向量与中心视野向量的夹角小于预设的第一阈值时,计算中心视野向量与各个摄像头的中心摄像向量的夹角,计算公式如下:
其中,θi为中心视野向量与第i个中心摄像向量的夹角;xj为中心视野向量的第j维参数值;yij为第i个中心摄像向量的第j维参数值;n为数据维数;
比较夹角大小,选择夹角最小的摄像头拍摄的图像作为学生视线范围内的图像并播放;
基于学生的移动和初始点,确定学生在虚拟课程空间中的位置,播放位置对应的音频采集设备11采集的音频信息,包括:
计算学生的位置与各个音频采集设备11的设置位置的距离,计算公式如下:
其中,Lk为学生的位置与第k个音频采集设备11的设置位置的距离;A1k、A2k、A3k分别为第k个音频采集设备11的设置位置的X轴、Y轴和Z轴坐标值;B1、B1、B1分别为学生的位置的X轴、Y轴和Z轴坐标值;
比较学生的位置与各个音频采集设备11的设置位置的距离,以距离最短的音频采集设备11的音频信息为基础音频;
确定学生的位置与虚拟课程空间中教师的位置的第二距离、距离最短的音频采集设备11与虚拟课程空间中教师的位置的第三距离;
基于第一距离、第二距离和第三距离查询预设的关联系数表,确定最终播放音频与基础音频之间的关系系数;
基于关系系数和基础音频,确定最终播放音频。
上述技术方案的工作原理及有益效果为:
中心视野向量作为视线的表征参数,通过其与位置向量的夹角可以确定学生是否为观看教师的讲课;只有当其夹角小于第一阈值时,第一阈值可以设置为60度;当夹角大于第一阈值时,可以播放预设的虚拟课程空间的背景并用箭头指示出视线调整的方向,以此方便学生快速调整视线。当学生为观看教师讲课时,通过中心视野向量与中心摄像向量的夹角确定最佳的显示图像,以显示给学生。通过学生的位置,确定最终的播放音频,实现了准确的音频确定。进而实现了音视频根据学生的移动发生变化,提高了学生的沉浸感,提高了学生的VR体验。
在一个实施例中,服务器端2执行如下操作:
通过VR手柄31接收学生的表示记录笔记的第一动作时,获取当前播放的课程的第一位置向前推进一预设时间的播放点作为记录起始点;
当通过VR手柄31接收学生的表示笔记结束的第二动作时,获取当前播放的课程的第二位置作为记录终止点;
对记录起始点和记录终止点之间的音频数据进行转换,将其转换为文字数据,并在课程结束时输出给学生;
接收学生对于文字数据的编辑操作,以形成课程笔记;、
其中,第一动作包括:按压住VR手柄31的按键313;第二动作包括:松开被按压住的按键313。
上述技术方案的工作原理及有益效果为:
通过按压住按键313,启动教学***的笔记记录功能,解决了用户在观看VR课程时无法进行笔记的问题,通过将音频数据直接进行文字转换,提高了笔记的准确率及效率。将记录起始点由第一动作的触发点向前推,考虑到学生的一个反应时间与***的指令相应时间,保证笔记记录的完整性;在最后还需根据学生的需求进行文字数据的编辑,编辑包括删除多余的数据,使笔记更加简化。更进一步地,预设时间与按键313按压的力道相关联,即按压力道越大,预设时间越长,可以事先设置一对应表,根据按压力道提取预设时间进行记录起始点的确定。
在一个实施例中,如图3所示,VR手柄31包括:
壳体,为圆柱形,在外周设置有防滑纹路;
按键313,设置壳体的一端面;
压力传感器阵列314,设置在壳体的外周;
第二移动感知模块315,设置在壳体内,用于感知VR手柄31的移动;
处理器311,设置壳体内,分别与按键313、第二移动感知模块315和压力传感器阵列314电连接;
第二通讯模块312,与处理器311和服务器端2电连接;
处理器311通过压力传感器阵列314检测学生的握力;当握力大于预设的第一压力阈值时,对应的虚拟形象手部握紧以抓取虚拟图像上的物体;
处理器311通过第二感知模块感知VR手柄31的移动,以同步改变学生对应的虚拟形象得手部移动。
上述技术方案的工作原理及有益效果为:
基于第二移动感知模块315、压力传感器阵列314和按键313;实现了交互动作的输入;将虚拟形象与学生对于VR手柄31的操作同步,方便学生的沉浸式体验过程中的参数操作。其中,压力传感器阵列314为阵列排布的多个压力传感器;第二移动感知模块315包括:三轴陀螺仪和三轴加速度计。
本发明还提供一种多媒体教室,应用于上述任一的VR教学***,包括:
多个VR手柄连接接口,分别设置在各个学生座位上,用于VR手柄31的连接。
上述技术方案的工作原理及有益效果为:
VR手柄连接接口用于学生连接,以进入VR教学***;实现多人同时进行VR课程学习。
一个具体的应用场景:在教师讲台位置设置大屏显示教师课程;当课程进入交互操作端,将操作界面分别投射到学生座位上的小屏上,学生通过VR手柄31进行交互操作。
再一个具体的应用场景:教师在讲台位置进行课程讲解,当课程进入交互操作端,将操作界面分别投射到学生座位上的小屏上,学生通过VR手柄31进行交互操作,交互操作完成后将操作过程结果总结至教师位置的教师终端1。
更进一步地,在教师位置设置有全息投影设备,实现课程的全息投影。
此外,多媒体教师还提供穿戴式VR设备的接入口。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。