CN111459263B - 虚拟内容的显示方法、装置、终端设备及存储介质 - Google Patents

虚拟内容的显示方法、装置、终端设备及存储介质 Download PDF

Info

Publication number
CN111459263B
CN111459263B CN201910060758.7A CN201910060758A CN111459263B CN 111459263 B CN111459263 B CN 111459263B CN 201910060758 A CN201910060758 A CN 201910060758A CN 111459263 B CN111459263 B CN 111459263B
Authority
CN
China
Prior art keywords
shaking
virtual content
content
interaction
virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910060758.7A
Other languages
English (en)
Other versions
CN111459263A (zh
Inventor
卢智雄
戴景文
贺杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Virtual Reality Technology Co Ltd
Original Assignee
Guangdong Virtual Reality Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Virtual Reality Technology Co Ltd filed Critical Guangdong Virtual Reality Technology Co Ltd
Priority to CN201910060758.7A priority Critical patent/CN111459263B/zh
Publication of CN111459263A publication Critical patent/CN111459263A/zh
Application granted granted Critical
Publication of CN111459263B publication Critical patent/CN111459263B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请实施例公开了一种虚拟内容的显示方法、装置、终端设备及存储介质,该虚拟内容的显示方法应用于终端设备,所述终端设备与交互设备连接,该虚拟内容的显示方法包括:获取所述交互设备相对于所述终端设备的位置及姿态信息;根据所述位置及姿态信息,对虚拟内容进行显示;根据所述交互设备的位置及姿态的变化信息中的至少一种,检测所述交互设备的运动状态;当所述交互设备处于晃动状态时,获取所述交互设备的晃动参数;根据所述晃动参数控制所述虚拟内容的显示,以使显示的虚拟内容与所述交互设备的晃动状态对应。本方法可以较好的实现与虚拟内容的交互。

Description

虚拟内容的显示方法、装置、终端设备及存储介质
技术领域
本申请涉及显示技术领域,更具体地,涉及一种虚拟内容的显示方法、装置、终端设备及存储介质。
背景技术
近年来,随着科技的进步,增强现实(AR,Augmented Reality)等技术已逐渐成为国内外研究的热点,增强现实是通过计算机***提供的信息增加用户对现实世界感知的技术,其将计算机生成的虚拟对象、场景或***提示信息等内容对象叠加到真实场景中,来增强或修改对现实世界环境或表示现实世界环境的数据的感知。在增强现实的显示技术中,与显示内容的交互是影响技术应用的一个关键问题。
发明内容
本申请实施例提出了一种虚拟内容的显示方法、装置、终端设备及存储介质,以较好的实现与显示内容的交互。
第一方面,本申请实施例提供了一种虚拟内容的显示方法,应用于终端设备,所述终端设备与交互设备连接,所述方法包括:获取所述交互设备相对于所述终端设备的位置及姿态信息;根据所述位置及姿态信息,对虚拟内容进行显示;根据所述交互设备的位置及姿态的变化信息中的至少一种,检测所述交互设备的运动状态;当所述交互设备处于晃动状态时,获取所述交互设备的晃动参数;根据所述晃动参数控制所述虚拟内容的显示,以使显示的虚拟内容与所述交互设备的晃动状态对应。
第二方面,本申请实施例提供了一种虚拟内容的显示装置,应用于终端设备,所述终端设备与交互设备连接,所述装置包括:位置获取模块、内容显示模块、状态检测模块、参数获取模块以及内容控制模块,其中,所述位置获取模块用于获取所述交互设备相对于所述终端设备的位置及姿态信息;所述内容显示模块用于根据所述位置及姿态信息,对虚拟内容进行显示;所述状态检测模块用于根据所述交互设备的位置及姿态的变化信息中的至少一种,检测所述交互设备的运动状态;所述参数获取模块用于当所述交互设备处于晃动状态时,获取所述交互设备的晃动参数;所述内容控制模块用于根据所述晃动参数控制所述虚拟内容的显示,以使显示的虚拟内容与所述交互设备的晃动状态对应。
第三方面,本申请实施例提供了一种终端设备,包括:一个或多个处理器;存储器;一个或多个应用程序,其中所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序配置用于执行上述第一方面提供的虚拟内容的显示方法。
第四方面,本申请实施例提供了一种存储介质,所述计算机可读取存储介质中存储有程序代码,所述程序代码可被处理器调用执行上述第一方面提供的虚拟内容的显示方法。
本申请提供的方案,应用于终端设备,终端设备与交互设备连接,通过获取交互设备相对于终端设备的位置及姿态信息,显示虚拟内容,使用户可以观察到虚拟内容叠加于真实世界的效果,并根据交互设备的位置和/或姿态的变化信息中的至少一种,确定出交互设备处于晃动状态时,获取交互设备的晃动参数,根据晃动参数控制虚拟内容的显示,较好地实现了与显示的虚拟内容之间的交互,提升互动性。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了一种适用于本申请实施例的应用场景的示意图。
图2示出了根据本申请实施例提供的交互设备的结构示意图。
图3示出了根据本申请一个实施例的虚拟内容的显示方法流程图。
图4示出了根据本申请一个实施例的一种显示效果示意图。
图5示出了根据本申请另一个实施例的虚拟内容的显示方法流程图。
图6示出了根据本申请又一个实施例的虚拟内容的显示方法流程图。
图7示出了根据本申请又一个实施例的一种显示效果示意图。
图8示出了根据本申请又一个实施例的一种显示效果示意图。
图9示出了根据本申请又一个实施例的一种显示效果示意图。
图10示出了根据本申请又一个实施例的一种显示效果示意图。
图11示出了根据本申请又一个实施例的一种显示效果示意图。
图12示出了根据本申请又一个实施例的一种显示效果示意图。
图13示出了根据本申请又一个实施例的一种显示效果示意图。
图14示出了根据本申请再一个实施例的虚拟内容的显示方法流程图。
图15示出了根据本申请再一个实施例的一种显示效果示意图。
图16示出了根据本申请再一个实施例的一种显示效果示意图。
图17示出了根据本申请一个实施例的虚拟内容的显示装置的框图。
图18是本申请实施例的用于执行根据本申请实施例的虚拟内容的显示方法的终端设备的框图。
图19是本申请实施例的用于保存或者携带实现根据本申请实施例的虚拟内容的显示方法的程序代码的存储单元。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。
随着显示技术的发展,增强现实(AR,Augmented Reality)的显示技术逐渐深入到人们的生活中。AR技术可以实现将计算机生成的虚拟对象、场景或***提示信息等内容对象叠加到真实场景中,来增强或修改对现实世界环境或表示现实世界环境的数据的感知。在目前,可实现在移动终端的显示屏或头戴显示器的显示组件上对应的位置显示虚拟图像,使虚拟图像与真实场景叠加显示,让用户享受科幻式的观感体验。
发明人经过长期研究发现,传统的AR显示技术中,在实现与虚拟内容的交互时,通常需要通过额外的控制器进行交互,或通过转动头部的方向来改变头戴显示设备等设备的朝向,才能实现与虚拟内容的交互,交互性较差。基于上述问题,发明人提出了本申请实施例中的虚拟内容的显示方法、装置、终端设备及存储介质,以较好地实现与显示的虚拟内容之间的交互。
下面对本申请实施例提供的虚拟内容的显示方法的应用场景进行介绍。
请参阅图1,示出了本申请实施例提供的虚拟内容的显示方法的应用场景图,该应用场景包括显示***10,该显示***10包括:终端设备100以及交互设备200,其中,终端设备100与交互设备200连接。
在本申请实施例中,终端设备100可以是头戴显示装置,也可以是手机、平板等移动设备。终端设备100为头戴显示装置时,头戴显示装置可以为一体式头戴显示装置。终端设备100也可以是与外接式/***式头戴显示装置连接的手机等智能终端,即终端设备100可作为头戴显示装置的处理和存储设备,***或者接入外接式头戴显示装置,在头戴显示装置中对虚拟内容进行显示。
在本申请实施例中,交互设备200可以为多面体标记物,其可以包括多个面、多条边和多个顶点。其中,交互设备200包括多个标记面,且其中至少两个不共面的标记面上设置有标记物。在一些实施方式中,标记物可以包括至少一个具有一个或者多个特征点的子标记物。
在本申请实施例中,交互设备200的具体形态结构不受限制,可以为平面与曲面相结合的多面体,也可以为曲面与曲面相结合的多面体。在一些实施方式中,交互设备200可以是以下结构中的任意一种或多种的组合:棱锥、棱柱、棱台、多面体,也可以是球体,当然,球体可以理解为由无数个面形成的多面体。
本申请实施例中,上述标记物的图像存储于终端设备100中。上述标记物可以包括至少一个具有一个或者多个特征点的子标记物。当上述标记物处于终端设备100的视野范围内时,终端设备100可采集包含该标记物的图像。在采集到包含该标记物的图像时,可以识别采集到的包含标记物的图像,得到该标记物相对终端设备100的位置、朝向等空间位置信息,以及标记物的身份信息等识别结果。终端设备100可根据标记物对交互设备200进行定位及追踪。终端设备100可基于交互设备200相对终端设备100的空间位置等信息显示相应的虚拟内容。可以理解地,具体的交互设备200及标记物在本申请实施例中并不作为限定,仅需可以被终端设备100识别追踪即可。
在一些实施方式中,可以通过交互设备200上的不同标记物在终端设备100的视野范围内发生旋转或/及位移,使得终端设备100可以实时识别交互设备200上的标记物的信息,进而获取交互设备200的空间位置信息,以便终端设备100根据该空间位置信息显示相应的虚拟内容。
请参见图2,图2示出了本申请实施例提供的一种交互设备的示意图,交互设备200为二十六面体,包括十八个正方形面以及八个三角形面,其中十八个正方形面皆为标记面,且每个标记面上均设置有标记物,且每个面上的标记物的图案互不相同。作为一种方式,交互设备200的第一表面220上设置有第一标记物211,第二表面230上设置有区别于第一标记物211的第二标记物212。终端设备100识别第一标记物211及第二标记物212中的任一个或两个,进而获取交互设备200的空间位置信息。
另外,终端设备100可以根据上述标记物210识别出交互设备200的上述空间位置信息的变化,从而检测交互设备200的运动状态(例如,晃动状态、移动状态等)。终端设备100也可以根据交互设备200的惯性测量单元(Inertial measurement unit,IMU)检测的六自由度信息,检测交互设备200的运动状态(例如,晃动状态等)。
基于上述显示***,本申请实施例提供了一种虚拟内容的显示方法,应用于上述显示***的终端设备,通过交互设备相对于终端设备的位置及姿态信息,显示虚拟内容,并在确定出交互设备处于晃动状态时,根据交互设备的晃动参数,控制指令控制虚拟内容的显示,从而较好地实现了与虚拟内容之间的交互。下面对具体的虚拟内容的显示方法进行介绍。
请参阅图3,本申请实施例提供了一种虚拟内容的显示方法,可应用于上述终端设备,该虚拟内容的显示方法可以包括:
步骤S110:获取交互设备相对于终端设备的位置及姿态信息。
在本申请实施例中,终端设备可以获取交互设备相对于终端设备的位置及姿态信息,以根据该位置及姿态信息,对虚拟内容进行显示。其中,姿态信息可以为交互设备相对终端设备的朝向及旋转角度。
在本申请实施例中,上述交互设备是一种具有多面体结构的多面体标记物,可以为四面体标记物、六面体标记物、二十六面体标记物等,当前还可以是其他面数的多面体标记物,在此不一一列举。其中,该多面体标记物包括多个标记面,且其中至少一个标记面上设置有标记物。
进一步地,上述交互设备上的标记物可以由终端设备识别,并获取交互设备相对终端设备的位置及姿态信息。
在一些实施方式中,上述标记物可以包括至少一个子标记物,子标记物可以是具有一定形状的图案。在一个实施例中,每个子标记物可具有一个或多个特征点,其中,特征点的形状不做限定,可以是圆点、圆环,也可以是三角形、其他形状。另外,不同标记物内的子标记物的分布规则不同,因此,每个标记物可具备不同的身份信息。终端设备通过识别标记物中包含的子标记物,可以获取与标记物对应的身份信息,该身份信息可以是编码等可用于唯一标识标记物的信息,但不限于此。
作为一种实施方式,标记物的轮廓可以为矩形,当然,标记物的形状也可以是其他形状,在此不做限定,矩形的区域以及该区域内的多个子标记物构成一个标记物。需要说明的是,具体的标记物的形状、样式、尺寸、颜色、特征点数量以及分布,在本实施例中并不作为限定,仅需要标记物能被终端设备识别追踪即可。
在本申请实施例中,交互设备可以设置于终端设备的视野范围内的位置。当终端设备需要虚拟内容进行显示时,可以通过图像采集装置对位于终端设备的视野范围内的交互设备以及交互设备的至少一个标记物进行图像采集,也就是说,可以采集到包含交互设备以及交互设备的至少一个标记物的图像。其中,终端设备的视野范围指终端设备的图像采集装置的视野范围,图像采集装置的视野范围可以由视场角的大小决定。
在实际获取包含交互设备以及交互设备的至少一个标记物的图像时,可以通过调整交互设备的空间位置,以使该交互设备以及交互设备的至少一个标记物处于终端设备的图像采集装置的视野范围内,从而使终端设备可以对交互设备以及交互设备的至少标记物进行图像采集和图像识别。
在一些实施方式中,交互设备可以包括至少两个不共面的不同标记物。在需要采集包含有交互设备的某个面上的标记物的图像时,可以通过旋转交互设备来改变交互设备相对终端设备的朝向及旋转角度,以使终端设备可以采集到交互设备的某个面上的标记物。同样的,通过旋转交互设备,也可以采集到交互设备的多个面上的标记物。
终端设备在采集到包含有交互设备以及交互设备的至少一个标记物的标记物图像后,终端设备则可以对该图像进行识别,以获取交互设备相对于终端设备的位置及姿态信息。
可以理解的是,由于交互设备有至少一个标记面设置有标记物,因此,上述图像中标记物的数量可能为1个,也可能为多个。作为一种方式,当上述图像中标记物的数量为至少1个时,可以是通过识别图像中的一个标记物的空间位置,并根据预先存储的该标记物相对交互设备的其他标记物的位置,来得到交互设备相对终端设备之间的位置及姿态信息。作为另一种方式,当上述图像中标记物的数量为多个时,可以是通过识别多个标记物中每个标记物的空间位置,并根据每个标记物每个标记物的空间位置,得到交互设备相对于终端设备的位置及姿态信息。当然,可以通过获取包含交互设备上的多个标记物的图像,以精确地获取交互设备相对于终端设备的位置及姿态信息。
步骤S120:根据上述位置及姿态信息,对虚拟内容进行显示。
在一些实施方式中,在得到上述交互设备相对终端设备的位置及姿态信息之后,则可以根据该位置及姿态信息,获取待显示的虚拟内容的显示位置,对待显示的虚拟内容进行显示。其中,显示位置可以是用户通过终端设备可以看到的虚拟内容的位置,也即虚拟内容在虚拟空间中的渲染坐标。
进一步地,终端设备可以根据需要显示的虚拟内容与交互设备的位置相对关系,以及交互设备相对终端设备的位置及姿态信息,以得到虚拟内容的显示位置。可以理解的,在实现虚拟内容叠加于交互设备所在真实世界时,可以获取交互设备于现实空间中的空间坐标,该空间坐标可以用于表示交互设备与头戴显示装置上的图像采集装置之间的位置关系,也可以用于表示交互设备与终端设备之间的位置关系。
在获取到交互设备相对终端设备的位置及姿态信息后,可以获得交互设备在现实空间中的空间坐标,将交互设备在现实空间中的空间坐标转换为虚拟空间的虚拟坐标之后,根据需要显示的虚拟内容与交互设备的位置相对关系,得到需要显示的虚拟内容在虚拟空间中的渲染坐标,从而得到了虚拟内容的显示位置,以便对虚拟内容进行显示。
在得到虚拟内容的显示位置之后,则可以根据需要显示的虚拟内容的数据,以及获取到的显示位置,渲染虚拟内容。其中,上述虚拟内容的数据可以包括虚拟内容的模型数据,模型数据为用于渲染虚拟内容的数据。例如,模型数据可以包括用于建立虚拟内容对应的颜色数据、顶点坐标数据、轮廓数据等。另外,虚拟内容的数据可以是存储于终端设备中,也可以是从交互设备、服务器等其他电子设备获取。在一些实施方式中,上述虚拟内容的数据可以根据交互设备的至少一个标记物的身份信息获取,也就是说,可以通过标记物的身份信息读取对应的虚拟内容的数据,使显示的虚拟内容与交互设备的某个标记物的身份信息对应。
从而可以在虚拟空间中显示虚拟内容,用户通过终端设备可以看到虚拟内容与真实世界叠加进行显示,实现了虚拟内容的增强现实的显示效果,提升了虚拟内容的显示效果。例如,如图4所示,用户可以通过终端设备看到真实世界中的交互设备200,并且可以看到虚拟空间中叠加显示在交互设备200对应位置上的虚拟内容,虚拟内容为水晶球30。
步骤S130:根据交互设备的位置及姿态的变化信息中的至少一种,检测交互设备的运动状态。
在本申请实施例中,在根据实体对象相对于终端设备的位置及姿态信息,对虚拟内容进行显示之后,终端设备可以检测交互设备的运动状态,以便在交互设备的运动状态为目标状态时,控制虚拟内容的显示。其中,终端设备可以根据交互设备的位置及姿态的变化信息中的至少一种,检测交互设备的运动状态。可以理解的是,上述交互设备的位置的变化信息,指交互设备相对终端设备的位置的变化,上述姿态的变化信息,指交互设备相对终端设备的姿态的变化信息。另外,上述交互设备的位置及姿态的变化信息,可以由终端设备对交互设备进行识别和追踪,从而得到交互设备的位置及姿态的变化信息,例如,终端设备通过上述采集包含交互设备及交互设备的标记物的图像进行识别的方式,对交互设备进行识别和追踪。
在一些实施方式中,可以根据上述交互设备的位置的变化信息,检测交互设备的运动状态,也可以根据上述交互设备的姿态的变化信息,检测交互设备的运动状态,还可以同时根据交互设备的位置的变化信息以及姿态的变化信息,检测交互设备的运动状态。
终端设备在根据交互设备的位置及姿态的变化信息中的至少一种,检测交互设备的运动状态时,可以在检测出交互设备的位置和/或姿态变化时,确定交互设备处于运动状态。并且可以根据交互设备的位置和/或姿态的具体变化,确定出交互设备处于具体何种运动状态,例如匀速移动,晃动,加速移动,减速移动等。也就是说,可以根据交互设备的位置和/或姿态的具体变化,可以确定出交互设备的运动速度、运动方向等运动参数,并根据该运动参数确定出交互设备为具体何种运动状态。当然,具体检测交互设备的运动状态的方式可以不作为限定。
步骤S140:当交互设备处于晃动状态时,获取交互设备的晃动参数。
在本申请实施例中,通过检测交互设备的运动状态,确定出交互设备处于晃动状态时,则可以触发终端设备控制虚拟内容的显示的触发条件,并控制虚拟内容的显示。其中,晃动状态指交互设备按照一定的运动频率、运动幅度、运动方向等运动参数进行的晃动运动,例如,交互设备在水平方向上的一定距离内,按照一定频率做往返运动。
进一步地,当检测出交互设备处于晃动状态时,可以获取交互设备的晃动参数,以便终端设备根据晃动参数,控制虚拟内容的显示,使对虚拟内容的控制内容,与交互设备的晃动参数符合。其中,晃动参数可以包括:晃动频率、晃动方向及晃动幅度等中的至少一种。晃动频率可以指交互设备在一定时间内的晃动次数,例如1S内的晃动次数;晃动方向指交互设备晃动时移动的方向;晃动幅度指交互设备进行晃动时的位置变化范围、姿态角度变化范围等。
在本申请实施例中,上述晃动参数可以由一定时间段内交互设备的位置和/或姿态的变化信息确定,例如,可以根据检测出交互设备处于晃动状态之前设定时长内的位置和/或姿态的变化信息确定。当然,具体获取上述交互设备的晃动参数的方式可以不作为限定。
步骤S150:根据晃动参数控制虚拟内容的显示,以使显示的虚拟内容与交互设备的晃动状态对应。
终端设备在获取到交互设备的晃动参数之后,则可以根据晃动参数,控制上述虚拟内容的显示,以达到通过交互设备的晃动,对显示的上述虚拟内容进行相应控制的目的。
在本申请实施例中,不同的晃动参数对应对虚拟内容不同的控制效果,该控制效果可以控制虚拟内容显示不同的效果。例如,可以根据晃动方向控制虚拟内容的移动方向,达到虚拟内容的移动方向与晃动方向保持一致的控制效果,又例如,可以根据晃动频率,控制虚拟内容进行更新的速度,达到虚拟内容的更新的速度与晃动频率保持一致的控制效果,再例如,可以根据晃动幅度,触发对虚拟内容的不同显示效果等,还例如,同时根据晃动方向、晃动频率及晃动幅度,对虚拟内容展示晃动效果等。当然,具体晃动参数对应的对虚拟内容的控制内容在本申请实施例中可以不作为限定。
本申请实施例提供的虚拟内容的显示方法,应用于终端设备,根据交互设备相对于终端设备的位置及姿态信息,显示虚拟内容,使用户可以观察到虚拟内容叠加于真实世界的效果,并根据交互设备的位置和/或姿态的变化信息中的至少一种,确定出交互设备处于晃动状态时,获取交互设备的晃动参数,根据晃动参数控制虚拟内容的显示,从而实现根据交互设备的晃动,对虚拟内容进行控制,达到了与显示的虚拟内容之间良好的交互,提升了虚拟内容的显示中的互动性。
请参阅图5,本申请实施例提供了另一种虚拟内容的显示方法,可应用于上述终端设备,该虚拟内容的显示方法可以包括:
步骤S210:获取交互设备相对于终端设备的位置及姿态信息。
步骤S220:根据上述位置及姿态信息,对虚拟内容进行显示。
在本申请实施例中,步骤S210及步骤S220可以参阅上述实施例的内容,在此不再赘述。
步骤S230:判断交互设备在指定时长内的位置和/或姿态的变化频率是否大于频率阈值。
在本申请实施例中,终端设备在根据交互设备相对于终端设备的位置及姿态信息,对虚拟内容进行显示之后,可以根据交互设备的位置及姿态的变化信息中的至少一种,对交互设备的运动状态进行检测,以确定出交互设备的晃动状态。
在一些实施方式中,可以通过获取的交互设备的位置及姿态的变化信息,确定交互设备的位置及姿态的变化,是否按照一定的频率进行变化。当确定出位置及姿态的变化,是按照一定的频率变化时,可以获得该频率,作为交互设备的位置及姿态的变化频率。
进一步地,可以判断交互设备的位置的变化频率是否大于频率阈值,以确定交互设备是否处于晃动状态。可以理解的,交互设备处于晃动状态时,其按照一定频率进行运动,并且该频率会大于上述频率阈值。因此,在交互设备的位置的变化频率大于上述频率阈值时,则可以确定交互设备处于晃动状态。在交互设备的位置的变化频率不大于上述频率阈值时,则交互设备不处于晃动状态。
也可以判断交互设备的姿态的变化频率是否大于频率阈值,与上述判断交互设备的位置的变化频率是否大于频率阈值类似,当交互设备的姿态的变化频率大于频率阈值,则交互设备处于晃动状态,当交互设备的姿态的变化频率不大于频率阈值,则交互设备不处于晃动状态。
另外,也可以结合交互设备的位置的变化频率以及姿态的变化频率,共同确定交互设备的晃动状态,也就是说,当交互设备的位置的变化频率以及姿态的变化频率均大于频率阈值时,确定交互设备处于晃动状态。
在本申请实施例中,上述频率阈值的具体数值可以不作为限定,例如,频率阈值可以为每秒1次,每秒2次,每秒3次等。
步骤S240:当位置和/或姿态的变化频率大于频率阈值时,则确定交互设备处于晃动状态。
在本申请实施例中,当步骤S230中检测出交互设备的位置和/或姿态的变化频率大于频率阈值时,则可以确定交互设备处于晃动状态。
在一些实施方式中,在确定出交互设备的位置和/或姿态的变化频率大于频率阈值时,还可以进一步确定交互设备的位置变化范围是否在一定范围内,确定交互设备的位置变化方向是否为预设方向,确定交互设备的姿态变化范围(例如,姿态角的变化范围)是否在一定范围内,当交互设备的位置和/或姿态的变化,满足上述判断条件中的至少一个判断条件时,则可以确定交互设备处于晃动状态,从而可以更加准确的检测出交互设备的晃动状态。
步骤S250:当交互设备处于晃动状态时,获取交互设备在预设时间段内的姿态参数,并确定交互设备的姿态参数的变化范围。
当检测出交互设备处于晃动状态时,可以获取交互设备的晃动参数,以便终端设备根据晃动参数,控制虚拟内容的显示,使对虚拟内容的控制内容,与交互设备的晃动参数符合。
在本申请实施例中,可以获取交互设备在预设时间段内的姿态参数,并确定交互设备的姿态参数的变化范围,以确定交互设备的晃动参数。上述预设时间段,可以为检测出交互设备处于晃动状态后的指定时长的时间段,例如检测出交互设备处于晃动状态的时刻之后2S的时间段,该时刻之后3S的时间段,该时刻之后5S的时间段等。
在一些实施方式中,获取交互设备在预设时间段内的姿态参数,包括:在预设时间段内采集包含交互设备设置的至少一个标记物的标记物图像,根据标记物图像,获取交互设备的姿态参数。其中,姿态参数可以包括交互设备的姿态角度、旋转方向、角速度、加速度等参数,具体的姿态参数在本申请实施例中可以不作为限定。
可以理解的是,终端设备可以通过在上述预设时间段内实时识别交互设备上的标记物,从而获取到交互设备在上述预设时间段内实时的空间位置信息,空间位置信息中包括有交互设备的姿态参数、位置等信息,从而可以得到交互设备预设时间段内的姿态参数。终端设备识别交互设备上的标记物的方式,可以参阅上述实施例中的内容,在此不再赘述。
在一些实施方式中,获取交互设备在预设时间段内的姿态参数,包括:接收交互设备在预设时间段内发送的交互设备检测的姿态参数。
可以理解的是,交互设备可以包括惯性测量单元(Inertial measurement unit,IMU),其中,惯性测量单元可以检测交互设备的六自由度信息,六自由度信息可包括交互设备沿空间中三个直角坐标轴(X、Y、Z轴)的移动自由度和转动自由度,上述三个直角坐标轴对应的移动自由度和转动自由度可以构成交互设备的姿态参数。因此,终端设备获取交互设备在预设时间段内的姿态参数,可以是接收交互设备发送上述IMU在预设时间段内检测到的姿态参数。
当然,在本申请实施例中,具体获取交互设备的姿态参数的方式,可以不作为限定。
在获取到交互设备在上述预设时间段内姿态参数之后,则可以确定交互设备的姿态参数的变化范围。其中,可以确定姿态角度的变化范围,例如,20°至170°范围,还可以确定姿态方向的变化范围,即交互设备的姿态由一个姿态方向与另一个姿态方向之间变化,还可以是标记面的变化范围,从一个标记面到另一标记面之间的变化等。当然,也还可以确定加速度的变化范围等,具体确定的姿态参数的变化范围可以不作为限定。
步骤S260:基于姿态参数的变化范围,确定交互设备的晃动参数。
在获取到姿态参数的变化范围之后,终端设备可以由交互设备的姿态参数的变化范围,确定出交互设备的晃动参数。在一些实施方式中,可以将姿态角度的变化范围,作为交互设备的晃动幅度,可以根据姿态方向的变化范围,确定出交互设备的晃动方向。另外,可以根据上述预设时间段内,交互设备的姿态的变化次数,确定出交互设备的晃动频率,从而可以获取到交互设备的晃动频率、晃动幅度及晃动方向等晃动参数。当然,具体确定交互设备的晃动参数的方式在本申请实施例中可以不作为限定,也可以将交互设备的姿态参数作为交互设备的晃动参数。
步骤S270:根据晃动参数与控制指令的对应关系,生成晃动参数对应的控制指令,并根据控制指令控制虚拟内容的显示,以使显示的虚拟内容与实体对像的位置和/或姿态变化匹配。
终端设备在获取到交互设备的晃动参数之后,则可以根据晃动参数,控制上述虚拟内容的显示,以达到通过交互设备的晃动,对显示的上述虚拟内容进行相应控制的目的。
在本申请实施例中,终端设备可以根据晃动参数,生成晃动参数对应的控制指令,并根据控制指令对虚拟内容进行控制。具体的,晃动参数与控制指令的对应关系预先存储于终端设备中,该对应关系可以是用户自行设置,也可以是终端设备出厂时默认的,还可以是终端设备从服务器获取的。
在根据获取到的晃动参数,生成控制指令之后,则可以根据该控制指令控制上述虚拟内容的显示。其中,不同的控制指令对应不同的控制效果,该控制效果可控制虚拟内容显示不同的效果。例如,根据较高晃动频率生成的控制指令,则对虚拟内容进行更新的速度会较快,又例如,根据不同晃动幅度生成的控制指令,则对虚拟内容添加的渲染效果也不同。当然,以上控制效果仅为举例,具体的控制指令对应的对虚拟内容的控制效果在本申请实施例中可以不作为限定。
本申请实施例提供的虚拟内容的显示方法,应用于终端设备,根据交互设备相对于终端设备的位置及姿态信息,显示虚拟内容,使用户可以观察到虚拟内容叠加于真实世界的效果,并根据交互设备的位置和/或姿态的变化频率与频率阈值进行比较,确定出交互设备处于晃动状态时,利用交互设备的姿态变化范围,确定交互设备的晃动参数,根据晃动参数生成控制指令,并根据控制指令控制虚拟内容的显示,从而实现根据交互设备的晃动,对虚拟内容进行控制,达到了与显示的虚拟内容之间良好的交互,提升了虚拟内容的显示中的互动性。
请参阅图6,本申请实施例提供了又一种虚拟内容的显示方法,可应用于上述终端设备,该虚拟内容的显示方法可以包括:
步骤S310:获取交互设备相对于终端设备的位置及姿态信息。
步骤S320:根据上述位置及姿态信息,对虚拟内容进行显示。
步骤S330:根据交互设备的位置及姿态的变化信息中的至少一种,检测交互设备的运动状态。
步骤S340:当交互设备处于晃动状态时,获取交互设备的晃动参数。
在本申请实施例中,步骤S310至步骤S340可以参阅上述实施例的内容,在此不再赘述。
步骤S350:根据晃动参数,控制虚拟内容进行内容交互、内容添加、移动、旋转、内容选取以及缩放比例调整中的至少一种。
在获取到交互设备的晃动参数之后,则可以根据晃动参数,控制虚拟内容进行内容交互、内容添加、移动、旋转、内容选取以及缩放比例调整中的至少一种,当然,也还可以对虚拟内容进行其他控制,例如,虚拟内容的复制、拆分等。
其中,控制虚拟内容进行内容交互,可以指虚拟内容之间进行显示效果上的交互。在上述虚拟内容包括多部分虚拟内容时,则虚拟内容进行交互,指不同部分的虚拟内容之间进行显示效果上的交互,例如,虚拟内容的其中一部分内容将一显示效果施加于另一部分内容。当然,上述虚拟内容之间进行显示效果上的交互,也可以是上述终端设备显示的虚拟内容与其他终端设备显示的虚拟内容之间的显示效果的交互。
在一些实施方式中,上述终端设备显示的虚拟内容可以包括:第一虚拟内容以及第二虚拟内容。可以理解的是,终端设备显示的上述虚拟内容可以由两个虚拟内容构成,即可以由第一虚拟内容以及第二虚拟内容构成。当然,虚拟内容中也还可以包括有其他虚拟内容。
另外,上述交互设备的晃动参数可以至少包括晃动方向,晃动方向为交互设备在晃动时的移动方向,例如,晃动方向为水平方向、垂直方向等。
作为一种方式,根据晃动参数,控制虚拟内容进行内容交互,包括:
根据晃动参数,控制虚拟内容按照晃动方向显示晃动效果,其中,第一虚拟内容对应第一晃动效果,第二虚拟内容对应第二晃动效果;根据第一晃动效果及第二晃动效果,控制第一虚拟内容与第二虚拟内容执行交互操作。
可以理解的是,在根据晃动参数,控制虚拟内容进行内容交互时,可以控制虚拟内容按照晃动方向显示晃动效果,即晃动效果对应的方向与上述晃动方向一致,从而使用户可以看到虚拟内容的晃动方向与交互设备的晃动方向一致。并且,上述晃动效果可以与具体的虚拟内容对应,也就是说,第一虚拟内容与第二虚拟内容不同时,其对应的晃动效果也不同。因此,上述第一虚拟内容以及第二虚拟内容在显示晃动效果时,可以显示不同的晃动效果,具体可以是第一虚拟内容按照上述晃动方向显示第一晃动效果,第二虚拟内容按照上述晃动方向显示第二晃动效果。例如,请参见图7,显示的虚拟内容包括有第一虚拟内容、第二虚拟内容以及第三虚拟内容,第一虚拟内容为虚拟大海31,第二虚拟内容为位于虚拟大海31上的虚拟船32,第三虚拟内容为虚拟水晶球30,虚拟大海31和虚拟船32处于虚拟水晶球30中,用户通过终端设备,可以看到虚拟水晶球30叠加显示在交互设备上,用户手持交互设备进行交互时,由于虚拟水晶球30叠加显示在交互设备上,给用户的直观感受为手持虚拟水晶球30进行交互。如图8所示,在交互设备处于晃动状态,终端设备可以根据晃动参数,控制第一虚拟内容以及第二虚拟内容显示晃动效果,也即,可分别控制虚拟大海31和虚拟船32显示晃动效果。请参见图9,第一虚拟内容为虚拟大海31,第二虚拟内容为虚拟船32,第一虚拟内容对应的第一晃动效果可以为虚拟大海31的水面产生波浪的晃动效果,第二虚拟内容对应的第二晃动效果可以为虚拟船32随虚拟大海31的水面晃动的晃动效果。当然,以上仅为举例,应用场景并不限定于此。
当然,终端设备也还可以结合晃动参数中的其他参数,确定虚拟内容对应的晃动效果。例如,也还可以根据晃动频率和/或晃动幅度确定晃动效果等。
另外,终端设备可以根据第一晃动效果以及第二晃动效果,控制第一虚拟内容与第二虚拟内容执行相应的交互操作。可以理解的,在第一虚拟内容与第二虚拟内容显示不同的晃动效果后,第一虚拟内容与第二虚拟内容之间可以产生相应的交互操作。其中,交互操作可以为,第一虚拟内容施加对应的显示效果施加于第二虚拟内容,第二虚拟内容也将对应的显示效果施加于第一虚拟内容,其中,第一虚拟内容施加的显示效果可以与第一虚拟内容、第一晃动效果以及第二晃动效果对应,第二虚拟内容施加的显示效果可以与第二虚拟内容、第一晃动效果以及第二晃动效果对应。例如,上述图9所示的应用场景中,第一虚拟内容是虚拟大海31,第二虚拟内容是虚拟船32,可以控制虚拟大海31的水面产生波浪晃动效果,控制虚拟船32显示随虚拟大海31的水面晃动的晃动效果之后,则虚拟大海31可以将水洒向虚拟船32的船体,同时虚拟船32也可以随着其晃动而使海水波动。
又例如,在模拟化学实验的应用场景中,第一虚拟内容为化学固体1,第二虚拟内容为化学液体1,则根据化学固体1的第一晃动效果以及化学液体1的第二晃动效果,则化学固体1与化学液体1可以产生化学反应,并且显示出该化学反应的显示效果。当然,以上仅为举例,应用场景并不限定于此。
根据晃动参数,控制虚拟内容进行内容添加,可以指在终端设备当前显示的虚拟内容的基础上,添加其他虚拟内容于虚拟空间中,使终端设备当前显示的虚拟内容与添加的其他虚拟内容共同进行显示。
在一些实施方式中,其中,添加其他虚拟内容可以是终端设备当前显示的虚拟内容对应的扩展内容,该扩展内容与当前显示的虚拟内容相关,添加的虚拟内容对应的数据可以预先存储于终端设备,也可以是从其他设备(例如服务器等)获取。例如,在模拟炒菜的应用场景中,显示的虚拟内容为虚拟菜料时,在进行添加虚拟内容时,添加的虚拟内容可以为调料、其他菜料等。又例如,显示的虚拟内容为某地的地图时,上述添加的显示内容可以为当前的地图周围的地图,使当前显示的地图与扩展的地图一起显示,从而使显示的地图的内容更多。再例如,显示的虚拟内容为化学固体2时,添加的虚拟内容可以为化学液体2,从而后续化学固体2可以与化学液体2产生化学反应,达到模拟化学实验的效果。当然,以上仅为举例,应用场景并不限定于此。
根据晃动参数,控制虚拟内容进行移动,可以指将虚拟内容或者虚拟内容的部分内容进行任意方向的移动。例如,在游戏场景中,可以根据晃动参数,控制游戏对象的移动,实现通过晃动交互设备,而使游戏对象可以处于虚拟空间中的不同位置,并控制虚拟对象执行不同操作。当然,以上仅为举例,应用场景并不限定于此。
在一些实施方式中,晃动参数可以至少包括有晃动频率,晃动频率可以指交互设备在一定时间内的晃动次数。
上述根据晃动参数,控制虚拟内容进行移动,可以包括:根据晃动参数,将虚拟内容按照上述晃动频率对应的速度进行移动;当晃动频率达到预设阈值时,控制虚拟内容从当前的第一显示状态变化为第二显示状态。
可以理解的是,在根据晃动参数,控制虚拟内容进行移动时,可以确定晃动参数中晃动频率所对应的速度,该速度用作虚拟内容进行移动时的移动速度。终端设备可以根据确定的上述速度,控制虚拟内容以该速度进行移动。上述晃动频率与虚拟内容移动的速度的对应关系,可以是虚拟内容移动的速度与交互设备的晃动频率成正比的关系,即晃动频率越高,则虚拟内容移动的速度越大。从而可以使用户可以通过控制交互设备的晃动频率,而控制虚拟内容的移动速度。
另外,还可以检测晃动频率是否达到预设阈值,以在晃动频率达到预设阈值时,改变虚拟内容的显示状态。具体的,可以控制虚拟内容从当前的第一显示状态变化为第二显示状态。其中,控制虚拟内容变化为第二显示状态,可以是,在虚拟空间中加入新的虚拟内容,例如,请同时参见图9及图10,在上述图9所示的应用场景中,可以加入虚拟雨水33、虚拟乌云34、虚拟闪电35等,显示出下雨的显示效果。控制虚拟内容变化为第二显示状态,也可以是,改变虚拟内容的颜色、尺寸等。控制虚拟内容变化为第二显示状态,也可以是,控制虚拟内容显示特定显示效果,例如,显示火光效果、烟雾效果等。当然,具体虚拟内容变化至的显示状态,在本申请实施例中可以不作为限定。
根据晃动参数,控制虚拟内容进行旋转,可以指在二维平面或者三维空间中将虚拟内容进行指定方向(例如,水平方向、垂直方向、或者自由方向等)上的转动,也就是将虚拟内容沿指定方向的旋转轴进行转动,使显示的虚拟内容的姿态(朝向方向等)发生变换。在一些实施方式中,虚拟内容旋转的方向,可以设定为指定方向,也就是说,在检测出交互设备处于晃动状态之后,则可以控制虚拟内容进行指定方向上的转动。在一些实施方式中,虚拟内容旋转的方向,可以与晃动方向对应,也就是说,在检测出交互设备处于晃动状态之后,则可以控制虚拟内容进行晃动方向对应的方向上的转动。例如,在显示的虚拟内容为地球模型时,可以根据晃动参数控制地球模型的转动,以显示地球模型的不同视角。
根据晃动参数,控制虚拟内容进行内容选取,可以指在二维平面中将虚拟内容或者虚拟内容的部分内容选取,以使虚拟内容或者虚拟内容的部分内容处于选中状态。在一种应用场景中,虚拟内容为用于用户选择的菜品的多个虚拟选项内容时,当其中一个虚拟选项内容处于指定位置时,在晃动参数为指定参数时,例如,晃动方向为指定方向且晃动频率高于设定频率时,可以控制该虚拟选项内容处于选中状态。
根据晃动参数,控制虚拟内容进行缩放比例调整,可以指在将虚拟内容的模型进行放大比例或者缩小比例的调整,其中,放大比例以及缩小比例为显示的虚拟内容的大小相对于虚拟内容的原始大小的比例。在一些实施方式中,可以通过晃动方向确定对虚拟内容的模型进行放大比例或者缩小比例的调整,例如,在晃动方向为第一方向时,对虚拟内容的模型进行放大,在晃动方向为第二方向时,对虚拟内容的模型进行缩小。另外,可以根据晃动频率和/或晃动幅度,确定对虚拟内容的模型进行放大或者缩小的比例,例如,晃动频率越高,则放大或者缩小的比例越大,又例如,晃动幅度越高,则放大或者缩小的比例越大。
在一些实施方式中,上述对虚拟内容进行的具体控制,也可以配合完成对虚拟内容的控制。在一个应用场景中,请参见图7,虚拟内容可以包括虚拟水晶球30、虚拟大海31以及虚拟船32。请同时参见图8及图9,当终端设备检测到交互设备处于晃动状态时,可以控制虚拟大海31与虚拟船32进行内容交互,使虚拟大海31的水面随晃动方向产生波浪晃动效果,制虚拟船32产生随水面晃动的晃动效果;请参见图10,在晃动频率达到预设阈值时,可以进行内容添加,例如,可以添加虚拟乌云34、虚拟雨水33、虚拟闪电35等虚拟内容,产生下雨事件的显示效果;如图11所示,在触发上述下雨事件之后,可以继续进行内容添加,可以于虚拟大海31中添加虚拟海怪36,并且可以显示虚拟海怪36从海面伸出触须攻击虚拟船32的显示效果;请同时参见图12及图13,用户可以通过晃动交互设备,从而终端设备可以根据检测到的交互设备当前的晃动参数,对虚拟内容进行移动,具体可以控制虚拟船32于虚拟大海31中进行移动,以躲避虚拟海怪36的攻击。
当然,根据晃动参数对虚拟内容的控制,并不限于上述内容,例如,也还可以根据晃动参数控制虚拟内容进行复制等。另外,终端设备还可以根据晃动参数,播放与虚拟内容对应的音频等。
本申请实施例提供的虚拟内容的显示方法,终端设备根据交互设备相对于终端设备的位置及姿态信息,显示虚拟内容,使用户可以观察到虚拟内容叠加于真实世界的效果,并根据交互设备的位置和/或姿态的变化信息,确定出交互设备处于晃动状态时,利用交互设备的姿态变化范围,确定交互设备的晃动参数,根据晃动参数,控制虚拟内容进行内容交互、内容添加、移动、旋转、内容选取以及缩放比例调整等,达到了与显示的虚拟内容之间良好的交互,提升了虚拟内容的显示中的互动性。
请参阅图14,本申请实施例提供了再一种虚拟内容的显示方法,可应用于上述终端设备,该虚拟内容的显示方法可以包括:
步骤S410:获取交互设备相对于终端设备的位置及姿态信息。
步骤S420:根据上述位置及姿态信息,对虚拟内容进行显示。
步骤S430:当接收到交互设备发送的控制触发指令,则根据交互设备的位置及姿态的变化信息中的至少一种,检测交互设备的运动状态,其中,控制触发指令为交互设备根据操控区检测的控制操作生成。
在本申请实施例中,交互设备可以设置有至少一个操控区,该操控区可以包括按键以及触摸屏中的至少一种。交互设备的操控区可以检测到控制操作,控制操作可以为用户对按键的按键操作,也可以为在触摸屏的触控操作。
在交互设备的操控区检测到控制操作时,交互设备可以根据该控制操作生成控制触发指令。该控制触发指令用于触发终端设备根据晃动参数,对虚拟内容进行控制,也就是说,终端设备在接收到交互设备发送的上述控制触发指令之后,才可以在检测到晃动状态时,根据晃动参数对虚拟内容进行控制。
因此,终端设备在接收到交互设备发送的上述控制触发指令时,终端设备则可以根据交互设备及姿态的变化信息中的至少一种,检测交互设备的运动状态,具体检测交互设备的运动状态的方式可以参阅上述实施例的内容,在此不再赘述。
步骤S440:当交互设备处于晃动状态时,获取交互设备的晃动参数。
在本申请实施例中,步骤S440可以参阅上述实施例的内容,在此不再赘述。
步骤S450:接收交互设备根据操控区检测的控制操作发送的操控指令。
在本申请实施例中,终端设备还可以接收交互设备发送的操控指令,该操控指令由交互设备检测到控制操作后,根据检测到的控制操作生成操控指令,并将该操控指令发送至终端设备,该操控指令用于终端设备对虚拟内容进行相应的控制。终端设备在接收到该操控指令后,则可以后续根据该操控指令,对虚拟内容进行相应控制。
步骤S460:根据晃动参数对第一内容进行第一控制,并根据操控指令,对第二内容进行第二控制。
终端设备在获取到交互设备的晃动参数,以及接收到交互设备发送的操控指令时,则可以同时根据上述晃动参数以及操控指令,对虚拟内容进行控制。
在本申请实施例中,终端设备显示的虚拟内容可以包括第一内容以及第二内容。也就是说,虚拟内容可以由第一内容以及第二内容构成。当然,终端设备显示的虚拟内容中也还可以包括其他内容。
终端设备在根据晃动参数以及上述操控指令,对虚拟内容控制时,可以是根据晃动参数以及操控指令,对第一内容进行控制,以及对第二内容进行控制。具体的,终端设备可以根据晃动参数,对第一内容进行第一控制,根据操控指令面对第二内容进行第二控制。上述第一控制与第二控制,可以是对虚拟内容相同的控制,也可以是不同的控制,具体的控制内容在本申请实施例中可以不作为限定。从而,可以实现通过交互设备的晃动,以及交互设备检测的控制操作,共同对虚拟内容进行控制,达到较好的交互效果。
在一个应用场景中,在显示虚拟水晶球30,当检测到交互设备的控制触发指令时,终端设备可以检测交互设备的运动状态,如图15所示,在检测到交互设备的控制触发指令时,可以显示向虚拟水晶球30注入虚拟海水,并形成虚拟大海31。如图7所示,在显示虚拟大海31后,可以显示虚拟船32于虚拟大海31。请同时参见图8及图9,当检测到交互设备处于晃动状态,可以根据晃动参数,控制虚拟大海31的水面产生波浪晃动效果,控制虚拟船32显示随虚拟大海31的水面晃动的晃动效果。如图10所示,在晃动频率大于预设阈值时,显示虚拟乌云34、虚拟雨水33、虚拟闪电35等虚拟内容,产生下雨事件的显示效果。如图11所示,在显示上述虚拟乌云34、虚拟雨水33、虚拟闪电35等虚拟内容之后,可以于虚拟大海31中添加虚拟海怪36,并且可以显示虚拟海怪36从海面伸出触须攻击虚拟船31的显示效果。另外,如图16所示,终端设备可以接收交互设备根据检测的控制操作而发送的操控指令,并根据操控指令,控制上述虚拟闪电35攻击虚拟海怪36。当然,应用场景并不限于此,也还可以是其他场景。
在另一种应用场景中,虚拟内容也可以是化学物品,在显示化学液体3及化学固体3,也可以通过交互设备发送的操控指令以及交互设备的晃动参数,共同对化学物品进行控制。例如,可以根据晃动参数,控制化学固体3显示晃动效果,并根据操控指令,模拟对化学液体3进行加热,达到模拟化学实验的效果。
当然,本申请实施例提供的虚拟内容的显示方法的应用场景,并不仅限于此,也还可以为其他应用场景。
本申请实施例提供的虚拟内容的显示方法,终端设备根据交互设备相对于终端设备的位置及姿态信息,显示虚拟内容,使用户可以观察到虚拟内容叠加于真实世界的效果。在接收到交互设备发送的控制触发指令之后,检测交互设备的晃动状态,并在确定出交互设备处于晃动状态时,确定交互设备的晃动参数,还接收交互设备发送的操控指令,并根据晃动参数以及上述操控指令,共同对虚拟内容进行控制,提升与显示的虚拟内容之间的交互效果,提升了虚拟内容显示中的趣味性。
请参见图17,其示出了本申请提供的一种虚拟内容的显示装置400的结构框图。该虚拟内容的显示装置400应用于终端设备,终端设备与交互设备连接。该虚拟内容的显示装置400包括:位置获取模块410、内容显示模块420、状态检测模块430、参数获取模块440以及内容控制模块450。其中,位置获取模块410用于获取交互设备相对于终端设备的位置及姿态信息;内容显示模块420用于根据位置及姿态信息,对虚拟内容进行显示;状态检测模块430用于根据交互设备的位置及姿态的变化信息中的至少一种,检测交互设备的运动状态;参数获取模块440用于当交互设备处于晃动状态时,获取交互设备的晃动参数;内容控制模块450用于根据晃动参数控制虚拟内容的显示,以使显示的虚拟内容与交互设备的晃动状态对应。
在本申请实施例中,晃动参数为根据交互设备的位置及姿态的变化信息中的至少一种获取。内容控制模块450可以具体用于:根据晃动参数与控制指令的对应关系,生成晃动参数对应的控制指令,并根据控制指令控制虚拟内容的显示,以使显示的虚拟内容与实体对像的位置和/或姿态变化匹配。
在本申请实施例中,内容控制模块450可以具体用于:根据晃动参数,控制虚拟内容进行内容交互、内容添加、移动、旋转、内容选取以及缩放比例调整中的至少一种。
在一些实施方式中,晃动参数包括晃动方向,虚拟内容包括第一虚拟内容以及虚拟第二内容。内容控制模块450根据晃动参数,控制虚拟内容进行内容交互,包括:根据晃动参数,控制虚拟内容按照晃动方向显示晃动效果,其中,第一虚拟内容对应第一晃动效果,第二虚拟内容对应第二晃动效果;根据第一晃动效果及第二晃动效果,控制第一虚拟内容与第二虚拟内容执行交互操作。
在一些实施方式中,晃动参数包括晃动频率。内容控制模块450根据晃动参数,控制虚拟内容进行移动,包括:根据控制参数,将虚拟内容按照晃动频率对应的速度进行移动;当晃动频率达到预设阈值时,控制虚拟内容从当前的第一显示状态变化为第二显示状态。
在本申请实施例中,状态检测模块430可以具体用于:判断交互设备在指定时长内的位置和/或姿态的变化频率是否大于频率阈值;当位置和/或姿态的变化频率大于频率阈值时,则确定交互设备处于晃动状态。
在本申请实施例中,参数获取模块可440以具体用于:获取交互设备在预设时间段内的姿态参数,并确定交互设备的姿态参数的变化范围;基于姿态参数的变化范围,确定交互设备的晃动参数。
在本申请实施例中,参数获取模块440获取交互设备在预设时间段内的姿态参数,包括:在预设时间段内采集包含交互设备设置的至少一个标记物的标记物图像,根据标记物图像,获取交互设备的姿态参数;或者接收交互设备在预设时间段内发送的交互设备检测的姿态参数。
在本申请实施例中,状态检测模块430可以具体用于:当接收到交互设备发送的控制触发指令,则根据交互设备的位置及姿态的变化信息中的至少一种,检测交互设备的运动状态,其中,控制触发指令为交互设备根据操控区检测的控制操作生成。
在本申请实施例中,内容控制模块450可以具体用于:接收交互设备根据操控区检测的控制操作发送的操控指令;根据晃动参数对第一内容进行第一控制,并根据操控指令,对第二内容进行第二控制。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述装置和模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本申请所提供的几个实施例中,模块相互之间的耦合可以是电性,机械或其它形式的耦合。另外,在本申请各个实施例中的各功能模块可以集成在一个处理模块中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。
综上所述,本申请提供的方案,应用于终端设备,终端设备与交互设备连接,通过获取交互设备相对于终端设备的位置及姿态信息,显示虚拟内容,使用户可以观察到虚拟内容叠加于真实世界的效果,并根据交互设备的位置和/或姿态的变化信息中的至少一种,确定出交互设备处于晃动状态时,获取交互设备的晃动参数,根据晃动参数控制虚拟内容的显示,较好地实现了与显示的虚拟内容之间的交互,提升互动性。
请参考图18,其示出了本申请实施例提供的一种终端设备的结构框图。该终端设备100可以是智能手机、平板电脑、头戴显示装置等能够运行应用程序的终端设备。本申请中的终端设备100可以包括一个或多个如下部件:处理器110、存储器120、图像采集装置130以及一个或多个应用程序,其中一个或多个应用程序可以被存储在存储器120中并被配置为由一个或多个处理器110执行,一个或多个程序配置用于执行如前述方法实施例所描述的方法。
处理器110可以包括一个或者多个处理核。处理器110利用各种接口和线路连接整个终端设备100内的各个部分,通过运行或执行存储在存储器120内的指令、程序、代码集或指令集,以及调用存储在存储器120内的数据,执行终端设备100的各种功能和处理数据。可选地,处理器110可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable LogicArray,PLA)中的至少一种硬件形式来实现。处理器110可集成中央处理器(CentralProcessing Unit,CPU)、图像处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作***、用户界面和应用程序等;GPU用于负责显示内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器110中,单独通过一块通信芯片进行实现。
存储器120可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory)。存储器120可用于存储指令、程序、代码、代码集或指令集。存储器120可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作***的指令、用于实现至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现下述各个方法实施例的指令等。存储数据区还可以存储终端100在使用中所创建的数据等。
在本申请实施例中,图像采集装置130用于采集标记物的图像。图像采集装置130可以为红外摄像头,也可以是彩色摄像头,具体的摄像头类型在本申请实施例中并不作为限定。
请参考图19,其示出了本申请实施例提供的一种计算机可读存储介质的结构框图。该计算机可读介质800中存储有程序代码,程序代码可被处理器调用执行上述方法实施例中所描述的方法。
计算机可读存储介质800可以是诸如闪存、EEPROM(电可擦除可编程只读存储器)、EPROM、硬盘或者ROM之类的电子存储器。可选地,计算机可读存储介质800包括非易失性计算机可读介质(non-transitory computer-readable storage medium)。计算机可读存储介质800具有执行上述方法中的任何方法步骤的程序代码810的存储空间。这些程序代码可以从一个或者多个计算机程序产品中读出或者写入到这一个或者多个计算机程序产品中。程序代码810可以例如以适当形式进行压缩。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不驱使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (10)

1.一种虚拟内容的显示方法,其特征在于,应用于终端设备,所述终端设备与交互设备连接,所述方法包括:
获取所述交互设备相对于所述终端设备的位置及姿态信息;
根据所述位置及姿态信息,对虚拟内容进行显示;
根据所述交互设备的位置及姿态的变化信息中的至少一种,检测所述交互设备的运动状态;
当所述交互设备处于晃动状态时,获取所述交互设备的晃动参数;
根据所述晃动参数控制所述虚拟内容进行内容交互、内容添加、移动、旋转、内容选取以及缩放比例调整中的至少一种,以使显示的虚拟内容与所述交互设备的晃动状态对应;
所述晃动参数包括晃动方向,所述虚拟内容包括第一虚拟内容以及第二虚拟内容,所述根据所述晃动参数控制所述虚拟内容进行内容交互,包括:
根据所述晃动参数,控制所述虚拟内容按照所述晃动方向显示晃动效果,其中,所述第一虚拟内容对应第一晃动效果,所述第二虚拟内容对应第二晃动效果;根据所述第一晃动效果以及所述第二晃动效果,控制所述第一虚拟内容与所述第二虚拟内容执行交互操作。
2.根据权利要求1所述的方法,其特征在于,所述晃动参数为根据所述交互设备的位置及姿态的变化信息中的至少一种获取;
所述根据所述晃动参数控制所述虚拟内容的显示,包括:
根据所述晃动参数与控制指令的对应关系,生成所述晃动参数对应的控制指令,并根据所述控制指令控制所述虚拟内容的显示,以使显示的虚拟内容与实体对像的位置和/或姿态变化匹配。
3.根据权利要求1所述的方法,其特征在于,所述晃动参数包括晃动频率,所述根据所述晃动参数,控制所述虚拟内容进行移动,包括:
根据所述晃动参数,将所述虚拟内容按照所述晃动频率对应的速度进行移动;
当所述晃动频率达到预设阈值时,控制所述虚拟内容从当前的第一显示状态变化为第二显示状态。
4.根据权利要求1所述的方法,其特征在于,所述根据所述交互设备的位置及姿态的变化信息中的至少一种,检测所述交互设备的运动状态,包括:
判断所述交互设备在指定时长内的位置和/或姿态的变化频率是否大于频率阈值;
当所述位置和/或姿态的变化频率大于所述频率阈值时,则确定所述交互设备处于晃动状态。
5.根据权利要求1所述的方法,其特征在于,所述获取所述交互设备的晃动参数,包括:
获取所述交互设备在预设时间段内的姿态参数,并确定所述交互设备的姿态参数的变化范围;
基于所述姿态参数的变化范围,确定所述交互设备的晃动参数。
6.根据权利要求5所述的方法,其特征在于,所述获取所述交互设备在预设时间段内的姿态参数,包括:
在预设时间段内采集包含所述交互设备设置的至少一个标记物的标记物图像,
根据所述标记物图像,获取所述交互设备的姿态参数;或者
接收所述交互设备在预设时间段内发送的所述交互设备检测的姿态参数。
7.根据权利要求1所述的方法,其特征在于,所述交互设备包括操控区,所述虚拟内容包括第一内容以及第二内容,所述根据所述晃动参数控制所述虚拟内容的显示,包括:
接收所述交互设备根据所述操控区检测的控制操作发送的操控指令;
根据所述晃动参数对所述第一内容进行第一控制,并根据所述操控指令,对所述第二内容进行第二控制。
8.一种虚拟内容的显示装置,其特征在于,应用于终端设备,所述终端设备与交互设备连接,所述装置包括:位置获取模块、内容显示模块、状态检测模块、参数获取模块以及内容控制模块,其中,
所述位置获取模块用于获取所述交互设备相对于所述终端设备的位置及姿态信息;
所述内容显示模块用于根据所述位置及姿态信息,对虚拟内容进行显示;
所述状态检测模块用于根据所述交互设备的位置及姿态的变化信息中的至少一种,检测所述交互设备的运动状态;
所述参数获取模块用于当所述交互设备处于晃动状态时,获取所述交互设备的晃动参数;
所述内容控制模块用于根据所述晃动参数控制所述虚拟内容进行内容交互、内容添加、移动、旋转、内容选取以及缩放比例调整中的至少一种,以使显示的虚拟内容与所述交互设备的晃动状态对应;
所述晃动参数包括晃动方向,所述虚拟内容包括第一虚拟内容以及第二虚拟内容,所述内容控制模块还用于根据所述晃动参数,控制所述虚拟内容按照所述晃动方向显示晃动效果,其中,所述第一虚拟内容对应第一晃动效果,所述第二虚拟内容对应第二晃动效果;根据所述第一晃动效果以及所述第二晃动效果,控制所述第一虚拟内容与所述第二虚拟内容执行交互操作。
9.一种终端设备,其特征在于,包括:
一个或多个处理器;
存储器;
一个或多个应用程序,其中所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序配置用于执行如权利要求1-7任一项所述的方法。
10.一种计算机可读取存储介质,其特征在于,所述计算机可读取存储介质中存储有程序代码,所述程序代码可被处理器调用执行如权利要求1-7任一项所述的方法。
CN201910060758.7A 2019-01-21 2019-01-21 虚拟内容的显示方法、装置、终端设备及存储介质 Active CN111459263B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910060758.7A CN111459263B (zh) 2019-01-21 2019-01-21 虚拟内容的显示方法、装置、终端设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910060758.7A CN111459263B (zh) 2019-01-21 2019-01-21 虚拟内容的显示方法、装置、终端设备及存储介质

Publications (2)

Publication Number Publication Date
CN111459263A CN111459263A (zh) 2020-07-28
CN111459263B true CN111459263B (zh) 2023-11-03

Family

ID=71682283

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910060758.7A Active CN111459263B (zh) 2019-01-21 2019-01-21 虚拟内容的显示方法、装置、终端设备及存储介质

Country Status (1)

Country Link
CN (1) CN111459263B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112346580B (zh) * 2020-10-27 2024-01-12 努比亚技术有限公司 一种运动姿态检测方法、设备及计算机可读存储介质
CN113359988B (zh) * 2021-06-03 2022-11-29 北京市商汤科技开发有限公司 一种信息的展示方法、装置、计算机设备及存储介质
CN113687717A (zh) * 2021-08-10 2021-11-23 青岛小鸟看看科技有限公司 基于位置变化的vr交互方法、***
CN114764327B (zh) * 2022-05-09 2023-05-05 北京未来时空科技有限公司 一种三维可交互媒体的制作方法、装置及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103019569A (zh) * 2012-12-28 2013-04-03 西安Tcl软件开发有限公司 交互设备及交互设备交互的方法
US9383895B1 (en) * 2012-05-05 2016-07-05 F. Vinayak Methods and systems for interactively producing shapes in three-dimensional space
CN205644439U (zh) * 2016-04-22 2016-10-12 邻元科技(北京)有限公司 一种骰子形状的人机交互设备
CN106662926A (zh) * 2014-05-27 2017-05-10 厉动公司 普适计算环境中的姿势交互的***和方法
CN108269307A (zh) * 2018-01-15 2018-07-10 歌尔科技有限公司 一种增强现实交互方法及设备
CN108958471A (zh) * 2018-05-17 2018-12-07 中国航天员科研训练中心 虚拟空间中虚拟手操作物体的仿真方法及***
CN109240484A (zh) * 2017-07-10 2019-01-18 北京行云时空科技有限公司 一种增强现实***中的交互方法、装置及设备

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9383895B1 (en) * 2012-05-05 2016-07-05 F. Vinayak Methods and systems for interactively producing shapes in three-dimensional space
CN103019569A (zh) * 2012-12-28 2013-04-03 西安Tcl软件开发有限公司 交互设备及交互设备交互的方法
CN106662926A (zh) * 2014-05-27 2017-05-10 厉动公司 普适计算环境中的姿势交互的***和方法
CN205644439U (zh) * 2016-04-22 2016-10-12 邻元科技(北京)有限公司 一种骰子形状的人机交互设备
CN109240484A (zh) * 2017-07-10 2019-01-18 北京行云时空科技有限公司 一种增强现实***中的交互方法、装置及设备
CN108269307A (zh) * 2018-01-15 2018-07-10 歌尔科技有限公司 一种增强现实交互方法及设备
CN108958471A (zh) * 2018-05-17 2018-12-07 中国航天员科研训练中心 虚拟空间中虚拟手操作物体的仿真方法及***

Also Published As

Publication number Publication date
CN111459263A (zh) 2020-07-28

Similar Documents

Publication Publication Date Title
CN111459263B (zh) 虚拟内容的显示方法、装置、终端设备及存储介质
CN108027653B (zh) 虚拟环境中的触觉交互
JP2022521324A (ja) ゲームキャラクター制御方法、装置、機器および記憶媒体
EP2371434B1 (en) Image generation system, image generation method, and information storage medium
EP4057109A1 (en) Data processing method and apparatus, electronic device and storage medium
US8882593B2 (en) Game processing system, game processing method, game processing apparatus, and computer-readable storage medium having game processing program stored therein
CN107890664A (zh) 信息处理方法及装置、存储介质、电子设备
US11513657B2 (en) Method and apparatus for controlling movement of virtual object, terminal, and storage medium
CN111383345B (zh) 虚拟内容的显示方法、装置、终端设备及存储介质
CN111198608A (zh) 信息提示方法、装置、终端设备及计算机可读取存储介质
US11087545B2 (en) Augmented reality method for displaying virtual object and terminal device therefor
CN111223187A (zh) 虚拟内容的显示方法、装置及***
CN111771180A (zh) 增强现实环境中对象的混合放置
CN110737414B (zh) 交互显示方法、装置、终端设备及存储介质
CN108553895A (zh) 用户界面元素与三维空间模型关联的方法和装置
CN111273777A (zh) 虚拟内容的控制方法、装置、电子设备及存储介质
CN112313605A (zh) 增强现实环境中对象的放置和操纵
CN110737326A (zh) 虚拟对象的显示方法、装置、终端设备及存储介质
CN111813214B (zh) 虚拟内容的处理方法、装置、终端设备及存储介质
Bikos et al. An interactive augmented reality chess game using bare-hand pinch gestures
US11100723B2 (en) System, method, and terminal device for controlling virtual image by selecting user interface element
CN110908508B (zh) 虚拟画面的控制方法、终端设备及存储介质
CN114341773A (zh) 用于自适应增强现实锚点生成的方法和装置
CN111913564A (zh) 虚拟内容的操控方法、装置、***、终端设备及存储介质
CN108983954B (zh) 基于虚拟现实的数据处理方法、装置以及***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant