CN111510701A - 虚拟内容的显示方法、装置、电子设备及计算机可读介质 - Google Patents
虚拟内容的显示方法、装置、电子设备及计算机可读介质 Download PDFInfo
- Publication number
- CN111510701A CN111510701A CN202010322732.8A CN202010322732A CN111510701A CN 111510701 A CN111510701 A CN 111510701A CN 202010322732 A CN202010322732 A CN 202010322732A CN 111510701 A CN111510701 A CN 111510701A
- Authority
- CN
- China
- Prior art keywords
- target object
- information
- image
- virtual content
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/363—Image reproducers using image projection screens
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/012—Walk-in-place systems for allowing a user to walk in a virtual environment while constraining him to a given position in the physical environment
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请公开了一种虚拟内容的显示方法、装置、电子设备及计算机可读介质,涉及显示技术领域,方法包括:获取图像采集装置采集的真实环境的图像;如果图像内存在目标物体,获取目标物体对应的产品描述信息;获取目标物体在真实环境内的视觉呈现信息;根据产品描述信息和视觉呈现信息生成虚拟内容,虚拟内容用于表征产品描述信息;在目标物体在真实环境的位置处添加虚拟内容。因此,在真实环境内,目标物体的位置处通过所添加的虚拟内容,从而能够通过该虚拟内容展示目标物体对应的产品描述信息,相比阅读产品使用说明书的方式,该虚拟内容的方式更加生动有趣,而且更加能够吸引用户以及方便用户获知该产品描述信息。
Description
技术领域
本申请涉及显示技术领域,更具体地,涉及一种虚拟内容的显示方法、装置、电子设备及计算机可读介质。
背景技术
目前,用户在需要了解一款产品的时候,往往会阅读产品相关的介绍。例如,在安装产品或者使用产品的时候,需要阅读产品的使用说明书,才能成功安装或使用产品。再例如,在网购的时候,需要观看产品的视频介绍或者阅读产品的详情介绍等。但是,产品相关的介绍读起来比较晦涩、内容较多且不容易懂,并且用户往往不太有耐心认真读完该内容。
发明内容
本申请提出了一种虚拟内容的显示方法、装置、电子设备及计算机可读介质,以改善上述缺陷。
第一方面,本申请实施例提供了一种虚拟内容的显示方法,包括:获取图像采集装置采集的真实环境的图像;如果所述图像内存在目标物体,获取所述目标物体对应的产品描述信息;获取所述目标物体在所述真实环境内的视觉呈现信息,所述视觉呈现信息包括所述目标物体相对所述图像采集装置的位姿信息;根据所述产品描述信息和所述视觉呈现信息生成虚拟内容,所述虚拟内容用于表征所述产品描述信息;在所述目标物体在所述真实环境的位置处添加所述虚拟内容。
第二方面,本申请实施例还提供了一种虚拟内容的显示装置,所述装置包括:第一获取单元、第二获取单元、确定单元和处理单元。第一获取单元,用于获取图像采集装置采集的真实环境的图像;第二获取单元,用于如果所述图像内存在目标物体,获取所述目标物体对应的产品描述信息和所述目标物体在所述真实环境内的视觉呈现信息,所述视觉呈现信息包括所述目标物体相对所述图像采集装置的位姿信息;确定单元,用于根据所述产品描述信息生成虚拟内容;处理单元,用于在所述目标物体在所述真实环境的位置处添加所述虚拟内容。
第三方面,本申请实施例还提供了一种电子设备,包括:一个或多个处理器;存储器;一个或多个应用程序,其中所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个应用程序配置用于执行上述方法。
第四方面,本申请实施例还提供了一种计算机可读介质,所述可读存储介质存储有处理器可执行的程序代码,所述程序代码被所述处理器执行时使所述处理器执行上述方法。
本申请提供的虚拟内容的显示方法、装置、电子设备及计算机可读介质,获取图像采集装置采集的真实环境的图像,确定图像内是否存在目标物体,如果图像内存在目标物体,则可以获取目标物体对应的产品描述信息,该产品描述信息为用于描述目标物体的信息,然后,获取所述目标物体在所述真实环境内的视觉呈现信息,所述视觉呈现信息包括所述目标物体相对所述图像采集装置的位姿信息,根据所述产品描述信息生成虚拟内容,在所述目标物体在所述真实环境的位置处添加所述虚拟内容。因此,在真实环境内,目标物体的位置处通过所添加的虚拟内容,从而能够通过该虚拟内容展示目标物体对应的产品描述信息,相比阅读产品相关的文字内容的方式,该虚拟内容的方式更加生动有趣,而且更加能够吸引用户以及方便用户获知该产品描述信息。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了本申请一实施例提供的一种AR设备的示意图;
图2示出了本申请另一实施例提供的一种AR设备的示意图;
图3示出了本申请一实施例提供的虚拟内容的显示方法的方法流程图;
图4示出了本申请一实施例提供的虚拟内容的示意图;
图5示出了本申请另一实施例提供的虚拟内容的显示方法的方法流程图;
图6示出了本申请另一实施例提供的虚拟内容的示意图;
图7示出了本申请又一实施例提供的虚拟内容的示意图;
图8示出了本申请又一实施例提供的虚拟内容的显示方法的方法流程图;
图9示出了图8中S840的方法流程图;
图10示出了本申请实施例提供的分析模型的示意图;
图11示出了本申请实施例提供的分析模型的训练和应用过程的示意图;
图12示出了本申请再一实施例提供的虚拟内容的示意图;
图13示出了本申请一实施例提供的虚拟内容的显示装置的模块框图;
图14示出了本申请另一实施例提供的虚拟内容的显示装置的模块框图;
图15示出了本申请一实施例提出的电子设备的模块框图;
图16示出了本申请实施例的用于保存或者携带实现根据本申请实施例的方法的程序代码的存储单元。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。目前,用户在需要了解一款产品的时候,往往会阅读产品相关的介绍。例如,在安装产品或者使用产品的时候,需要阅读产品的使用说明书,才能成功安装或使用产品,再例如,在网购的时候,需要观看产品的视频介绍或者阅读产品的详情介绍等。但是,使用产品相关的介绍读起来比较晦涩、内容较多且不容易懂,并且用户往往不太有耐心认真读完该内容。例如,在现实生活中,很多商品,比如家用电器,需要阅读说明书,这通常是一个乏味的步骤。
则为了提高用户阅读产品说明书的便捷性、降低阅读说明书的乏味性以及更加能够吸引用户阅读产品说明书和提高用户获知该产品说明书的内容的便捷性,可以通过增强现实(AR,Augmented Reality)技术展示该产品说明书的内容。
增强现实是通过计算机***提供的信息增加用户对现实世界感知的技术,其将计算机生成的虚拟内容、场景或***提示信息等内容对象叠加到真实场景中,来增强或修改对现实世界环境或表示现实世界环境的数据的感知,用户可以通过佩戴AR眼镜等头戴显示设备在现实世界环境中观察到虚拟内容等内容与真实世界叠加之后的增强现实或混合现实的效果。
例如,一些AR眼镜可以通过AR眼镜的摄像头和传感器采集现实环境中的信息,经过处理器和特定算法运行后,渲染出相应的图像,显示在镜片上,让使用者感觉虚拟的图像与现实世界相重合。
还有一些AR眼镜为分体式结构,即眼镜的处理器模块不是在眼镜上,而是位于一个单独的计算单元上,该计算单元通过导线与AR眼镜相连接。AR眼镜的摄像头和传感器采集到的数据经过预处理后发送到计算单元,计算单元根据采集到的信息渲染出相应的虚拟图像,虚拟图像传输到AR眼镜进行显示。
如图1所示,图1示出了一种AR设备,则该AR设备可以是头戴显示设备,具体地,该头戴显示设备为AR眼镜。如图1所示,该头戴显示设备包括显示屏110、框架120和成像装置130。
该框架120包括前表面121、侧表面122和后表面123,显示屏110安装在所述框架的前表面,成像装置130能够将虚拟内容的图像显示在显示屏110上。例如,该成像装置130可以是衍射光波导,能够将图像投影到显示屏上。
作为一种实施方式,该显示屏110可以是该AR眼镜的镜片,并且该显示屏110还可以透光,即该显示屏110可以是半透半反的镜片,用户在佩戴该头戴显示设备的时候,当该显示屏110上显示图像的时候,用户能够看到该显示屏110上所显示的图像同时还可以透过该显示屏110看到周围环境中现实世界中的物体。则通过该半透半反的镜片,用户能够将镜片上所显示的图像与周围环境相叠加,从而实现增强现实的视觉效果。
其中,用户在佩戴该头戴显示设备的时候,显示屏110位于用户的眼前,即前表面121在用户眼睛的前方,后表面123位于用户眼睛的后方,侧表面122位于用户眼睛的侧方。
另外,在前表面121设置有前置摄像头,通过该前置摄像头感知前方的环境信息,以便实现即时定位与地图构建(Simultaneous Localization and Mapping,SLAM),进而实现增强现实或混合现实的视觉效果。
在另一些AR技术中,可以使用前置摄像头实现真实场景与虚拟内容的结合。具体地,可以在头戴显示设备的前表面的前置摄像头的视野方向与用户在佩戴该头戴显示设备时用户的视野方向一致,且该前置摄像头用于采集真实场景的图像,并且将所采集的真实场景的图像经过处理之后显示在用户眼前的显示屏上,具体地,可以是在真实场景的图像上叠加虚拟内容的图像,被用户看到,以使用户观察到增强现实的视觉效果。
作为另一种实施方式,还可以通过移动终端或者平板电脑、计算机设备等带有屏幕的终端实现AR效果。具体地,如图2所示,图2示出了另一种AR设备,该AR设备可以是用户终端,该终端包括摄像头和屏幕,如图2所示,在终端的屏幕上所显示的真实场景(室内场景,如图2中所显示的台灯、沙发等)的图像可以是终端的摄像头所采集的图像,并且在该屏幕上显示有虚拟内容A对应的显示内容,该显示内容可以是一张图片,能够在该屏幕上所显示真实场景对应的图像上添加一个图片,该图片对应该虚拟内容A,则用户通过该屏幕上所显示的内容,能够看到在该真实场景内设置有虚拟内容A(如图2中的球体),以获得在真实场景内放置有虚拟内容A的增强现实的显示效果。
具体地,通过图2所示的终端实现增强现实的效果的步骤包括追踪、场景理解和渲染。其中,追踪的实施方式可以是提供终端在真实环境中的相对位置。具体地,借助视觉惯性里程计,可以提供终端所在位置的精确视图以及设备朝向,视觉惯性里程计使用了相机图像和设备的运动数据。
场景理解是指确定设备周围环境的属性或特征。例如,通过平面检测(planedetection)等功能能够确定真实环境中的表面或平面。例如地板或桌子。为了放置虚拟内容,终端还需要提供命中测试功能。此功能可获得真实世界拓扑的相交点,即获取各个物体在真实环境中的具***置,例如,桌子的离地高度或者距离终端的距离等,以便在真实环境中放置虚拟内容。最后,对于场景理解可以进行光线估算。光线估算用于正确光照虚拟内容,使其与真实世界相匹配,例如,虚拟内容放置在真实世界内的时候,会显示该虚拟内容在真实世界的光照下的影子,从而增加虚拟内容的真实感以及与真实世界的匹配性。
其中,上述屏幕上所显示的真实环境可以是终端的摄像头所采集的当前环境的图像,也可以是终端实时接收的其他终端发送的真实场景的图像,例如,可以是终端与其他终端之间是视频交互的时候,图2的屏幕上所显示的是其他终端的摄像头实时采集的该终端所在的真实场景的图像。
为了实现用户在阅读产品说明书时的上述效果,本申请实施例提供了一种虚拟内容的显示方法,该方法可以应用于上述图1和图2所示的设备。于本申请实施例中,该方法可以应用于图2所示的电子设备,即该方法的执行主体可以是该电子设备内的处理器或者客户端。另外,需要说明的是,该方法的执行主体也可以是上述图1的头戴显示设备,具体地,该头戴显示设备内设置有处理器,则该方法的执行主体可以是该头戴显示设备内的处理器。作为一种实施方式,以及为了更好地说明本实施例的效果,示例性地,本申请实施例以方法的执行主体是移动终端,例如图2所示的电子设备,但是,这并不能限定本申请的方法的应用领域,即并不对本申请所适用的设备和应用环境做限定。
请参阅图3,图3示出了本申请实施例提供的一种虚拟内容的显示方法,用于在目标物体的位置处展示虚拟内容,以便提高用户阅读产品说明书的便捷性、降低阅读说明书的乏味性以及更加能够吸引用户阅读产品说明书和提高用户获知该产品说明书的内容的便捷性。具体地,该方法包括:S301至S304。
S301:获取图像采集装置采集的真实环境的图像。
其中,该图像采集装置可以是摄像头、数码相机等能够采集图像的设备。
作为一种实施方式,该图像采集装置可以安装在上述的头戴显示设备上,也可以安装在手机内,具体地,如果本申请实施例的执行主体是上述头戴显示设备,即本申请实施例应用于头戴显示设备,则该图像采集装置可以是安装在该头戴显示设备上的成像装置,如果本申请实施例的执行主体是上述用户终端,即本申请实施例应用于用户终端,则该图像采集装置可以是安装在用户终端上的摄像头。
作为另一种实施方式,该图像采集装置可以独立设置,即可以不设置在本方法的执行主体上,则在此实施方式中,该图像采集装置与本申请方法的执行主体相连,用于将所采集的真实环境的图像发送至本申请方法的执行主体。
S302:如果所述图像内存在目标物体,获取所述目标物体对应的产品描述信息。
其中,产品描述信息可以是产品相关的介绍信息,该信息可以包括产品的使用说明、安装说明、特性介绍、功能介绍等与产品相关的信息。用户能够通过阅读该产品描述信息了解或使用该产品。
作为一种实施方式,可以由本申请方法的执行主体确定图像内存在目标物体。具体地,以本申请方法的执行主体是用户终端为例,用户终端获取图像采集装置采集的真实环境的图像,判断该图像采集装置采集的图像内是否存在目标物体。具体地,分析所述图像内的所有物体的身份信息,确定所有物体的身份信息中是否存在目标身份信息,如果存在,则确定图像内存在目标物体。然后在该数据集内查找与目标物体的身份信息匹配的预设身份信息对应的产品描述信息,作为目标物体对应的产品描述信息。其中,该身份信息可以是图像内的物体图像的轮廓线,也可以是图像内的物体图像的特征点,或者其他的能够将该物体的图像与其他物体的图像区分开的信息,在此不做限定。
其中,该目标身份信息可以是目标物体的身份信息,具体地,可以预先设定目标身份信息。作为一种实施方式,预先设定一个数据集,该数据集内包括多个预设身份信息和每个预设身份对应的产品描述信息。其中,该预设身份信息为预先设定的设置有产品描述信息的产品,或者该预设身份信息为预先设定的需要为用户展示产品描述信息的产品。
作为另一种实施方式,还可以是由数据处理服务器确定图像内存在目标物体。具体地,可以是图像采集装置将所采集的图像发送至数据处理服务器,数据处理服务器根据上述方法确定图像内是否存在目标物体,并将结果发送至本申请方法的执行主体。
另外,目标物体对应的产品描述信息可以包括目标物体的安装引导、使用说明书和产品介绍等信息,在此不再赘述。
作为一种实施方式,获取目标物体的产品描述信息的实施方式可以是,发送获取请求至该目标物体对应的服务器。该目标物体可以是物联网内的受控设备。物联网是在“互联网概念”的基础上,将其用户端延伸和扩展到任何物品与物品之间,进行信息交换和通信的一种网络概念。随着物联网技术的发展,在物联网***中可以配置一些场景。对于配置的场景,可以涉及到多个受控设备,而且多个受控设备之间具有一定的联动关系,能够协同工作。
其中,受控设备可以为投影仪、投屏幕、智能灯、智能插座、人体传感器、门窗传感器、无线开关、空调伴侣、烟雾报警器、智能窗帘电机、以及空气净化器、智能音箱等用户终端。在一种实施方式中,在物联网***内,起控制作用的电子设备(如上述用户终端)可以通过直接与路由器建立无线连接的方式实现与受控设备之间进行数据交互。再者,电子设备也可以通过与云端建立连接后,通过云端与路由器之间的数据链路实现与受控设备之间的数据交互。而作为另外一种方式,受控设备可以通过网关与路由器建立无线连接。其中,数据交互可以包括用户终端向受控设备发送控制指令,还可以包括受控设备向用户终端返回状态信息或者返回指令执行结果等。其中,用户终端与受控设备之间的数据交互可以由用户终端中安装的客户端来触发。
作为一种实施方式,用户终端获取该目标物体的标识,具体地,上述数据集内可以包括预设身份信息对应的产品标识,该产品标识可以是产品的名称和型号等。在获取到目标物体的身份信息之后能够确定该目标物体的产品标识,通过上述物联网发送获取请求至该产品标识对应的产品服务器,该获取请求内包括产品标识,则产品服务器获取到该获取请求后,解析该请求得到产品标识,获取该产品标识对应的产品描述信息,作为目标物体的产品描述信息,并发送至用户终端。
S303:获取所述目标物体在所述真实环境内的视觉呈现信息。
其中,所述视觉呈现信息包括所述目标物体相对所述图像采集装置的位姿信息。
S304:根据所述产品描述信息和所述视觉呈现信息生成虚拟内容,所述虚拟内容用于表征所述产品描述信息。
作为一种实施方式,该虚拟内容能够反映该产品描述信息,即用户通过观察虚拟内容,能够获知该产品描述信息。作为一种实施方式,该虚拟内容可以是产品描述信息的动画展示、文本展示或者图片展示等,在此不再赘述。具体的获取虚拟内容的实施方式可以参考后续实施例。
因此,所述产品描述信息用于确定虚拟内容所表征的信息,即虚拟内容所表征的信息与产品描述信息相关,用于通过虚拟内容所表征的信息能够了解该产品描述信息。视觉呈现信息用于反映虚拟内容被放置在真实世界时,该虚拟内容所呈现的能够被用户观察到的信息,该信息以包括摆放信息或者光照信息等,该摆放信息可以包括虚拟内容的位置和摆放角度等信息,具体地,根据视觉呈现信息确定虚拟内容的实施方式可以参考后续实施例。
S305:在所述目标物体在所述真实环境的位置处添加所述虚拟内容。
具体地,预先获取目标物体在真实环境内的位置信息。
作为一种实施方式,可以根据图像采集装置所采集的目标物体的图像确定目标物体在真实环境内的位置信息。
具体地,真实环境可以是指真实世界对应的世界坐标系,则目标物体在在真实环境内的位置信息可以是指该目标物体在该世界坐标系内的物理坐标。其中,该世界坐标系可以是以图像采集装置为中心而建立的坐标系,即在图像采集装置在真实世界场景内的位置作为该世界坐标系的原点,具体地,该图像采集装置安装在本申请的方法的执行主体的时候,例如,本申请的方法为用户终端的时候,该世界坐标系的中心为用户终端的位置。
用户终端能够根据预设定位算法对周围环境扫描,以建立以该终端为中心的世界坐标系,以及确定真实环境内的各个真实物体在该世界坐标系内的坐标位置,该坐标位置作为真实物体在真实环境内的位置信息。作为一种实施方式,该用户终端内设置有图像采集装置和惯性测量单元,可以根据图像采集装置采集到的周围环境的图像以及惯性测量单元得到的用户终端的位姿信息建立该真实环境对应的世界坐标系,即以该终端为中心的世界坐标系,进而获取各个真实物体在该世界坐标系内的坐标位置。
具体地,可以利用上述的SLAM技术对周围的真实环境理解和对该真实环境内的真实物体跟踪,SLAM技术能够基于摄像头采集到的周围环境的图像以及惯性测量单元得到的用户终端的位姿信息,构建基于终端为起始点的世界坐标系,然后利用飞行时间(Time offlight,TOF)深度相机得到稠密的3D点云,其中,稠密的3D点云可以得到真实物体表面的各个点在该世界坐标系下的3D坐标,则该3D坐标能够作为各个真实物体在真实环境内的位置信息。
在确定目标物体在真实环境的位置之后,将虚拟内容添加至该目标物体在真实环境的位置处,具体地,在真实环境内添加虚拟内容以使用户观察到AR效果的实施方式可以参考上述实施方式,在此不再赘述。
具体地,可以根据将目标物体在真实环境的位置,使得添加后的虚拟内容的位置在该世界坐标系内位于该目标物体的位置处。具体地,该虚拟内容在真实环境内的位置信息与该虚拟内容对应的显示内容在用户终端的显示屏上的显示信息存在映射关系,该显示信息包括该虚拟内容对应的显示内容的显示大小、形状以及位置等信息。
作为一种实施方式,在摄像头采集的真实环境的图像内,真实物体在摄像头对应的相机坐标系内,该相机坐标系的Z轴与摄像头的光轴方向匹配,具体地,摄像头的光轴方向为该相机坐标系的Z轴方向,X轴和Y轴构成的XOY平面与Z轴垂直。则可以确定真实物体在相机坐标系内的坐标。例如,根据摄像头采集的图像的像素坐标系与相机坐标系的映射关系,能够确定图像内每个真实物体的图像的像素点在相机坐标系内的坐标,该坐标包括真实物体的景深信息,例如,该真实物体的坐标在相机坐标系的Z轴上的投影就是该运动目标的景深信息。通过该真实物体在相机坐标系内的坐标的变化能够确定真实物体的景深变化,根据该景深变化能够确定真实物体距离摄像头的距离。
则将虚拟内容在真实环境内显示的一种实施方式,将该虚拟内容显示在真实环境内的某个平面或者某个物体的位置处,而该物体距离摄像头的距离可以确定,进而该虚拟内容所对应的景深信息可以确定,则通过预先设定的景深信息与虚拟内容对应的显示内的轮廓信息的对应关系,能够确定与该目标物体的景深信息对应的该显示内容的轮廓信息,该轮廓信息包括虚拟内容对应的显示内容的形状和大小。例如,根据距离越远或者景深信息越大,则轮廓越小,即近大远小的规则,可以预先设定真实环境内不同的位置与该虚拟内容对应的显示内容的轮廓信息的对应关系,进而确定虚拟内容对应的显示内容的形状和大小。
作为另一种实施方式,还可以屏幕的像素坐标内的各个像素点与真实环境内各个位置点的坐标关系,具体地,可以通过摄像头的内外参数的方式确定,例如,通过张正友标定法来确定。例如,图2所示,将虚拟内容A在真实环境的台灯附近的地面上显示,能够确定该真实环境的图像内台灯附近的地面在屏幕的像素坐标内的位置,从而能够确定将虚拟内容对应的显示内容显示在屏幕所显示的真实环境的图像内台灯附近的地面的位置处。
因此,通过预先确定的屏幕上所显示的图像的各个像素点的像素坐标与该世界坐标系内的各个位置点的世界坐标的映射关系,能够将虚拟内容添加至真实环境的特定位置处。
例如,需要将虚拟内容在指定坐标系内的位置A处显示,即用户使用该用户终端的时候能够看到在真实空间内的位置A处的显示有虚拟物体,则确定该位置A所对应的显示屏上的显示位置是位置B,那么在用户终端的显示屏的位置B处显示该虚拟物体的时候,用户就能够通过该显示屏看到位置A处显示一虚拟物体。
作为一种实施方式,在确定目标物体的位置之后,以及根据目标物体的产品描述信息确定了虚拟内容,可以将该虚拟内容添加至真实世界中目标物体的位置处。如图4所示,界面上所显示的内容包括目标物体401以及该目标物体401当前的真实环境和虚拟内容402。
作为一种实施方式,该界面的内容可以是用户通过上述头戴显示设备所观察到的内容。作为另一种实施方式,该界面的内容可以是用户终端的屏幕上所显示的内容,具体地,该屏幕上所显示的目标物体401以及该目标物体401当前的真实环境可以是用户终端的图像采集装置所采集的图像,则该虚拟内容402可以是在用户终端的屏幕上所显示的显示内容,该显示内容与虚拟内容402对应。
如图4所示,该虚拟内容402可以是目标物体的产品描述信息的文字展现内容。如图4所示,在目标物体401(即图4中的抽油烟机)的位置处所添加的虚拟内容为两个标注框,该标注框内分别记载产品的各个部分的介绍和操作步骤。通过该虚拟内容用户能够了解该目标物体的各个部分的特性以及整个操作步骤。
示例性地,以图4为例,以上述方法的执行主体是用户终端,在使用时,用户通过用户终端拍摄抽油烟机,则用户终端能够确定抽油烟机在真实世界内的位置,并且在该抽油烟机的位置处添加抽油烟机的产品介绍信息和操作步骤信息等与抽油烟机的产品描述信息对应的虚拟内容,便于用户快速了解和操作该抽油烟机。
请参阅图5,图5示出了本申请实施例提供的一种虚拟内容的显示方法,用于在目标物体的位置处展示虚拟内容,以便提高用户阅读产品说明书的便捷性、降低阅读说明书的乏味性以及更加能够吸引用户阅读产品说明书和提高用户获知该产品说明书的内容的便捷性。具体地,该方法包括:S510至S560。
S510:获取图像采集装置采集的真实环境的图像。
S520:如果所述图像内存在目标物体,获取所述目标物体对应的产品描述信息。
S530:获取所述目标物体对应的模型数据。
其中,该模型数据可以是指该目标物体的产品设计数据,具体地,在开发人员设计该目标物体的时候或者设计该目标物体的展示效果的时候,开发人员会设置该目标物体的模型,该模型对应的数据就可以是上述模型数据,该模型数据包括目标物体的轮廓形状、尺寸比例、外观颜色等数据。在生产该目标物体的时候,可以依据该模型数据生产该目标物体。
作为一种实施方式,该目标物体的模型数据可以存储在该目标物体对应的产品服务器内,则用户终端可以发送数据获取请求至该产品服务器,其中,该数据获取请求包括目标物体对应的产品标识,产品服务器响应该数据获取请求基于目标物体对应的产品标识获取该目标物体的模型数据。
作为另一种实施方式,该目标物体的模型数据可以存储在上述数据处理服务器,用户终端可以发送数据获取请求至该数据处理服务器,由该数据处理服务器根据该数据获取请求返回该目标物体的模型数据。其中,数据处理服务器可以与产品服务器内的至少部分数据同步,以使处理服务器内存储的目标物体的模型数据与产品服务器内的模型数据一致。
S540:基于所述模型数据生成所述目标物体对应的虚拟模型。
其中,该虚拟模型可以是能够添加至真实环境内的虚拟对象,具体地,以本申请的执行主体是用户终端为例,该虚拟模型可以是能够在用户终端的屏幕上显示的该目标物体对应的目标图像。作为一种实施方式,该虚拟模型可以是2D平面图,也可以是3D立体图。
以上述图4中的目标物体401为例,例如,该目标物体401为抽油烟机,则在获取到该抽油烟机的模型数据,即抽油烟机的形状轮廓数据、尺寸大小等数据之后,根据该模型数据生成该抽油烟机的虚拟模型,即生成一个虚拟抽油烟机,并且该虚拟抽油烟机的图形与实体抽油烟机的形状轮廓相同,而尺寸可以是该实体抽油烟机的尺寸的等比例缩放。
作为一种实施方式,该虚拟模型能够被添加至真实环境内,用户能够通过AR设备在真实环境内观察到该虚拟模型,即能够在该真实环境内观察到虚拟的目标物体。
S550:基于所述产品描述信息和所述虚拟模型生成所述虚拟内容。
作为一种实施方式,可以根据产品描述信息更改该虚拟模型,例如,基于该虚拟模型的基础上,在该虚拟模型上添加指定内容,该指定内容根据该产品描述信息而设定,则添加了指定内容的虚拟模型作为虚拟内容,能够被添加在真实环境内。
具体地,可以是在虚拟模型上添加指定内容,该标注内容可以是文字标注,该文字标注用于指示目标物体的各个部位的功能、说明以及整体的操作步骤或整体产品的说明等,该文字标注与产品描述信息对应,具体地,可以是根据该产品描述信息而设定文字标注。需要说明的是,该文字标注并非仅仅包括文字,也可以包含图片或者语音等格式的信息。
如图6所示,界面上所显示的内容包括目标物体401以及该目标物体401当前的真实环境和虚拟内容,具体地,该虚拟内容包括虚拟模型4021和文字标注4022,如图6所示,目标物体401为以虚线表示的物体,例如,抽油烟机,该虚拟模型4021以实现表示,其包裹在目标物体401的外面。
参考图4,将文字标注4022添加在虚拟模型4021的方式,也将文字标注4022添加在目标物体401的方式相比,前者能够减少计算量,因为,将文字标注4022添加在目标物体401的方式,需要精确查找目标物体401的各个部位在真实环境内的位置,会增加整体的计算量,而由于本申请的实施例中,该虚拟模型4021是根据目标物体的模型数据而设定,使得该虚拟模型4021的尺寸和比例能够与原目标物体相似,并且,通过对该虚拟模型4021的操作,例如,在虚拟模型4021上添加文字信息,能够增加灵活。
如图7所示,界面上所显示的内容包括目标物体401以及该目标物体401当前的真实环境和虚拟内容,该虚拟内容包括虚拟模型4021和文字标注4022,其中,文字标注4022可以包括添加在虚拟模型4021的表面上的第一内容和设置在虚拟模型4021的表面之外的第二内容,其中,第一内容和第二内容之间可以相互关联,如图7所示,该第一内容为数字,起到标注作用,第二内容为操作内容,该操作内容与该数字对应,如图7所示的“拆除1处的****”,因此,用户结合第一内容和第二内容就能够明确如何操作该目标物体,而不必查阅目标物体的使用说明书。
作为一种实施方式,可以通过动画的方式将该产品描述通过以AR的效果展现在用户面前,则基于所述产品描述信息和所述虚拟模型生成所述虚拟内容的实施方式可以是,基于所述产品描述信息和所述虚拟模型生成动态展示画面,所述动态展示画面作为所述虚拟内容。
具体地,该动态展示画面可以是基于该虚拟模型而建立的动态画面。作为一种实施方式,该产品描述信息可以是产品部位介绍信息,则该动态展示画面可以是按照预定顺序旋转虚拟模型,将该虚拟模型的多个部位通过旋转虚拟模型的方式展示在用户的视野范围内,并且在每个部位处显示该部位的描述信息,同时,还可以打开该虚拟模型的外壳,从而能够展示该虚拟模型的内部结构。
作为另一种实施方式,该产品描述信息可以是产品操作信息,该操作信息包括产品的安装、拆卸、清洗等需要按照指定顺序操作目标物体以完成特定操作和功能的信息。则该动态展示画面可以是该操作信息对应的操作过程的动态展示。例如,该操作信息是该目标物体的拆卸操作,则动态展示画面可以是该目标物体的虚拟模型的各个部位按照指定顺序依次被拆除的过程展示动画。
作为一种实施方式,还可以获取目标物体在真实环境内的位姿、光照等信息,基于该信息确定虚拟模型,使得虚拟模型能够更加接近目标物体在真实环境内的摆放位置,具体地,请参阅后续实施例。
S560:在所述目标物体在所述真实环境的位置处添加所述虚拟内容。
请参阅图8,图8示出了本申请实施例提供的一种虚拟内容的显示方法,用于在目标物体的位置处展示虚拟内容,以便提高用户阅读产品说明书的便捷性、降低阅读说明书的乏味性以及更加能够吸引用户阅读产品说明书和提高用户获知该产品说明书的内容的便捷性。具体地,该方法包括:S810至S870。
S810:获取图像采集装置采集的真实环境的图像。
S820:如果所述图像内存在目标物体,获取所述目标物体对应的产品描述信息。
S830:获取所述目标物体对应的模型数据。
S840:获取所述目标物体在所述真实环境内的视觉呈现信息。
其中,视觉呈现信息用于表征用户在所述真实环境内观察的目标物体时的视觉感受,具体地,可以是所观察到的目标物体的摆放角度、光照以及其他现象等。
作为一种实施方式,该视觉呈现信息包括目标物体的光照信息和所述目标物体相对所述图像采集装置的位姿信息的至少一种。作为一种实施方式,该方法应用于电子设备,该图像采集装置安装在电子设备内,则目标物体相对所述图像采集装置的位姿信息也相当于目标物体相对电子设备的位姿信息。
其中,目标物体在所述真实环境内的位姿信息可以包括目标物体在所述真实环境内的位置及旋转角度等信息。具体地,该位姿信息为所述目标物体与所述图像采集装置之间的位置及旋转信息。所采集的目标图像内的目标物体可以是一个,也是可以多个。当所采集的目标图像内目标物体为多个时,则获取在目标图像内的每个目标物体与图像采集装置之间的姿态信息。
获取位姿信息的方式可以是通过预先设定在目标物体上的标记物来获取,也可以根据预先训练好的分析模型而根据目标物体的图像来确定。
作为一种实施方式,所述目标物体设置有一个或多个标记物,每个标记物包括多个相互分离的子标记物,每个子标记物包括一个或多个特征点,其中,所述标记物包括背景区域以及按照特定规则分布于背景区域的若干子标记物,每个子标记物具有一个或多个特征点。
子标记物为具有一定形状的图案,且该子标记物的颜色与标记物内的背景区域的颜色有一定的区分度,例如,背景区域为白色,而子标记物的颜色为黑色。子标记物可以是由一个或多个特征点构成,且特征点的形状不做限定,可以是圆点、圆环,也可以是三角形、其他形状。
具体地,获取图像内的特征点在该图像对应的图像坐标系内的像素坐标,根据所述图像内的特征点的像素坐标和预先获取的所述特征点对应的物理坐标,获取所述图像采集装置与所述目标物体之间的姿态信息。其中,该特征点可以是上述的子标记物。
其中,所述物理坐标为预先获取的特征点在所述目标物体对应的物理坐标系内的坐标,特征点的物理坐标即为该特征点在对应目标物体上的真实位置。各个特征点的物理坐标可以预先获取,具体地,多个特征点和多个标记物设置在目标物体的标记面上,选择标记面上的某一个点作为原点,建立物理坐标系。将标记面作为物理坐标系的XOY平面,XOY坐标系的原点位于标记面内。其中,该各个特征点的物理坐标可以预先根据各个特征点在标记物上的位置以及与该标记物上的某个基准点的距离而确定,然后,该物理坐标系的中心可以是该基准点。
由于目标物体的位姿不同的情况下,所采集的目标物体的图像中,目标物体上的标记物内的子标记物与基准点之间的距离以及子标记物的位置是不同的,因此,通过该像素坐标和物理坐标的映射关系,就能够确定各个子标记在真实环境内的位置,从而能够整体确定标记物的位置,进而再根据标记物在目标物体上的安装位置确定目标物体的位姿。
在另一些实施例中,该视觉呈现信息可以包括所述目标物体的光照信息和所述目标物体相对所述图像采集装置的位姿信息。其中,所述电子设备可以是本方法实施例的执行主体,例如,可以是用户终端。该光照信息可以是该目标物体在真实环境内的光影效果,例如,该目标物体的表面的明暗效果以及该目标物体在真实环境的影子。
作为另一种实施方式,还可以根据预先训练的分析模型来确定该位姿信息,具体地,请参阅图9,该S840包括:S841至S843。
S841:获取多个样本数据,所述样本数据为预先根据所述目标物体的多个不同视觉呈现信息对应的模型数据得到的图像数据。
于本申请实施例,可以预先训练分析模型,该分析模型能够基于图像采集装置采集的目标物体的图像分析得到该目标物体的视觉呈现信息。
作为一种实施方式,该分析模型可以是基于神经网络的机器学习模型。具体地,该分析模型可以是卷积神经网络(Convolutional Neural Networks,CNN)。本申请实施例中的分析模型是基于CNN设定的,具体地,该分析模型如图10所示,图像采集装置采集的图像输入卷积神经网络,卷积神经网络将图像的特征向量输入第一全连层和第二全连层,其中,第一全连层输出检测结果,该检测结果用于确定图像采集装置采集的真实环境的图像是否存在目标物体,以及确定目标物体的产品标识。第二全连层输出视觉呈现信息。
其中,直接通过端到端的CNN网络回归位姿的方法,比如posenet,通常比传统特征点匹配的方法的精度要低一个量级。这是由于CNN的方式,更类似于图像检索,会受到训练数据的影响。
因此,为了提高神经网络的精度,本申请实施例通过目标物体的模型数据,可以渲染出较丰富的样本数据。并且,本申请的分析模型也可以同时完成检测任务,不用外接检测模块。
具体地,本申请分析模型的应用包括两个部分,即离线训练部分和在线运行部分。如图11所示,该离线训练部分中,渲染模型用于产生样本数据,具体用于输入3D模型、位姿、光照参数,输出该模型投影到2D的图像。其中,投影到2D的图像可以是基于所述模型数据生成所述目标物体对应的虚拟模型。
具体地,获取目标物体对应的模型数据,并且设置该模型数据对应的位姿和光照参数,并且将该模型数据和位姿和光照参数输入该渲染模型,该渲染模型能够根据模型数据和位姿和光照参数输出该目标物体的二维图像,其中,该二维图像可以看作是该目标物体在该模型数据对应的位姿和光照参数的真实环境内,被图像采集装置采集到的图像,即该二维图像能够表征目标物体在指定位姿和光照下的图像。
具体地,该渲染模型可以是图形设计软件或者具有图形处理功能的应用程序,其能够将3D图形转换为2D图形,例如,三维图形渲染工具,能够基于模型数据、位姿和光照参数渲染得到该位姿和光照下的三维物体,并且转换为该物体的二维图像。
然后,基于该目标物体的模型数据,以及输入的多个不同的位姿和光照,就能够得到不同位姿和光照下的多种不同的图像数据,即上述二维图像。
S842:基于多个所述样本数据和每个所述对应的视觉呈现信息,训练分析模型。
然后,将该多个样本数据输入分析模型,基于该多个所述样本数据和每个所述对应的视觉呈现信息训练分析模型。其中,每个样本数据对应的位姿和光照参数作为该样本数据的真值,即标签,从而根据样本和每个样本的标签训练该模型,使得该模型具备分析目标物体的图像得到目标物体在所述真实环境内的视觉呈现信息的功能。
具体地,使用交叉熵误差评价检测结果,使用最小均分误差评价视觉呈现信息的结果。误差方向传递,使用梯度下降法优化模型的参数。
S843:基于训练后的所述分析模型分析包括所述目标物体的图像,得到所述目标物体在所述真实环境内的视觉呈现信息。
请参阅图11,在线运行部分,图像采集装置采集的图像,即图11中的相机图像被输入分析模型,分析模型输出该图像的结果,参考图10的过程,得到检测结果和视觉呈现信息,根据检测结果判断图像内是否存在目标物体,如果存在,则将视觉呈现信息输入渲染模块,得到目标物体对应的虚拟模型。
S850:基于所述模型数据和所述视觉呈现信息生成所述目标物体对应的虚拟模型。
在一些实施例中,视觉呈现信息包括位姿信息,则基于所述模型数据和所述视觉呈现信息生成所述目标物体对应的虚拟模型,包括:基于所述模型数据和所述位姿信息生成所述目标物体对应的虚拟模型,所述虚拟模型与所述目标物体的摆放位姿相同。
作为一种实施方式,预先确定不同的位置信息对应的模型数据,其中个,该位姿信息可以包括目标物体与所述图像采集装置之间的位置及旋转信息。具体地,该旋转信息可以作为该目标物体在真实环境内的摆放位姿,根据该目标物体与所述图像采集装置之间的位置可以得到该目标物体在真实环境内与图像采集装置之间的距离。
在一些实施例中,该模型数据包括尺寸信息和摆放位姿,该摆放位姿可以作为该虚拟模型的朝向,例如,正视图或者后视图等。则根据该目标物体与所述图像采集装置之间的位置确定尺寸信息。例如,距离越近,尺寸越大,距离越远,尺寸越小。根据该目标物体与所述图像采集装置之间的旋转信息确定摆放位姿,将所确定的尺寸信息和摆放位姿作为模型数据,根据模型数据生成虚拟模型,使得虚拟模型的尺寸不小于目标物体在图像采集装置采集的真实环境的图像内的尺寸,并且使得该虚拟模型的摆放位置与目标物体在真实环境内的摆放位姿相同。
具体地,目标物体对应的模型数据包括多个尺寸信息和摆放位置,且每个尺寸信息对应位置,且每个摆放位姿对应旋转信息,因此,在获取到该目标物体与所述图像采集装置之间的位置和旋转信息之后,查找该位置对应的尺寸信息,查找该旋转信息对应的摆放位姿。
S860:基于所述产品描述信息和所述虚拟模型生成所述虚拟内容。
S870:在所述目标物体在所述真实环境的位置处添加所述虚拟内容。
参考了位姿信息之后,用户所观察到的虚拟内容中,目标物体的虚拟模型随着用户的观察方向、位置和视角的移动而移动,即虚拟内容根据用户的观察角度而改变,其改变方式与用户看到的目标物体相同。
如图12所示,相比较图6和7,可以看出,图像采集装置的观察视角改变之后,虚拟模型跟随目标物体在图像内的位姿的改变而改变,使得用户通过图像采集装置和用户终端的屏幕看到的AR效果中,虚拟模型跟随目标物体在图像内的位姿的改变而改变,更加具有真实效果。
作为一种实施方式,所述虚拟模型为所述目标物体的虚拟模型,所述虚拟模型与所述目标物体在所述图像内的尺寸匹配,具体地,虚拟模型与目标物体在真实环境内的位置相同,且虚拟模型与所述目标物体的尺寸相同,从而使得虚拟模型与目标物体能够完全重合,使得用户能够观察到目标物体完全由虚拟模型代替。
因此,用户可以通过用户终端拍摄目标物体,并且在目标物体的位置显示虚拟内容,且随着用户终端和用户的观察角度和位置的改变,该虚拟内容也跟随改变。
请参阅图13,其示出了本申请实施例提供的一种虚拟内容的显示装置900,该装置可以包括:第一获取单元1301、第二获取单元1302、确定单元1303和处理单元1304。
第一获取单元1301,用于获取图像采集装置采集的真实环境的图像。
第二获取单元1302,用于如果所述图像内存在目标物体,获取所述目标物体对应的产品描述信息和所述目标物体在所述真实环境内的视觉呈现信息,所述视觉呈现信息包括所述目标物体相对所述图像采集装置的位姿信息。
确定单元1303,用于根据所述产品描述信息和所述视觉呈现信息生成虚拟内容,所述虚拟内容用于表征所述产品描述信息。
处理单元1304,用于在所述目标物体在所述真实环境的位置处添加所述虚拟内容。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述装置和模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
请参阅图14,其示出了本申请实施例提供的一种虚拟内容的显示装置1400,该装置可以包括:第一获取单元1410、第二获取单元1420、确定单元1430和处理单元1440。
第一获取单元1410,用于获取图像采集装置采集的真实环境的图像。
第二获取单元1420,用于如果所述图像内存在目标物体,获取所述目标物体对应的产品描述信息。
确定单元1430,用于根据所述产品描述信息和所述视觉呈现信息生成虚拟内容,所述虚拟内容用于表征所述产品描述信息。
确定单元1430包括获取子单元1431、模型子单元1432和内容子单元1433。
获取子单元1431用于获取所述目标物体对应的模型数据。
模型子单元1432用于基于所述模型数据和所述视觉呈现信息生成所述目标物体对应的虚拟模型。
具体地,模型子单元1432用于获取所述目标物体在所述真实环境内的视觉呈现信息,所述视觉呈现信息包括所述目标物体的光照信息和所述目标物体相对所述图像采集装置的位姿信息的至少一种;基于所述模型数据和所述视觉呈现信息生成所述目标物体对应的虚拟模型。
进一步地,所述视觉呈现信息包括所述位姿信息,模型子单元1432用于基于所述模型数据和所述位姿信息生成所述目标物体对应的虚拟模型,所述虚拟模型与所述目标物体的摆放位姿相同。
进一步地,所述虚拟模型为所述目标物体的虚拟模型,所述虚拟模型与所述目标物体在所述图像内的尺寸匹配。
进一步地,所述视觉呈现信息包括所述位姿信息,模型子单元1432用于获取多个样本数据,所述样本数据为预先根据所述目标物体的多个不同视觉呈现信息对应的模型数据得到的图像数据;基于多个所述样本数据和每个所述对应的视觉呈现信息,训练分析模型;基于训练后的所述分析模型分析包括所述目标物体的图像,得到所述目标物体在所述真实环境内的视觉呈现信息。
内容子单元1433用于基于所述产品描述信息和所述虚拟模型生成所述虚拟内容。
具体地,内容子单元1433用于基于所述产品描述信息和所述虚拟模型生成动态展示画面,所述动态展示画面作为所述虚拟内容。
处理单元1440,用于在所述目标物体在所述真实环境的位置处添加所述虚拟内容。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述装置和模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,模块相互之间的耦合可以是电性,机械或其它形式的耦合。
另外,在本申请各个实施例中的各功能模块可以集成在一个处理模块中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。
请参考图15,其示出了本申请实施例提供的一种电子设备的结构框图。该电子设备1500可以是智能手机、平板电脑、电子书等能够运行应用程序的电子设备。具体地,该电子设备可以是上述的头显或者用户终端。
本申请中的电子设备1500可以包括一个或多个如下部件:处理器1510、存储器1520、以及一个或多个应用程序,其中一个或多个应用程序可以被存储在存储器1520中并被配置为由一个或多个处理器1510执行,一个或多个程序配置用于执行如前述方法实施例所描述的方法。
处理器1510可以包括一个或者多个处理核。处理器1510利用各种接口和线路连接整个电子设备1500内的各个部分,通过运行或执行存储在存储器1520内的指令、程序、代码集或指令集,以及调用存储在存储器1520内的数据,执行电子设备1500的各种功能和处理数据。可选地,处理器1510可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable Logic Array,PLA)中的至少一种硬件形式来实现。处理器1510可集成中央处理器(Central Processing Unit,CPU)、图像处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作***、用户界面和应用程序等;GPU用于负责显示内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器1510中,单独通过一块通信芯片进行实现。
存储器1520可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory)。存储器1520可用于存储指令、程序、代码、代码集或指令集。存储器1520可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作***的指令、用于实现至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现下述各个方法实施例的指令等。存储数据区还可以存储终端100在使用中所创建的数据(比如电话本、音视频数据、聊天记录数据)等。
请参考图16,其示出了本申请实施例提供的一种计算机可读存储介质的结构框图。该计算机可读介质1600中存储有程序代码,所述程序代码可被处理器调用执行上述方法实施例中所描述的方法。
计算机可读存储介质1600可以是诸如闪存、EEPROM(电可擦除可编程只读存储器)、EPROM、硬盘或者ROM之类的电子存储器。可选地,计算机可读存储介质1600包括非易失性计算机可读介质(non-transitory computer-readable storage medium)。计算机可读存储介质1600具有执行上述方法中的任何方法步骤的程序代码1610的存储空间。这些程序代码可以从一个或者多个计算机程序产品中读出或者写入到这一个或者多个计算机程序产品中。程序代码1610可以例如以适当形式进行压缩。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不驱使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。
Claims (10)
1.一种虚拟内容的显示方法,其特征在于,包括:
获取图像采集装置采集的真实环境的图像;
如果所述图像内存在目标物体,获取所述目标物体对应的产品描述信息;
获取所述目标物体在所述真实环境内的视觉呈现信息,所述视觉呈现信息包括所述目标物体相对所述图像采集装置的位姿信息;
根据所述产品描述信息和所述视觉呈现信息生成虚拟内容,所述虚拟内容用于表征所述产品描述信息;
在所述目标物体在所述真实环境的位置处添加所述虚拟内容。
2.根据权利要求1所述的方法,其特征在于,所述根据所述产品描述信息和所述视觉呈现信息生成虚拟内容,包括:
获取所述目标物体对应的模型数据;
基于所述模型数据和所述视觉呈现信息生成所述目标物体对应的虚拟模型;
基于所述产品描述信息和所述虚拟模型生成所述虚拟内容。
3.根据权利要求2所述的方法,其特征在于,所述基于所述产品描述信息和所述虚拟模型生成所述虚拟内容,包括:
基于所述产品描述信息和所述虚拟模型生成动态展示画面,所述动态展示画面作为所述虚拟内容。
4.根据权利要求2所述的方法,其特征在于,所述模型数据包括尺寸信息和摆放位姿,所述位姿信息包括目标物体与所述图像采集装置之间的位置及旋转信息,所述基于所述模型数据和所述视觉呈现信息生成所述目标物体对应的虚拟模型,包括:
根据该目标物体与所述图像采集装置之间的位置确定尺寸信息,以及根据该目标物体与所述图像采集装置之间的旋转信息确定摆放位姿;
根据所确定的尺寸信息和所确定的摆放位置获取所述虚拟模型。
5.根据权利要求2所述的方法,其特征在于,所述基于所述产品描述信息和所述虚拟模型生成所述虚拟内容,包括:
在所述虚拟内容上添加指定内容,所述指定内容根据该产品描述信息而设定,添加有所述指定内容的虚拟模型作为虚拟内容。
6.根据权利要求2-5任一所述的方法,其特征在于,所述虚拟模型为所述目标物体的虚拟模型,所述虚拟模型与所述目标物体在所述图像内的尺寸匹配。
7.根据权利要求1所述的方法,其特征在于,所述获取所述目标物体在所述真实环境内的视觉呈现信息,包括:
获取多个样本数据,所述样本数据为预先根据所述目标物体的多个不同视觉呈现信息对应的模型数据得到的图像数据;
基于多个所述样本数据和每个所述视觉呈现信息,训练分析模型;
基于训练后的所述分析模型分析包括所述目标物体的图像,得到所述目标物体在所述真实环境内的视觉呈现信息。
8.一种虚拟内容的显示装置,其特征在于,包括:
第一获取单元,用于获取图像采集装置采集的真实环境的图像;
第二获取单元,用于如果所述图像内存在目标物体,获取所述目标物体对应的产品描述信息和所述目标物体在所述真实环境内的视觉呈现信息,所述视觉呈现信息包括所述目标物体相对所述图像采集装置的位姿信息;
确定单元,用于根据所述产品描述信息和所述视觉呈现信息生成虚拟内容,所述虚拟内容用于表征所述产品描述信息;
处理单元,用于在所述目标物体在所述真实环境的位置处添加所述虚拟内容。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储器;
一个或多个应用程序,其中所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个应用程序配置用于执行如权利要求1-7任一项所述的方法。
10.一种计算机可读介质,其特征在于,所述计算机可读介质存储有处理器可执行的程序代码,所述程序代码被所述处理器执行时使所述处理器执行权利要求1-7任一项所述方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010322732.8A CN111510701A (zh) | 2020-04-22 | 2020-04-22 | 虚拟内容的显示方法、装置、电子设备及计算机可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010322732.8A CN111510701A (zh) | 2020-04-22 | 2020-04-22 | 虚拟内容的显示方法、装置、电子设备及计算机可读介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111510701A true CN111510701A (zh) | 2020-08-07 |
Family
ID=71877920
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010322732.8A Pending CN111510701A (zh) | 2020-04-22 | 2020-04-22 | 虚拟内容的显示方法、装置、电子设备及计算机可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111510701A (zh) |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111930236A (zh) * | 2020-08-17 | 2020-11-13 | Oppo广东移动通信有限公司 | 设备控制方法、装置、存储介质及电子设备 |
CN112037314A (zh) * | 2020-08-31 | 2020-12-04 | 北京市商汤科技开发有限公司 | 图像显示方法、装置、显示设备及计算机可读存储介质 |
CN112070903A (zh) * | 2020-09-04 | 2020-12-11 | 脸萌有限公司 | 虚拟对象的展示方法、装置、电子设备及计算机存储介质 |
CN112150507A (zh) * | 2020-09-29 | 2020-12-29 | 厦门汇利伟业科技有限公司 | 一种物体姿态和位移的3d模型同步重现方法及*** |
CN112435347A (zh) * | 2020-11-23 | 2021-03-02 | 济南浪潮高新科技投资发展有限公司 | 一种增强现实的电子书阅读***及方法 |
CN112950711A (zh) * | 2021-02-25 | 2021-06-11 | 深圳市慧鲤科技有限公司 | 一种对象的控制方法、装置、电子设备及存储介质 |
CN112991556A (zh) * | 2021-05-12 | 2021-06-18 | 航天宏图信息技术股份有限公司 | Ar数据的展示方法、装置、电子设备及存储介质 |
CN113269782A (zh) * | 2021-04-21 | 2021-08-17 | 青岛小鸟看看科技有限公司 | 数据生成方法、装置及电子设备 |
CN113269781A (zh) * | 2021-04-21 | 2021-08-17 | 青岛小鸟看看科技有限公司 | 数据生成方法、装置及电子设备 |
CN113918014A (zh) * | 2021-09-28 | 2022-01-11 | 深圳市慧鲤科技有限公司 | 虚拟物体控制方法、装置、设备及存储介质 |
WO2022095467A1 (zh) * | 2020-11-06 | 2022-05-12 | 北京市商汤科技开发有限公司 | 增强现实场景下的展示方法、装置、设备、介质及程序 |
CN114650443A (zh) * | 2020-12-18 | 2022-06-21 | 广州视享科技有限公司 | 头戴式显示设备的播放方法、装置以及头戴式显示设备 |
WO2022143314A1 (zh) * | 2020-12-29 | 2022-07-07 | 华为技术有限公司 | 一种对象注册方法及装置 |
CN115147520A (zh) * | 2022-06-07 | 2022-10-04 | 聚好看科技股份有限公司 | 基于视觉语义驱动虚拟人物的方法及设备 |
CN115861576A (zh) * | 2022-12-09 | 2023-03-28 | 深圳市同立方科技有限公司 | 一种实现实景影像增强现实的方法、***、设备及介质 |
WO2023197705A1 (zh) * | 2022-04-11 | 2023-10-19 | 日立楼宇技术(广州)有限公司 | 图像处理方法、装置、计算机设备、存储介质和计算机程序 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102508363A (zh) * | 2011-12-28 | 2012-06-20 | 王鹏勃 | 一种基于增强现实技术的无线显示眼镜及其实现方法 |
CN106485956A (zh) * | 2016-09-29 | 2017-03-08 | 珠海格力电器股份有限公司 | 一种演示电子设备功能的方法、装置和智能终端 |
CN106569671A (zh) * | 2016-11-09 | 2017-04-19 | 唐雪松 | 基于ar技术的消费品使用说明信息显示方法及装置 |
CN106796771A (zh) * | 2014-10-15 | 2017-05-31 | 精工爱普生株式会社 | 头戴式显示设备、控制头戴式显示设备的方法和计算机程序 |
WO2018193708A1 (ja) * | 2017-04-19 | 2018-10-25 | マクセル株式会社 | ヘッドアップディスプレイ装置およびその表示制御方法 |
CN109582147A (zh) * | 2018-08-08 | 2019-04-05 | 亮风台(上海)信息科技有限公司 | 一种用于呈现增强交互内容的方法以及用户设备 |
CN109934847A (zh) * | 2019-03-06 | 2019-06-25 | 视辰信息科技(上海)有限公司 | 弱纹理三维物体姿态估计的方法和装置 |
KR20190098104A (ko) * | 2019-08-02 | 2019-08-21 | 엘지전자 주식회사 | Xr 디바이스 및 그 제어 방법 |
-
2020
- 2020-04-22 CN CN202010322732.8A patent/CN111510701A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102508363A (zh) * | 2011-12-28 | 2012-06-20 | 王鹏勃 | 一种基于增强现实技术的无线显示眼镜及其实现方法 |
CN106796771A (zh) * | 2014-10-15 | 2017-05-31 | 精工爱普生株式会社 | 头戴式显示设备、控制头戴式显示设备的方法和计算机程序 |
CN106485956A (zh) * | 2016-09-29 | 2017-03-08 | 珠海格力电器股份有限公司 | 一种演示电子设备功能的方法、装置和智能终端 |
CN106569671A (zh) * | 2016-11-09 | 2017-04-19 | 唐雪松 | 基于ar技术的消费品使用说明信息显示方法及装置 |
WO2018193708A1 (ja) * | 2017-04-19 | 2018-10-25 | マクセル株式会社 | ヘッドアップディスプレイ装置およびその表示制御方法 |
CN109582147A (zh) * | 2018-08-08 | 2019-04-05 | 亮风台(上海)信息科技有限公司 | 一种用于呈现增强交互内容的方法以及用户设备 |
CN109934847A (zh) * | 2019-03-06 | 2019-06-25 | 视辰信息科技(上海)有限公司 | 弱纹理三维物体姿态估计的方法和装置 |
KR20190098104A (ko) * | 2019-08-02 | 2019-08-21 | 엘지전자 주식회사 | Xr 디바이스 및 그 제어 방법 |
Non-Patent Citations (1)
Title |
---|
王峻峰,徐迟,李世其: "《增强现实环境下的产品装配引导技术》", 《图学学报》 * |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111930236A (zh) * | 2020-08-17 | 2020-11-13 | Oppo广东移动通信有限公司 | 设备控制方法、装置、存储介质及电子设备 |
CN112037314A (zh) * | 2020-08-31 | 2020-12-04 | 北京市商汤科技开发有限公司 | 图像显示方法、装置、显示设备及计算机可读存储介质 |
CN112070903A (zh) * | 2020-09-04 | 2020-12-11 | 脸萌有限公司 | 虚拟对象的展示方法、装置、电子设备及计算机存储介质 |
CN112150507A (zh) * | 2020-09-29 | 2020-12-29 | 厦门汇利伟业科技有限公司 | 一种物体姿态和位移的3d模型同步重现方法及*** |
CN112150507B (zh) * | 2020-09-29 | 2024-02-02 | 厦门汇利伟业科技有限公司 | 一种物体姿态和位移的3d模型同步重现方法及*** |
WO2022095467A1 (zh) * | 2020-11-06 | 2022-05-12 | 北京市商汤科技开发有限公司 | 增强现实场景下的展示方法、装置、设备、介质及程序 |
CN112435347A (zh) * | 2020-11-23 | 2021-03-02 | 济南浪潮高新科技投资发展有限公司 | 一种增强现实的电子书阅读***及方法 |
CN114650443B (zh) * | 2020-12-18 | 2024-04-19 | 广州视享科技有限公司 | 头戴式显示设备的播放方法、装置以及头戴式显示设备 |
CN114650443A (zh) * | 2020-12-18 | 2022-06-21 | 广州视享科技有限公司 | 头戴式显示设备的播放方法、装置以及头戴式显示设备 |
WO2022143314A1 (zh) * | 2020-12-29 | 2022-07-07 | 华为技术有限公司 | 一种对象注册方法及装置 |
CN112950711A (zh) * | 2021-02-25 | 2021-06-11 | 深圳市慧鲤科技有限公司 | 一种对象的控制方法、装置、电子设备及存储介质 |
CN113269781A (zh) * | 2021-04-21 | 2021-08-17 | 青岛小鸟看看科技有限公司 | 数据生成方法、装置及电子设备 |
CN113269782A (zh) * | 2021-04-21 | 2021-08-17 | 青岛小鸟看看科技有限公司 | 数据生成方法、装置及电子设备 |
US11995741B2 (en) | 2021-04-21 | 2024-05-28 | Qingdao Pico Technology Co., Ltd. | Data generation method and apparatus, and electronic device |
CN112991556B (zh) * | 2021-05-12 | 2022-05-27 | 航天宏图信息技术股份有限公司 | Ar数据的展示方法、装置、电子设备及存储介质 |
CN112991556A (zh) * | 2021-05-12 | 2021-06-18 | 航天宏图信息技术股份有限公司 | Ar数据的展示方法、装置、电子设备及存储介质 |
CN113918014A (zh) * | 2021-09-28 | 2022-01-11 | 深圳市慧鲤科技有限公司 | 虚拟物体控制方法、装置、设备及存储介质 |
WO2023197705A1 (zh) * | 2022-04-11 | 2023-10-19 | 日立楼宇技术(广州)有限公司 | 图像处理方法、装置、计算机设备、存储介质和计算机程序 |
CN115147520A (zh) * | 2022-06-07 | 2022-10-04 | 聚好看科技股份有限公司 | 基于视觉语义驱动虚拟人物的方法及设备 |
CN115861576A (zh) * | 2022-12-09 | 2023-03-28 | 深圳市同立方科技有限公司 | 一种实现实景影像增强现实的方法、***、设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111510701A (zh) | 虚拟内容的显示方法、装置、电子设备及计算机可读介质 | |
US10223834B2 (en) | System and method for immersive and interactive multimedia generation | |
KR101876419B1 (ko) | 프로젝션 기반 증강현실 제공장치 및 그 방법 | |
US10256859B2 (en) | System and method for immersive and interactive multimedia generation | |
US9855496B2 (en) | Stereo video for gaming | |
CN110163942B (zh) | 一种图像数据处理方法和装置 | |
US9779512B2 (en) | Automatic generation of virtual materials from real-world materials | |
EP3039656B1 (en) | Method and apparatus for representing physical scene | |
CN111399654B (zh) | 信息处理方法、装置、电子设备及存储介质 | |
US20190139297A1 (en) | 3d skeletonization using truncated epipolar lines | |
KR20180100476A (ko) | 이미지 및 뎁스 데이터를 사용하여 3차원(3d) 인간 얼굴 모델을 발생시키는 가상 현실 기반 장치 및 방법 | |
CN107689082B (zh) | 一种数据投影方法以及装置 | |
US11244511B2 (en) | Augmented reality method, system and terminal device of displaying and controlling virtual content via interaction device | |
CN105190703A (zh) | 使用光度立体来进行3d环境建模 | |
CN114341943A (zh) | 使用平面提取的简单环境求解器 | |
CN115335894A (zh) | 用于虚拟和增强现实的***和方法 | |
KR101638550B1 (ko) | 혼합현실을 이용한 가상현실 시스템 및 그 구현방법 | |
WO2023124698A1 (zh) | 增强现实场景的展示 | |
WO2023088127A1 (zh) | 室内导航方法、服务器、装置和终端 | |
US20220405996A1 (en) | Program, information processing apparatus, and information processing method | |
US20220270363A1 (en) | Image processing apparatus, image processing method, and program | |
CN114979789A (zh) | 一种视频展示方法、装置以及可读存储介质 | |
KR20210042476A (ko) | 프로젝션 기술을 이용한 증강현실 제공방법 및 시스템 | |
JP7510723B1 (ja) | キャラクター表示制御システム、キャラクター表示制御方法およびプログラム | |
US20240112396A1 (en) | Display of Three-Dimensional Scenes with Changing Perspectives |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200807 |
|
RJ01 | Rejection of invention patent application after publication |