CN111815780A - 展示方法、显示装置、设备及计算机可读存储介质 - Google Patents
展示方法、显示装置、设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN111815780A CN111815780A CN202010617626.2A CN202010617626A CN111815780A CN 111815780 A CN111815780 A CN 111815780A CN 202010617626 A CN202010617626 A CN 202010617626A CN 111815780 A CN111815780 A CN 111815780A
- Authority
- CN
- China
- Prior art keywords
- display
- virtual
- image
- real scene
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 82
- 230000000694 effects Effects 0.000 claims abstract description 97
- 238000009877 rendering Methods 0.000 claims abstract description 42
- 230000003190 augmentative effect Effects 0.000 claims abstract description 34
- 230000015654 memory Effects 0.000 claims description 19
- 238000013507 mapping Methods 0.000 claims description 18
- 239000000463 material Substances 0.000 claims description 6
- 239000004576 sand Substances 0.000 description 38
- 238000010586 diagram Methods 0.000 description 25
- 238000004891 communication Methods 0.000 description 9
- 238000004590 computer program Methods 0.000 description 5
- 238000010276 construction Methods 0.000 description 5
- 238000013499 data model Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000004883 computer application Methods 0.000 description 1
- 230000001747 exhibiting effect Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
Landscapes
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开提供了一种展示方法、显示装置、设备及计算机可读存储介质;应用于显示设备中,显示设备在预设的滑动轨道上移动,显示设备设置有图像采集单元,方法包括:通过显示设备上的图像采集单元采集显示设备在当前移动位置上的真实场景图像;基于真实场景图像中包括的展示对象,确定与展示对象匹配的虚拟对象数据;利用虚拟对象数据,在真实场景图像中与展示对象关联的展示位置处渲染虚拟对象数据对应的虚拟对象;在显示设备上展示真实场景图像与虚拟对象相叠加的增强现实AR效果。通过本公开,能够提高展示的直观性和丰富性。
Description
技术领域
本公开涉及图像处理技术,尤其涉及一种展示方法、显示装置、设备及计算机可读存储介质。
背景技术
目前,对于一些大型展会,如汽车展示、工地楼体展示、或建筑规划沙盘展示等场景,参展者往往只能看到目前完成程度的展品实物本身,对与展品相关的进一步详细信息的展示以及预期的完整展示效果多依赖于讲解员的讲解或是单独的宣传片展示,导致展示效果不够直观和丰富。
发明内容
本公开实施例提供一种展示方法、显示装置、设备及计算机可读存储介质。
本公开实施例的技术方案是这样实现的:
本公开实施例提供一种展示方法,所述方法应用于显示设备中,所述显示设备在预设的滑动轨道上移动,所述显示设备设置有图像采集单元,所述方法包括:
通过所述显示设备上的图像采集单元采集所述显示设备在当前移动位置上的真实场景图像;
基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据;
利用所述虚拟对象数据,在所述真实场景图像中与所述展示对象关联的展示位置处渲染所述虚拟对象数据对应的虚拟对象;
在所述显示设备上展示所述真实场景图像与所述虚拟对象相叠加的增强现实AR效果。
上述方案中,所述虚拟对象数据包括至少以下之一:
虚拟对象的颜色;
虚拟对象的样式;
虚拟对象的附加信息;
虚拟对象的透明度或材质。
上述方案中,所述虚拟对象包括至少以下之一:
与所述展示对象对应的虚拟场景效果;
与所述展示对象对应的虚拟细节图;
与所述展示对象对应的虚拟三维动画效果;
与所述展示对象对应的虚拟标签。
上述方案中,所述基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据,包括:
基于所述真实场景图像,确定所述展示对象在预设三维虚拟场景中对应的虚拟对象模型;所述预设三维虚拟场景为根据所述真实场景建模得到的虚拟模型;
获得对所述虚拟对象模型是否存在有预设渲染数据的判断结果;
在所述判断结果表征为所述虚拟对象模型存在有预设渲染数据的情况下,将所述预设渲染数据作为所述虚拟对象数据。
上述方案中,所述基于所述真实场景图像,确定所述展示对象在预设三维虚拟场景中对应的虚拟对象模型,包括:
根据所述真实场景图像,确定所述展示对象在真实场景中的当前位姿信息;
根据真实坐标系与虚拟坐标系的预设映射关系,确定所述当前位姿信息在所述预设三维虚拟场景中对应的虚拟对象模型;所述真实坐标系为所述真实场景对应的坐标系;所述虚拟坐标系为所述预设三维虚拟场景对应的坐标系。
上述方案中,所述根据所述真实场景图像,确定所述展示对象在真实场景中的当前位姿信息,包括:
将所述真实场景图像与所述预设三维虚拟场景的点云进行特征匹配,确定出至少一个目标点云;
将所述至少一个目标点云对应的预设关联图像集与所述真实场景图像进行匹配,确定出目标关联图像;
获取所述目标关联图像对应的预设位姿信息;
根据所述预设位姿信息,确定所述展示对象的当前位姿信息。
上述方案中,所述根据所述真实场景图像,确定所述展示对象在真实场景中的当前位姿信息,包括:
获取所述真实场景图像的特征信息;
将所述真实场景图像的特征信息与至少一个预定图像的特征信息进行匹配,从至少一个预定图像中确定出匹配图像;所述至少一个预定图像为所述显示设备预先对所述真实场景进行采集得到的图像;
根据所述匹配图像对应的预设位姿信息,确定所述展示对象的当前位姿信息。
上述方案中,所述根据真实坐标系与虚拟坐标系的预设映射关系,确定所述当前位姿信息在所述预设三维虚拟场景中对应的虚拟对象模型,包括:
根据真实坐标系与虚拟坐标系的预设映射关系,确定所述当前位姿信息在所述预设三维虚拟场景中对应的位置区域;
将所述位置区域内对应的预设虚拟模型作为所述虚拟对象模型。
上述方案中,所述预设三维虚拟场景为实时重建的模型,或者预存在云端的模型。
上述方案中,所述图像采集单元包含双目摄像头;所述基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据之前,所述方法还包括:
通过所述双目摄像头,获取所述真实场景图像的图像信息和深度信息;
根据所述真实场景图像的图像信息和深度信息;对所述真实场景图像中的展示对象进行三维建模,得到所述预设三维虚拟场景。
上述方案中,所述在所述显示设备上展示所述真实场景图像与所述虚拟对象相叠加的增强现实AR效果之后,所述方法还包括:
在所述显示设备的移动过程中,对采集的所述真实场景图像进行更新,并基于更新的真实场景图像得到更新的虚拟对象;
在所述显示设备上实时展示所述更新的真实场景图像与所述更新的虚拟对象相叠加的增强现实AR效果。
上述方案中,展示物体的周围设置有至少一个显示设备,所述至少一个显示设备中的每个显示设备用于根据各自对所述展示物体的采集方向,在各自当前位置上实时采集所述展示物体的真实场景图像,并基于各自采集到的真实场景图像得到对应的虚拟对象,展示各自对应的真实场景图像与虚拟对象相叠加的增强现实AR效果。
本公开实施例提供一种显示装置,所述装置包括:
采集模块,用于通过所述显示设备上的图像采集单元采集所述显示设备在当前移动位置上的真实场景图像;
匹配模块,用于基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据;
渲染模块,用于利用所述虚拟对象数据,在所述真实场景图像中与所述展示对象关联的展示位置处渲染所述虚拟对象数据对应的虚拟对象;
展示模块,用于在所述显示设备上展示所述真实场景图像与所述虚拟对象相叠加的增强现实AR效果。
上述装置中,所述虚拟对象数据包括至少以下之一:
虚拟对象的颜色;
虚拟对象的样式;
虚拟对象的附加信息;
虚拟对象的透明度或材质。
上述装置中,所述虚拟对象包括至少以下之一:
与所述展示对象对应的虚拟场景效果;
与所述展示对象对应的虚拟细节图;
与所述展示对象对应的虚拟三维动画效果;
与所述展示对象对应的虚拟标签。
上述装置中,所述匹配模块,还用于基于所述真实场景图像,确定所述展示对象在预设三维虚拟场景中对应的虚拟对象模型;所述预设三维虚拟场景为根据所述真实场景建模得到的虚拟模型;获得对所述虚拟对象模型是否存在有预设渲染数据的判断结果;在所述判断结果表征为所述虚拟对象模型存在有预设渲染数据的情况下,将所述预设渲染数据作为所述虚拟对象数据。
上述装置中,所述匹配模块,还用于根据所述真实场景图像,确定所述展示对象在真实场景中的当前位姿信息;根据真实坐标系与虚拟坐标系的预设映射关系,确定所述当前位姿信息在所述预设三维虚拟场景中对应的虚拟对象模型;所述真实坐标系为所述真实场景对应的坐标系;所述虚拟坐标系为所述预设三维虚拟场景对应的坐标系。
上述装置中,所述匹配模块,还用于将所述真实场景图像与所述预设三维虚拟场景的点云进行特征匹配,确定出至少一个目标点云;将所述至少一个目标点云对应的预设关联图像集与所述真实场景图像进行匹配,确定出目标关联图像;获取所述目标关联图像对应的预设位姿信息;根据所述预设位姿信息,确定所述展示对象的当前位姿信息。
上述装置中,所述匹配模块,还用于获取所述真实场景图像的特征信息;将所述真实场景图像的特征信息与至少一个预定图像的特征信息进行匹配,从至少一个预定图像中确定出匹配图像;所述至少一个预定图像为所述显示设备预先对所述真实场景进行采集得到的图像;根据所述匹配图像对应的预设位姿信息,确定所述展示对象的当前位姿信息。
上述装置中,所述匹配模块,还用于根据真实坐标系与虚拟坐标系的预设映射关系,确定所述当前位姿信息在所述预设三维虚拟场景中对应的位置区域;将所述位置区域内对应的预设虚拟模型作为所述虚拟对象模型。
上述装置中,所述预设三维虚拟场景为实时重建的模型,或者预存在云端的模型。
上述装置中,所述图像采集单元包含双目摄像头;所述显示设备还包括建模模块,所述采集模块,还用于所述基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据之前,通过所述双目摄像头,获取所述真实场景图像的图像信息和深度信息;所述建模模块,还用于根据所述真实场景图像的图像信息和深度信息;对所述真实场景图像中的展示对象进行三维建模,得到所述预设三维虚拟场景。
上述装置中,所述显示设备还包括更新模块,所述更新模块,用于在所述显示设备上展示所述真实场景图像与所述虚拟对象相叠加的增强现实AR效果之后,在所述显示设备的移动过程中,对采集的所述真实场景图像进行更新,并基于更新的真实场景图像得到更新的虚拟对象;所述展示模块,还用于在所述显示设备上实时展示所述更新的真实场景图像与所述更新的虚拟对象相叠加的增强现实AR效果。
上述装置中,展示物体的周围设置有至少一个显示设备,所述至少一个显示设备中的每个显示设备用于根据各自对所述展示物体的采集方向,在各自当前位置上实时采集所述展示物体的真实场景图像,并基于各自采集到的真实场景图像得到对应的虚拟对象,展示各自对应的真实场景图像与虚拟对象相叠加的增强现实AR效果。
本公开实施例提供一种显示设备,所述显示设备在预设的滑动轨道上移动,包括:
显示屏,用于在所述显示设备上展示所述真实场景图像与虚拟对象相叠加的增强现实AR效果;
存储器,用于存储可执行指令;
处理器,用于执行所述存储器中存储的可执行指令时,结合所述显示屏,实现本公开实施例所述的方法。
本公开实施例提供一种计算机可读存储介质,存储有可执行指令,用于被处理器执行时,实现本公开实施例提供的方法。
本公开实施例具有以下有益效果:
当显示设备采集到当前移动位置上的真实场景图像时,可以基于真实场景图像中的展示对象,确定匹配的虚拟对象数据,根据虚拟对象数据对真实场景中展示对象关联的展示位置进行进一步渲染,使得显示设备上可以同时展示真实场景图像与虚拟对象相叠加的增强现实AR效果,因此可以通过虚实结合的方式对展示物体进行多方位的展示,从而提高了展示的直观性和丰富性。
附图说明
图1是本公开实施例提供的展示***架构的一个可选的结构示意图;
图2是本公开实施例提供的一种应用场景的示意图;
图3是本公开实施例提供的另一种应用场景的示意图;
图4是本公开实施例提供的展示方法的一个可选的流程示意图;
图5是本公开实施例提供的显示设备的装置结构示意图;
图6a是本公开实施例提供的虚拟对象的一个可选的效果示意图;
图6b是本公开实施例提供的虚拟对象的一个可选的效果示意图;
图6c是本公开实施例提供的虚拟对象的一个可选的效果示意图;
图6d是本公开实施例提供的虚拟对象的一个可选的效果示意图;
图7是本公开实施例提供的展示方法的一个可选的流程示意图;
图8是本公开实施例提供的展示方法的一个可选的流程示意图;
图9是本公开实施例提供的展示方法的一个可选的流程示意图;
图10a是本公开实施例提供的通过显示屏对沙盘模型进行展示的一个可选的效果示意图;
图10b是本公开实施例提供的通过显示屏对沙盘模型进行展示的一个可选的效果示意图;
图10c是本公开实施例提供的通过显示屏对沙盘模型进行展示的一个可选的效果示意图;
图10d是本公开实施例提供的通过显示屏对沙盘模型进行展示的一个可选的效果示意图;
图10e是本公开实施例提供的通过显示屏对沙盘模型进行展示的一个可选的效果示意图;
图11是本公开实施例提供的显示装置的一个可选的结构示意图;
图12是本公开实施例提供的显示设备的一个可选的结构示意图。
具体实施方式
为了使本公开的目的、技术方案和优点更加清楚,下面将结合附图对本公开作进一步地详细描述,所描述的实施例不应视为对本公开的限制,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本公开保护的范围。
增强现实(Augmented Reality)技术是一种将虚拟信息与真实世界巧妙融合的技术,用户可以通过AR设备可以观看到叠加在真实场景中的虚拟对象,比如可以看到叠加在真实的校园操场上的虚拟大树,看到叠加在天空中的虚拟飞翔小鸟,如何使得这些虚拟大树和虚拟飞翔小鸟这些虚拟对象能够更好地与现实场景相融合,实现增强现实场景中对虚拟对象的呈现效果,为本公开实施例所要讨论的内容,下面将结合以下具体实施例进行阐述。
本公开实施例提供一种展示方法、显示装置、设备及计算机可读存储介质,能够提高展示的直观性和丰富性,本公开实施例提供的展示方法应用于显示设备中,下面说明本公开实施例提供的显示设备的示例性应用,本公开实施例提供的显示设备可以实施为AR眼镜、笔记本电脑,平板电脑,台式计算机,机顶盒,显示屏(例如可移动的显示屏,显示屏可以在预设的滑动轨道上移动)、移动设备(例如,移动电话,便携式音乐播放器,个人数字助理,专用消息设备,便携式游戏设备)等各种具有显示屏的终端。下面,将说明显示设备实施为终端时示例性应用。当显示设备实施为终端时,可以基于真实场景图像中的展示对象,从终端的内部存储空间中的预设三维虚拟场景获取确定对应的虚拟对象数据,根据虚拟对象数据呈现与展示对象叠加的虚实结合的AR图像效果;终端也可以与云端服务器进行交互,通过预存在云端服务器的预设三维虚拟场景获得虚拟对象数据。下面结合在对展示物体进行展示的场景中,终端通过与服务器交互的方式获取虚拟对象数据,以呈现AR图像效果为例进行展示***的说明。
参见图1,图1是本公开实施例提供的展示***100的一个可选的架构示意图,为实现支撑一个展示应用,终端400(示例性示出了终端400-1和终端4 00-2)通过网络300连接服务器200,网络300可以是广域网或者局域网,又或者是二者的组合。在真实的展示场景中,如沙盘展示,工地楼宇展示等,终端 400可以是带有摄像头的手机,其中手机可以通过手持移动。
终端400用于通过图像采集单元采集当前移动位置上的真实场景图像;基于真实场景图像中包括的展示对象,确定与展示对象匹配的虚拟对象数据;利用虚拟对象数据,在真实场景图像中与展示对象关联的展示位置处渲染虚拟对象数据对应的虚拟对象;在图形界面410展示真实场景图像与虚拟对象相叠加的增强现实AR效果。
示例性的,当终端400实施为手机时,可以启动手机上的预设展示应用,通过预设展示应用调用摄像头采集真实场景图像,并基于真实场景图像中包括的展示对象,向服务器200发起数据请求,服务器200接收到数据请求后,从预存在数据库500中的预设三维虚拟场景中确定与展示对象匹配的虚拟对象数据;并将虚拟对象数据发回给终端400。终端400得到服务器反馈的虚拟对象数据之后,通过渲染工具根据虚拟对象数据渲染出虚拟对象,并叠加在真实场景图像中展示对象的相关展示位置,从而得到虚实结合的AR效果图像,最终将AR效果图像呈现在终端400的图形界面上。
在一些实施例中,服务器200可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式***,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。终端 400可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等,但并不局限于此。终端以及服务器可以通过有线或无线通信方式进行直接或间接地连接,本公开实施例中不做限制。
参见图2,图2为本公开实施例提供的一种应用场景的示意图,如图2所示,显示屏101可以设置在楼宇之中,并可以沿预设轨道进行滑动。在其它实施例中,显示屏101可以设置在楼宇的边缘或楼宇之外。显示屏101可以用于采集楼宇的真实场景图像,并在楼宇真实场景图像上叠加与楼宇图像相关的虚拟效果,从而呈现出虚实结合的AR显示效果。在一些实施例中,在显示屏滑动到楼宇A的情况下,显示屏101采集到楼宇A的真实图像,并可以根据楼宇 A的真实图像确定楼宇A的楼宇模型为A’,显示屏101根据A’对应的预设渲染数据,渲染得到楼宇A的虚拟效果图像,并将楼宇A的虚拟效果图像叠加楼宇 A的真实图像上显示出虚实结合的AR效果。在显示屏滑动到楼宇B的情况下,显示屏可以得到楼宇B的真实图像,并确定楼宇B的楼宇模型为B’,进而将楼宇B的虚拟效果图像叠加楼宇B的真实图像上对屏幕显示内容进行更新,从而在显示屏101的移动过程中实时显示出每个移动位置上对应的真实楼宇画面与虚拟效果图像虚实结合的AR效果。
图3为本公开实施例提供的另一种应用场景的示意图,如图3所示,本公开实施例中的显示设备还可以终端设备102,用户可以手持或佩戴终端设备102 进入楼宇之间,并通过拍摄楼宇使在终端设备102上显示楼宇图像与楼宇模型图像虚实叠加的AR效果。
下面,将结合本公开实施例提供的显示设备为显示屏的示例性应用和实施,说明本公开实施例提供的展示方法。
参见图4,图4是本公开实施例提供的展示方法的一个可选的流程示意图,将结合图4示出的步骤进行说明。
S101、通过显示设备上的图像采集单元采集显示设备在当前移动位置上的真实场景图像。
本公开实施例提供的展示方法适用于物体展示场景,示例性的,楼盘沙盘展示、工地楼宇展示、或其他物体展示的场景。
本公开实施例中提供的展示方法应用于显示设备中,其中,如图5所示,显示设备500可以固定在通过带有滑轮的支架530上,与展台520上预设的滑动轨道510活动连接,并可沿预设的滑动轨道510左右滑动。
本公开实施例中,显示设备可以通过图像采集单元实时采集当前真实场景的图像。其中,真实场景可以是展台上的沙盘模型或其他展品、建筑中的工地、建筑物室内场景、街道场景、或其他具体的物体等能够叠加虚拟对象的场景,通过在真实场景中叠加虚拟对象,来呈现增强现实的效果。其中,图像采集单元的采集范围可以包含全部展示物体,可以只包含部分展示物体,具体的可根据实际情况进行选择,本公开实施例对图像采集单元的采集范围不做限定。
本公开实施例中,采集真实场景图像的图像采集单元可以是单目摄像头,也可以是双目摄像头,本公开实施例不做限定。当显示设备为在预设轨道上滑动的显示屏时,可以在显示屏背面设置单目摄像头或双目摄像头,用于采集显示屏背对着的展示物体,并通过显示屏正面的显示屏幕显示展示物体对应的真实场景图像与虚拟对象相叠加的增强现实AR效果。
S102、基于真实场景图像中包括的展示对象,确定与展示对象匹配的虚拟对象数据。
本公开实施例中,显示设备可以从真实场景图像中识别出展示对象,并基于识别到的展示对象,确定与展示对象匹配的虚拟对象数据。
本公开实施例中,展示对象为真实场景图像中包含的属于展示物体的图像,由于图像采集单元的采集范围覆盖了展示物体的部分或全部,因此显示设备将采集到的真实场景图像中对应包含的该展示物体的部分或全部图像,作为展示对象。
本公开实施例中,真实场景图像为包含了展示对象与真实场景背景信息的图像,显示设备可以通过图像识别方法,从真实场景图像中识别出展示对象,从而确定展示对象所对应的虚拟对象数据。
本公开实施例中,虚拟对象数据是一组虚拟的图像数据,可以是用于通过渲染工具渲染出虚拟对象的渲染参数。虚拟对象可以理解为是在真实场景中展现的虚拟物体。
本公开实施例中,显示设备可以预先构建虚拟对象数据库,该虚拟对象数据库可以存储真实场景中的多个展示对象与虚拟对象数据之间的映射关系。这样,当显示设备在识别到真实场景图像的展示对象后,从虚拟对象数据库中查找并获取与该内容信息对应的虚拟对象数据。
本公开实施例中,显示设备可以通过机器学习的方式,预先训练虚拟对象数据模型。这里,可以根据大量的真实对象的样本数据,以及真实对象的样本数据对应的虚拟对象数据,训练神经网络模型,得到训练好的虚拟对象数据模型。这样,当显示设备在识别到真实场景图像的展示对象后,将该展示对象输入至虚拟对象数据模型中,通过虚拟对象数据模型来得到实时生成的虚拟对象数据。
本公开实施例中,显示设备可以从本地存储空间中获取与该真实场景图像对应的虚拟对象数据,也可以向将真实场景图像发送至第三方设备,如云端服务器,由第三方设备根据真实场景图像中的展示对象向显示设备提供对应的虚拟对象数据。本公开实施例对获取虚拟对象数据的方式不做限定。
本公开实施例中,虚拟对象数据可以包括以下至少之一:
虚拟对象的颜色;虚拟对象的样式;虚拟对象的附加信息;虚拟对象的透明度或材质。其中,;虚拟对象的样式可以是虚拟对象的高度、形状等外观特征,虚拟对象的附加信息可以是文字或图片说明信息,虚拟对象的透明度或材质可以是虚拟对象叠加在展示对象上显示时对应的透明度和呈现出的纹理效果。使用哪几种虚拟对象数据来渲染虚拟对象可以根据实际需要进行选择,本公开实施例不作限制。
S103、利用虚拟对象数据,在真实场景图像中与展示对象关联的展示位置处渲染虚拟对象数据对应的虚拟对象。
本公开实施例中,显示设备根据展示对象确定出虚拟对象数据之后,在真实场景图像中与展示对象关联的展示位置处渲染虚拟对象数据对应的虚拟对象。
本公开实施例中,显示设备根据虚拟对象数据渲染得到的虚拟对象可以包括以下至少之一:
与展示对象对应的虚拟场景效果;如图6a所示,在通过滑轨上的显示屏对展台上的沙盘模型进行展示时,虚拟对象可以是沙盘中的楼宇模型对应的完工后的效果,以及沙盘区域在白天和夜晚不同的场景效果。
与展示对象对应的虚拟细节图;如图6b所示,在通过滑轨上的显示屏对展台上的汽车进行展示时,虚拟对象可以是在显示屏当前位置对应的车身部位内部的构造细节图。
与展示对象对应的虚拟三维动画效果;如图6c所示,虚拟对象可以是汽车上的元件如方向盘的虚拟三维动画效果53,显示设备可以将方向盘元件对应的虚拟三维动画效果53在显示屏的上方区域播放,对方向盘进行全方位旋转展示。
与展示对象对应的虚拟标签。如图6d所示,在通过滑轨上的显示屏对展台上的沙盘模型进行展示时,虚拟对象可以是以文字标签或图片标签的形式展示楼宇模型对应的说明信息。
本公开实施例中,显示设备可以从真实场景图像中得到与展示对象关联的展示位置,这样在根据虚拟对象数据进行渲染,得到虚拟对象之后,将虚拟对象对应叠加真实场景图像中展示对象关联的展示位置之上,再配合虚拟对象数据中透明度的设置,来达到真实场景图像与虚拟对象相叠加的增强显示AR效果。如上述图6a至图6d所示,虚拟对象与真实场景图像中的展示对象是1:1 大小,并且虚拟对象是覆盖在真实场景图像中展示对象的同一位置上的,因此如沙盘完工效果、车身细节图等虚拟效果可以覆盖并重合在沙盘部分模型图像,汽车部分车身图像上显示,从而呈现出了在真实的展示物体上进一步叠加了虚拟画面的增强显示AR效果。
S104、在显示设备上展示真实场景图像与虚拟对象相叠加的增强现实AR 效果。
本公开实施例中,显示设备渲染出虚拟对象之后,可以通过显示设备上的显示屏幕,展示真实场景图像与虚拟对象相叠加的增强现实AR效果。
可以理解的是,当显示设备采集到当前移动位置上的真实场景图像时,可以基于真实场景图像中的展示对象,确定匹配的虚拟对象数据,根据虚拟对象数据对真实场景中展示对象关联的展示位置进行进一步渲染,使得显示设备上可以同时展示真实场景图像与虚拟对象相叠加的增强现实AR效果,因此可以通过虚实结合的方式对展示物体进行多方位的展示,从而提高了展示的直观性和丰富性。
在一些可能的实施方式中,参见图7,图7是本公开实施例提供的方法的一个可选的流程示意图,图4示出的S102可以通过S1021至S1023实现,将结合各步骤进行说明。
S1021、基于真实场景图像,确定展示对象在预设三维虚拟场景中对应的虚拟对象模型;预设三维虚拟场景为根据真实场景建模得到的虚拟模型。
本公开实施例中,显示设备可以基于真实场景图像,确定其中的展示对象在预设三维虚拟场景中对应的虚拟对象模型。
本公开实施例中,预设三维虚拟场景为根据真实场景建模得到的虚拟模型,其中,预设三维虚拟场景为实时重建的模型,或者预存在云端的模型。
本公开实施例中,对于预设三维虚拟场景为实时重建的模型的情况,显示设备上的图像采集单元可以是双目摄像头,这样,显示设备可以通过双目摄像头,获取真实场景图像的图像信息和深度信息;并根据真实场景图像的图像信息和深度信息;对真实场景图像中的展示对象进行三维建模,得到预设三维虚拟场景。对于预设三维虚拟场景预存在云端的情况,显示设备可以将真实场景图像发送到云端服务器,由云端服务器作为执行主体,基于真实场景图像,在预存的预设三维虚拟场景中进行识别和匹配,确定出虚拟对象模型。
本公开实施例中,预设三维虚拟场景用于表征真实场景,与真实场景在相同坐标系是等比例呈现的,比如以真实场景为某条街道场景为例,该街道包含一栋高楼,则表征该真实场景的预设三维虚拟场景同样包括该条街道的模型以及该条街道中的该栋高楼,且预设三维虚拟场景与真实场景在相同坐标系中是按照1:1呈现的,即若将预设三维虚拟场景放入该真实场景所在的世界坐标系中,则该预设三维虚拟场景会与该真实场景完全重合。
本公开实施例中,虚拟对象模型为展示对象在预设三维虚拟场景中对应的模型部分。在一些实施例中,当展示对象为沙盘中的A区模型时,虚拟对象模型为预设三维虚拟场景的虚拟沙盘中的虚拟A区模型,其中,A区模型与虚拟 A区模型可以完全对应并重合。
本公开实施例中,显示设备基于真实场景图像,确定预设三维虚拟场景中对应的虚拟对象模型的过程可以参见图8,图8是本公开实施例提供的方法的一个可选的流程示意图,图7中示出的S1021可以通过S201-S202实现,将结合各步骤进行说明。
S201、根据真实场景图像,确定展示对象在真实场景中的当前位姿信息。
本公开实施例中,显示设备可以根据真实场景图像,确定展示对象在真实场景中的当前位姿信息。其中,当前位姿信息不限于位置、角度等信息。
在本公开的一些实施例中,S201可以通过S2011-S2013实现,将结合具体的步骤进行说明。
S2011、获取真实场景图像的特征信息。
本公开实施例中,显示设备可以从真实场景图像中提取特征点集合,作为真实场景图像的特征信息。其中,显示设备可以从真实场景图像中的背景图像中提取特征信息,也可以从展示对象中提取特征信息,本公开实施例对提取特征点的位置不做限定。
S2012、将真实场景图像的特征信息与至少一个预定图像的特征信息进行匹配,从至少一个预定图像中确定出匹配图像;至少一个预定图像为显示设备预先对真实场景进行采集得到的图像。
本公开实施例中,显示设备将真实场景图像的特征信息与至少一个预定图像的特征信息进行匹配,根据预设的匹配条件,从至少一个预定图像中确定出匹配图像。
本公开实施例中,至少一个预定图像为显示设备通过不同拍摄位置或拍摄角度,预先对真实场景进行采集得到的图像。
S2013、根据匹配图像对应的预设位姿信息,确定展示对象的当前位姿信息。
本公开实施例中,显示设备在对至少一个预定图像进行采集时,可以对应获取和保存每个预定图像在采集时的拍摄位姿数据,作为预设位姿信息。为了方便解释预设位姿信息,这里引入坐标系的概念,比如真实坐标系,这里的预设位姿信息包括显示设备在真实坐标系中的坐标位置,或者包括显示设备与真实坐标系中各个坐标轴的夹角,或者同时包括显示设备在真实坐标系中的坐标位置以及与真实坐标中各个坐标轴的夹角,拍摄位姿数据具体包括的内容与对增强现实场景中虚拟对象设定的显示方式相关,在此不做具体限定。
本公开实施例中,由于每个预定图像对应有各自的预设位姿信息,因此,显示设备可以将真实场景所匹配到的匹配图像对应的预设位姿信息,作为展示对象的当前位姿信息。
在本公开的另一些实施例中,S201可以通过S2014-S2017实现,将结合具体的步骤进行说明。
S2014、将真实场景图像与预设三维虚拟场景的点云进行特征匹配,确定出至少一个目标点云。
本公开实施例中,预设三维虚拟场景为点云组成的三维虚拟模型,显示设备可以从真实场景图像中提取真实图像特征点集合,与预设三维虚拟场景点云进行特征匹配,根据预设的特征匹配条件确定出至少一个满足特征匹配条件的目标点云。
S2015、将至少一个目标点云对应的预设关联图像集与真实场景图像进行匹配,确定出目标关联图像。
本公开实施例中,至少一个目标点云中的每个目标点云关联了与该点云对应的至少一个预设关联图像,在一些实施例中,在预设三维虚拟场景中的目标点云为一把椅子的三维虚拟模型的情况下,该椅子的目标点云可以关联椅子各个角度的图像,作为至少一个关联图像。至少一个目标点云中每个目标点云对应的至少一个关联图像组成了预设关联图像集。
本公开实施例中,显示设备将真实场景图像与预设关联图像集进行匹配,确定出目标关联图像。在一些实施例中,显示设备可以将预设关联图像集与真实场景图像匹配度最高的预设关联图像作为目标关联图像。
S2016、获取目标关联图像对应的预设位姿信息。
S2017、根据预设位姿信息,确定展示对象的当前位姿信息。
本公开实施例中,显示这边将目标关联图像对应的预设位姿信息作为展示对象的当前位姿信息。
S202、根据真实坐标系与虚拟坐标系的预设映射关系,确定当前位姿信息在预设三维虚拟场景中对应的虚拟对象模型;真实坐标系为真实场景对应的坐标系;虚拟坐标系为预设三维虚拟场景对应的坐标系。
本公开实施例中,当显示设备确定出展示对象的当前位姿信息时,可以根据真实坐标系与虚拟坐标系的预设映射关系,确定当前位姿信息在预设三维虚拟场景中对应的虚拟对象模型。
本公开实施例中,真实坐标系为真实场景对应的坐标系;虚拟坐标系为预设三维虚拟场景对应的坐标;由于预设三维虚拟场景是根据真实场景等比例建模而成的,因此真实坐标系与虚拟坐标系之间存在预设的坐标映射关系。显示设备可以根据真实坐标系与虚拟坐标系的预设映射关系,将当前位姿信息映射到预设三维虚拟场景中,从而确定出预设三维虚拟场景与展示对象对应的虚拟对象模型。
本公开实施例中,S202中真实坐标系与虚拟坐标系的预设映射关系,确定当前位姿信息在预设三维虚拟场景中对应的虚拟对象模型的具体过程可以通过 S2021-S2022实现,将结合各步骤进行说明。
S2021、根据真实坐标系与虚拟坐标系的预设映射关系,确定当前位姿信息在预设三维虚拟场景中对应的位置区域。
本公开实施例中,当前位姿信息可以包含展示对象中每个像素的坐标点,显示设备根据真实坐标系与虚拟坐标系的预设映射关系,将展示对象中的每个像素的坐标点映射到虚拟坐标系下,从而得到当前位置信息在预设三维虚拟场景中对应的位置区域。
S2022、将位置区域内对应的预设虚拟模型作为虚拟对象模型。
本公开实施例中,显示设备将预设三维虚拟场景中,根据当前位姿信息确定出的位置区域里包括预设虚拟模型作为虚拟对象模型。
S1022、获得对虚拟对象模型是否存在有预设渲染数据的判断结果。
本公开实施例中,显示设备检测并判断虚拟对象模型上是否关联由预设渲染数据,其中,预设渲染数据存在于预设三维虚拟模型中,预设三维虚拟模型中的至少一个虚拟对象模型可以关联有各自对应的预设渲染数据,通过预设渲染数据可以将原本不可见的虚拟对象模型渲染出对应的图像,也即虚拟对象。
本公开实施例中,预设三维虚拟模型中的每一处位置区域对应的虚拟对象模型可以均关联预设渲染数据,从而得到整个预设三维虚拟模型各个位置上的虚拟效果,也可以只对预设的几个虚拟对象模型关联预设渲染数据,只渲染出预设虚拟对象模型对应位置上的虚拟效果,具体的根据实际情况进行选择,本公开实施例不做限定。
本公开实施例中,对于预设三维虚拟场景预存在云端的情况,可以由云端服务器作为执行主体,获得对虚拟对象模型是否存在有预设渲染数据的判断结果。
S1023、在判断结果表征为虚拟对象模型存在有预设渲染数据的情况下,将预设渲染数据作为虚拟对象数据。
本公开实施例中,在判断结果表征为虚拟对象模型存在有预设渲染数据的情况下,显示设备将预设渲染数据作为虚拟对象数据,从而可以进一步利用虚拟对象数据,在真实场景图像中与展示对象关联的展示位置处渲染虚拟对象数据对应的虚拟对象,最终在显示设备上展示真实场景图像与虚拟对象相叠加的增强现实AR效果。
本公开实施例中,对于预设三维虚拟模型预存在云端服务器的情况,由云端服务器作为执行主体确定出虚拟对象数据之后,还可以将该虚拟对象数据发送至显示设备,通过显示设备展示AR场景图像。
可以理解的是,本公开实施例中,显示设备可以通过坐标系对齐的方式,在预设三维虚拟场景中找到与展示对象对应的虚拟对象模型,并根据虚拟对象模型得到渲染效果,从而可以将虚拟对象渲染出的虚拟对象叠加在真实场景的展示对象上进行显示,通过虚实结合的AR效果多方面的对展示物体进行呈现,从而提高了展示效果。
参见图9,图9是本公开实施例提供的展示方法的一个可选的流程示意图。基于图4,在S104之后,还可以执行S105-S106,将结合各步骤进行说明。
S105、在显示设备的移动过程中,对采集的真实场景图像进行更新,并基于更新的真实场景图像得到更新的虚拟对象。
本公开实施例中,在显示设备移动的过程中,图像采集单元采集的真实场景图像也会有所变化,在一些实施例中,当显示设备为沿着轨道移动的显示屏时,显示屏可以通过背面的摄像头对沙盘模型进行扫描,摄像头采集到的真实场景图像会随着扫描的位置实时更新,真实场景图像中包含的展示对象也会实时更新,因此,在显示设备的移动过程中,显示设备会对采集的真实场景图像进行更新,并基于更新的真实场景图像得到更新的虚拟对象。
S106、在显示设备上实时展示更新的真实场景图像与更新的虚拟对象相叠加的增强现实AR效果。
本公开实施例中,显示设备会在显示设备上实时展示更新的真实场景图像与更新的虚拟对象相叠加的增强现实AR效果,从而达到在显示设备移动过程中,根据每个不同移动位置上所采集到展示物体不同展示部分,实时展示不同的虚实结合的AR画面的流畅展示效果。
在本公开的一些实施例中,展示物体的周围可以设置有至少一个显示设备,至少一个显示设备中的每个显示设备用于根据各自对展示物体的采集方向,在各自当前位置上实时采集展示物体的真实场景图像,并基于各自采集到的真实场景图像得到对应的虚拟对象,展示各自对应的真实场景图像与虚拟对象相叠加的增强现实AR效果。在一些实施例中,在对建筑工地的施工楼宇进行AR 效果呈现的场景中,可以在建筑工地中搭设四面透明的玻璃房,并在每面玻璃墙后设置沿着预设轨道滑动的显示屏,用于对工地上各处位置的楼宇进行全方位的展示。
下面,将说明本公开实施例在一个实际的应用场景中的示例性应用。
在一些实施例中,对于楼盘沙盘展示的场景,可以在沙盘模型所在的展台旁设置滑轨,并在滑轨上设置可滑动的显示屏作为显示设备,其中,显示屏包括预设的滑动轨道和带有摄像头的显示屏,显示屏正面为屏幕部分,正对观看者,用于进行最终AR效果的展示,显示屏背面为摄像头,用于对沙盘模型进行图像采集。由于沙盘模型占据面积较大,显示屏的展示范围可以只是沙盘模型中的一部分,通过在预设滑动轨道上的移动来对整体沙盘模型进行扫描。
在一些实施例中,如图10a所示,当显示屏滑动到沙盘左侧位置时,背后的摄像头采集到沙盘模型左侧的图像作为真实场景图像,显示屏可以根据左侧沙盘模型图像,在显示设备内部存储空间中的预设三维虚拟场景中确定出与左侧沙盘模型匹配的虚拟左侧沙盘模型作为虚拟对象模型,并将关联在虚拟左侧沙盘模型上的虚拟沙盘模型渲染数据作为虚拟对象数据,从而可以通过虚拟沙盘模型渲染数据渲染出左侧沙盘模型对应的完工后的楼体图,并将完工后的楼体图叠加在真实的左侧沙盘模型图像上,并在显示屏中显示,从而展现出左侧沙盘模型对应的完工效果。在显示屏移动到沙盘模型的右侧时,如图10b所示,根据同样的过程得到右侧沙盘模型对应的虚拟效果,并叠加在右侧沙盘模型的真实图像上进行显示,展现出右侧沙盘模型对应的完工效果。在一些实施例中,虚拟沙盘模型渲染数据还可以设置为白天效果和夜间效果两种不同类型的虚拟对象数据,根据白天效果进行虚拟对象的渲染可以呈现出如图10c所示的AR 效果,根据夜间效果进行虚拟对象的渲染可以呈现出如图10d所示的AR效果。
在一些实施例中,如图10e所示,显示屏上还可以对应设置展示主题控件,这样,在不同的展示主题控件被点击事件触发时,显示设备可以根据被触发的不同展示主题控件对应的不同虚拟对象数据,在真实沙盘模型图像上叠加不同主题类型效果的虚拟对象,如基于同样的沙盘模型可以显示出交通分析、区域规划、时间展示,企业介绍等等多种虚拟效果主题。
可以理解的是,本公开实施例中,对于同样的展示物体,显示设备可以通过不同渲染效果的虚拟对象呈现不同的虚实结合的AR效果,从而丰富了展示方式,提高了展示效果。
本公开实施例提供一种显示设备,图11为本公开实施例提供的显示装置的一个可选的组成结构示意图,如图11所示,该显示装置455包括:
采集模块4551,用于通过显示设备上的图像采集单元采集所述显示设备在当前移动位置上的真实场景图像;
匹配模块4552,用于基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据;
渲染模块4553,用于利用所述虚拟对象数据,在所述真实场景图像中与所述展示对象关联的展示位置处渲染所述虚拟对象数据对应的虚拟对象;
展示模块4554,在所述显示设备上展示所述真实场景图像与所述虚拟对象相叠加的增强现实AR效果。
在一些实施例中,所述虚拟对象数据包括至少以下之一:
虚拟对象的颜色;
虚拟对象的样式;
虚拟对象的附加信息;
虚拟对象的透明度或材质。
在一些实施例中,所述虚拟对象包括至少以下之一:
与所述展示对象对应的虚拟场景效果;
与所述展示对象对应的虚拟细节图;
与所述展示对象对应的虚拟三维动画效果;
与所述展示对象对应的虚拟标签。
在一些实施例中,所述匹配模块4552,用于基于所述真实场景图像,确定所述展示对象在预设三维虚拟场景中对应的虚拟对象模型;所述预设三维虚拟场景为根据所述真实场景建模得到的虚拟模型;获得对所述虚拟对象模型是否存在有预设渲染数据的判断结果;在所述判断结果表征为所述虚拟对象模型存在有预设渲染数据的情况下,将所述预设渲染数据作为所述虚拟对象数据。
在一些实施例中,所述匹配模块4552,还用于根据所述真实场景图像,确定所述展示对象在真实场景中的当前位姿信息;根据真实坐标系与虚拟坐标系的预设映射关系,确定所述当前位姿信息在所述预设三维虚拟场景中对应的虚拟对象模型;所述真实坐标系为所述真实场景对应的坐标系;所述虚拟坐标系为所述预设三维虚拟场景对应的坐标系。
在一些实施例中,所述匹配模块4552,还用于将所述真实场景图像与所述预设三维虚拟场景的点云进行特征匹配,确定出至少一个目标点云;将所述至少一个目标点云对应的预设关联图像集与所述真实场景图像进行匹配,确定出目标关联图像;获取所述目标关联图像对应的预设位姿信息;根据所述预设位姿信息,确定所述展示对象的当前位姿信息。
在一些实施例中,所述匹配模块4552,还用于获取所述真实场景图像的特征信息;将所述真实场景图像的特征信息与至少一个预定图像的特征信息进行匹配,从至少一个预定图像中确定出匹配图像;所述至少一个预定图像为所述显示设备预先对所述真实场景进行采集得到的图像;根据所述匹配图像对应的预设位姿信息,确定所述展示对象的当前位姿信息。
在一些实施例中,所述匹配模块4552,还用于根据真实坐标系与虚拟坐标系的预设映射关系,确定所述当前位姿信息在所述预设三维虚拟场景中对应的位置区域;将所述位置区域内对应的预设虚拟模型作为所述虚拟对象模型。
在一些实施例中,所述预设三维虚拟场景为实时重建的模型,或者预存在云端的模型。
在一些实施例中,所述图像采集单元包含双目摄像头;所述显示装置455 还包括建模模块,所述采集模块4551,还用于所述基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据之前,通过所述双目摄像头,获取所述真实场景图像的图像信息和深度信息;所述建模模块,用于根据所述真实场景图像的图像信息和深度信息;对所述真实场景图像中的展示对象进行三维建模,得到所述预设三维虚拟场景。
在一些实施例中,所述显示装置455还包括更新模块,所述更新模块,用于在所述显示设备的移动过程中,对采集的所述真实场景图像进行更新,并基于更新的真实场景图像得到更新的虚拟对象;所述展示模块4554,还用于在所述显示设备上实时展示所述更新的真实场景图像与所述更新的虚拟对象相叠加的增强现实AR效果。
在一些实施例中,展示物体的周围设置有至少一个显示设备,所述至少一个显示设备中的每个显示设备用于根据各自对所述展示物体的采集方向,在各自当前位置上实时采集所述展示物体的真实场景图像,并基于各自采集到的真实场景图像得到对应的虚拟对象,展示各自对应的真实场景图像与虚拟对象相叠加的增强现实AR效果。
需要说明的是,以上装置实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本公开装置实施例中未披露的技术细节,请参照本公开方法实施例的描述而理解。
需要说明的是,本公开实施例中,如果以软件功能模块的形式实现上述的展示方法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本公开实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是终端、服务器等)执行本公开各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本公开实施例不限制于任何特定的硬件和软件结合。
对应地,本公开实施例再提供一种计算机程序产品,所述计算机程序产品包括计算机可执行指令,该计算机可执行指令用于实现本公开实施例提供的展示方法中的步骤。
相应的,本公开实施例再提供一种计算机存储介质,所述计算机存储介质上存储有计算机可执行指令,该计算机可执行指令用于实现上述实施例提供的展示方法的步骤。
本公开实施例还提供一种显示设备,图12为本公开实施例提供的显示设备的一个可选的组成结构示意图,如图12所示,所述显示设备110包括:显示屏1101;
存储器1102,用于存储计算机程序;
处理器1103,用于执行所述存储器1102中存储的计算机程序时,结合所述显示屏1101,实现上述实施例提供的展示方法的步骤。
显示设备110还包括:通信总线1104。通信总线1104配置为实现这些组件之间的连接通信。
在本公开实施例中,显示屏1101包括但不限于液晶显示屏,有机发光二极管显示屏,触控显示屏等等,本公开这里不做限定。
存储器1102配置为存储由处理器1101计算机程序和应用,还可以缓存待处理器1103以及显示设备中各模块待处理或已经处理的数据(例如,图像数据、音频数据、语音通信数据和视频通信数据),可以通过闪存(FLASH)或随机访问存储器(Random AccessMemory,RAM)实现。
处理器1103执行程序时实现上述任一项展示方法的步骤。处理器1103通常控制显示设备110的总体操作。
上述处理器1103可以为特定用途集成电路(Application Specific IntegratedCircuit,ASIC)、数字信号处理器(Digital Signal Processor,DSP)、数字信号处理装置(Digital Signal Processing Device,DSPD)、可编程逻辑装置 (Programmable LogicDevice,PLD)、现场可编程门阵列(Field Programmable Gate Array,FPGA)、中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器中的至少一种。可以理解地,实现上述处理器功能的电子器件还可以为其它,本公开实施例不作限制。
上述计算机可读存储介质/存储器可以是只读存储器(Read Only Memory, ROM)、可编程只读存储器(Programmable Read-Only Memory,PROM)、可擦除可编程只读存储器(Erasable Programmable Read-Only Memory,EPROM)、电可擦除可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,EEPROM)、磁性随机存取存储器(Ferromagnetic Random Access Memory,FRAM)、快闪存储器(Flash Memory)、磁表面存储器、光盘、或只读光盘(Compact Disc Read-Only Memory,CD-ROM)等存储器;也可以是包括上述存储器之一或任意组合的各种终端,如移动电话、计算机、平板设备、个人数字助理等。
这里需要指出的是:以上存储介质和设备实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本公开存储介质和设备实施例中未披露的技术细节,请参照本公开方法实施例的描述而理解。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本公开的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。应理解,在本公开的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本公开实施例的实施过程构成任何限定。上述本公开实施例序号仅仅为了描述,不代表实施例的优劣。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
在本公开所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个***,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元;既可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本公开实施例方案的目的。
另外,在本公开各实施例中的各功能单元可以全部集成在一个处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
或者,本公开上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本公开实施例的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得设备自动测试线执行本公开各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。
本公开所提供的几个方法实施例中所揭露的方法,在不冲突的情况下可以任意组合,得到新的方法实施例。
本公开所提供的几个方法或设备实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的方法实施例或设备实施例。
以上所述,仅为本公开的实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以所述权利要求的保护范围为准。
Claims (15)
1.一种展示方法,其特征在于,所述方法应用于显示设备中,所述显示设备在预设的滑动轨道上移动,所述方法包括:
通过所述显示设备上的图像采集单元采集所述显示设备在当前移动位置上的真实场景图像;
基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据;
利用所述虚拟对象数据,在所述真实场景图像中与所述展示对象关联的展示位置处渲染所述虚拟对象数据对应的虚拟对象;
在所述显示设备上展示所述真实场景图像与所述虚拟对象相叠加的增强现实AR效果。
2.根据权利要求1所述的方法,其特征在于,所述虚拟对象数据包括至少以下之一:
虚拟对象的颜色;
虚拟对象的样式;
虚拟对象的附加信息;
虚拟对象的透明度或材质。
3.根据权利要求1或2所述的方法,其特征在于,所述虚拟对象包括至少以下之一:
与所述展示对象对应的虚拟场景效果;
与所述展示对象对应的虚拟细节图;
与所述展示对象对应的虚拟三维动画效果;
与所述展示对象对应的虚拟标签。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据,包括:
基于所述真实场景图像,确定所述展示对象在预设三维虚拟场景中对应的虚拟对象模型;所述预设三维虚拟场景为根据所述真实场景建模得到的虚拟模型;
获得对所述虚拟对象模型是否存在有预设渲染数据的判断结果;
在所述判断结果表征为所述虚拟对象模型存在有预设渲染数据的情况下,将所述预设渲染数据作为所述虚拟对象数据。
5.根据权利要求4所述的方法,其特征在于,所述基于所述真实场景图像,确定所述展示对象在预设三维虚拟场景中对应的虚拟对象模型,包括:
根据所述真实场景图像,确定所述展示对象在真实场景中的当前位姿信息;
根据真实坐标系与虚拟坐标系的预设映射关系,确定所述当前位姿信息在所述预设三维虚拟场景中对应的虚拟对象模型;所述真实坐标系为所述真实场景对应的坐标系;所述虚拟坐标系为所述预设三维虚拟场景对应的坐标系。
6.根据权利要求5所述的方法,其特征在于,所述根据所述真实场景图像,确定所述展示对象在真实场景中的当前位姿信息,包括:
将所述真实场景图像与所述预设三维虚拟场景的点云进行特征匹配,确定出至少一个目标点云;
将所述至少一个目标点云对应的预设关联图像集与所述真实场景图像进行匹配,确定出目标关联图像;
获取所述目标关联图像对应的预设位姿信息;
根据所述预设位姿信息,确定所述展示对象的当前位姿信息。
7.根据权利要求5所述的方法,其特征在于,所述根据所述真实场景图像,确定所述展示对象在真实场景中的当前位姿信息,包括:
获取所述真实场景图像的特征信息;
将所述真实场景图像的特征信息与至少一个预定图像的特征信息进行匹配,从至少一个预定图像中确定出匹配图像;所述至少一个预定图像为所述显示设备预先对所述真实场景进行采集得到的图像;
根据所述匹配图像对应的预设位姿信息,确定所述展示对象的当前位姿信息。
8.根据权利要求5-7任一项所述的方法,其特征在于,所述根据真实坐标系与虚拟坐标系的预设映射关系,确定所述当前位姿信息在所述预设三维虚拟场景中对应的虚拟对象模型,包括:
根据真实坐标系与虚拟坐标系的预设映射关系,确定所述当前位姿信息在所述预设三维虚拟场景中对应的位置区域;
将所述位置区域内对应的预设虚拟模型作为所述虚拟对象模型。
9.根据权利要求4-8任一项所述的方法,其特征在于,
所述预设三维虚拟场景为实时重建的模型,或者预存在云端的模型。
10.根据权利要求9所述的方法,其特征在于,所述图像采集单元包含双目摄像头;所述基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据之前,所述方法还包括:
通过所述双目摄像头,获取所述真实场景图像的图像信息和深度信息;
根据所述真实场景图像的图像信息和深度信息;对所述真实场景图像中的展示对象进行三维建模,得到所述预设三维虚拟场景。
11.根据权利要求1-10任一项所述的方法,其特征在于,所述在所述显示设备上展示所述真实场景图像与所述虚拟对象相叠加的增强现实AR效果之后,所述方法还包括:
在所述显示设备的移动过程中,对采集的所述真实场景图像进行更新,并基于更新的真实场景图像得到更新的虚拟对象;
在所述显示设备上实时展示所述更新的真实场景图像与所述更新的虚拟对象相叠加的增强现实AR效果。
12.根据权利要求1-11任一项所述的方法,其特征在于,展示物体的周围设置有至少一个显示设备,所述至少一个显示设备中的每个显示设备用于根据各自对所述展示物体的采集方向,在各自当前位置上实时采集所述展示物体的真实场景图像,并基于各自采集到的真实场景图像得到对应的虚拟对象,展示各自对应的真实场景图像与虚拟对象相叠加的增强现实AR效果。
13.一种显示装置,其特征在于,所述装置包括:
采集模块,用于通过显示设备上的图像采集单元采集所述显示设备在当前移动位置上的真实场景图像;
匹配模块,用于基于所述真实场景图像中包括的展示对象,确定与所述展示对象匹配的虚拟对象数据;
渲染模块,用于利用所述虚拟对象数据,在所述真实场景图像中与所述展示对象关联的展示位置处渲染所述虚拟对象数据对应的虚拟对象;
展示模块,用于在所述显示设备上展示所述真实场景图像与所述虚拟对象相叠加的增强现实AR效果。
14.一种显示设备,其特征在于,所述显示设备在预设的滑动轨道上移动,包括:
显示屏,用于在所述显示设备上展示所述真实场景图像与虚拟对象相叠加的增强现实AR效果;
存储器,用于存储可执行指令;
处理器,用于执行所述存储器中存储的可执行指令时,结合所述显示屏,实现权利要求1至12任一项所述的方法。
15.一种计算机可读存储介质,其特征在于,存储有可执行指令,用于被处理器执行时,实现权利要求1至12任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010617626.2A CN111815780A (zh) | 2020-06-30 | 2020-06-30 | 展示方法、显示装置、设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010617626.2A CN111815780A (zh) | 2020-06-30 | 2020-06-30 | 展示方法、显示装置、设备及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111815780A true CN111815780A (zh) | 2020-10-23 |
Family
ID=72855243
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010617626.2A Pending CN111815780A (zh) | 2020-06-30 | 2020-06-30 | 展示方法、显示装置、设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111815780A (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112687174A (zh) * | 2021-01-19 | 2021-04-20 | 上海华野模型有限公司 | 新房沙盘模型图像展示操控装置及图像展示方法 |
CN113012299A (zh) * | 2021-02-22 | 2021-06-22 | 北京市商汤科技开发有限公司 | 显示方法及装置、设备、存储介质 |
CN113138699A (zh) * | 2021-04-17 | 2021-07-20 | 中天智领(北京)科技有限公司 | 电子沙盘的控制方法、装置、计算机存储介质及电子沙盘 |
CN113674397A (zh) * | 2021-04-23 | 2021-11-19 | 阿里巴巴新加坡控股有限公司 | 一种数据处理方法及装置 |
CN114398132A (zh) * | 2022-01-14 | 2022-04-26 | 北京字跳网络技术有限公司 | 一种场景数据展示方法、装置、计算机设备和存储介质 |
CN115331309A (zh) * | 2022-08-19 | 2022-11-11 | 北京字跳网络技术有限公司 | 用于识别人体动作的方法、装置、设备和介质 |
CN116433874A (zh) * | 2021-12-31 | 2023-07-14 | 杭州堃博生物科技有限公司 | 支气管镜导航方法、装置、设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105844714A (zh) * | 2016-04-12 | 2016-08-10 | 广州凡拓数字创意科技股份有限公司 | 基于增强现实的场景显示方法及*** |
CN106355153A (zh) * | 2016-08-31 | 2017-01-25 | 上海新镜科技有限公司 | 一种基于增强现实的虚拟对象显示方法、装置以及*** |
CN108830944A (zh) * | 2018-07-12 | 2018-11-16 | 北京理工大学 | 光学透视式三维近眼显示***及显示方法 |
WO2019166735A1 (fr) * | 2018-02-27 | 2019-09-06 | Goldgewicht Consulting | Système et procédé d'affichage photoréaliste d'un objet tridimensionnel virtuel dans une application de réalité augmentée |
CN110738737A (zh) * | 2019-10-15 | 2020-01-31 | 北京市商汤科技开发有限公司 | 一种ar场景图像处理方法、装置、电子设备及存储介质 |
-
2020
- 2020-06-30 CN CN202010617626.2A patent/CN111815780A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105844714A (zh) * | 2016-04-12 | 2016-08-10 | 广州凡拓数字创意科技股份有限公司 | 基于增强现实的场景显示方法及*** |
CN106355153A (zh) * | 2016-08-31 | 2017-01-25 | 上海新镜科技有限公司 | 一种基于增强现实的虚拟对象显示方法、装置以及*** |
WO2019166735A1 (fr) * | 2018-02-27 | 2019-09-06 | Goldgewicht Consulting | Système et procédé d'affichage photoréaliste d'un objet tridimensionnel virtuel dans une application de réalité augmentée |
CN108830944A (zh) * | 2018-07-12 | 2018-11-16 | 北京理工大学 | 光学透视式三维近眼显示***及显示方法 |
CN110738737A (zh) * | 2019-10-15 | 2020-01-31 | 北京市商汤科技开发有限公司 | 一种ar场景图像处理方法、装置、电子设备及存储介质 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112687174A (zh) * | 2021-01-19 | 2021-04-20 | 上海华野模型有限公司 | 新房沙盘模型图像展示操控装置及图像展示方法 |
CN113012299A (zh) * | 2021-02-22 | 2021-06-22 | 北京市商汤科技开发有限公司 | 显示方法及装置、设备、存储介质 |
CN113138699A (zh) * | 2021-04-17 | 2021-07-20 | 中天智领(北京)科技有限公司 | 电子沙盘的控制方法、装置、计算机存储介质及电子沙盘 |
CN113674397A (zh) * | 2021-04-23 | 2021-11-19 | 阿里巴巴新加坡控股有限公司 | 一种数据处理方法及装置 |
CN113674397B (zh) * | 2021-04-23 | 2024-06-11 | 阿里巴巴创新公司 | 一种数据处理方法及装置 |
CN116433874A (zh) * | 2021-12-31 | 2023-07-14 | 杭州堃博生物科技有限公司 | 支气管镜导航方法、装置、设备及存储介质 |
CN114398132A (zh) * | 2022-01-14 | 2022-04-26 | 北京字跳网络技术有限公司 | 一种场景数据展示方法、装置、计算机设备和存储介质 |
CN114398132B (zh) * | 2022-01-14 | 2024-05-10 | 北京字跳网络技术有限公司 | 一种场景数据展示方法、装置、计算机设备和存储介质 |
CN115331309A (zh) * | 2022-08-19 | 2022-11-11 | 北京字跳网络技术有限公司 | 用于识别人体动作的方法、装置、设备和介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111815780A (zh) | 展示方法、显示装置、设备及计算机可读存储介质 | |
KR102417645B1 (ko) | Ar 장면 이미지 처리 방법, 장치, 전자 기기 및 저장 매체 | |
CN111833458B (zh) | 图像显示方法及装置、设备、计算机可读存储介质 | |
US9922461B2 (en) | Reality augmenting method, client device and server | |
CN105981076B (zh) | 合成增强现实环境的构造 | |
CN112132940A (zh) | 显示方法、装置,显示设备及存储介质 | |
CN112037314A (zh) | 图像显示方法、装置、显示设备及计算机可读存储介质 | |
CN105844714A (zh) | 基于增强现实的场景显示方法及*** | |
CN110517355A (zh) | 用于照明混合现实对象的环境合成 | |
KR20140082610A (ko) | 휴대용 단말을 이용한 증강현실 전시 콘텐츠 재생 방법 및 장치 | |
CN112684894A (zh) | 增强现实场景的交互方法、装置、电子设备及存储介质 | |
CN111862866B (zh) | 图像显示方法、装置、设备及计算机可读存储介质 | |
CN108765270B (zh) | 一种虚拟三维空间标签绑定方法及装置 | |
CN111815786A (zh) | 信息显示方法、装置、设备和存储介质 | |
CN108960947A (zh) | 基于虚拟现实的样板房展示方法及*** | |
US20190318543A1 (en) | R-snap for production of augmented realities | |
CN105183477A (zh) | 应用程序虚拟道具信息获取***及获取方法 | |
CN111833454A (zh) | 展示方法、装置、设备和计算机可读存储介质 | |
CN109255841A (zh) | Ar图像呈现方法、装置、终端及存储介质 | |
KR20190078675A (ko) | Ar-vr 기술 기반의 몰입형 전시 시스템 및 그 방법 | |
CN114332374A (zh) | 一种虚拟显示方法、设备以及存储介质 | |
JP7150894B2 (ja) | Arシーン画像処理方法及び装置、電子機器並びに記憶媒体 | |
CN106780754A (zh) | 一种混合现实方法及*** | |
CN111815785A (zh) | 现实模型的呈现方法、装置、电子设备及存储介质 | |
WO2023116396A1 (zh) | 一种渲染显示方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20201023 |
|
RJ01 | Rejection of invention patent application after publication |