CN108986199B - 虚拟模型处理方法、装置、电子设备及存储介质 - Google Patents
虚拟模型处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN108986199B CN108986199B CN201810616186.1A CN201810616186A CN108986199B CN 108986199 B CN108986199 B CN 108986199B CN 201810616186 A CN201810616186 A CN 201810616186A CN 108986199 B CN108986199 B CN 108986199B
- Authority
- CN
- China
- Prior art keywords
- real environment
- image
- illumination
- virtual model
- environment image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
- G06T15/506—Illumination models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/005—General purpose rendering architectures
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02B—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO BUILDINGS, e.g. HOUSING, HOUSE APPLIANCES OR RELATED END-USER APPLICATIONS
- Y02B20/00—Energy efficient lighting technologies, e.g. halogen lamps or gas discharge lamps
- Y02B20/40—Control techniques providing energy savings, e.g. smart controller or presence detection
Landscapes
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Generation (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开提供一种虚拟模型处理方法、装置、电子设备及存储介质,所述方法包括:获取当前拍摄的真实环境图像,根据所述真实环境图像获取用于确定光照信息的目标图像;对比所述目标图像中像素点的像素信息的差异,根据对比结果确定所述真实环境图像中的光照信息;根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理。本实施例可以使虚拟模型的光照处理效果与真实场景中的光照情况相匹配,虚拟模型可以真实地与实际场景相融合。
Description
技术领域
本公开涉及增强现实(AR,Augmented Reality)技术领域,尤其涉及虚拟模型处理方法、装置、电子设备及存储介质。
背景技术
随着摄影及图像处理技术的不断发展,AR技术也逐渐成熟。AR技术通常利用摄像头、传感器、实时计算和图像处理技术,将计算机生成的虚拟模型、场景或***提示信息等融合至真实场景中,从而实现对现实的增强。其中,为了使得虚拟模型更加真实地与真实场景融合,AR***可以对虚拟模型进行光照处理,例如获取虚拟模型在光照下产生的阴影图像等等。基于此,需要提供较好的虚拟模型光照处理技术,使得虚拟模型可以真实地与真实场景融合。
发明内容
为克服相关技术中存在的问题,本公开提供了虚拟模型处理方法、装置、电子设备及存储介质。
根据本公开实施例的第一方面,提供一种虚拟模型处理方法,所述方法包括:
获取当前拍摄的真实环境图像,根据所述真实环境图像获取用于确定光照信息的目标图像;
对比所述目标图像中像素点的像素信息的差异,根据对比结果确定所述真实环境图像中的光照信息;
根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理。
在一个可选的实现方式中,所述根据所述真实环境图像获取用于确定光照信息的目标图像,包括:
获取所述虚拟模型在所述真实环境图像中的渲染位置,根据所述渲染位置从所述真实环境图像中截取出所述目标图像。
在一个可选的实现方式中,所述根据所述真实环境图像获取用于确定光照信息的目标图像,包括:
识别所述真实环境图像中的物体,从所述真实环境图像中截取包含所述物体的图像作为所述目标图像。
在一个可选的实现方式中,所述对比所述目标图像中像素点的像素信息的差异,包括:
获取所述目标图像中若干个像素点的亮度值,对比所述若干个像素点的亮度值的差异。
在一个可选的实现方式中,所述根据对比结果确定所述真实环境图像中的光照信息,包括:
获取所述像素点中亮度值最大的第一类像素点和亮度值最小的第二类像素点,确定从第一类像素点指向第二类像素点的方向为所述真实环境图像中的光照方向。
在一个可选的实现方式中,所述若干个像素点均匀分布于所述目标图像中。
在一个可选的实现方式中,所述根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理,包括如下一种或多种:
根据光照方向生成所述虚拟模型的阴影数据,其中,所述光照信息包括光照方向;
根据光照亮度值处理所述虚拟模型的亮度数据,其中,所述光照信息包括光照亮度值。
根据本公开实施例的第二方面,提供一种虚拟模型处理装置,所述装置包括:
图像获取模块,被配置为:获取当前拍摄的真实环境图像,根据所述真实环境图像获取用于确定光照信息的目标图像;
对比模块,被配置为:对比所述目标图像中像素点的像素信息的差异,根据对比结果确定所述真实环境图像中的光照信息;
光照处理模块,被配置为:根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理。
在一个可选的实现方式中,所述图像获取模块,包括:
第一图像获取子模块,被配置为:获取所述虚拟模型在所述真实环境图像中的渲染位置,根据所述渲染位置从所述真实环境图像中截取出所述目标图像。
在一个可选的实现方式中,所述图像获取模块,包括:
第二图像获取子模块,被配置为:识别所述真实环境图像中的物体,从所述真实环境图像中截取包含所述物体的图像作为所述目标图像。
在一个可选的实现方式中,所述对比模块,被配置为:
亮度对比子模块,被配置为:获取所述目标图像中若干个像素点的亮度值,对比所述若干个像素点的亮度值的差异。
在一个可选的实现方式中,所述亮度对比子模块,包括:
方向确定子模块,被配置为:获取所述像素点中亮度值最大的第一类像素点和亮度值最小的第二类像素点,确定从第一类像素点指向第二类像素点的方向为所述真实环境图像中的光照方向。
在一个可选的实现方式中,所述若干个像素点均匀分布于所述目标图像中。
在一个可选的实现方式中,所述光照处理模块,包括如下一个或多个子模块:
第一光照处理子模块,被配置为:根据光照方向生成所述虚拟模型的阴影数据,其中,所述光照信息包括光照方向;
第二光照处理子模块,被配置为:根据光照亮度值处理所述虚拟模型的亮度数据,其中,所述光照信息包括光照亮度值。
根据本公开实施例的第三方面,提供一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
获取当前拍摄的真实环境图像,根据所述真实环境图像获取用于确定光照信息的目标图像;
对比所述目标图像中像素点的像素信息的差异,根据对比结果确定所述真实环境图像中的光照信息;
根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现前述虚拟模型处理方法的步骤。
本公开的实施例提供的技术方案可以包括以下有益效果:
本公开中,通过对比所述目标图像中像素点的像素信息的差异,可以根据对比结果确定真实环境图像中的光照信息,因此根据所述光照信息可以对待渲染至所述真实环境图像中的虚拟模型进行光照处理,使虚拟模型的光照处理效果与真实场景中的光照情况相匹配,虚拟模型可以真实地与实际场景相融合。
本公开中,由于用于确定光照信息的目标图像是根据虚拟模型的渲染位置而确定,因此可以获得准确的光照信息对虚拟模型进行光照处理。
本公开中,采用包含单一物体的目标图像进行光照信息的分析,为了减少其他物体的像素信息的干扰,可以提高所确定的光照信息的准确度。
本公开中,可以获取所述目标图像中若干个像素点的亮度值,对比所述若干个像素点的亮度值的差异,从而可以提高虚拟模型的处理速度。
本公开中,从目标图像中所选取的均匀分布的若干个像素点,利用所选取的像素点可以进行光照信息的分析,从而可以提高虚拟模型的处理速度。
本公开中,获取所述像素点中亮度值最大的第一类像素点和亮度值最小的第二类像素点,确定从第一类像素点指向第二类像素点的方向为所述真实环境图像中的光照方向,该方式易于实现,且准确度较高,处理速度较快。
本公开中,可以根据光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理,例如根据光照方向,可以获得与真实环境匹配的虚拟模型阴影图像,或者,还可以获取目标图像中像素点的亮度值,根据该亮度值确定对所述虚拟模型的光照亮度值,并根据光照亮度值处理所述虚拟模型的亮度数据,从而使得虚拟模型可以与真实环境较好地融合。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1A是本公开根据一示例性实施例示出的一种AR场景示意图。
图1B是本公开根据一示例性实施例示出的一种虚拟模型处理方法的流程图。
图1C是本公开根据一示例性实施例示出的一种目标图像示意图。
图1D是本公开根据一示例性实施例示出的另一种目标图像示意图。
图1E是本公开根据一示例性实施例示出虚拟模型处理示意图。
图2是本公开根据一示例性实施例示出的一种虚拟模型处理装置的框图。
图3是本公开根据一示例性实施例示出的另一种虚拟模型处理装置的框图。
图4是本公开根据一示例性实施例示出的另一种虚拟模型处理装置的框图。
图5是本公开根据一示例性实施例示出的另一种虚拟模型处理装置的框图。
图6是本公开根据一示例性实施例示出的另一种虚拟模型处理装置的框图。
图7是本公开根据一示例性实施例示出的另一种虚拟模型处理装置的框图。
图8是本公开根据一示例性实施例示出的一种用于设备控制装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
在本公开使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本公开。在本公开和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本公开可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本公开范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
如图1A所示,本公开根据一示例性实施例示出的一种AR场景示意图,图1A中的电子设备具有AR功能,在电子设备拍摄真实环境画面时,该电子设备可以生成虚拟模型并渲染至真实环境画面中。在对虚拟模型进行处理时,需要考虑光照因素,使得虚拟模型在渲染至真实环境画面时,画面中可以展示有该虚拟模型在光照下所投射出的阴影图像,从而使虚拟模型可以更加真实地与真实场景融合,提高模型渲染效果和沉浸感。
已有的AR开发工具提供了对虚拟模型进行光照处理的功能,然而,此类功能通常是采用固定的虚拟光源来模拟真实环境中的光照,采用此种方式处理得到的阴影图像融合至真实环境画面中,可能会出现出现虚拟场景中的光照与现实场景中的光照不一致的情况,例如真实场景中光照造成的物体阴影方向与光照造成的虚拟模型阴影方向不同,从而导致虚拟模型与真实环境的融合效果较差。
基于此,本公开实施例提供了一种虚拟模型处理方案,通过对比所述目标图像中像素点的像素信息的差异,可以根据对比结果确定真实环境图像中的光照信息,因此根据所述光照信息可以对待渲染至所述真实环境图像中的虚拟模型进行光照处理,使得虚拟模型的光照处理效果与真实场景中的光照情况相匹配,虚拟模型可以真实地与实际场景相融合。接下来对本公开实施例进行详细说明。
如图1B所示,图1B是本公开根据一示例性实施例示出的一种虚拟模型处理方法的流程图,该方法可应用于电子设备中,包括如下步骤:
在步骤101中,获取当前拍摄的真实环境图像,根据所述真实环境图像获取用于确定光照信息的目标图像。
在步骤102中,对比所述目标图像中像素点的像素信息的差异,根据对比结果确定所述真实环境图像中的光照信息。
在步骤103中,根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理。
本公开实施例中可应用于具有AR功能的电子设备,例如智能手机、智能眼镜、智能头盔或智能电视等等。此类设备可以配置有摄像头、显示屏和处理模块等,显示屏可以展示摄像头模块所拍摄的真实环境画面,通常,摄像头模块在拍摄真实环境画面时,可以生成连续的图像帧,电子设备可以获取到该真实环境画面的图像,本实施例称为真实环境图像。
由于光源的照射,物体面向光源的表面与背离光源较远的表面在图像中将会有不同的呈现,例如面向光源的表面较亮、颜色表现更为丰富,背离光源较远的表面较暗,颜色表现较为单一,而且还可能产生阴影。本实施例的阴影是指由于不透明物体可以挡住光的传播,光不能穿过不透明物体而形成的较暗区域。因此,由于光源的照射,同一物体在图像中像素信息将具有差异,本公开实施例通过对比图像中像素点的像素信息的差异来确定光照信息。
在一些例子中,电子设备获取到真实环境图像后,可以将真实环境图像作为目标图像确定光照信息;在另一些例子中,考虑到真实环境图像可能数据量较大、包含的图像内容较多等原因,为了提高处理速度,可以从真实环境图像截取部分图像作为目标图像确定光照信息。接下来列举两种可选的实现方式。
第一种、根据渲染位置确定。
本公开实施例中,可以是获取所述虚拟模型在所述真实环境图像中的渲染位置,根据所述渲染位置从所述真实环境图像中截取出所述目标图像。
AR***对虚拟模型进行渲染的过程中,通常会根据应用需求确定虚拟模型在真实环境图像中的渲染位置。例如,在游戏场景中,可以根据真实环境中的人物,渲染随着人物运动而运动的虚拟模型,此类场景中虚拟模型的渲染位置随着人物在真实环境图像中的位置变化而变化。基于上述考虑,虚拟模型的光照处理需与真实环境图像中渲染位置的光照信息相匹配,因此可以根据渲染位置从所述真实环境图像中截取出所述目标图像,其中,截取多大的目标图像,可以根据实际需要而灵活配置。通过上述处理,由于用于确定光照信息的目标图像是根据虚拟模型的渲染位置而确定,因此可以获得准确的光照信息以对虚拟模型进行光照处理。
例如,某些真实环境可能处于室内,而该室内可能具有多个光源,图像中由于多个光源存在,不同位置的物体之间受不同光源影响,其对应光照信息可能不同。作为例子,假设真实环境图像中包括左侧和右侧两个光源,图像中位于左侧的物体A受左侧光源影响,图像中位于右侧的物体B受右侧光源影响,而虚拟模型与物体B关联,其渲染位置通过物体B的位置而确定,因此可以通过虚拟模型的渲染位置截取出目标图像,进而通过该目标图像可以准确地确定出光照信息。
第二种、根据真实环境图像中的物体确定。
本公开实施例中,可以识别所述真实环境图像中的物体,从所述真实环境图像中截取包含所述物体的图像作为所述目标图像。
考虑到光源的照射,同一物体在图像中像素信息将具有差异,而真实环境图像中有可能包含较多物体,本公开实施例采用包含单一物体的目标图像进行光照信息的分析,从而可以减少其他物体的像素信息的干扰。另外,由于物体可能具有单一颜色,采用单一物体的目标图像进行分析,也可以提高光照信息的准确度。
通过上述处理,本公开实施例可以通过对比目标图像中像素点的像素信息的差异,根据对比结果确定真实环境图像中的光照信息,其中,像素点的像素信息包括颜色值,例如以三原色光模型(RGB color model)为格式的RGB值,或者以YUV(Luminance和Chrominance,灰阶和彩度)为格式的YUV值,以及以RGB值或以YUV值计算得到的其他信息等等。由于光源的照射,物体面向光源的表面与背离光源较远的表面在图像中将会有不同的呈现,例如面向光源的表面较亮、颜色表现更为丰富,背离光源较远的表面较暗,颜色表现较为单一,而且还可能产生阴影。因此通过对比目标图像中像素点的像素信息的差异,可以确定光照信息,其中光照信息可以包括有光源位置、光照方向或光照亮度等等。
为了提高虚拟模型处理速度,本公开实施例的像素信息可以包括亮度值,因此,在对比所述目标图像中像素点的像素信息的差异时,可以是获取所述目标图像中若干个像素点的亮度值,对比所述若干个像素点的亮度值的差异。在光照时,面向光源、距离光源较近的表面较亮,而背离光源、距离光源较远的表面则较暗,或者在背离光源的一侧物体还将产生阴影,因此通过亮度值,可以准确地确定光照方向,从而可以根据光照方向对虚拟模型进行光照处理。
图像由像素点构成,图像中包含了非常多的像素点,为了提高处理速度,本公开实施例中,可以从目标图像中选取若干个像素点的像素信息进行分析。具体的,可以是获取所述目标图像中若干个像素点的亮度值,对比所述若干个像素点的亮度值的差异。其中,选取规则可以根据需要灵活配置,例如可以是按照设定的间隔,选取均匀分布于目标图像中的多个像素点;或者,还可以根据目标图像中的四个顶点及中心位置,分别在四个顶点处选取若干个像素点,以及在中心位置处选取若干个像素点等等多种方式。
如图1C所示,是本公开根据一示例性实施例示出的一种目标图像示意图,图1C中的实心点表示从目标图像中所选取的均匀分布的若干个像素点,利用所选取的像素点可以进行光照信息的分析。根据所选取的像素点的亮度信息,可以确定光照的方向,亮度值较高的像素点距离光源较近,亮度值较暗的像素点距离光源较远,因此,光照方向可以确定是从亮度值较大的像素点所在位置指向亮度值较小的像素点。
在一个可选的实现方式中,所述根据对比结果确定所述真实环境图像中的光照信息,可以包括:获取所述像素点中亮度值最大的第一类像素点和亮度值最小的第二类像素点,确定从第一类像素点指向第二类像素点的方向为所述真实环境图像中的光照方向。如图1D所示,图1D是在图1C所示示意图的基础上,分析出的光照方向,即图中带箭头的线条所指示的方向。
通过上述流程,电子设备可以确定真实环境图像中的光照信息,基于此,电子设备可以根据光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理,例如根据光照方向,可以获得与真实环境匹配的虚拟模型阴影图像,或者,还可以获取目标图像中像素点的亮度值,根据该亮度值确定对所述虚拟模型的光照亮度值,并根据光照亮度值处理所述虚拟模型的亮度数据,例如根据光照方向上,将虚拟模型距离光源较近的表面提高亮度,将虚拟模型距离光源较远的表面调低亮度等等。如图1E所示,是本公开根据一示例性实施例示出虚拟模型处理示意图,图1E中虚拟模型以球体为例进行示意,根据光照方向对该球体进行光照处理后,该球体的阴影方向与光照方向相匹配,且面向光源的表面亮度也较高。实际应用中,光照处理过程可以是利用已有AR开发工具提供的光照处理算法,根据本公开实施例方案所获得的光照信息调整算法参数,利用调整参数后的算法对虚拟模型进行光照处理。
需要说明的是,由于电子设备实时拍摄真实环境画面,电子设备根据采用频率实时产生图像帧,在实时拍摄的过程中,真实环境画面可能持续在变化,本公开实施例方案应用于电子设备时,可以按照设定时间间隔定时获取真实环境图像,并定时对比目标图像中像素点的像素信息的差异,根据对比结果确定真实环境图像中的光照信息,从而可以根据电子设备所拍摄的真实环境画面的变化,定时确定光照信息的变化,使虚拟模型的光照处理效果可以与真实场景中的光照情况相匹配,虚拟模型可以真实地与实际场景相融合。
与前述虚拟模型处理方法的实施例相对应,本公开还提供了虚拟模型处理装置及其所应用的电子设备的实施例。
如图2所示,图2是本公开根据一示例性实施例示出的一种设备控制装置的框图,所述装置包括:
图像获取模块21,被配置为:获取当前拍摄的真实环境图像,根据所述真实环境图像获取用于确定光照信息的目标图像;
对比模块22,被配置为:对比所述目标图像中像素点的像素信息的差异,根据对比结果确定所述真实环境图像中的光照信息;
光照处理模块23,被配置为:根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理。
由上述实施例可见,通过对比所述目标图像中像素点的像素信息的差异,可以根据对比结果确定真实环境图像中的光照信息,因此根据所述光照信息可以对待渲染至所述真实环境图像中的虚拟模型进行光照处理,使得虚拟模型光照处理效果与真实场景中的光照情况相匹配,虚拟模型可以真实地与实际场景相融合。
如图3所示,图3是本公开根据一示例性实施例示出的另一种设备控制装置的框图,该实施例在前述图2所示实施例的基础上,所述图像获取模块21,包括:
第一图像获取子模块211,被配置为:获取所述虚拟模型在所述真实环境图像中的渲染位置,根据所述渲染位置从所述真实环境图像中截取出所述目标图像。
由上述实施例可见,由于用于确定光照信息的目标图像是根据虚拟模型的渲染位置而确定,因此可以获得准确的光照信息对虚拟模型进行光照处理。
如图4所示,图4是本公开根据一示例性实施例示出的另一种设备控制装置的框图,该实施例在前述图2所示实施例的基础上,所述图像获取模块21,包括:
第二图像获取子模块212,被配置为:识别所述真实环境图像中的物体,从所述真实环境图像中截取包含所述物体的图像作为所述目标图像。
由上述实施例可见,采用包含单一物体的目标图像进行光照信息的分析,为了减少其他物体的像素信息的干扰,可以提高所确定的光照信息的准确度。
如图5所示,图5是本公开根据一示例性实施例示出的另一种设备控制装置的框图,该实施例在前述图2所示实施例的基础上,所述对比模块22,被配置为:
亮度对比子模块221,被配置为:获取所述目标图像中若干个像素点的亮度值,对比所述若干个像素点的亮度值的差异。
由上述实施例可见,可以获取所述目标图像中若干个像素点的亮度值,对比所述若干个像素点的亮度值的差异,从而可以提高虚拟模型的处理速度。
如图6所示,图6是本公开根据一示例性实施例示出的另一种设备控制装置的框图,该实施例在前述图5所示实施例的基础上,所述亮度对比子模块221,包括:
方向确定子模块2211,被配置为:获取所述像素点中亮度值最大的第一类像素点和亮度值最小的第二类像素点,确定从第一类像素点指向第二类像素点的方向为所述真实环境图像中的光照方向。
由上述实施例可见,从目标图像中所选取的均匀分布的若干个像素点,利用所选取的像素点可以进行光照信息的分析,从而可以提高虚拟模型的处理速度。
在一个可选的实现方式中,所述若干个像素点均匀分布于所述目标图像中。
由上述实施例可见,获取所述像素点中亮度值最大的第一类像素点和亮度值最小的第二类像素点,确定从第一类像素点指向第二类像素点的方向为所述真实环境图像中的光照方向,该方式易于实现,且准确度较高,处理速度较快。
如图7所示,图7是本公开根据一示例性实施例示出的另一种设备控制装置的框图,该实施例在前述图2所示实施例的基础上,所述光照处理模块23,包括如下一个或多个子模块:
第一光照处理子模块231,被配置为:根据光照方向生成所述虚拟模型的阴影数据,其中,所述光照信息包括光照方向;
第二光照处理子模块232,被配置为:根据光照亮度值处理所述虚拟模型的亮度数据,其中,所述光照信息包括光照亮度值。
由上述实施例可见,可以根据光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理,例如根据光照方向,可以获得与真实环境匹配的虚拟模型阴影图像,或者,还可以获取目标图像中像素点的亮度值,根据该亮度值确定对所述虚拟模型的光照亮度值,并根据光照亮度值处理所述虚拟模型的亮度数据,从而使得虚拟模型可以与真实环境较好地融合。
相应地,本公开实施例还公开一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
获取当前拍摄的真实环境图像,根据所述真实环境图像获取用于确定光照信息的目标图像;
对比所述目标图像中像素点的像素信息的差异,根据对比结果确定所述真实环境图像中的光照信息;
根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理。
相应地,本公开实施例还公开一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现前述虚拟模型处理方法的步骤。
上述装置中各个模块的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程,在此不再赘述。
对于装置实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本公开方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
图8是根据一示例性实施例示出的一种设备控制装置的结构示意图。
如图8所示,根据一示例性实施例示出的一种设备控制装置800,该装置800可以是智能眼镜、智能头盔等AR设备。
参照图8,装置800可以包括以下一个或多个组件:处理组件801,存储器802,电源组件803,多媒体组件804,音频组件805,输入/输出(I/O)的接口806,传感器组件807,以及通信组件808。
处理组件801通常控制装置800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件801可以包括一个或多个处理器809来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件801可以包括一个或多个模块,便于处理组件801和其它组件之间的交互。例如,处理部件801可以包括多媒体模块,以方便多媒体组件804和处理组件801之间的交互。
存储器802被配置为存储各种类型的数据以支持在装置800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器802可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件803为装置800的各种组件提供电力。电源组件803可以包括电源管理***,一个或多个电源,及其它与为装置800生成、管理和分配电力相关联的组件。
多媒体组件804包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件804包括一个前置摄像头和/或后置摄像头。当装置800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件805被配置为输出和/或输入音频信号。例如,音频组件805包括一个麦克风(MIC),当装置800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器802或经由通信组件808发送。在一些实施例中,音频组件805还包括一个扬声器,用于输出音频信号。
I/O接口802为处理组件801和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件807包括一个或多个传感器,用于为装置800提供各个方面的状态评估。例如,传感器组件807可以检测到装置800的打开/关闭状态,组件的相对定位,例如所述组件为装置800的显示器和小键盘,传感器组件807还可以检测装置800或装置800一个组件的位置改变,用户与装置800接触的存在或不存在,装置800方位或加速/减速和装置800的温度变化。传感器组件807可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件807还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件807还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件808被配置为便于装置800和其它设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件808经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件808还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其它技术来实现。
在示例性实施例中,装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其它电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器802,上述指令可由装置800的处理器809执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
其中,当所述存储介质中的指令由所述处理器执行时,使得装置800能够执行一种设备控制方法,包括:
获取当前拍摄的真实环境画面,从所述真实环境画面中识别出处于真实环境中的目标设备;
获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;
根据所述控制数据生成包括有所述运行项目的虚拟交互画面,并基于所述目标设备的位置叠加展示在所述真实环境画面中;
通过所述虚拟交互画面获取针对所述运行项目的配置指令,利用所述配置指令控制所述目标设备的运行。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
以上所述仅为本公开的较佳实施例而已,并不用以限制本公开,凡在本公开的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本公开保护的范围之内。
Claims (10)
1.一种虚拟模型处理方法,其特征在于,所述方法包括:
获取当前拍摄的真实环境图像,根据所述真实环境图像中虚拟模型的渲染位置和/或识别所述真实环境图像中的物体,获取用于确定光照信息的目标图像;
对比所述目标图像中像素点的像素信息的差异,根据对比结果确定所述真实环境图像中的光照信息;其中,所述像素信息包括亮度值,所述光照信息包括光照方向;
根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理。
2.根据权利要求1所述的方法,其特征在于,所述根据所述真实环境图像获取用于确定光照信息的目标图像,包括如下一种或多种方式:
获取所述虚拟模型在所述真实环境图像中的渲染位置,根据所述渲染位置从所述真实环境图像中截取出所述目标图像;和/或,
识别所述真实环境图像中的物体,从所述真实环境图像中截取包含所述物体的图像作为所述目标图像。
3.根据权利要求1所述的方法,其特征在于,所述对比所述目标图像中像素点的像素信息的差异,包括:
获取所述目标图像中若干个像素点的亮度值,对比所述若干个像素点的亮度值的差异。
4.根据权利要求1或3所述的方法,其特征在于,所述根据对比结果确定所述真实环境图像中的光照信息,包括:
获取所述像素点中亮度值最大的第一类像素点和亮度值最小的第二类像素点,确定从第一类像素点指向第二类像素点的方向为所述真实环境图像中的光照方向。
5.一种虚拟模型处理装置,其特征在于,所述装置包括:
图像获取模块,被配置为:获取当前拍摄的真实环境图像,根据所述真实环境图像中虚拟模型的渲染位置和/或识别所述真实环境图像中的物体,获取用于确定光照信息的目标图像;
对比模块,被配置为:对比所述目标图像中像素点的像素信息的差异,根据对比结果确定所述真实环境图像中的光照信息;其中,所述像素信息包括亮度值,所述光照信息包括光照方向;
光照处理模块,被配置为:根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理。
6.根据权利要求5所述的装置,其特征在于,所述图像获取模块,包括第一图像获取子模块和/或第二图像获取子模块;
第一图像获取子模块,被配置为:获取所述虚拟模型在所述真实环境图像中的渲染位置,根据所述渲染位置从所述真实环境图像中截取出所述目标图像;
第二图像获取子模块,被配置为:识别所述真实环境图像中的物体,从所述真实环境图像中截取包含所述物体的图像作为所述目标图像。
7.根据权利要求5所述的装置,其特征在于,所述对比模块,被配置为:
亮度对比子模块,被配置为:获取所述目标图像中若干个像素点的亮度值,对比所述若干个像素点的亮度值的差异。
8.根据权利要求5或7所述的装置,其特征在于,所述对比模块,还被配置为:
方向确定子模块,被配置为:获取所述像素点中亮度值最大的第一类像素点和亮度值最小的第二类像素点,确定从第一类像素点指向第二类像素点的方向为所述真实环境图像中的光照方向。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
获取当前拍摄的真实环境图像,根据所述真实环境图像中虚拟模型的渲染位置和/或识别所述真实环境图像中的物体,获取用于确定光照信息的目标图像;
对比所述目标图像中像素点的像素信息的差异,根据对比结果确定所述真实环境图像中的光照信息;其中,所述像素信息包括亮度值,所述光照信息包括光照方向;
根据所述光照信息对待渲染至所述真实环境图像中的虚拟模型进行光照处理。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1至4任一所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810616186.1A CN108986199B (zh) | 2018-06-14 | 2018-06-14 | 虚拟模型处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810616186.1A CN108986199B (zh) | 2018-06-14 | 2018-06-14 | 虚拟模型处理方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108986199A CN108986199A (zh) | 2018-12-11 |
CN108986199B true CN108986199B (zh) | 2023-05-16 |
Family
ID=64540523
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810616186.1A Active CN108986199B (zh) | 2018-06-14 | 2018-06-14 | 虚拟模型处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108986199B (zh) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111325798B (zh) * | 2018-12-13 | 2023-08-18 | 浙江宇视科技有限公司 | 相机模型纠正方法、装置、ar实现设备及可读存储介质 |
CN110021071B (zh) * | 2018-12-25 | 2024-03-12 | 创新先进技术有限公司 | 一种增强现实应用中的渲染方法、装置及设备 |
CN110009723B (zh) * | 2019-03-25 | 2023-01-31 | 创新先进技术有限公司 | 环境光源的重建方法及装置 |
CN110084891B (zh) * | 2019-04-16 | 2023-02-17 | 淮南师范学院 | 一种ar眼镜的颜色调整方法及ar眼镜 |
CN110033423B (zh) * | 2019-04-16 | 2020-08-28 | 北京字节跳动网络技术有限公司 | 用于处理图像的方法和装置 |
CN110310224B (zh) * | 2019-07-04 | 2023-05-30 | 北京字节跳动网络技术有限公司 | 光效渲染方法及装置 |
CN110458826B (zh) * | 2019-08-09 | 2022-06-03 | 百度在线网络技术(北京)有限公司 | 环境亮度检测方法和装置 |
CN111429543B (zh) * | 2020-02-28 | 2020-10-30 | 苏州叠纸网络科技股份有限公司 | 一种素材生成方法、装置、电子设备及介质 |
CN111273885A (zh) * | 2020-02-28 | 2020-06-12 | 维沃移动通信有限公司 | 一种ar图像显示方法及ar设备 |
CN111399654B (zh) * | 2020-03-25 | 2022-08-12 | Oppo广东移动通信有限公司 | 信息处理方法、装置、电子设备及存储介质 |
CN111833423A (zh) * | 2020-06-30 | 2020-10-27 | 北京市商汤科技开发有限公司 | 展示方法、装置、设备和计算机可读存储介质 |
CN112785672B (zh) * | 2021-01-19 | 2022-07-05 | 浙江商汤科技开发有限公司 | 图像处理方法及装置、电子设备和存储介质 |
CN112967467B (zh) * | 2021-02-24 | 2022-07-29 | 九江学院 | 文物防盗方法、***、移动终端及存储介质 |
CN114979457B (zh) * | 2021-02-26 | 2023-04-07 | 华为技术有限公司 | 一种图像处理方法及相关装置 |
CN113206971B (zh) * | 2021-04-13 | 2023-10-24 | 聚好看科技股份有限公司 | 一种图像处理方法及显示设备 |
CN113487662B (zh) * | 2021-07-02 | 2024-06-11 | 广州博冠信息科技有限公司 | 画面显示方法、装置、电子设备和存储介质 |
CN117813630A (zh) * | 2022-01-29 | 2024-04-02 | 华为技术有限公司 | 虚拟形象处理方法及装置 |
CN115631291B (zh) * | 2022-11-18 | 2023-03-10 | 如你所视(北京)科技有限公司 | 用于增强现实的实时重光照方法和装置、设备和介质 |
CN117354438A (zh) * | 2023-10-31 | 2024-01-05 | 神力视界(深圳)文化科技有限公司 | 光强处理方法、装置、电子设备和计算机存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106981087A (zh) * | 2017-04-05 | 2017-07-25 | 杭州乐见科技有限公司 | 光照效果渲染方法及装置 |
CN107134005A (zh) * | 2017-05-04 | 2017-09-05 | 网易(杭州)网络有限公司 | 光照适配方法、装置、存储介质、处理器及终端 |
WO2018045759A1 (zh) * | 2016-09-07 | 2018-03-15 | 中兴通讯股份有限公司 | 一种增强现实中进行光照渲染的方法、装置及移动终端 |
CN107909638A (zh) * | 2017-11-15 | 2018-04-13 | 网易(杭州)网络有限公司 | 虚拟物体的渲染方法、介质、***和电子设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1720131B1 (en) * | 2005-05-03 | 2009-04-08 | Seac02 S.r.l. | An augmented reality system with real marker object identification |
-
2018
- 2018-06-14 CN CN201810616186.1A patent/CN108986199B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018045759A1 (zh) * | 2016-09-07 | 2018-03-15 | 中兴通讯股份有限公司 | 一种增强现实中进行光照渲染的方法、装置及移动终端 |
CN106981087A (zh) * | 2017-04-05 | 2017-07-25 | 杭州乐见科技有限公司 | 光照效果渲染方法及装置 |
CN107134005A (zh) * | 2017-05-04 | 2017-09-05 | 网易(杭州)网络有限公司 | 光照适配方法、装置、存储介质、处理器及终端 |
CN107909638A (zh) * | 2017-11-15 | 2018-04-13 | 网易(杭州)网络有限公司 | 虚拟物体的渲染方法、介质、***和电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN108986199A (zh) | 2018-12-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108986199B (zh) | 虚拟模型处理方法、装置、电子设备及存储介质 | |
CN110675310B (zh) | 视频处理方法、装置、电子设备及存储介质 | |
CN109889724B (zh) | 图像虚化方法、装置、电子设备及可读存储介质 | |
EP3010226A2 (en) | Method and apparatus for obtaining photograph | |
CN108154465B (zh) | 图像处理方法及装置 | |
CN106131441B (zh) | 拍照方法及装置、电子设备 | |
US11770497B2 (en) | Method and device for processing video, and storage medium | |
US11310443B2 (en) | Video processing method, apparatus and storage medium | |
CN107015648B (zh) | 图片处理方法及装置 | |
CN108154466B (zh) | 图像处理方法及装置 | |
CN108122195B (zh) | 图片处理方法及装置 | |
CN109472738B (zh) | 图像光照校正方法及装置、电子设备和存储介质 | |
CN112219224A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN109167921B (zh) | 拍摄方法、装置、终端及存储介质 | |
CN108986803B (zh) | 场景控制方法及装置、电子设备、可读存储介质 | |
CN106469446B (zh) | 深度图像的分割方法和分割装置 | |
US11252341B2 (en) | Method and device for shooting image, and storage medium | |
EP3848894A1 (en) | Method and device for segmenting image, and storage medium | |
CN113315903B (zh) | 图像获取方法和装置、电子设备、存储介质 | |
CN114390189A (zh) | 图像处理方法、装置、存储介质及移动终端 | |
CN112752010B (zh) | 一种拍摄方法、装置及介质 | |
CN114051302B (zh) | 灯光控制方法、装置、电子设备及存储介质 | |
CN110458962B (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
CN118102080A (zh) | 图像拍摄方法、装置、终端及存储介质 | |
CN117616777A (zh) | 图像处理方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |