CN116402914B - 用于确定风格化图像生成模型的方法、装置及产品 - Google Patents
用于确定风格化图像生成模型的方法、装置及产品 Download PDFInfo
- Publication number
- CN116402914B CN116402914B CN202310378089.4A CN202310378089A CN116402914B CN 116402914 B CN116402914 B CN 116402914B CN 202310378089 A CN202310378089 A CN 202310378089A CN 116402914 B CN116402914 B CN 116402914B
- Authority
- CN
- China
- Prior art keywords
- stylized
- image
- radiation field
- feature
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 101
- 230000005855 radiation Effects 0.000 claims abstract description 214
- 210000005036 nerve Anatomy 0.000 claims abstract description 142
- 230000001537 neural effect Effects 0.000 claims abstract description 76
- 238000000605 extraction Methods 0.000 claims description 110
- 238000004590 computer program Methods 0.000 claims description 14
- 230000000694 effects Effects 0.000 abstract description 13
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 230000003190 augmentative effect Effects 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000012549 training Methods 0.000 description 32
- 230000008569 process Effects 0.000 description 19
- 238000004891 communication Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 238000012545 processing Methods 0.000 description 11
- 238000009877 rendering Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000013528 artificial neural network Methods 0.000 description 6
- 230000003993 interaction Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000001308 synthesis method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/005—General purpose rendering architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/20—Indexing scheme for editing of 3D models
- G06T2219/2024—Style variation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Architecture (AREA)
- Computer Hardware Design (AREA)
- Geometry (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了一种用于确定风格化图像生成模型的方法、装置、电子设备、存储介质及程序产品，涉及人工智能技术领域，具体为计算机视觉、增强现实、虚拟现实、深度学习等技术领域。具体实现方案为：基于预训练的神经辐射场，生成参数固定的第一神经辐射场和参数可更新的第二神经辐射场；在多模态的风格化引导数据的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像，风格化引导数据表征引导后图像被期望达到的风格信息；根据风格化引导数据和引导后图像，确定损失信息；根据损失信息，更新第二神经辐射场的参数，以生成风格化图像生成模型。本公开使得神经辐射场适用于不同模态的风格化引导数据，提高了风格化编辑效果和效率。
Description
技术领域
本公开涉及人工智能技术领域，具体为计算机视觉、增强现实、虚拟现实、深度学习等技术领域，尤其涉及用于确定风格化图像生成模型的方法、装置以及用于生成风格化图像的方法、装置、电子设备、存储介质以及计算机程序产品，可用于自动驾驶、智能交通场景下。
背景技术
神经渲染、三维重建等技术主要针对现实场景进行恢复。对于基于神经渲染所得到的图像，用户往往有对其编辑的需求，比如，风格化编辑就是编辑需求中的一种。目前，缺乏使用多模态的数据对神经渲染生成的场景和对象进行编辑的技术手段。
发明内容
本公开提供了一种用于确定风格化图像生成模型的方法、装置以及用于生成风格化图像的方法、装置、电子设备、存储介质以及计算机程序产品。
根据第一方面，提供了一种用于确定风格化图像生成模型的方法，包括：基于预训练的神经辐射场，生成参数固定的第一神经辐射场和参数可更新的第二神经辐射场；在多模态的风格化引导数据的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像，其中，风格化引导数据表征引导后图像被期望达到的风格信息；根据风格化引导数据和引导后图像，确定损失信息；根据损失信息，更新第二神经辐射场的参数，以生成风格化图像生成模型。
根据第二方面，提供了一种用于生成风格化图像的方法，包括：获取目标风格化引导数据，其中，目标风格化引导数据表征待生成的风格化图像被期望达到的风格信息；在目标风格化引导数据的引导下，通过训练后的风格化图像生成模型生成风格化图像，其中，风格化图像生成模型通过第一方面任一实现方式训练得到。
根据第三方面，提供了一种用于确定风格化图像生成模型的装置，包括：第一生成单元，被配置成基于预训练的神经辐射场，生成参数固定的第一神经辐射场和参数可更新的第二神经辐射场；第二生成单元，被配置成在多模态的风格化引导数据的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像，其中，风格化引导数据表征引导后图像被期望达到的风格信息；确定单元，被配置成根据风格化引导数据和引导后图像，确定损失信息；更新单元，被配置成根据损失信息，更新第二神经辐射场的参数，以生成风格化图像生成模型。
根据第四方面，提供了一种用于生成风格化图像的方法，包括：获取单元，被配置成获取目标风格化引导数据，其中，目标风格化引导数据表征待生成的风格化图像被期望达到的风格信息；第三生成单元，被配置成在目标风格化引导数据的引导下，通过训练后的风格化图像生成模型生成风格化图像，其中，风格化图像生成模型通过第三方面任一实现方式训练得到。
根据第五方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面、第二方面任一实现方式描述的方法。
根据第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面、第二方面任一实现方式描述的方法。
根据第七方面，提供了一种计算机程序产品，包括：计算机程序，计算机程序在被处理器执行时实现如第一方面、第二方面任一实现方式描述的方法。
根据本公开的技术，提供了一种用于确定风格化图像生成模型的方法，对于已训练的神经辐射场，通过不同模态的风格化引导数据约束其输出的结果，进而优化原有的神经辐射场，以产生风格编辑后的图像结果，提高了神经辐射场对于不同模态的风格化引导数据的适用性，有助于提高风格化图像生成过程中的引导效果和生成效率。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开的一个实施例可以应用于其中的示例性***架构图；
图2是根据本公开的用于确定风格化图像生成模型的方法的一个实施例的流程图；
图3是根据本实施例的用于确定风格化图像生成模型的方法的应用场景的示意图；
图4是根据本公开的用于确定风格化图像生成模型的方法的又一个实施例的流程图；
图5是根据本公开的用于生成风格化图像的方法的一个实施例的流程图；
图6是根据本公开的用于确定风格化图像生成模型的装置的一个实施例的结构图；
图7是根据本公开的用于生成风格化图像的装置的一个实施例的结构图；
图8是适于用来实现本公开实施例的计算机***的结构示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。
图1示出了可以应用本公开的用于确定风格化图像生成模型的方法及装置、用于生成风格化图像的方法及装置的示例性架构100。
如图1所示，***架构100可以包括终端设备101、102、103，网络104和服务器105。终端设备101、102、103之间通信连接构成拓扑网络，网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
终端设备101、102、103可以是支持网络连接从而与服务器进行数据交互和数据处理的硬件设备或软件。当终端设备101、102、103为硬件时，其可以是支持网络连接，信息获取、交互、显示、处理等功能的各种电子设备，包括但不限于车载电脑、智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器，例如，通过终端设备101、102、103提供的不同模态的风格化引导数据，约束预训练的神经辐射场输出的图像结果，进而优化原有的神经辐射场，以得到风格化图像生成模型的后台处理服务器。又例如，在终端设备101、102、103提供的目标风格化引导数据的引导下，通过训练后的风格化图像生成模型，生成风格化图像的后台处理服务器。作为示例，服务器105可以是云端服务器。
需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。
还需要说明的是，本公开的实施例所提供的用于确定风格化图像生成模型的方法、用于生成风格化图像的方法可以由服务器执行，也可以由终端设备执行，还可以由服务器和终端设备彼此配合执行。相应地，用于确定风格化图像生成模型的装置、用于生成风格化图像的装置包括的各个部分(例如各个单元)可以全部设置于服务器中，也可以全部设置于终端设备中，还可以分别设置于服务器和终端设备中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。当用于确定风格化图像生成模型的方法、用于生成风格化图像的方法运行于其上的电子设备不需要与其他电子设备进行数据传输时，该***架构可以仅包括用于确定风格化图像生成模型的方法、用于生成风格化图像的方法运行于其上的电子设备(例如服务器或终端设备)。
请参考图2，图2为本公开实施例提供的一种用于确定风格化图像生成模型的方法的流程图，其中，流程200包括以下步骤：
步骤201，基于预训练的神经辐射场，生成参数固定的第一神经辐射场和参数可更新的第二神经辐射场。
本实施例中，用于确定风格化图像生成模型的方法的执行主体(例如，图1中的终端设备或服务器)可以通过有线网络连接方式或无线网络连接从远程，或从本地获取预训练的神经辐射场，并基于预训练的神经辐射场，生成参数固定的第一神经辐射场和参数可更新的第二神经辐射场。
NeRF(Neural Radiance Fields，神经辐射场)，是一种对于图像的视角合成方法，用于执行新视角合成任务。新视角合成任务指的是给定源图像(Source Image)、对应的源姿态(Source Pose)以及目标姿态(Target Pose)，渲染生成目标姿态对应的图像。源姿态指的是从相机坐标转换为世界坐标的变换矩阵。
NeRF就是将全连接神经网络引入到物体的三维场景表示中，只需要同一物体不同角度的若干张图片作为监督，神经网络可以隐式地对该物体进行三维场景建模，然后在新视角下通过体渲染(volume rendering)等渲染方法渲染生成新的角度的二维图像。在三维重建、数据增强、增强现实、虚拟现实等领域有着广泛的应用。
具体的，首先，通过相机光线穿过场景，采样三维点集，每个三维点坐标为(x，y，z)。然后，将这些采样的三维点集和相关的二维视角(θ，Φ)作为神经网络(MLP，MultilayerPerceptron)的输入，输出采样点对应的颜色(view-dependent)和体密度(volumedensity)。最后，用经典的体渲染方法将输出的颜色(c＝(r,g,b))和体密度(σ)渲染成二维图片。通过最小化已知的标签图片和通过渲染得到的实际图片之间的像素差值对神经网络进行迭代训练，得到预训练的神经辐射场。
本实施例中，上述执行主体对预训练的神经辐射场进行复制，得到两个神经辐射场，并固定其中一个神经辐射场的参数，作为第一神经辐射场；设置另一个神经辐射场的参数处于可更新状态，作为第二神经辐射场。
步骤202，在多模态的风格化引导数据的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像。
本实施例中，上述执行主体可以在多模态的风格化引导数据的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像。其中，风格化引导数据表征引导后图像被期望达到的风格信息。
多模态包括但不限于是视频、图像、文本、语音等模态。对于每种模态，可是设置对应于该模态的多个训练样本，构成训练样本集。以图像模态为例，其对应的训练样本集中包括多个图像，多个图像具有不同的风格，包括但不限于是清新、文艺、私房、时尚、黑白等风格。以文本为例，其对应的训练样本集中包括多个文本，多个文本用于表征不同的风格。
本实施例中，当待生成的风格化图像生成模型只具有单模态的风格化引导数据的引导需求时，可以只利用所期望的模态的风格化引导数据对其进行引导，通过第一神经辐射场和第二神经辐射场分别生成引导后图像。当待生成的风格化图像生成模型具有多模态的风格化引导数据的引导需求时，可以利用所期望的多模态中的每种模态的风格化引导数据对其进行引导，通过第一神经辐射场和第二神经辐射场分别生成引导后图像。例如，对于所期望的多种模态，确定每种模态对神经辐射场的训练顺序；然后按照训练顺序依次进行相应的训练，待经过每种模态对应的训练过程后，得到支持多种模态的风格化引导数据的风格化图像生成模型。其中，每种模态对应的训练过程可以参照上述步骤202和后续的步骤203-204，以及各步骤对应的实现方式执行。
在具体的图像生成过程中，对于第一神经辐射场和第二神经辐射，在同一风格化引导数据的引导下，基于随机生成的同一相机位姿，分别生成引导后图像。需要说明的是，由于第一神经辐射场的参数固定，并不会在训练过程中进行参数更新，因而，风格化引导数据对第一神经辐射场并不会起到风格化引导作用。
步骤203，根据风格化引导数据和引导后图像，确定损失信息。
本实施例中，上述执行主体可以根据风格化引导数据和引导后图像，确定损失信息。
作为示例，首先，上述执行主体可以通过特征提取网络分别对风格化引导数据和引导后图像进行特征提取，得到引导特征和引导后特征；然后，确定引导特征和第二神经辐射场生成的引导后图像对应的引导后特征之间的损失，作为损失信息。
作为又一示例，首先，通过特征提取网络提取风格化引导数据和第二神经辐射场对应的引导后图像的风格特征，以及第一神经辐射场对应的引导后图像和第二神经辐射场对应的引导后图像的内容特征；然后，确定两个风格特征之间的损失和两个内容特征之间的损失，并结合两种损失确定损失信息。其中，风格特征表征图像对应的风格信息，内容特征表征图像包括的对象、结构等内容信息。
其中，特征提取网络可以是支持各种模态数据的特征提取功能的通用特征提取网络，从而通过同一特征提取网络确定各种模态的不同数据对应的特征；特征提取网络也可以是支持单模态数据的特征提取功能的专用特征提取网络，从而对于不同模态数据，通过对应的特征提取网络确定该模态数据对应的特征。以通用特征提取网络为例，其可以是CLIP(Contrastive Language-Image Pretraining，对比语言-图像预训练)网络。
步骤204，根据损失信息，更新第二神经辐射场的参数，以生成风格化图像生成模型。
本实施例中，上述执行主体可以根据损失信息，更新第二神经辐射场的参数，以生成风格化图像生成模型。
作为示例，上述执行主体可以迭代执行如下训练操作：首先，对于风格化图像生成模型所要支持的模态的训练样本集，从中选取未经训练的风格化引导数据；然后，执行上述步骤202，在所选取的风格化引导数据的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像；然后，执行上述步骤203，根据风格化引导数据和引导后图像，确定损失信息；然后，执行上述步骤204，根据损失信息，更新第二神经辐射场的参数。
响应于达到预设结束条件，将最终的第二神经辐射场确定为风格化图像生成模型。其中，预设结束条件例如可以是训练迭代次数超过预设次数阈值、训练时间超过预设时间阈值、训练损失趋于收敛。
继续参见图3，图3是根据本实施例的用于确定风格化图像生成模型的方法的应用场景的一个示意图300。在图3的应用场景中，用于确定风格化图像生成模型的服务器首先基于预训练的神经辐射场301，生成参数固定的第一神经辐射场302和参数可更新的第二神经辐射场303。然后，迭代执行如下训练操作，直至达到预设结束条件，将训练后的第二神经辐射场303确定为风格化图像生成模型：首先，对于风格化图像生成模型所需求的多模态的训练样本集，从中选取未经训练的风格化引导数据304；然后，在所选取的风格化引导数据304的引导下，通过第一神经辐射场302和上一次训练操作训练后的第二神经辐射场303分别生成引导后图像305、306，其中，风格化引导数据表征引导后图像被期望达到的风格信息；然后，根据风格化引导数据和引导后图像，确定损失信息307；然后，根据损失信息，更新第二神经辐射场303的参数。
本实施例中，提供了一种用于确定风格化图像生成模型的方法，对于已训练的神经辐射场，通过不同模态的风格化引导数据约束其输出的结果，进而优化原有的神经辐射场，以产生风格编辑后的图像结果，提高了神经辐射场对于不同模态的风格化引导数据的适用性，有助于提高风格化图像生成过程中的引导效果和生成效率。
在本实施例的一些可选的实现方式中，风格化引导数据为风格化引导文本。风格化引导文本可以是自然语言表征的文本，例如，“进行清新风格编辑”。在风格化引导文本的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像。
本实现方式中，上述执行主体可以通过如下方式执行上述步骤203：
第一，根据风格化引导文本和第一神经辐射场生成的引导后图像对应的原文本，确定第一特征。
作为示例，对于第一神经辐射场生成的引导后图像，上述执行主体可以提取其风格特征，并根据其风格特征确定表征第一神经辐射场生成的引导后图像的风格的原文本；进而，确定风格化引导文本和原文本之间的差异，作为第一特征。其中，对第一神经辐射场生成的引导后图像通过深度特征提取网络提取其高层次的图像特征，作为其风格特征。
作为又一示例，上述执行主体可以对第一神经辐射场生成的引导后图像进行特征提取，确定引导后图像对应的风格特征；进而，对风格化引导文本进行特征提取，确定风格化引导文本对应的引导风格特征；进而，将风格特征和引导风格特征之间的差异，作为第一特征。
第二，根据第一神经辐射场和第二神经辐射场各自生成的引导后图像，确定第二特征。
作为示例，上述执行主体可以对两个引导后图像分别进行特征提取，得到两个引导后图像各自对应的图像特征；进而，确定两个引导后图像各自对应的图像特征之间的差异，作为第二特征。
第三，确定第一特征和第二特征之间的损失信息。
具体的，上述执行主体可以在预设损失函数类型下，确定第一特征和第二特征之间的损失，作为损失信息。其中，预设损失函数类型例如是余弦损失、交叉熵损失等损失函数类型。
本实现方式中，充分利用风格化引导文本和第一神经辐射场生成的引导后图像对应的原文本之间的第一特征、第一神经辐射场和第二神经辐射场各自生成的引导后图像之间的第二特征，确定损失信息，以通过第一特征约束第二特征，最终使得第二神经辐射场生成的引导后图像具有风格化引导文本所表征的风格，提高了损失信息的准确度，有助于提高训练过程中第二神经辐射场的训练效率。
在本实施例的一些可选的实现方式中，上述执行主体可以通过如下方式执行上述第一步骤：首先，对风格化引导文本进行特征提取，得到引导文本特征；然后，对原文本进行特征提取，得到原文本特征；最后，确定引导文本特征和原文本特征之间的方向向量，作为第一特征。
原文本表征第一神经辐射场生成的引导后图像，由于第一神经辐射场参数固定，因而，原文本对应的原文本特征和风格化引导文本对应的引导文本特征之间的方向向量，可以作为第一神经辐射场和第二神经辐射场各自生成的引导后图像之间的第二特征之间的差异的基准，指导第二特征的变化，以引导文本特征和原文本特征之间的方向向量为第一特征，提高了第一特征的准确度，增强了第一特征对于第二特征的指导能力。
在本实施例的一些可选的实现方式中，上述执行主体可以通过如下操作确定引导文本特征和原文本特征：通过第一预设特征提取网络，对风格化引导文本进行特征提取，得到引导文本特征；通过第一预设特征提取网络，对原文本进行特征提取，得到原文本特征。
其中，第一预设特征提取网络可以是支持文本特征提取功能的神经网络，例如CLIP网络。本实现方式中，通过同一特征提取网络(第一预设特征提取网络)分别对风格化引导文本和原文本进行特征提取，避免了不同的特征提取网络所引入的引导文本特征和原文本特征之间的差异，有助于提高所确定的第一特征的准确度。
在本实施例的一些可选的实现方式中，上述执行主体可以通过如下方式执行上述第二步骤：对第一神经辐射场和第二神经辐射场各自生成的引导后图像，分别进行特征提取，得到第一图像特征和第二图像特征；确定第一图像特征和第二图像特征之间的方向向量，作为第二特征。
由于第一神经辐射场参数固定，其生成的引导后图像并不受风格化引导文本的影响，因而，在第二神经辐射场具备风格编辑的理想状态下，第一图像特征和第二图像特征之间的方向向量(第二特征)，应该与第一特征相似或相同。以第一图像特征和第二图像特征之间的方向向量为第二特征，提高了第二特征的准确度，有助于提高第二特征在第一特征约束情况下的模型训练速度。
在本实施例的一些可选的实现方式中，上述执行主体可以通过如下方式确定第一图像特征和第二图像特征：对于第一神经辐射场和第二神经辐射场各自生成的引导后图像，分别通过第一预设特征提取网络进行特征提取，得到第一图像特征和第二图像特征。
本实现方式中，生成第一图像特征、第二图像特征的特征提取网络，与生成引导文本特征、原文本特征的特征提取网络相同，不仅避免了不同的特征提取网络所引入的第一图像特征和第二图像特征之间的差异，提高了第二特征的准确度，还避免了不同的特征提取网络所引入的第一特征和第二特征之间的差异，提高了损失信息的准确度。
在本实施例的一些可选的实现方式中，风格化引导数据为风格化引导语音。本实现方式中，上述执行主体首先将风格化引导语音转换为风格化引导文本，然后按照上述风格化引导文本对应的实现方式进行信息处理。
其中，将风格化引导语音转换为风格化引导文本的过程可以基于语音转文本技术实现。本实现方式提供了风格化引导数据为风格化引导语音情形下的信息处理方式，提高了风格化图像生成模型对于语音的适用性。
在本实施例的一些可选的实现方式中，风格化引导数据为风格化引导图像。风格化引导图像中可以是具有相同风格或不同风格的图像。对于风格化引导图像中的内容(所包括的人、物等对象)并不限定。例如，不同的风格化引导图像中可以包括不同的内容，但是具有相同的风格；又例如，不同的风格化引导图像中可以包括相同的内容，但是具有不同的风格。在风格化引导图像的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像。
本实现方式中，上述执行主体可以通过如下方式执行上述步骤203：
第一，确定第一神经辐射场和第二神经辐射场之间的第一损失。
第一神经辐射场的参数固定，第二神经辐射场的参数可更新。随着训练操作的迭代，第二神经辐射场的参数逐步被更新，导致第一神经辐射场和第二神经辐射场之间逐渐产生差异。
作为示例，上述执行主体可以确定第一神经辐射场的参数和第二神经辐射场的参数之间的差异，作为第一损失。
第二，确定风格化引导图像和第二神经辐射场生成的引导后图像之间的第二损失。
作为示例，对于风格化引导图像和第二神经辐射场生成的引导后图像，上述执行主体分别提取其对应的风格特征；进而，将风格化引导图像和第二神经辐射场生成的引导后图像各自对应的风格特征之间的差异，确定为第二损失。
第三，结合第一损失和第二损失，确定损失信息。
作为示例，上述执行主体可以基于求和、加权求和等方式，结合第一损失和第二损失，确定损失信息。
本实现方式中，提供了风格化引导数据为风格化引导图像的情形下的损失信息确定方式，提高了损失信息的准确度。
在本实施例的一些可选的实现方式中，上述执行主体可以通过如下方式执行上述第一步骤：首先，确定第一神经辐射场和第二神经辐射场各自生成的引导后图像的低层特征；然后，将低层特征之间的损失，确定为第一损失。
低层特征主要表征图像中的内容和结构。在引导后图像的特征提取过程中，一般会迭代进行多次特征提取操作。初始的特征提取操作所得到的引导后图像的特征一般为低层特征。将表征图像中的内容和结构的低层特征之间的损失，确定为第一损失，可以是使得在第二神经辐射场受到风格化引导图像的影响下，仍保持所生成的引导后图像与第一神经辐射场生成的引导后图像在内容和结构上的一致性，保证所生成的引导后图像中的内容和结构不变。
在本实施例的一些可选的实现方式中，上述执行主体可以通过如下方式确定引导后图像的低层特征：通过第二预设特征提取网络对第一神经辐射场和第二神经辐射场各自生成的引导后图像进行特征提取，并将第二预设特征提取网络中低层特征提取层提取的特征作为低层特征。
第二预设特征提取网络可以是支持图像特征提取功能的神经网络，例如VGG(Visual Geometry Group，视觉几何组)网络。本实现方式中，通过同一特征提取网络(第二预设特征提取网络)分别对两个引导后图像进行特征提取，避免了不同的特征提取网络所引入的两个引导后图像各自对应的低层特征之间的差异，有助于提高所确定的第一损失的准确度。其中，第二预设特征提取网络包括多个特征提取层，多个特征提取层中的每个特征提取层基于前续的特征提取层得到的特征继续进行特征提取，并将所得到的特征发送至后续的特征提取层。
在本实施例的一些可选的实现方式中，上述执行主体可以通过如下方式执行上述第二步骤：首先，确定风格化引导图像和第二神经辐射场生成的引导后图像各自对应的高层特征；然后，将高层特征之间的损失，确定为第二损失。
相比于低层特征，高层特征更加抽象，可以表征风格化引导图像和引导后图像各自的风格信息。将风格化引导图像和引导后图像之间关于高层特征的损失确定为第二损失，可以使得第二神经辐射场关注并学习风格化引导图像的风格信息，有助于提高训练后的第二神经辐射场的风格编辑效果。
在本实施例的一些可选的实现方式中，上述执行主体可以通过如下方式确定图像的高层特征：通过第二预设特征提取网络分别对风格化引导图像和第二神经辐射场生成的引导后图像进行特征提取，并将第二预设特征提取网络中高层特征提取层提取的特征作为高层特征。
本实现方式中，生成低层特征的特征提取网络，与生成高层特征的特征提取网络相同，不仅避免了不同的特征提取网络所引入的低层特征之间的差异，提高了第一损失的准确度，还避免了不同的特征提取网络所引入的高层特征之间的差异，提高了第二损失的准确度。
在本实施例的一些可选的实现方式中，为了使得风格化图像生成模型同时具备多种模态的风格化引导数据的编辑功能，在风格化图像生成模型的训练过程中，同时在多模态中的至少两种模态的风格化引导数据的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像。
例如，至少两种模态为图像模态和语音模态，图像模态和文本模态，图像模态、语音模态和文本模态。
在实际的风格编辑情形中，可能存在单模态的风格化引导数据不能起到较好的风格引导效果的情况，此时，通过多模态的风格化引导数据同时引导风格化图像生成模型，会起到较好的引导效果。例如，结合风格化引导图像和风格化引导语音会对风格化编辑过程起到更好的引导效果。
本实现方式中，第一神经辐射场和第二神经辐射场均在多种模态的风格化引导数据的同时引导下，生成引导后图像，提高了基于第二神经辐射场所生成的风格化图像生成模型对于多模态风格化引导数据的适用性，有助于提高风格化图像生成模型的风格编辑效果和效率。
在本实施例的一些可选的实现方式中，上述执行主体可以通过如下方式执行上述步骤203：根据至少两种模态中每种模态对应的风格化引导数据和引导后图像，确定损失信息。
对于每种模态对应的风格化引导数据和引导后图像，上述执行主体可以参照上述步骤203对应的示例确定各模态对应的损失信息，进而结合各模态对应的损失，确定最终的损失信息。
本实现方式中，训练过程中基于多模态引导数据对应的损失信息进行模型更新，在使得第二神经辐射场能够支持多模态的风格化引导数据的基础上，有助于提高训练过程的收敛速度。
在本实施例的一些可选的实现方式中，上述执行主体可以具体通过如下方式执行上述确定损失信息的步骤：
第一，对于至少两种模态中的文本模态和/或语音模态，根据第一特征和第二特征，确定文本模态和/或语音模态对应的损失信息。
第二，对于至少两种模态中的图像模态，结合第一损失和第二损失，得到图像模态对应的损失信息。
第三，结合至少两种模态中的每种模态对应的损失信息，确定损失信息。
作为示例，上述执行主体可以通过求和、加权求和等方式结合至少两种模态中的每种模态对应的损失信息，确定损失信息。
需要说明的是，对于文本模态、语音模态，上述执行主体可以结合上述文本模态、语音模态对应的损失信息的实现方式执行；对于图像模态，上述执行主体可以结合上述图像模态对应的损失信息的实现方式执行，在此不再赘述。
基于各模态对应的损失信息确定最终的损失信息，并基于最终的损失信息训练第二神经辐射场，得到训练后的风格化图像生成模型，使得风格化图像生成模型可以同时支持多种模态的风格化引导数据，有助于提高风格化编辑效果和效率。
继续参考图4，示出了根据本实施例的用于确定风格化图像生成模型的方法的又一个实施例的示意性流程400，包括以下步骤：
步骤401，基于预训练的神经辐射场，生成参数固定的第一神经辐射场和参数可更新的第二神经辐射场。
步骤402，同时在多模态中的至少两种模态的风格化引导数据的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像。
其中，风格化引导数据表征引导后图像被期望达到的风格信息。
步骤403，对于至少两种模态中的文本模态和/或语音模态，通过第一预设特征提取网络，对风格化引导文本进行特征提取，得到引导文本特征。
步骤404，通过第一预设特征提取网络，对第一神经辐射场生成的引导后图像对应原文本进行特征提取，得到原文本特征。
步骤405，确定引导文本特征和原文本特征之间的方向向量，作为第一特征。
步骤406，对于第一神经辐射场和第二神经辐射场各自生成的引导后图像，分别通过第一预设特征提取网络进行特征提取，得到第一图像特征和第二图像特征。
步骤407，确定第一图像特征和第二图像特征之间的方向向量，作为第二特征。
步骤408，确定第一特征和第二特征之间的损失信息。
步骤409，对于至少两种模态中的图像模态，通过第二预设特征提取网络对第一神经辐射场和第二神经辐射场各自生成的引导后图像进行特征提取，并将第二预设特征提取网络中低层特征提取层提取的特征作为低层特征。
步骤410，将低层特征之间的损失，确定为第一损失。
步骤411，通过第二预设特征提取网络分别对风格化引导图像和第二神经辐射场生成的引导后图像进行特征提取，并将第二预设特征提取网络中高层特征提取层提取的特征作为高层特征。
步骤412，将高层特征之间的损失，确定为第二损失。
步骤413，结合第一损失和第二损失，确定损失信息
步骤414，结合至少两种模态中的每种模态对应的损失信息，确定损失信息。
步骤415，根据损失信息，更新第二神经辐射场的参数，以生成风格化图像生成模型。
从本实施例中可以看出，与图2对应的实施例相比，本实施例中的用于生成风格化图像的方法的流程400具体说明了同时在至少两种模态的风格化引导数据的引导下的模型训练过程，从而可以进一步提高模型的风格化编辑效果和效率。
继续参考图5，示出了根据本公开的用于生成风格化图像的方法的一个实施例的示意性流程500，包括以下步骤：
步骤501，获取目标风格化引导数据。
本实施例中，用于生成风格化图像的方法的执行主体(例如，图1中的终端设备或服务器)可以通过有线网络连接方式或无线网络连接从远程，或从本地获取目标风格化引导数据。其中，目标风格化引导数据表征待生成的风格化图像被期望达到的风格信息。
目标风格化引导数据可以是单模态的风格化引导数据，也可以是多模态的风格化引导数据，例如图像模态、文本模态、语音模态。
步骤502，在目标风格化引导数据的引导下，通过训练后的风格化图像生成模型生成风格化图像。
本实施例中，上述执行主体可以在目标风格化引导数据的引导下，通过训练后的风格化图像生成模型生成风格化图像。其中，风格化图像生成模型由上述实施例200、400训练得到。
作为示例，上述执行主体可以在目标风格化引导数据的引导下，基于所获取的相机姿态，通过训练后的风格化图像生成模型生成风格化图像。
本实施例中，提供了一种用于确定风格化图像生成模型的方法，基于训练后的风格化图像生成模型，提高了风格化编辑过程的编辑效率和所生成的风格化图像的编辑效果。
继续参考图6，作为对上述各图所示方法的实现，本公开提供了一种用于确定风格化图像生成模型的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图6所示，用于确定风格化图像生成模型的装置600包括：第一生成单元601，被配置成基于预训练的神经辐射场，生成参数固定的第一神经辐射场和参数可更新的第二神经辐射场；第二生成单元602，被配置成在多模态的风格化引导数据的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像，其中，风格化引导数据表征引导后图像被期望达到的风格信息；确定单元603，被配置成根据风格化引导数据和引导后图像，确定损失信息；更新单元604，被配置成根据损失信息，更新第二神经辐射场的参数，以生成风格化图像生成模型。
在本实施例的一些可选的实现方式中，风格化引导数据为风格化引导文本，以及确定单元603，进一步被配置成：根据风格化引导文本和第一神经辐射场生成的引导后图像对应的原文本，确定第一特征；根据第一神经辐射场和第二神经辐射场各自生成的引导后图像，确定第二特征；确定第一特征和第二特征之间的损失信息。
在本实施例的一些可选的实现方式中，确定单元603，进一步被配置成：对风格化引导文本进行特征提取，得到引导文本特征；对原文本进行特征提取，得到原文本特征；确定引导文本特征和原文本特征之间的方向向量，作为第一特征。
在本实施例的一些可选的实现方式中，确定单元603，进一步被配置成：通过第一预设特征提取网络，对风格化引导文本进行特征提取，得到引导文本特征；通过第一预设特征提取网络，对原文本进行特征提取，得到原文本特征。
在本实施例的一些可选的实现方式中，确定单元603，进一步被配置成：对第一神经辐射场和第二神经辐射场各自生成的引导后图像，分别进行特征提取，得到第一图像特征和第二图像特征；确定第一图像特征和第二图像特征之间的方向向量，作为第二特征。
在本实施例的一些可选的实现方式中，确定单元603，进一步被配置成：对于第一神经辐射场和第二神经辐射场各自生成的引导后图像，分别通过第一预设特征提取网络进行特征提取，得到第一图像特征和第二图像特征。
在本实施例的一些可选的实现方式中，其中，风格化引导数据为风格化引导语音，以及确定单元603，还被配置成：将风格化引导语音转换为风格化引导文本。
在本实施例的一些可选的实现方式中，风格化引导数据为风格化引导图像，以及确定单元603，进一步被配置成：确定第一神经辐射场和第二神经辐射场之间的第一损失；确定风格化引导图像和第二神经辐射场生成的引导后图像之间的第二损失；结合第一损失和第二损失，确定损失信息。
在本实施例的一些可选的实现方式中，确定单元603，进一步被配置成：确定第一神经辐射场和第二神经辐射场各自生成的引导后图像的低层特征；将低层特征之间的损失，确定为第一损失。
在本实施例的一些可选的实现方式中，确定单元603，进一步被配置成：通过第二预设特征提取网络对第一神经辐射场和第二神经辐射场各自生成的引导后图像进行特征提取，并将第二预设特征提取网络中低层特征提取层提取的特征作为低层特征。
在本实施例的一些可选的实现方式中，确定单元603，进一步被配置成：确定风格化引导图像和第二神经辐射场生成的引导后图像各自对应的高层特征；将高层特征之间的损失，确定为第二损失。
在本实施例的一些可选的实现方式中，确定单元603，进一步被配置成：通过第二预设特征提取网络分别对风格化引导图像和第二神经辐射场生成的引导后图像进行特征提取，并将第二预设特征提取网络中高层特征提取层提取的特征作为高层特征。
在本实施例的一些可选的实现方式中，第二生成单元602，进一步被配置成：同时在多模态中的至少两种模态的风格化引导数据的引导下，通过第一神经辐射场和第二神经辐射场分别生成引导后图像。
在本实施例的一些可选的实现方式中，确定单元603，进一步被配置成：根据至少两种模态中每种模态对应的风格化引导数据和引导后图像，确定损失信息。
在本实施例的一些可选的实现方式中，确定单元603，进一步被配置成：对于至少两种模态中的文本模态和/或语音模态，根据第一特征和第二特征，确定文本模态和/或语音模态对应的损失信息；对于至少两种模态中的图像模态，结合第一损失和第二损失，得到图像模态对应的损失信息；结合至少两种模态中的每种模态对应的损失信息，确定损失信息。
本实施例中，提供了一种用于确定风格化图像生成模型的装置，对于已训练的神经辐射场，通过不同模态的风格化引导数据约束其输出的结果，进而优化原有的神经辐射场，以产生风格编辑后的图像结果，提高了神经辐射场对于不同模态的风格化引导数据的适用性，有助于提高风格化图像生成过程中的引导效果和生成效率。
继续参考图7，作为对上述各图所示方法的实现，本公开提供了一种用于生成风格化图像的方法的一个实施例，该装置实施例与图5所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图7所示，用于生成风格化图像的方法700包括：获取单元701，被配置成获取目标风格化引导数据，其中，目标风格化引导数据表征待生成的风格化图像被期望达到的风格信息；第三生成单元702，被配置成在目标风格化引导数据的引导下，通过训练后的风格化图像生成模型生成风格化图像。其中，风格化图像生成模型通过上述实施例600训练得到。
本实施例中，提供了一种用于生成风格化图像的装置，基于训练后的风格化图像生成模型，提高了风格化编辑过程的编辑效率和所生成的风格化图像的编辑效果。
根据本公开的实施例，本公开还提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现上述任意实施例所描述的用于确定风格化图像生成模型的方法、用于生成风格化图像的方法。
根据本公开的实施例，本公开还提供了一种可读存储介质，该可读存储介质存储有计算机指令，该计算机指令用于使计算机执行时能够实现上述任意实施例所描述的用于确定风格化图像生成模型的方法、用于生成风格化图像的方法。
本公开实施例提供了一种计算机程序产品，该计算机程序在被处理器执行时能够实现上述任意实施例所描述的用于确定风格化图像生成模型的方法、用于生成风格化图像的方法。
图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如用于确定风格化图像生成模型的方法。例如，在一些实施例中，用于确定风格化图像生成模型的方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的用于确定风格化图像生成模型的方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行用于确定风格化图像生成模型的方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的***和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如，作为数据服务器)、或者包括中间件部件的计算***(例如，应用服务器)、或者包括前端部件的计算***(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将***的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理难度大，业务扩展性弱的缺陷；也可以为分布式***的服务器，或者是结合了区块链的服务器。
根据本公开实施例的技术方案，提供了一种用于确定风格化图像生成模型的方法，对于已训练的神经辐射场，通过不同模态的风格化引导数据约束其输出的结果，进而优化原有的神经辐射场，以产生风格编辑后的图像结果，提高了神经辐射场对于不同模态的风格化引导数据的适用性，有助于提高风格化图像生成过程中的引导效果和生成效率。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开提供的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。
Claims (33)
1.一种用于确定风格化图像生成模型的方法，包括：
基于预训练的神经辐射场，生成参数固定的第一神经辐射场和参数可更新的第二神经辐射场；
在多模态的风格化引导数据的引导下，通过所述第一神经辐射场和所述第二神经辐射场分别生成引导后图像，其中，所述风格化引导数据表征所述引导后图像被期望达到的风格信息，包括风格化引导图像；
根据所述风格化引导数据和所述引导后图像，确定损失信息，包括：确定所述第一神经辐射场和所述第二神经辐射场之间的第一损失；确定所述风格化引导图像和所述第二神经辐射场生成的引导后图像之间的第二损失；结合所述第一损失和所述第二损失，确定所述损失信息；
根据所述损失信息，更新所述第二神经辐射场的参数，以生成风格化图像生成模型。
2.根据权利要求1所述的方法，其中，所述风格化引导数据为风格化引导文本，以及
所述根据所述风格化引导数据和所述引导后图像，确定损失信息，包括：
根据所述风格化引导文本和所述第一神经辐射场生成的引导后图像对应的原文本，确定第一特征；
根据所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像，确定第二特征；
确定所述第一特征和所述第二特征之间的所述损失信息。
3.根据权利要求2所述的方法，其中，所述根据所述风格化引导文本和所述第一神经辐射场生成的引导后图像对应的原文本，确定第一特征，包括：
对所述风格化引导文本进行特征提取，得到引导文本特征；
对所述原文本进行特征提取，得到原文本特征；
确定所述引导文本特征和所述原文本特征之间的方向向量，作为所述第一特征。
4.根据权利要求3所述的方法，其中，所述对所述风格化引导文本进行特征提取，得到引导文本特征，包括：
通过第一预设特征提取网络，对所述风格化引导文本进行特征提取，得到所述引导文本特征；以及
所述对所述原文本进行特征提取，得到原文本特征，包括：
通过所述第一预设特征提取网络，对所述原文本进行特征提取，得到所述原文本特征。
5.根据权利要求2所述的方法，其中，所述根据所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像，确定第二特征，包括：
对所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像，分别进行特征提取，得到第一图像特征和第二图像特征；
确定所述第一图像特征和所述第二图像特征之间的方向向量，作为所述第二特征。
6.根据权利要求5所述的方法，其中，所述对所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像，分别进行特征提取，得到第一图像特征和第二图像特征，包括：
对于所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像，分别通过第一预设特征提取网络进行特征提取，得到所述第一图像特征和所述第二图像特征。
7.根据权利要求2所述的方法，其中，所述风格化引导数据为风格化引导语音，以及
在所述根据所述风格化引导文本和所述第一神经辐射场生成的引导后图像对应的原文本，确定第一特征之前，还包括：
将所述风格化引导语音转换为所述风格化引导文本。
8.根据权利要求1所述的方法，其中，所述确定所述第一神经辐射场和所述第二神经辐射场之间的第一损失，包括：
确定所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像的低层特征；
将所述低层特征之间的损失，确定为所述第一损失。
9.根据权利要求8所述的方法，其中，所述确定所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像的低层特征，包括：
通过第二预设特征提取网络对所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像进行特征提取，并将所述第二预设特征提取网络中低层特征提取层提取的特征作为所述低层特征。
10.根据权利要求1所述的方法，其中，所述确定所述风格化引导图像和所述第二神经辐射场生成的引导后图像之间的第二损失，包括：
确定所述风格化引导图像和所述第二神经辐射场生成的引导后图像各自对应的高层特征；
将所述高层特征之间的损失，确定为所述第二损失。
11.根据权利要求10所述的方法，其中，所述确定所述风格化引导图像和所述第二神经辐射场生成的引导后图像各自对应的高层特征，包括：
通过第二预设特征提取网络分别对所述风格化引导图像和所述第二神经辐射场生成的引导后图像进行特征提取，并将所述第二预设特征提取网络中高层特征提取层提取的特征作为所述高层特征。
12.根据权利要求1-11中任一项所述的方法，其中，所述在多模态的风格化引导数据的引导下，通过所述第一神经辐射场和所述第二神经辐射场分别生成引导后图像，包括：
同时在所述多模态中的至少两种模态的风格化引导数据的引导下，通过所述第一神经辐射场和所述第二神经辐射场分别生成所述引导后图像。
13.根据权利要求12所述的方法，其中，所述根据所述风格化引导数据和所述引导后图像，确定损失信息，包括：
根据所述至少两种模态中每种模态对应的风格化引导数据和引导后图像，确定所述损失信息。
14.根据权利要求13所述的方法，其中，所述根据所述至少两种模态中每种模态对应的风格化引导数据和引导后图像，确定所述损失信息，包括：
对于所述至少两种模态中的文本模态和/或语音模态，根据第一特征和第二特征，确定文本模态和/或语音模态对应的损失信息，其中，所述第一特征根据风格化引导文本和所述第一神经辐射场生成的引导后图像对应的原文本确定，所述第二特征根据所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像确定；
对于所述至少两种模态中的图像模态，结合所述第一损失和所述第二损失，得到图像模态对应的损失信息；
结合所述至少两种模态中的每种模态对应的损失信息，确定所述损失信息。
15.一种用于生成风格化图像的方法，包括：
获取目标风格化引导数据，其中，所述目标风格化引导数据表征待生成的风格化图像被期望达到的风格信息；
在所述目标风格化引导数据的引导下，通过训练后的风格化图像生成模型生成所述风格化图像，其中，所述风格化图像生成模型通过权利要求1-14中任一项所述的方法训练得到。
16.一种用于确定风格化图像生成模型的装置，包括：
第一生成单元，被配置成基于预训练的神经辐射场，生成参数固定的第一神经辐射场和参数可更新的第二神经辐射场；
第二生成单元，被配置成在多模态的风格化引导数据的引导下，通过所述第一神经辐射场和所述第二神经辐射场分别生成引导后图像，其中，所述风格化引导数据表征所述引导后图像被期望达到的风格信息，包括风格化引导图像；
确定单元，被配置成根据所述风格化引导数据和所述引导后图像，确定损失信息包括：确定所述第一神经辐射场和所述第二神经辐射场之间的第一损失；确定所述风格化引导图像和所述第二神经辐射场生成的引导后图像之间的第二损失；结合所述第一损失和所述第二损失，确定所述损失信息；
更新单元，被配置成根据所述损失信息，更新所述第二神经辐射场的参数，以生成风格化图像生成模型。
17.根据权利要求16所述的装置，其中，所述风格化引导数据为风格化引导文本，以及
所述确定单元，进一步被配置成：
根据所述风格化引导文本和所述第一神经辐射场生成的引导后图像对应的原文本，确定第一特征；根据所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像，确定第二特征；确定所述第一特征和所述第二特征之间的所述损失信息。
18.根据权利要求17所述的装置，其中，所述确定单元，进一步被配置成：
对所述风格化引导文本进行特征提取，得到引导文本特征；对所述原文本进行特征提取，得到原文本特征；确定所述引导文本特征和所述原文本特征之间的方向向量，作为所述第一特征。
19.根据权利要求18所述的装置，其中，所述确定单元，进一步被配置成：
通过第一预设特征提取网络，对所述风格化引导文本进行特征提取，得到所述引导文本特征；通过所述第一预设特征提取网络，对所述原文本进行特征提取，得到所述原文本特征。
20.根据权利要求17所述的装置，其中，所述确定单元，进一步被配置成：
对所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像，分别进行特征提取，得到第一图像特征和第二图像特征；确定所述第一图像特征和所述第二图像特征之间的方向向量，作为所述第二特征。
21.根据权利要求20所述的装置，其中，所述确定单元，进一步被配置成：
对于所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像，分别通过第一预设特征提取网络进行特征提取，得到所述第一图像特征和所述第二图像特征。
22.根据权利要求17所述的装置，其中，所述风格化引导数据为风格化引导语音，以及
所述确定单元，还被配置成：
将所述风格化引导语音转换为所述风格化引导文本。
23.根据权利要求16所述的装置，其中，所述确定单元，进一步被配置成：
确定所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像的低层特征；将所述低层特征之间的损失，确定为所述第一损失。
24.根据权利要求23所述的装置，其中，所述确定单元，进一步被配置成：
通过第二预设特征提取网络对所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像进行特征提取，并将所述第二预设特征提取网络中低层特征提取层提取的特征作为所述低层特征。
25.根据权利要求16所述的装置，其中，所述确定单元，进一步被配置成：
确定所述风格化引导图像和所述第二神经辐射场生成的引导后图像各自对应的高层特征；将所述高层特征之间的损失，确定为所述第二损失。
26.根据权利要求25所述的装置，其中，所述确定单元，进一步被配置成：
通过第二预设特征提取网络分别对所述风格化引导图像和所述第二神经辐射场生成的引导后图像进行特征提取，并将所述第二预设特征提取网络中高层特征提取层提取的特征作为所述高层特征。
27.根据权利要求16-26中任一项所述的装置，其中，所述第二生成单元，进一步被配置成：
同时在所述多模态中的至少两种模态的风格化引导数据的引导下，通过所述第一神经辐射场和所述第二神经辐射场分别生成所述引导后图像。
28.根据权利要求27所述的装置，其中，所述确定单元，进一步被配置成：
根据所述至少两种模态中每种模态对应的风格化引导数据和引导后图像，确定所述损失信息。
29.根据权利要求28所述的装置，其中，所述确定单元，进一步被配置成：
对于所述至少两种模态中的文本模态和/或语音模态，根据第一特征和第二特征，确定文本模态和/或语音模态对应的损失信息，其中，所述第一特征根据风格化引导文本和所述第一神经辐射场生成的引导后图像对应的原文本确定，所述第二特征根据所述第一神经辐射场和所述第二神经辐射场各自生成的引导后图像确定；对于所述至少两种模态中的图像模态，结合所述第一损失和所述第二损失，得到图像模态对应的损失信息；结合所述至少两种模态中的每种模态对应的损失信息，确定所述损失信息。
30.一种用于生成风格化图像的装置，包括：
获取单元，被配置成获取目标风格化引导数据，其中，所述目标风格化引导数据表征待生成的风格化图像被期望达到的风格信息；
第三生成单元，被配置成在所述目标风格化引导数据的引导下，通过训练后的风格化图像生成模型生成所述风格化图像，其中，所述风格化图像生成模型通过权利要求16-29中任一项所述的装置训练得到。
31.一种电子设备，其特征在于，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-15中任一项所述的方法。
32.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行权利要求1-15中任一项所述的方法。
33.一种计算机程序产品，包括：计算机程序，所述计算机程序在被处理器执行时实现权利要求1-15中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310378089.4A CN116402914B (zh) | 2023-04-11 | 2023-04-11 | 用于确定风格化图像生成模型的方法、装置及产品 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310378089.4A CN116402914B (zh) | 2023-04-11 | 2023-04-11 | 用于确定风格化图像生成模型的方法、装置及产品 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116402914A CN116402914A (zh) | 2023-07-07 |
| CN116402914B true CN116402914B (zh) | 2024-07-05 |
Family
ID=87011945
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310378089.4A Active CN116402914B (zh) | 2023-04-11 | 2023-04-11 | 用于确定风格化图像生成模型的方法、装置及产品 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116402914B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116580163B (zh) * | 2023-07-14 | 2023-12-22 | 深圳元戎启行科技有限公司 | 三维场景重建方法、电子设备及存储介质 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113822969A (zh) * | 2021-09-15 | 2021-12-21 | 宿迁硅基智能科技有限公司 | 训练神经辐射场模型和人脸生成方法、装置及服务器 |
| CN115690324A (zh) * | 2022-11-15 | 2023-02-03 | 广州中思人工智能科技有限公司 | 一种基于点云的神经辐射场重建优化方法及装置 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10565757B2 (en) * | 2017-06-09 | 2020-02-18 | Adobe Inc. | Multimodal style-transfer network for applying style features from multi-resolution style exemplars to input images |
| US20220180602A1 (en) * | 2020-12-03 | 2022-06-09 | Nvidia Corporation | Generating images of virtual environments using one or more neural networks |
| CN115797571B (zh) * | 2023-02-03 | 2023-04-14 | 天津大学 | 3d风格化场景的新视角合成方法 |
-
2023
- 2023-04-11 CN CN202310378089.4A patent/CN116402914B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113822969A (zh) * | 2021-09-15 | 2021-12-21 | 宿迁硅基智能科技有限公司 | 训练神经辐射场模型和人脸生成方法、装置及服务器 |
| CN115690324A (zh) * | 2022-11-15 | 2023-02-03 | 广州中思人工智能科技有限公司 | 一种基于点云的神经辐射场重建优化方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116402914A (zh) | 2023-07-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113033537B (zh) | 用于训练模型的方法、装置、设备、介质和程序产品 | |
| CN115345980B (zh) | 个性化纹理贴图的生成方法及装置 | |
| CN114020950B (zh) | 图像检索模型的训练方法、装置、设备以及存储介质 | |
| CN113591918B (zh) | 图像处理模型的训练方法、图像处理方法、装置和设备 | |
| CN113627536B (zh) | 模型训练、视频分类方法，装置，设备以及存储介质 | |
| CN113393371B (zh) | 一种图像处理方法、装置及电子设备 | |
| CN113641829B (zh) | 图神经网络的训练与知识图谱的补全方法、装置 | |
| CN114092759A (zh) | 图像识别模型的训练方法、装置、电子设备及存储介质 | |
| CN116309983B (zh) | 虚拟人物模型的训练方法、生成方法、装置和电子设备 | |
| CN114792355B (zh) | 虚拟形象生成方法、装置、电子设备和存储介质 | |
| CN116402914B (zh) | 用于确定风格化图像生成模型的方法、装置及产品 | |
| CN114186681A (zh) | 用于生成模型簇的方法、装置及计算机程序产品 | |
| CN116756564A (zh) | 面向任务解决的生成式大语言模型的训练方法和使用方法 | |
| CN113850714A (zh) | 图像风格转换模型的训练、图像风格转换方法及相关装置 | |
| CN115376211A (zh) | 唇形驱动方法、唇形驱动模型的训练方法、装置及设备 | |
| CN114120413A (zh) | 模型训练方法、图像合成方法、装置、设备及程序产品 | |
| CN114549904A (zh) | 视觉处理及模型训练方法、设备、存储介质及程序产品 | |
| CN113033408B (zh) | 数据队列动态更新方法、装置、电子设备及存储介质 | |
| CN114049290A (zh) | 图像处理方法、装置、设备及存储介质 | |
| CN113962845A (zh) | 图像处理方法、图像处理装置、电子设备以及存储介质 | |
| CN115393488B (zh) | 虚拟人物表情的驱动方法、装置、电子设备和存储介质 | |
| CN116843833A (zh) | 三维模型生成方法、装置和电子设备 | |
| CN115147547B (zh) | 人体重建方法和装置 | |
| CN116363429A (zh) | 图像识别模型的训练方法、图像识别方法、装置及设备 | |
| CN113240780B (zh) | 生成动画的方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |