CN114612689A - 对抗样本生成方法、模型训练方法、处理方法及电子设备 - Google Patents

Abstract

本发明提供一种对抗样本生成方法、图像处理模型训练方法和图像处理方法。该对抗样本生成方法包括：对图像执行多轮迭代处理，直至满足预定迭代条件；将满足预定迭代条件的图像确定为对抗样本。对图像执行多轮迭代处理包括：对与当前轮迭代对应的图像特征数据进行处理，得到图像特征向量；基于目标函数，根据与初始图像对应的图像特征向量和与当前轮迭代对应的图像特征向量，得到扰动值，目标函数是根据离散度函数和距离函数确定的，根据与当前轮迭代对应的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。本发明还提供了一种电子设备。

Description

对抗样本生成方法、模型训练方法、处理方法及电子设备

技术领域

本发明涉及人工智能及机器学习技术领域，具体地涉及一种对抗样本生成方法、模型训练方法、处理方法及电子设备。

背景技术

机器学习及人工智能相关技术在近些年备受关注，由于优异的性能，在计算机视觉领域得到了广泛的应用，应用范围可以包括图像识别、目标检测、图像分割等多种任务，应用场景涵盖如姿态检测、自动驾驶等。

目前图像分类模型针对上述应用场景中的识别准确率较高，但有研究发现，仅在测试样本上添加一些精心设计的微小扰动，就有可能导致模型产生错误的分类，而这些扰动不足以干扰人类视觉***。这种可以改变深度分类模型预测结果的被扰动图像称为对抗样本。

传统的对抗样本生成方法通常利用深度分类模型计算相应的损失函数，然后引导生成使损失函数趋向于较差情况的扰动，使得深度模型分类错误。这一过程依赖于深度分类模型最后的损失函数的输出，使得生成的对抗样本的攻击成功率不高，缺乏对不同图像分类模型的泛化性。

发明内容

鉴于上述问题，本发明提供了一种对抗样本生成方法、模型训练方法、图像处理方法及电子设备。

本发明的一方面提供了一种对抗样本生成方法，包括：对图像执行多轮迭代处理，直至满足预定迭代条件；将满足预定迭代条件的图像确定为对抗样本；其中，对图像执行多轮迭代处理，包括：对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量；基于目标函数，根据与初始图像对应的图像特征向量和与当前轮迭代对应的图像的图像特征向量，得到与当前轮迭代对应的图像的扰动值，其中，目标函数是根据离散度函数和距离函数确定的，离散度函数是用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数，距离函数是用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数；根据与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。

可选地，目标函数是根据离散度函数和距离函数确定的，包括：根据用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数与第一超参数，得到加权后的特征离散度函数；根据用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数与第二超参数，得到加权后的距离函数；根据加权后的特征离散度函数和加权后的距离函数，确定目标函数。

可选地，根据与当前轮迭代对应的图像的扰动值和和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像，包括：确定与当前轮迭代对应的图像的更新步长；基于与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像的更新步长，得到与当前轮对应的图像的更新扰动值；根据与当前轮迭代对应的图像的更新扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。

可选地，对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量，包括：将与当前轮迭代对应的图像的图像特征数据输入特征提取模型中，得到与当前轮迭代对应的图像提取特征；对图像提取特征进行归一化处理，得到与当前轮迭代对应的图像的图像特征向量。

可选地，预设迭代条件包括预设迭代次数。

可选地，离散度包括熵值或方差。

可选地，与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离为最优传输距离、曼哈顿距离、欧式距离。

根据本发明的另一方面，提供了一种图像处理模型训练方法，包括：利用对抗样本对待训练模型进行训练，得到训练后的图像处理模型，其中，对抗样本是利用根据上述对抗样本生成方法生成的。

根据本发明的另一方面，提供了一种图像处理方法，包括：利用图像处理模型处理目标原始图像，得到针对目标原始图像的输出结果，其中，图像处理模型是利用根据上述图像处理模型训练方法训练得到的。

本发明的另一方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当一个或多个程序被一个或多个处理器执行时，使得一个或多个处理器执行上述对抗样本生成方法、图像处理模型训练方法及图像处理方法。

本发明的另一方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述对抗样本生成方法、图像处理模型训练方法及图像处理方法。

本发明的另一方面还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述对抗样本生成方法、图像处理模型训练方法及图像处理方法。

通过基于由离散度函数和距离函数确定的目标函数，根据与初始图像对应的图像特征向量和与当前轮对应的图像的图像特征向量，得到与当前轮迭代对应的图像的扰动值，根据与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像，直至满足预定迭代条件，将在满足预定迭代条件的情况下得到的图像确定为对抗样本，实现了能够综合利用深度特征的距离度量和离散度的语义信息生成对抗样本，提高了对抗样本的泛化性，增加了对抗样本生成的实用性和拓展性。

附图说明

通过以下参照附图对本发明实施例的描述，本发明的上述内容以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本发明实施例的对抗样本生成方法、图像处理模型的训练方法、图像处理方法及装置的应用场景图；

图2示意性示出了根据本发明实施例的对抗样本生成方法的流程图；

图3示意性示出了根据本发明实施例的图像处理模型训练方法的流程图；

图4示意性示出了根据本发明实施例的图像处理方法的流程图；

图5示意性示出了根据本发明实施例的对抗样本生成装置的框图；

图6示意性示出了根据本发明实施例的图像处理模型训练装置的框图；

图7示意性示出了根据本发明实施例的图像处理装置的框图；

图8示意性示出了根据本发明实施例的适于实现对抗样本生成方法、图像处理模型训练方法和图像处理方法的电子设备的方框图。

具体实施方式

以下，将参照附图来描述本发明的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本发明的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本发明实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本发明的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本发明。在此使用的术语“包括”、“包含”等表明了特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语（包括技术和科学术语）具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释（例如，“具有A、B和C中至少一个的***”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的***等）。

本发明实施例提供了一种对抗样本生成方法，包括：对图像执行多轮迭代处理，直至满足预定迭代条件。将满足预定迭代条件的图像确定为对抗样本。对图像执行多轮迭代处理，可以包括：对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量。基于目标函数，根据与初始图像对应的图像特征向量和与当前轮迭代对应的图像的图像特征向量，得到与当前轮迭代对应的图像的扰动值，其中，目标函数是根据离散度函数和距离函数确定的，离散度函数是用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数，距离函数是用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数。根据与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。

图1示意性示出了根据本发明实施例的对抗样本生成方法、图像处理模型的训练方法、图像处理方法及装置的应用场景图。

如图1所示，根据该实施例的应用场景100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等（仅为示例）。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器（仅为示例）。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果（例如根据用户请求获取或生成的网页、信息、或数据等）反馈给终端设备。

需要说明的是，本发明实施例所提供的对抗样本生成方法、图像处理模型的训练方法和图像处理方法一般可以由服务器105执行。相应地，本发明实施例所提供的对抗样本生成装置、图像处理模型的训练装置和图像处理装置一般可以设置于服务器105中。本发明实施例所提供的对抗样本生成方法、图像处理模型的训练方法和图像处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本发明实施例所提供的对抗样本生成装置、图像处理模型的训练装置和图像处理装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

图2示意性示出了根据本发明实施例的对抗样本生成方法的流程图。

如图2所示，该方法200可以包括操作S210~操作S220。

在操作S210，对图像执行多轮迭代处理，直至满足预定迭代条件。

在操作S220，将满足预定迭代条件的图像确定为对抗样本。

根据本发明的实施例，操作S210可以包括操作S211~S213。

在操作S211，对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量。

在操作S212，基于目标函数，根据与初始图像对应的图像特征向量和与当前轮迭代对应的图像的图像特征向量，得到与当前轮迭代对应的图像的扰动值，其中，目标函数是根据离散度函数和距离函数确定的，离散度函数是用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数，距离函数是用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数。

在操作S213，根据与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。

根据本发明的实施例，预定迭代条件可以用于作为图像是否满足对抗样本生成的条件。预定迭代条件可以包括预设迭代次数，预设迭代次数可以为迭代轮次达到最大迭代轮次的次数，可以根据实际需求自定义设置，在此不作限定。

根据本发明的实施例，针对多轮迭代中的每轮，具有与每轮迭代对应的图像和图像特征向量。对图像执行多轮迭代处理，直至满足预定迭代条件可以包括：将正在进行的轮次称为当前轮。基于目标函数，利用与当前轮迭代对应的图像的图像特征向量和与初始图像对应的图像特征向量，得到与当前轮迭代对应的图像的扰动值。根据与当前轮迭代对应的图像的扰动值调整与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。

根据本发明的实施例，目标函数是根据用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数和用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数确定的。

在当前轮迭代为首轮迭代的情况下，对初始图像进行特征处理，得到与首轮迭代对应的初始图像的图像特征向量，也可以理解为与初始图像对应的图像特征向量。基于目标函数，利用与首轮迭代对应的初始图像的图像特征向量和与初始图像对应的图像特征向量，得到与首轮迭代对应的图像的扰动值，将该扰动值添加至初始图像中，得到与第二轮迭代对应的图像。

根据本发明的实施例，在当前轮迭代为第二轮迭代的情况下，得到与第二轮迭代对应的图像的图像特征向量，可以基于目标函数，利用与第二轮迭代对应的图像的图像特征向量和与初始图像对应的图像特征向量，得到与第二轮迭代对应的图像的扰动值，将与第二轮迭代对应的图像的扰动值添加至与第二轮迭代对应的图像中，得到与第三轮迭代对应的图像。

基于上述的迭代处理过程，对图像执行多轮迭代，直到满足预定迭代条件，即，满足预定迭代次数，得到多轮迭代后的图像，将满足预定迭代次数的图像确定为对抗样本。

根据本发明的实施例，基于用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数和用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数确定的目标函数，根据与初始图像对应的图像特征向量和与当前轮对应的图像的图像特征向量，得到与当前轮迭代对应的图像的扰动值，根据与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像，直至满足预定迭代条件，将在满足预定迭代条件的情况下得到的图像确定为对抗样本，实现了能够综合利用深度特征的距离度量和离散度的语义信息生成对抗样本，提高了对抗样本的泛化性，增加了对抗样本生成的实用性和拓展性。

根据本发明的实施例，目标函数是根据离散度函数和距离函数确定的，可以包括：根据用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数与第一超参数，得到加权后的特征离散度函数；根据用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数与第二超参数，得到加权后的距离函数；根据加权后的特征离散度函数和加权后的距离函数，确定目标函数。

根据本发明的实施例，离散度函数可以用于表征在每轮迭代过程中，计算基于与每轮迭代对应的图像的图像特征向量的离散度；距离函数可以用于表征在每轮迭代过程中，计算基于与每轮迭代对应的图像的图像特征向量和与初始图像对应的图像特征向量之间的距离。

根据本发明的实施例，第一超参数和第二超参数可以用于表征分别对离散度函数和距离函数进行调整的参数，从而实现对目标函数的调整。第一超参数和第二超参数可以根据迭代实际需求进行超参数的调整。

根据本发明的实施例，利用第一超参数对用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数进行加权，得到加权后的特征离散度函数。

根据本发明的实施例，离散度可以包括熵值或方差。例如，用于基于与每轮迭代对 应的图像的图像特征向量计算的离散度用熵值可以表示为

，迭代次数为

，其中，

，则用于基于与每轮迭代对应的图像的图像特征向量计算离 散度的函数可以表示为熵值

，其中，

为与每轮迭代对应的图像的 图像特征向量，

为与每轮次迭代对应的图像。

根据本发明的实施例，与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离为最优传输距离、曼哈顿距离、欧式距离。

根据本发明的实施例，例如，可以利用最优传输距离算法计算与初始图像对应的 图像特征向量和与每轮迭代对应的图像的图像特征向量之间的Wasserstein距离，可以表 示为

，其中，x为初始图像。

根据本发明的实施例，例如，第一超参数可以表示为

，加权后的特征离散度函 数可以表示为

；第二超参数可以表示为

，加权后的距离函数可以表示 为

。

根据本发明的实施例，例如，目标函数

可以表示为式（1）：

（1）

根据本发明的实施例，基于图像的特征离散度和特征距离度量确定目标函数，充分利用图像深度特征的语义信息，提高生成的满足预定迭代条件的对抗样本的实用性和拓展性。

根据本发明的实施例，根据与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像，包括：确定与当前轮迭代对应的图像的更新步长；基于与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像的更新步长，得到与当前轮对应的图像的更新扰动值；根据与当前轮迭代对应的图像的更新扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。

根据本发明的实施例，与当前轮迭代对应的图像的扰动值可以通过对目标函数进 行反向传播计算得到。更新步长可以理解为在每次的迭代过程中，按照扰动值的反方向更 新特定的参数的值，可以表示为

。

根据本发明的实施例，例如，针对得到与第t+1次迭代对应的对抗样本，也就是与 第t+1次迭代对应的图像可以表示为

，可以基于上述目标函数

（当

为

时）通过梯度 反传计算，得到与第t次迭代对应的图像的更新扰动值可以表示为

，结合与第t次 迭代对应的图像

，得到与第t+1次迭代对应的图像

可以表示为式（2）：

（2）

根据本发明的实施例，为了避免对与每轮迭代对应的图像的扰动过大，对得到的 与每轮迭代对应的图像

进行扰动上的约束，可以设定扰动上限为

。例如，对得到的 与第t+1次迭代对应的图像

进行扰动约束可以表示为式（3）：

（3）

其中，x为初始图像。

根据本发明的实施例，对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量，包括：将与当前轮迭代对应的图像的图像特征数据输入特征提取模型中，得到与当前轮迭代对应的图像提取特征；对图像提取特征进行归一化处理，得到与当前轮迭代对应的图像的图像特征向量。

根据本发明的实施例，例如，当前轮为第t次迭代，与当前轮迭代对应的图像为

，将与当前轮迭代对应的图像为

输入特征提取模型中，得到与当前轮迭代对应的 图像提取特征

，对图像提取特征

进行归一化处理，得到与当前轮迭代对 应的图像的图像特征向量

，对图像提取特征

进行归一化处理可以通过Softmax函数实现，即，

。

根据本发明的实施例，例如，当前轮为首轮迭代时，与当前轮迭代对应的图像为初 始图像x，将初始图像x输入特征提取模型中，得到初始图像的图像提取特征

，对图像 提取特征

进行归一化处理，得到初始图像归一化处理的图像特征向量

，即，

。

根据本发明的实施例，归一化处理可以为对图像提取特征进行一系列标准的处理变换，使得图像提取特征变换为一个固定标准形式的过程。

图3示意性示出了根据本发明实施例的图像处理模型训练方法的流程图。

如图3所示，该方法300可以包括操作S310。

在操作S310，利用对抗样本对待训练模型进行训练，得到训练后的图像处理模型，其中，对抗样本是利用根据上述对抗样本生成方法生成的。

根据本发明的实施例，待训练模型可以为待训练的深度学习分类模型，可以不同图像分类的数据序列的模型。利用上述对抗样本的生成方法生成的对抗样本输入至待训练模型中，训练深度学习模型，得到图像处理模型。

图4示意性示出了根据本发明实施例的图像处理方法的流程图。

如图4所示，该方法400可以包括操作：S410。

在操作S410，利用图像处理模型处理目标原始图像，得到针对目标原始图像的输出结果，其中，图像处理模型是利用上述图像处理模型训练方法训练得到的。

根据本发明的实施例，例如，需要对图像进行处理可以包括图像分类、图像检测和图像分割等，利用上述图像处理方法将目标原始图像输入利用上述图像处理模型训练得到的图像处理模型中，得出针对目标原始图像的输出结果，例如，图像分类结果、图像检测结果或图像分割结果等。

根据本发明的实施例，利用上述对抗样本的生成方法生成的对抗样本训练图像处理模型，利用该图像处理模型处理数据，以提高生成的对抗样本针对不同的图像处理任务时图像处理模型的泛化性，以使得生成的对抗样本具有较好的实用性和拓展性。

图5示意性示出了根据本发明实施例的对抗样本生成装置的框图。

如图5所示，对抗样本生成装置500可以包括：迭代模块510和确定模块520。

迭代模块510，用于对图像执行多轮迭代处理，直至满足预定迭代条件。

确定模块520，用于将满足预定迭代条件的图像确定为对抗样本。

根据本发明的实施例，迭代模块510可以包括：处理子模块511、第一获得子模块512和第二获得子模块513。

处理子模块511，用于对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量。

第一获得子模块512，用于基于目标函数，根据与初始图像对应的图像特征向量和与当前轮迭代对应的图像的图像特征向量，得到与当前轮迭代对应的图像的扰动值，其中，目标函数是根据离散度函数和距离函数确定的，离散度函数是用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数，距离函数是用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数。

第二获得子模块513，用于根据与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。

根据本发明的实施例，目标函数是根据离散度函数和距离函数确定的，包括：根据用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数与第一超参数，得到加权后的特征离散度函数；根据用于计算与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数与第二超参数，得到加权后的距离函数；根据加权后的特征离散度函数和加权后的距离函数，确定目标函数。

根据本发明的实施例，第二获得子模块可以包括：确定单元、第一获得单元和第二获得单元。

确定单元，用于确定与当前轮迭代对应的图像的更新步长。

第一获得单元，用于基于与当前轮迭代对应的图像的扰动值和与当前轮迭代对应的图像的更新步长，得到与当前轮对应的图像的更新扰动值。

第二获得单元，根据与当前轮迭代对应的图像的更新扰动值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像。

根据本发明的实施例，处理子模块可以包括：输入单元和第三获得单元。

输入单元，用于将与当前轮迭代对应的图像的图像特征数据输入特征提取模型中，得到与当前轮迭代对应的图像提取特征。

第三获得单元，用于对图像提取特征进行归一化处理，得到与当前轮迭代对应的图像的图像特征向量。

根据本发明的实施例，预设迭代条件包括预设迭代次数。

根据本发明的实施例，离散度包括熵值或方差。

根据本发明的实施例，与初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离为最优传输距离、曼哈顿距离、欧式距离。

图6示意性示出了根据本发明实施例的图像处理模型训练装置的框图。

如图6所示，该装置600可以包括：训练模块610。

训练模块610，用于利用对抗样本对待训练模型进行训练，得到训练后的图像处理模型，其中，对抗样本是利用根据上述对抗样本生成方法生成的。

图7示意性示出了根据本发明实施例的图像处理装置的框图。

如图7所示，该装置700可以包括：获得模块710。

获得模块710，用于利用图像处理模型处理目标原始图像，得到针对目标原始图像的输出结果，其中，图像处理模型是利用上述图像处理模型训练方法训练得到的。

根据本发明的实施例，本发明还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

根据本发明的实施例，一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，其中，当一个或多个程序被一个或多个处理器执行时，使得一个或多个处理器执行上述对抗样本生成方法、图像处理模型训练方法和图像处理方法。

根据本发明的实施例，一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述对抗样本生成方法、图像处理模型训练方法和图像处理方法。

根据本发明的实施例，一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现上述对抗样本生成方法、图像处理模型训练方法和图像处理方法。

图8示意性示出了根据本发明实施例的适于实现对抗样本生成方法、图像处理模型训练方法和图像处理方法的电子设备的方框图。

如图8所示，根据本发明实施例的电子设备800包括处理器801，其可以根据存储在只读存储器（ROM）802中的程序或者从存储部分808加载到随机访问存储器（RAM）803中的程序而执行各种适当的动作和处理。处理器801例如可以包括通用微处理器（例如CPU）、指令集处理器和/或相关芯片组和/或专用微处理器（例如，专用集成电路（ASIC））等等。处理器801还可以包括用于缓存用途的板载存储器。处理器801可以包括用于执行根据本发明实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 803中，存储有电子设备800操作所需的各种程序和数据。处理器 801、ROM802以及RAM 803通过总线804彼此相连。处理器801通过执行ROM 802和/或RAM 803中的程序来执行根据本发明实施例的方法流程的各种操作。需要注意，程序也可以存储在除ROM802和RAM 803以外的一个或多个存储器中。处理器801也可以通过执行存储在一个或多个存储器中的程序来执行根据本发明实施例的方法流程的各种操作。

根据本发明的实施例，电子设备800还可以包括输入/输出（I/O）接口805，输入/输出（I/O）接口805也连接至总线804。电子设备800还可以包括连接至I/O接口805的以下部件中的一项或多项：包括键盘、鼠标等的输入部分806；包括诸如阴极射线管（CRT）、液晶显示器（LCD）等以及扬声器等的输出部分807；包括硬盘等的存储部分808；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器810上，以便于从其上读出的计算机程序根据需要被安装入存储部分808。

本发明还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/***中所包含的；也可以是单独存在，而未装配入该设备/装置/***中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本发明实施例的方法。

根据本发明的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、便携式紧凑磁盘只读存储器（CD-ROM）、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。例如，根据本发明的实施例，计算机可读存储介质可以包括上文描述的ROM 802和/或RAM 803和/或ROM 802和RAM 803以外的一个或多个存储器。

本发明的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机***中运行时，该程序代码用于使计算机***实现本发明实施例所提供的物品推荐方法。

在该计算机程序被处理器801执行时执行本发明实施例的***/装置中限定的上述功能。根据本发明的实施例，上文描述的***、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分809被下载和安装，和/或从可拆卸介质811被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

在这样的实施例中，该计算机程序可以通过通信部分809从网络上被下载和安装，和/或从可拆卸介质811被安装。在该计算机程序被处理器801执行时，执行本发明实施例的***中限定的上述功能。根据本发明的实施例，上文描述的***、设备、装置、模块、单元等可以通过计算机程序模块来实现。

根据本发明的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本发明实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网（LAN）或广域网（WAN），连接到用户计算设备，或者，可以连接到外部计算设备（例如利用因特网服务提供商来通过因特网连接）。

附图中的流程图和框图，图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解，本发明的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合，即使这样的组合或结合没有明确记载于本发明中。特别地，在不脱离本发明精神和教导的情况下，本发明的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本发明的范围。

以上对本发明的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本发明的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本发明的范围由所附权利要求及其等同物限定。不脱离本发明的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本发明的范围之内。

Claims (10)

1.一种对抗样本生成方法，包括：

对图像执行多轮迭代处理，直至满足预定迭代条件；

将满足所述预定迭代条件的图像确定为所述对抗样本；

其中，所述对图像执行多轮迭代处理，包括：

对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量；

基于目标函数，根据与初始图像对应的图像特征向量和与所述当前轮迭代对应的图像的图像特征向量，得到与当前轮迭代对应的图像的扰动值，其中，所述目标函数是根据离散度函数和距离函数确定的，所述离散度函数是用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数，所述距离函数是用于计算与所述初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数；

根据与所述当前轮迭代对应的图像的扰动值和与所述当前轮迭代对应的图像，得到与下一轮迭代对应的图像。

2.根据权利要求1所述的方法，其中，所述目标函数是根据离散度函数和距离函数确定的，包括：

根据用于基于与每轮迭代对应的图像的图像特征向量计算离散度的函数与第一超参数，得到加权后的特征离散度函数；

根据用于计算与所述初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离的函数与第二超参数，得到加权后的距离函数；

根据所述加权后的特征离散度函数和所述加权后的距离函数，确定所述目标函数。

3.根据权利要求1所述的方法，其中，所述根据与所述当前轮迭代对应的图像的扰动值和与所述当前轮迭代对应的图像，得到与下一轮迭代对应的图像，包括：

确定与所述当前轮迭代对应的图像的更新步长；

基于与所述当前轮迭代对应的图像的扰动值和与所述当前轮迭代对应的图像的更新步长，得到与所述当前轮对应的图像的更新扰动值；

根据与所述当前轮迭代对应的图像的更新扰动值和与所述当前轮迭代对应的图像，得到与所述下一轮迭代对应的图像。

4.根据权利要求1所述的方法，其中，所述对与当前轮迭代对应的图像的图像特征数据进行处理，得到与当前轮迭代对应的图像的图像特征向量，包括：

将与当前轮迭代对应的图像的图像特征数据输入特征提取模型中，得到与当前轮迭代对应的图像提取特征；

对所述图像提取特征进行归一化处理，得到所述与当前轮迭代对应的图像的图像特征向量。

5.根据权利要求1所述的方法，其中，预设迭代条件包括预设迭代次数。

6.根据权利要求1所述的方法，其中，所述离散度包括熵值或方差。

7.根据权利要求1所述的方法，其中，所述与所述初始图像对应的图像特征向量和与每轮迭代对应的图像的图像特征向量之间距离为最优传输距离、曼哈顿距离、欧式距离。

8.一种图像处理模型训练方法，包括：

利用对抗样本对待训练模型进行训练，得到训练后的图像处理模型，

其中，所述对抗样本是利用根据权利要求1所述的方法生成的。

9.一种图像处理方法，包括：

利用图像处理模型处理目标原始图像，得到针对所述目标原始图像的输出结果，

其中，所述图像处理模型是利用根据权利要求8所述的训练方法训练得到的。

10.一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据权利要求1~7中任一项或权利要求8或权利要求9中所述的方法。

Images