CN110378474A - 对抗样本生成方法、装置、电子设备和计算机可读介质 - Google Patents

对抗样本生成方法、装置、电子设备和计算机可读介质 Download PDF

Info

Publication number
CN110378474A
CN110378474A CN201910684104.1A CN201910684104A CN110378474A CN 110378474 A CN110378474 A CN 110378474A CN 201910684104 A CN201910684104 A CN 201910684104A CN 110378474 A CN110378474 A CN 110378474A
Authority
CN
China
Prior art keywords
text
sample
candidate
result information
word
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910684104.1A
Other languages
English (en)
Inventor
苗宁
周浩
李磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN201910684104.1A priority Critical patent/CN110378474A/zh
Publication of CN110378474A publication Critical patent/CN110378474A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Machine Translation (AREA)

Abstract

本公开的实施例公开了对抗样本生成方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括：对于训练样本集中的训练样本，执行以下生成步骤，其中，训练样本包括样本文本和该样本文本对应的标注信息：生成该样本文本对应的候选文本；将该候选文本输入文本处理模型，得到文本处理结果信息；若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。该实施方式实现了控制对抗样本向着期望的方向生成。

Description

对抗样本生成方法、装置、电子设备和计算机可读介质
技术领域
本公开的实施例涉及计算机技术领域，具体涉及对抗样本生成方法、装置、电子设备和计算机可读介质。
背景技术
随着人工智能的发展，相关技术已广泛应用于各个领域。例如，图像识别、语音识别、自然语言处理等领域，人工智能技术均发挥了举足轻重的作用。人工智能技术的应用，使得人与机器的交互更加便利。与此同时，由于各种功能的实现有赖于通过大量的样本的训练。训练后的神经网络对于干扰比较敏感，可能影响神经网络的安全性。为了提高神经网络的抗干扰性，需要基于对抗样本对神经网络进行训练。因而对于生成对抗样本提出了需求。
发明内容
本发明内容部分用于以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。本发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了对抗样本生成方法、装置、电子设备和计算机可读介质。
第一方面，本公开的一些实施例提供了一种对抗样本生成方法，包括：对于训练样本集中的训练样本，执行以下生成步骤，其中，训练样本包括样本文本和该样本文本对应的标注信息：生成该样本文本对应的候选文本；将该候选文本输入文本处理模型，得到文本处理结果信息；若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。
第二方面，本公开的一些实施例提供了一种对抗样本生成装置，包括：执行单元，被配置成对于训练样本集中的训练样本，利用所包括的子单元进行对抗样本的生成，其中，训练样本包括样本文本和该样本文本对应的标注信息，执行单元包括以下子单元：生成子单元，被配置成生成该样本文本对应的候选文本；文本处理结果信息生成子单元，被配置成将该候选文本输入文本处理模型，得到文本处理结果信息；第一确定子单元，被配置成若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。
第三方面，本公开的一些实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面，本公开的一些实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本公开的一些实施例提供的对抗样本生成方法、装置、电子设备和计算机可读介质，通过生成样本文本的候选文本，以及将候选文本输入文本处理模型，得到文本处理结果信息。在此基础上，若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。其中，通过控制预设条件，可以控制对抗样本向着期望的方向生成。例如，控制预设条件使得候选文本对应的文本处理结果信息与样本文本对应的标注信息不同，甚至相反。可以使得对抗样本向更具攻击性的方向生成。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。
图1是本公开的一些实施例可以应用于其中的示例性***的架构图；
图2是根据本公开的对抗样本生成方法的一些实施例的流程图；
图3是根据本公开的一些实施例的对抗样本生成方法的一个应用场景的示意图；
图4是根据本公开的对抗样本生成方法的另一些实施例的流程图；
图5是根据本公开的对抗样本生成装置的一些实施例的结构示意图；
图6是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例。相反，提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的一些实施例的对抗样本生成方法或对抗样本生成装置的示例性***架构100。
如图1所示，***架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种客户端应用，例如文本情感倾向识别应用、翻译类应用、即时通信应用等等。
终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏并且支持文本显示的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上的文本处理应用提供支持的后台文本服务器。作为示例，后台文本服务器上可以安装有用于处理文本的文本处理模型。根据需要，后台文本服务器可以生成用于对文本处理模型进行训练的对抗样本。
需要说明的是，本公开的实施例所提供的对抗样本生成方法一般由服务器105执行。相应地，对抗样本生成装置可以设置于服务器105中。在此不做具体限定。
需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成例如用来提供分布式服务的多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。可以理解，当训练样本集以及文本处理模型都存储于服务器本地时，也可以不存在终端设备、网络。
继续参考图2，示出了根据本公开的对抗样本生成方法的一些实施例的流程200。该对抗样本生成方法，包括对于训练样本集中的训练样本，执行以下生成步骤：
步骤201，生成该样本文本对应的候选文本。
在一些实施例中，训练样本集可以是各种各样的数据集。训练样本集中的训练样本包括样本文本和该样本文本对应的标注信息。作为示例，可以是IMDB或SNLI数据集。其中，IMDB(Internet Movie Data Base)包括25000个训练样本和25000个测试样本。每个样本包括影评和标签。标签用于表征影评为正面评价还是负面评价。SNLI也是一个可以用于自然语言处理(NLP)任务的数据集。
在一些实施例中，对抗样本生成方法的执行主体(例如图1所示的服务器)可以生成训练样本中的样本文本对应的候选文本。实践中，可以针对训练样本集中的任意训练样本执行该方法。对于某个训练样本，上述执行主体可以通过多种方式生成该样本文本对应的候选文本。
作为示例，可以对于该样本文本中的至少一个词进行同义词或同音词替换，从而得到该样本文本对应的候选文本。
在一些可选的实现方式中，可以基于马尔科夫链蒙特卡罗MCMC(Markov ChainMonte Carlo)采样方法以及语言模型LM(language model)生成该样本文本对应的候选文本。其中，MCMC采样方法包括Metropolis-Hasting、Gibbs等采样方法。
以Metropolis-Hasting为例，在给定稳定分布(stationary distribution)π(x)和建议分布(proposal distribution)的情况下，通过Metropolis-Hasting可以生成采样样本。以样本文本x对应的采样样本为x′为例，建议分布为g(x′|x)。采样样本为x′的接收率α可以采用以下公式(1)进行计算：
如果满足接受率α，可以接收采样样本x′。
在一些可选的实现方式中，可以通过将生成的采样样本输入LM，得到输入的采样样本出现的概率。进一步的，可以选取概率值在预设阈值以上的采样样本，从而得到候选样本。其中，概率值越高，说明出现的概率高，也即输入的采样样本更流畅。从而可以避免由于随意改动训练样本造成对抗样本构建失败。
在一些可选的实现方式中，可以通过以下至少一种方式进行采样：对该样本文本进行删词(删词)、从目标词库中选取至少一个词加入该样本文本(增词)、从目标词库中选取词替换该样本文本中的词(换词)，从而得到该样本文本对应的候选文本。其中，目标词库可以是任意词库。目标词库的确定可以由技术人员指定，或根据一定的条件筛选得到。
继续以上述样本文本x为例，采用上述三种方式得到采样样本x′的概率分别为(删词)、(增词)、(换词)，则应满足：
其中，pr、pi、pd分别为采用上述三种方式进行采样的概率。其取值可以根据实际需要由技术人员指定。
作为示例，可以通过以下方式确定：
若x′＝x-m则否则，为0。
其中，x-m表示样本文本x删掉m这个词之后，得到的文本。
步骤202，将该候选文本输入文本处理模型，得到文本处理结果信息。
在一些实施例中，上述执行主体可以将该候选文本输入文本处理模型，得到文本处理结果信息。其中，文本处理模型可以是用于处理文本的各种神经网络。例如，可以是各种文本分类网络，包括但不限于翻译网络、词性标注网络、文本情感倾向分析网络等等。
作为示例，可以将该候选文本输入双向LSTM(Long Short-Term Memory，长短期记忆网络)网络等，从而得到文本处理结果信息。根据神经网络的不同，得到的文本处理结果信息也不尽相同。例如，可以是文本情感倾向分析结果信息。举例来说，输入若为影评，输出的可以是该影评为正面评价(或负面评价)的概率。
步骤203，若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。
在一些实施例中，在步骤202的基础上，可以确定该候选文本对应的文本处理结果信息是否满足预设条件。
根据实际情况，预设条件可以是各种各样的条件。作为示例，预设条件可以是：候选文本对应的文本处理结果信息与样本文本对应的标注信息相反。继续以输入为影评举例，样本文本对应的标注信息为正面评价。那么，当候选文本对应的文本处理结果信息为负面评价时，可以认为与样本文本对应的标注信息相反。当然，根据实际需要，也可以设置其他的预设条件，以控制对抗样本生成的方向。
实践中，作为示例，可以通过控制稳定分布满足以下公式(2)，以实现对于对抗样本向着更具攻击性的方向生成：
其中，LM(x)为样本文本x出现的概率。为将样本文本x对应的采样样本输入文本处理模型，得到的文本处理结果信息为的非归一化概率。其中，为与样本文本对应的标注信息y不同的文本处理结果信息。正比于LM(x)与的乘积。
在一些可选的实现方式中，对于该样本文本中的词，当采用换词的方式得到采样样本时，作为示例，可以采用以下方式得到
其中，wn为样本文本中第n个词；为替换词集合；n为样本文本中词的总数；m表示当前更改的词为文本中第m个词。wc为用于替换样本文本中第m个词的词。
当采用增词的方式得到采样样本时，由于增词可以分为两步：第一步，***占位词；第二步，对占位词进行换词。因而，可以采用与换词类似的方法得到
其中，为目标词库，作为示例，目标词库通过以下步骤得到：
基于LM对初始词库进行筛选，得到目标词库。
以换词为例，对于样本文本中的某个词，可以通过LM得到初始词库中的各个词替换样本文本中的词后，得到的文本出现的概率。在此基础上，可以按照出现的概率由高到底的顺序，选取预设数量的词作为样本文本中的词对应的目标词库。与初始词库中的词的数量相比，目标词库中的词的数量大大减少，从而可以减少计算量，提高运算速度。类似的，对于增词，也可以得到目标词库。
作为示例，可以通过以下公式计算(替换)词w替换样本文本x中的词后，得到的文本出现的概率SB(ω|x)：
SB(w|x)＝LM(w|x[1：m-1])·LMb(w|x[m+1：n])
其中，LM(ω|x[1：m-1])为：已知w之前所有的词的情况下，w选初始词库中的每个词的概率。
LMb(ω|x[m+1：n])为：已知w之后所有的词的情况下，w选初始词库中的每个词的概率。
上述实现方式中，由于对抗样本的生成利用了文本处理结果信息，但是文本处理模型的结构信息的未知，对外呈现黑盒状态。因而可以认为是在黑盒状态下生成的对抗样本。
在一些可选的实现方式中，如果可以获取到文本处理模型的梯度信息，文本处理模型对外呈现白盒状态。因而可以认为是在白盒状态下生成的对抗样本。具体的，可以通过以下公式计算某个(替换)词w替换样本文本x中的词后，得到的文本出现的概率SW(ω|x)：
为对应的损失函数。
em和e为当前词wm和替换词w的词向量。从而可以使对抗样本朝着梯度下降更快的方向生成。
在一些可选的实现方式中，若该候选文本对应的文本处理结果信息不满足预设条件，将该样本文本对应的候选文本作为样本文本，继续执行生成步骤。
继续参见图3，图3是根据本公开的一些实施例的对抗样本生成方法的应用场景的一个示意图。在图3的应用场景中，对抗样本生成方法的执行主体可以对于训练样本集中的训练样本，执行以下生成步骤。以其中一个训练样本为为例。该训练样本的样本文本为“ireally like this movie”，即我很喜欢这部电影。其对应的标注信息为“99％positive”，即有99％的概率为正面评论。在此基础上，上述执行主体可以首先生成该样本文本对应的候选文本“i truely like this movie”。将该候选文本输入文本处理模型(文本情感倾向分类模型)，得到文本情感倾向分类信息“82％positive”，即有82％的概率为正面评论。可选的，可以将该候选文本作为样本文本，继续执行生成步骤。从而依次得到候选文本“itruely like the movie”、“we truely like the movie”、“we truely like the show”。其对应的文本情感倾向分类信息分别如图所示。对于候选文本“we truely like theshow”，其对应的文本情感倾向分类信息为“59％negative”，即有59％的概率为负面评论。在本应用场景下，预设条件可以是候选文本对应的文本处理结果信息与样本文本对应的标注信息相反。由于候选文本“we truely like the show”满足预设条件，因而可以将该候选文本“we truely like the show”以及该候选文本对应的文本情感倾向分类信息“negative”确定为对抗样本。
本公开的一些实施例提供的对抗样本生成方法通过生成样本文本的候选文本，以及将候选文本输入文本处理模型，得到文本处理结果信息。在此基础上，若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。其中，通过控制预设条件，可以控制对抗样本向着期望的方向生成。例如，控制预设条件使得候选文本对应的文本处理结果信息与样本文本对应的标注信息不同，甚至相反。可以使得对抗样本向更具攻击性的方向生成。
进一步参考图4，其示出了对抗样本生成方法的另一些实施例的流程400。该对抗样本生成方法的流程400，包括对于训练样本集中的训练样本，执行以下生成步骤：
步骤401，生成该样本文本对应的候选文本。
步骤402，将该候选文本输入文本处理模型，得到文本处理结果信息。
步骤403，若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。
在一些实施例中，步骤401-403的具体实现以及所带来的技术效果可以参考图2对应的实施例，在此不再赘述。
步骤404，将生成的对抗样本与训练样本集的合集确定为新的训练样本集。
步骤405，基于新的训练样本集对文本处理模型进行训练。
在一些实施例中，执行主体可以基于新的训练样本集采用各种模型训练方法对文本处理模型进行训练。例如，可以将从新的训练样本集中选取训练样本，将该训练样本的样本文本作为文本处理模型的输入，将该训练样本的标注信息作为文本处理模型的期望输出，对文本处理模型进行训练。作为示例，可以基于损失函数计算文本处理模型的实际输出与期望输出的差异。然后对文本处理模型的参数进行调节。在此基础上，选取新的训练样本对调整参数后的文本处理模型继续训练，直至文本处理模型满足要求。
从图4中可以看出，与图2对应的一些实施例的描述相比，图4对应的一些实施例中的对抗样本生成方法的流程400增加了基于包括对抗样本的新的训练样本集对文本处理模型进行训练的步骤。经测试，训练后的文本处理模型的鲁棒性和准确率都得到了提升。以单层的LSTM作为文本处理模型，训练样本集为IMDB为例，利用包括在黑盒状态下生成的对抗样本的新的训练样本集进行训练后，被攻击成功的概率为93％。进一步的，利用包括在白盒状态下生成的对抗样本的新的训练样本集进行训练后，被攻击成功的概率为92.4％。而没有经过对抗训练的文本处理模型，其被攻击成功的概率为98.7％。可见，经过对抗训练的文本处理模型的鲁棒性得到了显著的提升。此外，进一步测试其准确性，分别测试其经过1万、3万、10万次迭代后的准确率，未经对抗训练的文本处理模型识别的准确性分别为58.8％、65.8％、73.0％。利用包括在白盒状态下生成的对抗样本的新的训练样本集进行训练后，准确率分别60％、66.9％、73.5％，准确率得到了显著的提高。
进一步参考图5，作为对上述各图所示方法的实现，本公开提供了一种对抗样本生成装置的一些实施例，这些装置实施例与图2所示的那些方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图5所示，一些实施例的对抗样本生成装置500包括：执行单元501，执行单元501包括以下子单元：生成子单元502、文本处理结果信息生成子单元503和第一确定子单元504。其中，执行单元501被配置成对于训练样本集中的训练样本，利用所包括的子单元进行对抗样本的生成，其中，训练样本包括样本文本和该样本文本对应的标注信息。生成子单元502被配置成生成该样本文本对应的候选文本。文本处理结果信息生成子单元503被配置成将该候选文本输入文本处理模型，得到文本处理结果信息。第一确定子单元504被配置成若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。
在一些实施例中，上述执行单元501、生成子单元502、文本处理结果信息生成子单元503和第一确定子单元504具体实现及其所带来的技术效果可以参考图2对应的一些实施例中的步骤201-203，在此不再赘述。
在一些可选的实现方式中，生成子单元502可以进一步被配置成：基于马尔科夫链蒙特卡罗MCMC采样方法以及语言模型LM生成该样本文本对应的候选文本。
在一些可选的实现方式中，执行单元501可以进一步被配置成：若该候选文本对应的文本处理结果信息不满足预设条件，将该样本文本对应的候选文本作为样本文本，继续执行生成步骤。
在一些可选的实现方式中，装置500还可以包括：第二确定单元(图中未示出)和训练单元(图中未示出)。其中，第二确定单元(图中未示出)被配置成将生成的对抗样本与训练样本集的合集确定为新的训练样本集。训练单元(图中未示出)被配置成基于新的训练样本集对文本处理模型进行训练。
在一些可选的实现方式中，生成子单元502进一步被配置成：对该样本文本进行删词，或从目标词库中选取至少一个词加入该样本文本；或从目标词库中选取词替换该样本文本中的词，得到该样本文本对应的候选文本。
在一些可选的实现方式中，目标词库通过以下步骤得到：对于该样本文本中的词，基于LM对初始词库进行筛选，得到目标词库。
在一些实施例中，生成子单元502生成样本文本的候选文本，文本处理结果信息生成子单元503将候选文本输入文本处理模型，得到文本处理结果信息。在此基础上，若该候选文本对应的文本处理结果信息满足预设条件，第一确定子单元504将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。其中，通过控制预设条件，可以控制对抗样本向着期望的方向生成。例如，控制预设条件使得候选文本对应的文本处理结果信息与样本文本对应的标注信息不同，甚至相反。可以使得对抗样本向更具攻击性的方向生成。
下面参考图6，其示出了适于用来实现本公开的一些实施例的电子设备(例如图1中的服务器)600的结构示意图。图6示出的服务器仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。
如图6所示，电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常，以下装置可以连接至I/O接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。
特别地，根据本公开的一些实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的一些实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从ROM 602被安装。在该计算机程序被处理装置601执行时，执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是，本公开的一些实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：对于训练样本集中的训练样本，执行以下生成步骤，其中，训练样本包括样本文本和该样本文本对应的标注信息：生成该样本文本对应的候选文本；将该候选文本输入文本处理模型，得到文本处理结果信息；若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括执行单元、生成子单元、文本处理结果信息生成子单元和第一确定子单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，生成子单元还可以被描述为“生成该样本文本对应的候选文本的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上***(SOC)、复杂可编程逻辑设备(CPLD)等等。
根据本公开的一个或多个实施例，提供了一种对抗样本生成方法，包括：对于训练样本集中的训练样本，执行以下生成步骤，其中，训练样本包括样本文本和该样本文本对应的标注信息：生成该样本文本对应的候选文本；将该候选文本输入文本处理模型，得到文本处理结果信息；若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。
根据本公开的一个或多个实施例，基于马尔科夫链蒙特卡罗MCMC采样方法以及语言模型LM生成该样本文本对应的候选文本。
根据本公开的一个或多个实施例，该方法还包括：若该候选文本对应的文本处理结果信息不满足预设条件，将该样本文本对应的候选文本作为样本文本，继续执行生成步骤。
根据本公开的一个或多个实施例，该方法还包括：将生成的对抗样本与训练样本集的合集确定为新的训练样本集；基于新的训练样本集对文本处理模型进行训练。
根据本公开的一个或多个实施例，基于马尔科夫链蒙特卡罗MCMC采样方法以及语言模型LM生成该样本文本对应的候选文本，包括：对该样本文本进行删词，或从目标词库中选取至少一个词加入该样本文本；或从目标词库中选取词替换该样本文本中的词，得到该样本文本对应的候选文本。
根据本公开的一个或多个实施例，目标词库通过以下步骤得到：对于该样本文本中的词，基于LM对初始词库进行筛选，得到目标词库。
根据本公开的一个或多个实施例，提供了一种对抗样本生成装置，包括：执行单元，被配置成对于训练样本集中的训练样本，利用所包括的子单元进行对抗样本的生成，其中，训练样本包括样本文本和该样本文本对应的标注信息，执行单元包括以下子单元：生成子单元，被配置成生成该样本文本对应的候选文本；文本处理结果信息生成子单元，被配置成将该候选文本输入文本处理模型，得到文本处理结果信息；第一确定子单元，被配置成若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。
根据本公开的一个或多个实施例，生成子单元进一步被配置成：基于马尔科夫链蒙特卡罗MCMC采样方法以及语言模型LM生成该样本文本对应的候选文本。
根据本公开的一个或多个实施例，执行单元进一步被配置成：若该候选文本对应的文本处理结果信息不满足预设条件，将该样本文本对应的候选文本作为样本文本，继续执行生成步骤。
根据本公开的一个或多个实施例，装置还包括：第二确定单元，被配置成将生成的对抗样本与训练样本集的合集确定为新的训练样本集；训练单元，被配置成基于新的训练样本集对文本处理模型进行训练。
根据本公开的一个或多个实施例，生成子单元进一步被配置成：对该样本文本进行删词，或从目标词库中选取至少一个词加入该样本文本；或从目标词库中选取词替换该样本文本中的词，得到该样本文本对应的候选文本。
根据本公开的一个或多个实施例，目标词库通过以下步骤得到：对于该样本文本中的词，基于LM对初始词库进行筛选，得到目标词库。
根据本公开的一个或多个实施例，提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上述任一实施例描述的方法。
根据本公开的一个或多个实施例，提供了一种计算机可读介质，其上存储有计算机程序，其中，程序被处理器执行时实现如上述任一实施例描述的方法。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (14)

1.一种对抗样本生成方法，包括：
对于训练样本集中的训练样本，执行以下生成步骤，其中，训练样本包括样本文本和该样本文本对应的标注信息：
生成该样本文本对应的候选文本；
将该候选文本输入文本处理模型，得到文本处理结果信息；
若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。
2.根据权利要求1所述的方法，其中，所述生成该样本文本对应的候选文本，包括：
基于马尔科夫链蒙特卡罗MCMC采样方法以及语言模型LM生成该样本文本对应的候选文本。
3.根据权利要求1所述的方法，其中，所述方法还包括：
若该候选文本对应的文本处理结果信息不满足预设条件，将该样本文本对应的候选文本作为样本文本，继续执行所述生成步骤。
4.根据权利要求1所述的方法，其中，所述方法还包括：
将生成的对抗样本与所述训练样本集的合集确定为新的训练样本集；
基于所述新的训练样本集对所述文本处理模型进行训练。
5.根据权利要求2所述的方法，其中，所述基于马尔科夫链蒙特卡罗MCMC采样方法以及语言模型LM生成该样本文本对应的候选文本，包括：
对该样本文本进行删词，或
从目标词库中选取至少一个词加入该样本文本；或
从目标词库中选取词替换该样本文本中的词，得到该样本文本对应的候选文本。
6.根据权利要求5所述的方法，其中，所述目标词库通过以下步骤得到：
对于该样本文本中的词，基于所述LM对初始词库进行筛选，得到所述目标词库。
7.一种对抗样本生成装置，包括：
执行单元，被配置成对于训练样本集中的训练样本，利用所包括的子单元进行对抗样本的生成，其中，训练样本包括样本文本和该样本文本对应的标注信息，所述执行单元包括以下子单元：
生成子单元，被配置成生成该样本文本对应的候选文本；
文本处理结果信息生成子单元，被配置成将该候选文本输入文本处理模型，得到文本处理结果信息；
第一确定子单元，被配置成若该候选文本对应的文本处理结果信息满足预设条件，将该候选文本以及该候选文本对应的文本处理结果信息确定为对抗样本。
8.根据权利要求7所述的装置，其中，所述生成子单元进一步被配置成：
基于马尔科夫链蒙特卡罗MCMC采样方法以及语言模型LM生成该样本文本对应的候选文本。
9.根据权利要求7所述的装置，其中，所述执行单元进一步被配置成：
若该候选文本对应的文本处理结果信息不满足预设条件，将该样本文本对应的候选文本作为样本文本，继续执行所述生成步骤。
10.根据权利要求7所述的装置，其中，所述装置还包括：
第二确定单元，被配置成将生成的对抗样本与所述训练样本集的合集确定为新的训练样本集；
训练单元，被配置成基于所述新的训练样本集对所述文本处理模型进行训练。
11.根据权利要求8所述的装置，其中，所述生成子单元进一步被配置成：
对该样本文本进行删词，或
从目标词库中选取至少一个词加入该样本文本；或
从目标词库中选取词替换该样本文本中的词，得到该样本文本对应的候选文本。
12.根据权利要求11所述的装置，其中，所述目标词库通过以下步骤得到：
对于该样本文本中的词，基于所述LM对初始词库进行筛选，得到所述目标词库。
13.一种电子设备，包括：
一个或多个处理器；
存储装置，其上存储有一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
14.一种计算机可读介质，其上存储有计算机程序，其中，所述程序被处理器执行时实现如权利要求1-6中任一所述的方法。
CN201910684104.1A 2019-07-26 2019-07-26 对抗样本生成方法、装置、电子设备和计算机可读介质 Pending CN110378474A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910684104.1A CN110378474A (zh) 2019-07-26 2019-07-26 对抗样本生成方法、装置、电子设备和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910684104.1A CN110378474A (zh) 2019-07-26 2019-07-26 对抗样本生成方法、装置、电子设备和计算机可读介质

Publications (1)

Publication Number Publication Date
CN110378474A true CN110378474A (zh) 2019-10-25

Family

ID=68256547

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910684104.1A Pending CN110378474A (zh) 2019-07-26 2019-07-26 对抗样本生成方法、装置、电子设备和计算机可读介质

Country Status (1)

Country Link
CN (1) CN110378474A (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111046176A (zh) * 2019-11-25 2020-04-21 百度在线网络技术（北京）有限公司 对抗样本生成方法、装置、电子设备及存储介质
CN111078892A (zh) * 2019-11-25 2020-04-28 百度在线网络技术（北京）有限公司 对抗样本生成方法、装置、电子设备及存储介质
CN111241287A (zh) * 2020-01-16 2020-06-05 支付宝(杭州)信息技术有限公司 用于生成对抗文本的生成模型的训练方法及装置
CN111292766A (zh) * 2020-02-07 2020-06-16 北京字节跳动网络技术有限公司 用于生成语音样本的方法、装置、电子设备和介质
CN111783998A (zh) * 2020-06-30 2020-10-16 百度在线网络技术（北京）有限公司 一种违规账号识别模型训练方法、装置及电子设备
CN111783451A (zh) * 2020-06-30 2020-10-16 北京百度网讯科技有限公司 用于增强文本样本的方法和装置
CN112347699A (zh) * 2020-11-24 2021-02-09 北京圣涛平试验工程技术研究院有限责任公司 多智能体对抗神经网络训练方法及装置
CN112364641A (zh) * 2020-11-12 2021-02-12 北京中科闻歌科技股份有限公司 一种面向文本审核的中文对抗样本生成方法及装置
CN112380845A (zh) * 2021-01-15 2021-02-19 鹏城实验室 句子噪声设计方法、设备及计算机存储介质
CN112989764A (zh) * 2019-12-18 2021-06-18 北大方正集团有限公司 文本的生成方法、装置、设备以及存储介质
CN113283249A (zh) * 2020-02-19 2021-08-20 阿里巴巴集团控股有限公司 机器翻译方法、装置及计算机可读存储介质
CN113449097A (zh) * 2020-03-24 2021-09-28 百度在线网络技术（北京）有限公司 一种对抗样本的生成方法、装置、电子设备和存储介质
CN113642678A (zh) * 2021-10-12 2021-11-12 南京山猫齐动信息技术有限公司 一种对抗消息样本生成的方法、装置及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109036389A (zh) * 2018-08-28 2018-12-18 出门问问信息科技有限公司 一种对抗样本的生成方法及装置
CN109117482A (zh) * 2018-09-17 2019-01-01 武汉大学 一种面向中文文本情感倾向性检测的对抗样本生成方法
CN109829164A (zh) * 2019-02-01 2019-05-31 北京字节跳动网络技术有限公司 用于生成文本的方法和装置
CN109934253A (zh) * 2019-01-08 2019-06-25 阿里巴巴集团控股有限公司 一种对抗样本生成方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109036389A (zh) * 2018-08-28 2018-12-18 出门问问信息科技有限公司 一种对抗样本的生成方法及装置
CN109117482A (zh) * 2018-09-17 2019-01-01 武汉大学 一种面向中文文本情感倾向性检测的对抗样本生成方法
CN109934253A (zh) * 2019-01-08 2019-06-25 阿里巴巴集团控股有限公司 一种对抗样本生成方法及装置
CN109829164A (zh) * 2019-02-01 2019-05-31 北京字节跳动网络技术有限公司 用于生成文本的方法和装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
BRENT HARRISON，ET AL.: "Toward Automated Story Generation with Markov Chain Monte Carlo Methods and Deep Neural Networks", 《PROCEEDINGS OF THE AAAI CONFERENCE ON ARTFICIAL INTELLIGENCE AND INTERACTIVE DIGITAL ENTERTAINMENT》 *
NING MIAO，ET AL.: "CGMH: Constrained Sentence Generation by Metropolis-Hastings Sampling", 《ARXIV》 *
SURANJANA SAMANTA，ET AL.: "Towards Crafting Text Adversarial Samples", 《ARXIV》 *

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111078892A (zh) * 2019-11-25 2020-04-28 百度在线网络技术（北京）有限公司 对抗样本生成方法、装置、电子设备及存储介质
CN111078892B (zh) * 2019-11-25 2023-05-23 百度在线网络技术（北京）有限公司 对抗样本生成方法、装置、电子设备及存储介质
CN111046176B (zh) * 2019-11-25 2023-04-07 百度在线网络技术（北京）有限公司 对抗样本生成方法、装置、电子设备及存储介质
CN111046176A (zh) * 2019-11-25 2020-04-21 百度在线网络技术（北京）有限公司 对抗样本生成方法、装置、电子设备及存储介质
CN112989764A (zh) * 2019-12-18 2021-06-18 北大方正集团有限公司 文本的生成方法、装置、设备以及存储介质
CN111241287A (zh) * 2020-01-16 2020-06-05 支付宝(杭州)信息技术有限公司 用于生成对抗文本的生成模型的训练方法及装置
CN111292766A (zh) * 2020-02-07 2020-06-16 北京字节跳动网络技术有限公司 用于生成语音样本的方法、装置、电子设备和介质
CN111292766B (zh) * 2020-02-07 2023-08-08 抖音视界有限公司 用于生成语音样本的方法、装置、电子设备和介质
CN113283249A (zh) * 2020-02-19 2021-08-20 阿里巴巴集团控股有限公司 机器翻译方法、装置及计算机可读存储介质
CN113449097A (zh) * 2020-03-24 2021-09-28 百度在线网络技术（北京）有限公司 一种对抗样本的生成方法、装置、电子设备和存储介质
CN113449097B (zh) * 2020-03-24 2024-07-12 百度在线网络技术（北京）有限公司 一种对抗样本的生成方法、装置、电子设备和存储介质
CN111783451A (zh) * 2020-06-30 2020-10-16 北京百度网讯科技有限公司 用于增强文本样本的方法和装置
CN111783998A (zh) * 2020-06-30 2020-10-16 百度在线网络技术（北京）有限公司 一种违规账号识别模型训练方法、装置及电子设备
CN111783998B (zh) * 2020-06-30 2023-08-11 百度在线网络技术（北京）有限公司 一种违规账号识别模型训练方法、装置及电子设备
CN111783451B (zh) * 2020-06-30 2024-07-02 不亦乐乎有朋(北京)科技有限公司 用于增强文本样本的方法和装置
CN112364641A (zh) * 2020-11-12 2021-02-12 北京中科闻歌科技股份有限公司 一种面向文本审核的中文对抗样本生成方法及装置
CN112347699A (zh) * 2020-11-24 2021-02-09 北京圣涛平试验工程技术研究院有限责任公司 多智能体对抗神经网络训练方法及装置
CN112380845A (zh) * 2021-01-15 2021-02-19 鹏城实验室 句子噪声设计方法、设备及计算机存储介质
CN113642678A (zh) * 2021-10-12 2021-11-12 南京山猫齐动信息技术有限公司 一种对抗消息样本生成的方法、装置及存储介质
CN113642678B (zh) * 2021-10-12 2022-01-07 南京山猫齐动信息技术有限公司 一种对抗消息样本生成的方法、装置及存储介质

Similar Documents

Publication Publication Date Title
CN110378474A (zh) 对抗样本生成方法、装置、电子设备和计算机可读介质
CN110688528B (zh) 生成视频的分类信息的方法、装置、电子设备和介质
JP2021096813A (ja) データ処理方法及び装置
WO2020182123A1 (zh) 用于推送语句的方法和装置
JP7354463B2 (ja) データ保護方法、装置、サーバ及び媒体
CN109829432A (zh) 用于生成信息的方法和装置
CN111625645B (zh) 文本生成模型的训练方法、装置和电子设备
CN108182472A (zh) 用于生成信息的方法和装置
CN110413742A (zh) 简历信息的查重方法、装置、设备及存储介质
CN109495552A (zh) 用于更新点击率预测模型的方法和装置
CN109902446A (zh) 用于生成信息预测模型的方法和装置
CN109981787A (zh) 用于展示信息的方法和装置
WO2024099342A1 (zh) 翻译方法、装置、可读介质及电子设备
CN109543068A (zh) 用于生成视频的评论信息的方法和装置
CN110097004B (zh) 面部表情识别方法和装置
CN115471307A (zh) 基于知识图谱的审计评估信息生成方法、装置和电子设备
US20240118984A1 (en) Prediction method and apparatus for faulty gpu, electronic device and storage medium
CN112381074B (zh) 图像识别方法、装置、电子设备和计算机可读介质
CN110321705A (zh) 用于生成模型的方法、装置和用于检测文件的方法、装置
WO2023125000A1 (zh) 内容输出方法、装置、计算机可读介质及电子设备
CN109657073A (zh) 用于生成信息的方法和装置
CN112464654B (zh) 关键词生成方法、装置、电子设备和计算机可读介质
CN108810105A (zh) 用于推送信息、显示信息的方法和设备
CN111581455B (zh) 文本生成模型的生成方法、装置和电子设备
CN111949860B (zh) 用于生成相关度确定模型的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20191025

RJ01 Rejection of invention patent application after publication