CN114091554A - 一种训练集处理方法和装置 - Google Patents

Abstract

本申请公开了人工智能领域的一种训练集处理方法，用于通过提取训练集的主分量训练神经网络，可以使用更鲁棒的特征来进行神经网络的训练，从而在不降低神经网络的输出准确率的基础上，提升得到的神经网络的鲁棒性。该方法包括：首先，获取第一训练集的基和离散序列，离散序列包括与基中的每个基向量一一对应的离散值，离散序列用于表示基的离散程度；然后，获取每个样本在每个基向量上的分量值，以得到多组第一编码数据；随后，获取每组第一编码数据中的主分量，得到多组第二编码数据，主分量对应的离散值高于预设离散值；根据多组第二编码数据进行映射，得到新的样本，以组成第二训练集，第二训练集用于训练神经网络。

Description

一种训练集处理方法和装置

技术领域

本申请涉及人工智能领域，尤其涉及一种训练集处理方法和装置。

背景技术

在人工智能领域中，神经网络近年来在计算机视觉、自然语言处理、网络安全等任务中的一系列突破，展现了智能时代的全新可能。然而神经网络普遍存在难以解释的对对抗样本的脆弱性，其有可能被加在其输入数据上的非常微小但精心设计的噪声所欺骗而得出错误的结果，这种精心构造的样本被称为对抗样本。

面对对抗具有脆弱性的人工智能***显然无法使用于安全要求高的领域如医疗，智能驾驶等领域。因此分析导致人工神经网络脆弱的因素，获得具有对抗鲁棒性的人工神经网络至关重要。在现有方案中，可以在原样本的基础上增加较多的对抗样本，将原样本和对抗样本都加入训练集中进行训练，从而使训练得到的神经网络可以识别出对抗样本中的扰动。然而，对抗训练的效果受模型的影响较大，可能针对不同的模型产生了完全不同的效果，且对抗训练需要在训练过程中不断产生对抗样本，大大降低了训练效率，且可能造成训练得到的神经网络的输出准确率下降，即降低了神经网络的鲁棒性。因此，如何得到鲁棒性更优的神经网络，成为亟待解决的问题。

发明内容

本申请提供一种训练集处理方法，用于通过提取训练集的主分量训练神经网络，可以使用更鲁棒的特征来进行神经网络的训练，从而在不降低神经网络的输出准确率的基础上，提升得到的神经网络的鲁棒性。

有鉴于此，第一方面，本申请提供一种训练集处理方法，包括：首先，根据第一训练集进行分解，得到第一训练集的基和该基的离散序列，该第一训练集中包括多个样本，该第一训练集的基可以理解为多个方向的数据组成的空间，该基中包括至少一个基向量，离散序列包括与基中的每个基向量一一对应的离散值，离散序列可以用于表示基的离散程度；然后，获取第一训练集中的每个样本在每个基向量上的分量值，得到多组第一编码数据，其中，每组第一编码数据对应一个样本，每个样本在每个基向量中具有一个分量值，该第一编码数据中包括的每个基向量对应一个分量，第一编码数据包括的分量与至少一个基向量一一对应；获取多组第一编码数据中的每组第一编码数据中的主分量，得到多组第二编码数据，主分量的离散值高于预设离散值，或者说第一编码数据中的离散值高于预设值的分量组成了主分量；将该多组第二编码数据映射至第一训练集的，得到多组第二编码数据对应的新的样本，多组第二编码数据对应的样本组成第二训练集，第二训练集用于训练神经网络，从而得到鲁棒性更优的神经网络。

因此，在本申请实施方式中，在提取到每个样本在基中的第一编码数据中的主分量之后，得到降低了干扰之后的第二编码数据，可以根据第二编码数据得到新的样本，并使用新的样本进行神经网络训练。而新的样本中减少了除主要分量外的其他分量的干扰，从而使得训练得到的神经网络可以通过主分量进行训练，提高神经网络的鲁棒性。并且，本申请提供的数据集处理方法，针对训练集进行了处理，处理方式仅与训练集本身的主分量的分布有关，因此，即使在不同的场景中训练不同的模型，也可以使用本申请提供的训练集处理方法对训练集进行处理，泛化能力强，不依赖于被训练模型的通用算法，从而具有较高的通用性。

在一种可能的实施方式中，根据第一训练集获得所述第一训练集的基和所述基的离散序列，可以包括：对第一训练集进行主成分分析(principal component analysis，PCA)处理，得到正交基和正交基的离散序列。

通常，对第一训练集进行分解的方式可以有多种，如PCA处理或者稀疏编码等方式对第一训练集进行分解，从而得到第一训练集的基和离散序列，进而获取到第一训练集的每个样本的分量。

在一种可能的实施方式中，对第一训练集进行PCA处理，得到正交基和正交基的离散序列，可以包括：对第一训练集进行中心化处理，得到中心化后的第一训练集，中心化后的第一训练集包括的数据的均值为0；对中心化后的第一训练集进行PCA处理，得到正交基，以及正交基的离散序列，离散序列包括中心化后的第一训练集在正交基中的方差组成的序列。通常，离散序列所包括的方差呈递减排列，且离散序列所包括的方差按顺序和正交基中的基向量按顺序一一对应。

本申请实施方式中，可以对第一训练集进行中心化处理，得到中心化后的第一训练集，然后对中心化后的训练集进行PCA处理，从而完成对第一训练集的快速分析，得到正交基和正交基的离散序列。

在一种可能的实施方式中，获取第一训练集中的每个样本在基中的分量值，可以包括：通过预设算法，计算中心化后的第一训练集中的每个样本在正交基中的每个基向量上的分量值，得到多组第一编码数据。

本申请实施方式中，若对第一训练集进行PCA处理，相应地，可以基于PCA处理后的正交基计算每个样本在每个基向量上的分量值，从而得到第一编码数据。

在一种可能的实施方式中，预设算法包括内积运算或者稀疏编码运算。本申请实施方式中，可以通过内积运算或者稀疏编码运算计算每个样本在每个基向量上的分量值，实现了对每个样本在每个基向量上的投影。

在一种可能的实施方式中，获取每组第一编码数据中的主分量，得到多组第二编码数据，可以包括：保留每组第一编码数据中的主分量，将每组第一编码数据中除主分量外的其他分量替换为预设的值，得到多组第二编码数据，其中，每组第一编码数据的主分量组成至少一组第二编码数据。本申请实施方式中，可以将每组第一编码数据中除主分量外的其他分量替换为预设的值，从而使每组第一编码数据的分量可以组成一组或者多组第二编码数据。

在一种可能的实施方式中，预设的值包括0或者预设的噪声向量，预设的噪声向量包括高斯噪声或者均匀分布噪声。

因此，本申请实施方式中，可以将第一编码数据中除主分量以外的值替换为0或者预设的噪声向量，从而得到一组或者多组第二编码数据，以降低第一训练集中每个样本中除主分量以外的值对神经网络的训练的影响，提高最终得到的神经网络的鲁棒性。

在一种可能的实施方式中，预设的噪声向量与被换的分量的离散值成比例。因此，本申请实施方式中，替换的噪声向量与第一编码数据中原有的数据的分布方式类似，在降低了每个样本中除主分量以外的值对神经网络的训练的影响的基础上，降低对神经网络的训练的干扰，得到的神经网络的输出更准确。

第二方面，本申请提供一种训练集处理装置，包括：

分解单元，用于根据第一训练集获得第一训练集的基和该基的离散序列，第一训练集中包括多个样本，基中包括至少一个基向量，离散程度包括与基中的每个基向量一一对应的离散值，离散序列用于表示基的离散程度；

获取单元，用于获取第一训练集中的每个样本在基中的分量值，得到多组第一编码数据，每组第一编码数据对应一个样本；

获取单元，还用于获取多组第一编码数据中的每组第一编码数据中的主分量，得到多组第二编码数据，主分量的离散值高于预设离散值；

映射单元，用于将多组第二编码数据映射至第一训练集的基，得到多组第二编码数据对应的样本，多组第二编码数据对应的样本组成第二训练集，第二训练集用于训练神经网络。

第二方面及第二方面任一种可能的实施方式产生的有益效果可参照第一方面及第一方面任一种可能实施方式的描述。

在一种可能的实施方式中，基为正交基，分解单元，具体用于对第一训练集进行主成分分析PCA处理，得到正交基和正交基的离散序列。

在一种可能的实施方式中，分解单元，具体用于：对第一训练集进行中心化处理，得到中心化后的第一训练集，中心化后的第一训练集包括的数据的均值为0；对中心化后的第一训练集进行PCA处理，得到正交基，以及正交基的离散序列，离散序列包括中心化后的第一训练集在正交基中的方差组成的序列。

在一种可能的实施方式中，分解单元，具体用于通过预设算法，计算中心化后的第一训练集中的每个样本在正交基中的每个基向量上的分量值，得到多组第一编码数据。

在一种可能的实施方式中，预设算法包括内积运算或者稀疏编码运算。

在一种可能的实施方式中，获取单元，具体用于保留每组第一编码数据中的主分量，将每组第一编码数据中除主分量外的其他分量替换为预设的值，得到多组第二编码数据，其中，每组第一编码数据的主分量组成至少一组第二编码数据。

在一种可能的实施方式中，预设的值包括0或者预设的噪声向量，预设的噪声向量包括高斯噪声或者均匀分布噪声。

在一种可能的实施方式中，预设的噪声向量与被替换的分量的离散值成比例。

第三方面，本申请实施例提供一种训练集处理装置，该训练集处理装置具有实现上述第一方面训练集处理方法的功能。该功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。

第四方面，本申请实施例提供一种训练集处理装置，包括：处理器和存储器，其中，处理器和存储器通过线路互联，处理器调用存储器中的程序代码用于执行上述第一方面任一项所示的训练集处理方法中与处理相关的功能。可选地，该训练集处理装置可以是芯片。

第五方面，本申请实施例提供了一种训练集处理装置，该训练集处理装置也可以称为数字处理芯片或者芯片，芯片包括处理单元和通信接口，处理单元通过通信接口获取程序指令，程序指令被处理单元执行，处理单元用于执行如上述第一方面或第一方面任一可选实施方式中与处理相关的功能。

第六方面，本申请实施例提供了一种计算机可读存储介质，包括指令，当其在计算机上运行时，使得计算机执行上述第一方面或第一方面任一可选实施方式中的方法。

第七方面，本申请实施例提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述第一方面或第一方面任一可选实施方式中的方法。

附图说明

图1本申请应用的一种人工智能主体框架示意图；

图2本申请提供的一种***架构示意图；

图3为本申请实施例提供的一种卷积神经网络结构示意图；

图4为本申请实施例提供的另一种卷积神经网络结构示意图；

图5本申请提供的另一种***架构示意图；

图6为本申请实施例提供的一种训练集处理方法的流程示意图；

图7为本申请实施例提供的一种对抗样本的示意图；

图8为本申请提供的一种训练集处理装置的一种结构示意图；

图9为本申请提供的一种训练集处理装置的另一种结构示意图；

图10为本申请实施例提供的一种芯片的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请提供的训练集处理方法可以应用于人工智能(artificial intelligence,AI)场景中。AI是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用***。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。人工智能领域的研究包括机器人，自然语言处理，计算机视觉，决策与推理，人机交互，推荐与搜索，AI基础理论等。

图1示出一种人工智能主体框架示意图，该主体框架描述了人工智能***总体工作流程，适用于通用的人工智能领域需求。

下面从“智能信息链”(水平轴)和“IT价值链”(垂直轴)两个维度对上述人工智能主题框架进行阐述。

“智能信息链”反映从数据的获取到处理的一列过程。举例来说，可以是智能信息感知、智能信息表示与形成、智能推理、智能决策、智能执行与输出的一般过程。在这个过程中，数据经历了“数据—信息—知识—智慧”的凝练过程。

“IT价值链”从人智能的底层基础设施、信息(提供和处理技术实现)到***的产业生态过程，反映人工智能为信息技术产业带来的价值。

(1)基础设施：

基础设施为人工智能***提供计算能力支持，实现与外部世界的沟通，并通过基础平台实现支撑。通过传感器与外部沟通；计算能力由智能芯片，如中央处理器(centralprocessing unit，CPU)、网络处理器(neural-network processing unit，NPU)、图形处理器(英语： graphics processing unit，GPU)、专用集成电路(application specificintegrated circuit,ASIC)或现场可编程逻辑门阵列(field programmable gate array，FPGA)等硬件加速芯片)提供；基础平台包括分布式计算框架及网络等相关的平台保障和支持，可以包括云存储和计算、互联互通网络等。举例来说，传感器和外部沟通获取数据，这些数据提供给基础平台提供的分布式计算***中的智能芯片进行计算。

(2)数据

基础设施的上一层的数据用于表示人工智能领域的数据来源。数据涉及到图形、图像、语音、视频、文本，还涉及到传统设备的物联网数据，包括已有***的业务数据以及力、位移、液位、温度、湿度等感知数据。

(3)数据处理

数据处理通常包括数据训练，机器学习，深度学习，搜索，推理，决策等方式。

其中，机器学习和深度学习可以对数据进行符号化和形式化的智能信息建模、抽取、预处理、训练等。

推理是指在计算机或智能***中，模拟人类的智能推理方式，依据推理控制策略，利用形式化的信息进行机器思维和求解问题的过程，典型的功能是搜索与匹配。

决策是指智能信息经过推理后进行决策的过程，通常提供分类、排序、预测等功能。

(4)通用能力

对数据经过上面提到的数据处理后，进一步基于数据处理的结果可以形成一些通用的能力，比如可以是算法或者一个通用***，例如，翻译，文本的分析，计算机视觉的处理(如图像识别、目标检测等)，语音识别等等。

(5)智能产品及行业应用

智能产品及行业应用指人工智能***在各领域的产品和应用，是对人工智能整体解决方案的封装，将智能信息决策产品化、实现落地应用，其应用领域主要包括：智能制造、智能交通、智能家居、智能医疗、智能安防、自动驾驶，平安城市，智能终端等。

参见附图2，本申请实施例提供了一种***架构200。该***架构中包括数据库230、客户设备240。数据采集设备260用于采集数据并存入数据库230，构建模块202基于数据库 230中维护的数据生成目标模型/规则201。下面将更详细地描述构建模块202如何基于数据得到目标模型/规则201，目标模型/规则201即本申请以下实施方式中构建得到的神经网络，具体参阅以图6的相关描述。

计算模块可以包括构建模块202，构建模块202得到的目标模型/规则可以应用不同的***或设备中。在附图2中，执行设备210配置收发器212，该收发器212可以是无线收发器、光收发器或有线接口(如I/O接口)等，与外部设备进行数据交互，“用户”可以通过客户设备240向收发器212输入数据，例如，本申请以下实施方式，客户设备240可以向执行设备210发送目标任务，请求执行设备构建神经网络，并向执行设备210发送用于训练的数据库。

执行设备210可以调用数据存储***250中的数据、代码等，也可以将数据、指令等存入数据存储***250中。

计算模块211使用目标模型/规则201对输入的数据进行处理。具体地，计算模块211用于：首先，获取第一训练集，该第一训练集中包括多个样本；然后，根据第一训练集得到第一训练集的基和基的离散序列，第一训练集中包括多个样本，基中包括至少一个基向量，离散序列包括与基中的每个基向量一一对应的离散值，该离散序列可以用于表示基的离散程度；获取第一训练集中的每个样本在每个基向量上的分量值，以得到多组第一编码数据，每组第一编码数据对应一个样本；获取多组第一编码数据中的每组第一编码数据中的主分量，得到多组第二编码数据，主分量的离散值高于预设离散值；将多组第二编码数据映射至第一训练集的基，得到多组第二编码数据对应的样本，多组第二编码数据对应的样本组成第二训练集，第二训练集用于训练神经网络。

最后，收发器212将构建得到的神经网络返回给客户设备240，以在客户设备240或者其他设备中部署该神经网络。

更深层地，构建模块202可以针对不同的任务，基于不同的数据得到相应的目标模型/规则201，以给用户提供更佳的结果。

在附图2中所示情况下，可以根据用户的输入数据确定输入执行设备210中的数据，例如，用户可以在收发器212提供的界面中操作。另一种情况下，客户设备240可以自动地向收发器212输入数据并获得结果，若客户设备240自动输入数据需要获得用户的授权，用户可以在客户设备240中设置相应权限。用户可以在客户设备240查看执行设备210输出的结果，具体的呈现形式可以是显示、声音、动作等具体方式。客户设备240也可以作为数据采集端将采集到与目标任务关联的数据存入数据库230。

需要说明的是，附图2仅是本申请实施例提供的一种***架构的示例性的示意图，图中所示设备、器件、模块等之间的位置关系不构成任何限制。例如，在附图2中，数据存储***250相对执行设备210是外部存储器，在其它场景中，也可以将数据存储***250置于执行设备210中。

在本申请所提及的训练或者更新过程可以由构建模块202来执行。可以理解的是，神经网络的训练过程即学习控制空间变换的方式，更具体即学习权重矩阵。训练神经网络的目的是使神经网络的输出尽可能接近期望值，因此可以通过比较当前网络的预测值和期望值，再根据两者之间的差异情况来更新神经网络中的每一层神经网络的权重向量(当然，在第一次更新之前通常可以先对权重向量进行初始化，即为深度神经网络中的各层预先配置参数)。例如，如果网络的预测值过高，则调整权重矩阵中的权重的值从而降低预测值，经过不断的调整，直到神经网络输出的值接近期望值或者等于期望值。具体地，可以通过损失函数(loss function)或目标函数(objective function)来衡量神经网络的预测值和期望值之间的差异。以损失函数举例，损失函数的输出值(loss)越高表示差异越大，神经网络的训练可以理解为尽可能缩小loss的过程。本申请以下实施方式中更新起点网络的权重以及对串行网络进行训练的过程可以参阅此过程，以下不再赘述。

本申请提及的神经网络可以包括多种类型，如深度神经网络(deep neuralnetwork，DNN)、卷积神经网络(convolutional neural network，CNN)、循环神经网络(recurrent neural networks，RNN)或残差网络其他神经网络等。

示例性地，下面以CNN为例。

CNN是一种带有卷积结构的深度神经网络。CNN是一种深度学***面(feature map)做卷积。卷积层是指卷积神经网络中对输入信号进行卷积处理的神经元层。在卷积神经网络的卷积层中，一个神经元可以只与部分邻层神经元连接。一个卷积层中，通常包含若干个特征平面，每个特征平面可以由一些矩形排列的神经单元组成。同一特征平面的神经单元共享权重，这里共享的权重就是卷积核。共享权重可以理解为提取图像信息的方式与位置无关。这其中隐含的原理是：图像的某一部分的统计信息与其他部分是一样的。即意味着在某一部分学习的图像信息也能用在另一部分上。所以对于图像上的所有位置，我们都能使用同样的学习得到的图像信息。在同一卷积层中，可以使用多个卷积核来提取不同的图像信息，一般地，卷积核数量越多，卷积操作反映的图像信息越丰富。

卷积核可以以随机大小的矩阵的形式初始化，在卷积神经网络的训练过程中卷积核可以通过学习得到合理的权重。另外，共享权重带来的直接好处是减少卷积神经网络各层之间的连接，同时又降低了过拟合的风险。

卷积神经网络可以采用误差反向传播(back propagation，BP)算法在训练过程中修正初始的超分辨率模型中参数的大小，使得超分辨率模型的重建误差损失越来越小。具体地，前向传递输入信号直至输出会产生误差损失，通过反向传播误差损失信息来更新初始的超分辨率模型中参数，从而使误差损失收敛。反向传播算法是以误差损失为主导的反向传播运动，旨在得到最优的超分辨率模型的参数，例如权重矩阵。

如图3所示，卷积神经网络(CNN)100可以包括输入层110，卷积层/池化层120，其中池化层为可选的，以及神经网络层130。

如图3所示卷积层/池化层120可以包括如示例121-126层，在一种实现中，121层为卷积层，122层为池化层，123层为卷积层，124层为池化层，125为卷积层，126为池化层；在另一种实现方式中，121、122为卷积层，123为池化层，124、125为卷积层，126为池化层。即卷积层的输出可以作为随后的池化层的输入，也可以作为另一个卷积层的输入以继续进行卷积操作。

以卷积层121为例，卷积层121可以包括很多个卷积算子，卷积算子也称为核，其在图像处理中的作用相当于一个从输入图像矩阵中提取特定信息的过滤器，卷积算子本质上可以是一个权重矩阵，这个权重矩阵通常被预先定义。在对图像进行卷积操作的过程中，权重矩阵通常在输入图像上沿着水平方向一个像素接着一个像素(或两个像素接着两个像素……这取决于步长stride的取值)的进行处理，从而完成从图像中提取特定特征的工作。该权重矩阵的大小应该与图像的大小相关。需要注意的是，权重矩阵的纵深维度(depthdimension) 和输入图像的纵深维度是相同的，在进行卷积运算的过程中，权重矩阵会延伸到输入图像的整个深度。因此，和一个单一的权重矩阵进行卷积会产生一个单一纵深维度的卷积化输出，但是大多数情况下不使用单一权重矩阵，而是应用维度相同的多个权重矩阵。每个权重矩阵的输出被堆叠起来形成卷积图像的纵深维度。不同的权重矩阵可以用来提取图像中不同的特征，例如一个权重矩阵用来提取图像边缘信息，另一个权重矩阵用来提取图像的特定颜色，又一个权重矩阵用来对图像中不需要的噪点进行模糊化等。该多个权重矩阵维度相同，经过该多个维度相同的权重矩阵提取后的特征图维度也相同，再将提取到的多个维度相同的特征图合并形成卷积运算的输出。

通常，权重矩阵中的权重值在实际应用中需要经过大量的训练得到，通过训练得到的权重值形成的各个权重矩阵可以从输入图像中提取信息，从而帮助卷积神经网络100进行正确的预测。

当卷积神经网络100有多个卷积层时，初始的卷积层(例如121)往往提取较多的一般特征，该一般特征也可以称之为低级别的特征；随着卷积神经网络100深度的加深，越往后的卷积层(例如126)提取到的特征越来越复杂，比如高级别的语义之类的特征，语义越高的特征越适用于待解决的问题。

池化层：

由于常常需要减少训练参数的数量，因此卷积层之后常常需要周期性的引入池化层，即如图3中120所示例的121-126各层，可以是一层卷积层后面跟一层池化层，也可以是多层卷积层后面接一层或多层池化层。在图像处理过程中，池化层的唯一目的就是减少图像的空间大小。池化层可以包括平均池化算子和/或最大池化算子，以用于对输入图像进行采样得到较小尺寸的图像。平均池化算子可以在特定范围内对图像中的像素值进行计算产生平均值。最大池化算子可以在特定范围内取该范围内值最大的像素作为最大池化的结果。另外，就像卷积层中用权重矩阵的大小应该与图像大小相关一样，池化层中的运算符也应该与图像的大小相关。通过池化层处理后输出的图像尺寸可以小于输入池化层的图像的尺寸，池化层输出的图像中每个像素点表示输入池化层的图像的对应子区域的平均值或最大值。

神经网络层130：

在经过卷积层/池化层120的处理后，卷积神经网络100还不足以输出所需要的输出信息。因为如前所述，卷积层/池化层120只会提取特征，并减少输入图像带来的参数。然而为了生成最终的输出信息(所需要的类信息或别的相关信息)，卷积神经网络100需要利用神经网络层130来生成一个或者一组所需要的类的数量的输出。因此，在神经网络层130中可以包括多层隐含层(如图3所示的131、132至13n)以及输出层140。在本申请中，该卷积神经网络为：对选取的起点网络进行至少一次变形得到串行网络，然后根据训练后的串行网络得到。该卷积神经网络可以用于图像识别，图像分类，图像超分辨率重建等等。

在神经网络层130中的多层隐含层之后，也就是整个卷积神经网络100的最后层为输出层140，该输出层140具有类似分类交叉熵的损失函数，具体用于计算预测误差，一旦整个卷积神经网络100的前向传播(如图3由110至140的传播为前向传播)完成，反向传播(如图3由140至110的传播为反向传播)就会开始更新前面提到的各层的权重值以及偏差，以减少卷积神经网络100的损失及卷积神经网络100通过输出层输出的结果和理想结果之间的误差。

需要说明的是，如图3所示的卷积神经网络100仅作为一种卷积神经网络的示例，在具体的应用中，卷积神经网络还可以以其他网络模型的形式存在，例如，如图4所示的多个卷积层/池化层并行，将分别提取的特征均输入给全神经网络层130进行处理。

参见附图5，本申请实施例还提供了一种***架构300。执行设备210由一个或多个服务器实现，可选的，与其它计算设备配合，例如：数据存储、路由器、负载均衡器等设备；执行设备210可以布置在一个物理站点上，或者分布在多个物理站点上。执行设备210可以使用数据存储***250中的数据，或者调用数据存储***250中的程序代码实现本申请以图 6对应的训练集处理方法的步骤。

用户可以操作各自的用户设备(例如本地设备301和本地设备302)与执行设备210进行交互。每个本地设备可以表示任何计算设备，例如个人计算机、计算机工作站、智能手机、平板电脑、智能摄像头、智能汽车或其他类型蜂窝电话、媒体消费设备、可穿戴设备、机顶盒、游戏机等。

每个用户的本地设备可以通过任何通信机制/通信标准的通信网络与执行设备210进行交互，通信网络可以是广域网、局域网、点对点连接等方式，或它们的任意组合。具体地，该通信网络可以包括无线网络、有线网络或者无线网络与有线网络的组合等。该无线网络包括但不限于：第五代移动通信技术(5th-Generation，5G)***，长期演进(long termevolution， LTE)***、全球移动通信***(global system for mobile communication，GSM)或码分多址(code division multiple access，CDMA)网络、宽带码分多址(widebandcode division multiple access，WCDMA)网络、无线保真(wireless fidelity，WiFi)、蓝牙(bluetooth)、紫蜂协议(Zigbee)、射频识别技术(radio frequency identification，RFID)、远程(Long Range，Lora)无线通信、近距离无线通信(near field communication，NFC)中的任意一种或多种的组合。该有线网络可以包括光纤通信网络或同轴电缆组成的网络等。

在另一种实现中，执行设备210的一个方面或多个方面可以由每个本地设备实现，例如，本地设备301可以为执行设备210提供本地数据或反馈计算结果。

需要注意的，执行设备210的所有功能也可以由本地设备实现。例如，本地设备301实现执行设备210的功能并为自己的用户提供服务，或者为本地设备302的用户提供服务。

在一些场景中，可以在原样本的基础上增加较多的对抗样本，将原样本和对抗样本都加入训练集中进行训练，从而使训练得到的神经网络可以识别出对抗样本中的扰动。然而，对抗训练的效果受模型的影响较大，可能针对不同的模型产生了完全不同的效果，且对抗训练需要在训练过程中不断产生对抗样本，大大降低了训练效率，且可能造成训练得到的神经网络的输出准确率下降，即降低了神经网络的鲁棒性。鲁棒性可以理解为神经网络在面对输入的微小变化能保持输出值不变的能力。或者，在另一些场景中，可以针对对抗样本进行去噪，在神经网络前添加一个去噪网络，通过梯度下降算法减小成对的对抗样本和原样本产生的顶层表示的差距，从而使去噪网络达到对抗鲁棒效果。然而，该去噪网络需要有针对性地添加，在不同的训练场景中可能需要设定不同的去噪网络，泛化能力弱，导致训练效率低。

通常，神经网络的脆弱性源于在进行神经网络的训练的过程中，更倾向于学习到哪些在数据分布流行之外的变化比较剧烈的函数，即神经网络主要依靠在线性空间中变化比较小，但同样包含可以用来分类的信息的那些分量施行分类，该分量即前述的除主分量外的分量。为便于理解，可以理解为，训练集的样本中所包括的主分量之外的其他分量，对神经网络的训练产生了较大影响，其往往具有较高的线性可分性而更容易由神经网络学得并泛化，这些主分量之外的其他分量影响神经网络的鲁棒性的主要原因，降低了神经网络的鲁棒性，该现象在以下称为梯度泄漏现象。

因此，本申请提供一种训练集处理方法，通过在训练之前，对训练集进行处理，提取每个样本的主分量，得到新的样本，组成第二训练集，该第二训练集中所包括的样本包括了原样本中的主分量，从而使通过第二训练集训练神经网络，可以提升神经网络的鲁棒性。

参阅图6，本申请提供的一种训练集处理方法的流程示意图，如下所述。

601、获取第一训练集的基和对应的离散序列。

其中，可以对第一训练集包括的所有数据进行分解，得到第一训练集的基和该基对应的离散序列，该第一训练集中包括多个样本，该基可以包括一个或者多个基向量，该离散序列用于表示基的离散程度，该离散序列可以包括与基中的每个基向量一一对应的离散值。

为便于理解，前述的基可以理解为空间，该空间中可以包括一个或者多个基向量，离散序列用于表示第一训练集所包括的数据在基中的分散程度。

应理解，第一训练集所包括的样本的类型，与需要训练的神经网络相关。例如，若需要训练分类网络，则第一训练集中可以包括大量的已进行分类的图像，若需要训练人脸识别网络，则第一训练集中可以包括大量的人脸图像等。

在一种可选的实施方式中，前述的离散值可以是方差、标准差或者极差等用于表示离散程度的值。下面示例性地，以方差来表示本申请实施例中的基的离散程度为例进行示例性说明，应理解，以下所提及的方差也可以替换为标准差或者极差等用于表示离散程度的值，以下不再赘述。

具体地，对第一训练集进行分解的方式可以有多种，如PCA或者稀疏编码算法等。

例如，可以通过稀疏编码算法对第一训练集进行分解。针对数据集X，解优化问题

s.t.||A_i||₂≤1其中A_i是A的第i列，S_i，X_i同理；||.||_p代表L_p范数，λ是正则项；从而得到X_i的稀疏编码S_i和字典矩阵(即基)A。

又例如，对第一训练集进行PCA处理，得到正交基和正交基对应的离散序列。PCA是对通过输入数据的协方差矩阵进行正交谱分解，以确定数据点之间主要变化的线性方向，从而实现维数缩减的算法。为便于理解，该PCA处理可以理解为对输入数据，即第一数据集的协方差矩阵进行正交谱分解以确定数据点之间主要变化的线性方向，从而实现降维的算法。为便于理解，下面示例性地，以对第一训练集进行PCA处理为例，对后续的步骤进行示例性说明。

在一种可能的实施方式中，前述的对第一训练集进行主成分分析PCA处理，得到正交基和正交基对应的离散序列，具体可以包括：对第一训练集进行中心化处理，得到中心化处理后的第一训练集。然后对中心化后的第一训练集进行PCA处理，得到正交基和该正交基对应的离散序列，该离散序列为包括了中心化后的第一训练集在正交基中的方差组成的序列，离散序列所包括的方差呈递减排列，且离散序列所包括的方差按顺序和正交基中的基向量按顺序一一对应。

前述的中心化处理可以理解为零均值化，即检测第一训练集所包括的所有数据的均值，在空间中平移第一训练集，如将第一训练集中的所有数据减均值，使第一训练集所包括的所有数据的均值为0，得到中心化后的第一训练集。

在一种可能的实施方式中，在计算得到每个基向量对应的离散值，即方差之后，可以对计算得到的方差进行排序，按照递减的顺序进行排列，得到离散序列。然后对正交基所包括的基向量进行排序，且正交基中的基向量的排列方式与离散序列中的排序方式对应。例如，正交基可以表示为{v_1,v_2,…,v_N}，离散序列可以表示为{λ_1,λ_2,…,λ_N}，基向量 v_1对应的方差为λ_1，基向量v_2对应的方差为λ_2等，以此类推。

当然，离散序列中的也可以按照其他方式进行排序，例如，可以按照递增的顺序排列、或者按照其他设定的规律等，相应地，正交基中的基向量也可以按照与离散序列对应的排序方式进行排列。

602、获取第一训练集中的每个样本在基中的分量值，得到多组第一编码数据。

其中，在对第一训练集进行分解得到基和对应的离散序列之后，获取第一训练集中的每个样本在基中的每个基向量中的分量值，得到多组第一编码数据，每个样本在每个基向量中的分量值组成一组第一编码数据。

为便于理解，前述的基可以理解为第一训练集所包括的数据组成的空间，基向量即表示该空间内的方向，步骤602即获取每个样本投影到每个方向上的分量值，从而得到每个样本的第一编码数据。

可选地，若对第一训练集进行PCA处理，得到正交基和对应的离散序列，则可以获取第一训练集中的每个样本在正交基中的分量，得到每个样本对应的第一编码数据。

可选地，若在步骤601中，对第一训练集进行了中心化，则步骤602中的第一训练集可以替换为中心化后的第一训练集。

可选地，可以通过预设算法计算第一训练集中的每个样本在基中的分量值，得到多组第一编码数据。该预设算法可以包括内积运算或者稀疏编码运算等。例如，以内积运算为例，可以对第一训练集中的每个样本和基中的每个基向量进行内积运算，得到每个样本的第一编码数据。

603、获取多组第一编码数据中的每组第一编码数据中的主分量，得到多组第二编码数据。

其中，在得到每个样本的第一编码数据之后，提取该多组第一编码数据中每组第一编码数据中的主分量，从而得到多组第二编码数据。该主分量可以理解为对应的离散值大于预设离散值的分量，或者说，该主分量可以理解为第一编码数据中对应的离散值最大的预设数量的分量。

例如，前述步骤601中的基可以是正交基，该正交基可以表示为{v_1,v_2,…,v_N}，离散序列可以表示为{λ_1,λ_2,…,λ_N}，且正交基中的基向量与离散序列中的方差按顺序一一对应。第一编码数据可以表示为a:{a_1，a_2,……,a_N}，该第一编码数据所包括的分量与离散序列中的方差按顺序一一对应，因此，可以根据确定出离散序列中大于预设离散值的方差，并从第一编码数据中确定出与该大于预设离散值的方差对应的分量作为主分量，得到第二编码数据。例如，当离散值以递减的顺序排列时，从a:{a_1,a_2,……,a_N}可以提取得到a’:{a_1,a_2，……,a_K}，a’即一组第二编码数据，K小于或者等于N。

在一种可能的实施方式中，可以保留每组第一编码数据中的主分量，将每组第一编码数据中除主分量外的其他分量替换为预设的值，得到多组第二编码数据。其中，每组第一编码数据可以对应一个或者多组第二编码数据。例如，可以将每组第一编码数据中除主分量外的其他分量通过多种不同的方式替换，得到多组第二编码数据，从而得到每组第一编码数据对应的多组第二编码数据。

可选地，该预设的值可以包括0或者预设的噪声向量。该预设的噪声向量可以包括与样本的真实值独立的噪声，或者与样本的真实值独立，但与第一训练集中的数据分布类似的噪声，或者特定分布的噪声等。例如，该预设的噪声向量可以是高斯噪声或者均匀分布特征等。因此，在本申请实施方式中，通过将除主要分量之外的其他分量替换为0或者噪声向量的方式，消除该部分分量对训练神经网络时的影响，使后续在训练神经网络时，可以以主分量为主，得到鲁棒性更优的神经网络。

在一种可能的实施方式中，若将每组第一编码数据中除主分量外的其他分量替换为噪声，则替换的噪声可以与替换前的分量对应的方差成比例。例如，噪声可以是原分量对应的方差的5倍、10倍等。因此，本申请实施方式中，替换后的噪声的分布规律可以与原分量的方差的分布规律类似，从而降低对后续训练神经网络的影响，使得在训练神经网络的过程中，在使用主分量进行训练，得到鲁棒性更优的神经网络的前提下，避免对神经网络的输出准确率的影响，得到鲁棒性和输出准确率更平衡的神经网络。可以理解为，若前述步骤601中对第一训练集采用PCA处理，本申请实施方式中，可以在PCA子空间的法方向增加一定大小的噪声，以抑制梯度泄漏现象。

在一种可能的场景中，若离散序列中的方差值按照递减的顺序排列，相应地，第一编码数据所包括的分量的排列顺序与离散序列中的方差的排列顺序对应，确定大于预设离散值的方差的数量d，该d为正整数，保留第一编码数据中的前d个分量，将第d+1至第D个分量替换为与分量对应的方差成比例的独立高斯噪声，并将第D个分量之后的分量替换为0，得到第二编码数据。因此，在此场景中，可以将第一编码数据中除主分量外的其他分量替换为 0或者噪声，从而使后续进行神经网络训练时，可以使用主分量进行训练，可以避免对抗样本中的扰动对神经网络造成的影响，提高神经网络的鲁棒性。

604、将多组第二编码数据映射至第一训练集的基，得到多组第二编码数据对应的样本。

在得到多组第二编码数据之后，将多组第二编码数据映射至第一训练集的基中，得到多组第二编码数据中每组第二编码数据对应的新的样本，该多组第二编码数据对应的样本组成第二训练集。为便于理解，第一训练集的基可以理解为一个空间，第二编码数据中包括了该空间内的一个或者多个方向上的分量值，将一组第二编码数据映射至该空间中，即可得到新的样本。

具体地，在得到第二编码数据之后，可以根据第二编码数据对前述步骤601中的基进行映射，得到每组第二编码数据对应的新样本。该多组第二编码数据对应的多个新样本组成第二训练集。为便于理解，可以将前述步骤601中提及的基理解为空间，第二编码数据中即包括新样本在每个基向量的方向上投影的值，对第二编码数据所包括的分量在基中进行映射，即可得到新的样本。

可选地，在得到新样本组成的第二训练集之后，即可使用该第二训练集进行神经网络训练，得到鲁棒性更优的神经网络。

因此，在本申请实施方式中，在提取到每个样本在基中第一编码数据中的主分量之后，得到降低了干扰之后的第二编码数据，可以根据第二编码数据得到新的样本，并使用新的样本进行神经网络训练。而新的样本中减少了除主要分量外的其他分量的干扰，从而使得训练得到的神经网络可以通过主分量进行训练，提高神经网络的鲁棒性。并且，本申请提供的训练集处理方法，针对训练集进行了处理，处理方式仅与训练集本身的主分量的分布有关，因此，即使在不同的场景中训练不同的模型，也可以使用本申请提供的训练集处理方法对训练集进行处理，泛化能力强，不依赖于被训练模型的通用算法，从而具有较高的通用性。

通常，神经网络模型对于对抗样本容易误分类。对抗样本即包括了扰动信息的样本，对抗样本所包括的扰动将降低神经网络的输出准确率。该对抗样本即包括了扰动信息的样本，该对抗样本所包括的扰动将影响后续训练得到的神经网络的鲁棒性，降低神经网络的输出准确率。示例性地，对抗样本的示意图可以如图7所示，图像A1为未包括扰动的图像，在图像 A1的基础上叠加扰动信息A2，0.007标识添加的扰动信息的系数，从而得到增加了扰动信息的图像A3，该图像A3即对抗样本。通常，对抗样本中包括了扰动信息，该扰动信息容易造成神经网络的识别错误，如图像A1的实际分类为熊猫，添加了扰动信息之后的图像3则可能被识别为分类为狗，因此，若使用该对抗样本进行训练，则可能导致神经网络的鲁棒性差。而本申请实施方式中，在使用训练集进行神经网络训练之前，对训练集进行了处理，减少了训练集中每个样本中的扰动部分，从而使后续进行神经网络训练时，可以使用减少了扰动的训练集进行训练，避免样本中的扰动对神经网络的影响，提高神经网络的鲁棒性。

而本申请实施方式中，以通过消除干扰的方式，使后续训练神经网络时，以样本的主分量为主，训练得到鲁棒性更优的神经网络。且可以以样本的主分量为主，训练得到神经网络，在提升神经网络的鲁棒性的同时，减少对神经网络的输出准确率的影响，得到鲁棒性和输出准确率均衡的神经网络。

可以理解为，在本申请提供的训练集处理方法中，保留了原样本对应的编码数据中的主分量，将除主分量外的其他分量替换为噪声或者0，从而得到消除了除主分量外的其他分量的新样本。在使用包括了新样本的训练集进行神经网络训练时，可以以主分量为主进行训练，减少了样本中所包括的扰动。相当于在训练的过程中，引入了数据流形来对对抗样本进行防御，以提升神经网络的鲁棒性。数据流形可以理解为，假设中的一个嵌入在数据真实维数的线性空间，但维度远低于该空间的流形，观察得到的输入数据点都分布在其附近，类似自然图像等神经网络擅长分类的数据基本都符合该分布假设。通常，不同的样本的主分量的差异较大，对主分量成功分类，可以得到较高的鲁棒性的神经网络。从而在不降低神经网络的输出准确率的基础上，提升了神经网络的鲁棒性，抑制了神经网络训练过程中的梯度泄漏的问题。

前述对本申请提供的训练集处理方法的流程进行了详细说明，为便于理解，下面结合具体的应用场景，对本申请提供的训练集处理方法进行更详细的说明。

第一训练集中的样本可以表示为一个数据点x_i，该第一训练集可以是N*D维的数据集，该第一数据集可以表示为X＝[x₁，...x_N]^T。对训练集进行PCA投影之后，得到正交基{v_1,v_2,…,v_N}，和对应的离散序列{λ_1,λ_2,…,λ_N}，且离散序列所包括的方差呈递减排列。确定主分量所包括的分量维数d，增加的噪声维数m，以及噪声大小c。

利用协方差矩阵

进行谱分解，其中，

得到

λ_i≥λ₂≥…≥λ_D。

计算

的均值在正交基V中的分量，V＝[v₁，...v_D]，得到

a即前述的第一编码数据。

把x投影到PCA子空间，将a的第i个分量替换为噪声，其中，

且 i＝d+1，d+2...d+m，d+m之后的分量替换为0，得到更新后的a，

表示噪声，ξ_i服从相互独立同分布的标准正态(高斯)分布。

然后进行重构，得到新样本

多个新样本即组成第二训练集。

随后，即可使用新的第二训练集进行神经网络训练。

因此，在本场景中，将主分量为的其他分量替换为了与对应的方差成比例的噪声，在不影响神经网络的训练过程的基础上，提升神经网络的鲁棒性。

为便于理解，对另一些具体的场景进行示例性说明。

首先，对训练集{(x_i，y_i)}，i＝1，2，...，n中的输入数据(设为行向量)进行中心化，得到

然后计算器协方差矩阵：

设其正交对角化结果为U^Tdiag(B)U，其中，B为一个维度与输入数据(即训练集中的样本)相同的非负向量，表示输入数据在这些方向上的变化量的大小。

然后取样本的公式可以包括：

Ux_old即表示前述的第一编码数据，s为尺度缩放向量，∈为噪声向量，c为大于1的常数。通常，可以取s为截断向量{1，1，…，1，1，0，0，....，0},1的数量为截断超参数，即前述的预设值d。为了达到鲁棒目的，一般需要令对应尺度较小的分量进一步被压制，∈可以取在截断值附近的标准正态分布向量 (即在截断值附近的维度为标准正态分布，其他维度为0)。

可选地，前述的尺度缩放向量可以替换为平滑向量，如该平滑向量中的某一个点可以表示为s_i＝sigmoid(-i+d)，d表示软截断阈值，i表示维度的下标。

或者，可选地，前述的尺度缩放向量也可以替换为随机向量，如该随机向量中的某一个点可以表示为s_i＝Bernoulli(sigmoid(-i+d))。

或者，前述的噪声向量也可以替换为非高斯分布，但与样本本身的分布独立的其他方差水平类似的向量。

因此，在本场景中，提出了一种检测并改善训练集中非鲁棒部分导致神经网络对抗脆弱性的方法，本申请提供的方法具有通用性和高效性，可以直接适用于大多数任务和网络架构，泛化能力强，在提高神经网络的鲁棒性的基础上，可以训练得到输出准确率更高的神经网络，得到鲁棒性和输出准确率达到均衡的神经网络。

通常，以分类网络为例，若采用在测试阶段进行投影的防御方法，即在测试阶段对对抗样本中的扰动进行训练，由于投影到的流形相比于真实的数据流形存在误差，训练时使用的是未经过投影的数据来训练，则模型对被投影到的流形上的数据的分类效果是未知的。一方面会导致明显的分类精度下降，另一方面由于分类网络没有在该流形上良好训练，较容易找到该流形上的对抗样本。而本申请提供的方法中，在训练中就进行投影操作，可以避免前述的问题。此外，通过本申请提供的方法得到的训练集，训练得到的分类网络在测试时可不必对输入数据进行投影，提升了训练效率。

若采用对抗样本进行训练，往往需要数倍的时间和更高的计算资源以计算输入样本的对抗样本。而本申请提供的方法中，将相对本质的流形外对抗方向分开进行加噪声增广，避免了在模型训练时产生的流形内，误分类样本训练造成的难度提升和原测试集准确率下降。因此本发明能够在鲁棒准确率和原测试集准确率之间有更好和更灵活的权衡取舍。并且，本申请可以根据应用场景需要，通过调节参数d和所加噪声具体的分布及幅度，可以灵活调节模型训练最终的准确率，调整神经网络的输出准确率和鲁棒性的均衡。

前述对本申请提供的方法进行了详细介绍，下面基于前述的方法，对本申请提供的装置进行介绍。

参阅图8，本申请提供的一种训练集处理装置的结构示意图，该训练集处理装置用于执行前述图6中的方法的步骤。

该训练集处理装置可以包括：

分解单元801，用于根据第一训练集进行分解获得第一训练集的基和该基对应的离散序列，第一训练集中包括多个样本，基中包括至少一个基向量，离散程度包括与基中的每个基向量一一对应的离散值，该离散序列可以用于表示基的离散程度；

获取单元802，用于获取第一训练集中的每个样本在基中的分量值，得到多组第一编码数据，每组第一编码数据对应一个样本；

获取单元802，还用于获取多组第一编码数据中的每组第一编码数据中的主分量，得到多组第二编码数据，主分量对应的离散值高于预设离散值，每个第一；

映射单元803，用于将多组第二编码数据映射至第一训练集的基中，得到多组第二编码数据对应的样本，多组第二编码数据对应的样本组成第二训练集，第二训练集用于训练神经网络。

在一种可能的实施方式中，基为正交基，分解单元801，具体用于对第一训练集进行主成分分析PCA处理，得到正交基和正交基中对应的离散序列。

在一种可能的实施方式中，分解单元801，具体用于：对第一训练集进行中心化处理，得到中心化后的第一训练集，中心化后的第一训练集包括的数据的均值为0；对中心化后的第一训练集进行PCA处理，得到正交基，以及正交基的离散序列，离散序列包括中心化后的第一训练集在正交基中的方差组成的序列。

在一种可能的实施方式中，分解单元801，具体用于通过预设算法，计算中心化后的第一训练集中的每个样本在正交基中的每个基向量上的分量值，得到多组第一编码数据。

在一种可能的实施方式中，预设算法包括内积运算或者稀疏编码运算。

在一种可能的实施方式中，获取单元802，具体用于保留每组第一编码数据中的主分量，将每组第一编码数据中除主分量外的其他分量替换为预设的值，得到多组第二编码数据，其中，每组第一编码数据的主分量组成至少一组第二编码数据。

在一种可能的实施方式中，预设的值包括0或者预设的噪声向量，预设的噪声向量包括高斯噪声或者均匀分布噪声。

在一种可能的实施方式中，预设的噪声向量与替换的分量对应的方差成比例。

请参阅图9，本申请提供的另一种训练集处理装置的结构示意图，如下所述。

该训练集处理装置可以包括处理器901和存储器902。该处理器901和存储器902通过线路互联。其中，存储器902中存储有程序指令和数据。

存储器902中存储了前述图6中的步骤对应的程序指令以及数据。

处理器901用于执行前述图6中任一实施例所示的训练集处理装置执行的方法步骤。

可选地，该训练集处理装置还可以包括收发器903，用于接收或者发送数据。

本申请实施例中还提供一种计算机可读存储介质，该计算机可读存储介质中存储有用于生成车辆行驶速度的程序，当其在计算机上行驶时，使得计算机执行如前述图6所示实施例描述的方法中的步骤。

可选地，前述的图9中所示的训练集处理装置为芯片。

本申请实施例还提供了一种训练集处理装置，该训练集处理装置也可以称为数字处理芯片或者芯片，芯片包括处理单元和通信接口，处理单元通过通信接口获取程序指令，程序指令被处理单元执行，处理单元用于执行前述图6中任一实施例所示的训练集处理装置执行的方法步骤。

本申请实施例还提供一种数字处理芯片。该数字处理芯片中集成了用于实现上述处理器901，或者处理器901的功能的电路和一个或者多个接口。当该数字处理芯片中集成了存储器时，该数字处理芯片可以完成前述实施例中的任一个或多个实施例的方法步骤。当该数字处理芯片中未集成存储器时，可以通过通信接口与外置的存储器连接。该数字处理芯片根据外置的存储器中存储的程序代码来实现上述实施例中训练集处理装置执行的动作。

本申请实施例中还提供一种包括计算机程序产品，当其在计算机上行驶时，使得计算机执行如前述图6所示实施例描述的方法中训练集处理装置所执行的步骤。

本申请实施例提供的训练集处理装置可以为芯片，芯片包括：处理单元和通信单元，所述处理单元例如可以是处理器，所述通信单元例如可以是输入/输出接口、管脚或电路等。该处理单元可执行存储单元存储的计算机执行指令，以使服务器内的芯片执行上述图6所示实施例描述的训练集处理方法。可选地，所述存储单元为所述芯片内的存储单元，如寄存器、缓存等，所述存储单元还可以是所述无线接入设备端内的位于所述芯片外部的存储单元，如只读存储器(read-only memory，ROM)或可存储静态信息和指令的其他类型的静态存储设备，随机存取存储器(random access memory，RAM)等。

具体地，前述的处理单元或者处理器可以是中央处理器(central processingunit，CPU)、网络处理器(neural-network processing unit，NPU)、图形处理器(graphicsprocessing unit，GPU)、数字信号处理器(digital signal processor，DSP)、专用集成电路(application specific integrated circuit,ASIC)或现场可编程逻辑门阵列(fieldprogrammable gate array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者也可以是任何常规的处理器等。

示例性地，请参阅图10，图10为本申请实施例提供的芯片的一种结构示意图，所述芯片可以表现为神经网络处理器NPU 100，NPU 100作为协处理器挂载到主CPU(Host CPU)上，由Host CPU分配任务。NPU的核心部分为运算电路100，通过控制器1004控制运算电路1003 提取存储器中的矩阵数据并进行乘法运算。

在一些实现中，运算电路1003内部包括多个处理单元(process engine,PE)。在一些实现中，运算电路1003是二维脉动阵列。运算电路1003还可以是一维脉动阵列或者能够执行例如乘法和加法这样的数学运算的其它电子线路。在一些实现中，运算电路1003是通用的矩阵处理器。

举例来说，假设有输入矩阵A，权重矩阵B，输出矩阵C。运算电路从权重存储器1002中取矩阵B相应的数据，并缓存在运算电路中每一个PE上。运算电路从输入存储器1001中取矩阵A数据与矩阵B进行矩阵运算，得到的矩阵的部分结果或最终结果，保存在累加器(accumulator)1008中。

统一存储器1006用于存放输入数据以及输出数据。权重数据直接通过存储单元访问控制器(direct memory access controller，DMAC)1005，DMAC被搬运到权重存储器1002中。输入数据也通过DMAC被搬运到统一存储器1006中。

总线接口单元(bus interface unit，BIU)1010，用于AXI总线与DMAC和取指存储器 (instruction fetch buffer，IFB)1009的交互。

总线接口单元1010(bus interface unit，BIU)，用于取指存储器1009从外部存储器获取指令，还用于存储单元访问控制器1005从外部存储器获取输入矩阵A或者权重矩阵B的原数据。

DMAC主要用于将外部存储器DDR中的输入数据搬运到统一存储器1006或将权重数据搬运到权重存储器1002中或将输入数据数据搬运到输入存储器1001中。

向量计算单元1007包括多个运算处理单元，在需要的情况下，对运算电路的输出做进一步处理，如向量乘，向量加，指数运算，对数运算，大小比较等等。主要用于神经网络中非卷积/全连接层网络计算，如批归一化(batch normalization)，像素级求和，对特征平面进行上采样等。

在一些实现中，向量计算单元1007能将经处理的输出的向量存储到统一存储器1006。例如，向量计算单元1007可以将线性函数和/或非线性函数应用到运算电路1003的输出，例如对卷积层提取的特征平面进行线性插值，再例如累加值的向量，用以生成激活值。在一些实现中，向量计算单元1007生成归一化的值、像素级求和的值，或二者均有。在一些实现中，处理过的输出的向量能够用作到运算电路1003的激活输入，例如用于在神经网络中的后续层中的使用。

控制器1004连接的取指存储器(instruction fetch buffer)1009，用于存储控制器1004 使用的指令；

统一存储器1006，输入存储器1001，权重存储器1002以及取指存储器1009均为On-Chip 存储器。外部存储器私有于该NPU硬件架构。

其中，循环神经网络中各层的运算可以由运算电路1003或向量计算单元1007执行。

其中，上述任一处提到的处理器，可以是一个通用中央处理器，微处理器，ASIC，或一个或多个用于控制上述图6的方法的程序执行的集成电路。

另外需说明的是，以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。另外，本申请提供的装置实施例附图中，模块之间的连接关系表示它们之间具有通信连接，具体可以实现为一条或多条通信总线或信号线。

通过以上的实施方式的描述，所属领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件的方式来实现，当然也可以通过专用硬件包括专用集成电路、专用CPU、专用存储器、专用元器件等来实现。一般情况下，凡由计算机程序完成的功能都可以很容易地用相应的硬件来实现，而且，用来实现同一功能的具体硬件结构也可以是多种多样的，例如模拟电路、数字电路或专用电路等。但是，对本申请而言更多情况下软件程序实现是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在可读取的存储介质中，如计算机的软盘、U盘、移动硬盘、只读存储器(read only memory，ROM)、随机存取存储器(random access memory，RAM)、磁碟或者光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述的方法。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。

所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘(solid state disk，SSD))等。

本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

最后应说明的是：以上，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以权利要求的保护范围为准。

Claims (19)

1.一种训练集处理方法，其特征在于，包括：

根据第一训练集获得所述第一训练集的基和所述基的离散序列，所述第一训练集中包括多个样本，所述基中包括至少一个基向量，所述离散序列包括与所述基中的每个基向量一一对应的离散值；

获取所述第一训练集中的每个样本在所述每个基向量上的分量值，以得到多组第一编码数据，每组第一编码数据对应一个样本；

获取所述多组第一编码数据中的每组第一编码数据中的主分量，得到多组第二编码数据，所述主分量的离散值高于预设离散值；

将所述多组第二编码数据映射至所述第一训练集的基，得到所述多组第二编码数据对应的样本，所述多组第二编码数据对应的样本组成第二训练集，所述第二训练集用于训练神经网络。

2.根据权利要求1所述的方法，其特征在于，所述第一训练集的基为正交基，所述根据第一训练集获得所述第一训练集的基和所述基的离散序列，包括：

对所述第一训练集进行主成分分析PCA处理，得到所述正交基和所述正交基的离散序列。

3.根据权利要求2所述的方法，其特征在于，所述对所述第一训练集进行主成分分析PCA处理，得到正交基和所述正交基的离散序列，包括：

对所述第一训练集进行中心化处理，得到中心化后的第一训练集，所述中心化后的第一训练集包括的数据的均值为0；

对所述中心化后的第一训练集进行所述PCA处理，得到所述正交基，以及所述正交基的离散序列，所述离散序列包括所述中心化后的第一训练集在所述正交基中的方差组成的序列。

4.根据权利要求3所述的方法，其特征在于，所述获取所述第一训练集中的每个样本在所述每个基向量上的分量值，包括：

通过预设算法，计算所述中心化后的第一训练集中的每个样本在所述正交基中的每个基向量的分量值，得到所述多组第一编码数据。

5.根据权利要求4所述的方法，其特征在于，所述预设算法包括内积运算或者稀疏编码运算。

6.根据权利要求1-5中任一项所述的方法，其特征在于，所述获取所述每组第一编码数据中的主分量，得到多组第二编码数据，包括：

保留所述每组第一编码数据中的所述主分量，将所述每组第一编码数据中除所述主分量外的其他分量替换为预设的值，得到所述多组第二编码数据，其中，所述每组第一编码数据的主分量组成至少一组第二编码数据。

7.根据权利要求6所述的方法，其特征在于，所述预设的值包括0或者预设的噪声向量，所述预设的噪声向量包括高斯噪声或者均匀分布噪声。

8.根据权利要求7所述的方法，其特征在于，所述预设的噪声向量与被替换的分量的离散值成比例。

9.一种训练集处理装置，其特征在于，包括：

分解单元，用于根据第一训练集获得所述第一训练集的基和所述基的离散序列，所述第一训练集中包括多个样本，所述基中包括至少一个基向量，所述离散程度包括与所述基中的每个基向量一一对应的离散值；

获取单元，用于获取所述第一训练集中的每个样本在所述每个基向量上的分量值，以得到多组第一编码数据，每组第一编码数据对应一个样本；

所述获取单元，还用于获取所述多组第一编码数据中的每组第一编码数据中的主分量，得到多组第二编码数据，所述主分量的离散值高于预设离散值，其中，所述每组第一编码数据的主分量组成至少一组第二编码数据；

映射单元，用于将所述多组第二编码数据映射至所述第一训练集的基，得到所述多组第二编码数据对应的样本，所述多组第二编码数据对应的样本组成第二训练集，所述第二训练集用于训练神经网络。

10.根据权利要求9所述的装置，其特征在于，所述基为正交基，

所述分解单元，具体用于对所述第一训练集进行主成分分析PCA处理，得到所述正交基和所述正交基的离散序列。

11.根据权利要求10所述的装置，其特征在于，所述分解单元，具体用于：

对所述第一训练集进行中心化处理，得到中心化后的第一训练集，所述中心化后的第一训练集包括的数据的均值为0；

对所述中心化后的第一训练集进行所述PCA处理，得到所述正交基，以及所述正交基的离散序列，所述离散序列包括所述中心化后的第一训练集在所述正交基中的方差组成的序列。

12.根据权利要求11所述的装置，其特征在于，

所述分解单元，具体用于通过预设算法，计算所述中心化后的第一训练集中的每个样本在所述正交基中的每个基向量的分量值，得到所述多组第一编码数据。

13.根据权利要求12所述的装置，其特征在于，所述预设算法包括内积运算或者稀疏编码运算。

14.根据权利要求9-13中任一项所述的装置，其特征在于，

所述获取单元，具体用于保留所述每组第一编码数据中的所述主分量，将所述每组第一编码数据中除所述主分量外的其他分量替换为预设的值，得到所述多组第二编码数据。

15.根据权利要求14所述的装置，其特征在于，所述预设的值包括0或者预设的噪声向量，所述预设的噪声向量包括高斯噪声或者均匀分布噪声。

16.根据权利要求15所述的装置，其特征在于，所述预设的噪声向量与被替换的分量的离散值成比例。

17.一种训练集处理装置，其特征在于，包括处理器，所述处理器和存储器耦合，所述存储器存储有程序，当所述存储器存储的程序指令被所述处理器执行时实现权利要求1至8中任一项所述的方法。

18.一种计算机可读存储介质，包括程序，当其被处理单元所执行时，执行如权利要求1至8中任一项所述的方法。

19.一种训练集处理装置，其特征在于，包括处理单元和通信接口，所述处理单元通过所述通信接口获取程序指令，当所述程序指令被所述处理单元执行时实现权利要求1至8中任一项所述的方法。

Images