CN116702011A - 基于表格数据的分类预测方法、装置、设备和介质 - Google Patents

Abstract

本申请涉及人工智能技术领域，提供一种基于表格数据的分类预测方法,包括：将特征值、特征值对应的特征类型、特征值对应的统计信息输入神经网络分类模型的嵌入层，得到特征值对应的嵌入表示；然后根据嵌入表示确定嵌入表示序列；将嵌入表示序列输入神经网络分类模型的编码层，得到语义向量序列；将语义向量序列输入神经网络分类模型的输出层，得到预测结果；根据预测结果和标注标签确定损失值，并根据损失值训练神经网络分类模型，以获得目标神经网络分类模型。通过上述方案，使得神经网络模型能像树模型一样了解特征的全局统计信息，提升神经网络模型基于表格数据执行分类预测任务时的性能和准确度，提升用户在金融产品体验的满意度。

Description

基于表格数据的分类预测方法、装置、设备和介质

技术领域

本申请涉及人工智能技术领域，具体涉及一种基于表格数据的分类预测方法、装置、设备和介质。

背景技术

在金融科技领域，在使用基于表格数据的分类预测方法进行金融产品推荐时，通过神经网络基于用户的属性特征，预测用户感兴趣的金融产品，进而根据预测结果向用户展示产品推荐内容。

随着人工智能技术的发展，使用人工智能技术来执行各种分类预测的场景也越来越多，例如，在产品推荐场景中，常通过神经网络基于目标对象的属性特征，预测目标对象感兴趣的产品，进而根据预测结果向目标对象展示产品推荐内容。

表格数据是一种在风控、推荐等业务场景中常见的数据类型其特点是数据为表格形式，通常一行为一个样本，一列为一个特征。神经网络模型在文本、图像、语音等领域中展现出了很好的效果，但是神经网络模型在表格数据中的效果往往不如Xgboost、Lightgbm等树模型。神经网络模型可用于表示学习、聚类、迁移学习等方面，而树模型不能，因此神经网络模型在表格数据上的应用有着巨大的潜力。因此，如何提高神经网络模型对表格数据的分析能力，使得神经网络基于表格数据执行分类预测任务时有更高的精确度，成为亟需解决的技术问题，进而提升用户在金融产品体验的满意度。

发明内容

本申请实施例提供基于一种基于表格数据的分类预测方法、装置、设备和介质，能够提升神经网络模型执行分类预测的精确度，提升用户在金融产品体验的满意度。

第一方面，本申请实施例提供基于表格数据的分类预测方法，所述方法包括以下步骤：

获取神经网络分类模型和表格数据样本，其中，所述神经网络分类模型包括嵌入层、编码层和输出层，所述表格数据样本中包括多个特征类型、多个特征数据组、所述多个特征数据组分别对应的标注标签，每个所述特征数据组包括多个特征值，所述多个特征值与所述多个特征类型为一一对应的关系；

对于所述表格数据样本中的每个所述特征值，将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层，得到所述特征值对应的嵌入表示，其中，所述统计信息是在所述表格数据样本中对所述特征值对应的标注标签进行统计得到；

根据所述特征数据组中各个所述特征值对应的嵌入表示，确定所述特征数据组对应的嵌入表示序列；

将所述特征数据组对应的嵌入表示序列输入所述编码层，得到所述特征数据组对应的语义向量序列；

将所述特征数据组对应的语义向量序列输入所述输出层，得到所述特征数据组对应的预测结果；

根据所述特征数据组对应的所述预测结果和所述标注标签确定损失值，并根据所述损失值训练所述神经网络分类模型，以获得目标神经网络分类模型；

获取目标表格数据，并将所述目标表格数据输入所述目标神经网络分类模型，得到分类预测结果。

在一些实施例中，在将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层之前，所述方法还包括：

对所述特征值在各个类别的标注标签中出现的次数进行统计，得到各个类别的标注标签对应的统计信息；

对所述特征值在所有所述特征数据组中出现的次数进行统计，得到全样本统计信息；

根据各个类别的标注标签对应的统计信息、所述全样本统计信息得到所述特征值对应的统计信息。

在一些实施例中，所述将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层，得到所述特征值对应的嵌入表示，包括：

将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的各个类别的标注标签对应的统计信息、所述特征值对应的全样本统计信息输入所述嵌入层，得到所述嵌入层输出的特征值嵌入表示、特征类型嵌入表示、各个类别的标注标签统计信息嵌入表示和全样本统计信息嵌入表示；

对所述特征值嵌入表示、所述特征类型嵌入表示、各个类别的所述标注标签统计信息嵌入表示和所述全样本统计信息嵌入表示进行求平均计算，得到所述特征值对应的嵌入表示。

在一些实施例中，所述将所述特征数据组对应的语义向量序列输入所述输出层，得到所述特征数据组对应的预测结果，包括：

对所述特征数据组对应的所述语义向量序列中的多个语义向量进行求平均计算，得到所述特征数据组对应的语义向量表示；

将所述语义向量表示输入所述输出层，得到所述输出层输出的预测结果。

在一些实施例中，所述特征数据组分别对应的标注标签为0或者1；所述根据所述特征数据组对应的所述预测结果和所述标注标签确定损失值，通过以下公式计算得到：

loss＝-y*log(p)-(1-y)*log(1-p)；

其中，loss表示损失值，p表示所述输出层输出的预测概率，y表示所述特征数据组分别对应的标注标签。

在一些实施例中，所述特征值包括离散型特征值和数值型特征值；在将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层之前，所述方法还包括：

当所述特征值为数值型特征值，根据预设的映射关系确定所述特征值对应的数值区间；

根据所述特征值对应的数值区间，将所述特征值从所述数值型特征值转换为所述离散型特征值。

在一些实施例中，所述根据所述损失值训练所述神经网络分类模型，以获得目标神经网络分类模型，包括：

判断所述损失值是否小于或等于预设的损失值阈值；

若所述损失值小于或等于预设的损失值阈值，结束训练，得到所述目标神经网络分类模型；

若所述损失值大于预设的损失值阈值，更新所述神经网络分类模型的模型参数，并根据所述表格数据样本继续训练所述神经网络分类模型。

第二方面，本申请实施例提供一种基于人工智能的分类预测装置，所述装置包括：

第一获取模块，用于获取神经网络分类模型和表格数据样本，其中，所述神经网络分类模型包括嵌入层、编码层和输出层，所述表格数据样本中包括多个特征类型、多个特征数据组、所述多个特征数据组分别对应的标注标签，每个所述特征数据组包括多个特征值，所述多个特征值与所述多个特征类型为一一对应的关系；

第一输入模块，用于对于所述表格数据样本中的每个所述特征值，将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层，得到所述特征值对应的嵌入表示，其中，所述统计信息是在所述表格数据样本中对所述特征值对应的标注标签进行统计得到；

第一确定模块，用于根据所述特征数据组中各个所述特征值对应的嵌入表示，确定所述特征数据组对应的嵌入表示序列；

第二输入模块，用于将所述特征数据组对应的嵌入表示序列输入所述编码层，得到所述特征数据组对应的语义向量序列；

第三输入模块，用于将所述特征数据组对应的语义向量序列输入所述输出层，得到所述特征数据组对应的预测结果；

第二确定模块，用于根据所述特征数据组对应的所述预测结果和所述标注标签确定损失值，并根据所述损失值训练所述神经网络分类模型，以获得目标神经网络分类模型；

预测模块，用于获取目标表格数据，并将所述目标表格数据输入所述目标神经网络分类模型，得到分类预测结果。

第三方面，本申请实施例提供一种电子设备，所述电子设备包括存储器和处理器，所述存储器存储有计算机程序或指令，所述处理器执行所述计算机程序或指令时实现本申请实施例第一方面提供的方法。

第四方面，本申请实施例提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序或指令，所述计算机程序或指令被处理器执行时实现本申请实施例第一方面提供的方法。

本申请实施例提供的方案，首先针对表格数据样本中的每个所述特征值，将特征值、特征值对应的特征类型、特征值对应的统计信息输入神经网络分类模型的嵌入层，得到特征值对应的嵌入表示；然后根据特征数据组中各个特征值对应的嵌入表示，确定特征数据组对应的嵌入表示序列；将特征数据组对应的嵌入表示序列输入神经网络分类模型的编码层，得到特征数据组对应的语义向量序列；将特征数据组对应的语义向量序列输入神经网络分类模型的输出层，得到特征数据组对应的预测结果；根据特征数据组对应的预测结果和标注标签确定损失值，并根据损失值训练神经网络分类模型，以获得目标神经网络分类模型；获取目标表格数据，并将目标表格数据输入目标神经网络分类模型，得到分类预测结果。通过上述方案，使得神经网络模型能像树模型一样了解特征的全局统计信息，提升神经网络模型基于表格数据执行分类预测任务时的性能和准确度。

附图说明

图1是本申请实施例提供的一种基于表格数据的分类预测方法的流程示意图；

图2是本申请实施例提供的神经网络分类模型的结构示意图；

图3是本申请实施例提供的获得特征值对应的统计信息的过程示意图；

图4是本申请实施例提供的获得特征值对应的嵌入表示的过程示意图；

图5是本申请实施例提供的一种基于人工智能的分类预测装置的结构示意图；

图6是本申请实施例提供的一种电子设备的结构示意图。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本申请，并不用于限定本申请。

需要说明的是，除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的，不是旨在限制本申请。

首先，对本申请中涉及的若干名词进行解析：

人工智能(Artificial Intelligence，AI)：是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用***的一门新的技术科学；人工智能是计算机科学的一个分支，人工智能企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家***等。人工智能可以对人的意识、思维的信息过程的模拟。人工智能还是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用***。

神经网络(Neural Networks,NN)：是由大量的、简单的处理单元(称为神经元)广泛地互相连接而形成的复杂网络***，它反映了人脑功能的许多基本特征，是一个高度复杂的非线性动力学习***。神经网络具有大规模并行、分布式存储和处理、自组织、自适应和自学能力，特别适合处理需要同时考虑许多因素和条件的、不精确和模糊的信息处理问题。

有监督学习(Supervised learning)：是利用一组带标签的数据，学习从输入到输出的映射，然后将这种映射关系应用到未知数据上，达到分类或者回归的目的。

嵌入表示(embedding):就是用一个数值向量“表示”一个对象(Object)的方法，这里说的对象可以是一个词、一个物品，也可以是一部电影等等。一个物品能被向量表示，是因为这个向量跟其他物品向量之间的距离反映了这些物品的相似性。更进一步来说，两个向量间的距离向量甚至能够反映它们之间的关系。

在金融科技领域，在使用基于表格数据的分类预测方法进行金融产品推荐时，通过神经网络基于用户的属性特征，预测用户感兴趣的金融产品，进而根据预测结果向用户展示产品推荐内容。

随着人工智能技术的发展，使用人工智能技术来执行各种分类预测的场景也越来越多，例如，在产品推荐场景中，常通过神经网络基于目标对象的属性特征，预测目标对象感兴趣的产品，进而根据预测结果向目标对象展示产品推荐内容。

表格数据是一种在风控、推荐等业务场景中常见的数据类型其特点是数据为表格形式，通常一行为一个样本，一列为一个特征。神经网络模型在文本、图像、语音等领域中展现出了很好的效果，但是神经网络模型在表格数据中的效果往往不如Xgboost、Lightgbm等树模型。神经网络模型可用于表示学习、聚类、迁移学习等方面，而树模型不能，因此神经网络模型在表格数据上的应用有着巨大的潜力。因此，如何提高神经网络模型对表格数据的分析能力，使得神经网络基于表格数据执行分类预测任务时有更高的精确度，成为亟需解决的技术问题，进而提升用户在金融产品体验的满意度。

有鉴于此，本申请实施例提供一种基于表格数据的分类预测方法、分类预测装置、电子设备和计算机可读存储介质，解决神经网络模型在表格数据中的效果较低的问题，提升神经网络模型基于表格数据执行分类预测任务的精确度。

本申请实施例提供的分类预测方法和分类预测装置、电子设备及存储介质，具体通过如下实施例进行说明，首先描述本申请实施例中的分类预测方法。

本申请实施例提供的分类预测方法可应用于终端中，也可应用于服务器端中，还可以是运行于终端或服务器端中的软件。在一些实施例中，终端可以是智能手机、平板电脑、笔记本电脑、台式计算机等；服务器端可以配置成独立的物理服务器，也可以配置成多个物理服务器构成的服务器集群或者分布式***，还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network，CDN)以及大数据和人工智能平台等基础云计算服务的云服务器；软件可以是实现分类预测方法的应用等，但并不局限于以上形式。

本申请可用于众多通用或专用的计算机***环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器***、基于微处理器的***、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何***或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

需要说明的是，在本发明的各个具体实施方式中，当涉及到需要根据对象(例如用户等)的属性信息或属性信息集合等与对象的特性相关的数据进行相关处理时，都会先获得对应对象的许可或者同意，而且，对这些数据的收集、使用和处理等，都会遵守相关国家和地区的相关法律法规和标准。此外，当本发明实施例需要获取对象的属性信息时，会通过弹窗或者跳转到确认页面等方式获得对应对象的单独许可或者单独同意，在明确获得对应对象的单独许可或者单独同意之后，再获取用于使本发明实施例能够正常运行的必要的对象的相关数据。

下面结合具体应用场景对本申请实施例提供的一种基于表格数据的分类预测方法进行说明。

本申请实施例可以应用于金融科技领域的金融产品推荐。具体实现时，通过终端、也可以通过服务器端、还可以通过终端或服务器端中的软件获取神经网络模型和表格数据样本，所述表格数据样本中包括多个特征类型、多个特征数据组、所述多个特征数据组分别对应的标注标签，每个所述特征数据组包括多个特征值，所述多个特征值与所述多个特征类型为一一对应的关系。所述特征类型包括用户的性别、年龄、学历、个人收入、家庭收入、职业、目标收益、风险承受等级、财务风险容忍度、预设投资金额、历史投资数据。所述神经网络模型包括嵌入层、编码层、输出层。通过将表格数据样本输入神经网络模型，得到所述特征数据组对应的预测结果、根据所述特征数据组对应的所述预测结果和所述标注标签确定损失值，并根据所述损失值训练所述神经网络分类模型，以获得目标神经网络分类模型。获取目标表格数据，并将所述目标表格数据输入所述目标神经网络分类模型，得到分类预测结果，向用户展示金融产品推荐内容。

请参见图1，为本申请实施例提供的一种基于表格数据的分类预测方法的流程示意图，该方法包括以下步骤S101-S107，下面依次对各个步骤进行介绍：

步骤S101，获取神经网络分类模型和表格数据样本，其中，所述神经网络分类模型包括嵌入层、编码层和输出层，所述表格数据样本中包括多个特征类型、多个特征数据组、所述多个特征数据组分别对应的标注标签，每个所述特征数据组包括多个特征值，所述多个特征值与所述多个特征类型为一一对应的关系。

本申请实施例提供的分类预测方法基于神经网络分类模型实现。请参见图2，本申请实施例应用的神经网络分类模型可以包括嵌入层、编码层和输出层。神经网络分类模型可以是卷积神经网络(CNN)、递归神经网络(LSTM/GRU/注意力)等类型，本申请实施例对递归神经网络(LSTM/GRU/注意力)的类型不作具体限定。

示例性的，表1是本申请实施例提供的一个示例性的表格数据样本。表1所示的表格数据样本中的首行展示了多个特征类型，每个特征类型下是对应的特征值。表格数据样本中除首行之外的其他行展示了多个特征数据组，特征数据组中的特征值分别与一个特征类型对应。每个特征数据组具有对应的标注标签。

表1

步骤S102，对于所述表格数据样本中的每个所述特征值，将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层，得到所述特征值对应的嵌入表示，其中，所述统计信息是在所述表格数据样本中对所述特征值对应的标注标签进行统计得到。

例如，对于表1中的特征值11，将特征值11对应的取值、特征类型(特征类型1)、统计信息输入嵌入层，使得嵌入层根据取值、特征类型、统计信息输出特征值11对应的嵌入表示(embedding)。

请参见图3，在将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层之前，本申请实施例还执行图3所示的步骤S201-S203，以获得特征值对应的统计信息。

步骤S201：对所述特征值在各个类别的标注标签中出现的次数进行统计，得到各个类别的标注标签对应的统计信息。

步骤S202：对所述特征值在所有所述特征数据组中出现的次数进行统计，得到全样本统计信息。

步骤S203：根据各个类别的标注标签对应的统计信息、所述全样本统计信息得到所述特征值对应的统计信息。

举例来说，表格中的标注标签包括“0”和“1”两个类型，表格中第i个特征类型下第j个特征值为“男”，首先分别统计“男”这一特征值在标注标签“0”和“1”下出现的次数，得到统计信息和/>然后统计“男”这一特征值在表格中出现的总次数，即将和/>相加，得到全样本统计信息/>

请参见图4，所述将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层，得到所述特征值对应的嵌入表示，包括以下步骤S301-S302：

步骤S301：将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的各个类别的标注标签对应的统计信息、所述特征值对应的全样本统计信息输入所述嵌入层，得到所述嵌入层输出的特征值嵌入表示、特征类型嵌入表示、各个类别的标注标签统计信息嵌入表示和全样本统计信息嵌入表示；

步骤S302：对所述特征值嵌入表示、所述特征类型嵌入表示、各个类别的所述标注标签统计信息嵌入表示和所述全样本统计信息嵌入表示进行求平均计算，得到所述特征值对应的嵌入表示。

例如，对于表格中第i个特征类型下第j个特征值，其对应的统计信息包括和/>然后确定/>和/>对应的embedding，得到和/>根据表格中第i个特征类型下第j个特征值的具体取值，得到特征值的取值embedding，记为/>根据表格中第i个特征类型下第j个特征值的特征类型，得到特征值的类型embedding，记为/>

可以理解的是，对于标注标签仅包括“0”和“1”两个类型的二分类场景，表格中第i个特征类型下第j个特征值的embedding可以通过以下公式表示：

需说明的是，本申请实施例的方法不仅仅适用于包括“0”和“1”两个类型的二分类场景，还适用于标注标签多于两个的其他分类场景，本申请实施例对此不作过多限定。

可以理解的是，表格中的特征值包括离散型特征值和数值型特征值。例如，指示性别的特征值“男”/“女”属于离散型特征值，指示身高的特征值“180厘米”属于数值型特征值。

在将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层之前，所述方法还包括：

当所述特征值为数值型特征值，根据预设的映射关系确定所述特征值对应的数值区间；

根据所述特征值对应的数值区间，将所述特征值从所述数值型特征值转换为所述离散型特征值。

对于数值型特征值，首先根据预设的多个数值区间，确定当前的特征值属于哪个数值区间，每个预设的数值区间都有对应的embedding，进而根据当前的特征值所属的数值区间确定特征值对应的embedding。

对于离散型特征值，首先为每个类别预先设置一个embedding，例如，对于“性别”字段，设置“男”的embedding为“embedding1”，“女”的embedding为“embedding2”。

步骤S103，根据所述特征数据组中各个特征值对应的嵌入表示，确定所述特征数据组对应的嵌入表示序列。

例如，对于表1中的特征数据组1，获取特征数据组1对应的各个特征值的embedding为embedding11、embedding21、embedding31，将embedding11、embedding21、embedding31进行拼接，得到特征数据组1对应的嵌入表示序列{embedding11-embedding21-embedding31}。

步骤S104，将所述特征数据组对应的嵌入表示序列输入所述编码层，得到所述特征数据组对应的语义向量序列。

可以理解的是，将特征数据组对应的嵌入表示序列输入至所述编码层，使得编码层根据嵌入表示序列输出语义向量序列，本申请实施例将语义向量序列记为E。

示例性的，编码器可以采用BERT模型作为编码器。当然，具体实现时还可采用其他类型的编码器，本申请实施例对编码器的具体类型不作限定。

步骤S105，将所述特征数据组对应的语义向量序列输入所述输出层，得到所述特征数据组对应的预测结果。

可以理解的是，将所述特征数据组对应的语义向量序列输入所述输出层，使得输出层根据语义向量序列进行预测，输出各个分类的概率，并根据具有最大概率的分类确定预测结果。

在一个实施例中，所述特征数据组对应的所述语义向量序列包括多个语义向量，每个语义向量对应一个特征类型；所述将所述特征数据组对应的语义向量序列输入所述输出层，得到所述特征数据组对应的预测结果，包括：

步骤S401,对所述特征数据组对应的所述语义向量序列中的多个语义向量进行求平均计算，得到所述特征数据组对应的语义向量表示；

步骤S402，将所述语义向量表示输入所述输出层，得到所述输出层输出的预测结果。

步骤S106，根据所述特征数据组对应的所述预测结果和所述标注标签确定损失值，并根据所述损失值训练所述神经网络分类模型，以获得目标神经网络分类模型。

可以理解的是，在获得特征数据组对应的所述预测结果之后，将特征数据组对应的所述预测结果与标注标签进行比较，以计算损失值，进而根据损失值对神经网络分类模型进行训练。

示例性的，对于二分类场景，所述特征数据组对应的标注标签为0或者1，对应的，根据所述特征数据组对应的所述预测结果和所述标注标签确定损失值，通过以下公式计算得到：

loss＝-y*log(p)-(1-y)*log(1-p)；

其中，loss表示损失值，p表示所述输出层输出的预测概率，y表示所述特征数据组分别对应的标注标签。

在一实施例中，根据所述损失值训练所述神经网络分类模型，以获得目标神经网络分类模型，包括：

步骤S501，判断所述损失值是否小于或等于预设的损失值阈值；

步骤S502，若所述损失值小于或等于预设的损失值阈值，结束训练，得到所述目标神经网络分类模型；

步骤S503，若所述损失值大于预设的损失值阈值，更新所述神经网络分类模型的模型参数，并根据所述表格数据样本继续训练所述神经网络分类模型。

可以理解的是，根据损失值对神经网络分类模型进行训练包括：将损失值与预设的损失阈值确定是否满足神经网络分类模型的训练结束条件，如果满足训练结束条件，将当前的神经网络分类模型作为目标神经网络分类模型；如果不满足训练结束条件，那么根据损失值调整神经网络分类模型的模型参数,基于表格数据样本重新训练神经网络分类模型。

步骤S107，获取目标表格数据，并将所述目标表格数据输入所述目标神经网络分类模型，得到分类预测结果。

可以理解的是，在获得目标神经网络分类模型之后，即可利用目标神经网络分类模型执行基于表格数据的分类预测任务。具体的，将目标表格数据输入目标神经网络分类模型中，使得目标神经网络分类模型先对目标表格数据进行特征提取，输出目标表格数据对应的语义嵌入向量，然后根据语义嵌入向量进行分类预测，输出对应的分类预测结果。

下面通过具体示例对本申请实施例提供的基于表格数据的分类预测方法进行详细说明。

示例性的，表2是本申请实施例提供的一个示例性的表格数据。表2所示的表格数据中的首行展示了多个特征类型，分别是“性别”、“年龄”、“职业”，每个特征类型下是对应的特征值。表格数据样本中除首行之外的其他行展示了多个用户分别对应的特征数据组，特征数据组中的特征值分别与一个特征类型对应。每个特征数据组具有对应的标注标签，例如表2中，用户1对应的标注标签为0。

表2

本示例将表2作为目标表格数据，包括以下步骤：

步骤S601,针对目标表格数据中的每个所述特征值，获取所述特征值的统计信息；例如，对于性别“男”这一特征值，统计特征值“男”在标签0、标签1分别出现的次数，以及统计特征值“男”在目标表格数据中的总出现次数；

步骤S602，针对目标表格数据中的每个所述特征值，将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入到目标神经网络分类模型；例如，对于用户1的性别特征值，将特征值取值“男”、特征值类型“性别”、特征值取值“男”在标签0出现的次数、特征值取值“男”在标签1出现的次数、特征值取值“男”出现的总次数输入到目标神经网络分类模型的嵌入层；

步骤S603，通过嵌入层输出每个所述特征值对应的嵌入表示；例如，针对输入的特征值取值“男”、特征值类型“性别”、特征值取值“男”在标签0出现的次数、特征值取值“男”在标签1出现的次数、特征值取值“男”出现的总次数，确定分别对应的嵌入表示：然后计算这些嵌入表示的均值，得到特征值对应的嵌入表示；

步骤S604，针对目标表格数据中的每个用户，将所述用户对应的多个特征值的嵌入表示进行拼接，得到所述用户对应的嵌入表示序列；

步骤S605，将所述用户对应的嵌入表示序列输入到目标神经网络分类模型的编码层，使得编码层输出所述用户对应的语义向量序列；

步骤S606，将所述用户对应的语义向量序列输入到目标神经网络分类模型的输出层，得到所述用户对应的预测标签。

本申请实施例提供的方案，首先针对表格数据样本中的每个所述特征值，将特征值、特征值对应的特征类型、特征值对应的统计信息输入神经网络分类模型的嵌入层，得到特征值对应的嵌入表示；然后根据特征数据组中各个特征值对应的嵌入表示，确定特征数据组对应的嵌入表示序列；将特征数据组对应的嵌入表示序列输入神经网络分类模型的编码层，得到特征数据组对应的语义向量序列；将特征数据组对应的语义向量序列输入神经网络分类模型的输出层，得到特征数据组对应的预测结果；根据特征数据组对应的预测结果和标注标签确定损失值，并根据损失值训练神经网络分类模型，以获得目标神经网络分类模型；获取目标表格数据，并将目标表格数据输入目标神经网络分类模型，得到分类预测结果。通过上述方案，使得神经网络模型能像树模型一样了解特征的全局统计信息，提升神经网络模型基于表格数据执行分类预测任务时的性能和准确度。

本申请实施例可以的目标任务模型应用于电商场景中。例如，将目标对象的对象属性信息采用表格模态记录，然后将表格模态的对象属性信息输入目标任务模型，通过目标任务模型对表格模态的对象属性信息进行特征提取，获得对应的语义嵌入向量，再根据语义嵌入向量进行召回预测，输出与目标对象对应的召回预测结果，最后根据召回预测结果获取与目标对象对应的召回文本。

请参见图5，图5是本申请实施例提供的一种基于人工智能的分类预测装置，所述装置包括：

第一获取模块801，用于获取神经网络分类模型和表格数据样本，其中，所述神经网络分类模型包括嵌入层、编码层和输出层，所述表格数据样本中包括多个特征类型、多个特征数据组、所述多个特征数据组分别对应的标注标签，每个所述特征数据组包括多个特征值，所述多个特征值与所述多个特征类型为一一对应的关系；

第一输入模块802，用于对于所述表格数据样本中的每个所述特征值，将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层，得到所述特征值对应的嵌入表示，其中，所述统计信息是在所述表格数据样本中对所述特征值对应的标注标签进行统计得到；

第一确定模块803，用于根据所述特征数据组中各个所述特征值对应的嵌入表示，确定所述特征数据组对应的嵌入表示序列；

第二输入模块804，用于将所述特征数据组对应的嵌入表示序列输入所述编码层，得到所述特征数据组对应的语义向量序列；

第三输入模块805，用于将所述特征数据组对应的语义向量序列输入所述输出层，得到所述特征数据组对应的预测结果；

第二确定模块806，用于根据所述特征数据组对应的所述预测结果和所述标注标签确定损失值，并根据所述损失值训练所述神经网络分类模型，以获得目标神经网络分类模型；

预测模块807，用于获取目标表格数据，并将所述目标表格数据输入所述目标神经网络分类模型，得到分类预测结果。

该分类预测装置的具体实施方式与上述分类预测方法的具体实施例基本相同，在此不再赘述。

本申请实施例还提供了一种电子设备，电子设备包括括存储器和处理器，存储器存储有计算机程序或指令，处理器执行计算机程序或指令时实现上述分类预测方法。该电子设备可以是服务器或者智能终端。

请参见图6，图6示意了电子设备的硬件结构，电子设备包括：

处理器1010，可以采用通用的中央处理器(Central Processing Unit，CPU)、微处理器、应用专用集成电路(Application Specific Integrated Circuit，ASIC)、或者一个或多个集成电路等方式实现，用于执行相关程序，以实现本申请实施例所提供的技术方案；

存储器1020，可以采用只读存储器(Read Only Memory，ROM)、静态存储设备、动态存储设备或者随机存取存储器(Random Access Memory，RAM)等形式实现。存储器1020可以存储操作***和其他应用程序，在通过软件或者固件来实现本说明书实施例所提供的技术方案时，相关的程序代码保存在存储器1020中，并由处理器1010来调用执行本申请实施例的分类预测方法；

输入/输出接口1030，用于实现信息输入及输出；

通信接口1040，用于实现本设备与其他设备的通信交互，可以通过有线方式(例如USB、网线等)实现通信，也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信；

总线1050，在设备的各个组件(例如处理器1010、存储器1020、输入/输出接口1030和通信接口1040)之间传输信息；

其中处理器1010、存储器1020、输入/输出接口1030和通信接口1040通过总线1050实现彼此之间在设备内部的通信连接。

本申请实施例还提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序或指令，该计算机程序或指令被处理器执行时实现上述分类预测方法。

存储器作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外，存储器可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中，存储器可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案，并不构成对于本申请实施例提供的技术方案的限定，本领域技术人员可知，随着技术的演变和新应用场景的出现，本申请实施例提供的技术方案对于类似的技术问题，同样适用。

本领域技术人员可以理解的是，图中示出的技术方案并不构成对本申请实施例的限定，可以包括比图示更多或更少的步骤，或者组合某些步骤，或者不同的步骤。

以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、***、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。

本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

应当理解，在本申请中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：只存在A，只存在B以及同时存在A和B三种情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。

在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，上述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括多指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例的方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random Access Memory，简称RAM)、磁碟或者光盘等各种可以存储程序的介质。

以上参照附图说明了本申请实施例的优选实施例，并非因此局限本申请实施例的权利范围。本领域技术人员不脱离本申请实施例的范围和实质内所作的任何修改、等同替换和改进，均应在本申请实施例的权利范围之内。

Claims (10)

1.一种基于表格数据的分类预测方法，其特征在于，所述方法包括以下步骤：

获取神经网络分类模型和表格数据样本，其中，所述神经网络分类模型包括嵌入层、编码层和输出层，所述表格数据样本中包括多个特征类型、多个特征数据组、所述多个特征数据组分别对应的标注标签，每个所述特征数据组包括多个特征值，所述多个特征值与所述多个特征类型为一一对应的关系；

对于所述表格数据样本中的每个所述特征值，将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层，得到所述特征值对应的嵌入表示，其中，所述统计信息是在所述表格数据样本中对所述特征值对应的标注标签进行统计得到；

根据所述特征数据组中各个所述特征值对应的嵌入表示，确定所述特征数据组对应的嵌入表示序列；

将所述特征数据组对应的嵌入表示序列输入所述编码层，得到所述特征数据组对应的语义向量序列；

将所述特征数据组对应的语义向量序列输入所述输出层，得到所述特征数据组对应的预测结果；

根据所述特征数据组对应的所述预测结果和所述标注标签确定损失值，并根据所述损失值训练所述神经网络分类模型，以获得目标神经网络分类模型；

获取目标表格数据，并将所述目标表格数据输入所述目标神经网络分类模型，得到分类预测结果。

2.根据权利要求1所述的基于表格数据的分类预测方法，其特征在于，在将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层之前，所述方法还包括：

对所述特征值在各个类别的标注标签中出现的次数进行统计，得到各个类别的标注标签对应的统计信息；

对所述特征值在所有所述特征数据组中出现的次数进行统计，得到全样本统计信息；

根据各个类别的标注标签对应的统计信息、所述全样本统计信息得到所述特征值对应的统计信息。

3.根据权利要求2所述的基于表格数据的分类预测方法，其特征在于，所述将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层，得到所述特征值对应的嵌入表示，包括：

将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的各个类别的标注标签对应的统计信息、所述特征值对应的全样本统计信息输入所述嵌入层，得到所述嵌入层输出的特征值嵌入表示、特征类型嵌入表示、各个类别的标注标签统计信息嵌入表示和全样本统计信息嵌入表示；

对所述特征值嵌入表示、所述特征类型嵌入表示、各个类别的所述标注标签统计信息嵌入表示和所述全样本统计信息嵌入表示进行求平均计算，得到所述特征值对应的嵌入表示。

4.根据权利要求1所述的基于表格数据的分类预测方法，其特征在于，所述将所述特征数据组对应的语义向量序列输入所述输出层，得到所述特征数据组对应的预测结果，包括：

对所述特征数据组对应的所述语义向量序列中的多个语义向量进行求平均计算，得到所述特征数据组对应的语义向量表示；

将所述语义向量表示输入所述输出层，得到所述输出层输出的预测结果。

5.根据权利要求4所述的基于表格数据的分类预测方法，其特征在于，所述特征数据组分别对应的标注标签为0或者1；所述根据所述特征数据组对应的所述预测结果和所述标注标签确定损失值，通过以下公式计算得到：

loss＝-y*log(p)-(1-y)*log(1-p)；

其中，loss表示损失值，p表示所述输出层输出的预测概率，y表示所述特征数据组分别对应的标注标签。

6.根据权利要求1所述的基于表格数据的分类预测方法，其特征在于，所述特征值包括离散型特征值和数值型特征值；在将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层之前，所述方法还包括：

当所述特征值为数值型特征值，根据预设的映射关系确定所述特征值对应的数值区间；

根据所述特征值对应的数值区间，将所述特征值从所述数值型特征值转换为所述离散型特征值。

7.根据权利要求1所述的基于表格数据的分类预测方法，其特征在于，所述根据所述损失值训练所述神经网络分类模型，以获得目标神经网络分类模型，包括：

判断所述损失值是否小于或等于预设的损失值阈值；

若所述损失值小于或等于预设的损失值阈值，结束训练，得到所述目标神经网络分类模型；

若所述损失值大于预设的损失值阈值，更新所述神经网络分类模型的模型参数，并根据所述表格数据样本继续训练所述神经网络分类模型。

8.一种基于表格数据的分类预测装置，其特征在于，所述装置包括：

第一获取模块，用于获取神经网络分类模型和表格数据样本，其中，所述神经网络分类模型包括嵌入层、编码层和输出层，所述表格数据样本中包括多个特征类型、多个特征数据组、所述多个特征数据组分别对应的标注标签，每个所述特征数据组包括多个特征值，所述多个特征值与所述多个特征类型为一一对应的关系；

第一输入模块，用于对于所述表格数据样本中的每个所述特征值，将所述特征值、所述特征值对应的所述特征类型、所述特征值对应的统计信息输入所述嵌入层，得到所述特征值对应的嵌入表示，其中，所述统计信息是在所述表格数据样本中对所述特征值对应的标注标签进行统计得到；

第一确定模块，用于根据所述特征数据组中各个所述特征值对应的嵌入表示，确定所述特征数据组对应的嵌入表示序列；

第二输入模块，用于将所述特征数据组对应的嵌入表示序列输入所述编码层，得到所述特征数据组对应的语义向量序列；

第三输入模块，用于将所述特征数据组对应的语义向量序列输入所述输出层，得到所述特征数据组对应的预测结果；

第二确定模块，用于根据所述特征数据组对应的所述预测结果和所述标注标签确定损失值，并根据所述损失值训练所述神经网络分类模型，以获得目标神经网络分类模型；

预测模块，用于获取目标表格数据，并将所述目标表格数据输入所述目标神经网络分类模型，得到分类预测结果。

9.一种电子设备，其特征在于，包括存储器和处理器，所述存储器存储有计算机程序或指令，所述处理器执行所述计算机程序或指令时实现权利要求1至7中任一项所述的方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序或指令，所述计算机程序或指令被处理器执行时实现如权利要求1至7中任一项所述的方法。