CN111782950A - 样本数据集获取方法、装置、设备及存储介质 - Google Patents

样本数据集获取方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN111782950A
CN111782950A CN202010616445.8A CN202010616445A CN111782950A CN 111782950 A CN111782950 A CN 111782950A CN 202010616445 A CN202010616445 A CN 202010616445A CN 111782950 A CN111782950 A CN 111782950A
Authority
CN
China
Prior art keywords
sample data
initial
search
negative sample
click
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010616445.8A
Other languages
English (en)
Inventor
王步霖
杨一帆
李悦
郭圣昱
屠川川
陶然
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Sankuai Online Technology Co Ltd
Original Assignee
Beijing Sankuai Online Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Sankuai Online Technology Co Ltd filed Critical Beijing Sankuai Online Technology Co Ltd
Priority to CN202010616445.8A priority Critical patent/CN111782950A/zh
Publication of CN111782950A publication Critical patent/CN111782950A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines
    • G06F16/9535Search customisation based on user profiles and personalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines
    • G06F16/9538Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了一种样本数据集获取方法、装置、设备及存储介质,属于互联网技术领域。方法包括:获取任一搜索词对应的第一样本数据集,根据同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,选取至少一个目标负样本数据;根据用户标识的历史点击率,选取至少一个目标正样本数据,将目标负样本数据和目标正样本数据构成任一搜索词对应的第二样本数据集,第二样本数据集用于对排序模型进行训练。减少了负样本数据的数量,避免了负样本数据的数量远大于正样本数据的数量,从而避免了后续训练的排序模型更偏向于负样本数据特征的情况。后续采用第二样本数据集对排序模型进行训练,提高了排序模型的准确性。

Description

样本数据集获取方法、装置、设备及存储介质
技术领域
本申请涉及互联网技术领域,特别涉及一种样本数据集获取方法、装置、设备及存储介质。
背景技术
为了保证搜索结果的准确性,在进行搜索时通常会调用排序模型,对搜索得到的多条数据进行排序。而如何训练准确的排序模型成为亟待解决的问题。
相关技术中,对于任一个用户,当用户基于搜索词进行搜索得到至少一条数据后,显示的每条数据均可看作是用户看到的数据,可以作为样本数据,如果用户点击了显示的任一条数据,则将该数据记录为正样本数据,如果用户没有点击显示的任一条数据,则将该数据记录为负样本数据,则采用上述方式可以基于用户的点击行为获取正样本数据和负样本数据,再根据正样本数据和负样本数据训练排序模型,得到训练后的排序模型。
但是,由于用户浏览数据的数量会远大于点击数据的数量,因此采用上述方式获取的正样本数据远少于负样本数据,在训练排序模型的过程中,排序模型学习的特征会更偏向于负样本数据的特征,导致训练得到的排序模型准确率低。
发明内容
本申请实例提供了一种样本数据集获取方法、装置、设备及存储介质,解决了相关技术存在的问题。所述技术方案如下:
一方面,提供了一种样本数据集获取方法,所述方法包括:
获取任一搜索词对应的第一样本数据集,所述第一样本数据集中包括多个初始正样本数据和多个初始负样本数据,所述初始正样本数据为所述搜索词对应的搜索结果界面中发生点击行为的数据,所述初始负样本数据为所述搜索词对应的搜索结果界面中未发生点击行为的数据;
根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从所述多个初始负样本数据中选取至少一个目标负样本数据;
根据每个初始正样本数据对应的用户标识的历史点击率,从所述多个初始正样本数据选取至少一个目标正样本数据;
将选取的所述至少一个目标负样本数据和所述至少一个目标正样本数据构成所述任一搜索词对应的第二样本数据集,所述第二样本数据集用于对排序模型进行训练。
在一种可能实现方式中,所述根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从所述多个初始负样本数据中选取至少一个目标负样本数据,包括:
将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为所述搜索结果界面的目标位置;
若所述搜索结果界面中包括位于所述目标位置之前的初始负样本数据,将位于所述目标位置之前的初始负样本数据确定为所述目标负样本数据。
在另一种可能实现方式中,所述方法还包括:
若所述搜索结果界面中还包括位于所述目标位置之后的初始负样本数据,从所述位于所述目标位置之后第一数量的初始负样本数据中,获取第二数量的初始负样本数据作为所述目标负样本数据,所述第二数量与所述第一数量之间的比例为预设比例,所述预设比例小于1。
在另一种可能实现方式中,所述根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从所述多个初始负样本数据中选取至少一个目标负样本数据,包括:
将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为所述搜索结果界面的目标位置;
若所述任一初始负样本数据位于所述目标位置之前,则将所述任一初始负样本数据确定为所述目标负样本数据。
在另一种可能实现方式中,所述根据每个初始正样本数据对应的用户标识的历史点击率,从所述多个初始正样本数据选取至少一个目标正样本数据之前,所述方法还包括:
获取任一用户标识的至少一条搜索记录和至少一条点击记录,所述搜索记录包括所述任一用户标识对应的至少一条数据,所述点击记录包括对应的搜索记录中发生点击行为的数据;
根据所述至少一条搜索记录和所述至少一条点击记录,确定所述任一用户标识的历史点击率。
在另一种可能实现方式中,根据所述至少一条搜索记录和所述至少一条点击记录,确定所述任一用户标识的历史点击率,包括:
将所述至少一条搜索记录中,存在点击记录的搜索记录的数量确定为搜索点击次数,将每条点击记录中包括的数据的数量确定为所述每条点击记录的点击次数;
根据所述搜索点击次数和所述每条点击记录的点击次数,确定所述任一用户标识的历史点击率。
在另一种可能实现方式中,所述根据所述搜索点击次数和所述每条点击记录的点击次数,确定所述任一用户标识的历史点击率,包括:
采用下述公式,确定任一用户标识的历史点击率:
Figure BDA0002563885030000021
其中,Q为所述任一用户标识的搜索点击次数,Ii为第i条搜索记录对应的点击记录的点击次数,Ni为所述任一用户标识的历史平均点击次数,
Figure BDA0002563885030000022
为所述任一用户标识的历史点击率。
在另一种可能实现方式中,所述方法还包括:
根据所述第二样本数据集中的所述至少一个目标负样本数据和所述至少一个目标正样本数据,训练所述排序模型,所述排序模型用于对根据任一搜索词搜索得到的多条数据进行排序。
在另一种可能实现方式中,所述方法还包括:
根据当前输入的搜索词获取搜索数据集合,所述搜索数据集合中包括多条数据;
调用所述排序模型,对所述多条数据进行排序,得到所述多条数据的排列顺序;
在所述搜索词对应的搜索结果界面中,按照所述排列顺序显示所述多条数据。
另一方面,提供了一种样本数据集获取装置,所述装置包括:
数据集获取模块,用于获取任一搜索词对应的第一样本数据集,所述第一样本数据集中包括多个初始正样本数据和多个初始负样本数据,所述初始正样本数据为所述搜索词对应的搜索结果界面中发生点击行为的数据,所述初始负样本数据为所述搜索词对应的搜索结果界面中未发生点击行为的数据;
第一选取模块,用于根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从所述多个初始负样本数据中选取至少一个目标负样本数据;
第二选取模块,用于根据每个初始正样本数据对应的用户标识的历史点击率,从所述多个初始正样本数据选取至少一个目标正样本数据;
构成模块,用于将选取的所述至少一个目标负样本数据和所述至少一个目标正样本数据构成所述任一搜索词对应的第二样本数据集,所述第二样本数据集用于对排序模型进行训练。
在一种可能实现方式中,所述第一选取模块,包括:
位置确定单元,用于将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为所述搜索结果界面的目标位置;
选取单元,用于若所述搜索结果界面中包括位于所述目标位置之前的初始负样本数据,将位于所述目标位置之前的初始负样本数据确定为所述目标负样本数据。
在另一种可能实现方式中,所述选取单元,还用于若所述搜索结果界面中还包括位于所述目标位置之后的初始负样本数据,从所述位于所述目标位置之后第一数量的初始负样本数据中,获取第二数量的初始负样本数据作为所述目标负样本数据,所述第二数量与所述第一数量之间的比例为预设比例,所述预设比例小于1。
在另一种可能实现方式中,所述第一选取模块,包括:
位置确定单元,用于将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为所述搜索结果界面的目标位置;
选取单元,用于若所述任一初始负样本数据位于所述目标位置之前,则将所述任一初始负样本数据确定为所述目标负样本数据。
在另一种可能实现方式中,所述装置还包括:
记录获取模块,用于获取任一用户标识的至少一条搜索记录和至少一条点击记录,所述搜索记录包括所述任一用户标识对应的至少一条数据,所述点击记录包括对应的搜索记录中发生点击行为的数据;
点击率确定模块,用于根据所述至少一条搜索记录和所述至少一条点击记录,确定所述任一用户标识的历史点击率。
在另一种可能实现方式中,所述点击率确定模块,包括:
次数确定单元,用于将所述至少一条搜索记录中,存在点击记录的搜索记录的数量确定为搜索点击次数,将每条点击记录中包括的数据的数量确定为所述每条点击记录的点击次数;
点击率确定单元,用于根据所述搜索点击次数和所述每条点击记录的点击次数,确定所述任一用户标识的历史点击率。
在另一种可能实现方式中,所述点击率确定单元,用于采用下述公式,确定任一用户标识的历史点击率:
Figure BDA0002563885030000031
其中,Q为所述任一用户标识的搜索点击次数,Ii为第i条搜索记录对应的点击记录的点击次数,Ni为所述任一用户标识的历史平均点击次数,
Figure BDA0002563885030000032
为所述任一用户标识的历史点击率。
在另一种可能实现方式中,所述装置还包括:
训练模块,用于根据所述第二样本数据集中的所述至少一个目标负样本数据和所述至少一个目标正样本数据,训练所述排序模型,所述排序模型用于对根据任一搜索词搜索得到的多条数据进行排序。
在另一种可能实现方式中,所述装置还包括:
数据集合获取模块,用于根据当前输入的搜索词获取搜索数据集合,所述搜索数据集合中包括多条数据;
排序模块,用于调用所述排序模型,对所述多条数据进行排序,得到所述多条数据的排列顺序;
显示模块,用于在所述搜索词对应的搜索结果界面中,按照所述排列顺序显示所述多条数据。
另一方面,提供了一种计算机设备,所述计算机设备包括一个或多个处理器和一个或多个存储器,所述一个或多个存储器中存储有至少一条指令,所述至少一条指令由所述一个或多个处理器加载并执行以实现如上述方面所述样本数据集获取方法所执行的操作。
另一方面,提供了一种计算机可读存储介质,所述存储介质中存储有至少一条指令,所述至少一条指令由处理器加载并执行以实现如上述方面所述的样本数据集获取方法所执行的操作。
另一方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。所述计算机指令由处理器加载并执行以实现如上述方面所述的样本数据集获取方法所执行的操作。
本申请实施例提供的样本数据集获取方法、装置、设备及存储介质,搜索词对应的搜索结果界面中发生点击行为的数据为正样本数据,而在搜索结果界面中未发生点击行为的数据为负样本数据,由于正样本数据为用户查看过的数据,可靠性高,根据正样本数据在搜索结果界面中的位置选取负样本数据,不仅提高了所选取的负样本数据的可靠性,而且还减少了负样本数据的数量,避免了负样本数据的数量远大于正样本数据的数量,从而避免了后续训练的排序模型更偏向于负样本数据特征的情况。并且根据用户标识的历史点击率选取正样本数据,提高了所选取的正样本数据的可靠性。由于选取的正样本数据和负样本数据的可靠性提高,后续采用所选取的正样本数据和负样本数据对排序模型进行训练,提高了排序模型的准确性。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种实施环境的结构示意图;
图2是本申请实施例提供的一种样本数据集获取方法的流程图;
图3是本申请实施例提供的一种样本数据集获取方法的流程图;
图4是本申请实施例提供的一种搜索结果界面的示意图;
图5是本申请实施例提供的一种搜索结果界面的示意图;
图6是本申请实施例提供的一种搜索结果界面的示意图;
图7是本申请实施例提供的一种样本数据集获取方法的流程图;
图8是本申请实施例提供的一种样本数据集获取装置的结构示意图;
图9是本申请实施例提供的另一种样本数据集获取装置的结构示意图;
图10是本申请实施例提供的一种终端的结构示意图;
图11是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
本申请提供的样本数据集获取方法,可以从样本数据集中的多条初始正样本数据和多条初始负样本数据中获取至少一条目标负样本数据和至少一条目标正样本数据,从而能够提高训练的排序模型的准确性,且可以应用于下述场景中:
例如,本申请提供的样本数据集获取方法,应用于搜索场景中,当任一用户需要查看某些数据时,需要在终端中输入搜索词,终端基于搜索词获取对应的多条数据,按照一定的排列顺序排列显示多条数据,而采用本申请实施例提供的方法,根据获取的样本数据集对排序模型进行训练,然后调用排序模型对多条数据进行排序,进而按照确定的排列顺序显示多条数据,以供用户查看。
另外,本申请实施例提供的方法应用于电子设备中,该电子设备可以包括终端,还可以包括服务器。
图1示出了本申请实施例的实施环境结构示意图,参见图1,该实施环境包括终端101和服务器102,终端101与服务器102之间通过通信网络连接,当终端101根据用户输入的搜索词获取多条数据后,根据用户的点击操作,获取包括多条初始正样本数据和多条初始负样本数据的第一样本数据集,将第一样本数据集发送给服务器102,服务器102根据第一样本数据集,获取至少一条目标正样本数据和至少一条负样本数据,后续根据该至少一条正样本数据和至少一条负样本数据训练排序模型。
其中,该终端可以为手机、平板电脑、计算机等多种类型的终端,该服务器可以为一台服务器、或者由若干服务器组成的服务器集群,或者是一个云计算服务中心。
图2是本申请实施例提供的一种样本数据集获取方法的流程图,参见图2,该方法包括:
201、获取任一搜索词对应的第一样本数据集。
其中,第一样本数据集中包括多个初始正样本数据和多个初始负样本数据,初始正样本数据为搜索词对应的搜索结果界面中发生点击行为的数据,初始负样本数据为搜索词对应的搜索结果界面中未发生点击行为的数据。
202、根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从多个初始负样本数据中选取至少一个目标负样本数据。
203、根据每个初始正样本数据对应的用户标识的历史点击率,从多个初始正样本数据选取至少一个目标正样本数据。
204、将选取的至少一个目标负样本数据和至少一个目标正样本数据构成任一搜索词对应的第二样本数据集,第二样本数据集用于对排序模型进行训练。
本申请实施例提供的方法,搜索词对应的搜索结果界面中发生点击行为的数据为正样本数据,而在搜索结果界面中未发生点击行为的数据为负样本数据,由于正样本数据为用户查看过的数据,可靠性高,根据正样本数据在搜索结果界面中的位置选取负样本数据,不仅提高了所选取的负样本数据的可靠性,而且还减少了负样本数据的数量,避免了负样本数据的数量远大于正样本数据的数量,从而避免了后续训练的排序模型更偏向于负样本数据特征的情况。并且根据用户标识的历史点击率选取正样本数据,提高了所选取的正样本数据的可靠性。由于选取的正样本数据和负样本数据的可靠性提高,后续采用所选取的正样本数据和负样本数据对排序模型进行训练,提高了排序模型的准确性。
在一种可能实现方式中,根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从多个初始负样本数据中选取至少一个目标负样本数据,包括:
将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为搜索结果界面的目标位置;
若搜索结果界面中包括位于目标位置之前的初始负样本数据,将位于目标位置之前的初始负样本数据确定为目标负样本数据。
在另一种可能实现方式中,方法还包括:
若搜索结果界面中还包括位于目标位置之后的初始负样本数据,从位于目标位置之后第一数量的初始负样本数据中,获取第二数量的初始负样本数据作为目标负样本数据,第二数量与第一数量之间的比例为预设比例,预设比例小于1。
在另一种可能实现方式中,根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从多个初始负样本数据中选取至少一个目标负样本数据,包括:
将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为搜索结果界面的目标位置;
若任一初始负样本数据位于目标位置之前,则将任一初始负样本数据确定为目标负样本数据。
在另一种可能实现方式中,根据每个初始正样本数据对应的用户标识的历史点击率,从多个初始正样本数据选取至少一个目标正样本数据之前,方法还包括:
获取任一用户标识的至少一条搜索记录和至少一条点击记录,搜索记录包括任一用户标识对应的至少一条数据,点击记录包括对应的搜索记录中发生点击行为的数据;
根据至少一条搜索记录和至少一条点击记录,确定任一用户标识的历史点击率。
在另一种可能实现方式中,根据至少一条搜索记录和至少一条点击记录,确定任一用户标识的历史点击率,包括:
将至少一条搜索记录中,存在点击记录的搜索记录的数量确定为搜索点击次数,将每条点击记录中包括的数据的数量确定为每条点击记录的点击次数;
根据搜索点击次数和每条点击记录的点击次数,确定任一用户标识的历史点击率。
在另一种可能实现方式中,根据搜索点击次数和每条点击记录的点击次数,确定任一用户标识的历史点击率,包括:
采用下述公式,确定任一用户标识的历史点击率:
Figure BDA0002563885030000061
其中,Q为任一用户标识的搜索点击次数,Ii为第i条搜索记录对应的点击记录的点击次数,Ni为任一用户标识的历史平均点击次数,
Figure BDA0002563885030000062
为任一用户标识的历史点击率。
在另一种可能实现方式中,方法还包括:
根据至少一个目标负样本数据和至少一个目标正样本数据,训练排序模型,排序模型用于对根据任一搜索词搜索得到的多条数据进行排序。
在另一种可能实现方式中,方法还包括:
根据当前输入的搜索词获取搜索数据集合,搜索数据集合中包括多条数据;
调用排序模型,对多条数据进行排序,得到多条数据的排列顺序;
在搜索词对应的搜索结果界面中,按照排列顺序显示多条数据。
图3是本申请实施例提供的一种样本数据集获取方法的流程图,参见图3,应用于电子设备中,该方法包括:
301、获取任一搜索词对应的第一样本数据集。
本申请实施例中,用户可以基于搜索词搜索与该搜索词对应的多条数据,这些数据在用户的终端中进行显示时,需要按照一定的排序顺序进行显示。其中一种方式就是调用训练好的排序模型,对搜索得到的多条数据进行排序,得到多条数据的排列顺序,然后终端按照排列顺序显示这多条数据,用户即可通过终端观看这些数据,并且还可以对这多条数据执行点击操作。
由于排序模型需要采用样本数据进行训练,并且获取的样本数据的好坏直接影响到排序模型的准确率,因此,为了提高获取的样本数据的质量,本申请实施例采用筛选样本数据的方式获取到目标正样本数据和目标负样本数据后,可以保证采用这些目标正样本数据和目标负样本数据训练得到的排序模型的准确性。
其中,该搜索词为任一用户在搜索过程中输入的任一词语,例如可以为“茶水”、“下午茶”、“午餐”等等。
第一样本数据集中包括多个初始正样本数据和多个初始负样本数据,初始正样本数据为搜索词对应的搜索结果界面中发生点击行为的数据,初始负样本数据为搜索词对应的搜索结果界面中未发生点击行为的数据。
可选地,该第一样本数据集中包括多个用户标识基于同一搜索词获取的多个初始正样本数据和多个初始负样本数据。或者,该第一样本数据集中包括一个用户标识基于搜索词获取的多个初始正样本数据和多个初始负样本数据。
第一样本数据集可以基于搜索过程获取,其中在一次搜索过程中,终端检测到用户输入的搜索词后,基于该搜索词进行搜索,然后将搜索得到的多条数据显示在搜索结果界面中,当用户对多条数据中的任一条数据执行点击操作时,终端即可检测到该任一数据的点击操作,将该数据确定为初始正样本数据,而用户未执行点击操作的数据,终端将这些数据确定为初始负样本数据,按照上述方式,终端可以确定多条初始正样本数据和多条负样本数据,构成第一样本数据集。
可选地,该搜索结果界面可以是一个列表页面,在该列表页面中包括多个按照顺序排序好的数据,用户通过下拉该列表页面,可以查看更多的数据。另外,在搜索结果界面中还包括异构文档,该异构文档为由多个图片组成的文档。用户可以通过对任一图片触发操作,查看该图片对应的内容。并且,用户还可以在该异构文档中进行左右滑动,从而可以查看异构文档中的不同内容。
例如,当用户输入“下午茶”搜索词时,在搜索界面中即可显示如图4所示的多条数据,并且,当在该搜索界面中检测到对任一数据的点击操作后,即可将该数据确定为初始正样本数据,将未检测到触发操作的数据确定为初始负样本数据。另外,上述第一个图片对应的文档为正常的文档,该图片下面并列的两个图片构成异构文档。
可选地,终端中安装有应用程序,用户可以打开该应用程序的搜索功能,然后在该应用程序中进行搜索,以在该应用程序的搜索结果界面中显示搜索得到的多个数据。
其中,该应用程序可以为物品推荐程序、商家推荐程序、或者其他类型的推荐程序等等。
在一种可能实现方式中,由于获取到的初始正样本数据和初始负样本数据均是基于搜索词进行搜索得到的,因此这些初始正样本数据和初始负样本数据中均包括搜索词。
或者,终端基于用户标识登录后,才基于搜索词进行搜索,得到搜索的多个数据,然后根据用户的点击行为,获取初始正样本数据和初始负样本数据,因此对于获取到的初始正样本数据和初始负样本数据,均对应有用户标识。
302、根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从多个初始负样本数据中选取至少一个目标负样本数据。
其中,搜索结果界面为终端基于搜索词进行搜索后,将搜索得到的数据进行显示的界面。
用户基于某一搜索词进行搜索后,一般情况下用户点击搜索得到的数据的数量会远小于未点击的数据的数量,因此,如果根据大量的用户标识进行搜索的搜索行为,获取得到第一样本数据集后,由于该第一样本数据集中的数据均为用户标识在搜索过程中获取的,一般情况下该第一样本数据集中的初始正样本数据的数量也会远小于初始负样本数据的数量,因此,需要对初始负样本数据进行筛选,减少初始负样本数据的数量。
并且,由于不同用户使用的终端不同,也就是不同的终端对应的搜索结果界面不同,则不同的终端基于搜索词进行搜索后,显示的数据显示在不同的搜索结果界面中,则对初始正样本数据和初始负样本数据进行处理时,需要先确定初始正样本数据和初始负样本数据所在的搜索结果界面,后续再根据不同的搜索结果界面确定目标负样本数据。
每个初始负样本数据和每个初始正样本数据均显示在所属的搜索结果界面中,则每个初始负样本数据和每个初始正样本数据在所属的搜索结果界面中均具有位置,在搜索结果界面中的初始正样本数据均被用户查看,则根据这些被查看的初始正样本数据在所属搜索结果界面中的位置,选取目标负样本数据。
例如,如图4所示的搜索界面中,按照由上到下的顺序,显示有3个文档,第一个文档的位置可以认为是位置1,第二个文档的位置可以认为是位置2,第三个文档的位置可以认为是位置3。
在获取第一样本数据集的过程中,是根据用户在搜索界面中的点击行为获取的初始负样本数据和初始正样本数据,则根据该第一样本数据集中的每个初始负样本数据以及与该初始负样本数据在同一搜索结果界面中的初始正样本数据的位置,从多个初始负样本数据中选取至少一个目标负样本数据。
需要说明的是,在从多个初始负样本数据中选取至少一个目标负样本数据的过程中,一种情况是以初始负样本数据所属的搜索结果界面为单位进行选取,另一种情况是以单个的初始负样本数据为单位进行选取,下面将针对这两种情况进行说明:
第一种情况:将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为搜索结果界面的目标位置,若搜索结果界面中包括位于目标位置之前的初始负样本数据,将位于目标位置之前的初始负样本数据确定为目标负样本数据。
在本申请实施例中,确定任一初始负样本数据所属的搜索结果界面,获取该搜索结果界面中的初始正样本数据的位置,然后对该搜索结果界面中的多个初始正样本数据的位置进行比较,将排在最后一位的初始正样本数据的位置确定为该搜索结果界面的目标位置,该目标位置可以认为是用户在该搜索结果界面中最后发生点击行为的位置,在该目标位置之前的数据用户全部观看过,因此可以确定在该目标位置之前的初始负样本数据均为用户不感兴趣的数据,可以将该目标位置之前的初始负样本数据确定为目标负样本数据。
例如,当确定的初始负样本数据所属的搜索结果界面中的目标位置为位置7时,在该目标位置之前的初始负样本数据的位置包括位置1、位置2、位置4、位置6,剩余的位置3、位置5为初始正样本数据,则将位置1、位置2、位置4、位置6对应的初始负样本数据确定为目标负样本数据。
另外,在图4的基础上,以图5和图6为例进一步进行说明,图5中的实线框为确定的目标位置,在该目标位置之前的虚线框中的数据即为确定的目标负样本数据,也可以认为是可靠的负样本数据。图6中的实线框为确定的目标位置,在该目标位置之后的虚线框中的数据即为不可靠的负样本数据,在确定目标负样本数据时需要按照概率提取。
第二种情况:将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为搜索结果界面的目标位置,若任一初始负样本数据位于目标位置之前,则将任一初始负样本数据确定为目标负样本数据。
其中,确定搜索结果界面中的目标位置的过程与上述过程类似,再此不再赘述。
需要说明的是,在第一种情况的基础上,在上述搜索结果界面中,在确定的目标位置之后不再包括初始正样本数据,均为初始负样本数据,这些初始负样本数据中仍然包括用户不感兴趣的数据,则从这些初始负样本数据中的获取部分初始负样本数据,作为目标负样本数据。
可选地,若搜索结果界面中还包括位于目标位置之后的初始负样本数据,从位于目标位置之后第一数量的初始负样本数据中,获取第二数量的初始负样本数据作为目标负样本数据。
其中,第二数量与第一数量之间的比例为预设比例,预设比例小于1。
在从目标位置之后的第一数量的初始负样本数据中,获取目标负样本数据时,由于每个目标负样本数据被选取的概率相同,则从第一数量的初始负样本数据中获取的目标负样本数据的第二数量与第一数量的比例为预设比例。
该预设比例可以由电子设备设置,或者由操作人员设置。例如,该预设比例可以为0.4、0.5或者其他数值。
可选地,由于获取的初始负样本数据的数量过多,如果将预设比例设置的过大,不能有效减少负样本数据的数量,因此为了有效减少负样本数据的数量,在设置该预设比例的过程中,可以根据初始负样本数据的数量确定,且该预设比例与初始负样本数据的数量呈反比。也可以认为当初始负样本数据的数量较多时,在设置预设比例时,将该预设比例减小,而当初始负样本数据的数量较少时,在设置预设比例时,将该预设比例增大。
本申请实施例中,不仅对初始负样本数据的数量进行了缩减,保证确定的目标负样本数据的准确性。另外,由于确定的目标位置为用户在搜索结果界面中最后一次查看的位置,在该目标位置之后的数据用户均未查看,但是并不能确定这些用户是否不感兴趣,则还从这些初始负样本数据中获取了部分目标负样本数据,进一步保证了获取的目标负样本数据的全面性。
303、获取任一用户标识的至少一条搜索记录和至少一条点击记录。
在本申请实施例中,通过步骤302已经获取的至少一个目标负样本数据,而对于第一样本数据集中的多个初始正样本数据,由于这多个初始正样本数据均被用户点击过,且不同的用户均具有不同的习惯,例如有的用户习惯性的对多条数据进行多次点击,这些用户可能对点击过的数据不感兴趣,那么这些根据这些用户获取的初始正样本数据可能并不可靠,有的用户仅对自己感兴趣的数据进行点击,则根据这些用户获取的初始正样本数据很可靠。
因此,本申请实施例还需要从多个初始正样本数据中选取至少一个目标正样本数据,而在选取过程中,需要确定不同的用户标识的历史点击率,后续根据这些用户标识的历史点击率选取目标正样本数据,而确定用户标识的点击率时,需要根据用户标识的搜索记录和点击记录确定。
在本申请实施例中,对于任一用户标识,如果该用户标识基于搜索词进行搜索,则终端会将该搜索词对应的多条数据显示在搜索结果界面中,还会记录该用户标识输入的搜索词以及该搜索词对应的至少一条数据,将该搜索词以及该搜索词对应的至少一条数据生成该用户标识的一条搜索记录。如果该用户标识在该搜索结果界面中对任一条数据触发了点击操作,则终端还会记录用户标识触发点击操作的数据,生成点击记录。
因此,搜索记录中包括任一用户标识对应的至少一条数据,点击记录包括对应的搜索记录中发生点击行为的数据。
则对于任一用户标识,该用户标识对应有搜索记录,如果该用户标识对该搜索记录中的数据触发的点击行为,则该搜索记录对应有点击记录,而如果该用户标识对该搜索记录中的数据没有触发点击行为,则该搜索记录中不会对应有点击记录。
304、根据至少一条搜索记录和至少一条点击记录,确定任一用户标识的历史点击率。
在获取第一样本数据集时,由于是根据多个用户标识获取的样本数据,并且不同的用户标识对应的用户的习惯不同,导致部分用户喜欢在搜索后进行多次点击,在此情况下,根据该用户的搜索获取的初始正样本数据的可靠性较低,因此可以根据用户标识点击次数的多少,确定该用户标识的初始正样本数据是否可靠,后续可以根据该用户标识的历史点击率获取目标正样本数据。
获取用户标识的至少一条搜索记录和至少一条点击记录后,即可确定该用户标识的历史搜索的数据和包括点击行为的数据,进而可以确定该用户标识的历史点击率。
当该用户标识的历史点击率越高时,表示该用户标识触发的点击行为次数越少,根据该用户标识获取的初始正样本数据越可靠,而当该用户标识的点击率越低时,表示该用户标识触发的点击行为的次数越多,根据该用户标识获取的初始正样本数据越不可靠。
可选地,将至少一条搜索记录中,存在点击记录的搜索记录的数量确定为搜索点击次数,将每条点击记录中包括的数据的数量确定为每条点击记录的点击次数,根据搜索点击次数和每条点击记录的点击次数,确定任一用户标识的历史点击率。
在确定用户标识的历史点击率的过程中,先确定存在点击行为的搜索记录,这些搜索记录的数量即为该用户标识历史进行搜索的次数,然后再从这些点击记录中获取包括的数据的数量,这些数据的数量均为该用户标识触发点击行为的点击次数,再根据搜索点击次数和每条点击记录的点击次数,确定任一用户标识的历史点击率。
可选地,采用下述公式,确定任一用户标识的历史点击率:
Figure BDA0002563885030000101
其中,Q为任一用户标识的搜索点击次数,Ii为第i条搜索记录对应的点击记录的点击次数,Ni为任一用户标识的历史平均点击次数,
Figure BDA0002563885030000102
为任一用户标识的历史点击率。
另外,当Ni为0时,说明该用户标识在当前发生的点击行为之前从未发生过点击行为,则说明该用户标识对应的初始正样本数据很可靠,此时可以直接将该用户标识对应的初始正样本数据确定为目标正样本数据。
需要说明的第一点是,本申请实施例中的步骤303-304与步骤302不分先后顺序。可以先执行步骤303-304,再执行步骤302,或者先执行步骤302,再执行步骤303-304。
需要说明的第二点是,本申请实施例中的步骤303-304为可选步骤,在另一实施例中,还可以不执行步骤303-304,任一用户标识的历史点击率之前已经确定好,直接根据确定好的每个用户标识的历史点击率,执行后续步骤305-306即可。
305、根据每个初始正样本数据对应的用户标识的历史点击率,从多个初始正样本数据选取至少一个目标正样本数据。
由于用户标识的历史点击率表示该用户标识点击次数的多少,并且该用户标识的点击次数越多,获取的历史点击率越低,因此当初始正样本数据对应的用户标识的历史点击率越高时,说明该用户标识的初始正样本数据越可靠,将该初始正样本数据确定为目标正样本数据的概率越大,而当初始正样本数据对应的用户标识的历史点击率越低时,说明该用户标识的初始正样本数据越不可靠,将该初始正样本数据确定为目标正样本数据的概率越小。
因此,确定每个初始正样本数据对应的用户标识的历史点击率后,即可确定该用户标识对应的初始正样本数据的可靠性,根据每个初始正样本数据对应的用户标识的历史点击率,获取至少一个目标正样本数据。
在一种可能实现方式中,由于每个初始正样本数据均对应有一个历史点击率,则在从多个初始正样本数据中提取目标正样本数据时,按照每个初始正样本数据的历史点击率进行提取。
例如,当初始正样本数据1的历史点击率为0.6,则提取该初始正样本数据1的概率为0.6,初始正样本数据2的历史点击率为0.9,则提取该初始正样本数据2的概率为0.9,以此类推,可以从多个初始正样本数据中提取至少一个目标正样本数据。
在另一种可能实现方式中,按照用户标识,对多个初始正样本数据进行分组,每组中的初始正样本数据均对应同一个用户标识,则对于每组初始正样本数据,按照该组正样本数据对应的用户标识的历史点击率,选取至少一个目标正样本数据。
306、将选取的至少一个目标负样本数据和至少一个目标正样本数据构成任一搜索词对应的第二样本数据集。
其中,第二样本数据集用于对排序模型进行训练。
本申请实施例中,选取的至少一个目标负样本数据和至少一个目标正样本数据均可以认为是可靠的样本数据,将这些目标负样本数据和目标正样本数据进行混合后,即可构成任一搜索词对应的第二样本数据集,后续根据该第二样本数据集对排序模型进行训练。
可选地,在对至少一个目标负样本数据和至少一个目标正样本数据均匀的混合,以使目标负样本数据和目标正样本数据分布均匀,在训练排序模型时,可以均匀的获取目标负样本数据和目标正样本数据。
需要说明的是,本申请实施例可以由终端执行,或者还可以由服务器执行,或者本申请实施例还可以由终端执行步骤301后发送给服务器,由服务器执行步骤302-306。
上述所有可选技术方案,可以采用任意结合形成本公开的可选实施例,在此不再一一赘述。
本申请实施例提供的方法,搜索词对应的搜索结果界面中发生点击行为的数据为正样本数据,而在搜索结果界面中未发生点击行为的数据为负样本数据,由于正样本数据为用户查看过的数据,可靠性高,根据正样本数据在搜索结果界面中的位置选取负样本数据,不仅提高了所选取的负样本数据的可靠性,而且还减少了负样本数据的数量,避免了负样本数据的数量远大于正样本数据的数量,从而避免了后续训练的排序模型更偏向于负样本数据特征的情况。并且根据用户标识的历史点击率选取正样本数据,提高了所选取的正样本数据的可靠性。由于选取的正样本数据和负样本数据的可靠性提高,后续采用所选取的正样本数据和负样本数据对排序模型进行训练,提高了排序模型的准确性。
并且,还可以从位于目标位置之后初始负样本数据中获取部分初始负样本数据作为目标负样本数据,不仅对初始负样本数据的数量进行了缩减,保证确定的目标负样本数据的准确性,另外还从不确定用户是否感兴趣的初始负样本数据中获取了部分目标负样本数据,进一步保证了获取的目标负样本数据的全面性。
图7是本申请实施例提供的一种样本数据集获取方法的流程图,参见图7,该方法包括:
701、获取任一搜索词对应的第一样本数据集。
其中,第一样本数据集中包括多个初始正样本数据和多个初始负样本数据,初始正样本数据为搜索词对应的搜索结果界面中发生点击行为的数据,初始负样本数据为搜索词对应的搜索结果界面中未发生点击行为的数据。
702、根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从多个初始负样本数据中选取至少一个目标负样本数据。
703、根据每个初始正样本数据对应的用户标识的历史点击率,从多个初始正样本数据选取至少一个目标正样本数据。
704、将选取的至少一个目标负样本数据和至少一个目标正样本数据构成任一搜索词对应的第二样本数据集。
其中,第二样本数据集用于对排序模型进行训练。
步骤701-701中的过程与上述步骤301-306类似,在此不再赘述。
705、根据第二样本数据集中的至少一个目标负样本数据和至少一个目标正样本数据,训练排序模型。
其中,排序模型用于对根据任一搜索词搜索得到的多条数据进行排序。
获取到第二样本数据集中,即可根据该第二样本数据集中的至少一个目标负样本数据和至少一个目标正样本数据,训练排序模型。
先获取初始的排序模型或已经经过一次或多次训练的排序模型,再获取搜索词和对应的初始正样本数据或者初始负样本数据,根据搜索词和对应的初始正样本数据或者初始负样本数据,对该初始排序模型进行训练,得到训练后的排序模型。
如果搜索词对应初始正样本数据,则搜索词与初始正样本数据之间的样本概率为1,表示用户点击该初始正样本数据的概率为1,如果搜索词对应初始负样本数据,则搜索词与初始负样本数据之间的样本概率为0,表示用户点击该初始负样本数据的概率为0。在训练过程中,将至少一个搜索词和对应的初始正样本数据或者初始负样本数据输入至排序模型中,基于该排序模型获取预测概率,该预测概率用于表示预测的用户点击数据的概率,再获取初始正样本数据或者初始负样本数据对应的样本概率和预测概率之间的误差,对排序模型进行调整,以使调整后的排序模型获取的误差收敛,完成对排序模型的训练。
706、根据当前输入的搜索词获取搜索数据集合,搜索数据集合中包括多条数据。
707、调用排序模型,对多条数据进行排序,得到多条数据的排列顺序。
获取到多条数据后,即可根据搜索词和多条数据,调用排序模型,获取搜索词与每条数据之间的概率,然后按照获取的概率从高到低的顺序对这多条数据进行排序,从而获取到这多条数据的排列顺序。
708、在搜索词对应的搜索结果界面中,按照排列顺序显示多条数据。
确定多条数据的排列顺序后,即可按照确定好的排列顺序,依次显示这多条数据,然后用户可以在该搜索结果界面中查看每条数据。
另外,用户在查看过程中,还会在该搜索结果界面中对多条数据触发点击行为,终端还会继续将发生点击行为的数据作为初始正样本数据,将未发生点击行为的数据作为初始负样本数据,采用新获取的初始正样本数据和初始负样本数据,对第一样本数据集进行更新,进而采用本申请实施例提供的方法,继续对第二样本数据集进行更新,后续采用更新后的第二样本数据集对排序模型进行训练,继续提高排序模型的准确性。
本申请实施例提供的方法,通过减少初始负样本数据的数量,提高获取的目标负样本数据和目标正样本数据的可靠性,为后续训练的排序模型提高了准确性。再调用排序模型,对多个数据进行排序时,提高了对这多个数据进行排序的准确性,能够保证位于前面的数据为用户较为感兴趣的数据。
图8是本申请实施例提供的一种样本数据集获取装置的结构示意图。参见图8,该装置包括:
数据集获取模块801,用于获取任一搜索词对应的第一样本数据集,第一样本数据集中包括多个初始正样本数据和多个初始负样本数据,初始正样本数据为搜索词对应的搜索结果界面中发生点击行为的数据,初始负样本数据为搜索词对应的搜索结果界面中未发生点击行为的数据;
第一选取模块802,用于根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从多个初始负样本数据中选取至少一个目标负样本数据;
第二选取模块803,用于根据每个初始正样本数据对应的用户标识的历史点击率,从多个初始正样本数据选取至少一个目标正样本数据;
构成模块804,用于将选取的至少一个目标负样本数据和至少一个目标正样本数据构成任一搜索词对应的第二样本数据集,第二样本数据集用于对排序模型进行训练。
本申请实施例提供的装置,搜索词对应的搜索结果界面中发生点击行为的数据为正样本数据,而在搜索结果界面中未发生点击行为的数据为负样本数据,由于正样本数据为用户查看过的数据,可靠性高,根据正样本数据在搜索结果界面中的位置选取负样本数据,不仅提高了所选取的负样本数据的可靠性,而且还减少了负样本数据的数量,避免了负样本数据的数量远大于正样本数据的数量,从而避免了后续训练的排序模型更偏向于负样本数据特征的情况。并且根据用户标识的历史点击率选取正样本数据,提高了所选取的正样本数据的可靠性。由于选取的正样本数据和负样本数据的可靠性提高,后续采用所选取的正样本数据和负样本数据对排序模型进行训练,提高了排序模型的准确性。
在一种可能实现方式中,参见图9,第一选取模块802,包括:
位置确定单元8021,用于将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为搜索结果界面的目标位置;
选取单元8022,用于若搜索结果界面中包括位于目标位置之前的初始负样本数据,将位于目标位置之前的初始负样本数据确定为目标负样本数据。
在另一种可能实现方式中,选取单元8022,还用于若搜索结果界面中还包括位于目标位置之后的初始负样本数据,从位于目标位置之后第一数量的初始负样本数据中,获取第二数量的初始负样本数据作为目标负样本数据,第二数量与第一数量之间的比例为预设比例,预设比例小于1。
在另一种可能实现方式中,参见图9,第一选取模块802,包括:
位置确定单元8021,用于将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为搜索结果界面的目标位置;
选取单元8022,用于若任一初始负样本数据位于目标位置之前,则将任一初始负样本数据确定为目标负样本数据。
在另一种可能实现方式中,参见图9,装置还包括:
记录获取模块805,用于获取任一用户标识的至少一条搜索记录和至少一条点击记录,搜索记录包括任一用户标识对应的至少一条数据,点击记录包括对应的搜索记录中发生点击行为的数据;
点击率确定模块806,用于根据至少一条搜索记录和至少一条点击记录,确定任一用户标识的历史点击率。
在另一种可能实现方式中,参见图9,点击率确定模块806,包括:
次数确定单元8061,用于将至少一条搜索记录中,存在点击记录的搜索记录的数量确定为搜索点击次数,将每条点击记录中包括的数据的数量确定为每条点击记录的点击次数;
点击率确定单元8062,用于根据搜索点击次数和每条点击记录的点击次数,确定任一用户标识的历史点击率。
在另一种可能实现方式中,点击率确定单元8062,用于采用下述公式,确定任一用户标识的历史点击率:
Figure BDA0002563885030000131
其中,Q为任一用户标识的搜索点击次数,Ii为第i条搜索记录对应的点击记录的点击次数,Ni为任一用户标识的历史平均点击次数,
Figure BDA0002563885030000132
为任一用户标识的历史点击率。
在另一种可能实现方式中,参见图9,装置还包括:
训练模块807,用于根据第二样本数据集中的至少一个目标负样本数据和至少一个目标正样本数据,训练排序模型,排序模型用于对根据任一搜索词搜索得到的多条数据进行排序。
在另一种可能实现方式中,参见图9,装置还包括:
数据集合获取模块808,用于根据当前输入的搜索词获取搜索数据集合,搜索数据集合中包括多条数据;
排序模块809,用于调用排序模型,对多条数据进行排序,得到多条数据的排列顺序;
显示模块810,用于在搜索词对应的搜索结果界面中,按照排列顺序显示多条数据。
需要说明的是:上述实施例提供的样本数据集获取装置在获取数据集时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将电子设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的样本数据集获取装置的实施例与样本数据集获取方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图10是本申请实施例提供的一种终端的结构示意图。该终端1000可以是便携式移动终端,比如:智能手机、平板电脑、MP3播放器(Moving Picture Experts Group AudioLayer III,动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts GroupAudio Layer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑、台式电脑、头戴式设备,或其他任意智能终端。终端1000还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常,终端1000包括有:处理器1001和存储器1002。
处理器1001可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器1001可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器1001也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器1001可以集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器1001还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器1002可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器1002还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器1002中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器1001所具有以实现本申请中方法实施例提供的样本数据集获取方法。
在一些实施例中,终端1000还可选包括有:***设备接口1003和至少一个***设备。处理器1001、存储器1002和***设备接口1003之间可以通过总线或信号线相连。各个***设备可以通过总线、信号线或电路板与***设备接口1003相连。具体地,***设备包括:射频电路1004、显示屏1005、摄像头组件1006、音频电路1007、定位组件1008和电源1009中的至少一种。
***设备接口1003可被用于将I/O(Input/Output,输入/输出)相关的至少一个***设备连接到处理器1001和存储器1002。在一些实施例中,处理器1001、存储器1002和***设备接口1003被集成在同一芯片或电路板上;在一些其他实施例中,处理器1001、存储器1002和***设备接口1003中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路1004用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路1004通过电磁信号与通信网络以及其他通信设备进行通信。射频电路1004将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路1004包括:天线***、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路1004可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及8G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路1004还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏1005用于显示UI(UserInterface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏1005是触摸显示屏时,显示屏1005还具有采集在显示屏1005的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器1001进行处理。此时,显示屏1005还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在另一些实施例中,显示屏1005可以为一个,设置在终端1000的前面板;在另一些实施例中,显示屏1005可以为至少两个,分别设置在终端1000的不同表面或呈折叠设计;在再一些实施例中,显示屏1005可以是柔性显示屏,设置在终端1000的弯曲表面上或折叠面上。甚至,显示屏1005还可以设置成非矩形的不规则图形,也即异形屏。显示屏1005可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(Organic Light-EmittingDiode,有机发光二极管)等材质制备。
摄像头组件1006用于采集图像或视频。可选地,摄像头组件1006包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件1006还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路1007可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器1001进行处理,或者输入至射频电路1004以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在终端1000的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器1001或射频电路1004的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路1007还可以包括耳机插孔。
定位组件1008用于定位终端1000的当前地理位置,以实现导航或LBS(LocationBased Service,基于位置的服务)。定位组件1008可以是基于美国的GPS(GlobalPositioning System,全球定位***)、中国的北斗***、俄罗斯的格雷纳斯***或欧盟的伽利略***的定位组件。
电源1009用于为终端1000中的各个组件进行供电。电源1009可以是交流电、直流电、一次性电池或可充电电池。当电源1009包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中,终端1000还包括有一个或多个传感器1010。该一个或多个传感器1010包括但不限于:加速度传感器1011、陀螺仪传感器1012、压力传感器1013、指纹传感器1014、光学传感器1015以及接近传感器1016。
加速度传感器1011可以检测以终端1000建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器1011可以用于检测重力加速度在三个坐标轴上的分量。处理器1001可以根据加速度传感器1011采集的重力加速度信号,控制显示屏1005以横向视图或纵向视图进行用户界面的显示。加速度传感器1011还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器1012可以检测终端1000的机体方向及转动角度,陀螺仪传感器1012可以与加速度传感器1011协同采集用户对终端1000的3D动作。处理器1001根据陀螺仪传感器1012采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器1013可以设置在终端1000的侧边框和/或显示屏1005的下层。当压力传感器1013设置在终端1000的侧边框时,可以检测用户对终端1000的握持信号,由处理器1001根据压力传感器1013采集的握持信号进行左右手识别或快捷操作。当压力传感器1013设置在显示屏1005的下层时,由处理器1001根据用户对显示屏1005的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器1014用于采集用户的指纹,由处理器1001根据指纹传感器1014采集到的指纹识别用户的身份,或者,由指纹传感器1014根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器1001授权该用户具有相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器1014可以被设置终端1000的正面、背面或侧面。当终端1000上设置有物理按键或厂商Logo时,指纹传感器1014可以与物理按键或厂商标志集成在一起。
光学传感器1015用于采集环境光强度。在一个实施例中,处理器1001可以根据光学传感器1015采集的环境光强度,控制显示屏1005的显示亮度。具体地,当环境光强度较高时,调高显示屏1005的显示亮度;当环境光强度较低时,调低显示屏1005的显示亮度。在另一个实施例中,处理器1001还可以根据光学传感器1015采集的环境光强度,动态调整摄像头组件1006的拍摄参数。
接近传感器1016,也称距离传感器,通常设置在终端1000的前面板。接近传感器1016用于采集用户与终端1000的正面之间的距离。在一个实施例中,当接近传感器1016检测到用户与终端1000的正面之间的距离逐渐变小时,由处理器1001控制显示屏1005从亮屏状态切换为息屏状态;当接近传感器1016检测到用户与终端1000的正面之间的距离逐渐变大时,由处理器1001控制显示屏1005从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图10中示出的结构并不构成对终端1000的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
图11是本申请实施例提供的一种服务器的结构示意图,该服务器1100可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上处理器(Central ProcessingUnits,CPU)1101和一个或一个以上的存储器1102,其中,所述存储器1102中存储有至少一条指令,所述至少一条指令由所述处理器1101加载并执行以实现上述各个方法实施例提供的方法。当然,该服务器还可以具有有线或无线网络接口、键盘以及输入输出接口等部件,以便进行输入输出,该服务器还可以包括其他用于实现设备功能的部件,在此不做赘述。
服务器1100可以用于执行上述样本数据集获取方法中服务器所执行的步骤。
本申请实施例还提供了一种电子设备,电子设备包括一个或多个处理器和一个或多个存储器,一个或多个存储器中存储有至少一条指令,至少一条指令由一个或多个处理器加载并执行以实现如样本数据集获取方法所执行的操作。
本申请实施例还提供了一种计算机可读存储介质,存储介质中存储有至少一条指令,至少一条指令由处理器加载并执行以实现如的样本数据集获取方法所执行的操作。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请的较佳实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (12)

1.一种样本数据集获取方法,其特征在于,所述方法包括:
获取任一搜索词对应的第一样本数据集,所述第一样本数据集中包括多个初始正样本数据和多个初始负样本数据,所述初始正样本数据为所述搜索词对应的搜索结果界面中发生点击行为的数据,所述初始负样本数据为所述搜索词对应的搜索结果界面中未发生点击行为的数据;
根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从所述多个初始负样本数据中选取至少一个目标负样本数据;
根据每个初始正样本数据对应的用户标识的历史点击率,从所述多个初始正样本数据选取至少一个目标正样本数据;
将选取的所述至少一个目标负样本数据和所述至少一个目标正样本数据构成所述任一搜索词对应的第二样本数据集,所述第二样本数据集用于对排序模型进行训练。
2.根据权利要求1所述的方法,其特征在于,所述根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从所述多个初始负样本数据中选取至少一个目标负样本数据,包括:
将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为所述搜索结果界面的目标位置;
若所述搜索结果界面中包括位于所述目标位置之前的初始负样本数据,将位于所述目标位置之前的初始负样本数据确定为所述目标负样本数据。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
若所述搜索结果界面中还包括位于所述目标位置之后的初始负样本数据,从所述位于所述目标位置之后第一数量的初始负样本数据中,获取第二数量的初始负样本数据作为所述目标负样本数据,所述第二数量与所述第一数量之间的比例为预设比例,所述预设比例小于1。
4.根据权利要求1所述的方法,其特征在于,所述根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从所述多个初始负样本数据中选取至少一个目标负样本数据,包括:
将任一初始负样本数据所属的搜索结果界面中,排在最后一位的初始正样本数据的位置确定为所述搜索结果界面的目标位置;
若所述任一初始负样本数据位于所述目标位置之前,则将所述任一初始负样本数据确定为所述目标负样本数据。
5.根据权利要求1所述的方法,其特征在于,所述根据每个初始正样本数据对应的用户标识的历史点击率,从所述多个初始正样本数据选取至少一个目标正样本数据之前,所述方法还包括:
获取任一用户标识的至少一条搜索记录和至少一条点击记录,所述搜索记录包括所述任一用户标识对应的至少一条数据,所述点击记录包括对应的搜索记录中发生点击行为的数据;
根据所述至少一条搜索记录和所述至少一条点击记录,确定所述任一用户标识的历史点击率。
6.根据权利要求5所述的方法,其特征在于,所述根据所述至少一条搜索记录和所述至少一条点击记录,确定所述任一用户标识的历史点击率,包括:
将所述至少一条搜索记录中,存在点击记录的搜索记录的数量确定为搜索点击次数,将每条点击记录中包括的数据的数量确定为所述每条点击记录的点击次数;
根据所述搜索点击次数和所述每条点击记录的点击次数,确定所述任一用户标识的历史点击率。
7.根据权利要求6所述的方法,其特征在于,所述根据所述搜索点击次数和所述每条点击记录的点击次数,确定所述任一用户标识的历史点击率,包括:
采用下述公式,确定任一用户标识的历史点击率:
Figure FDA0002563885020000021
其中,Q为所述任一用户标识的搜索点击次数,Ii为第i条搜索记录对应的点击记录的点击次数,Ni为所述任一用户标识的历史平均点击次数,
Figure FDA0002563885020000022
为所述任一用户标识的历史点击率。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述第二样本数据集中的所述至少一个目标负样本数据和所述至少一个目标正样本数据,训练所述排序模型,所述排序模型用于对根据任一搜索词搜索得到的多条数据进行排序。
9.根据权利要求8所述的方法,其特征在于,所述方法还包括:
根据当前输入的搜索词获取搜索数据集合,所述搜索数据集合中包括多条数据;
调用所述排序模型,对所述多条数据进行排序,得到所述多条数据的排列顺序;
在所述搜索词对应的搜索结果界面中,按照所述排列顺序显示所述多条数据。
10.一种样本数据集获取装置,其特征在于,所述装置包括:
数据集获取模块,用于获取任一搜索词对应的第一样本数据集,所述第一样本数据集中包括多个初始正样本数据和多个初始负样本数据,所述初始正样本数据为所述搜索词对应的搜索结果界面中发生点击行为的数据,所述初始负样本数据为所述搜索词对应的搜索结果界面中未发生点击行为的数据;
第一选取模块,用于根据每个初始负样本数据及位于同一搜索结果界面中的初始正样本数据在所属搜索结果界面中的位置,从所述多个初始负样本数据中选取至少一个目标负样本数据;
第二选取模块,用于根据每个初始正样本数据对应的用户标识的历史点击率,从所述多个初始正样本数据选取至少一个目标正样本数据;
构成模块,用于将选取的所述至少一个目标负样本数据和所述至少一个目标正样本数据构成所述任一搜索词对应的第二样本数据集,所述第二样本数据集用于对排序模型进行训练。
11.一种电子设备,其特征在于,所述电子设备包括一个或多个处理器和一个或多个存储器,所述一个或多个存储器中存储有至少一条指令,所述至少一条指令由所述一个或多个处理器加载并执行以实现如权利要求1至9任一项所述的样本数据集获取方法所执行的操作。
12.一种计算机可读存储介质,其特征在于,所述存储介质中存储有至少一条指令,所述至少一条指令由处理器加载并执行以实现如权利要求1至9任一项所述的样本数据集获取方法所执行的操作。
CN202010616445.8A 2020-06-30 2020-06-30 样本数据集获取方法、装置、设备及存储介质 Pending CN111782950A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010616445.8A CN111782950A (zh) 2020-06-30 2020-06-30 样本数据集获取方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010616445.8A CN111782950A (zh) 2020-06-30 2020-06-30 样本数据集获取方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
CN111782950A true CN111782950A (zh) 2020-10-16

Family

ID=72761539

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010616445.8A Pending CN111782950A (zh) 2020-06-30 2020-06-30 样本数据集获取方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN111782950A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112328891A (zh) * 2020-11-24 2021-02-05 北京百度网讯科技有限公司 训练搜索模型的方法、搜索目标对象的方法及其装置
CN112597208A (zh) * 2020-12-29 2021-04-02 深圳价值在线信息科技股份有限公司 企业名称检索方法、企业名称检索装置及终端设备

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106570197A (zh) * 2016-11-15 2017-04-19 北京百度网讯科技有限公司 基于迁移学习的搜索排序方法和装置
CN107424043A (zh) * 2017-06-15 2017-12-01 北京三快在线科技有限公司 一种产品推荐方法及装置,电子设备
CN107526846A (zh) * 2017-09-27 2017-12-29 百度在线网络技术(北京)有限公司 频道排序模型的生成、排序方法、装置、服务器和介质
CN109508394A (zh) * 2018-10-18 2019-03-22 青岛聚看云科技有限公司 一种多媒体文件搜索排序模型的训练方法及装置
CN110458602A (zh) * 2019-07-09 2019-11-15 北京三快在线科技有限公司 商品推荐方法、装置、电子设备及存储介质
CN110472027A (zh) * 2019-07-18 2019-11-19 平安科技(深圳)有限公司 意图识别方法、设备及计算机可读存储介质
US20190391983A1 (en) * 2017-06-05 2019-12-26 Ancestry.Com Dna, Llc Customized coordinate ascent for ranking data records
CN111061954A (zh) * 2019-12-19 2020-04-24 腾讯音乐娱乐科技(深圳)有限公司 搜索结果排序方法、装置及存储介质
US20200184278A1 (en) * 2014-03-18 2020-06-11 Z Advanced Computing, Inc. System and Method for Extremely Efficient Image and Pattern Recognition and Artificial Intelligence Platform

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200184278A1 (en) * 2014-03-18 2020-06-11 Z Advanced Computing, Inc. System and Method for Extremely Efficient Image and Pattern Recognition and Artificial Intelligence Platform
CN106570197A (zh) * 2016-11-15 2017-04-19 北京百度网讯科技有限公司 基于迁移学习的搜索排序方法和装置
US20190391983A1 (en) * 2017-06-05 2019-12-26 Ancestry.Com Dna, Llc Customized coordinate ascent for ranking data records
CN107424043A (zh) * 2017-06-15 2017-12-01 北京三快在线科技有限公司 一种产品推荐方法及装置,电子设备
CN107526846A (zh) * 2017-09-27 2017-12-29 百度在线网络技术(北京)有限公司 频道排序模型的生成、排序方法、装置、服务器和介质
CN109508394A (zh) * 2018-10-18 2019-03-22 青岛聚看云科技有限公司 一种多媒体文件搜索排序模型的训练方法及装置
CN110458602A (zh) * 2019-07-09 2019-11-15 北京三快在线科技有限公司 商品推荐方法、装置、电子设备及存储介质
CN110472027A (zh) * 2019-07-18 2019-11-19 平安科技(深圳)有限公司 意图识别方法、设备及计算机可读存储介质
CN111061954A (zh) * 2019-12-19 2020-04-24 腾讯音乐娱乐科技(深圳)有限公司 搜索结果排序方法、装置及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
吴飞;庄越挺;: "互联网跨媒体分析与检索:理论与算法", 计算机辅助设计与图形学学报, no. 01, 15 January 2010 (2010-01-15) *
李明琦;: "网页搜索排序模型研究", 智能计算机与应用, no. 02, 1 February 2020 (2020-02-01) *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112328891A (zh) * 2020-11-24 2021-02-05 北京百度网讯科技有限公司 训练搜索模型的方法、搜索目标对象的方法及其装置
CN112597208A (zh) * 2020-12-29 2021-04-02 深圳价值在线信息科技股份有限公司 企业名称检索方法、企业名称检索装置及终端设备

Similar Documents

Publication Publication Date Title
CN109740068B (zh) 媒体数据推荐方法、装置及存储介质
CN110674022B (zh) 行为数据获取方法、装置及存储介质
CN110865754B (zh) 信息展示方法、装置及终端
CN108737897B (zh) 视频播放方法、装置、设备及存储介质
CN110278464B (zh) 显示榜单的方法和装置
CN108717432B (zh) 资源查询方法及装置
CN110147503B (zh) 信息发布方法、装置、计算机设备和存储介质
CN111836069A (zh) 虚拟礼物赠送方法、装置、终端、服务器及存储介质
CN109618192B (zh) 播放视频的方法、装置、***和存储介质
CN111935516B (zh) 音频文件的播放方法、装置、终端、服务器及存储介质
CN111858382A (zh) 应用程序测试方法、装置、服务器、***及存储介质
CN112084811A (zh) 身份信息的确定方法、装置及存储介质
CN111796990A (zh) 资源显示方法、装置、终端及存储介质
CN109547847B (zh) 添加视频信息的方法、装置及计算机可读存储介质
CN110890969A (zh) 群发消息的方法、装置、电子设备及存储介质
CN111782950A (zh) 样本数据集获取方法、装置、设备及存储介质
CN112131473B (zh) 信息推荐方法、装置、设备及存储介质
CN111563201A (zh) 内容推送方法、装置、服务器及存储介质
CN111159551A (zh) 用户生成内容的显示方法、装置及计算机设备
CN111641853B (zh) 多媒体资源加载方法、装置、计算机设备及存储介质
CN114817709A (zh) 排序方法、装置、设备及计算机可读存储介质
CN113377976A (zh) 资源搜索方法、装置、计算机设备及存储介质
CN111258673A (zh) 快应用显示方法及终端设备
CN115905374A (zh) 应用功能的展示方法、装置、终端及存储介质
CN112364244A (zh) 多媒体数据推荐方法、装置、服务器及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination