CN111461151A - 一种多元组样本构建方法及装置 - Google Patents

一种多元组样本构建方法及装置 Download PDF

Info

Publication number
CN111461151A
CN111461151A CN201910049706.XA CN201910049706A CN111461151A CN 111461151 A CN111461151 A CN 111461151A CN 201910049706 A CN201910049706 A CN 201910049706A CN 111461151 A CN111461151 A CN 111461151A
Authority
CN
China
Prior art keywords
sample
feature
obtaining
feature set
features
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910049706.XA
Other languages
English (en)
Inventor
夏雄尉
谢泽华
周泽南
苏雪峰
许静芳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Sogou Technology Development Co Ltd
Original Assignee
Beijing Sogou Technology Development Co Ltd
Sogou Hangzhou Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Sogou Technology Development Co Ltd, Sogou Hangzhou Intelligent Technology Co Ltd filed Critical Beijing Sogou Technology Development Co Ltd
Priority to CN201910049706.XA priority Critical patent/CN111461151A/zh
Publication of CN111461151A publication Critical patent/CN111461151A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明实施例提供的一种多元组样本构建方法及装置,其中方法包括:获取由第一样本特征组成的第一特征集合;根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本;通过所述待训练模型根据所述第一多元组样本进行前向计算获得第二样本特征;在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合;根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。本发明提高了多元组样本构建的质量,使用该方法构建的多元组样本可适应待训练模型不同阶段的学习,提高了待训练模型的收敛速度和效果。

Description

一种多元组样本构建方法及装置
技术领域
本发明涉及机器学习与图像识别技术领域,具体而言,涉及一种样本获取方法及装置。
背景技术
在度量学习任务中,通常通过构造由相似图和不相似图组成的多元组来监督网络学习到图片之间的相似性。在多元组样本中分别包括了参考样本(anchor)、正样本(positive)和负样本(negative)。其中参考样本与正样本相似,而与负样本不像似。
目前的多元组样本构建策略中,通常在一固定的样本训练集中对样本进行遍历计算完成,由于计算效率低,仅能在样本训练集的一小范围中构建多元组样本,这样构建的样本质量较低,无法有效的引导待训练模型不同阶段的学习。
发明内容
有鉴于此,本发明实施例的目的在于提供一种多元组样本构建方法及装置,本发明提高了多元组样本构建的质量;使用该方法构建的多元组样本可适应待训练模型不同阶段的学习,提高了待训练模型的收敛速度和效果。
第一方面,本申请通过本申请的一实施例提供如下技术方案:
一种多元组样本构建方法,包括:
获取由第一样本特征组成的第一特征集合;根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本;通过所述待训练模型,根据所述第一多元组样本进行前向计算,获得第二样本特征;在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合;根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
优选地,所述根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本的步骤,包括:
根据随机特征,从所述第一特征集合中抽取参考特征,并基于所述参考特征获得参考样本,其中,所述随机特征为从所述第一特征集合中随机选取获得,在所述第一特征集合中与所述参考特征相似的第一样本特征均被标记有识别标识;根据所述参考样本和标记有所述识别标识的第一样本特征,获得与所述参考样本对应的正样本;根据所述参考样本和未标记所述识别标识的第一样本特征,获得与所述参考样本对应的负样本;根据所述参考样本,与所述参考样本对应的正样本,以及与所述参考样本对应的负样本获得第一多元组样本,每个所述参考样本对应一个多元组样本。
优选地,所述根据随机特征,从所述第一特征集合中抽取参考特征,并基于所述参考特征获得参考样本的步骤,包括:
获取所述随机特征与每一个第一样本特征之间的第一相似度;当所述第一相似度属于预设的第一范围时,抽取属于所述第一范围的所述第一相似度对应的第一样本特征作为参考特征;将所述参考特征所对应的样本作为所述参考样本。
优选地,所述根据所述参考样本和标记有所述识别标识的第一样本特征,获得与所述参考样本对应的正样本的步骤,包括:
对同一个参考样本,获取所述参考样本对应的参考特征与标记有所述识别标识的第一样本特征之间的第二相似度;当所述第二相似度属于预设的第二范围时,抽取属于所述第二范围的所述第二相似度对应的第一样本特征,作为所述参考样本对应的正样本的特征;根据所述正样本的特征,获得该个参考样本对应的正样本。
优选地,所述根据所述参考样本和未标记所述识别标识的第一样本特征,获得与所述参考样本对应的负样本的步骤,包括:
对同一个参考样本,获取所述参考样本对应的参考特征与未标记有所述识别标识的第一样本特征的第三相似度;当所述第三相似度属于预设的第三范围时,抽取属于所述第三范围的所述第三相似度对应的第一样本特征,作为所述参考样本对应的负样本的特征;根据所述负样本的特征,获得该个参考样本对应的负样本。
优选地,所述第一样本特征与所述第二样本特征均为图片的特征。
第二方面,基于同一发明构思,本申请通过本申请的一实施例提供如下技术方案:
一种多元组样本构建装置,包括:
第一特征集合获取模块,用于获取由第一样本特征组成的第一特征集合;第一样本获取模块,用于根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本;前向计算模块,用于通过所述待训练模型,根据所述第一多元组样本进行前向计算,获得第二样本特征;更新模块,用于在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合;第二样本获取模块,用于根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
优选地,所述第一样本获取模块,还用于:
根据随机特征,从所述第一特征集合中抽取参考特征,并基于所述参考特征获得参考样本,其中,所述随机特征为从所述第一特征集合中随机选取获得,在所述第一特征集合中与所述参考特征相似的第一样本特征均被标记有识别标识;根据所述参考样本和标记有所述识别标识的第一样本特征,获得与所述参考样本对应的正样本;根据所述参考样本和未标记所述识别标识的第一样本特征,获得与所述参考样本对应的负样本;根据所述参考样本,与所述参考样本对应的正样本,以及与所述参考样本对应的负样本获得第一多元组样本,每个所述参考样本对应一个多元组样本。
优选地,所述第一样本获取模块,还用于:
获取所述随机特征与每一个第一样本特征之间的第一相似度;当所述第一相似度属于预设的第一范围时,抽取属于所述第一范围的所述第一相似度对应的第一样本特征作为参考特征;将所述参考特征所对应的样本作为所述参考样本。
优选地,所述第一样本获取模块,还用于:
对同一个参考样本,获取所述参考样本对应的参考特征与标记有所述识别标识的第一样本特征之间的第二相似度;当所述第二相似度属于预设的第二范围时,抽取属于所述第二范围的所述第二相似度对应的第一样本特征,作为所述参考样本对应的正样本的特征;根据所述正样本的特征,获得该个参考样本对应的正样本。
优选地,所述第一样本获取模块,还用于:
对同一个参考样本,获取所述参考样本对应的参考特征与未标记有所述识别标识的第一样本特征的第三相似度;当所述第三相似度属于预设的第三范围时,抽取属于所述第三范围的所述第三相似度对应的第一样本特征,作为所述参考样本对应的负样本的特征;根据所述负样本的特征,获得该个参考样本对应的负样本。
优选地,所述第一样本特征与所述第二样本特征均为图片的特征。
第三方面,基于同一发明构思,本申请通过本申请的一实施例提供如下技术方案:
一种多元组样本构建装置,包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:
获取由第一样本特征组成的第一特征集合;根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本;通过所述待训练模型,根据所述第一多元组样本进行前向计算,获得第二样本特征;在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合;根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
第四方面,基于同一发明构思,本申请通过本申请的一实施例提供如下技术方案:
一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现以下步骤:
获取由第一样本特征组成的第一特征集合;根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本;通过所述待训练模型,根据所述第一多元组样本进行前向计算,获得第二样本特征;在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合;根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
本申请实施例中提供的一个或多个技术方案,至少具有如下技术效果或优点:
本发明通过在待训练模型的训练过程中,使用的第一多元组样本训练时获得的第二样本特征,对第一特征集合中的第一样本特征进行更新获得第二特征集合。保证了待训练模型在不同的训练阶段挖掘学习样本时,样本特征的距离分布在不断更新变化。当在第二多元组样本挖掘时将更加有针对性,可挖掘到质量更高、更加适合当前训练阶段的多元组样本。使用本发明中的方法获得的多元组样本可适应待训练模型不同阶段的学习,更快的引导待训练模型达到较优解,提高了待训练模型的收敛速度和效果。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明第一实施例提供的一种多元组样本构建方法的流程图;
图2为本图1中步骤S20的具体流程图;
图3为本发明第二实施例提供的一种多元组样本构建装置的功能模块框图;
图4为本发明第三实施例提供的一种多元组样本构建装置的结构框图;
图5为本发明第四实施例提供的示例性的服务器的结构框图。
具体实施方式
下面将结合本发明实施例中附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。
为了便于说明和理解,下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能解释为对本发明的限制。
本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是,本发明的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。
本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语),具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非像这里一样被特定定义,否则不会用理想化或过于正式的含义来解释。
第一实施例
请参照图1,在本实施例中提供一种多元组样本构建方法。图1示出了本实施例中方法的具体流程,在本实施例中将结合附图对所述方法的各步骤进行详细阐述。所述多元组样本构建方法具体包括:
步骤S10:获取由第一样本特征组成的第一特征集合。
步骤S20:根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本。
步骤S30:通过所述待训练模型根据所述第一多元组样本进行前向计算获得第二样本特征。
步骤S40:在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合。
步骤S50:根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
在步骤S10中,获取由第一样本特征组成的第一特征集合。
每个第一样本特征均对应一个样本。第一样本特征可在网络模型前向计算时获得,也可将样本进行向量化学习获得,第一样本特征的表现形式可以为特征向量。第一特征集合对应一样本集合。
在本实施例中,所述的网络模型包括但不限于,各种架构的卷积神经网络模型,如:VGG16,VGG19(Visual Geometry Group,VGG),ResNet50模型,Inception V3模型,Xception模型等,上述各模型的训练和使用为所属技术领域内的普通技术人员可直接实施的,不再赘述。
在步骤S20中,根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本。
在步骤S20中,待训练模型可为上述的任一网络模型。在待训练模型的训练过程中,可针对该待训练模型不同的训练阶段分批次进行训练样本的构建,以使待训练模型快速收敛到较优值。因此,待训练模型的训练过程可分解为多次,每次训练时使用一批多元组样本。
步骤S20中所述的当前次可为多次训练中的任意不为末次的训练次。
具体的,本实施例提供一种具体实施方式,用于获取当前次的第一多元组样本。请参阅图2,该方式包括:
步骤S21:根据随机特征,从所述第一特征集合中抽取参考特征,并基于所述参考特征获得参考样本。其中,所述随机特征为从所述第一特征集合中随机选取获得,在所述第一特征集合中与所述参考特征相似的第一样本特征均被标记有识别标识。
步骤S22:根据所述参考样本和标记有所述识别标识的第一样本特征,获得与所述参考样本对应的正样本;
步骤S23:根据所述参考样本和未标记所述识别标识的第一样本特征,获得与所述参考样本对应的负样本;
步骤S24:根据所述参考样本,与所述参考样本对应的正样本,以及与所述参考样本对应的负样本获得第一多元组样本,每个所述参考样本对应一个多元组样本。
在步骤S21中,所述随机特征为从所述第一特征集合中随机选取获得,在本实施例中第一特征集合中包含有对应的一个参考集合,随机特征可为在参考集合中随机选取的一个特征。同样的,也可在样本集合中随机的抽取一个样本,作为随机样本,然后将该随机样本对应于第一特征集合中的第一样本特征作为随机特征。此外,在某些实施方式中随机特征也可由第一特征集合之外获得。例如:随机确定一图片作为随机样本,然后将图片进行向量化学习获得该图片的特征向量,可将该特征向量用于与第一特征集合中的后续计算,即该图片的特征向量为随机特征。
第一特征集合中与所述参考特征相似的第一样本特征均被标记有识别标识,以便于更准确的选取参考样本对应的正样本和负样本;在第一特征集合中,对于相似的同一系列的第一样本特征均可标记一个可与其他第一样本特征作区分的标识。
参考样本获取的一种具体实施方式为:
首先,获取所述随机特征与每一个第一样本特征之间的第一相似度。一般来说,可直接计算随机特征与参考集合中的每一个第一样本特征之间的第一相似度。若参考集合较大,可在参考集合中随机取样一子集来计算第一相似度,子集大小可为构建的一批多元组样本大小的50-100倍,或100-200倍均可。第一相似度(后文所述的第二相似度与第三相似度亦同)的具体表示方式可包括:余弦距离、欧氏距离、马氏距离等,不作限制。优选地,在本实施例中,第一样本特征的表示形式可采用特征向量,则第一相似度、第二相似度、第三相似度均可采用余弦距离进行度量和表示。
然后,当所述第一相似度属于预设的第一范围时,抽取属于所述第一范围的所述第一相似度对应的第一样本特征作为参考特征。第一范围的大小区间可进行自定义。其中所述的抽取可为全部抽取,也可为部分抽取,例如在指定的第一范围内随机抽取一定数量的第一样本特征作为参考特征。在较佳的实施方式中,为保证同一批次的参考样本相似,可将所述第一范围确定在第一相似度表示较为相似或距离较近的区间。
最后,将所述参考特征所对应的样本作为所述参考样本。
以一实例说明步骤S21:
以图片样本为例,首先在样本集合中随机选取一个随机图片(对应随机特征)。对第一特征集合中的参考集合进行随机抽样构建大小为batch size(样本批次大小)50倍的第一特征集合的子集。再计算随机特征和该抽样出的子集中所有第一样本特征的距离(即随机图片与样本集合中对应样本的距离),从子集中召回距离最小的batch size大小的集合。将召回的第一样本特征对应的样本作为当前批次的所有参考样本,满足当前批次中所有参考样本是较为相似的,且实现了批量获取参考样本。
在获取参考样本之后,还需要获取参考样本对应的正样本和负样本才能构建为多元组样本。进一步的:
步骤S22:根据所述参考样本和标记有所述识别标识的第一样本特征,获得与所述参考样本对应的正样本。
在步骤S22中具体的实施过程中,对于每一个参考样本,都需要选择与参考样本相似的样本作为正样本,与参考样本不像似的样本作为负样本。具体的是否相似可通过第二相似度或第三相似度进行衡量。一个参考样本可对应一个正样本或负样本,也可对应多个正样本或负样本。
具体的,正样本的获取:
首先,对同一个参考样本,获取所述参考样本对应的参考特征与标记有所述识别标识的第一样本特征之间的第二相似度。其中,若一个参考样本对应的标记有识别标志的第一样本特征数量较多时,可在该参考样本对应的标记有识别标志的第一样本特征中随机抽取一子集计算第二相似度,子集大小可为构建的一批多元组样本大小的50-100倍,或100-200倍均可。
然后,当所述第二相似度属于预设的第二范围时,抽取属于所述第二范围的所述第二相似度对应的第一样本特征,作为所述参考样本对应的正样本的特征。
最后,根据所述正样本的特征,获得该个参考样本对应的正样本。
在步骤S22中,所述的抽取可为全部抽取,也可为部分抽取,例如在指定的第二范围内随机抽取一定数量的第一样本特征作为参考样本对应的正样本。第二范围的确定不作限制,可根据应用场景的需求进行确定。
若多元组样本中相似样本和不相似样本的相似度过小,会导致构造的多元组对于网络的学习过于简单,网络学习不到具有强判别力的特征在优选的实施方式中,为了提高训练效果,就需要构建多元组样本中的难样本。难样本中,包括参考样本,与参考样本不太相似的正样本,与参考样本比较相似的负样本。此时,可将第二范围定义在第二相似度表示不相似或距离较远的区间,以获取与参考样本不太相似的正样本。总的来说,在本实施例优选的实施方式中,在与参考样本相似的样本中选取不太相似的样本作为正样本。
步骤S23:根据所述参考样本和未标记所述识别标识的第一样本特征,获得与所述参考样本对应的负样本。
在步骤S23中,具体包括以下实施步骤:
首先,对同一个参考样本,获取所述参考样本对应的参考特征与未标记有所述识别标识的第一样本特征的第三相似度。其中,若一个参考样本对应的未标记有识别标志的第一样本特征数量较多时,可在该参考样本对应的未标记有识别标志的第一样本特征中随机抽取一子集计算第三相似度,子集大小可为构建的一批多元组样本大小的50-100倍,或100-200倍均可。
然后,当所述第三相似度属于预设的第三范围时,抽取属于所述第三范围的所述第三相似度对应的第一样本特征,作为所述参考样本对应的负样本的特征。
最后,根据所述负样本的特征,获得该个参考样本对应的负样本。
在步骤S23中,所述的抽取可为全部抽取,也可为部分抽取,例如在指定的第三范围内随机抽取一定数量的第一样本特征作为参考样本对应的负样本。第三范围的确定不作限制,可根据应用场景的需求进行确定。
在本实施例优选的实施方式中,构建难样本时,可将第三范围定义在第三相似度表示相似或距离较近的区间,以获取与参考样本比较相似的负样本。总的来说,在与参考样本不相似的样本中选取比较相似的样本作为负样本。
通过步骤S22与步骤S23构建的难样本,避免了相似样本和不相似样本的相似度过高,导致多元组对于网络的学习过难,使得网络难以收敛的问题。
为了方便计算,在计算上述的第一相似度、第二相似度和第三相似度之前均可对第一样本特征、第二样本特征和/或第三样本特征(如后文所述)进行归一化处理。
本实施例中,所述的第一范围、第二范围及第三范围均可为一个或多个分段的范围。例如,取样的时候在多个分段的、不相邻的第一范围中取样,通过该种分段的方式,选择了不过于相邻的样本,可避免样本的局部缺陷问题。
步骤S24:根据所述参考样本,与所述参考样本对应的正样本,以及与所述参考样本对应的负样本获得第一多元组样本。其中,每个所述参考样本对应一个第一多元组样本。当前次的多元组样本构建中,所有的第一多元组样本构成了待训练模型当前次训练所需的批量样本集合。
在步骤S20的计算中,由于第一特征集合的存在,可以直接从第一特征集合中选出对应的特征计算相似度,而不需要重新经过网络模型的前向计算得到特征,提高了计算效率。
步骤S30:通过所述待训练模型根据所述第一多元组样本进行前向计算获得第二样本特征。
在步骤S30中,第一多元组样本的前向计算包括了参考样本,参考样本对应的正样本、负样本。在待训练模型的前向计算中可学习到样本新的特征,即为第二样本特征。
步骤S40:在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合。
在步骤S40中,第二特征集合用于替换第一特征集合,由于第一样本特征与第二样本特征均为同一样本在前向计算中得到,因此可在第一特征集合中寻找到与第二样本特征对应的第一样本特征。举个例子:
表1更新前
样本 第一特征集合
样本1 特征A
样本2 特征B
... ...
样本5 特征E
样本6 特征F
样本7 特征G
... ...
样本N 特征X
若表1中,样本2、样本5、样本6为选中的一多元组样本,在待训练模型的前向计算后分别得到特征b、特征e和特征f即第二样本特征;那么执行步骤S40将第一特征集合中,样本2、样本5、样本6对应的特征B、特征E、特征F更新为特征b、特征e、特征f,获得第二特征集合:
表2更新后
样本 第二特征集合
样本1 特征A
样本2 特征b
... ...
样本5 特征e
样本6 特征f
样本7 特征G
... ...
样本N 特征X
由此,特征b、特征e和特征f对应的样本2、样本5、样本6相对于其他样本之间的距离或分布发生了改变。以上表1,表2仅为示例性说明,不对特征集合的存储形式、大小等构成限制。
步骤S50:根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
在步骤S50中,所述第二多元组样本的获取方式可参考第一多元组样本的获取方式进行,确定一随机特征、根据随机特征在第二特征集合中抽取参考特征、根据参考特征获得参考样本、根据参考特征和在第二特征集合中的样本特征获取参考样本对应的正、负样本,即组成第二多元组样本。
同样,使用第二多元组样本训练待训练模型的时候,在前向计算中可获得对应的第三样本特征,然后替换/更新第二特征集合中对应的样本特征,获得新的集合,可作为第三特征集合。
以上,循环执行,在每次待训练模型的前向计算中获得新的样本特征,不断维持特征集合的更新。
在待训练模型的整个训练过程中,包括前向计算过程,还包括反向传播过程,直至满足收敛条件后停止训练。
由于本实施例中的方法在构建第一多元组样本的过程中均是采用第一样本特征进行计算,因此对该第一样本特征替换更新后就可改变第一样本特征/第二样本特征对应的样本与其他样本之间的计算距离/相似度,即间接的使样本分布发生了变化。从而在每次待训练模型训练的过程中均可维护特征集合的更新。获得的第二多元组样本可更快的引导待训练模型收敛。
需要说明的是,对应不用的应用场景,本实施例中提到的样本包括但不限于各种形式的图片以及文字。在待训练模型的整个训练阶段中,步骤S10-S50为循环执行,每次训练可对特征集合更新一次。
综上,本发明通过在待训练模型的训练过程中,使用的第一多元组样本训练时获得的第二样本特征,对第一特征集合中的第一样本特征进行更新获得第二特征集合。保证了待训练模型在不同的训练阶段挖掘学习样本时,样本特征的距离分布在不断更新变化。当在第二多元组样本挖掘时将更加有针对性,可挖掘到质量更高、更加适合当前训练阶段的多元组样本。使用本发明中的方法获得的多元组样本可适应待训练模型不同阶段的学习,更快的引导待训练模型达到较优解,提高了待训练模型的收敛速度和效果。
第二实施例
请参阅图3,基于同一发明构思,在本实施例中提供一种多元组样本构建装置400,所述装置400包括:
第一特征集合获取模块401,用于获取由第一样本特征组成的第一特征集合。
第一样本获取模块402,用于根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本。
前向计算模块403,用于通过所述待训练模型,根据所述第一多元组样本进行前向计算,获得第二样本特征。
更新模块404,用于在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合。
第二样本获取模块405,用于根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
作为一种可选的实施方式,所述第一样本获取模块402,还用于:
根据随机特征,从所述第一特征集合中抽取参考特征,并基于所述参考特征获得参考样本,其中,所述随机特征为从所述第一特征集合中随机选取获得,在所述第一特征集合中与所述参考特征相似的第一样本特征均被标记有识别标识;根据所述参考样本和标记有所述识别标识的第一样本特征,获得与所述参考样本对应的正样本;根据所述参考样本和未标记所述识别标识的第一样本特征,获得与所述参考样本对应的负样本;根据所述参考样本,与所述参考样本对应的正样本,以及与所述参考样本对应的负样本获得第一多元组样本,每个所述参考样本对应一个多元组样本。
作为一种可选的实施方式,所述第一样本获取模块402,还用于:
获取所述随机特征与每一个第一样本特征之间的第一相似度;当所述第一相似度属于预设的第一范围时,抽取属于所述第一范围的所述第一相似度对应的第一样本特征作为参考特征;将所述参考特征所对应的样本作为所述参考样本。
作为一种可选的实施方式,所述第一样本获取模块402,还用于:
对同一个参考样本,获取所述参考样本对应的参考特征与标记有所述识别标识的第一样本特征之间的第二相似度;当所述第二相似度属于预设的第二范围时,抽取属于所述第二范围的所述第二相似度对应的第一样本特征,作为所述参考样本对应的正样本的特征;根据所述正样本的特征,获得该个参考样本对应的正样本。
作为一种可选的实施方式,所述第一样本获取模块402,还用于:
对同一个参考样本,获取所述参考样本对应的参考特征与未标记有所述识别标识的第一样本特征的第三相似度;当所述第三相似度属于预设的第三范围时,抽取属于所述第三范围的所述第三相似度对应的第一样本特征,作为所述参考样本对应的负样本的特征;根据所述负样本的特征,获得该个参考样本对应的负样本。
作为一种可选的实施方式,所述第一样本特征与所述第二样本特征均为图片的特征。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
第三实施例
图4是根据一示例性实施例示出的一种多元组样本构建装置800的框图。例如,装置800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图4,装置800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制装置800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理元件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理部件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电力组件806为装置800的各种组件提供电力。电力组件806可以包括电源管理***,一个或多个电源,及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。
触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当装置800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为装置800提供各个方面的状态评估。例如,传感器组件814可以检测到设备800的打开/关闭状态,组件的相对定位,例如所述组件为装置800的显示器和小键盘,传感器组件814还可以检测装置800或装置800一个组件的位置改变,用户与装置800接触的存在或不存在,装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信部件816经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信部件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述第一实施例所述的方法。
第四实施例
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器804,上述指令可由装置800的处理器820执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
一种计算机可读存储介质,具体为一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行一种多元组样本构建方法,所述方法包括:
获取由第一样本特征组成的第一特征集合;根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本;通过所述待训练模型,根据所述第一多元组样本进行前向计算,获得第二样本特征;在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合;根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
图5是本发明实施例中服务器的结构示意图。该服务器1900可因配置或性能不同而产生比较大的差异,可以包括一个或一个以***处理器(central processing units,CPU)1922(例如,一个或一个以上处理器)和存储器1932,一个或一个以上存储应用程序1942或数据1944的存储介质1930(例如一个或一个以上海量存储设备)。其中,存储器1932和存储介质1930可以是短暂存储或持久存储。存储在存储介质1930的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器中的一系列指令操作。更进一步地,中央处理器1922可以设置为与存储介质1930通信,在服务器1900上执行存储介质1930中的一系列指令操作。
服务器1900还可以包括一个或一个以上电源1926,一个或一个以上有线或无线网络接口1950,一个或一个以上输入输出接口1958,一个或一个以上键盘1956,和/或,一个或一个以上操作***1941,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM等等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种多元组样本构建方法,其特征在于,包括:
获取由第一样本特征组成的第一特征集合;
根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本;
通过所述待训练模型,根据所述第一多元组样本进行前向计算,获得第二样本特征;
在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合;
根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本的步骤,包括:
根据随机特征,从所述第一特征集合中抽取参考特征,并基于所述参考特征获得参考样本,其中,所述随机特征为从所述第一特征集合中随机选取获得,在所述第一特征集合中与所述参考特征相似的第一样本特征均被标记有识别标识;
根据所述参考样本和标记有所述识别标识的第一样本特征,获得与所述参考样本对应的正样本;
根据所述参考样本和未标记所述识别标识的第一样本特征,获得与所述参考样本对应的负样本;
根据所述参考样本,与所述参考样本对应的正样本,以及与所述参考样本对应的负样本获得第一多元组样本,每个所述参考样本对应一个多元组样本。
3.根据权利要求2所述的方法,其特征在于,所述根据随机特征,从所述第一特征集合中抽取参考特征,并基于所述参考特征获得参考样本的步骤,包括:
获取所述随机特征与每一个第一样本特征之间的第一相似度;
当所述第一相似度属于预设的第一范围时,抽取属于所述第一范围的所述第一相似度对应的第一样本特征作为参考特征;
将所述参考特征所对应的样本作为所述参考样本。
4.根据权利要求3所述的方法,其特征在于,所述根据所述参考样本和标记有所述识别标识的第一样本特征,获得与所述参考样本对应的正样本的步骤,包括:
对同一个参考样本,获取所述参考样本对应的参考特征与标记有所述识别标识的第一样本特征之间的第二相似度;
当所述第二相似度属于预设的第二范围时,抽取属于所述第二范围的所述第二相似度对应的第一样本特征,作为所述参考样本对应的正样本的特征;
根据所述正样本的特征,获得该个参考样本对应的正样本。
5.根据权利要求3所述的方法,其特征在于,所述根据所述参考样本和未标记所述识别标识的第一样本特征,获得与所述参考样本对应的负样本的步骤,包括:
对同一个参考样本,获取所述参考样本对应的参考特征与未标记有所述识别标识的第一样本特征的第三相似度;
当所述第三相似度属于预设的第三范围时,抽取属于所述第三范围的所述第三相似度对应的第一样本特征,作为所述参考样本对应的负样本的特征;
根据所述负样本的特征,获得该个参考样本对应的负样本。
6.根据权利要求1所述的方法,其特征在于,所述第一样本特征与所述第二样本特征均为图片的特征。
7.一种多元组样本构建装置,其特征在于,包括:
第一特征集合获取模块,用于获取由第一样本特征组成的第一特征集合;
第一样本获取模块,用于根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本;
前向计算模块,用于通过所述待训练模型,根据所述第一多元组样本进行前向计算,获得第二样本特征;
更新模块,用于在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合;
第二样本获取模块,用于根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
8.根据权利要求7所述的装置,其特征在于,所述第一样本获取模块,还用于:
根据随机特征,从所述第一特征集合中抽取参考特征,并基于所述参考特征获得参考样本,其中,所述随机特征为从所述第一特征集合中随机选取获得,在所述第一特征集合中与所述参考特征相似的第一样本特征均被标记有识别标识;
根据所述参考样本和标记有所述识别标识的第一样本特征,获得与所述参考样本对应的正样本;
根据所述参考样本和未标记所述识别标识的第一样本特征,获得与所述参考样本对应的负样本;
根据所述参考样本,与所述参考样本对应的正样本,以及与所述参考样本对应的负样本获得第一多元组样本,每个所述参考样本对应一个多元组样本。
9.一种多元组样本构建装置,其特征在于,包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:
获取由第一样本特征组成的第一特征集合;根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本;通过所述待训练模型,根据所述第一多元组样本进行前向计算,获得第二样本特征;在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合;根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现以下步骤:
获取由第一样本特征组成的第一特征集合;根据所述第一特征集合,获得预设的待训练模型当前次训练所需的第一多元组样本;通过所述待训练模型,根据所述第一多元组样本进行前向计算,获得第二样本特征;在所述第一特征集合中,将所述第一多元组样本所对应的第一样本特征更新为所述第二样本特征,获得第二特征集合;根据所述第二特征集合,获得所述待训练模型下一次训练时所需的第二多元组样本。
CN201910049706.XA 2019-01-18 2019-01-18 一种多元组样本构建方法及装置 Pending CN111461151A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910049706.XA CN111461151A (zh) 2019-01-18 2019-01-18 一种多元组样本构建方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910049706.XA CN111461151A (zh) 2019-01-18 2019-01-18 一种多元组样本构建方法及装置

Publications (1)

Publication Number Publication Date
CN111461151A true CN111461151A (zh) 2020-07-28

Family

ID=71678201

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910049706.XA Pending CN111461151A (zh) 2019-01-18 2019-01-18 一种多元组样本构建方法及装置

Country Status (1)

Country Link
CN (1) CN111461151A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112466334A (zh) * 2020-12-14 2021-03-09 腾讯音乐娱乐科技(深圳)有限公司 一种音频识别方法、设备及介质
CN113792104A (zh) * 2021-09-16 2021-12-14 平安科技(深圳)有限公司 基于人工智能的医疗数据错误检测方法、装置及存储介质

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112466334A (zh) * 2020-12-14 2021-03-09 腾讯音乐娱乐科技(深圳)有限公司 一种音频识别方法、设备及介质
CN113792104A (zh) * 2021-09-16 2021-12-14 平安科技(深圳)有限公司 基于人工智能的医疗数据错误检测方法、装置及存储介质
CN113792104B (zh) * 2021-09-16 2024-03-01 平安科技(深圳)有限公司 基于人工智能的医疗数据错误检测方法、装置及存储介质

Similar Documents

Publication Publication Date Title
CN110782468B (zh) 图像分割模型的训练方法及装置及图像分割方法及装置
JP6918181B2 (ja) 機械翻訳モデルのトレーニング方法、装置およびシステム
US11455491B2 (en) Method and device for training image recognition model, and storage medium
CN104951335B (zh) 应用程序安装包的处理方法及装置
CN109359056B (zh) 一种应用程序测试方法及装置
CN105389296A (zh) 信息分割方法及装置
CN109360197B (zh) 图像的处理方法、装置、电子设备及存储介质
CN107133354B (zh) 图像描述信息的获取方法及装置
CN109543536B (zh) 图像标识方法及装置、电子设备和存储介质
CN107341509B (zh) 卷积神经网络的训练方法、装置及可读存储介质
CN109819288A (zh) 广告投放视频的确定方法、装置、电子设备及存储介质
CN109543069B (zh) 视频推荐方法、装置和计算机可读存储介质
CN111461304A (zh) 分类神经网络的训练方法、文本分类方法、装置及设备
US20200135205A1 (en) Input method, device, apparatus, and storage medium
CN110889489A (zh) 神经网络的训练方法、图像识别方法及其装置
CN111461156A (zh) 一种多任务训练方法及装置
CN110941727A (zh) 一种资源推荐方法、装置、电子设备及存储介质
CN111461151A (zh) 一种多元组样本构建方法及装置
CN112948704A (zh) 用于信息推荐的模型训练方法、装置、电子设备以及介质
CN104268149A (zh) 聚类方法及装置
CN107992894B (zh) 图像识别方法、装置及计算机可读存储介质
CN112259122A (zh) 音频类型识别方法、装置及存储介质
CN115512116B (zh) 图像分割模型优化方法、装置、电子设备及可读存储介质
CN110659726B (zh) 一种图像处理方法、装置、电子设备及存储介质
CN114299427A (zh) 目标对象关键点的检测方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20220812

Address after: 100084. Room 9, floor 01, cyber building, building 9, building 1, Zhongguancun East Road, Haidian District, Beijing

Applicant after: BEIJING SOGOU TECHNOLOGY DEVELOPMENT Co.,Ltd.

Address before: 310016 room 1501, building 17, No.57, kejiyuan Road, Baiyang street, Hangzhou Economic and Technological Development Zone, Zhejiang Province

Applicant before: SOGOU (HANGZHOU) INTELLIGENT TECHNOLOGY Co.,Ltd.

Applicant before: BEIJING SOGOU TECHNOLOGY DEVELOPMENT Co.,Ltd.

TA01 Transfer of patent application right