CN111488928B - 用于获取样本的方法及装置 - Google Patents
用于获取样本的方法及装置 Download PDFInfo
- Publication number
- CN111488928B CN111488928B CN202010272120.2A CN202010272120A CN111488928B CN 111488928 B CN111488928 B CN 111488928B CN 202010272120 A CN202010272120 A CN 202010272120A CN 111488928 B CN111488928 B CN 111488928B
- Authority
- CN
- China
- Prior art keywords
- sample
- target
- tag
- processed
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Automatic Analysis And Handling Materials Therefor (AREA)
Abstract
本公开的实施例公开了用于获取样本的方法及装置。该方法的一具体实施方式包括:获取目标标签集合和待处理样本;响应于上述待处理样本未包含目标标签集合内全部的目标标签,将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签;根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本。该实施方式提高了样本的利用率以及联合模型训练的有效性。
Description
技术领域
本公开的实施例涉及计算机技术领域,具体涉及用于获取样本的方法及装置。
背景技术
联合模型通常包括多个子模型。每个子模型实现对应的数据处理功能,所有的子模型联合起来完成解决一个问题。联合模型中,多个子模型之间可以共享多个数据。
在训练联合模型的过程中,为满足算法要求,多个子模型可以进行联合训练。联合训练时,子模型可以共享样本,避免了大量重复冗余的计算。
发明内容
本公开的实施例提出了用于获取样本的方法及装置。
第一方面,本公开的实施例提供了一种用于获取样本的方法,该方法包括:获取目标标签集合和待处理样本,其中,上述目标标签用于表征训练联合模型中子模型时的数据类型,上述待处理样本包括至少一个标签;响应于上述待处理样本未包含目标标签集合内全部的目标标签,将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签;根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本。
在一些实施例中,上述根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本,包括:获取上述待处理目标标签的属性信息,上述属性信息包括以下至少一项:待处理目标标签的名称、取值范围;为上述待处理样本添加伪标签,并根据上述属性信息设置上述伪标签。
在一些实施例中,上述根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本,包括:为上述伪标签设置标记符,上述标记符用于标识伪标签。
在一些实施例中,上述方法还包括:根据上述目标样本训练联合模型的步骤,上述根据上述目标样本训练联合模型的步骤包括:获取样本集合,上述样本集合包括至少一个上述目标样本;对于上述至少一个子模型中的子模型,识别上述样本集合中的伪标签,确定对应该子模型的有效样本;通过上述有效样本训练子模型,并将训练完成的子模型融合为联合模型。
在一些实施例中,上述识别上述样本集合中的伪标签,确定对应该子模型的有效样本,包括:对于上述样本集合中的样本,根据对应该子模型的目标标签查询该样本中对应该子模型的初始标签;响应于上述初始标签包含标记符,将该样本标记为无效样本,否则,将该样本标记为有效样本,其中,上述标记符用于标识伪标签。
在一些实施例中,上述通过上述有效样本训练子模型,包括:获取上述无效样本和有效样本的比例关系;按照上述比例关系分别从上述无效样本和有效样本中选取目标无效样本和目标有效样本,并通过上述目标无效样本和目标有效样本训练子模型。
在一些实施例中,上述根据上述有效样本训练子模型,包括:根据上述比例关系设置样本权重,上述样本权重用于调整上述子模型中的损失函数。
第二方面,本公开的实施例提供了一种用于获取样本的装置,该装置包括:样本获取单元,被配置成获取目标标签集合和待处理样本,其中,上述目标标签用于表征训练联合模型中子模型时的数据类型,上述待处理样本包括至少一个标签;待处理目标标签标记单元,响应于上述待处理样本未包含目标标签集合内全部的目标标签,被配置成将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签;目标样本获取单元,被配置成根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本。
在一些实施例中,上述目标样本获取单元包括:属性信息获取子单元,被配置成获取上述待处理目标标签的属性信息,上述属性信息包括以下至少一项:待处理目标标签的名称、取值范围;伪标签设置子单元,被配置成为上述待处理样本添加伪标签,并根据上述属性信息设置上述伪标签。
在一些实施例中,上述目标样本获取单元包括:标记符设置子单元,被配置成为上述伪标签设置标记符,上述标记符用于标识伪标签。
在一些实施例中,上述装置还包括:联合模型训练单元,被配置成根据上述目标样本训练联合模型,上述联合模型训练单元包括:样本获取子单元,被配置成获取样本集合,上述样本集合包括至少一个上述目标样本;有效样本查询子单元,对于上述至少一个子模型中的子模型,被配置成识别上述样本集合中的伪标签,确定对应该子模型的有效样本;联合模型训练子单元,被配置成通过上述有效样本训练子模型,并将训练完成的子模型融合为联合模型。
在一些实施例中,上述有效样本查询子单元包括:初始标签查询模块,对于上述样本集合中的样本,被配置成根据对应该子模型的目标标签查询该样本中对应该子模型的初始标签;样本标记模块,响应于上述初始标签包含标记符,被配置成将该样本标记为无效样本,否则,将该样本标记为有效样本,其中,上述标记符用于标识伪标签。
在一些实施例中,上述联合模型训练子单元包括:比例关系确定模块,被配置成获取上述无效样本和有效样本的比例关系;子模型训练模块,被配置成按照上述比例关系分别从上述无效样本和有效样本中选取目标无效样本和目标有效样本,并通过上述目标无效样本和目标有效样本训练子模型。
在一些实施例中,上述联合模型训练子单元包括:样本权重设置模块,被配置成根据上述比例关系设置样本权重,上述样本权重用于调整上述子模型中的损失函数。
第三方面,本公开的实施例提供了一种电子设备,包括:一个或多个处理器;存储器,其上存储有一个或多个程序,当上述一个或多个程序被上述一个或多个处理器执行时,使得上述一个或多个处理器执行上述第一方面的用于获取样本的方法。
第四方面,本公开的实施例提供了一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现上述第一方面的用于获取样本的方法。
本公开的实施例提供的用于获取样本的方法及装置,首先获取目标标签集合和待处理样本;然后在上述待处理样本未包含目标标签集合内全部的目标标签时,将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签,如此确定了需要添加的标签;最后,根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本,使得目标样本满足联合模型的训练需要。本申请提高了样本的利用率以及联合模型训练的有效性。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:
图1是本公开的一个实施例可以应用于其中的示例性***架构图;
图2是根据本公开的用于获取样本的方法的一个实施例的流程图;
图3是根据本公开的用于获取样本的方法的另一个实施例的流程图;
图4是根据本公开的用于获取样本的方法的又一个实施例的流程图;
图5是根据本公开的用于获取样本的装置的一个实施例的结构示意图;
图6是适于用来实现本公开的实施例的电子设备结构示意图。
具体实施方式
下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的实施例的用于获取样本的方法或用于获取样本的装置的示例性***架构100。
如图1所示,***架构100可以包括样本服务器101、102、103,网络104和模型服务器105。网络104用以在样本服务器101、102、103和模型服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
样本服务器101、102、103通过网络104与模型服务器105交互,以接收或发送消息等。样本服务器101、102、103上可以安装有样本采集应用、样本分类应用、样本编辑应用、信息发送应用等。
样本服务器101、102、103可以是硬件,也可以是软件。当样本服务器101、102、103为硬件时,可以是具有样本采集并且支持样本处理的各种电子设备,包括但不限于智能手机、智能摄像头、平板电脑、膝上型便携计算机和台式计算机等等。当样本服务器101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块,在此不做具体限定。
模型服务器105可以是提供各种服务的服务器,例如对样本服务器101、102、103发来的待处理样本进行数据处理的服务器。服务器可以对接收到的待处理样本等数据进行分析等处理,并将处理结果(例如目标样本)用于训练联合模型。
需要说明的是,本公开的实施例所提供的用于获取样本的方法一般由模型服务器105执行,相应地,用于获取样本的装置一般设置于模型服务器105中。
需要说明的是,模型服务器105可以是硬件,也可以是软件。当模型服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当模型服务器105为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块,在此不做具体限定。
应该理解,图1中的样本服务器、网络和模型服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的样本服务器、网络和模型服务器。
继续参考图2,示出了根据本公开的用于获取样本的方法的一个实施例的流程200。该用于获取样本的方法包括以下步骤:
步骤201,获取目标标签集合和待处理样本。
在本实施例中,用于获取样本的方法的执行主体(例如图1所示的模型服务器105)可以通过有线连接方式或者无线连接方式从样本服务器101、102、103获取待处理样本。需要指出的是,上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(Ultra Wideband)连接、以及其他现在已知或将来开发的无线连接方式。
现有技术中,为了对联合模型进行训练,需要样本满足联合模型中每个子模型的数据要求。而实际中,能够满足联合模型中每个子模型的数据要求的样本量数据较少,同时,这些样本又可以满足部分的子模型训练。但由于样本不能满足联合模型中每个子模型的数据要求,通常不能用于联合模型训练,如此造成样本的利用率不高,不利于对联合模型的训练。
本实施例中,待处理样本通常是根据样本服务器101、102、103自身的特性对采集的信息添加标签得到的。其中,标签用于指示该待处理样本包含哪种类型的数据类型。例如,一张交通图里有多个车辆图像,当监控摄像头采集该交通图后,样本服务器101、102、103可以分别为该交通图中的车辆信息进行判断,生成不同的标签。当样本服务器101用于识别颜色时,得到的是车辆的颜色信息,则对应的标签可以是颜色的色域值;当样本服务器102用于识别车辆尺寸时,得到的是车辆的三维信息,则对应的标签可以是车辆的长度信息、宽度信息、高度信息。则待处理样本可以包括对应颜色的标签,也可以包括对应车辆三维尺寸的标签。即,上述待处理样本包括至少一个标签。
为了训练联合模型,本申请的执行主体还要获取目标标签集合。其中,目标标签集合中的目标标签可以用于表征训练联合模型中子模型时的数据类型。目标标签可以包含有目标标签的名称、数据取值范围等属性信息。
步骤202,响应于上述待处理样本未包含目标标签集合内全部的目标标签,将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签。
当待处理样本包含目标标签集合内全部的目标标签时,说明该待处理样本可以直接用于训练联合模型。当待处理样本不包含目标标签集合内全部的目标标签时,说明该待处理样本不能直接用于训练联合模型。此时,执行主体可以将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签。例如,目标标签集合内的目标标签对应了3种数据类型,待处理样本包含了3种数据类型中的2种,则剩下的1种数据类型就是待处理目标标签指示的数据类型。
步骤203,根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本。
为了使待处理样本满足训练联合模型的要求,提高待处理样本的数据利用率,执行主体在确定了待处理目标标签后,可以为待处理样本构建伪标签,得到目标样本。伪标签不是待处理样本的真正标签,没有对应的真实数据,只是为了满足训练联合模型的需要而构建的数据。构建完目标样本后,不仅实现了将原本不能应用于训练联合模型的待处理样本转换为能够用于训练联合模型的目标样本,还提高了样本的利用率,有利于训练联合模型。
继续参考图3,示出了根据本公开的用于获取样本的方法的一个实施例的流程300。该用于获取样本的方法包括以下步骤:
步骤301,获取目标标签集合和待处理样本。
步骤301的内容与步骤201的内容相同,此处不再一一赘述。
步骤302,响应于上述待处理样本未包含目标标签集合内全部的目标标签,将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签。
步骤302的内容与步骤202的内容相同,此处不再一一赘述。
步骤303,获取上述待处理目标标签的属性信息。
确定了待处理目标标签后,执行主体可以通过对应待处理目标标签的目标标签集合中的目标标签得到该目标标签的属性信息。即,待处理目标标签的属性信息可以包括以下至少一项:待处理目标标签的名称、取值范围。
步骤304,为上述待处理样本添加伪标签,并根据上述属性信息设置上述伪标签。
得到属性信息后,执行主体可以根据属性信息构建伪标签的名称、取值范围等信息。
步骤305,为上述伪标签设置标记符。
为了便于后续训练联合模型时对伪标签的识别,执行主体可以为上述伪标签设置标记符。其中,上述标记符可以用于标识伪标签。在训练联合模型的过程中,检测到伪标签则可忽略对应的数据,以提高训练得到的模型的有效性。
本公开的上述实施例提供的方法,首先获取目标标签集合和待处理样本;然后在上述待处理样本未包含目标标签集合内全部的目标标签时,将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签,如此确定了需要添加的标签;最后,根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本,使得目标样本满足联合模型的训练需要。本申请提高了样本的利用率以及联合模型训练的有效性。
进一步参考图4,其示出了用于获取样本的方法的又一个实施例的流程400。该用于获取样本的方法的流程400,包括以下步骤:
步骤401,获取目标标签集合和待处理样本。
步骤401的内容与步骤201的内容相同,此处不再一一赘述。
步骤402,响应于上述待处理样本未包含目标标签集合内全部的目标标签,将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签。
步骤402的内容与步骤202的内容相同,此处不再一一赘述。
步骤403,根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本。
步骤403的内容与步骤203的内容相同,此处不再一一赘述。
步骤404,获取样本集合。
为了训练联合模型,执行主体可以获取样本集合。上述样本集合中的样本可以是多种不同的样本,有些样本满足训练联合模型的需要,有些样本不符合训练联合模型的需要,经构建伪标签后才符合训练联合模型的需要。即,样本集合包括至少一个上述目标样本。
步骤405,对于上述至少一个子模型中的子模型,识别上述样本集合中的伪标签,确定对应该子模型的有效样本。
不同的子模型需要的标签不同。执行主体可以根据每个子模型的需要,对样本进行识别。执行主体可以识别出对应子模型的样本中的伪标签,进而确定该子模型的有效样本。
在本实施例的一些可选的实现方式中,上述识别上述样本集合中的伪标签,确定对应该子模型的有效样本,可以包括:
第一步,对于上述样本集合中的样本,根据对应该子模型的目标标签查询该样本中对应该子模型的初始标签。
不同的子模型对样本的要求不同。执行主体可以从样本中查询对应子模型的初始标签。
第二步,响应于上述初始标签包含标记符,将该样本标记为无效样本,否则,将该样本标记为有效样本。
初始标签可能包含样本的真实标签,也可能是伪标签,因此,执行主体需要对初始标签进行识别。由上述描述可知,伪标签包含标记符,即标记符用于标识伪标签。当初始标签包含标记符时,说明该初始标签为伪标签。此时,执行主体可以将该样本标记为无效样本。当初始标签不包含标记符时,说明该初始标签为真实标签。此时,执行主体可以将该样本标记为有效样本。
步骤406,通过上述有效样本训练子模型,并将训练完成的子模型融合为联合模型。
通过有效样本训练子模型后,可以根据实际情况将将训练完成的子模型融合为联合模型。
在本实施例的一些可选的实现方式中,上述通过上述有效样本训练子模型,可以包括以下步骤:
第一步,获取上述无效样本和有效样本的比例关系。
在训练子模型时,不仅要通过有效样本来训练做模型,还需要考虑无效样本。如此,训练后的子模型才能真实反映实际中的情况。执行主体可以计算上述无效样本和有效样本的比例,得到比例关系。该比例关系就可以反映样本的实际情况。
第二步,按照上述比例关系分别从上述无效样本和有效样本中选取目标无效样本和目标有效样本,并通过上述目标无效样本和目标有效样本训练子模型。
执行主体不是每次都要将所有的样本都用于训练子模型。考虑到训练子模型的速度和效果等因素,执行主体可以按照上述比例关系分别从上述无效样本和有效样本中选取目标无效样本和目标有效样本,并通过上述目标无效样本和目标有效样本训练子模型。如此,可以兼顾训练子模型的效果和速度,提高了训练联合模型的效率。
在本实施例的一些可选的实现方式中,上述根据上述有效样本训练子模型,包括:根据上述比例关系设置样本权重。
在训练子模型的过程中需要用到损失函数。由于伪标签的存在,使得训练子模型的样本并不全是有效的。因此,执行主体可以根据上述的比例关系设置样本权重,以调整损失函数的取值,使得训练后的子模型更能符合实际情况的需要。即,上述样本权重用于调整上述子模型中的损失函数。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了一种用于获取样本的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的用于获取样本的装置500可以包括:样本获取单元501、待处理目标标签标记单元502、目标样本获取单元503。其中,样本获取单元501,被配置成获取目标标签集合和待处理样本,其中,上述目标标签用于表征训练联合模型中子模型时的数据类型,上述待处理样本包括至少一个标签;待处理目标标签标记单元502,响应于上述待处理样本未包含目标标签集合内全部的目标标签,被配置成将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签;目标样本获取单元503,被配置成根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本。
在本实施例的一些可选的实现方式中,上述目标样本获取单元503可以包括:属性信息获取子单元(图中未视出)和伪标签设置子单元(图中未视出)。其中,属性信息获取子单元,被配置成获取上述待处理目标标签的属性信息,上述属性信息包括以下至少一项:待处理目标标签的名称、取值范围;伪标签设置子单元,被配置成为上述待处理样本添加伪标签,并根据上述属性信息设置上述伪标签。
在本实施例的一些可选的实现方式中,上述目标样本获取单元503可以包括:标记符设置子单元(图中未视出),被配置成为上述伪标签设置标记符,上述标记符用于标识伪标签。
在本实施例的一些可选的实现方式中,上述用于获取样本的装置500还可以包括:联合模型训练单元(图中未视出),被配置成根据上述目标样本训练联合模型,上述联合模型训练单元可以包括:样本获取子单元(图中未视出)、有效样本查询子单元(图中未视出)和联合模型训练子单元(图中未视出)。其中,样本获取子单元,被配置成获取样本集合,上述样本集合包括至少一个上述目标样本;有效样本查询子单元,对于上述至少一个子模型中的子模型,被配置成识别上述样本集合中的伪标签,确定对应该子模型的有效样本;联合模型训练子单元,被配置成通过上述有效样本训练子模型,并将训练完成的子模型融合为联合模型。
在本实施例的一些可选的实现方式中,上述有效样本查询子单元可以包括:初始标签查询模块(图中未视出)和样本标记模块(图中未视出)。其中,初始标签查询模块,对于上述样本集合中的样本,被配置成根据对应该子模型的目标标签查询该样本中对应该子模型的初始标签;样本标记模块,响应于上述初始标签包含标记符,被配置成将该样本标记为无效样本,否则,将该样本标记为有效样本,其中,上述标记符用于标识伪标签。
在本实施例的一些可选的实现方式中,上述联合模型训练子单元可以包括:比例关系确定模块(图中未视出)和子模型训练模块(图中未视出)。其中,比例关系确定模块,被配置成获取上述无效样本和有效样本的比例关系;子模型训练模块,被配置成按照上述比例关系分别从上述无效样本和有效样本中选取目标无效样本和目标有效样本,并通过上述目标无效样本和目标有效样本训练子模型。
在本实施例的一些可选的实现方式中,上述联合模型训练子单元可以包括:样本权重设置模块(图中未视出),被配置成根据上述比例关系设置样本权重,上述样本权重用于调整上述子模型中的损失函数。
本实施例还提供了一种电子设备,包括:一个或多个处理器;存储器,其上存储有一个或多个程序,当上述一个或多个程序被上述一个或多个处理器执行时,使得上述一个或多个处理器执行上述的用于获取样本的方法。
本实施例还提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现上述的用于获取样本的方法。
下面参考图6,其示出了适于用来实现本公开的实施例的电子设备(例如,图1中的模型服务器105)的计算机***600的结构示意图。图6示出的电子设备仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开的实施例的方法中限定的上述功能。
需要说明的是,本公开的实施例上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取目标标签集合和待处理样本,其中,上述目标标签用于表征训练联合模型中子模型时的数据类型,上述待处理样本包括至少一个标签;响应于上述待处理样本未包含目标标签集合内全部的目标标签,将上述目标标签集合中的、上述待处理样本未包含的目标标签标记为待处理目标标签;根据上述待处理目标标签为上述待处理样本构建伪标签,得到目标样本。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开的各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括样本获取单元、待处理目标标签标记单元和目标样本获取单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,目标样本获取单元还可以被描述为“获取训练联合模型的样本的单元”。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (16)
1.一种用于获取图像样本的方法,包括:
获取目标标签集合和待处理样本,其中,所述目标标签用于表征训练联合模型中子模型时的数据类型,包括车辆颜色标签和车辆尺寸标签,所述待处理样本为交通图像,包括表征交通图像中的车辆对象的车辆信息的至少一个标签;
确定所述待处理样本中是否包括所述目标标签集合中的车辆颜色标签和车辆尺寸标签;
响应于所述待处理样本未包含目标标签集合内全部的目标标签,将所述目标标签集合中的、所述待处理样本未包含的目标标签标记为待处理目标标签;
根据所述待处理目标标签为所述待处理样本构建伪标签,得到目标图像样本。
2.根据权利要求1所述的方法,其中,所述根据所述待处理目标标签为所述待处理样本构建伪标签,得到目标图像样本,包括:
获取所述待处理目标标签的属性信息,所述属性信息包括以下至少一项:待处理目标标签的名称、取值范围;
为所述待处理样本添加伪标签,并根据所述属性信息设置所述伪标签。
3.根据权利要求1所述的方法,其中,所述根据所述待处理目标标签为所述待处理样本构建伪标签,得到目标图像样本,包括:
为所述伪标签设置标记符,所述标记符用于标识伪标签。
4.根据权利要求1所述的方法,其中,所述方法还包括:根据所述目标图像样本训练联合模型的步骤,所述根据所述目标图像样本训练联合模型的步骤包括:
获取样本集合,所述样本集合包括至少一个所述目标图像样本;
对于所述至少一个子模型中的子模型,识别所述样本集合中的伪标签,确定对应该子模型的有效样本;
通过所述有效样本训练子模型,并将训练完成的子模型融合为联合模型。
5.根据权利要求4所述的方法,其中,所述识别所述样本集合中的伪标签,确定对应该子模型的有效样本,包括:
对于所述样本集合中的样本,根据对应该子模型的目标标签查询该样本中对应该子模型的初始标签;
响应于所述初始标签包含标记符,将该样本标记为无效样本,否则,将该样本标记为有效样本,其中,所述标记符用于标识伪标签。
6.根据权利要求5所述的方法,其中,所述通过所述有效样本训练子模型,包括:
获取所述无效样本和有效样本的比例关系;
按照所述比例关系分别从所述无效样本和有效样本中选取目标无效样本和目标有效样本,并通过所述目标无效样本和目标有效样本训练子模型。
7.根据权利要求6所述的方法,其中,所述根据所述有效样本训练子模型,包括:
根据所述比例关系设置样本权重,所述样本权重用于调整所述子模型中的损失函数。
8.一种用于获取图像样本的装置,包括:
样本获取单元,被配置成获取目标标签集合和待处理样本,其中,所述目标标签用于表征训练联合模型中子模型时的数据类型,包括车辆颜色标签和车辆尺寸标签,所述待处理样本为交通图像,包括表征交通图像中的车辆对象的车辆信息的至少一个标签;
标签确定单元,被配置成确定所述待处理样本中是否包括所述目标标签集合中的车辆颜色标签和车辆尺寸标签;
待处理目标标签标记单元,响应于所述待处理样本未包含目标标签集合内全部的目标标签,被配置成将所述目标标签集合中的、所述待处理样本未包含的目标标签标记为待处理目标标签;
目标样本获取单元,被配置成根据所述待处理目标标签为所述待处理样本构建伪标签,得到目标图像样本。
9.根据权利要求8所述的装置,其中,所述目标样本获取单元包括:
属性信息获取子单元,被配置成获取所述待处理目标标签的属性信息,所述属性信息包括以下至少一项:待处理目标标签的名称、取值范围;
伪标签设置子单元,被配置成为所述待处理样本添加伪标签,并根据所述属性信息设置所述伪标签。
10.根据权利要求8所述的装置,其中,所述目标样本获取单元包括:
标记符设置子单元,被配置成为所述伪标签设置标记符,所述标记符用于标识伪标签。
11.根据权利要求8所述的装置,其中,所述装置还包括:联合模型训练单元,被配置成根据所述目标图像样本训练联合模型,所述联合模型训练单元包括:
样本获取子单元,被配置成获取样本集合,所述样本集合包括至少一个所述目标图像样本;
有效样本查询子单元,对于所述至少一个子模型中的子模型,被配置成识别所述样本集合中的伪标签,确定对应该子模型的有效样本;
联合模型训练子单元,被配置成通过所述有效样本训练子模型,并将训练完成的子模型融合为联合模型。
12.根据权利要求11所述的装置,其中,所述有效样本查询子单元包括:
初始标签查询模块,对于所述样本集合中的样本,被配置成根据对应该子模型的目标标签查询该样本中对应该子模型的初始标签;
样本标记模块,响应于所述初始标签包含标记符,被配置成将该样本标记为无效样本,否则,将该样本标记为有效样本,其中,所述标记符用于标识伪标签。
13.根据权利要求12所述的装置,其中,所述联合模型训练子单元包括:
比例关系确定模块,被配置成获取所述无效样本和有效样本的比例关系;
子模型训练模块,被配置成按照所述比例关系分别从所述无效样本和有效样本中选取目标无效样本和目标有效样本,并通过所述目标无效样本和目标有效样本训练子模型。
14.根据权利要求13所述的装置,其中,所述联合模型训练子单元包括:
样本权重设置模块,被配置成根据所述比例关系设置样本权重,所述样本权重用于调整所述子模型中的损失函数。
15.一种电子设备,包括:
一个或多个处理器;
存储器,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行权利要求1至7中任一所述的方法。
16.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1至7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010272120.2A CN111488928B (zh) | 2020-04-09 | 2020-04-09 | 用于获取样本的方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010272120.2A CN111488928B (zh) | 2020-04-09 | 2020-04-09 | 用于获取样本的方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111488928A CN111488928A (zh) | 2020-08-04 |
CN111488928B true CN111488928B (zh) | 2023-09-01 |
Family
ID=71797820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010272120.2A Active CN111488928B (zh) | 2020-04-09 | 2020-04-09 | 用于获取样本的方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111488928B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114581146A (zh) * | 2022-03-10 | 2022-06-03 | 北京乐我无限科技有限责任公司 | 模型评估方法、装置、电子设备和存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107273927A (zh) * | 2017-06-13 | 2017-10-20 | 西北工业大学 | 基于类间匹配的无监督领域适应分类方法 |
CN107832305A (zh) * | 2017-11-28 | 2018-03-23 | 百度在线网络技术(北京)有限公司 | 用于生成信息的方法和装置 |
CN110210545A (zh) * | 2019-05-27 | 2019-09-06 | 河海大学 | 基于迁移学习的红外遥感水体分类器构建方法 |
CN110851738A (zh) * | 2019-10-28 | 2020-02-28 | 百度在线网络技术(北京)有限公司 | 获取poi状态信息的方法、装置、设备和计算机存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11455807B2 (en) * | 2018-09-20 | 2022-09-27 | Nvidia Corporation | Training neural networks for vehicle re-identification |
-
2020
- 2020-04-09 CN CN202010272120.2A patent/CN111488928B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107273927A (zh) * | 2017-06-13 | 2017-10-20 | 西北工业大学 | 基于类间匹配的无监督领域适应分类方法 |
CN107832305A (zh) * | 2017-11-28 | 2018-03-23 | 百度在线网络技术(北京)有限公司 | 用于生成信息的方法和装置 |
CN110210545A (zh) * | 2019-05-27 | 2019-09-06 | 河海大学 | 基于迁移学习的红外遥感水体分类器构建方法 |
CN110851738A (zh) * | 2019-10-28 | 2020-02-28 | 百度在线网络技术(北京)有限公司 | 获取poi状态信息的方法、装置、设备和计算机存储介质 |
Non-Patent Citations (1)
Title |
---|
半监督单样本深度行人重识别方法;单纯等;《计算机***应用》;第29卷(第1期);第256−260页 * |
Also Published As
Publication number | Publication date |
---|---|
CN111488928A (zh) | 2020-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109308681B (zh) | 图像处理方法和装置 | |
CN109947989B (zh) | 用于处理视频的方法和装置 | |
CN109740018B (zh) | 用于生成视频标签模型的方法和装置 | |
CN109961032B (zh) | 用于生成分类模型的方法和装置 | |
CN110084317B (zh) | 用于识别图像的方法和装置 | |
CN110059623B (zh) | 用于生成信息的方法和装置 | |
CN115240157B (zh) | 道路场景数据持久化方法、装置、设备和计算机可读介质 | |
CN113409393B (zh) | 用于识别交通标志牌的方法及装置 | |
CN111340015A (zh) | 定位方法和装置 | |
KR102543838B1 (ko) | 정보 획득 방법 및 장치 | |
CN111488928B (zh) | 用于获取样本的方法及装置 | |
CN114708545A (zh) | 基于图像的对象侦测方法、装置、设备和存储介质 | |
CN111278085B (zh) | 用于获取目标网络的方法及装置 | |
CN111324470B (zh) | 用于生成信息的方法及装置 | |
CN115061386B (zh) | 智能驾驶的自动化仿真测试***及相关设备 | |
CN110727692B (zh) | 用于设置联动图表的方法及装置 | |
CN113255819B (zh) | 用于识别信息的方法和装置 | |
CN112597174B (zh) | 地图更新方法、装置、电子设备和计算机可读介质 | |
CN111383337B (zh) | 用于识别对象的方法和装置 | |
CN110084298B (zh) | 用于检测图像相似度的方法及装置 | |
CN111241368B (zh) | 数据处理方法、装置、介质和设备 | |
CN110334763B (zh) | 模型数据文件生成、图像识别方法、装置、设备及介质 | |
CN107655492B (zh) | 用于查询信息的方法及装置 | |
CN112394809A (zh) | 一种实现增强现实的方法、装置及通信设备 | |
CN112560324B (zh) | 用于输出信息的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |