CN114819188A - 模型训练方法、装置、电子设备及可读存储介质 - Google Patents
模型训练方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN114819188A CN114819188A CN202210554642.0A CN202210554642A CN114819188A CN 114819188 A CN114819188 A CN 114819188A CN 202210554642 A CN202210554642 A CN 202210554642A CN 114819188 A CN114819188 A CN 114819188A
- Authority
- CN
- China
- Prior art keywords
- model
- self
- attention relationship
- relationship value
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012549 training Methods 0.000 title claims abstract description 117
- 238000000034 method Methods 0.000 title claims abstract description 43
- 239000013598 vector Substances 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 11
- 239000013604 expression vector Substances 0.000 claims description 6
- 238000005457 optimization Methods 0.000 claims description 2
- 238000013135 deep learning Methods 0.000 abstract 1
- 238000012545 processing Methods 0.000 description 13
- 238000004364 calculation method Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 2
- 238000013140 knowledge distillation Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Medical Informatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Machine Translation (AREA)
Abstract
本公开提供了一种模型训练方法、装置、电子设备及可读存储介质，涉及计算机技术领域，尤其涉及深度学习技术领域。具体实现方案为：获取N个训练语句，并将所述N个训练语句分别输入第一模型和第二模型，N为大于1的整数；获取所述第一模型输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型输出的第三自注意力关系值和第四自注意力关系值；获取所述第三自注意力关系值与所述第一自注意力关系值之间的第一相似度，以及所述第四自注意力关系值与所述第二自注意力关系值之间的第二相似度；基于所述第一相似度及所述第二相似度对所述第二模型进行训练。
Description
技术领域
本公开涉及计算机技术领域，尤其涉及深度学习技术领域，具体涉及一种模型训练方法、装置、电子设备及可读存储介质。
背景技术
目前，模型压缩采用的方式主要有知识蒸馏、裁剪和量化三种。其中，基于知识蒸馏方式的模型压缩是通过使用效果好的大模型(或者也称教师模型)指导小模型(或者也称学生模型)训练，通过将教师模型的“知识”迁移到学生模型上来进行模型压缩。通常，学生模型会显著小于教师模型，模型缩小的同时，其模型精度也会存在一定损失。
发明内容
本公开提供了一种模型训练方法、装置、电子设备及可读存储介质。
根据本公开的第一方面，提供了一种模型训练方法，包括：
获取N个训练语句，并将所述N个训练语句分别输入第一模型和第二模型，N为大于1的整数；
获取所述第一模型输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型输出的第三自注意力关系值和第四自注意力关系值；
获取所述第三自注意力关系值与所述第一自注意力关系值之间的第一相似度，以及所述第四自注意力关系值与所述第二自注意力关系值之间的第二相似度；
基于所述第一相似度及所述第二相似度对所述第二模型进行训练；
其中，所述第一自注意力关系值和所述第三自注意力关系值为第一目标语句中字与字计算得到的自注意力关系值，所述第二自注意力关系值和所述第四自注意力关系值为所述第一目标语句中的字与第二目标语句中的字计算得到的自注意力关系值，所述第一目标语句和所述第二目标语句为所述N个训练语句中不同的语句。
根据本公开的第二方面，提供了一种模型训练装置，包括：
输入模块，用于获取N个训练语句，并将所述N个训练语句分别输入第一模型和第二模型，N为大于1的整数；
第一获取模块，用于获取所述第一模型输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型输出的第三自注意力关系值和第四自注意力关系值；
第二获取模块，用于获取所述第三自注意力关系值与所述第一自注意力关系值之间的第一相似度，以及所述第四自注意力关系值与所述第二自注意力关系值之间的第二相似度；
训练模块，用于基于所述第一相似度及所述第二相似度对所述第二模型进行训练；
其中，所述第一自注意力关系值和所述第三自注意力关系值为第一目标语句中字与字计算得到的自注意力关系值，所述第二自注意力关系值和所述第四自注意力关系值为所述第一目标语句中的字与第二目标语句中的字计算得到的自注意力关系值，所述第一目标语句和所述第二目标语句为所述N个训练语句中不同的语句。
根据本公开的第三方面，提供了一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行第一方面所述的方法。
根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行第一方面所述的方法。
根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现第一方面所述的方法。
本公开实施例中，不仅关注训练语句中语句内字与字之间的自注意力关系值，同时还关注语句间字与字之间的自注意力关系值，进而有效丰富了模型输出，以提升模型的训练精度，确保第二模型的输出精度更高。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开实施例提供的一种模型训练方法的流程图；
图2是根据本公开实施例提供的一种模型训练装置的结构图；
图3是用来实现本公开实施例的模型训练方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
请参照图1，图1是本公开实施例提供的一种模型训练方法的流程图，如图1所示，所述方法包括以下步骤：
步骤S101、获取N个训练语句，并将所述N个训练语句分别输入第一模型和第二模型，N为大于1的整数。
需要说明的是，本公开实施例提供的模型训练方法可以是应用如计算机、平板电脑、手机等电子设备。为更好地理解，以下将以电子设备为例对本公开实施例提供的技术方案进行说明。
本公开实施例中，电子设备获取N个训练语句，N为大于1的整数，也即获取至少两个训练语句。可选地，电子设备可以是基于网络爬虫从互联网爬取海量网页、新闻、百科等互联网开放数据，并解析出自然语言数据进行预处理产生多个语句，将这些语句作为所述训练语句。或者，电子设备也可以是获取预设的N个语句作为训练语句，也即所述训练语句是预先设置的、特定的语句。
电子设备在获取N个训练语句后，将所述N个训练语句分别输入第一模型和第二模型，也即所述N个训练语句被输入第一模型，同时所述N个训练语句也被输入第二模型。其中，所述第一模型和所述第二模型可以是同种类型的网络模型，或者也可以是不同类型的网络模型。
步骤S102、获取所述第一模型输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型输出的第三自注意力关系值和第四自注意力关系值。
其中，所述第一自注意力关系值和所述第三自注意力关系值为第一目标语句中字与字计算得到的自注意力关系值，所述第二自注意力关系值和所述第四自注意力关系值为所述第一目标语句中的字与第二目标语句中的字计算得到的自注意力关系值，所述第一目标语句和所述第二目标语句为所述N个训练语句中不同的语句。
需要说明地，所述第一自注意力关系值和第三自注意力关系值为所述N个训练语句中任一语句中的所有字两两计算得到的自注意力关系值。例如N为3，也即需要先对其中一个语句中的所有字两两计算得到的自注意力关系值，然后对另一个语句中的所有字两两计算得到的自注意力关系值，再对最后一个语句中的所有字两两计算得到的自注意力关系值。所述第二自注意力关系值和所述第四自注意力关系值为N个训练语句中每两个语句各自选取一个字计算得到的自注意力关系值，例如N为3，则计算第一个语句中的第一个字分别与第二语句中的每个字计算得到的自注意力关系值，然后计算第一个语句中的第二个字分别与第二语句中的每个字计算得到的自注意力关系值……直至这三个语句中不同语句之间所有字两两计算得到所有的自注意力关系值。
例如，所述N个训练语句包括语句A和语句B，其中语句A包括3个字，语句B包括4个字，也即将语句A和语句B分别输入第一模型和第二模型，第一模型和第二模型分别对输入的训练语句进行处理，例如获取语句A和语句B中每个字的语义表示向量，基于每个字的语义表示向量计算字与字之间的自注意力关系值并输出。
其中，第一目标语句可以是语句A，或者也可以是语句B；以第一目标语句是语句A为例，则第二目标语句是语句B，第一模型和第二模型分别基于自身的模型结构和模型参数对所述语句A和语句B进行处理，将语句A中的所有字两两计算得到第一自注意力关系值，也即语句A中的3个字两两计算，总共得到9个第一自注意力关系值，也即第一模型输出9个第一自注意力关系值，第二模型输出9个第三自注意力关系值；另外，第一模型和第二模型分别计算语句A中的字与语句B中的字之间的自注意力关系值，也即语句A中的3个字与语句B中的4个字两两组合计算得到12个自注意力关系值，也即第一模型输出12个第二自注意力关系值，第二模型输出12个第四自注意力关系值。
需要说明的是，在一些实施例中，所述自注意力关系值也可以称为自注意力关系知识、自注意力关系向量等，本公开对此不做具体限定。
本公开实施例中，在将N个训练语句分别输入第一模型和第二模型后，所述第一模型和第二模型分别对所述N个训练语句进行处理，以获取同一语句中所有字两两计算得到的自注意力关系值(也即第一自注意力关系值和第三自注意力关系值)并输出，以及获取不同语句的字与字之间的自注意力关系值(也即第二自注意力关系值和第四自注意力关系值)并输出。这样，也就不仅得到了关于同一语句中字与字之间的自注意力关系值，还能够获得不同语句之间字与字的自注意力关系值。
步骤S103、获取所述第三自注意力关系值与所述第一自注意力关系值之间的第一相似度，以及所述第四自注意力关系值与所述第二自注意力关系值之间的第二相似度。
可以理解地，所述第一模型和第二模型的输入虽然都为N个训练语句，但即使是两个结构类型相同的模型在对相同的输入进行处理后，其输出也会存在差异。本公开实施例中，在将N个训练语句分别输入第一模型和第二模型后，所述第一模型输出的第一自注意力关系值与第二模型输出的第三自注意力关系值会存在一定差异，第一模型输出的第二自注意力关系值与第二模型输出的第四自注意力关系值也会存在一定差异。
本公开实施例中，在获取到第一模型输出的第一自注意力关系值和第二自注意力关系值，以及第二模型输出的第三自注意力关系值和第四自注意力关系值后，计算所述第三自注意力关系值与所述第一自注意力关系值之间的第一相似度，以及所述第四自注意力关系值与所述第二自注意力关系值之间的第二相似度。
步骤S104、基于所述第一相似度及所述第二相似度对所述第二模型进行训练。
可以理解地，基于第一相似度能够获知第三自注意力关系值与第一自注意力关系值之间的差异度，基于第二相似度能够获知第四自注意力关系值与第二自注意力关系值之间的差异度，而第三自注意力关系值和第四自注意力关系值为第二模型对N个训练语句处理后的输出，第一自注意力关系值和第二自注意力关系值为第一模型对N各训练语句处理后的输出。这样，基于第一相似度和第二相似度也就能够获知在对同输入的处理上，第一模型与第一模型之间的差异，进而基于所述第一相似度和第二相似度对第二模型进行训练。
例如，可以是将所述第一相似度及第二相似度反向传输给第二模型，进而使得第二模型能够基于所述第一相似度和第二相似度来进行自学习以实现模型训练。
需要说明的是，所述第二模型的训练目的是使得训练后的第二模型的输出能够尽可能与第一模型的输出相似，这样也就能够实现第一模型至第二模型的迁移。例如，所述第一模型可以是模型结构和模型参数量均较大的模型，第二模型可以是模型结构和模型参数量较小的模型，通过对第一模型和第二模型输入相同的N个训练语句，并获取第一模型和第二模型各自的输出，计算这两个模型的输出之间的相似度，基于其相似度来对第二模型进行训练，以使得训练后的第二模型能够以更小的模型结构和模型参数量来实现与第一模型相似的处理效果，确保第二模型具有较好的模型精度，这样也就相当于将第一模型压缩为第二模型，实现了模型压缩，使得第二模型能够应用于运算能力有限的终端上，有效提升第二模型的应用范围。
本公开实施例中，将所述N个训练语句分别输入第一模型和第二模型，获取所述第一模型输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型输出的第三自注意力关系值和第四自注意力关系值，然后计算所述第三自注意力关系值与所述第一自注意力关系值之间的第一相似度，以及所述第四自注意力关系值与所述第二自注意力关系值之间的第二相似度，基于所述第一相似度及所述第二相似度对所述第二模型进行训练，以使得训练后的第二模型能够实现与第一模型相似的处理效果。并且，本公开实施例中，不仅关注训练语句中语句内字与字之间的自注意力关系值，同时还关注语句间字与字之间的自注意力关系值，进而有效丰富了模型输出，以提升模型的训练精度，确保第二模型的输出精度更高，更贴近第一模型。
可选地，所述步骤S102可以包括：
获取所述N个训练语句中字的语义表示向量；
获取所述第一模型基于所述语义表示向量输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型基于所述语义表示向量输出的第三自注意力关系值和第四自注意力关系值。
需要说明的是，电子设备可以是在将N个训练语句分别输入第一模型和第二模型后，通过第一模型和第二模型来获取N个训练语句中每个字的语义表示向量。例如，第一模型获取所述N个训练语句中每个字的语义表示向量，第二模型同样获取所述N个训练语句中每个字的语义表示向量。
可选地，在将N个训练语句分别输入第一模型和第二模型后，第一模型和第二模型还可以是先将输入的N个训练语句填充(padding)到固定长度。其中，所述固定长度可以是预设的长度。可以理解地，N个训练语句中，不同的语句可能是不同的长度，例如包含的字数不同。第一模型和第二模型可以是对输入的N个训练语句进行填充(padding)处理，以确保每个训练语句都填充到固定长度，进而能够更加方便第一模型和第二模型对于训练语句的处理。
本公开实施例中，在获取到所述N个训练语句中每个字的语义表示向量后，第一模型基于所述语义表示向量，计算每个训练语句中所有字两两计算出的第一自注意力关系值，以及不同训练语句间字与字的第二自注意力关系值，第一自注意力关系值和第二自注意力关系值为向量。同时，第二模型基于所述语义表示向量同样可以计算得到第三自注意力关系值和第四自注意力关系值，所述第三自注意力关系值和第四自注意力关系值同样可以为向量。
本公开实施例中，通过获取N个训练语句中字的语义表示向量，进而使得第一模型和第二模型能够基于所述语义表示向量来进行处理和模型运算，以更加方便第一模型和第二模型对于训练语句的处理。
可选地，所述第一模型与所述第二模型为同一类型的模型，例如都为深度自注意力变换网络模型(Transformer)。本公开实施例中，所述将所述N个训练语句分别输入第一模型和第二模型之前，所述方法还可以包括：
基于所述第一模型确定第二模型的第一模型层数，所述第一模型层数小于所述第一模型的模型层数；
对包含所述第一模型层数的第二模型的模型参数进行随机初始化。
需要说明的是，第二模型的模型层数小于第一模型的模型层数，也即第二模型的模型体量要小于第一模型。可选地，第一模型的模型层数可以是已知的，而为了实现模型压缩，则可以基于第一模型的模型层数来确定第二模型的模型层数，也即只需要第二模型的模型层数小于第一模型的模型层数即可。
本公开实施例中，基于第一模型的模型层数，确定第二模型的模型层数为第一模型层数，也即确立了第二模型的模型体量；进一步地，对包含所述第一模型层数的第二模型的模型参数进行随机初始化，进而以使得随机初始化后的第二模型能够更好地实现对输入的N个训练语句的处理，以确保第二模型的输出尽量贴近第一模型的输出。
可选地，所述步骤S104之后，所述方法还包括：
基于所述第二模型的训练结果，对包含所述第一模型层数的第二模型进行优化，以将所述第一模型层数调整为第二模型层数。
本公开实施例中，在基于第一相似度和第二相似度对第二模型进行训练后，获取训练后的第二模型的输出，并判断该输出与第一模型的输出之间的差异。若差异较小，说明训练后的第二模型的输出与第一模型的输出较为贴近，则可以进一步缩小第二模型的模型层数，也即调整后的第二模型层数小于所述第一模型层数，这样也就能够进一步缩小第二模型的模型体量，以更好地实现对第二模型的压缩，并可以基于上述模型训练方法对包含第二模型层数的第二模型进行训练，以确保压缩至第二模型层数的第二模型具有较好的输出精度。若差异较大，说明训练后的第二模型的输出与第一模型的输出存在较大差异，则可能是第二模型的模型层数较少而导致的模型输出精度降低，则可以是将第二模型的模型层数调整为第二模型层数，所述第二模型层数大于所述第一模型层数，并基于上述模型训练方法对调整后的第二模型进行训练，以确保调整至第二模型层数的第二模型的输出能够尽量贴近所述第一模型的模型输出。
需要说明的是，可以是基于上述模型训练方式对第二模型进行多次训练，直至第二模型的输出尽量贴近第一模型的输出，进而以确保第二模型的输出精度。
本公开实施例中，能够基于所述第二模型的训练结果，对包含所述第一模型层数的第二模型进行优化，进而以确保优化后的第二模型能够具有较好的输出精度。
可选地，所述基于所述第一相似度及所述第二相似度对所述第二模型进行训练，包括：
基于相对熵对所述第一相似度及所述第二相似度进行判断，以对所述第二模型进行训练；
其中，训练后的第二模型输出的第三自注意力关系值与所述第一自注意力关系值之间的相似度大于第一预设值，训练后的第二模型输出的第四自注意力关系值与所述第二自注意力关系值之间的相似度大于第二预设值。
其中，所述相对熵也可以称为库拜克-雷卜勒散度(Kullback-Leibler，K-L散度)，或者也可称为信息散度。
本公开实施例中，可以是基于K-L散度作为第一相似度与第二相似度的判断标准来对第二模型进行训练，例如基于K-L散度来判断第一相似度和第二相似度是否达到了预设值，如若达到了预设值，则可以停止对第二模型的训练，若未达到预设值，则继续训练优化所述第二模型，以确保第二模型具有较好的输出精度。
其中，训练后的第二模型，或者说训练好的第二模型输出的第三自注意力关系值与第一模型输出的第一自注意力关系值之间的相似度大于第一预设值，训练好的第二模型输出的第四自注意力关系值与第一模型输出的第二自注意力关系值之间的相似度大于第二预设值。这样，也就能够确保训练后的第二模型的输出精度较高，进而能够在确保第二模型的输出精度的情况下，完成第一模型至第二模型的知识迁移，更有助于第二模型推广和应用。
请参照图2，图2是本公开实施例提供的一种模型训练装置的结构图，如图2所示，模型训练装置200包括：
输入模块201，用于获取N个训练语句，并将所述N个训练语句分别输入第一模型和第二模型，N为大于1的整数；
第一获取模块202，用于获取所述第一模型输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型输出的第三自注意力关系值和第四自注意力关系值；
第二获取模块203，用于获取所述第三自注意力关系值与所述第一自注意力关系值之间的第一相似度，以及所述第四自注意力关系值与所述第二自注意力关系值之间的第二相似度；
训练模块204，用于基于所述第一相似度及所述第二相似度对所述第二模型进行训练；
其中，所述第一自注意力关系值和所述第三自注意力关系值为第一目标语句中字与字计算得到的自注意力关系值，所述第二自注意力关系值和所述第四自注意力关系值为所述第一目标语句中的字与第二目标语句中的字计算得到的自注意力关系值，所述第一目标语句和所述第二目标语句为所述N个训练语句中不同的语句。
可选地，所述第一获取模块202还用于：
获取所述N个训练语句中字的语义表示向量；
获取所述第一模型基于所述语义表示向量输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型基于所述语义表示向量输出的第三自注意力关系值和第四自注意力关系值。
可选地，所述第一模型与所述第二模型为同一类型的模型；所述装置还包括：
确定模块，用于基于所述第一模型确定第二模型的第一模型层数，所述第一模型层数小于所述第一模型的模型层数；
初始化模块，用于对包含所述第一模型层数的第二模型的模型参数进行随机初始化。
可选地，所述装置还包括：
优化模块，用于基于所述第二模型的训练结果，对包含所述第一模型层数的第二模型进行优化，以将所述第一模型层数调整为第二模型层数。
可选地，所述训练模块204还用于：
基于相对熵对所述第一相似度及所述第二相似度进行判断，以对所述第二模型进行训练；
其中，训练后的第二模型输出的第三自注意力关系值与所述第一自注意力关系值之间的相似度大于第一预设值，训练后的第二模型输出的第四自注意力关系值与所述第二自注意力关系值之间的相似度大于第二预设值。
本公开实施例提供的模型训练装置200，不仅关注训练语句中语句内字与字之间的自注意力关系值，同时还关注语句间字与字之间的自注意力关系值，进而有效丰富了模型输出，以提升模型的训练精度，能够确保第二模型的输出精度更高。
本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图3示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图3所示，电子设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储电子设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
电子设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如模型训练方法。例如，在一些实施例中，模型训练方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到电子设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的模型训练方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行上述模型训练方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的***和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如，作为数据服务器)、或者包括中间件部件的计算***(例如，应用服务器)、或者包括前端部件的计算***(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将***的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式***的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。
Claims (13)
1.一种模型训练方法，包括：
获取N个训练语句，并将所述N个训练语句分别输入第一模型和第二模型，N为大于1的整数；
获取所述第一模型输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型输出的第三自注意力关系值和第四自注意力关系值；
获取所述第三自注意力关系值与所述第一自注意力关系值之间的第一相似度，以及所述第四自注意力关系值与所述第二自注意力关系值之间的第二相似度；
基于所述第一相似度及所述第二相似度对所述第二模型进行训练；
其中，所述第一自注意力关系值和所述第三自注意力关系值为第一目标语句中字与字计算得到的自注意力关系值，所述第二自注意力关系值和所述第四自注意力关系值为所述第一目标语句中的字与第二目标语句中的字计算得到的自注意力关系值，所述第一目标语句和所述第二目标语句为所述N个训练语句中不同的语句。
2.根据权利要求1所述的方法，其中，所述获取所述第一模型输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型输出的第三自注意力关系值和第四自注意力关系值，包括：
获取所述N个训练语句中字的语义表示向量；
获取所述第一模型基于所述语义表示向量输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型基于所述语义表示向量输出的第三自注意力关系值和第四自注意力关系值。
3.根据权利要求1所述的方法，其中，所述第一模型与所述第二模型为同一类型的模型；
所述将所述N个训练语句分别输入第一模型和第二模型之前，所述方法还包括：
基于所述第一模型确定第二模型的第一模型层数，所述第一模型层数小于所述第一模型的模型层数；
对包含所述第一模型层数的第二模型的模型参数进行随机初始化。
4.根据权利要求3所述的方法，其中，所述基于所述第一相似度及所述第二相似度对所述第二模型进行训练之后，所述方法还包括：
基于所述第二模型的训练结果，对包含所述第一模型层数的第二模型进行优化，以将所述第一模型层数调整为第二模型层数。
5.根据权利要求1-4中任一项所述的方法，其中，所述基于所述第一相似度及所述第二相似度对所述第二模型进行训练，包括：
基于相对熵对所述第一相似度及所述第二相似度进行判断，以对所述第二模型进行训练；
其中，训练后的第二模型输出的第三自注意力关系值与所述第一自注意力关系值之间的相似度大于第一预设值，训练后的第二模型输出的第四自注意力关系值与所述第二自注意力关系值之间的相似度大于第二预设值。
6.一种模型训练装置，包括：
输入模块，用于获取N个训练语句，并将所述N个训练语句分别输入第一模型和第二模型，N为大于1的整数；
第一获取模块，用于获取所述第一模型输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型输出的第三自注意力关系值和第四自注意力关系值；
第二获取模块，用于获取所述第三自注意力关系值与所述第一自注意力关系值之间的第一相似度，以及所述第四自注意力关系值与所述第二自注意力关系值之间的第二相似度；
训练模块，用于基于所述第一相似度及所述第二相似度对所述第二模型进行训练；
其中，所述第一自注意力关系值和所述第三自注意力关系值为第一目标语句中字与字计算得到的自注意力关系值，所述第二自注意力关系值和所述第四自注意力关系值为所述第一目标语句中的字与第二目标语句中的字计算得到的自注意力关系值，所述第一目标语句和所述第二目标语句为所述N个训练语句中不同的语句。
7.根据权利要求6所述的装置，其中，所述第一获取模块还用于：
获取所述N个训练语句中字的语义表示向量；
获取所述第一模型基于所述语义表示向量输出的第一自注意力关系值和第二自注意力关系值，以及所述第二模型基于所述语义表示向量输出的第三自注意力关系值和第四自注意力关系值。
8.根据权利要求6所述的装置，其中，所述第一模型与所述第二模型为同一类型的模型；所述装置还包括：
确定模块，用于基于所述第一模型确定第二模型的第一模型层数，所述第一模型层数小于所述第一模型的模型层数；
初始化模块，用于对包含所述第一模型层数的第二模型的模型参数进行随机初始化。
9.根据权利要求6所述的装置，其中，所述装置还包括：
优化模块，用于基于所述第二模型的训练结果，对包含所述第一模型层数的第二模型进行优化，以将所述第一模型层数调整为第二模型层数。
10.根据权利要求6-9中任一项所述的装置，其中，所述训练模块还用于：
基于相对熵对所述第一相似度及所述第二相似度进行判断，以对所述第二模型进行训练；
其中，训练后的第二模型输出的第三自注意力关系值与所述第一自注意力关系值之间的相似度大于第一预设值，训练后的第二模型输出的第四自注意力关系值与所述第二自注意力关系值之间的相似度大于第二预设值。
11.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-5中任一项所述的方法。
13.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-5中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210554642.0A CN114819188A (zh) | 2022-05-19 | 2022-05-19 | 模型训练方法、装置、电子设备及可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210554642.0A CN114819188A (zh) | 2022-05-19 | 2022-05-19 | 模型训练方法、装置、电子设备及可读存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114819188A true CN114819188A (zh) | 2022-07-29 |
Family
ID=82516997
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210554642.0A Pending CN114819188A (zh) | 2022-05-19 | 2022-05-19 | 模型训练方法、装置、电子设备及可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114819188A (zh) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109522920A (zh) * | 2018-09-18 | 2019-03-26 | 义语智能科技（上海）有限公司 | 基于结合语义特征的同义判别模型的训练方法及设备 |
| CN111554268A (zh) * | 2020-07-13 | 2020-08-18 | 腾讯科技（深圳）有限公司 | 基于语言模型的语言识别方法、文本分类方法和装置 |
| CN112365385A (zh) * | 2021-01-18 | 2021-02-12 | 深圳市友杰智新科技有限公司 | 基于自注意力的知识蒸馏方法、装置和计算机设备 |
| US20210182489A1 (en) * | 2019-12-11 | 2021-06-17 | Microsoft Technology Licensing, Llc | Sentence similarity scoring using neural network distillation |
| US20220036194A1 (en) * | 2021-10-18 | 2022-02-03 | Intel Corporation | Deep neural network optimization system for machine learning model scaling |
| CN114154511A (zh) * | 2021-12-09 | 2022-03-08 | 阳光保险集团股份有限公司 | 语义相似度计算和模型训练方法、装置、设备及存储介质 |
| CN114202076A (zh) * | 2021-12-10 | 2022-03-18 | 北京百度网讯科技有限公司 | 深度学习模型的训练方法、自然语言处理方法和装置 |
-
2022
- 2022-05-19 CN CN202210554642.0A patent/CN114819188A/zh active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109522920A (zh) * | 2018-09-18 | 2019-03-26 | 义语智能科技（上海）有限公司 | 基于结合语义特征的同义判别模型的训练方法及设备 |
| US20210182489A1 (en) * | 2019-12-11 | 2021-06-17 | Microsoft Technology Licensing, Llc | Sentence similarity scoring using neural network distillation |
| CN111554268A (zh) * | 2020-07-13 | 2020-08-18 | 腾讯科技（深圳）有限公司 | 基于语言模型的语言识别方法、文本分类方法和装置 |
| CN112365385A (zh) * | 2021-01-18 | 2021-02-12 | 深圳市友杰智新科技有限公司 | 基于自注意力的知识蒸馏方法、装置和计算机设备 |
| US20220036194A1 (en) * | 2021-10-18 | 2022-02-03 | Intel Corporation | Deep neural network optimization system for machine learning model scaling |
| CN114154511A (zh) * | 2021-12-09 | 2022-03-08 | 阳光保险集团股份有限公司 | 语义相似度计算和模型训练方法、装置、设备及存储介质 |
| CN114202076A (zh) * | 2021-12-10 | 2022-03-18 | 北京百度网讯科技有限公司 | 深度学习模型的训练方法、自然语言处理方法和装置 |
Non-Patent Citations (4)
| Title |
|---|
| WENHUI WANG ET AL.: "MiniLM:Deep Self-Attention Distillation for Task-Agnostic Compression of Pre-Trained Transformers", 《ARXIV》, 6 April 2020 (2020-04-06), pages 1 - 15 * |
| XIAOQI JIAO ET AL.: "TinyBERT:Distilling BERT for Natural Language Understanding", 《ARXIV》, 16 October 2020 (2020-10-16), pages 1 - 12 * |
| 腾讯知文实验室: "最简单的模型轻量化方法：20行代码为BERT剪枝", pages 1 - 5, Retrieved from the Internet <URL:https://cloud.tencent.com/developer/article/1542897> * |
| 雷枫培: "基于深度学习对文本匹配问题的研究及应用", 《中国优秀硕士学位论文全文数据库信息科技辑》, 15 January 2022 (2022-01-15), pages 138 - 2718 * |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108205699B (zh) | 生成用于神经网络输出层的输出 | |
| CN112466288A (zh) | 语音识别方法、装置、电子设备及存储介质 | |
| CN114861889B (zh) | 深度学习模型的训练方法、目标对象检测方法和装置 | |
| CN114020950A (zh) | 图像检索模型的训练方法、装置、设备以及存储介质 | |
| CN113360711A (zh) | 视频理解任务的模型训练和执行方法、装置、设备及介质 | |
| JP2023025126A (ja) | 深層学習モデルのトレーニング方法及び装置、テキストデータ処理方法及び装置、電子機器、記憶媒体、並びにコンピュータプログラム | |
| CN114861059A (zh) | 资源推荐方法、装置、电子设备及存储介质 | |
| CN112989797B (zh) | 模型训练、文本扩展方法，装置，设备以及存储介质 | |
| CN113869042A (zh) | 文本标题生成方法、装置、电子设备以及存储介质 | |
| CN113468857A (zh) | 风格转换模型的训练方法、装置、电子设备以及存储介质 | |
| CN114490969B (zh) | 基于表格的问答方法、装置以及电子设备 | |
| CN115860003A (zh) | 一种语义角色分析方法、装置、电子设备及存储介质 | |
| CN113361621B (zh) | 用于训练模型的方法和装置 | |
| CN114841172A (zh) | 文本匹配双塔模型的知识蒸馏方法、装置及程序产品 | |
| CN114819188A (zh) | 模型训练方法、装置、电子设备及可读存储介质 | |
| CN114898742A (zh) | 流式语音识别模型的训练方法、装置、设备和存储介质 | |
| CN114328855A (zh) | 文档查询方法、装置、电子设备和可读存储介质 | |
| CN112560466A (zh) | 链接实体关联方法、装置、电子设备和存储介质 | |
| CN115034198B (zh) | 语言模型中嵌入模块计算优化的方法 | |
| CN113255332B (zh) | 文本纠错模型的训练与文本纠错方法、装置 | |
| CN113838450B (zh) | 音频合成及相应的模型训练方法、装置、设备及存储介质 | |
| CN113689867B (zh) | 一种语音转换模型的训练方法、装置、电子设备及介质 | |
| CN113377922B (zh) | 用于匹配信息的方法、装置、电子设备以及介质 | |
| CN114841137A (zh) | 模型获取方法、装置、电子设备及存储介质 | |
| CN115064148A (zh) | 语音合成与语音合成模型的训练方法、装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |