CN116432608A - 基于人工智能的文本生成方法、装置、计算机设备及介质 - Google Patents
基于人工智能的文本生成方法、装置、计算机设备及介质 Download PDFInfo
- Publication number
- CN116432608A CN116432608A CN202310373410.XA CN202310373410A CN116432608A CN 116432608 A CN116432608 A CN 116432608A CN 202310373410 A CN202310373410 A CN 202310373410A CN 116432608 A CN116432608 A CN 116432608A
- Authority
- CN
- China
- Prior art keywords
- value
- preset
- text
- text generation
- iteration number
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 67
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 25
- 239000000523 sample Substances 0.000 claims abstract description 67
- 239000013074 reference sample Substances 0.000 claims abstract description 24
- 238000012549 training Methods 0.000 claims abstract description 13
- 230000006870 function Effects 0.000 claims description 190
- 238000012937 correction Methods 0.000 claims description 29
- 238000004364 calculation method Methods 0.000 claims description 22
- 239000013598 vector Substances 0.000 claims description 21
- 238000005070 sampling Methods 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 18
- 230000008569 process Effects 0.000 claims description 15
- 239000011159 matrix material Substances 0.000 claims description 14
- 238000010606 normalization Methods 0.000 claims description 13
- 238000005516 engineering process Methods 0.000 abstract description 11
- 230000000694 effects Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 6
- 238000001514 detection method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/151—Transformation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Machine Translation (AREA)
Abstract
本发明涉及人工智能技术领域,尤其涉及一种基于人工智能的文本生成方法、装置、计算机设备及介质。该方法将参考信息、文本样本及其标签输入文本生成模型,迭代目标迭代次数,得到生成样本,根据生成样本计算损失函数值,在损失函数值满足预设条件时,将目标迭代次数修正为参考迭代次数,根据参考迭代次数重新迭代,得到参考样本,根据参考样本和标签,训练预训练好的文本生成模型,将待转换文本输入训练好的文本生成模型,得到生成文本,在未知迭代次数与文本生成模型准确率的关系时,依据已知信息修正生成数量,以修正后的生成数量,对文本生成模型进行训练,进而提高了训练好的模型生成文本的准确率。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种基于人工智能的文本生成方法、装置、计算机设备及介质。
背景技术
文本生成模型是处理文本到文本转换任务的语言模型,也即将输入文本转化为输出文本。对于文本生成模型,通常在转换过程中会以预设的文本长度来确定输出文本的长度。
但是,固定的文本长度会导致输出文本长度过于冗长或者过于简短而无法准确的表达输入文本的语义,导致文本生成模型的准确率较低。目前的解决方法是在转换过程中加上一些统计方法,如最大边缘相关算法、相似度计算等,来减轻此类问题,但这些方法都是通过统计输出文本中词项与词项之间的相关程度从而进行对词项进行增删操作,虽然能够起到控制输出文本长度的效果,但删除词项的方式会导致最终生成的文本不连贯,也同样导致文本生成模型的准确率较低。因此,如何提高文本生成准确率成为了亟待解决的问题。
发明内容
有鉴于此,本发明实施例提供了一种基于人工智能的文本生成方法、装置、计算机设备及介质,以解决文本生成准确率较低的问题。
第一方面,本发明实施例提供一种基于人工智能的文本生成方法,所述文本生成方法包括:
将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一,使用所述生成词项更新所述参考信息;
返回执行所述将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至所述迭代次数与预设的目标迭代次数相同,得到生成样本,所述生成样本包括M个所述生成词项,M为所述目标迭代次数;
根据所述生成样本、所述标签和预设的损失函数,计算得到损失函数值,在所述损失函数值大于预设阈值时,对所述目标迭代次数进行修正,得到参考迭代次数;
在所述参考迭代次数满足预设条件时,返回执行所述将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至所述迭代次数与所述参考迭代次数相同,得到参考样本;
根据所述参考样本和所述标签,对所述预训练好的文本生成模型进行训练,得到训练好的文本生成模型,将获取的待转换文本输入所述训练好的文本生成模型,得到生成文本。
第二方面,本发明实施例提供一种基于人工智能的文本生成装置,所述文本生成装置包括:
词项生成模块,用于将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一,使用所述生成词项更新所述参考信息;
词项迭代模块,用于返回执行所述将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至所述迭代次数与预设的目标迭代次数相同,得到生成样本,所述生成样本包括M个所述生成词项,M为所述目标迭代次数;
次数修正模块,用于根据所述生成样本、所述标签和预设的损失函数,计算得到损失函数值,在所述损失函数值大于预设阈值时,对所述目标迭代次数进行修正,得到参考迭代次数;
样本生成模块,用于在所述参考迭代次数满足预设条件时,返回执行所述将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至所述迭代次数与所述参考迭代次数相同,得到参考样本;
文本生成模块,用于根据所述参考样本和所述标签,对所述预训练好的文本生成模型进行训练,得到训练好的文本生成模型,将获取的待转换文本输入所述训练好的文本生成模型,得到生成文本。
第三方面,本发明实施例提供一种计算机设备,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面所述的文本生成方法。
第四方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的文本生成方法。
本发明实施例与现有技术相比存在的有益效果是:
将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一,使用生成词项更新参考信息,返回执行将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至迭代次数与预设的目标迭代次数相同,得到生成样本,根据生成样本、标签和预设的损失函数,计算得到损失函数值,在损失函数值大于预设阈值时,对目标迭代次数进行修正,得到参考迭代次数,在参考迭代次数满足预设条件时,返回执行将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至迭代次数与参考迭代次数相同,得到参考样本,根据参考样本和标签,对预训练好的文本生成模型进行训练,得到训练好的文本生成模型,将获取的待转换文本输入训练好的文本生成模型,得到生成文本,建立迭代次数与损失函数值之间的关联关系,基于已知的目标迭代次数与损失函数值确定满足预设条件的参考迭代次数,以参考迭代次数重新迭代得到参考样本进行模型训练,从而能够在未知迭代次数与文本生成模型准确率的关系时,依据已知信息修正迭代次数对文本生成模型进行训练,进而提高了训练好的模型生成文本的准确率。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种基于人工智能的文本生成方法的一应用环境示意图;
图2是本发明实施例一提供的一种基于人工智能的文本生成方法的流程示意图;
图3是本发明实施例二提供的一种基于人工智能的文本生成方法的流程示意图;
图4是本发明实施例三提供的一种基于人工智能的文本生成装置的结构示意图;
图5是本发明实施例四提供的一种计算机设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定***结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的***、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
应当理解,当在本发明说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本发明说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本发明说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本发明说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本发明的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本发明实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用***。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互***、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
应理解,以下实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
为了说明本发明的技术方案,下面通过具体实施例来进行说明。
本发明实施例一提供的一种基于人工智能的文本生成方法,可应用在如图1的应用环境中,其中,客户端与服务端进行通信。其中,客户端包括但不限于掌上电脑、桌上型计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、云端终端设备、个人数字助理(personal digital assistant,PDA)等计算机设备。服务端可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
参见图2,是本发明实施例一提供的一种基于人工智能的文本生成方法的流程示意图,上述文本生成方法可以应用于图1中的客户端,客户端对应的计算机设备中部署有预训练好的文本生成模型,预训练好的文本生成模型可以实现基本的文本生成功能,客户端对应的计算机设备连接服务端,以从服务端获取存储的参考信息、文本样本及其标签对客户端内预训练好的文本生成模型进行训练,并且从服务端内获取待转换文本,待转换文本可以是指由用户发送至服务端并请求进行文本生成处理的文本。如图2所示,该文本生成方法可以包括以下步骤:
步骤S201,将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一,使用生成词项更新参考信息。
其中,文本样本可以是指需要进行文本生成的样本,标签可以是指文本样本需要转换为的标签文本,参考信息可以是指文本生成模型的嵌入信息,嵌入信息可以包括已生成词项信息,生成词项可以是指生成文本中的词项,迭代次数可以是指迭代生成词项的次数。
预训练好的文本生成模型可以包括预训练好的编码器和预训练好的解码器,预训练好的编码器可以用于提取文本样本的文本特征,预训练好的解码器可以用于根据文本特征和嵌入信息重构得到生成词项。
具体地,将文本样本输入预训练好的编码器中进行特征提取,得到样本特征,文本样本通常按照批次输入,在本实施例中为便于描述,以单个文本样本作为输入信息,将参考信息和样本特征输入预训练好的解码器进行特征重构,得到生成词项,生成词项为生成文本中一位置的词项,将生成词项更新至参考信息中,在本实施例中,更新方式可以指联结,即把生成词项直接更新至参考信息的末尾,并将迭代次数增加一,迭代次数的数值变动可以通过累加器来实现。
可选的是,参考信息包含M个零元素;
使用生成词项更新参考信息包括:
确定参考信息中最靠前的零元素的位置为目标位置;
将生成词项替换目标位置的零元素,得到更新后的参考信息。
其中,参考信息可以表示为1*M尺寸的向量,即一行M列的向量,则参考信息包含M个元素,M与目标迭代次数相同,参考信息的初始状态下,所有元素均为0。
零元素可以是指元素值为0的元素,目标位置可以是指待更新的元素所在的位置。
具体地,零元素的位置可以用坐标(row,column)表示,row默认为1,位置的前后可以是通过column的大小确定,column越小,则零元素的位置越靠前,例如,第一零元素位置为(1,c1),第二零元素位置为(1,c2),且有c1小于c2,则第一零元素的位置在第二零元素的位置之前。
最靠前的零元素的位置即为所有位置坐标中column最小的坐标,替换可以是指将生成词项与零元素的元素值0替换,例如,设生成词项为you,参考信息为[0,0,0],则目标位置为参考信息中第一个元素所在的位置,将生成词项you与目标位置的0替换,得到更新后的参考信息为[you,0,0]。
本实施例中,采用固定尺寸的参考信息作为嵌入信息,以保证嵌入信息维度是固定的,便于编码器进行特征整合,避免出现信息丢失的情况,从而提高文本生成的准确率。
上述将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一,使用生成词项更新参考信息的步骤,通过迭代方式进行文本生成,能够为当前迭代轮次的生成词项提供之前迭代轮次的生成词项的信息,从而提高生成词项的准确率。
步骤S202,返回执行将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至迭代次数与预设的目标迭代次数相同,得到生成样本。
其中,生成样本包括M个生成词项,M为目标迭代次数,返回执行可以是指以更新后的参考信息、文本样本及其标签再次输入预训练好的文本生成模型,得到新的生成词项。
迭代次数的初始值为0,在每次执行将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项的步骤后,将迭代次数增加一,迭代可以是指生成词项重复生成的过程。
具体地,在按照不同目标迭代次数进行迭代生成时,由于目标迭代次数不同,最终输出的生成文本的长度也不相同,而对生成文本长度的控制也会导致文本生成的过程出现差别,即在编码器进行特征重构时,由于引入了参考信息,参考信息的不同会导致重构出的生成词项也不同,即目标迭代次数会影响文本生成的准确率。
上述返回执行将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至迭代次数与预设的目标迭代次数相同,得到生成样本的步骤,获取长度与目标迭代次数相同的生成样本,以参考信息为输入,能够使模型更好地提取上下文信息,得到较为准确的生成样本,此时,生成样本的准确率主要与目标迭代次数有关,便于后续对目标迭代次数进行修正,进而提高文本生成的准确率。
步骤S203,根据生成样本、标签和预设的损失函数,计算得到损失函数值,在损失函数值大于预设阈值时,对目标迭代次数进行修正,得到参考迭代次数。
其中,损失函数可以用于衡量生成样本和标签之间的相似程度,损失函数可以采用均方误差损失函数、欧式距离损失函数等,预设阈值可以用于衡量当前目标迭代次数得到的损失函数值是否足够小从而能够基于当前目标迭代次数对应的损失函数值进行预训练好的文本生成模型的再训练。
具体地,当前目标迭代次数得到的损失函数值足够小时,说明长度与当前目标迭代次数相同的生成样本已经足够靠近标签,属于较好的生成样本,根据该较好的生成样本与标签计算得到的损失函数对预训练好的文本生成模型进行再训练,能够起到微调的效果,使得训练好的文本生成模型的生成准确率进一步提高。
在一实施方式中,为提高损失函数计算的准确性,可以采用训练好的语义特征编码器分别对生成文本和标签进行特征提取,对提取到的特征进行相似度计算,以相似度计算结果作为损失函数值,避免出现文本长度不同但文本语义相同的情况,进一步提高损失函数计算的准确性。
可选的是,目标迭代次数包括N个预设值,损失函数值包括N个对应预设值的函数值,N为大于零的整数;
相应地,在损失函数值大于预设阈值时,对目标迭代次数进行修正包括:
在所有函数值均大于预设阈值时,对N个对应预设值的函数值中的最小值对应的预设值进行修正;
计算得到损失函数值之后,还包括:
将N个预设值进行高斯核函数计算,确定计算结果为协方差矩阵;
根据协方差矩阵和预设的均值向量,构建联合高斯分布。
其中,预设值可以是指目标迭代次数的不同取值,在本实施例中,预设值个数为N个,N为大于零的整数。
高斯核函数可以用于计算不同预设值之间的相似度,协方差矩阵可以是指高维高斯分布的参数,同样地,均值向量也是高维高斯分布的参数,联合高斯分布可以是指基于已知的N个预设值和N个对应预设值的函数值,建立的分布关系,每个对应预设值的损失函数值均服从该联合高斯分布,联合高斯分布用于在后续确定参考迭代次数对应的参考函数值。
具体地,高斯核函数可以表示为其中,xi可以是指第i个预设值,xj可以是指第j个预设值,||xi-xj||2可以是指第i个预设值和第j个预设值之间的欧式距离,λ为超参数,可以设置为1,i和j的取值范围均为[1,2,…,N],当i和j相等时,定义对应的K值为1,当||xi-xj||2趋向于无穷大时,定义对应的K值为0。
举例说明,设N为3,则协方差矩阵可以表示为由于N个预设值均是已知的,则可以分别计算得到每个K值,从而可以确定协方差矩阵,即协方差矩阵默认是已知的,预设的均值向量可以表示为[0,0,0]T,即均值向量的元素均为0,实际上,均值向量的元素可以取任何值,为了便于计算,设置元素值为0,均值向量中元素的个数与预设值的个数一致,即均值向量中包含N个元素,则联合高斯分布可以表示为:
其中,Fn可以是指第n个预设值对应的函数值,n的取值范围为[1,N]范围内的整数,且协方差矩阵是半正定对称矩阵,即Kij=Kji。
本实施例通过高斯核函数对预设值和对应的函数值进行建模,得到联合高斯分布,从而在仅知晓少数预设值和函数值对应关系的情况下,得到建模结果,便于后续确定参考迭代次数对应的参考函数值,提高了最优迭代次数的搜索效率。
可选的是,在构建联合高斯分布之后,还包括:
将参考迭代次数分别与N个预设值进行高斯核函数计算,得到协方差向量;
根据协方差向量、协方差矩阵和N个预设值,以联合高斯分布的边缘化特性为依据,计算得到参考迭代次数对应的函数值分布;
对函数值分布进行采样,确定采样结果为参考函数值。
其中,协方差向量可以是指参考迭代次数分别与N个预设值之间的相似度组成的向量,边缘化特性(marginalization property)可以是指新来的数据不会影响到已有数据的分布,此时,数据可以是指迭代次数。
具体地,假设参考函数值和N个对应初始值的函数值同属于一个N+1维的联合高斯分布,沿用上述举例,N取值为3,即N+1维的联合高斯分布可以表示为:
其中,F4可以是指参考函数值,K4=[K14,K24,K34]T可以是指协方差向量,由于参考迭代次数与N个初始生成数量均是已知的,则可以根据高斯核函数计算出协方差向量,则N+1维的联合高斯分布默认是已知的。
进而,根据边缘化特性,按照公式:
对得到的函数值分布进行归一化后进行概率采样,确定得到的采样结果对应的函数值为参考函数值。
本实施例通过联合高斯分布的边缘化特性计算得到参考迭代次数的函数值分布,并确定参考函数值,从而在未确切知道迭代次数与函数值的关系的情况下,求解出参考迭代次数对应的参考函数值,便于后续进行最优迭代次数的确定,减少了迭代次数修正的准备工作并节省了计算资源。
可选的是,检测参考迭代次数满足预设条件的过程包括:
确定N个对应预设值的函数值中的最小值为临时函数值,并确定临时函数值对应的预设值为临时迭代次数;
计算N个对应预设值的函数值的均值和标准差,计算参考函数值与均值的第一差值,确定第一差值和标准差的比值为第一归一化值;
计算临时函数值与均值的第二差值,确定第二差值和标准差的比值为第二归一化值,计算第二归一化值与第一归一化值的相减结果;
若相减结果大于预设的相减阈值,则确定参考迭代次数满足预设条件。
其中,临时迭代次数可以是指在当前已知信息中最优的迭代次数,临时函数值为临时迭代次数对应的函数值,均值和标准差可以用于在函数值之间比较时进行归一化,归一化的目的在于在值域未知的情况下将函数值归一化,以统一尺度,便于函数值之间的比较。
具体地,由于函数值的值域未知,比较的尺度也未知,例如,参考函数值与一函数值的差值为1,若函数值值域为[0,1000],则两函数值是极为相似的,无需以参考函数值进行预训练好的文本生成模型的再训练,因为其训练效果与采用临时函数值进行再训练的效果类似,需要搜索更优的迭代次数,但如果函数值值域为[0,2],则两函数值是不相似的,此时,若相减结果大于预设的相减阈值,说明参考函数值的训练效果与采用临时函数值进行再训练的效果相比有极大提升,基于上述情况,需要在参考函数值与临时函数值比较时进行归一化处理,预设的相减阈值可以基于N个对应预设值的函数值中的最大值与最小值的差值与N的比值确定。
本实施例对函数值进行归一化比较,避免因尺度未知导致比较结果误判,从而提高了最优迭代次数搜索的准确率。
可选的是,在所有函数值均大于预设阈值时,对N个对应预设值的函数值中的最小值对应的预设值进行修正包括:
确定N个对应预设值的函数值中的最小值对应的预设值为待修正值,计算预设系数与N的比值,以比值作为修正量;
在N个预设值中,统计大于待修正值的预设值的个数,得到第一统计值,统计小于待修正值的预设值的个数,得到第二统计值;
将第一统计值和第二统计值归一化,得到第一概率和第二概率,根据第一概率和第二概率,对正号和负号进行概率采样,以采样结果更新修正量,得到修正值;
将待修正值与修正值相加,以相加结果作为参考迭代次数。
其中,待修正值可以是指等待进行修正的基础值,修正量可以是指用于对待修正值修正的修正值的模,第一统计值可以是指所有函数值中小于待修正值的函数值的数量,第二统计值可以是指所有函数值中大于待修正值的函数值的数量,第一统计值和第二统计值之和应当为N。
第一概率可以是指正号的采样概率,第二概率可以是指负号的采样概率,采样结果为正号和负号中的一个,更新修正量可以是指以采样结果作为修正量的符号,修正值可以是指用于对待修正值修正的值。
本实施例中,根据当前已知信息的情况确定待修正值的修正值,得到参考迭代次数,进一步提高了进行最优迭代次数搜索的效率。
可选的是,在得到参考迭代次数之后,还包括:
在参考迭代次数不满足预设条件时,根据参考样本、标签和损失函数,计算参考损失值;
将参考迭代次数和参考损失值作为一预设值及其对应的函数值,并更新N值,再次执行对N个对应预设值的函数值中的最小值对应的预设值进行修正的步骤。
其中,单次更新时,预设值数量N更新为N+1,即通过赋值N=N+1,得到更新后的预设值数量N。
具体地,在预设值更新后,重新对NN个对应预设值的函数值中的最小值对应的预设值进行修正,得到参考迭代次数,此时,以更新后的预设值重新计算联合高斯分布,得到新的参考迭代次数对应的参考函数值。
本实施例将不满足预设条件的参考迭代次数和参考函数值作为已知信息,能够优化最优参考迭代次数的搜索过程,同时,提高建模准确率,得到更为准确的参考函数值,从而提高最优参考迭代次数的搜索效率。
步骤S204,在参考迭代次数满足预设条件时,返回执行将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至迭代次数与参考迭代次数相同,得到参考样本。
其中,参考样本包含M′个生成词项,M′为参考迭代次数,即采用参考迭代次数确定文本生成模型生成的生成词项数量。
上述在参考迭代次数满足预设条件时,返回执行将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至迭代次数与参考迭代次数相同,得到参考样本的步骤,以满足预设条件的参考迭代次数进行文本生成,此时,参考迭代次数能够使文本生成模型的生成准确率较高,从而能够更好地基于生成的参考样本进行预训练好的文本生成模型的再训练,提高模型的拟合准确率。
步骤S205,根据参考样本和标签,对预训练好的文本生成模型进行训练,得到训练好的文本生成模型,将获取的待转换文本输入训练好的文本生成模型,得到生成文本。
其中,待转换文本可以是指需要进行文本生成的原始文本,生成文本可以是指待转换文本经训练好的文本生成模型处理后得到的输出结果。
具体地,训练好的文本生成模型可以应用于翻译、人机交互、文本标准化等多类应用场景。
上述根据参考样本和标签,对预训练好的文本生成模型进行训练,得到训练好的文本生成模型,将获取的待转换文本输入训练好的文本生成模型,得到生成文本的步骤,通过训练好的文本生成模型得到准确率较高的生成文本,提高了应用场景下文本生成任务的准确率。
本实施例建立迭代次数与损失函数值之间的关联关系,基于已知的目标迭代次数与损失函数值确定满足预设条件的参考迭代次数,以参考迭代次数重新迭代得到参考样本进行模型训练,从而能够在未知迭代次数与文本生成模型准确率的关系时,依据已知信息修正迭代次数对文本生成模型进行训练,进而提高了训练好的模型生成文本的准确率。
参见图3,是本发明实施例二提供的一种基于人工智能的文本生成方法的流程示意图,该文本生成方法中,参考迭代次数所满足的预设条件可以是指参考迭代次数对应的参考函数值在归一化后比已知最小的函数值的归一化值更小,也可以是指参考函数值在归一化后与其他已知的函数值比较,比较结果为大于参考函数值的函数值数量大于预设数量阈值。
在参考迭代次数所满足的预设条件是指参考迭代次数对应的参考函数值在归一化后比已知最小的函数值的归一化值更小时,检测目标函数值满足预设条件的过程参见实施例一,在此不再赘述。
在参考函数值在归一化后与其他已知的函数值比较,比较结果为大于参考函数值的函数值数量大于预设数量阈值时,检测目标函数值满足预设条件的过程包括:
步骤S301,将N个对应预设值的函数值分别减去预设参数后,得到N个参考参数;
步骤S302,在N个参考参数中,对大于或者等于参考函数值的参考参数的数量进行统计,得到统计结果;
步骤S303,在检测到统计结果与N的比值大于预设数量阈值时,确定参考迭代次数满足预设条件。
其中,N可以是指对初始值的个数统计结果,预设参数可以是指调整参数,参考参数可以用于与参考函数值进行比较,以确定参考函数值是否小于多数函数值。
具体地,预设参数ε在本实施例中的取值范围为[0,min(fn)],其中,fn可以是指第n个预设值对应的函数值,min(fn)可以是指N个预设值对应的函数值中的最小值,当预设参数的取值接近0时,参考函数值需要满足小于预设个函数值,当预设参数的取值接近min(fn)时,参考函数值需要尽可能接近0,在本实施例中,预设参数取值为0。
统计结果可以表示为sum(fn-ε>F),其中,F可以是指参考函数值,sum为统计函数,预设条件可以表示为其中,margin为预设数量阈值,预设阈值的取值范围为[0,1],在本实施例中,margin设置为0.8,实施者可根据实际情况调整预设数量阈值的取值,以N作为分母的目的为归一化,预设条件的本质是设置了预设数量阈值,预设数量阈值的个数为margin*N,当大于目标函数值的初始函数值数量sum(fn-ε>F)大于预设数量阈值margin*N时,说明目标函数值满足预设条件。
本实施例中以大于参考函数值的函数值数量大于预设数量阈值作为预设条件,由于参考函数值是基于已知信息的建模结果获取的,并非绝对准确,以该预设条件能够有效地确定参考迭代次数,避免因预设条件过于限制,导致难以搜索到合适的参考迭代次数,提高了参考迭代次数搜索的可行性,进而提高了参考迭代次数搜索的效率。
对应于上文实施例的基于人工智能的文本生成方法,图4示出了本发明实施例三提供的基于人工智能的文本生成装置的结构框图,上述文本生成装置应用于客户端,客户端对应的计算机设备中部署有预训练好的文本生成模型,预训练好的文本生成模型可以实现基本的文本生成功能,客户端对应的计算机设备连接服务端,以从服务端获取存储的参考信息、文本样本及其标签对客户端内预训练好的文本生成模型进行训练,并且从服务端内获取待转换文本,待转换文本可以是指由用户发送至服务端并请求进行文本生成处理的文本。为了便于说明,仅示出了与本发明实施例相关的部分。
参见图4,该文本生成装置包括:
词项生成模块41,用于将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一,使用生成词项更新参考信息;
词项迭代模块42,用于返回执行将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至迭代次数与预设的目标迭代次数相同,得到生成样本,生成样本包括M个生成词项,M为目标迭代次数;
次数修正模块43,用于根据生成样本、标签和预设的损失函数,计算得到损失函数值,在损失函数值大于预设阈值时,对目标迭代次数进行修正,得到参考迭代次数;
样本生成模块44,用于在参考迭代次数满足预设条件时,返回执行将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至迭代次数与参考迭代次数相同,得到参考样本;
文本生成模块45,用于根据参考样本和标签,对预训练好的文本生成模型进行训练,得到训练好的文本生成模型,将获取的待转换文本输入训练好的文本生成模型,得到生成文本。
可选的是,参考信息包含M个零元素;
上述词项生成模块41包括:
位置确定单元,用于确定参考信息中最靠前的零元素的位置为目标位置;
元素替换单元,用于将生成词项替换目标位置的零元素,得到更新后的参考信息。
可选的是,目标迭代次数包括N个预设值,损失函数值包括N个对应预设值的函数值,N为大于零的整数;
相应地,上述次数修正模块43包括:
预设值修正单元,用于在所有函数值均大于预设阈值时,对N个对应预设值的函数值中的最小值对应的预设值进行修正;
上述文本生成装置还包括:
函数计算模块,用于将N个预设值进行高斯核函数计算,确定计算结果为协方差矩阵;
分布构建模块,用于根据协方差矩阵和预设的均值向量,构建联合高斯分布,联合高斯分布用于确定参考迭代次数对应的参考函数值。
可选的是,上述文本生成装置还包括:
向量计算模块,用于将参考迭代次数分别与N个预设值进行高斯核函数计算,得到协方差向量;
分布计算模块,用于根据协方差向量、协方差矩阵和N个预设值,以联合高斯分布的边缘化特性为依据,计算得到参考迭代次数对应的函数值分布;
分布采样模块,用于对函数值分布进行采样,确定采样结果为参考函数值。
可选的是,上述文本生成装置还包括:
临时确定模块,用于确定N个对应预设值的函数值中的最小值为临时函数值,并确定临时函数值对应的预设值为临时迭代次数;
第一归一化模块,用于计算N个对应预设值的函数值的均值和标准差,计算参考函数值与均值的第一差值,确定第一差值和标准差的比值为第一归一化值;
第二归一化模块,用于计算临时函数值与均值的第二差值,确定第二差值和标准差的比值为第二归一化值,计算第二归一化值与第一归一化值的相减结果;
条件检测模块,用于若相减结果大于预设的相减阈值,则确定参考迭代次数满足预设条件。
可选的是,上述预设值修正单元包括:
修正量确定子单元,用于确定N个对应预设值的函数值中的最小值对应的预设值为待修正值,计算预设系数与N的比值,以比值作为修正量;
个数统计子单元,用于在N个预设值中,统计大于待修正值的预设值的个数,得到第一统计值,统计小于待修正值的预设值的个数,得到第二统计值;
符号采样子单元,用于将第一统计值和第二统计值归一化,得到第一概率和第二概率,根据第一概率和第二概率,对正号和负号进行概率采样,以采样结果更新修正量,得到修正值;
修正子单元,用于将待修正值与修正值相加,以相加结果作为参考迭代次数。
可选的是,上述文本生成装置还包括:
损失计算模块,用于在参考迭代次数不满足预设条件时,根据参考样本、标签和损失函数,计算参考损失值;
预设值更新模块,用于将参考迭代次数和参考损失值作为一预设值及其对应的函数值,并更新N值,再次执行对N个对应预设值的函数值中的最小值对应的预设值进行修正的步骤。
需要说明的是,上述模块、单元、子单元之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
图5为本发明实施例四提供的一种计算机设备的结构示意图。如图5所示,该实施例的计算机设备包括:至少一个处理器(图5中仅示出一个)、存储器以及存储在存储器中并可在至少一个处理器上运行的计算机程序,处理器执行计算机程序时实现上述任意各个文本生成方法实施例中的步骤。
该计算机设备可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,图5仅仅是计算机设备的举例,并不构成对计算机设备的限定,计算机设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括网络接口、显示屏和输入装置等。
所称处理器可以是CPU,该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific IntegratedCircuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器包括可读存储介质、内存储器等,其中,内存储器可以是计算机设备的内存,内存储器为可读存储介质中的操作***和计算机可读指令的运行提供环境。可读存储介质可以是计算机设备的硬盘,在另一些实施例中也可以是计算机设备的外部存储设备,例如,计算机设备上配备的插接式硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,存储器还可以既包括计算机设备的内部存储单元也包括外部存储设备。存储器用于存储操作***、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,该其他程序如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述装置中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
本发明实现上述实施例方法中的全部或部分流程,也可以通过一种计算机程序产品来完成,当计算机程序产品在计算机设备上运行时,使得计算机设备执行时实现可实现上述方法实施例中的步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/计算机设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/计算机设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于人工智能的文本生成方法,其特征在于,所述文本生成方法包括:
将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一,使用所述生成词项更新所述参考信息;
返回执行所述将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至所述迭代次数与预设的目标迭代次数相同,得到生成样本,所述生成样本包括M个所述生成词项,M为所述目标迭代次数;
根据所述生成样本、所述标签和预设的损失函数,计算得到损失函数值,在所述损失函数值大于预设阈值时,对所述目标迭代次数进行修正,得到参考迭代次数;
在所述参考迭代次数满足预设条件时,返回执行所述将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至所述迭代次数与所述参考迭代次数相同,得到参考样本;
根据所述参考样本和所述标签,对所述预训练好的文本生成模型进行训练,得到训练好的文本生成模型,将获取的待转换文本输入所述训练好的文本生成模型,得到生成文本。
2.根据权利要求1所述的文本生成方法,其特征在于,所述参考信息包含M个零元素;
所述使用所述生成词项更新所述参考信息包括:
确定所述参考信息中最靠前的零元素的位置为目标位置;
将所述生成词项替换所述目标位置的零元素,得到更新后的参考信息。
3.根据权利要求1至2任一项所述的文本生成方法,其特征在于,所述目标迭代次数包括N个预设值,所述损失函数值包括N个对应所述预设值的函数值,N为大于零的整数;
相应地,所述在所述损失函数值大于预设阈值时,对所述目标迭代次数进行修正包括:
在所有函数值均大于所述预设阈值时,对所述N个对应所述预设值的函数值中的最小值对应的预设值进行修正;
所述计算得到损失函数值之后,还包括:
将所述N个预设值进行高斯核函数计算,确定计算结果为协方差矩阵;
根据所述协方差矩阵和预设的均值向量,构建联合高斯分布,所述联合高斯分布用于确定所述参考迭代次数对应的参考函数值。
4.根据权利要求3所述的文本生成方法,其特征在于,在所述构建联合高斯分布之后,还包括:
将所述参考迭代次数分别与所述N个预设值进行高斯核函数计算,得到协方差向量;
根据所述协方差向量、所述协方差矩阵和所述N个预设值,以所述联合高斯分布的边缘化特性为依据,计算得到所述参考迭代次数对应的函数值分布;
对所述函数值分布进行采样,确定采样结果为所述参考函数值。
5.根据权利要求4所述的文本生成方法,其特征在于,检测所述参考迭代次数满足预设条件的过程包括:
确定所述N个对应所述预设值的函数值中的最小值为临时函数值,并确定所述临时函数值对应的预设值为临时迭代次数;
计算所述N个对应所述预设值的函数值的均值和标准差,计算所述参考函数值与所述均值的第一差值,确定所述第一差值和所述标准差的比值为第一归一化值;
计算所述临时函数值与所述均值的第二差值,确定所述第二差值和所述标准差的比值为第二归一化值,计算所述第二归一化值与所述第一归一化值的相减结果;
若所述相减结果大于预设的相减阈值,则确定所述参考迭代次数满足预设条件。
6.根据权利要求3所述的文本生成方法,其特征在于,所述在所有函数值均大于所述预设阈值时,对所述N个对应所述预设值的函数值中的最小值对应的预设值进行修正包括:
确定所述N个对应所述预设值的函数值中的最小值对应的预设值为待修正值,计算预设系数与N的比值,以所述比值作为修正量;
在所述N个预设值中,统计大于所述待修正值的预设值的个数,得到第一统计值,统计小于所述待修正值的预设值的个数,得到第二统计值;
将所述第一统计值和所述第二统计值归一化,得到第一概率和第二概率,根据所述第一概率和所述第二概率,对正号和负号进行概率采样,以采样结果更新所述修正量,得到修正值;
将所述待修正值与所述修正值相加,以相加结果作为参考迭代次数。
7.根据权利要求6所述的文本生成方法,其特征在于,在所述得到参考迭代次数之后,还包括:
在所述参考迭代次数不满足预设条件时,根据所述参考样本、所述标签和所述损失函数,计算参考损失值;
将所述参考迭代次数和参考损失值作为一预设值及其对应的函数值,并更新N值,再次执行所述对所述N个对应所述预设值的函数值中的最小值对应的预设值进行修正的步骤。
8.一种基于人工智能的文本生成装置,其特征在于,所述文本生成装置包括:
词项生成模块,用于将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一,使用所述生成词项更新所述参考信息;
词项迭代模块,用于返回执行所述将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至所述迭代次数与预设的目标迭代次数相同,得到生成样本,所述生成样本包括M个所述生成词项,M为所述目标迭代次数;
次数修正模块,用于根据所述生成样本、所述标签和预设的损失函数,计算得到损失函数值,在所述损失函数值大于预设阈值时,对所述目标迭代次数进行修正,得到参考迭代次数;
样本生成模块,用于在所述参考迭代次数满足预设条件时,返回执行所述将参考信息、文本样本及其标签输入预训练好的文本生成模型,得到生成词项,将迭代次数增加一的步骤,重复迭代直至所述迭代次数与所述参考迭代次数相同,得到参考样本;
文本生成模块,用于根据所述参考样本和所述标签,对所述预训练好的文本生成模型进行训练,得到训练好的文本生成模型,将获取的待转换文本输入所述训练好的文本生成模型,得到生成文本。
9.一种计算机设备,其特征在于,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的文本生成方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的文本生成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310373410.XA CN116432608A (zh) | 2023-04-06 | 2023-04-06 | 基于人工智能的文本生成方法、装置、计算机设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310373410.XA CN116432608A (zh) | 2023-04-06 | 2023-04-06 | 基于人工智能的文本生成方法、装置、计算机设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116432608A true CN116432608A (zh) | 2023-07-14 |
Family
ID=87079190
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310373410.XA Pending CN116432608A (zh) | 2023-04-06 | 2023-04-06 | 基于人工智能的文本生成方法、装置、计算机设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116432608A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117951605A (zh) * | 2024-03-26 | 2024-04-30 | 苏州元脑智能科技有限公司 | 扩散模型的量化方法、装置、计算机设备及存储介质 |
-
2023
- 2023-04-06 CN CN202310373410.XA patent/CN116432608A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117951605A (zh) * | 2024-03-26 | 2024-04-30 | 苏州元脑智能科技有限公司 | 扩散模型的量化方法、装置、计算机设备及存储介质 |
CN117951605B (zh) * | 2024-03-26 | 2024-06-07 | 苏州元脑智能科技有限公司 | 扩散模型的量化方法、装置、计算机设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110827929B (zh) | 疾病分类编码识别方法、装置、计算机设备及存储介质 | |
CN109086654B (zh) | 手写模型训练方法、文本识别方法、装置、设备及介质 | |
WO2022121178A1 (zh) | 文本纠错模型训练方法、识别方法、装置及计算机设备 | |
CN111127364B (zh) | 图像数据增强策略选择方法及人脸识别图像数据增强方法 | |
CN110688853B (zh) | 序列标注方法、装置、计算机设备和存储介质 | |
CN109726391B (zh) | 对文本进行情感分类的方法、装置及终端 | |
CN109977394B (zh) | 文本模型训练方法、文本分析方法、装置、设备及介质 | |
CN113298152B (zh) | 模型训练方法、装置、终端设备及计算机可读存储介质 | |
CN111079753B (zh) | 一种基于深度学习与大数据结合的车牌识别方法及装置 | |
WO2022174496A1 (zh) | 基于生成模型的数据标注方法、装置、设备及存储介质 | |
CN112966744A (zh) | 模型训练方法、图像处理方法、装置和电子设备 | |
CN112100374A (zh) | 文本聚类方法、装置、电子设备及存储介质 | |
Yu et al. | Efficient euclidean projections onto the intersection of norm balls | |
CN113159013A (zh) | 基于机器学习的段落识别方法、装置、计算机设备和介质 | |
CN116432608A (zh) | 基于人工智能的文本生成方法、装置、计算机设备及介质 | |
CN112668607A (zh) | 一种用于目标物体触觉属性识别的多标签学习方法 | |
EP4060526A1 (en) | Text processing method and device | |
CN112307769B (zh) | 一种自然语言模型的生成方法和计算机设备 | |
WO2023116572A1 (zh) | 一种词句生成方法及相关设备 | |
CN111753736A (zh) | 基于分组卷积的人体姿态识别方法、装置、设备和介质 | |
CN111161238A (zh) | 图像质量评价方法及装置、电子设备、存储介质 | |
CN111401069A (zh) | 会话文本的意图识别方法、意图识别装置及终端 | |
CN114970732A (zh) | 分类模型的后验校准方法、装置、计算机设备及介质 | |
CN111767710B (zh) | 印尼语的情感分类方法、装置、设备及介质 | |
CN111444319A (zh) | 文本匹配方法、装置和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |