CN112036195A - 机器翻译方法、装置及存储介质 - Google Patents

机器翻译方法、装置及存储介质 Download PDF

Info

Publication number
CN112036195A
CN112036195A CN202010974996.1A CN202010974996A CN112036195A CN 112036195 A CN112036195 A CN 112036195A CN 202010974996 A CN202010974996 A CN 202010974996A CN 112036195 A CN112036195 A CN 112036195A
Authority
CN
China
Prior art keywords
chapter
translation
result
translated
discourse
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010974996.1A
Other languages
English (en)
Inventor
陈骏轩
李响
刘凯
崔建伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Pinecone Electronic Co Ltd
Original Assignee
Beijing Xiaomi Pinecone Electronic Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Pinecone Electronic Co Ltd filed Critical Beijing Xiaomi Pinecone Electronic Co Ltd
Priority to CN202010974996.1A priority Critical patent/CN112036195A/zh
Publication of CN112036195A publication Critical patent/CN112036195A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G06F40/58—Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Machine Translation (AREA)

Abstract

本公开是关于一种机器翻译方法、装置及存储介质。该方法可以包括：获取待翻译篇章的篇章结构信息；其中，所述篇章结构信息，用于指示所述待翻译篇章的篇章结构；将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果。本公开可以将篇章结构信息和待翻译篇章的文本信息输入翻译模型，以得到翻译结果。由于篇章结构信息能够指示待翻译篇章的篇章结构，通过融合篇章结构信息的翻译模型对待翻译篇章进行翻译，这样，不仅能够对待翻译篇章中的各个句子进行翻译，还能将待翻译篇章的行文逻辑融合至翻译结果中，能够提高翻译结果的精确性。

Description

机器翻译方法、装置及存储介质
技术领域
本公开涉及机器翻译领域，尤其涉及一种机器翻译方法、装置及存储介质。
背景技术
在机器翻译领域，因受机器限制，普遍采用单句翻译的方法对待翻译篇章进行翻译，即依次建模待翻译篇章中的每个句子，并对其进行翻译。但是，由于是对待翻译篇章中的每个句子依次建模的，在翻译的过程中，没有考虑各个句子之间的关联性，会导致翻译结果不够精确。
发明内容
本公开提供一种机器翻译方法、装置及存储介质。
根据本公开实施例的第一方面，提供一种机器翻译方法，包括：
获取待翻译篇章的篇章结构信息；其中，所述篇章结构信息，用于指示所述待翻译篇章的篇章结构；
将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果。
可选的，所述获取待翻译篇章的篇章结构信息，包括：
利用语义分割模型对所述待翻译篇章进行分割处理，得到M个基本篇章单元；其中，每个基本篇章单元包括N个词语；
对所述M个基本篇章单元进行分析，得到篇章分析树；其中，所述篇章分析树用于表征各个基本篇章单元之间的篇章关系；
根据所述篇章分析树中M个所述基本篇章单元所对应的M条篇章路径，确定所述篇章结构信息；其中，M和N均为正整数。
可选的，所述将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果，包括：
将所述文本信息输入所述翻译模型的第一类编码器，得到第一编码结果；
将所述篇章结构信息输入所述翻译模型的由所述第一类编码器和全连接网络构成的第二类编码器，得到第二编码结果；
根据所述第一编码结果和所述第二编码结果，得到所述翻译结果。
可选的，所述根据所述第一编码结果和所述第二编码结果，得到所述翻译结果，包括：
对所述第一编码结果和所述第二编码结果进行融合处理，得到目标编码结果；
根据所述目标编码结果，得到所述翻译结果。
可选的，所述根据所述目标编码结果，得到所述翻译结果，包括：
根据所述目标编码结果，得到所述文本信息中每个词语的句子级别上下文；
根据所述句子级别上下文，得到所述文本信息中每个词语的篇章级别上下文；
通过插值方式将所述句子级别上下文、所述篇章级别上下文与所述文本信息进行融合，得到融合结果；
将所述融合结果输入所述翻译模型的解码器，得到所述翻译结果。
可选的，所述方法还包括：
基于预设训练语料，对所述翻译模型进行训练，得到目标翻译模型；
所述将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果，包括：
将所述篇章结构信息和所述待翻译篇章的文本信息输入所述目标翻译模型，得到所述翻译结果。
根据本公开实施例的第二方面，提供一种机器翻译装置，包括：
获取模块，配置为获取待翻译篇章的篇章结构信息；其中，所述篇章结构信息，用于指示所述待翻译篇章的篇章结构；
翻译模块，配置为将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果。
可选的，所述获取模块，还配置为：
利用语义分割模型对所述待翻译篇章进行分割处理，得到M个基本篇章单元；其中，每个基本篇章单元包括N个词语；
对所述M个基本篇章单元进行分析，得到篇章分析树；其中，所述篇章分析树用于表征各个基本篇章单元之间的篇章关系；
根据所述篇章分析树中M个所述基本篇章单元所对应的M条篇章路径，确定所述篇章结构信息；其中，M和N均为正整数。
可选的，所述翻译模块，还配置为：
将所述文本信息输入所述翻译模型的第一类编码器，得到第一编码结果；
将所述篇章结构信息输入所述翻译模型的由所述第一类编码器和全连接网络构成的第二类编码器，得到第二编码结果；
根据所述第一编码结果和所述第二编码结果，得到所述翻译结果。
可选的，所述翻译模块，还配置为：
对所述第一编码结果和所述第二编码结果进行融合处理，得到目标编码结果；
根据所述目标编码结果，得到所述翻译结果。
可选的，所述翻译模块，还配置为：
根据所述目标编码结果，得到所述文本信息中每个词语的句子级别上下文；
根据所述句子级别上下文，得到所述文本信息中每个词语的篇章级别上下文；
通过插值方式将所述句子级别上下文、所述篇章级别上下文与所述文本信息进行融合，得到融合结果；
将所述融合结果输入所述翻译模型的解码器，得到所述翻译结果。
可选的，所述装置还包括：
训练模块，配置为基于预设训练语料，对所述翻译模型进行训练，得到目标翻译模型；
所述翻译模块，还配置为：
将所述篇章结构信息和所述待翻译篇章的文本信息输入所述目标翻译模型，得到所述翻译结果。
根据本公开实施例的第三方面，提供一种机器翻译装置，包括：
处理器；
配置为存储处理器可执行指令的存储器；
其中，所述处理器配置为：执行时实现上述任一种机器翻译方法中的步骤。
根据本公开实施例的第四方面，提供一种非临时性计算机可读存储介质，当所述存储介质中的指令由机器翻译装置的处理器执行时，使得所述装置能够执行上述任一种机器翻译方法。
本公开的实施例提供的技术方案可以包括以下有益效果：
由上述实施例可知，本公开可以将篇章结构信息和待翻译篇章的文本信息输入翻译模型，以得到翻译结果。由于篇章结构信息能够指示待翻译篇章的篇章结构，通过融合篇章结构信息的翻译模型对待翻译篇章进行翻译，这样，不仅能够对待翻译篇章中的各个句子进行翻译，还能将待翻译篇章的行文逻辑融合至翻译结果中，以得到在整个篇章结构对应语境下的多义字词和/或语句的具体含义，能够提高翻译结果的精确性。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种机器翻译方法的流程示意图。
图2是根据一示例性实施例示出的一种网络***示意图。
图3是根据一示例性实施例示出的一种篇章分析树示意图。
图4是相关技术中的翻译模型的编码器的结构示意图。
图5是根据一示例性实施例示出的一种翻译模型的编码器的结构示意图。
图6是根据一示例性实施例示出的一种机器翻译装置框图。
图7是根据一示例性实施例示出的一种用于机器翻译装置的框图。
图8是根据一示例性实施例示出的另一种用于机器翻译装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
本公开实施例中提供了一种机器翻译方法，图1是根据一示例性实施例示出的一种机器翻译方法的流程示意图，如图1所示，该方法主要包括以下步骤：
在步骤101中，获取待翻译篇章的篇章结构信息；其中，所述篇章结构信息，用于指示所述待翻译篇章的篇章结构；
在步骤102中，将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果。
本公开实施例中所涉及的机器翻译方法可以应用于电子设备，这里，电子设备包括移动终端和固定终端，其中，移动终端包括：手机、平板电脑、笔记本电脑等；固定终端包括：个人计算机。在其他可选的实施例中，该机器翻译方法也可以运行于网络侧设备，其中，网络侧设备包括：服务器、处理中心等。
在一些实施例中，本公开中的机器翻译方法可以应用于不同的场景。例如，可以应用于单机场景，如，可以应用于翻译机，通过单机运行的语音识别算法和篇章机器翻译算法对用户输入的一段话进行翻译。再例如，可以应用于多机场景，如，可以应用于在线翻译***，用户通过手机、笔记本电脑等各种类型终端输入待翻译篇章等，通过网络传输给服务器，服务器对输入的待翻译篇章进行处理并翻译，并将翻译结果(译文)通过网络传输给手机、笔记本电脑等。
图2是根据一示例性实施例示出的一种网络***示意图，如图2所示，该网络***包括：手机201、笔记本电脑202以及服务器203，在实现的过程中，用户可以通过手机201和笔记本电脑202输入待翻译篇章，其中，待翻译篇章包括：待翻译段落、待翻译句子等，并通过网络204传输给服务器203，服务器203对输入的待翻译篇章进行处理并翻译，并将翻译结果(译文)通过网络204传输给手机201、笔记本电脑202等。
本公开实施例中的篇章结构信息用于指示待翻译篇章的篇章结构，代表着待翻译篇章的行文逻辑，在实现的过程中，可以将篇章结构信息和待翻译篇章的文本信息输入翻译模型，得到翻译结果。
这里，翻译模型可以包括编码器和解码器。在实现的过程中，翻译模型的编码器可以对待翻译篇章进行编码处理获得编码结果，然后通过翻译模型的解码器接收编码器输入的编码结果，并对编码结果进行解码，并将解码得到的解码信息输入线性层、归一化层，最终获取相应的翻译结果。在另一些实施例中，翻译模型至少包括Transformer模型。
本公开实施例中，可以将篇章结构信息和待翻译篇章的文本信息输入翻译模型，以得到翻译结果。由于篇章结构信息能够指示待翻译篇章的篇章结构，通过融合篇章结构信息的翻译模型对待翻译篇章进行翻译，这样，不仅能够对待翻译篇章中的各个句子进行翻译，还能将待翻译篇章的行文逻辑融合至翻译结果中，能够提高翻译结果的精确性。
在一些实施例中，所述获取待翻译篇章的篇章结构信息，包括：
利用语义分割模型对所述待翻译篇章进行分割处理，得到M个基本篇章单元；其中，每个基本篇章单元包括N个词语；
对所述M个基本篇章单元进行分析，得到篇章分析树；其中，所述篇章分析树用于表征各个基本篇章单元之间的篇章关系；
根据所述篇章分析树中M个所述基本篇章单元所对应的M条篇章路径，确定所述篇章结构信息；其中，M和N均为正整数。
这里，基本篇章单元是篇章中最基本的单位，具有相对独立的语义。本公开实施例中，可以将一个待翻译篇章分割成M个连续的基本篇章单元，并将M个基本篇章单元作为篇章分析树的叶节点，以多个连续的基本篇章单元由特定关系连接而成的功能语句作为篇章分析树的内部节点，即非叶节点，节点间以具体的篇章修辞关系和核性关系进行连接。例如，相邻的有关联的基本篇章单元之间用特定的修辞关系(Rhetorical Relation)进行连接，用核性关系(Nuclearity)标注出该修辞关系的主要部分(Nucleus)和次要部分(satellite)。
在一些实施例中，可以利用语义分割模型确定待翻译篇章的分割点，并基于确定出的分割点对待翻译篇章进行分割处理，得到M个基本篇章单元。在得到M个基本篇章单元之后，可以基于篇章解析器(Discourse Parser，DP)对分割后的M个基本篇章单元进行分析，根据篇章修辞结构理论自动构建篇章分析树，并为各相邻的树节点之间分配合理的修辞关系以及核性关系。
示例性的，以待翻译篇章是“The Treasury also said noncompetitive tenderswill be considered timely if postmarked no later than Sunday,Oct.29,andreceived no later than tomorrow.”为例，在对待翻译篇章进行分割之后，可以得到：第一基本篇章单元：[The Treasury also said]e1；第二基本篇章单元：[noncompetitivetenders will be considered timely]；第三基本篇章单元：e2[if postmarked no laterthan Sunday,Oct.29,]e3；以及第四基本篇章单元：[and received no later thantomorrow.]e4。
也就是说，在对待翻译篇章进行分割之后，可以得到4个不重叠的基本篇章单元(Elementary Discourse Units，EDUs)，分别是：e1、e2、e3、e4。在得到基本篇章单元之后，可以利用篇章解析器对分割后的基本篇章单元进行分析，得到篇章分析树。
图3是根据一示例性实施例示出的一种篇章分析树示意图，如图3所示，该篇章分析树的叶子节点为基本篇章单元(即e1、e2、e3、e4)；非叶子节点为各个基本篇章单元之间的篇章关系，代表每两个叶子节点的篇章关系；树上的边有主要部分(Nucleus，即N)、次要部分(satellite，即S)两种，表示对应叶子节点在该篇章关系中的重要性。
本公开实施例中，在得到篇章分析树之后，可以进行篇章结构信息的提取，即从篇章分析树上提取出根节点到叶子节点的M条篇章路径，作为对应基本篇章单元的篇章结构信息，同一个基本篇章单元的所有词具有相同的篇章结构信息。也就是说，本公开实施例中，篇章结构信息至少包括：各个基本篇章单元的篇章路径，其中，篇章路径用于指示各个基本篇章单元之间的篇章关系。
示例性的，图3中根据e1、e2、e3以及e4得到的4条篇章路径如下：
e1：CONDITION(条件关系)->N->ATTRIBUTION(归属关系)->S
e2：CONDITION(条件关系)->N->ATTRIBUTION(归属关系)->N
e3：CONDITION(条件关系)->S->TEMPORAL(时态关系)->N
e4：CONDITION(条件关系)->S->TEMPORAL(时态关系)->N
本公开实施例中能够对待翻译篇章进行分割处理，并根据分割得到的基本篇章单元得到篇章分析树，然后根据篇章分析树中的篇章路径得到篇章结构信息，由于篇章分析树能够表征各个基本篇章单元之间的篇章关系。这样，在进行翻译的过程中，不仅能够对待翻译篇章中的各个句子进行翻译，还能将待翻译篇章的行文逻辑融合至翻译结果中，能够提高翻译结果的精确性。
在一些实施例中，所述将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果，包括：
将所述文本信息输入所述翻译模型的第一类编码器，得到第一编码结果；
将所述篇章结构信息输入所述翻译模型的由所述第一类编码器和全连接网络构成的第二类编码器，得到第二编码结果；
根据所述第一编码结果和所述第二编码结果，得到所述翻译结果。
在一些实施例中，所述第二类编码器包括：第一类编码器及链接在所述第一类编码器的输出端的全连接网络。在所述第二类编码器中，所述第一类编码的输出端为所述第二类编码器的输入端；所述全连接网络的输出端为所述第二类编码器的输出端。
图4是相关技术中的翻译模型的编码器的结构示意图，如图4所示，编码器由句子编码器和上下文编码器两个部分组成。句子编码器用于编码当前句子和上下文句子，得到每个词的隐状态表示；上下文编码器可以分为两个级别，首先得到每个上下文句子的句子级别上下文，再根据句子级别上下文得到篇章级别上下文；最后将篇章级别上下文和当前句子隐状态表示进行融合，得到当前句子的最终隐状态表示，缺少对篇章结构信息的建模。
图5是根据一示例性实施例示出的一种翻译模型的编码器的结构示意图，如图5所示，翻译模型的编码器由句子编码器和上下文编码器两个部分组成。句子编码器用于编码当前句子和上下文句子，得到每个词的隐状态表示；上下文编码器包括第一类编码器和第二类编码器。在一些实施例中，第一类编码器可以包括Transformer模型的编码器，第二类编码器可以是由Transformer模型的编码器和全连接网络构成的。
在实现的过程中，可以基于第一类编码器对文本信息进行编码，得到第一编码结果，基于第二类编码器对篇章结构信息进行编码，得到第二编码结果。例如，可以基于词嵌入层得到文本信息的文本向量，再基于第一类编码器(词编码器)对文本向量进行编码，得到词隐藏状态，即第一编码结果，还可以基于路径嵌入层得到篇章结构信息的路径向量，然后基于第二类编码器(路径编码器)对路径向量进行编码，得到路径隐藏状态，在得到词隐藏状态和路径隐藏状态之后，可以对词隐藏状态和路径隐藏状态进行融合处理，得到更新隐藏状态，即目标编码结果。
在一些实施例实施例中，还可以基于目标编码结果得到每个词语的句子级别上下文，并根据根据句子级别上下文，得到所述文本信息中每个词语的篇章级别上下文。其中，第一编码结果的计算公式如下：
H＝transformer_encoder(X) (1)；
公式(1)中，H表示第一编码结果，X＝(x1,x2,...,xN)表示由N个词组成的文本信息，xi是第i个词的嵌入式表示；H＝(h1,h2,...,hi,...,hN)中的hi是第i个词的隐状态表示，hN是第N个词的隐状态表示。
第二编码结果的计算公式如下：
Figure BDA0002685451680000081
公式(2)中，
Figure BDA0002685451680000082
表示第二编码结果，
Figure BDA0002685451680000083
为第i个词对应的篇章路径的整体向量表示，
Figure BDA0002685451680000084
为第N个词对应的篇章路径的整体向量表示，其中，
Figure BDA0002685451680000085
公式(3)中，
Figure BDA0002685451680000086
为第i个词对应的篇章路径的整体向量表示，Pi＝(pi,1,pi,2,...,pi,iM)为第i个词对应的篇章路径，该篇章路径包含iM个节点；
Figure BDA0002685451680000087
为该路径的整体向量表示。
本公开实施例中，在得到第一编码结果和第二编码结果之后，可以根据第一编码结果和第二编码结果，得到翻译结果。相较于图4中的技术方案，本公开实施例中的技术方案，通过设置专门处理篇章结构信息的第二类编码器，用于对篇章结构信息进行编码，这样，就能够在编码过程中融入篇章结构信息，在编码器中引入了篇章结构编码器，用于编码每个句子的篇章结构，并将等到篇章结构信息和原始文本信息进行融合，得到既包含原始文本信息也包含篇章结构信息的隐状态表示，能够提高最终翻译结果的精确性。
在一些实施例中，所述根据所述第一编码结果和所述第二编码结果，得到所述翻译结果，包括：
对所述第一编码结果和所述第二编码结果进行融合处理，得到目标编码结果；
根据所述目标编码结果，得到所述翻译结果。
在一些实施例中，可以将第一编码结果和第二编码结果进行相加，得到目标编码结果。
其中，目标编码结果的计算公式如下：
Figure BDA0002685451680000088
公式(4)中，
Figure BDA0002685451680000089
表示目标编码结果，H表示第一编码结果，
Figure BDA00026854516800000810
表示第二编码结果。在另一些实施例中，也可以对第一编码结果和第二编码结果进行加权之后求和。
在一些实施例中，所述根据所述目标编码结果，得到所述翻译结果，包括：
根据所述目标编码结果，得到所述文本信息中每个词语的句子级别上下文；
根据所述句子级别上下文，得到所述文本信息中每个词语的篇章级别上下文；
通过插值方式将所述句子级别上下文、所述篇章级别上下文与所述文本信息进行融合，得到融合结果；
将所述融合结果输入所述翻译模型的解码器，得到所述翻译结果。
在一些实施例中，句子级别上下文的计算公式如下：
Figure BDA0002685451680000091
公式(5)中，st,j表示句子级别上下文，
Figure BDA0002685451680000092
表示句子级别查询表示，
Figure BDA0002685451680000093
表示目标编码结果；其中，
Figure BDA0002685451680000094
公式(6)中，
Figure BDA0002685451680000095
表示句子级别查询表示，ht表示文本信息中第t个词的隐状态表示。
在实现的过程中，第一类编码器能够从所有上下文句子中挑选出与文本信息中每个词相关的内容，其中，每个上下文句子对文本信息的每个词都有一个不同的句子级别上下文表示。
文本信息中第t个词的隐状态表示ht经过一个前馈神经网络(Feed ForwardNeural Network，FFN)得到其句子级别查询表示
Figure BDA0002685451680000096
接着
Figure BDA0002685451680000097
通过注意力网络对目标编码结果
Figure BDA0002685451680000098
进行挑选，得到对应的句子级别上下文st,j。
在一些实施例中，篇章级别上下文的计算公式如下：
Figure BDA0002685451680000099
公式(7)中，dt表示文本信息中每个词的篇章级别上下文，St＝(st,1,st,2,...,st,J)表示所有句子级别上下文，其中，
Figure BDA00026854516800000910
公式(8)中，
Figure BDA00026854516800000911
表示句子级别查询表示，ht表示文本信息中第t个词的隐状态表示。
在实现的过程中，第二类编码器能够从所有上下文句子中挑选出与文本信息中每个词相关的内容，得到文本信息中每个词的篇章级别上下文dt。
在一些实施例中，融合结果的计算公式如下：
Figure BDA0002685451680000101
公式(9)中，
Figure BDA0002685451680000102
表示融合结果，λt表示设定权重，ht表示文本信息中第t个词的隐状态表示，dt表示文本信息中每个词的篇章级别上下文。
λt＝σ(Whht+Wdht) (10)；
公式(10)中，λt表示设定权重，Wh表示第一参数矩阵，Wd表示第二参数矩阵，ht表示文本信息中第t个词的隐状态表示。这里，可以通过插值方式对句子级别上下文、篇章级别上下文与文本信息进行融合，得到文本信息每个词的隐状态表示(融合结果)，也就是编码器的最终输出。这样，在编码的过程中将等到篇章结构信息和原始文本信息进行融合，得到既包含原始文本信息也包含篇章结构信息的隐状态表示，能够提高最终翻译结果的精确性。
在一些实施例中，所述方法还包括：
基于预设训练语料，对所述翻译模型进行训练，得到目标翻译模型；
所述将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果，包括：
将所述篇章结构信息和所述待翻译篇章的文本信息输入所述目标翻译模型，得到所述翻译结果。
这里，可以对预设训练预料进行预处理，得到预设训练预料的篇章结构信息，并将预设训练预料的词序列、预设训练预料篇章结构信息、句子级别上下文、篇章级别上下文输入翻译模型，得到输出结果(预测概率)，即每个词的概率分布。在实现的过程中，可以基于设定损失函数得到翻译模型在预设训练预料上的训练损失值，并根据训练损失值对翻译模型的模型参数进行更新，直至模型收敛，得到目标翻译模型。这里，设定损失函数包括负对数似然函数，例如，可以通过最小化文本信息的预测概率的负对数似然函数训练翻译模型，在训练的过程中，还可以使用Adam优化器更新翻译模型模型参数。
在一些实施例中，在使用目标翻译模型的过程中，由于输出的是各个词语的生成序列，以及各个生成序列的预测概率，在实现的过程中，可以通过搜索算法(beam search)算法找到预测概率最大的生成序列，并输出作为文本信息的翻译结果，即文本信息的译文。
图6是根据一示例性实施例示出的一种机器翻译装置框图，如图6所示，该机器翻译装置600主要包括：
获取模块601，配置为获取待翻译篇章的篇章结构信息；其中，所述篇章结构信息，用于指示所述待翻译篇章的篇章结构；
翻译模块602，配置为将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果。
在一些实施例中，所述获取模块601，还配置为：
利用语义分割模型对所述待翻译篇章进行分割处理，得到M个基本篇章单元；其中，每个基本篇章单元包括N个词语；
对所述M个基本篇章单元进行分析，得到篇章分析树；其中，所述篇章分析树用于表征各个基本篇章单元之间的篇章关系；
根据所述篇章分析树中M个所述基本篇章单元所对应的M条篇章路径，确定所述篇章结构信息；其中，M和N均为正整数。
在一些实施例中，所述翻译模块602，还配置为：
将所述文本信息输入所述翻译模型的第一类编码器，得到第一编码结果；
将所述篇章结构信息输入所述翻译模型的由所述第一类编码器和全连接网络构成的第二类编码器，得到第二编码结果；
根据所述第一编码结果和所述第二编码结果，得到所述翻译结果。
在一些实施例中，所述翻译模块602，还配置为：
对所述第一编码结果和所述第二编码结果进行融合处理，得到目标编码结果；
根据所述目标编码结果，得到所述翻译结果。
在一些实施例中，所述翻译模块602，还配置为：
根据所述目标编码结果，得到所述文本信息中每个词语的句子级别上下文；
根据所述句子级别上下文，得到所述文本信息中每个词语的篇章级别上下文；
通过插值方式将所述句子级别上下文、所述篇章级别上下文与所述文本信息进行融合，得到融合结果；
将所述融合结果输入所述翻译模型的解码器，得到所述翻译结果。
在一些实施例中，所述装置600还包括：
训练模块，配置为基于预设训练语料，对所述翻译模型进行训练，得到目标翻译模型；
所述翻译模块602，还配置为：
将所述篇章结构信息和所述待翻译篇章的文本信息输入所述目标翻译模型，得到所述翻译结果。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
图7是根据一示例性实施例示出的一种用于机器翻译装置1200的框图。例如，装置1200可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图7，装置1200可以包括以下一个或多个组件：处理组件1202，存储器1204，电源组件1206，多媒体组件1208，音频组件1210，输入/输出(I/O)的接口1212，传感器组件1214，以及通信组件1216。
处理组件1202通常控制装置1200的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件1202可以包括一个或多个处理器1220来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件1202可以包括一个或多个模块，便于处理组件1202和其他组件之间的交互。例如，处理组件1202可以包括多媒体模块，以方便多媒体组件1208和处理组件1202之间的交互。
存储器1204被配置为存储各种类型的数据以支持在设备1200的操作。这些数据的示例包括用于在装置1200上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器1204可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件1206为装置1200的各种组件提供电力。电源组件1206可以包括电源管理***，一个或多个电源，及其他与为装置1200生成、管理和分配电力相关联的组件。
多媒体组件1208包括在所述装置1200和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件1208包括一个前置摄像头和/或后置摄像头。当设备1200处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件1210被配置为输出和/或输入音频信号。例如，音频组件1210包括一个麦克风(MIC)，当装置1200处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器1204或经由通信组件1216发送。在一些实施例中，音频组件1210还包括一个扬声器，用于输出音频信号。
I/O接口1212为处理组件1202和***接口模块之间提供接口，上述***接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件1214包括一个或多个传感器，用于为装置1200提供各个方面的状态评估。例如，传感器组件1214可以检测到设备1200的打开/关闭状态，组件的相对定位，例如所述组件为装置1200的显示器和小键盘，传感器组件1214还可以检测装置1200或装置1200一个组件的位置改变，用户与装置1200接触的存在或不存在，装置1200方位或加速/减速和装置1200的温度变化。传感器组件1214可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件1214还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件1214还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件1216被配置为便于装置1200和其他设备之间有线或无线方式的通信。装置1200可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件1216经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件1216还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置1200可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器1204，上述指令可由装置1200的处理器1220执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
一种非临时性计算机可读存储介质，当所述存储介质中的指令由机器翻译装置的处理器执行时，使得机器翻译装置能够执行一种机器翻译方法，所述方法包括：
获取待翻译篇章的篇章结构信息；其中，所述篇章结构信息，用于指示所述待翻译篇章的篇章结构；
将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果。
图8是根据一示例性实施例示出的另一种用于机器翻译装置1300的框图。例如，装置1300可以被提供为一服务器。参照图8，装置1300包括处理组件1322，其进一步包括一个或多个处理器，以及由存储器1332所代表的存储器资源，用于存储可由处理组件1322的执行的指令，例如应用程序。存储器1332中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1322被配置为执行指令，以执行上述机器翻译方法，所述方法包括：
获取待翻译篇章的篇章结构信息；其中，所述篇章结构信息，用于指示所述待翻译篇章的篇章结构；
将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果。
装置1300还可以包括一个电源组件1326被配置为执行装置1300的电源管理，一个有线或无线网络接口1350被配置为将装置1300连接到网络，和一个输入输出(I/O)接口1358。装置1300可以操作基于存储在存储器1332的操作***，例如Windows ServerTM，MacOS XTM，UnixTM，LinuxTM，FreeBSDTM或类似。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (14)

1.一种机器翻译方法，其特征在于，包括：
获取待翻译篇章的篇章结构信息；其中，所述篇章结构信息，用于指示所述待翻译篇章的篇章结构；
将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果。
2.根据权利要求1所述的方法，其特征在于，所述获取待翻译篇章的篇章结构信息，包括：
利用语义分割模型对所述待翻译篇章进行分割处理，得到M个基本篇章单元；其中，每个基本篇章单元包括N个词语；
对所述M个基本篇章单元进行分析，得到篇章分析树；其中，所述篇章分析树用于表征各个基本篇章单元之间的篇章关系；
根据所述篇章分析树中M个所述基本篇章单元所对应的M条篇章路径，确定所述篇章结构信息；其中，M和N均为正整数。
3.根据权利要求1所述的方法，其特征在于，所述将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果，包括：
将所述文本信息输入所述翻译模型的第一类编码器，得到第一编码结果；
将所述篇章结构信息输入所述翻译模型的由所述第一类编码器和全连接网络构成的第二类编码器，得到第二编码结果；
根据所述第一编码结果和所述第二编码结果，得到所述翻译结果。
4.根据权利要求3所述的方法，其特征在于，所述根据所述第一编码结果和所述第二编码结果，得到所述翻译结果，包括：
对所述第一编码结果和所述第二编码结果进行融合处理，得到目标编码结果；
根据所述目标编码结果，得到所述翻译结果。
5.根据权利要求4所述的方法，其特征在于，所述根据所述目标编码结果，得到所述翻译结果，包括：
根据所述目标编码结果，得到所述文本信息中每个词语的句子级别上下文；
根据所述句子级别上下文，得到所述文本信息中每个词语的篇章级别上下文；
通过插值方式将所述句子级别上下文、所述篇章级别上下文与所述文本信息进行融合，得到融合结果；
将所述融合结果输入所述翻译模型的解码器，得到所述翻译结果。
6.根据权利要求1至5任一项所述的方法，其特征在于，所述方法还包括：
基于预设训练语料，对所述翻译模型进行训练，得到目标翻译模型；
所述将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果，包括：
将所述篇章结构信息和所述待翻译篇章的文本信息输入所述目标翻译模型，得到所述翻译结果。
7.一种机器翻译装置，其特征在于，包括：
获取模块，配置为获取待翻译篇章的篇章结构信息；其中，所述篇章结构信息，用于指示所述待翻译篇章的篇章结构；
翻译模块，配置为将所述篇章结构信息和所述待翻译篇章的文本信息输入翻译模型，得到翻译结果。
8.根据权利要求7所述的装置，其特征在于，所述获取模块，还配置为：
利用语义分割模型对所述待翻译篇章进行分割处理，得到M个基本篇章单元；其中，每个基本篇章单元包括N个词语；
对所述M个基本篇章单元进行分析，得到篇章分析树；其中，所述篇章分析树用于表征各个基本篇章单元之间的篇章关系；
根据所述篇章分析树中M个所述基本篇章单元所对应的M条篇章路径，确定所述篇章结构信息；其中，M和N均为正整数。
9.根据权利要求7所述的装置，其特征在于，所述翻译模块，还配置为：
将所述文本信息输入所述翻译模型的第一类编码器，得到第一编码结果；
将所述篇章结构信息输入所述翻译模型的由所述第一类编码器和全连接网络构成的第二类编码器，得到第二编码结果；
根据所述第一编码结果和所述第二编码结果，得到所述翻译结果。
10.根据权利要求9所述的装置，其特征在于，所述翻译模块，还配置为：
对所述第一编码结果和所述第二编码结果进行融合处理，得到目标编码结果；
根据所述目标编码结果，得到所述翻译结果。
11.根据权利要求10所述的装置，其特征在于，所述翻译模块，还配置为：
根据所述目标编码结果，得到所述文本信息中每个词语的句子级别上下文；
根据所述句子级别上下文，得到所述文本信息中每个词语的篇章级别上下文；
通过插值方式将所述句子级别上下文、所述篇章级别上下文与所述文本信息进行融合，得到融合结果；
将所述融合结果输入所述翻译模型的解码器，得到所述翻译结果。
12.根据权利要求7至11任一项所述的装置，其特征在于，所述装置还包括：
训练模块，配置为基于预设训练语料，对所述翻译模型进行训练，得到目标翻译模型；
所述翻译模块，还配置为：
将所述篇章结构信息和所述待翻译篇章的文本信息输入所述目标翻译模型，得到所述翻译结果。
13.一种机器翻译装置，其特征在于，包括：
处理器；
配置为存储处理器可执行指令的存储器；
其中，所述处理器配置为：执行时实现上述权利要求1至6中任一种机器翻译方法中的步骤。
14.一种非临时性计算机可读存储介质，当所述存储介质中的指令由机器翻译装置的处理器执行时，使得所述装置能够执行上述权利要求1至6中任一种机器翻译方法。
CN202010974996.1A 2020-09-16 2020-09-16 机器翻译方法、装置及存储介质 Pending CN112036195A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010974996.1A CN112036195A (zh) 2020-09-16 2020-09-16 机器翻译方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010974996.1A CN112036195A (zh) 2020-09-16 2020-09-16 机器翻译方法、装置及存储介质

Publications (1)

Publication Number Publication Date
CN112036195A true CN112036195A (zh) 2020-12-04

Family

ID=73589618

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010974996.1A Pending CN112036195A (zh) 2020-09-16 2020-09-16 机器翻译方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN112036195A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112668346A (zh) * 2020-12-24 2021-04-16 科大讯飞股份有限公司 翻译方法、装置、设备及存储介质
CN114580439A (zh) * 2022-02-22 2022-06-03 北京百度网讯科技有限公司 翻译模型训练方法、翻译方法、装置、设备以及存储介质
CN116306698A (zh) * 2023-03-07 2023-06-23 苏州大学 一种基于修辞结构理论的篇章机器翻译方法及***

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190155909A1 (en) * 2017-11-23 2019-05-23 Samsung Electronics Co., Ltd. Machine translation method and apparatus
WO2019114695A1 (zh) * 2017-12-15 2019-06-20 腾讯科技（深圳）有限公司 基于翻译模型的训练方法、翻译方法、计算机设备及存储介质
CN109948166A (zh) * 2019-03-25 2019-06-28 腾讯科技（深圳）有限公司 文本翻译方法、装置、存储介质和计算机设备
CN111160050A (zh) * 2019-12-20 2020-05-15 沈阳雅译网络技术有限公司 一种基于上下文记忆网络的篇章级神经机器翻译方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190155909A1 (en) * 2017-11-23 2019-05-23 Samsung Electronics Co., Ltd. Machine translation method and apparatus
WO2019114695A1 (zh) * 2017-12-15 2019-06-20 腾讯科技（深圳）有限公司 基于翻译模型的训练方法、翻译方法、计算机设备及存储介质
CN109948166A (zh) * 2019-03-25 2019-06-28 腾讯科技（深圳）有限公司 文本翻译方法、装置、存储介质和计算机设备
CN111241855A (zh) * 2019-03-25 2020-06-05 腾讯科技（深圳）有限公司 文本翻译方法、装置、存储介质和计算机设备
CN111160050A (zh) * 2019-12-20 2020-05-15 沈阳雅译网络技术有限公司 一种基于上下文记忆网络的篇章级神经机器翻译方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JUNXUAN CHEN ET AL: "Modeling Discourse Structure for Document-level Neural Machine Translation", 《COMPUTATION AND LANGUAGE》, 8 June 2020 (2020-06-08), pages 1 - 7 *
刘凯: "基于篇章结构理论的单文档自动文摘研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》, 15 January 2019 (2019-01-15), pages 138 - 4996 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112668346A (zh) * 2020-12-24 2021-04-16 科大讯飞股份有限公司 翻译方法、装置、设备及存储介质
WO2022134164A1 (zh) * 2020-12-24 2022-06-30 科大讯飞股份有限公司 翻译方法、装置、设备及存储介质
CN112668346B (zh) * 2020-12-24 2024-04-30 中国科学技术大学 翻译方法、装置、设备及存储介质
CN114580439A (zh) * 2022-02-22 2022-06-03 北京百度网讯科技有限公司 翻译模型训练方法、翻译方法、装置、设备以及存储介质
CN116306698A (zh) * 2023-03-07 2023-06-23 苏州大学 一种基于修辞结构理论的篇章机器翻译方法及***

Similar Documents

Publication Publication Date Title
CN107291690B (zh) 标点添加方法和装置、用于标点添加的装置
CN111612070B (zh) 基于场景图的图像描述生成方法及装置
CN107564526B (zh) 处理方法、装置和机器可读介质
CN112036195A (zh) 机器翻译方法、装置及存储介质
CN110781305A (zh) 基于分类模型的文本分类方法及装置，以及模型训练方法
CN110069624B (zh) 文本处理方法及装置
CN114065778A (zh) 篇章级翻译方法、翻译模型训练方法及装置
CN111832316A (zh) 语义识别的方法、装置、电子设备和存储介质
CN108345625B (zh) 一种信息挖掘方法和装置、一种用于信息挖掘的装置
CN111369978B (zh) 一种数据处理方法、装置和用于数据处理的装置
CN111832315B (zh) 语义识别的方法、装置、电子设备和存储介质
CN113673261A (zh) 数据生成方法、装置及可读存储介质
CN112183119A (zh) 机器翻译方法、装置及存储介质
CN107424612B (zh) 处理方法、装置和机器可读介质
CN110232181B (zh) 评论分析方法及装置
CN113239707A (zh) 文本翻译方法、文本翻译装置及存储介质
CN111324214B (zh) 一种语句纠错方法和装置
CN111832297A (zh) 词性标注方法、装置及计算机可读存储介质
CN111538998A (zh) 文本定密方法和装置、电子设备及计算机可读存储介质
CN111079422A (zh) 关键词提取方法、装置及存储介质
CN114462410A (zh) 实体识别方法、装置、终端及存储介质
CN113326706A (zh) 一种跨语言检索方法、装置和电子设备
CN113971218A (zh) 位置编码方法、装置及存储介质
CN112149432A (zh) 篇章机器翻译方法及装置、存储介质
CN108073566B (zh) 分词方法和装置、用于分词的装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination