CN113127161A - 处理引擎选择方法、装置及计算机可读存储介质 - Google Patents

Abstract

本发明提供一种处理引擎选择方法、装置及计算机可读存储介质，处理引擎选择方法，包括：获取待处理任务的文件；按照分发策略将所述待处理任务的文件分发到至少一个处理引擎，以从所述至少一个处理引擎获取至少一个处理结果文件；按照仲裁策略选择设定数量的处理结果文件以执行所述待处理任务。本发明提供的处理引擎选择方法、装置及计算机可读存储介质，通过多线并行处理，可以对多个服务提供商提供的处理引擎进行灵活地仲裁选择，有效降低***复杂度，降低了调整成本。

Description

处理引擎选择方法、装置及计算机可读存储介质

技术领域

本发明涉及信息交互技术领域，特别是涉及一种处理引擎选择方法、装置及计算机可读存储介质。

背景技术

在语音图像识别技术中，有多种不同的服务提供商。而各个服务供应商的处理引擎各有所长，报价不同。同样的问题，面对不同的服务供应商，会有不同的解读。因而在不同的场景下或者针对不同的用户往往需要灵活调度。

目前的服务提供商的选择应用上没用一个灵活的仲裁机制，其本质上都是单线处理，造成应对死板。另外如果***的服务质量达不到要求或者某个线路出现故障时，调整起来非常复杂，成本较高。

发明内容

本发明的目的在于提供一种处理引擎选择方法、装置及计算机可读存储介质，可以对多个服务提供商灵活地仲裁选择，有效降低***调整成本。

第一方面，本发明提供了一种处理引擎选择方法，具体地，所述处理引擎选择方法包括：获取待处理任务的文件；按照分发策略将所述待处理任务的文件分发到至少一个处理引擎，以从所述至少一个处理引擎获取至少一个处理结果文件；按照仲裁策略选择设定数量的处理结果文件以执行所述待处理任务。

进一步地，按照分发策略将所述待处理任务的文件分发到至少一个处理引擎，以从所述至少一个处理引擎获取至少一个处理结果文件的步骤包括：按照第一分发策略将待处理任务的文件分发至默认处理引擎；若未在设定时间内收到返回的处理结果文件，则按照第二分发策略将待处理任务的文件分发至备选处理引擎以获取处理结果文件。

进一步地，按照仲裁策略选择设定数量的返回处理结果文件的处理引擎以执行所述待处理任务的步骤包括：将所述备选处理引擎设置为默认处理引擎。

进一步地，按照仲裁策略选择设定数量的返回处理结果文件的处理引擎以执行所述待处理任务的步骤之前包括：获取包括时空状态以及用户状态中的至少一项以辅助分发和/或仲裁。

进一步地，所述时空状态包括时间、地点、天气、温度、方位以及周边环境中的至少一项；所述用户状态包括表情、语气、指向以及面部朝向中的至少一项。

第二方面，本发明提供了一种处理引擎选择装置，具体地，所述处理引擎选择装置包括依次连接的获取模块、分发模块和仲裁模块，其中：所述获取模块与所述分发模块连接，用于获取待处理任务的文件并发送至所述分发模块；所述分发模块与所述仲裁模块连接，用于按照分发策略将所述待处理任务的文件分发到至少一个处理引擎，以从所述至少一个处理引擎获取至少一个处理结果文件并发送至所述仲裁模块；所述仲裁模块用于按照仲裁策略选择设定数量的返回处理结果文件以执行所述待处理任务。

进一步地，所述待处理任务的文件选自包括音频文件及图像文件中的至少一项。

进一步地，所述分发策略和/或仲裁策略的依据包括置信度、准确率、精确率、被召回率、F1分数、返回速度、业务场景以及业务内容中的至少一项。

进一步地，所述仲裁策略为多级仲裁策略，最后一级仲裁策略选择一个引擎返回的所述处理结果文件以执行所述待处理任务。

第三方面，本发明提供了一种计算机可读存储介质，具体地，所述计算机可读存储介质上存储有处理引擎选择程序，所述处理引擎选择程序在被计算机执行时，实现如上任一项所述的处理引擎选择方法。

本发明提供的处理引擎选择方法、装置及计算机可读存储介质，通过多线并行处理，可以对多个服务提供商灵活地仲裁选择，有效降低***复杂度，降低了调整成本。

附图说明

图1为本发明一实施例处理引擎选择方法的流程示意图。

图2为本发明一实施例处理引擎选择装置的方框图。

具体实施方式

下面结合附图和实施例，对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明，但不用来限制本发明的范围。

在本发明的第一个方面，提供了一种处理引擎选择方法，图1为本发明一实施例处理引擎选择方法的流程示意图。

如图1所示，在一实施例中，处理引擎选择方法包括以下步骤：

S11：获取待处理任务的文件。

根据交互方式的不同，待处理任务的文件可以是能够获取到的包括语音文件、图像文件、文字文件以及编码文件在内的各种采样文件或预处理文件。

S12：按照分发策略将待处理任务的文件分发到至少一个处理引擎，以从至少一个处理引擎获取至少一个处理结果文件。

按照预先确定的分发策略，获取到待处理任务的文件之后，将其分发给处理引擎。处理引擎处理完毕后，会返回处理结果文件。

S13：按照仲裁策略选择设定数量的处理结果文件以执行待处理任务。

接收到处理引擎返回的处理结果文件后，按照预先设定的仲裁策略进行筛选，以选出设定数量的处理结果文件。

使用这种处理引擎选择方法，可以对多个服务提供商灵活地仲裁选择，特别是在语音识别领域如ASR(Automatic Speech Recognition,语音识别)或者NLU(NaturalLanguage Understanding,自然语言理解)中，能够有效降低***复杂度，降低了调整成本。

在一实施例中，在执行步骤S12：按照分发策略将待处理任务的文件分发到至少一个处理引擎，以从至少一个处理引擎获取至少一个处理结果文件中包括：

按照第一分发策略将待处理任务的文件分发至默认处理引擎。若未在设定时间内收到返回的处理结果文件，则按照第二分发策略将待处理任务的文件分发至备选处理引擎以获取处理结果文件。

按照第一分发策略分发至默认处理引擎之后，有可能因为各种原因处理失败。因此，在超时未能收到默认处理引擎返回的处理结果文件时，有必要按照设置的第二分发策略，以使备选处理引擎来处理本次的待处理任务的文件。默认处理引擎可以是一个或多个，备选处理引擎也可以是一个或多个。

在一实施例中，在执行步骤S13：按照仲裁策略选择设定数量的返回处理结果文件的处理引擎以执行待处理任务中包括：

将备选处理引擎设置为默认处理引擎。

默认处理引擎可以是一个或多个，备选处理引擎也可以是一个或多个。默认处理引擎超时未返回处理结果文件，而按照第二分发策略分发的备选处理引擎成功返回了处理结果文件，***可以认为在当前的综合条件下，备选处理引擎能够更适合处理本装置获取的待处理任务的文件。因此，将备选处理引擎设置为默认处理引擎，以使下次能够以最快的速度提供服务。

在一实施例中，在执行步骤S13：按照仲裁策略选择设定数量的返回处理结果文件的处理引擎以执行待处理任务之前包括：

获取包括时空状态以及用户状态中的至少一项以辅助分发和/或仲裁。

在分发以及仲裁中，如果有装置现场的时空状态以及用户状态能够辅助判断用户意图，则能够极大地提高选择效率，提高用户体验。

在一实施例中，时空状态包括时间、地点、天气、温度、方位以及周边环境中的至少一项。例如，用户需要查询去往上海进博会的路线。那么距离进博会开始的日期、当前的时刻、用户所在的城市和方位、当前和进博会召开时期的天气、温度以及当前用户所使用装置的周边环境都是可能影响到可选路线选择的因素。

在一实施例中，用户状态包括表情、语气、指向以及面部朝向中的至少一项。例如，用户用语音方式表达“现在真热啊，什么时候能凉快一点”，此时用户有可能是需要查询未来几天的天气情况，也有可能需要开启空调降低当前环境温度。此时如果能够获取用户的表情、语气、指向以及面部朝向中的情形做为参考，那么真正所需执行的任务就更加容易做出判断。如果能够提前判断出所需执行任务的处理引擎，则可以直接分发和/或仲裁给对应的处理引擎。

第二方面，本发明提供了一种处理引擎选择装置，图2为本发明一实施例处理引擎选择装置的方框图。

如图2所示，在一实施例中，处理引擎选择装置包括获取模块10、分发模块20和仲裁模块30。

获取模块10与分发模块20连接，用于获取待处理任务的文件并发送至分发模块20。

分发模块20与仲裁模块30连接，用于按照分发策略将待处理任务的文件分发到至少一个处理引擎，以从至少一个处理引擎获取至少一个处理结果文件并发送至仲裁模块30。

仲裁模块30用于按照仲裁策略选择设定数量的返回处理结果文件以执行待处理任务。

在实际使用中可以区分不同的应用场景或用户类型以使用不同的策略。例如根据车载环境、家居环境或其他环境等不同应用场景，以及不同的车型、性别、是否VIP等不同的用户类型。分发的处理引擎可以根据不同的应用场景或用户类型静态指定或动态选定。

在一实施例中，待处理任务的文件选自包括音频文件、图像文件、文字文件以及编码文件中的至少一项。根据交互方式的不同，待处理任务的文件可以是处理引擎选择装置能够获取到的各种采样文件或预处理文件。

在一实施例中，分发策略和/或仲裁策略的依据包括置信度、准确率、精确率、被召回率、F1分数、返回速度、业务场景以及业务内容中的至少一项。

在一实施例中，仲裁策略为多级仲裁策略，最后一级仲裁策略选择一个引擎返回的处理结果文件以执行待处理任务。

在大多数的任务中，往往只需要一个确定的待执行任务。因此，通过仲裁后选择最适合的处理引擎返回的处理结果文件以执行待处理任务。

在一实施例中，可以使用速度优先的仲裁策略。在接入多个处理引擎后，哪个处理引擎最先返回识别结果，则使用该处理引擎的处理结果文件进入下一步的语音交互流程。

在将待处理任务的文件分发至第一处理引擎、第二处理引擎的情况下，第一处理引擎返回处理结果文件的耗时分别是100毫秒，第二处理引擎返回处理结果文件的耗时为120毫秒。由于接下来的仲裁环节中放置的仲裁策略是“速度优先”，由于第一处理引擎的耗时是最小的，也就是最快把结果返回的。因此，仲裁结果为采用讯飞的结果进入下一步的流程中。

在一实施例中，可以使用精确率优先的仲裁策略。精确率是针对处理引擎返回结果是否正确而言的，它的含义是在所有被预测为正的样本中实际为正的样本的概率。首先，我们需要有一个各处理引擎在每个意图领域中给出正确结果的精确率评估。这个评估值可以是通过测试获得，也可以通过第三方给出。这个评估值可以实时更新，也可以定时更新。

为了达到最佳的精确率，在接入了多家处理引擎的情况下，可以采用的仲裁策略是：采用某个意图领域中某个精确率最高的处理引擎返回的处理结果文件作为最终采用文件。

例如在一个NLU处理引擎的仲裁中，第三方给出了一个参考数据：第一处理引擎的返回结果在是“天气”意图领域情况下的精确率为99％，在“导航”意图领域情况下的精确率为80％；第二处理引擎的返回结果在是“天气”意图领域情况下的精确率为85％，在是“导航”意图领域情况下的精确率为90％。那么，在各情况下的最终采用结果如下表所示：

需要说明的是，这里举例选用的指标是精确率，在其他实施例中，分发策略和/或仲裁策略的依据可以选自包括置信度、准确率、精确率、被召回率、F1分数、返回速度、业务场景以及业务内容中的至少一项。

在一实施例中，以预设的结果作为仲裁策略。预设的结果策略意味着一旦某处理引擎返回的结果符合了预先设定的情况，则采用处理引擎的处理结果文件进入下一步的流程。

例如在一个NLU处理引擎的仲裁中，接入了多个待选处理引擎。其中，第一处理引擎对“导航”这一意图领域判断最好。因此，具体的仲裁策略为：在多个处理引擎返回的结果中，如果第一处理引擎给出了“导航”的结果，则我们就采用第一处理引擎的处理结果文件来做下一步的处理。

需要说明的是，分发策略可以是多级策略或单级策略，仲裁策略也可以是多级策略或者单级策略。在返回结果的处理引擎数量为一个或设定数量的个数时，可以取消仲裁环节，直接使用返回的处理结果文件处理待处理任务。

在一实施例中，采用多个指标为优先下的结果的交集作为仲裁策略。实际操作中可以采用依次考虑相关指标的要求，通过多级仲裁逐步完成仲裁行为。

如下表所示，在达到某一速度要求的基础上精确率优先的实施例中，有第一处理引擎、第二处理引擎、第三处理引擎和第四处理引擎。

在这个仲裁策略中，有两级仲裁环节：

1.处理引擎的返回速度需要在300毫秒以内。

2.采用某个意图领域中某个精准率最高的处理引擎的返回结果作为最终采用的处理结果文件。

因此，经过仲裁环节1时，就会把不符合300毫秒要求的第一处理引擎和第二处理引擎的处理结果文件排除，剩下第三处理引擎和第四处理引擎返回的结果进入下一环节。

假如第三处理引擎返回的结果是“导航”领域，而第四处理引擎返回的也是“导航”，则采用准确率最高的第四处理引擎的结果作为处理结果文件。

需要说明的是，处理引擎可以设置在处理引擎选择装置中，也可以设置在云端服务器上。

第三方面，本发明还提供了一种计算机可读存储介质。

在一实施例中，计算机可读存储介质上存储有处理引擎选择程序，处理引擎选择程序在被计算机执行时，实现如上述的处理引擎选择方法。程序的处理过程与以上实施例相同，此处不再赘述。

本发明提供的处理引擎选择方法、装置及计算机可读存储介质，通过多线并行处理，可以对多个服务提供商提供的处理引擎进行灵活地仲裁选择，有效降低***复杂度，降低了调整成本。

在本文中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语的具体含义。

在本文中，用于描述元件的序列形容词“第一”、“第二”等仅仅是为了区别属性类似的元件，并不意味着这样描述的元件必须依照给定的顺序，或者时间、空间、等级或其它的限制。

在本文中，除非另有说明，“多个”、“若干”的含义是两个或两个以上。

本领域普通技术人员可以理解，实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储于一计算机可读取存储介质中，该程序在执行时，执行包括上述方法实施例的步骤。前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，除了包含所列的那些要素，而且还可包含没有明确列出的其他要素。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此。任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。

Claims (10)

1.一种处理引擎选择方法，其特征在于，包括：

获取待处理任务的文件；

按照分发策略将所述待处理任务的文件分发到至少一个处理引擎，以从所述至少一个处理引擎获取至少一个处理结果文件；

按照仲裁策略选择设定数量的处理结果文件以执行所述待处理任务。

2.如权利要求1所述的处理引擎选择方法，其特征在于，按照分发策略将所述待处理任务的文件分发到至少一个处理引擎，以从所述至少一个处理引擎获取至少一个处理结果文件的步骤包括：

按照第一分发策略将待处理任务的文件分发至默认处理引擎；

若未在设定时间内收到返回的处理结果文件，则按照第二分发策略将待处理任务的文件分发至备选处理引擎以获取处理结果文件。

3.如权利要求2所述的处理引擎选择方法，其特征在于，按照仲裁策略选择设定数量的返回处理结果文件的处理引擎以执行所述待处理任务的步骤包括：

将所述备选处理引擎设置为默认处理引擎。

4.如权利要求1所述的处理引擎选择方法，其特征在于，按照仲裁策略选择设定数量的返回处理结果文件的处理引擎以执行所述待处理任务的步骤之前包括：

获取包括时空状态以及用户状态中的至少一项以辅助分发和/或仲裁。

5.如权利要求4所述的处理引擎选择方法，其特征在于，所述时空状态包括时间、地点、天气、温度、方位以及周边环境中的至少一项；所述用户状态包括表情、语气、指向以及面部朝向中的至少一项。

6.一种处理引擎选择装置，其特征在于，包括依次连接的获取模块、分发模块和仲裁模块，其中：

所述获取模块用于获取待处理任务的文件并发送至所述分发模块；

所述分发模块用于按照分发策略将所述待处理任务的文件分发到至少一个处理引擎，以从所述至少一个处理引擎获取至少一个处理结果文件并发送至所述仲裁模块；

所述仲裁模块用于按照仲裁策略选择设定数量的返回处理结果文件以执行所述待处理任务。

7.如权利要求6所述的处理引擎选择装置，其特征在于，所述待处理任务的文件选自包括音频文件及图像文件中的至少一项。

8.如权利要求6所述的处理引擎选择装置，其特征在于，所述分发策略和/或仲裁策略的依据包括置信度、准确率、精确率、被召回率、F1分数、返回速度、业务场景以及业务内容中的至少一项。

9.如权利要求6所述的处理引擎选择装置，其特征在于，所述仲裁策略为多级仲裁策略，最后一级仲裁策略选择一个引擎返回的所述处理结果文件以执行所述待处理任务。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有处理引擎选择程序，所述处理引擎选择程序在被计算机执行时，实现如权利要求1-5任一项所述的处理引擎选择方法。

Images