CN114490681A - 服务请求响应方法、装置以及服务器集群 - Google Patents

Abstract

本发明公开了一种服务请求响应方法、装置以及服务器集群，该方法在接收到预设调用方发送的服务访问请求时，自主服务器以及各备份服务器中确定目标服务器；目标服务器中搭载有虚拟IP；通过虚拟IP将服务访问请求转发至目标服务器中，通过目标服务器确定服务访问请求的请求类型；根据请求类型确定目标服务接口；目标服务接口包括目标服务器所在的第一服务应用中的可用服务接口，和/或，非目标服务器所在的第二服务应用中的可用服务接口；通过目标服务器调用目标服务接口，得到接口调用结果，并将表征调用成功的接口调用结果对应的目标服务接口反馈至预设调用方。本发明提高了服务请求响应的效率，且保证了主服务器和备份服务器之间的数据一致性。

Description

服务请求响应方法、装置以及服务器集群

技术领域

本发明涉及服务请求响应技术领域，尤其涉及一种服务请求响应方法、装置以及服务器集群。

背景技术

目前，大部分***的数据库在进行如数据复制等过程均是通过主从同步的方式实现的，以使得数据可以从一个主服务器复制到其它从服务器中。在数据量较小时，通过主从同步的方式可以实现数据完整复制，但是在数据量较大时，主从同步的方式会出现数据丢失的情况，从而导致从服务器与主服务器之间的数据不一致。

发明内容

本发明实施例提供一种服务请求响应方法、装置以及服务器集群，以解决现有技术中的主从同步方法出现数据丢失，导致主服务器以及从服务器之间的数据不一致的问题。

一种服务请求响应方法，包括：

在接收到预设调用方发送的服务访问请求时，自所述主服务器以及各所述备份服务器中确定目标服务器；所述目标服务器中搭载有虚拟IP；

通过所述虚拟IP将所述服务访问请求转发至所述目标服务器中，并通过所述目标服务器确定所述服务访问请求的请求类型；

根据所述请求类型确定目标服务接口；所述目标服务接口包括目标服务器所在的第一服务应用中的可用服务接口，和/或，非目标服务器所在的第二服务应用中的可用服务接口；所述非目标服务器是指除所述目标服务器之外的主服务器和/或备份服务器；

通过所述目标服务器调用所述目标服务接口，得到接口调用结果，并将表征调用成功的接口调用结果对应的所述目标服务接口反馈至所述预设调用方。

一种服务请求响应装置，包括：

目标服务器确定模块，用于在接收到预设调用方发送的服务访问请求时，自主服务器以及各备份服务器中确定目标服务器；所述目标服务器中搭载有虚拟IP；

请求类型确定模块，用于通过所述虚拟IP将所述服务访问请求转发至所述目标服务器中，并通过所述目标服务器确定所述服务访问请求的请求类型；

服务接口确定模块，用于根据所述请求类型确定目标服务接口；所述目标服务接口包括目标服务器所在的第一服务应用中的可用服务接口，和/或，非目标服务器所在的第二服务应用中的可用服务接口；所述非目标服务器是指除所述目标服务器之外的主服务器和/或备份服务器；

接口调用模块，用于通过所述目标服务器调用所述目标服务接口，得到接口调用结果，并将表征调用成功的接口调用结果对应的所述目标服务接口反馈至所述预设调用方。

一种服务器集群，所述服务器集群包括主服务器以及至少一个备份服务器，所述主服务器以及所述至少一个备份服务器包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如上述服务请求响应方法。

一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述服务请求响应方法。

上述服务请求响应方法、装置以及服务器集群，通过在主服务器以及备份服务器中均设置有高可用双机热备，以在主服务器不处于服务正常状态时，可以将搭载在主服务器上的虚拟IP迁移至任意一个处于服务正常状态的备份服务器中，使得搭载虚拟IP的备份服务器可以代替主服务器执行如服务接口的选择、调用等操作。如此，实现了主服务器发生故障时，主服务器和备份服务器之间无缝交接，相对于需要优先对主服务器进行故障恢复后再执行服务请求响应操作，可以提高服务请求响应的效率，且主服务器和备份服务器之间的数据同步不会受到故障影响，从而保证了主服务器和备份服务器之间的数据一致性。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对本发明实施例的描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本发明一实施例中服务请求响应方法的一流程图；

图2是本发明一实施例中服务请求响应方法中步骤S40的一流程图；

图3是本发明一实施例中服务请求响应方法的另一流程图；

图4是本发明一实施例中服务请求响应装置的原理框图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

在一实施例中，如图1所示，提供一种服务请求响应方法，包括如下步骤：

S10：在接收到预设调用方发送的服务访问请求时，自主服务器以及各备份服务器中确定目标服务器；目标服务器中搭载有虚拟IP。

可以理解地，预设调用方可以为除主服务器和备份服务器所在的集群之外的其它集群。服务访问请求即表征了预设调用方的请求类型，如服务访问请求可以为数据查询请求、数据增加请求、数据删除请求以及数据更改请求，在本实施例中，根据主服务器和备份服务器所在的集群的数据是否会发生变化对请求类型划分为两类，其中一类是查询类型(包括上述数据查询请求)，另外一类是增删改类型(包括上述数据增加请求、数据删除请求以及数据更改请求)。

进一步地，目标服务器即为主服务器或者任意一个备份服务器。虚拟IP 即为公网虚拟IP，该虚拟IP用于转发服务访问请求。可以理解地，在本实施例中，虚拟IP预先固定搭载在主服务器上，若主服务器处于服务正常状态，也即该主服务器可以正常执行服务接口的选择、调用等步骤，则该主服务器即可作为目标服务器；若服务器不处于服务正常状态(如服务宕机状态)，则可以将该虚拟IP搭载至任意一个处于服务正常状态的备份服务器中，使得搭载该虚拟IP备份服务器作为目标服务器，并完成如服务接口的选择、调用等步骤，如此，即可实现当搭载虚拟IP的服务器(主服务器或者备份服务器) 发生故障时，可以快速将虚拟IP转移至其它处于服务正常状态的服务器中，降低了服务器发生故障对服务访问请求响应的影响，从而提高了服务访问请求响应的速率。

S20：通过虚拟IP将服务访问请求转发至目标服务器中，以通过目标服务器确定服务访问请求的请求类型。

具体地，在自主服务器以及各备份服务器中确定目标服务器之后，即可通过目标服务器中搭载的虚拟IP将服务访问请求转发至该目标服务器中，从而通过设置在目标服务器中的双主网关模块判定服务访问请求的请求类型。其中，双主网关模块即为deepeye-forward模块，该双主网络模块可以对服务访问请求进行字段解析，从而确定该服务访问请求的请求类型；可以理解地，在主服务器以及所有备份服务器中均设置有该双主网关模块，从而使得任意一个服务器(主服务器或者备份服务器)作为目标服务器时，均可以通过设置在其内部的双主网关模块对服务访问请求的请求类型进行快速判断。

S30：根据请求类型确定目标服务接口；目标服务接口包括目标服务器所在的第一服务应用中的可用服务接口，和/或，非目标服务器所在的第二服务应用中的可用服务接口；非目标服务器是指除目标服务器之外的主服务器和/ 或备份服务器。

可以理解地，在请求类型为查询请求类型时，预设调用方的目的是为了从服务器集群所关联的数据库中查询数据，因此只需要从目标服务器所在的第一服务应用中的可用服务接口，或者从非目标服务器所在的第二服务应用中的可用服务接口中选取一个可用服务接口作为目标服务接口即可。

在请求类型为增删改请求类型时，预设调用方的目的是为了调整服务器集群所关联的数据库中的数据(如增加数据、删除数据或者更改数据)，也即数据库中的数据会发生变化，因此需要将目标服务器所在的第一服务应用中的所有可用服务接口，以及非目标服务器所在的第二服务应用中的所有可用服务接口作为目标服务接口，如此即可保证针对一个为增删改请求类型的服务访问请求时，可以保持所有可用服务接口的一致性。

S40：通过目标服务器调用目标服务接口，得到接口调用结果，并将表征调用成功的接口调用结果对应的目标服务接口反馈至预设调用方。

可以理解地，接口调用结果可以为表征调用成功的接口调用结果，也可以为表征调用失败的接口调用结果。

具体地，在根据请求类型确定目标服务接口之后，通过目标服务器调用目标服务接口，得到与目标服务接口对应的接口调用结果，进而将表征调用成功的接口调用结果对应的目标服务接口反馈至预设调用方。

在请求类型为查询请求类型时，目标服务接口仅为一个，也即接口调用结果仅为一个，因此在该目标服务接口的接口调用结果表征调用成功时，直接将该接口调用结果反馈至预设调用方；在该目标服务接口的接口调用结果表征调用失败时，从可用服务列表中选取除目标服务接口之外的其它可用服务接口，并调用选取的该可用服务接口，并在该可用服务接口对应的接口调用结果表征调用成功时，将该可用服务接口反馈至预设调用方；

在请求类型为增删改请求类型时，目标服务接口可能存在多个，也即接口调用结果也可能存在多个。在所有的目标服务接口的接口调用结果表征调用成功时，将所有目标服务接口反馈至预设调用方；在部分的目标服务接口的接口调用结果表征调用成功，另一部分的目标服务接口的接口调用结果表征调用失败时，将表征调用成功的接口调用结果对应那一部分的目标服务接口全部反馈至预设调用方；在所有的目标服务接口的接口调用结果表征调用失败时，生成调用失败指令并将调用失败指令反馈至预设调用方。

本发明提出的服务请求响应方法可以应用在如社区人员登记场景、文件存储场景等。在一具体实施方式中，以服务请求响应方法应用在社区人员登记场景中为例。在社区人员登记场景下，需要将社区内拍摄的人像图片与社区的数据库内登记人像图片进行比较时，即可以采用上述服务请求响应方法。例如，可以搭载一个与社区的数据库关联的服务器集群；在需要获取数据库内登记人像图片时，即可向与社区的数据库关联的服务器集群发送查询请求类型的服务访问请求(如图片查询请求)，进而在该服务器集群根据该查询请求类型的服务访问请求反馈目标服务接口(该目标服务接口的接口调用结果表征调用成功)之后，即可通过该目标服务接口访问社区的数据库进行登记人像图片查询。

又例如，在社区管理人员需要添加新的社区人员(如住户)的登记人像图片，或者删除已离开该社区的社区人员(如原来住在该社区的住户)的登记人像图片，亦或者需要更改社区人员的登记人像图片时，即可向与社区的数据库关联的服务器集群发送增删改类型的服务访问请求(如图片增加请求、图片删除请求、图片修改请求)，进而在该服务器集群根据该增删改类型的服务访问请求反馈目标服务接口(该目标服务接口的接口调用结果表征调用成功)之后，即可通过该目标服务接口对社区的数据库进行如增加登记人像图片、删除登记人像图片或者修改登记人像图片等操作。可以理解地，服务器集群在反馈目标服务接口之前会赋予该目标服务接口与服务访问请求对应的权限(如查询权限，增加权限，删除权限，修改权限)等。

在本实施例中，主服务器或者备份服务器均存在作为目标服务器的可能性，也即在主服务器存在故障时，挂载虚拟IP的备份服务器可以作为目标服务器执行服务接口的选择、调用等操作，提高了服务请求响应的速率；在对服务访问请求的请求类型判断之后，根据不同的请求类型确定出相应的目标服务接口，如此提高了目标服务接口确定的准确率。

在一实施例中，步骤S10中，也即自主服务器以及各备份服务器中确定目标服务器，包括：

检测主服务器是否处于服务正常状态；主服务器中搭载有虚拟IP。

需要说明的是，在主服务器以及各备份服务器中均搭载有高可用双机热备，该高可用双机热备中搭载有nginx进程以及keepalived的高可靠性运行件。其中，nginx进程是一种基于Master+Slave(worker)的多进程模型。在keepalived 中存在一个VRRP(VirtualRouter Redundancy Protocol，虚拟路由冗余协议) 模块，该VRRP模块用于实现vrrp协议，也即该VRRP模块将主服务器和各备份服务器组成一个路由器组，并且在主服务器中搭载有虚拟IP，以使得该主服务器在处于服务正常状态时，作为目标服务器执行如服务接口的选择、调用等操作；并且主服务器中的keepalived会检测nginx进程的状态，例如发送组播信息，若各备份服务器在一定时间内未接收到主服务器发送的组播信息时，则认为主服务器不处于服务正常状态(如服务宕机状态)；若各备份服务器在一定时间内可以接收到主服务器发送的组播信息时，则认为主服务器处于服务正常状态。

在主服务器处于服务正常状态时，将主服务器记录为目标服务器。

具体地，在检测主服务器是否处于服务正常状态之后，若主服务器处于服务正常状态，则该主服务器作为目标服务器执行如服务接口的选择、调用等操作。

在主服务器不处于服务正常状态时，将虚拟IP转移至任意一个处于服务正常状态的备份服务器中，并将搭载有虚拟IP的备份服务器记录为目标服务器。

具体地，在检测主服务器是否处于服务正常状态之后，若主服务器不处于服务正常状态，也即如主服务器处于服务宕机状态时，检测各备份服务器是否处于服务正常状态，进而可以将虚拟IP转移至任意一个备份服务器中，并且搭载有虚拟IP的备份服务器即作为目标服务器执行如服务接口的选择、调用等操作。

进一步地，在选取处于服务正常状态的备份服务器时，还可以根据各备份服务器的优先级进行选取，该优先级可以预先分配至各服务器(包括主服务器以及各备份服务器)，主服务器的优先级是最高的，备份服务器的优先级均低于主服务器的优先级，且可能存在优先级相同的备份服务器。因此，可以选取优先级最高的且处于服务正常状态的备份服务器作为目标服务器，若存在两个或者两个以上备份服务器的优先级相同，则可以获取各备份服务器的IP地址，将IP地址最大的、优先级最高的且处于服务正常状态的备份服务器作为目标服务器。

在本实施例中，通过在主服务器以及备份服务器中均设置有高可用双机热备，以在主服务器不处于服务正常状态时，可以将搭载在主服务器上的虚拟IP迁移至任意一个处于服务正常状态的备份服务器中，使得搭载虚拟IP的备份服务器可以代替主服务器执行如服务接口的选择、调用等操作。如此，实现了主服务器发生故障时，主服务器和备份服务器之间无缝交接，相对于需要优先对主服务器进行故障恢复后再执行服务请求响应操作，可以提高服务请求响应的效率，且主服务器和备份服务器之间的数据同步不会受到故障影响，从而保证了主服务器和备份服务器之间的数据一致性。

在一实施例中，目标服务器中设置有双主网关模块；步骤S20中，也即通过目标服务器确定服务访问请求的请求类型，包括：

通过双主网关模块对服务访问请求进行字段解析，得到与服务访问请求对应的访问请求字段。

具体地，在通过虚拟IP将服务访问请求转发至目标服务器之后，通过双主网关模块对服务访问请求进行字段解析，从而得到与服务访问请求对应的访问请求字段，也即解析出服务访问请求中的url(Uniform Resource Locator，统一资源***)信息。

在访问请求字段为表征数据查询请求的字段时，确定请求类型为查询类型。

具体地，在通过双主网关模块对服务访问请求进行字段解析，得到与服务访问请求对应的访问请求字段之后，例如确定访问请求字段中是否包含如“select”等字段信息，若该访问请求字段中包含如“select”等字段信息，则确定该服务访问请求为数据查询请求，进而确定服务访问请求的请求类型为查询类型。

在访问请求字段为表征数据增加请求、数据删除请求、数据更改请求中任意一种请求的字段时，确定请求类型为增删改类型。

具体地，在通过双主网关模块对服务访问请求进行字段解析，得到与服务访问请求对应的访问请求字段之后，例如确定访问请求字段中是否包含如“update”字段信息，若访问请求字段中包含如“update”字段信息，则确定该服务访问请求为数据更新请求，其中，数据更新请求可以为数据增加请求、数据删除请求、数据更改请求；在确定访问请求字段为数据更新请求时，确定服务访问请求的请求类型为增删改类型。

进一步地，本实施例中，即可以将(select，update)请求类型绑定在与服务请求响应***关联的数据库上，进而在接收到服务访问请求时，即可获取该服务访问请求的url信息，从而根据该url信息确定服务访问请求的请求类型。若服务访问请求既不是查询类型，也不是增删改类型，则确定该服务访问请求为非法请求。

在本实施例中，通过在主服务器和各备份服务器中均设置双主网关模块，可以通过双主网关模块对服务访问请求的请求类型进行快速且准确地判断，进而提高了服务请求响应的效率。

在一实施例中，步骤S30中，也即根据请求类型确定目标服务接口，包括：

自第一服务应用和第二服务应用中确定可用服务列表；可用服务列表中包括至少一个可用服务接口。

可以理解地，在第一服务应用以及第二服务应用中均存在若干服务接口，但是并不是所有的服务接口都是可用服务接口，在该服务接口对应的服务队列中若不存在任何数据(不存在待处理或者正在处理的服务请求)时，该服务接口即为可用服务接口。若在服务接口对应的服务队列中存在待处理或者正在处理的服务请求时，则该服务接口为不可用服务接口。可用服务列表即为包括第一服务应用和所有第二服务应用中的可用服务接口的列表。

在请求类型为查询类型时，通过预设接口选取策略自可用服务列表中的所有可用服务接口中选取一个可用服务接口，并将选取的可用服务接口记录为目标服务接口。

具体地，在自第一服务应用和第二服务应用中确定可用服务列表之后，通过预设接口选取策略从服务列表中的所有可用服务接口中选取一个可用服务接口，并将选取的可用服务接口记录为目标服务接口。其中，预设接口选取策略包括轮询接口选取策略、随机接口选取策略、权重接口选取策略以及调用时间接口选取策略。

进一步地，在预设接口选取策略为轮询接口选取策略时，可以从可用服务列表中选取第一个可用服务接口作为目标服务接口，进而在下一次接收到另一为查询请求类型的服务访问请求时，选取可用服务列表中第二个可用服务接口作为目标服务接口，如此类推；

进一步地，在预设接口选取策略为随机接口选取策略时，可以从可用服务列表中随机选取一个可用服务接口作为目标服务接口；

进一步地，在预设接口选取策略为权重接口选取策略时，首先确认每一个可用服务接口的被调用概率，该被调用概率是可用服务接口对应的权重与所有服务接口的权重之和的商，进而选取被调用概率最高的可用服务接口作为目标服务接口；

进一步地，在预设接口选取策略为调用时间接口选取策略时，首先获取每一个可用服务接口的接口返回时间，进而选取接口返回时间最短的可用服务接口作为目标服务接口。其中，接口返回时间可以通过调用每一个可用服务接口的心跳接口，并保留每一个心跳接口的调用时间，从而将该调用时间作为该可用服务接口的接口返回时间。

在请求类型为增删改类型时，将可用服务列表中所有可用服务接口记录为目标服务接口。

具体地，在自第一服务应用和第二服务应用中确定可用服务列表之后，若请求类型为增删改类型，为了保证针对一个为增删改请求类型的服务访问请求时，保持所有可用服务接口的一致性，因此需要将可用服务列表中的所有可用服务接口记录为目标服务接口。

在本实施例中，在请求类型为查询类型时，可以通过不同的预设接口选取策略从可用服务列表中选取一个可用服务接口，提高了可用服务接口选取的适用性，并且通过预设接口选取策略可以使得每一个可用服务接口均有被选取的可能，也即平衡了每一个服务接口的处理量，从而提高了服务访问请求响应的速度；在请求类型为增删改类型时，通过将可用服务列表中的每一个可用服务接口均作为目标服务接口，如此可以通过调用所有的可用服务接口的方式，使得接口调用的成功率较高，并且可以保持所有可用服务接口的一致性，提高服务接口调用的准确率。

在一实施例中，如图2所示，步骤S40中，也即通过目标服务器调用目标服务接口，得到接口调用结果，包括：

S401：在请求类型为增删改类型时，获取与各目标服务接口对应的服务 IP。

可以理解地，在主服务器和备份服务器中的每一个服务接口均存在一个对应的服务IP(Internet Protocol Address，互联网协议地址)地址。

S402：根据服务IP获取与各目标服务接口对应的请求失败队列，并检测各请求失败队列中是否存在请求失败信息。

可以理解地，在主服务器和备份服务器中的每一个服务接口均存在一个对应的请求失败队列，该请求失败队列用于存储表征调用失败的接口调用结果对应的服务访问请求，也即在目标服务接口的接口调用结果表征调用失败时，即将此次调用执行的服务访问请求添加至该请求失败队列中。

可以理解地，在一个服务访问请求对应的接口调用结果表征调用成功时，该服务访问请求不会被添加至请求失败队列中；该请求失败队列中可能包含至少一个请求失败信息，也可能不包含请求失败信息；当请求失败队列中包含至少一个请求失败信息时，该请求失败队列对应的服务接口会转换为不可用服务接口(需要说明的是，即使在请求失败队列中包含请求失败信息，该目标服务接口在前序步骤中仍被视为可用服务接口是因为，请求失败信息暂时未被调用，也即该目标服务接口中没有正在处理的访问请求)；当请求失败队列中不包含请求失败信息时，该请求失败队列对应的服务接口会转换为可用服务接口。进一步地，请求失败信息即为接口调用结果表征调用失败的服务访问请求对应的信息。

S403：将存在请求失败信息的请求失败队列记录为待***队列，并将服务访问请求***至待***队列中所包含的所有请求失败信息之后。

具体地，在根据服务IP获取与各目标服务接口对应的请求失败队列，并检测各请求失败队列中是否存在请求失败信息之后，若请求失败队列中包含请求失败信息，则将存在请求失败信息的请求失败队列记录为待***队列，并将服务访问请求***至待***队列中所包含的所有请求失败信息之后。例如，假设一个请求失败队列中包括三个请求失败信息，则将该服务访问请求***至第三个请求失败信息之后。需要说明的，将服务访问请求***至待***队列时，可以将服务访问请求的请求信息***至该待***队列中。

S404：在服务访问请求在待***队列中排序第一时，通过目标服务器调用与该待***队列对应的目标服务接口，得到与该目标服务接口对应的接口调用结果。

可以理解地，在请求类型为增删改请求类型时，为了保证针对一个为增删改请求类型的服务访问请求时，保持所有可用服务接口的一致性，因此需要根据待***队列中的所有请求失败信息，使得与该待***队列对应的目标服务接口均调用成功，进而在服务访问请求在待***队列中排序第一时，此时表征待***队列中的所有请求失败信息均使得与该待***队列对应的目标服务接口均调用成功，进而可以通过目标服务器调用与该待***队列对应的目标服务接口，得到与该目标服务接口对应的接口调用结果。

在一实施例中，检测各请求失败队列中是否存在请求失败信息之后，还包括：

将不存在请求失败信息的请求失败队列对应的目标服务接口记录为待调用服务接口。

具体地，在检测各请求失败队列中是否存在请求失败信息之后，若请求失败队列中不包含请求失败信息，则表征请求失败队列为空，进而将不存在请求失败信息的请求失败队列对应的目标服务接口记录为待调用服务接口。

通过目标服务器调用待调用服务接口，得到与待调用服务接口对应的接口调用结果。

具体地，在将不存在请求失败信息的请求失败队列对应的目标服务接口记录为待调用服务接口之后，由于该待调用服务接口的请求失败队列中不存在请求失败信息，因此服务访问请求在待***队列中排序第一，通过目标服务器调用待调用服务接口，得到与待调用服务接口对应的接口调用结果。

在本实施例中，当请求类型为增删改请求类型时，判定目标服务接口的请求失败队列中是否包含请求失败信息，并在请求失败队列包含请求失败信息时，优先执行与请求失败信息对应的接口调用操作，从而在排序在服务访问请求之前的所有请求失败信息都请求成功时，执行与服务访问请求对应的接口调用操作，如此即可保持所有可用服务接口的一致性，使得各服务器之间数据相同，从而提高了服务请求响应的准确性；在请求失败队列不包含请求失败信息时，直接执行与服务访问请求对应的接口调用操作，如此即可避免服务访问请求一直处于等待请求状态，从而提高了服务请求响应的效率。

在一实施例中，步骤S40之后，也即通过目标服务器调用目标服务接口，得到接口调用结果之后，还包括：

在请求类型为增删改类型时，将表征调用失败的接口调用结果对应的目标服务接口记录为调用失败接口。

具体地，在请求类型为增删改类型时，当通过目标服务器调用目标服务接口，得到接口调用结果之后，若接口调用结果表征调用失败，则表征该服务访问请求在该表征调用失败的接口调用结果对应的目标服务接口中请求失败，从而将表征调用失败的接口调用结果对应的目标服务接口记录为调用失败接口。

获取与调用失败接口对应的请求失败队列，并将服务访问请求记录为请求失败信息***至该请求失败队列中所包含的所有请求失败信息之后。

具体地，在将表征调用失败的接口调用结果对应的目标服务接口记录为调用失败接口之后，获取与调用失败接口对应的请求失败队列，并将服务访问请求记录为请求失败信息，***至该请求失败队列中所包含的所有请求失败信息之后。如在该请求失败队列包括请求失败信息，则将服务访问请求对应的请求失败信息***至最后一个请求失败信息之后；如在该请求失败队列中不包括请求失败信息时，服务访问请求对应的请求失败信息则处于该请求失败队列中的第一位。

将调用失败接口从可用服务列表中删除，并将调用失败接口添加至不可用服务列表中。

具体地，将服务访问请求记录为请求失败信息***至该请求失败队列中所包含的所有请求失败信息之后之后，将调用失败接口从可用服务列表中删除，并将调用失败接口添加至不可用服务列表中。

在一实施例中，如图3所示，将调用失败接口从可用服务列表中删除，并将调用失败接口添加至不可服务列表中之后，还包括：

S01：获取调用失败接口的请求失败队列，并将该请求失败队列记录为待更新队列。

具体地，在将调用失败接口从可用服务列表中删除，并将调用失败接口添加至不可服务列表中之后，获取调用失败接口的请求失败队列，并将该请求失败队列记录为待更新队列。

S02：将待更新队列中排序第一的请求失败信息记录为待调用信息，并根据待调用信息调用调用失败接口，得到更新调用结果。

具体地，在获取调用失败接口的请求失败队列，并将该请求失败队列记录为待更新队列之后，将待更新队列中排序第一的请求失败信息记录为待调用信息，并根据待调用信息调用该调用失败接口，得到更新调用结果，如此通过再次调用该调用失败接口执行与待更新队列中排序第一的请求失败信息对应的请求，若该更新调用结果表征调用成功，则该调用失败接口与其它针对该排序第一的请求失败信息时接口调用结果表征调用成功的服务接口的数据保持一致性。

S03：在更新调用结果表征调用成功时，自待更新队列中删除待调用信息，并检测待更新队列中是否还包括请求失败信息。

具体地，在根据待调用信息调用调用失败接口，得到更新调用结果之后，若更新调用结果表征调用成功，则可以从待更新队列中删除待调用信息，并检测待更新队列中是否还包括请求失败信息。若更新调用结果表征调用失败，则定时继续根据该待调用信息调用该调用失败接口，直至该待调用信息对应的调用结果表征调用成功时，从待更新队列中删除待调用信息。

S04：在待更新队列中不包括请求失败信息时，将与待更新队列对应的调用失败接口从不可用服务列表中删除，并将调用失败接口添加至可用服务列表中。

具体地，在检测待更新队列中是否还包括请求失败信息之后，若待更新队列中不包括请求失败信息，则表征该待更新队列中没有需要继续执行接口调用操作的请求，也即该待更新队列对应的调用失败接口中没有任何请求数据，进而可以将与待更新队列对应的调用失败接口从不可用服务列表中删除，并将调用失败接口添加至可用服务列表中。

在本实施例中，在接口调用结果表征调用失败时，将服务访问请求添加至请求失败队列中，并执行请求失败队列中所有请求失败信息对应的接口调用操作，以使得请求失败队列中的所有请求失败信息均请求成功，也即所有请求失败信息对应的接口调用结果均表征调用成功时，将调用失败接口从不可用服务列表中删除，并将调用失败接口添加至可用服务列表中，如此即可保持所有服务接口的数据一致性，提高了服务请求响应的准确性。

应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。

在一实施例中，如图4所示，提供一种服务请求响应装置，该服务请求响应装置与上述实施例中服务请求响应方法一一对应包括：

目标服务器确定模块10，用于在接收到预设调用方发送的服务访问请求时，自主服务器以及各备份服务器中确定目标服务器；所述目标服务器中搭载有虚拟IP；

请求类型确定模块20，用于通过所述虚拟IP将所述服务访问请求转发至所述目标服务器中，并通过所述目标服务器确定所述服务访问请求的请求类型；

服务接口确定模块30，用于根据所述请求类型确定目标服务接口；所述目标服务接口包括目标服务器所在的第一服务应用中的可用服务接口，和/或，非目标服务器所在的第二服务应用中的可用服务接口；所述非目标服务器是指除所述目标服务器之外的主服务器和/或备份服务器；

接口调用模块40，用于通过所述目标服务器调用所述目标服务接口，得到接口调用结果，并将表征调用成功的接口调用结果对应的所述目标服务接口反馈至所述预设调用方。

优选地，目标服务器确定模块包括：

服务状态检测单元，用于检测所述主服务器是否处于服务正常状态；所述主服务器中搭载有所述虚拟IP；

第一服务器确定单元，用于在所述主服务器处于服务正常状态时，将所述主服务器记录为所述目标服务器；

第二服务器确定单元，用于在所述主服务器不处于服务正常状态时，将所述虚拟IP转移至任意一个处于服务正常状态的备份服务器中，并将搭载有所述虚拟IP的备份服务器记录为所述目标服务器。

优选地，所述目标服务器中设置有双主网关模块；请求类型确定模块20 包括：

字段解析单元，用于通过所述双主网关模块对所述服务访问请求进行字段解析，得到与所述服务访问请求对应的访问请求字段；

查询类型确定单元，用于在所述访问请求字段为表征数据查询请求的字段时，确定所述请求类型为查询类型；

增删改类型确定单元，用于在所述访问请求字段为表征数据更新请求的字段时，确定所述请求类型为增删改类型。

优选地，服务接口确定模块30包括：

可用服务列表确定单元，用于自所述第一服务应用和所述第二服务应用中确定可用服务列表；所述可用服务列表中包括至少一个可用服务接口；

第一服务接口选取单元，用于在所述请求类型为查询类型时，通过预设接口选取策略自所述可用服务列表中的所有可用服务接口中选取一个可用服务接口，并将选取的可用服务接口记录为所述目标服务接口；所述预设接口选取策略包括轮询接口选取策略、随机接口选取策略、权重接口选取策略以及调用时间接口选取策略。

第二服务接口选取单元，用于在所述请求类型为增删改类型时，将所述可用服务列表中所有所述可用服务接口记录为所述目标服务接口。

优选地，接口调用模块40包括：

服务IP获取单元，用于在所述请求类型为增删改类型时，获取与各所述目标服务接口对应的服务IP；

请求失败信息检测单元，用于根据所述服务IP获取与各所述目标服务接口对应的请求失败队列，并检测各所述请求失败队列中是否存在请求失败信息；

信息***单元，用于将存在请求失败信息的请求失败队列记录为待***队列，并将所述服务访问请求***至所述待***队列中所包含的所有请求失败信息之后；

第一接口调用单元，用于在所述服务访问请求在所述待***队列中排序第一时，通过所述目标服务器调用与该待***队列对应的目标服务接口，得到与该目标服务接口对应的接口调用结果。

优选地，接口调用模块40还包括：

接口记录单元，用于将不存在请求失败信息的请求失败队列对应的目标服务接口记录为待调用服务接口；

第二接口调用单元，用于通过所述目标服务器调用所述待调用服务接口，得到与所述待调用服务接口对应的接口调用结果。

优选地，服务请求装置还包括：

接口记录模块，用于在所述请求类型为增删改类型时，将表征调用失败的接口调用结果对应的所述目标服务接口记录为调用失败接口；

请求***模块，用于获取与所述调用失败接口对应的请求失败队列，并将所述服务访问请求记录为请求失败信息***至该请求失败队列中；

第一接口状态更新模块，用于将所述调用失败接口从可用服务列表中删除，并将所述调用失败接口添加至不可用服务列表中。

优选地，服务请求装置还包括：

队列记录模块，用于获取所述调用失败接口的请求失败队列，并将该请求失败队列记录为待更新队列；

接口重新调用模块，用于将所述待更新队列中排序第一的请求失败信息记录为待调用信息，并根据所述待调用信息调用所述调用失败接口，得到更新调用结果；

队列信息更新模块，用于在所述更新调用结果表征调用成功时，自所述待更新队列中删除所述待调用信息，并检测所述待更新队列中是否还包括请求失败信息；

第二接口状态更新模块，用于在所述待更新队列中不包括请求失败信息时，将与待更新队列对应的所述调用失败接口从不可用服务列表中删除，并将所述调用失败接口添加至可用服务列表中。

在一实施例中，提供一种服务器集群，该服务器集群包括主服务器以及至少一个备份服务器等计算机设备。该计算机设备包括通过***总线连接的处理器、存储器、网络接口和数据库。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作***、计算机程序和数据库。该内存储器为非易失性存储介质中的操作***和计算机程序的运行提供环境。该计算机设备的数据库用于存储上述实施例中的图像聚类方法所使用到的数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种服务请求响应方法。

进一步地，主服务器与各备份服务器中设置有高可用双机热备，该高可用双机热备中搭载有nginx进程以及keepalived的高可靠性运行件，通过该高可靠性运行件即可判断出主服务器是否处于服务正常状态，并在主服务器不处于服务正常状态时，通过将主服务器中搭载的虚拟IP迁移至其它处于服务正常状态的备份服务器中，以使得服务访问请求不会被中断，从而提高服务访问请求的效率。

进一步地，主服务器与各备份服务器中还设置有双主网关模块，双主网关模块即为deepeye-forward模块，该双主网络模块可以对服务访问请求进行字段解析，从而确定该服务访问请求的请求类型。

进一步地，主服务器和备份服务器之间通过redis缓存数据共享，也即所有服务应用中的服务接口的URL信息和服务器应用信息、请求失败信息都存放在redis当中，实现数据共享。

在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述实施例中的服务请求响应方法。

本领域普通技术人员可以理解实现上述实施例服务请求响应方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM (EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态 RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink) DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM) 等。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。

以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

Claims (10)

1.一种服务请求响应方法，其特征在于，所述服务请求响应方法应用于服务器集群中，所述服务器集群中包括主服务器以及至少一个备份服务器；所述服务请求响应方法包括：

在接收到预设调用方发送的服务访问请求时，自所述主服务器以及各所述备份服务器中确定目标服务器；所述目标服务器中搭载有虚拟IP；

通过所述虚拟IP将所述服务访问请求转发至所述目标服务器中，并通过所述目标服务器确定所述服务访问请求的请求类型；

根据所述请求类型确定目标服务接口；所述目标服务接口包括目标服务器所在的第一服务应用中的可用服务接口，和/或，非目标服务器所在的第二服务应用中的可用服务接口；所述非目标服务器是指除所述目标服务器之外的主服务器和/或备份服务器；

通过所述目标服务器调用所述目标服务接口，得到接口调用结果，并将表征调用成功的接口调用结果对应的所述目标服务接口反馈至所述预设调用方。

2.如权利要求1所述的服务请求响应方法，其特征在于，所述自所述主服务器以及各所述备份服务器中确定目标服务器，包括：

检测所述主服务器是否处于服务正常状态；所述主服务器中搭载有所述虚拟IP；

在所述主服务器处于服务正常状态时，将所述主服务器记录为所述目标服务器；

在所述主服务器不处于服务正常状态时，将所述虚拟IP转移至任意一个处于服务正常状态的备份服务器中，并将搭载有所述虚拟IP的备份服务器记录为所述目标服务器。

3.如权利要求1所述的服务请求响应方法，其特征在于，所述目标服务器中设置有双主网关模块；所述通过所述目标服务器确定所述服务访问请求的请求类型，包括：

通过所述双主网关模块对所述服务访问请求进行字段解析，得到与所述服务访问请求对应的访问请求字段；

在所述访问请求字段为表征数据查询请求的字段时，确定所述请求类型为查询类型；

在所述访问请求字段为表征数据更新请求的字段时，确定所述请求类型为增删改类型。

4.如权利要求1所述的服务请求响应方法，其特征在于，所述根据所述请求类型确定目标服务接口，包括：

自所述第一服务应用和所述第二服务应用中确定可用服务列表；所述可用服务列表中包括至少一个可用服务接口；

在所述请求类型为查询类型时，通过预设接口选取策略自所述可用服务列表中的所有可用服务接口中选取一个可用服务接口，并将选取的可用服务接口记录为所述目标服务接口；

在所述请求类型为增删改类型时，将所述可用服务列表中所有所述可用服务接口记录为所述目标服务接口。

5.如权利要求4所述的服务请求响应方法，其特征在于，所述预设接口选取策略包括轮询接口选取策略、随机接口选取策略、权重接口选取策略以及调用时间接口选取策略。

6.如权利要求1所述的服务请求响应方法，其特征在于，所述通过所述目标服务器调用所述目标服务接口，得到接口调用结果，包括：

在所述请求类型为增删改类型时，获取与各所述目标服务接口对应的服务IP；

根据所述服务IP获取与各所述目标服务接口对应的请求失败队列，并检测各所述请求失败队列中是否存在请求失败信息；

将存在请求失败信息的请求失败队列记录为待***队列，并将所述服务访问请求***至所述待***队列中所包含的所有请求失败信息之后；

在所述服务访问请求在所述待***队列中排序第一时，通过所述目标服务器调用与该待***队列对应的目标服务接口，得到与该目标服务接口对应的接口调用结果。

7.如权利要求6所述的服务请求响应方法，其特征在于，所述检测各所述请求失败队列中是否存在请求失败信息之后，还包括：

将不存在请求失败信息的请求失败队列对应的目标服务接口记录为待调用服务接口；

通过所述目标服务器调用所述待调用服务接口，得到与所述待调用服务接口对应的接口调用结果。

8.如权利要求1所述的服务请求响应方法，其特征在于，所述通过所述目标服务器调用所述目标服务接口，得到接口调用结果之后，还包括：

在所述请求类型为增删改类型时，将表征调用失败的接口调用结果对应的所述目标服务接口记录为调用失败接口；

获取与所述调用失败接口对应的请求失败队列，并将所述服务访问请求记录为请求失败信息***至该请求失败队列中；

将所述调用失败接口从可用服务列表中删除，并将所述调用失败接口添加至不可用服务列表中。

9.一种服务请求响应装置，其特征在于，包括：

目标服务器确定模块，用于在接收到预设调用方发送的服务访问请求时，自主服务器以及各备份服务器中确定目标服务器；所述目标服务器中搭载有虚拟IP；

请求类型确定模块，用于通过所述虚拟IP将所述服务访问请求转发至所述目标服务器中，并通过所述目标服务器确定所述服务访问请求的请求类型；

服务接口确定模块，用于根据所述请求类型确定目标服务接口；所述目标服务接口包括目标服务器所在的第一服务应用中的可用服务接口，和/或，非目标服务器所在的第二服务应用中的可用服务接口；所述非目标服务器是指除所述目标服务器之外的主服务器和/或备份服务器；

接口调用模块，用于通过所述目标服务器调用所述目标服务接口，得到接口调用结果，并将表征调用成功的接口调用结果对应的所述目标服务接口反馈至所述预设调用方。

10.一种服务器集群，其特征在于，所述服务器集群包括主服务器以及至少一个备份服务器，所述主服务器以及所述至少一个备份服务器包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至8任一项所述服务请求响应方法。

Images