CN115525411A - 处理业务请求的方法、装置、电子设备和计算机可读介质 - Google Patents

处理业务请求的方法、装置、电子设备和计算机可读介质 Download PDF

Info

Publication number
CN115525411A
CN115525411A CN202211087421.3A CN202211087421A CN115525411A CN 115525411 A CN115525411 A CN 115525411A CN 202211087421 A CN202211087421 A CN 202211087421A CN 115525411 A CN115525411 A CN 115525411A
Authority
CN
China
Prior art keywords
thread
queue
service request
monitoring
interrupt
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211087421.3A
Other languages
English (en)
Inventor
王梦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
CCB Finetech Co Ltd
Original Assignee
CCB Finetech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CCB Finetech Co Ltd filed Critical CCB Finetech Co Ltd
Priority to CN202211087421.3A priority Critical patent/CN115525411A/zh
Publication of CN115525411A publication Critical patent/CN115525411A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G06F9/4887—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues involving deadlines, e.g. rate based, periodic
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4812—Task transfer initiation or dispatching by interrupt, e.g. masked
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/5038—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/04—Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/5011—Pool
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/5018—Thread allocation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Development Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Technology Law (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明公开了处理业务请求的方法、装置、电子设备和计算机可读介质，涉及任务调度技术领域。该方法的一具体实施方式包括：接收业务请求，所述业务请求携带每秒查询率阈值和超时时长；计算当前的每秒查询率，判断所述当前的每秒查询率是否超过所述每秒查询率阈值；若否，则创建处理所述业务请求的线程，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列；判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断。该实施方式能够解决无法主动中断交易或者由于将业务线程切换到其他线程池导致***性能下降的技术问题。

Description

处理业务请求的方法、装置、电子设备和计算机可读介质
技术领域
本发明涉及任务调度技术领域，尤其涉及一种处理业务请求的方法、装置、电子设备和计算机可读介质。
背景技术
在java web***中，当和多个***进行数据交换或者编码有问题时，可能导致交易的耗时显著高于正常情况的耗时，如果对超时的线程不及时中断，在高并发的情况下，将会导致后续的正常交易阻塞，进而可能导致整个***阻塞，无法继续处理其他交易。在javaweb***中，***都会向外暴露多个接口或者端点，如果某支高频的交易出现了堵塞，那么该交易将可能耗尽服务器的线程资源，从而导致其他与之无关的交易也出现阻塞或不可用的情况。
在实现本发明过程中，发明人发现现有技术中至少存在如下问题：
不具有交易超时中断的***：当出现交易超时的情况，不能主动中断交易，只是在交易完成后进行超时交易的统计，当交易超时状态时，很有可能该接口的后续交易也都将超时，这些超时或者挂起的交易将会占用***资源得不到释放，用户请求也得不到及时响应；
具有交易超时中断的***：需要将业务线程切换到其他线程池，涉及到多线程的上下文切换，***性能下降；并且将交易的上下文切换到其他线程需要复杂的编码实现，增加了开发和测试的复杂度。
发明内容
有鉴于此，本发明实施例提供一种处理业务请求的方法、装置、电子设备和计算机可读介质，以解决无法主动中断交易或者由于将业务线程切换到其他线程池导致***性能下降的技术问题。
为实现上述目的，根据本发明实施例的一个方面，提供了一种处理业务请求的方法，包括：
接收业务请求，所述业务请求携带每秒查询率阈值和超时时长；
计算当前的每秒查询率，判断所述当前的每秒查询率是否超过所述每秒查询率阈值；若否，则创建处理所述业务请求的线程，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列；
判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断。
可选地，在所述监控队列中，各个队列元素按照预计超时时间从早到晚的顺序依次排列。
可选地，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列，包括：
将当前时间与所述超时时长相加，得到所述线程的预计超时时间；
将所述线程的线程对象和所述预计超时时间封装为队列元素加入到监控队列中。
可选地，判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断，包括：
从所述监控队列的队首取出一个队列元素；
判断所述队列元素是否到达预计超时时间；若是，则删除所述队列元素，并向所述线程发出中断指令，以使所述线程中断。
可选地，向所述线程发出中断指令，以使所述线程中断，包括：
调用所述线程的interrupted()方法发出中断指令，以使所述线程中断。
可选地，判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断，还包括：
判断所述队列元素是否已经在预计超时时间之前已经处理完成所述业务请求；若是，则删除所述队列元素。
可选地，所述每秒查询率阈值和所述超时时长由终端或者上游***根据业务场景来确定。
另外，根据本发明实施例的另一个方面，提供了一种处理业务请求的装置，包括：
接收模块，用于接收业务请求，所述业务请求携带每秒查询率阈值和超时时长；
创建模块，用于计算当前的每秒查询率，判断所述当前的每秒查询率是否超过所述查询率阈值；若否，则创建处理所述业务请求的线程，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列；
监控模块，用于判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断。
可选地，在所述监控队列中，各个队列元素按照预计超时时间从早到晚的顺序依次排列。
可选地，所述创建模块还用于：
将当前时间与所述超时时长相加，得到所述线程的预计超时时间；
将所述线程的线程对象和所述预计超时时间封装为队列元素加入到监控队列中。
可选地，所述监控模块还用于：
从所述监控队列的队首取出一个队列元素；
判断所述队列元素是否到达预计超时时间；若是，则删除所述队列元素，并向所述线程发出中断指令，以使所述线程中断。
可选地，所述监控模块还用于：
调用所述线程的interrupted()方法发出中断指令，以使所述线程中断。
可选地，所述监控模块还用于：
判断所述队列元素是否已经在预计超时时间之前已经处理完成所述业务请求；若是，则删除所述队列元素。
可选地，所述每秒查询率阈值和所述超时时长由终端或者上游***根据业务场景来确定。
根据本发明实施例的另一个方面，还提供了一种电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行时，所述一个或多个处理器实现上述任一实施例所述的方法。
根据本发明实施例的另一个方面，还提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现上述任一实施例所述的方法。
根据本发明实施例的另一个方面，还提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现上述任一实施例所述的方法。
上述发明中的一个实施例具有如下优点或有益效果：因为采用如果当前的每秒查询率超过所述每秒查询率阈值，则创建线程并将线程封装为队列元素加入到监控队列，如果监控队列中存在处理超时的线程，则向线程发出中断指令，以使线程中断的技术手段，所以克服了现有技术中无法主动中断交易或者由于将业务线程切换到其他线程池导致***性能下降的技术问题。本发明实施例能够有效地阻断服务组件的异常蔓延，降低了***的雪崩式异常；能够有效地应对不同的网络情况下，对同一个交易的不同响应时长的控制；实时计算每秒查询率，避免了高并发情况下非常多的交易同时进入超时等待的阻塞状态，提高了***的可用性，也能更有效利用服务器资源；对业务逻辑无侵入，不会影响***正常处理。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。其中：
图1是根据本发明实施例的处理业务请求的方法的主要流程的示意图；
图2是根据本发明实施例的每秒请求数统计示意图；
图3是根据本发明一个可参考实施例的处理业务请求的方法的主要流程的示意图；
图4是根据本发明另一个可参考实施例的处理业务请求的方法的主要流程的示意图；
图5是根据本发明实施例的处理业务请求的装置的主要模块的示意图；
图6是本发明实施例可以应用于其中的示例性***架构图；
图7是适于用来实现本发明实施例的终端设备或服务器的计算机***的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
本申请技术方案中对数据的获取、存储、使用、处理等均符合国家法律法规的相关规定。
图1是根据本发明实施例的处理业务请求的方法的主要流程的示意图。作为本发明的一个实施例，如图1所示，所述处理业务请求的方法可以包括：
步骤101，接收业务请求，所述业务请求携带每秒查询率阈值和超时时长。
业务请求可以直接来自于终端，也可以由上游***传入，该业务请求中携带每秒查询率(QPS)阈值和超时时长。QPS(每秒的查询率)是对一个服务器在规定时间内所处理流量多少的衡量标准。
可选地，所述每秒查询率阈值和所述超时时长由终端或者上游***根据业务场景来确定。如果业务请求直接来自于终端，则由终端根据业务场景来决定每秒查询率阈值和超时时长；如果业务请求由上游***传入，可以由终端根据业务场景来决定每秒查询率阈值和超时时长，也可以由上游***根据业务场景来决定每秒查询率阈值和超时时长，本发明实施例对此不作限制。
可以预先配置各个业务场景与其对应的每秒查询率阈值的关联关系，以及各个业务场景与其对应的超时时长的对应关系，将这些对应关系存储在配置文件中，以便于通过业务场景匹配出对应的每秒查询率阈值和超时时长。
步骤102，计算当前的每秒查询率，判断所述当前的每秒查询率是否超过所述查询率阈值；若否，则执行步骤103；若是，则结束。
接收到终端或者上游***发送的业务请求之后，先计算出当前的每秒查询率(QPS)，然后判断当前的每秒查询率是否超过业务请求中携带的每秒查询率阈值，如果超过，则交易结束，如果没有超过，则继续执行步骤103。
举例来说，统计时长为2秒，将2秒均等分为100份；创建一个长度为100的数组a(a[i]表示第i+1个元素，i从0～99)；数组中的每个元素表示每20毫秒内的请求数量，如图2所示。比如a[0]表示第0～20毫秒的请求数，a[1]表示第20～40毫秒的请求数，以此类推；第3秒的统计数据将重复使用第1秒的50个元素。
当业务请求到达时，计算当前时间的毫秒数落在数组中的位置；如第1120毫秒的业务请求，它将会落在第56个位置，所以计算当前时间1秒内的QPS，就需要计算数组从第7个元素到第56个元素的统计和
Figure BDA0003835729930000071
步骤103，创建处理所述业务请求的线程，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列。
如果当前的每秒查询率没有超过业务请求中携带的每秒查询率阈值，则创建处理所述业务请求的线程，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列。其中，在所述监控队列中，各个队列元素按照预计超时时间从早到晚的顺序依次排列。
可选地，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列，包括：将当前时间与所述超时时长相加，得到所述线程的预计超时时间；将所述线程的线程对象和所述预计超时时间封装为队列元素加入到监控队列中。为了准确地判断出处理超时的线程，将当前时间与所述超时时长相加作为所述线程的预计超时时间，然后将所述线程的线程对象和所述预计超时时间封装为队列元素加入到监控队列中。
步骤104，判断所述监控队列中是否存在处理超时的线程；若是，则执行步骤105；若否，则结束。
根据线程的预计超时时间判断监控队列中是否存在处理超时的线程，如果存在，则执行步骤105；如果不存在，则结束。
步骤105，向所述线程发出中断指令，以使所述线程中断。
可选地，向所述线程发出中断指令，以使所述线程中断，包括：调用所述线程的interrupted()方法发出中断指令，以使所述线程中断。如果监控队列发现存在处理超时的线程，则调用监控队列中该线程的interrupted()方法发出中断指令，使正在运行状态或者等待状态的线程停止运行或者等待。业务线程在收到interrupted()指令时，会将当前线程中断，结束交易。
可选地，判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断，包括：从所述监控队列的队首取出一个队列元素；判断所述队列元素是否到达预计超时时间；若是，则删除所述队列元素，并向所述线程发出中断指令，以使所述线程中断。由于监控队列中的各个队列元素按照预计超时时间从早到晚的顺序依次排列，因此从监控队列的队首取出一个队列元素，判断所述队列元素是否到达预计超时时间；若是，则删除所述队列元素，并向所述线程发出中断指令，以使所述线程中断。
可选地，判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断，还包括：判断所述队列元素是否已经在预计超时时间之前已经处理完成所述业务请求；若是，则删除所述队列元素。除了判断所述队列元素是否到达预计超时时间，还需要判断所述队列元素是否已经在预计超时时间之前已经处理完成所述业务请求，若是，说明交易正常完成，则将所述队列元素从所述监控队列中移除，取消对当前交易的监控。
重复执行步骤104-步骤105，直到监控队列中不存在处理超时的队列元素。可选地，可以通过Java的ScheduledThreadPoolExecutor初始化一个监控线程池，启动监控线程池，并将监控队列加入到任务中，监控线程池每隔一段时间执行一次(执行步骤104-步骤105，直到监控队列中不存在处理超时的队列元素)。
根据上面所述的各种实施例，可以看出本发明实施例通过如果当前的每秒查询率超过所述每秒查询率阈值，则创建线程并将线程封装为队列元素加入到监控队列，如果监控队列中存在处理超时的线程，则向线程发出中断指令，以使线程中断的技术手段，解决了现有技术中无法主动中断交易或者由于将业务线程切换到其他线程池导致***性能下降的技术问题。本发明实施例能够有效地阻断服务组件的异常蔓延，降低了***的雪崩式异常；能够有效地应对不同的网络情况下，对同一个交易的不同响应时长的控制；实时计算每秒查询率，避免了高并发情况下非常多的交易同时进入超时等待的阻塞状态，提高了***的可用性，也能更有效利用服务器资源；对业务逻辑无侵入，不会影响***正常处理。
图3是根据本发明一个可参考实施例的处理业务请求的方法的主要流程的示意图。作为本发明的又一个实施例，如图3所示，所述处理业务请求的方法可以包括：
步骤301，接收业务请求，所述业务请求携带每秒查询率阈值和超时时长。
可选地，所述每秒查询率阈值和所述超时时长由终端或者上游***根据业务场景来确定。如果业务请求直接来自于终端，则由终端根据业务场景来决定每秒查询率阈值和超时时长；如果业务请求由上游***传入，可以由终端根据业务场景来决定每秒查询率阈值和超时时长，也可以由上游***根据业务场景来决定每秒查询率阈值和超时时长。
步骤302，计算当前的每秒查询率。
步骤303，判断所述当前的每秒查询率是否超过所述每秒查询率阈值；若否，则执行步骤304；若是，则结束。
接收到终端或者上游***发送的业务请求之后，先计算出当前的每秒查询率，然后判断当前的每秒查询率是否超过业务请求中携带的每秒查询率阈值，如果超过，则交易结束，如果没有超过，则继续执行步骤304-步骤306。
步骤304，创建处理所述业务请求的线程。
步骤305，将当前时间与所述超时时长相加，得到所述线程的预计超时时间。
步骤306，将所述线程的线程对象和所述预计超时时间封装为队列元素加入到监控队列中。其中，在所述监控队列中，各个队列元素按照预计超时时间从早到晚的顺序依次排列。
步骤307，判断所述监控队列中是否存在处理超时的线程；若是，则执行步骤308。
步骤308，调用所述线程的interrupted()方法发出中断指令，以使所述线程中断。
如果监控队列发现存在处理超时的线程，则调用监控队列中该线程的interrupted()方法发出中断指令，使正在运行状态或者等待状态的线程停止运行或者等待。业务线程在收到interrupted()指令时，会将当前线程中断，结束交易。
另外，在本发明一个可参考实施例中处理业务请求的方法的具体实施内容，在上面所述处理业务请求的方法中已经详细说明了，故在此重复内容不再说明。
图4是根据本发明另一个可参考实施例的处理业务请求的方法的主要流程的示意图。作为本发明的另一个实施例，如图4所示，所述处理业务请求的方法可以包括：
步骤401，接收业务请求，所述业务请求携带每秒查询率阈值和超时时长。
步骤402，计算当前的每秒查询率。
步骤403，判断所述当前的每秒查询率是否超过所述每秒查询率阈值；若否，则执行步骤404；若是，则结束。
步骤404，创建处理所述业务请求的线程，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列。
其中，在所述监控队列中，各个队列元素按照预计超时时间从早到晚的顺序依次排列。
步骤405，从所述监控队列的队首取出一个队列元素。
步骤406，判断所述队列元素是否到达预计超时时间；若是，则执行步骤407；若否，则执行步骤408。
步骤407，删除所述队列元素，并调用所述线程的interrupted()方法发出中断指令，以使所述线程中断。
由于监控队列中的各个队列元素按照预计超时时间从早到晚的顺序依次排列，因此从监控队列的队首取出一个队列元素，判断所述队列元素是否到达预计超时时间；若是，则删除所述队列元素，并调用所述线程的interrupted()方法发出中断指令，以使所述线程中断；若否，则继续执行步骤408。
步骤408，判断所述队列元素是否已经在预计超时时间之前已经处理完成所述业务请求；若是，则执行步骤409；若否，则结束。
步骤409，删除所述队列元素。
除了判断所述队列元素是否到达预计超时时间，还需要判断所述队列元素是否已经在预计超时时间之前已经处理完成所述业务请求，若是，说明交易正常完成，则将所述队列元素从所述监控队列中移除，取消对当前交易的监控。
重复执行步骤405-步骤409，直到监控队列中不存在处理超时的队列元素。
可选地，可以通过Java的ScheduledThreadPoolExecutor初始化一个监控线程池，启动监控线程池，并将监控队列加入到任务中，监控线程池每隔一段时间(比如每秒、每两秒、每三秒等)执行一次(执行步骤405-步骤409，直到监控队列中不存在处理超时的队列元素)。
另外，在本发明另一个可参考实施例中处理业务请求的方法的具体实施内容，在上面所述处理业务请求的方法中已经详细说明了，故在此重复内容不再说明。
图5是根据本发明实施例的处理业务请求的装置的主要模块的示意图。如图5所示，所述处理业务请求的装置500包括接收模块501、创建模块502和监控模块503；其中，接收模块501用于接收业务请求，所述业务请求携带每秒查询率阈值和超时时长；创建模块502用于计算当前的每秒查询率，判断所述当前的每秒查询率是否超过所述查询率阈值；若否，则创建处理所述业务请求的线程，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列；监控模块503用于判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断。
可选地，在所述监控队列中，各个队列元素按照预计超时时间从早到晚的顺序依次排列。
可选地，所述创建模块502还用于：
将当前时间与所述超时时长相加，得到所述线程的预计超时时间；
将所述线程的线程对象和所述预计超时时间封装为队列元素加入到监控队列中。
可选地，所述监控模块502还用于：
从所述监控队列的队首取出一个队列元素；
判断所述队列元素是否到达预计超时时间；若是，则删除所述队列元素，并向所述线程发出中断指令，以使所述线程中断。
可选地，所述监控模块502还用于：
调用所述线程的interrupted()方法发出中断指令，以使所述线程中断。
可选地，所述监控模块502还用于：
判断所述队列元素是否已经在预计超时时间之前已经处理完成所述业务请求；若是，则删除所述队列元素。
可选地，所述每秒查询率阈值和所述超时时长由终端或者上游***根据业务场景来确定。
需要说明的是，在本发明所述处理业务请求的装置的具体实施内容，在上面所述处理业务请求的方法中已经详细说明了，故在此重复内容不再说明。
图6示出了可以应用本发明实施例的处理业务请求的方法或处理业务请求的装置的示例性***架构600。
如图6所示，***架构600可以包括终端设备601、602、603，网络604和服务器605。网络604用以在终端设备601、602、603和服务器605之间提供通信链路的介质。网络604可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备601、602、603通过网络604与服务器605交互，以接收或发送消息等。终端设备601、602、603上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备601、602、603可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器605可以是提供各种服务的服务器，例如对用户利用终端设备601、602、603所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的物品信息查询请求等数据进行分析等处理，并将处理结果反馈给终端设备。
需要说明的是，本发明实施例所提供的处理业务请求的方法一般由服务器605执行，相应地，所述处理业务请求的装置一般设置在服务器605中。
应该理解，图6中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
下面参考图7，其示出了适于用来实现本发明实施例的终端设备的计算机***700的结构示意图。图7示出的终端设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图7所示，计算机***700包括中央处理单元(CPU)701，其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中，还存储有***700操作所需的各种程序和数据。CPU 701、ROM 702以及RAM703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
以下部件连接至I/O接口705：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。
特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被中央处理单元(CPU)701执行时，执行本发明的***中限定的上述功能。
需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本发明各种实施例的***、方法和计算机程序的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括接收模块、创建模块和监控模块，其中，这些模块的名称在某种情况下并不构成对该模块本身的限定。
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，该设备实现如下方法：接收业务请求，所述业务请求携带每秒查询率阈值和超时时长；计算当前的每秒查询率，判断所述当前的每秒查询率是否超过所述每秒查询率阈值；若否，则创建处理所述业务请求的线程，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列；判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断。
作为另一方面，本发明实施例还提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现上述任一实施例所述的方法。
根据本发明实施例的技术方案，因为采用如果当前的每秒查询率超过所述每秒查询率阈值，则创建线程并将线程封装为队列元素加入到监控队列，如果监控队列中存在处理超时的线程，则向线程发出中断指令，以使线程中断的技术手段，所以克服了现有技术中无法主动中断交易或者由于将业务线程切换到其他线程池导致***性能下降的技术问题。本发明实施例能够有效地阻断服务组件的异常蔓延，降低了***的雪崩式异常；能够有效地应对不同的网络情况下，对同一个交易的不同响应时长的控制；实时计算每秒查询率，避免了高并发情况下非常多的交易同时进入超时等待的阻塞状态，提高了***的可用性，也能更有效利用服务器资源；对业务逻辑无侵入，不会影响***正常处理。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (17)

1.一种处理业务请求的方法，其特征在于，包括：
接收业务请求，所述业务请求携带每秒查询率阈值和超时时长；
计算当前的每秒查询率，判断所述当前的每秒查询率是否超过所述每秒查询率阈值；若否，则创建处理所述业务请求的线程，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列；
判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断。
2.根据权利要求1所述的方法，其特征在于，在所述监控队列中，各个队列元素按照预计超时时间从早到晚的顺序依次排列。
3.根据权利要求2所述的方法，其特征在于，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列，包括：
将当前时间与所述超时时长相加，得到所述线程的预计超时时间；
将所述线程的线程对象和所述预计超时时间封装为队列元素加入到监控队列中。
4.根据权利要求1所述的方法，其特征在于，判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断，包括：
从所述监控队列的队首取出一个队列元素；
判断所述队列元素是否到达预计超时时间；若是，则删除所述队列元素，并向所述线程发出中断指令，以使所述线程中断。
5.根据权利要求4所述的方法，其特征在于，向所述线程发出中断指令，以使所述线程中断，包括：
调用所述线程的interrupted()方法发出中断指令，以使所述线程中断。
6.根据权利要求1所述的方法，其特征在于，判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断，还包括：
判断所述队列元素是否已经在预计超时时间之前已经处理完成所述业务请求；若是，则删除所述队列元素。
7.根据权利要求1所述的方法，其特征在于，所述每秒查询率阈值和所述超时时长由终端或者上游***根据业务场景来确定。
8.一种处理业务请求的装置，其特征在于，包括：
接收模块，用于接收业务请求，所述业务请求携带每秒查询率阈值和超时时长；
创建模块，用于计算当前的每秒查询率，判断所述当前的每秒查询率是否超过所述查询率阈值；若否，则创建处理所述业务请求的线程，根据所述超时时长计算所述线程的预计超时时间，并将所述线程封装为队列元素加入到监控队列；
监控模块，用于判断所述监控队列中是否存在处理超时的线程；若是，则向所述线程发出中断指令，以使所述线程中断。
9.根据权利要求8所述的装置，其特征在于，在所述监控队列中，各个队列元素按照预计超时时间从早到晚的顺序依次排列。
10.根据权利要求9所述的装置，其特征在于，所述创建模块还用于：
将当前时间与所述超时时长相加，得到所述线程的预计超时时间；
将所述线程的线程对象和所述预计超时时间封装为队列元素加入到监控队列中。
11.根据权利要求8所述的装置，其特征在于，所述监控模块还用于：
从所述监控队列的队首取出一个队列元素；
判断所述队列元素是否到达预计超时时间；若是，则删除所述队列元素，并向所述线程发出中断指令，以使所述线程中断。
12.根据权利要求11所述的装置，其特征在于，所述监控模块还用于：
调用所述线程的interrupted()方法发出中断指令，以使所述线程中断。
13.根据权利要求8所述的装置，其特征在于，所述监控模块还用于：
判断所述队列元素是否已经在预计超时时间之前已经处理完成所述业务请求；若是，则删除所述队列元素。
14.根据权利要求8所述的装置，其特征在于，所述每秒查询率阈值和所述超时时长由终端或者上游***根据业务场景来确定。
15.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行时，所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
16.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
17.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。
CN202211087421.3A 2022-09-07 2022-09-07 处理业务请求的方法、装置、电子设备和计算机可读介质 Pending CN115525411A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211087421.3A CN115525411A (zh) 2022-09-07 2022-09-07 处理业务请求的方法、装置、电子设备和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211087421.3A CN115525411A (zh) 2022-09-07 2022-09-07 处理业务请求的方法、装置、电子设备和计算机可读介质

Publications (1)

Publication Number Publication Date
CN115525411A true CN115525411A (zh) 2022-12-27

Family

ID=84697808

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211087421.3A Pending CN115525411A (zh) 2022-09-07 2022-09-07 处理业务请求的方法、装置、电子设备和计算机可读介质

Country Status (1)

Country Link
CN (1) CN115525411A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115879561A (zh) * 2022-12-30 2023-03-31 北京百度网讯科技有限公司 量子电路任务超时原因确定方法、装置、设备及存储介质
CN115983393A (zh) * 2022-12-30 2023-04-18 北京百度网讯科技有限公司 量子电路任务超时原因确定方法、装置、设备及存储介质

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115879561A (zh) * 2022-12-30 2023-03-31 北京百度网讯科技有限公司 量子电路任务超时原因确定方法、装置、设备及存储介质
CN115983393A (zh) * 2022-12-30 2023-04-18 北京百度网讯科技有限公司 量子电路任务超时原因确定方法、装置、设备及存储介质
CN115983393B (zh) * 2022-12-30 2024-05-24 北京百度网讯科技有限公司 量子电路任务超时原因确定方法、装置、设备及存储介质

Similar Documents

Publication Publication Date Title
CN107729139B (zh) 一种并发获取资源的方法和装置
CN110825535B (zh) 一种作业调度的方法和***
CN108897854B (zh) 一种超时任务的监控方法和装置
CN109936613B (zh) 应用于服务器的容灾方法和装置
CN109873863B (zh) 服务的异步调用方法和装置
CN110928905B (zh) 一种数据处理方法和装置
CN113361838A (zh) 业务风控方法、装置、电子设备和存储介质
CN113517985A (zh) 文件数据处理方法、装置、电子设备及计算机可读介质
CN111858040A (zh) 一种资源调度方法和装置
CN115525411A (zh) 处理业务请求的方法、装置、电子设备和计算机可读介质
CN113127225A (zh) 一种数据处理任务的调度方法、装置和***
CN112398669A (zh) 一种Hadoop部署方法和装置
CN111290842A (zh) 一种任务执行方法和装置
CN113742389A (zh) 一种业务处理方法和装置
CN112948081A (zh) 延时处理任务的方法、装置、设备以及存储介质
CN111259032A (zh) 一种业务处理方法和装置
CN116661960A (zh) 一种批量任务处理方法、装置、设备以及存储介质
CN109284177B (zh) 一种数据更新方法和装置
CN114374657A (zh) 一种数据处理方法和装置
CN113760487A (zh) 一种业务处理方法和装置
CN112925623A (zh) 任务处理方法、装置、电子设备和介质
CN113157911A (zh) 一种服务验证方法和装置
CN112788075A (zh) 一种业务服务的监控方法和装置
CN112306791A (zh) 一种性能监控的方法和装置
CN113766437B (zh) 一种短信发送方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination