CN112579406A - 一种日志调用链生成方法和装置 - Google Patents
一种日志调用链生成方法和装置 Download PDFInfo
- Publication number
- CN112579406A CN112579406A CN201910936077.2A CN201910936077A CN112579406A CN 112579406 A CN112579406 A CN 112579406A CN 201910936077 A CN201910936077 A CN 201910936077A CN 112579406 A CN112579406 A CN 112579406A
- Authority
- CN
- China
- Prior art keywords
- application
- log
- module
- application module
- identification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000012544 monitoring process Methods 0.000 claims abstract description 40
- 230000005540 biological transmission Effects 0.000 claims abstract description 27
- 238000005516 engineering process Methods 0.000 claims description 19
- 230000008569 process Effects 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 9
- 230000007613 environmental effect Effects 0.000 claims description 7
- 230000002159 abnormal effect Effects 0.000 abstract description 6
- 238000010586 diagram Methods 0.000 description 10
- 230000015654 memory Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000007726 management method Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 238000007405 data analysis Methods 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3466—Performance evaluation by tracing or monitoring
- G06F11/3476—Data logging
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种日志调用链生成方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:根据应用所处设备的标识和当前时间戳,生成识别码;监听所述识别码在各个应用模块之间的传递顺序;提取各个应用模块中与所述识别码对应的日志,按照所述传递顺序对所提取的日志进行排列组合,得到日志调用链。该实施方式利用识别码自动对各个日志服务器中的日志进行提取,且根据识别码在应用模块之间的传递顺序进行日志排序,以此实现日志调用链的自动生成,为日志集中归档、异常日志定位提供了基础。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种日志调用链生成方法和装置。
背景技术
日志主要包括***日志、应用程序日志和安全日志。***运维和开发人员可以通过日志了解服务器软硬件信息、检查配置过程中的错误以及错误发生的原因,从而及时采取措施纠正错误。
互联网采用分布式应用,将应用中的***拆分为多个不同的应用模块。因此一个完整的操作流程(即调用链),会涉及到调用多个不同的应用模块,而不同应用模块输出的日志都会分散存储在不同的日志服务器中。
在实现本发明的过程中,发明人发现现有技术至少存在如下问题:
1、目前分布式应用场景下,各应用模块中的日志没有进行集中归档处理,导致查询日志需要去不同日志服务器中进行,且较难形成一条完整的日志调用链路,不利于对异常日志的跟踪及查询;
2、当日志服务器数量较多时,若仍采用传统登录查阅日志的方式,存在操作繁琐及效率低下的问题。
发明内容
有鉴于此,本发明实施例提供一种日志调用链生成方法和装置,至少能够解决现有技术中没有有效集中式管理日志、自动生成日志调用链方案的问题。
为实现上述目的,根据本发明实施例的一个方面,提供了一种日志调用链生成方法,包括:
根据应用所处设备的标识和当前时间戳,生成识别码;
监听所述识别码在各个应用模块之间的传递顺序;
提取各个应用模块中与所述识别码对应的日志,按照所述传递顺序对所提取的日志进行排列组合,得到日志调用链。
可选的,所述监听所述识别码在各个应用模块之间的传递顺序,还包括:当应用模块包括应用子模块时,监听对应用模块中各个应用子模块的调用顺序,以按照所述调用顺序,将所述识别码在各个应用子模块之间进行顺序传递。
可选的,在所述提取各个应用模块中与所述识别码对应的日志之前,还包括:分别采集对各个应用模块的操作数据,以基于所采集的操作数据,生成日志;根据所述识别码、各个应用模块的标识和对各个应用模块的操作时间戳,得到各个日志的标识。
可选的,所述分别采集对各个应用模块的操作数据,包括:
利用字节码插桩技术,分别监听各个应用模块在操作过程中的性能数据;以及
利用指标采集技术,分别监听各个应用模块在操作过程中的环境数据。
为实现上述目的,根据本发明实施例的另一方面,提供了一种日志调用链生成装置,包括:
识别码生成模块,用于根据应用所处设备的标识和当前时间戳,生成识别码;
顺序监听模块,用于监听所述识别码在各个应用模块之间的传递顺序;
调用链生成模块,用于提取各个应用模块中与所述识别码对应的日志,按照所述传递顺序对所提取的日志进行排列组合,得到日志调用链。
可选的,所述顺序监听模块,还用于:当应用模块包括应用子模块时,监听对应用模块中各个应用子模块的调用顺序,以按照所述调用顺序,将所述识别码在各个应用子模块之间进行顺序传递。
可选的,还包括数据采集模块,用于:分别采集对各个应用模块的操作数据,以基于所采集的操作数据,生成日志;根据所述识别码、各个应用模块的标识和对各个应用模块的操作时间戳,得到各个日志的标识。
可选的,所述数据采集模块,用于:
利用字节码插桩技术,分别监听各个应用模块在操作过程中的性能数据;以及
利用指标采集技术,分别监听各个应用模块在操作过程中的环境数据。
为实现上述目的,根据本发明实施例的再一方面,提供了一种日志调用链生成电子设备。
本发明实施例的电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一所述的日志调用链生成方法。
为实现上述目的,根据本发明实施例的再一方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现上述任一所述的日志调用链生成方法。
根据本发明所述提供的方案,上述发明中的一个实施例具有如下优点或有益效果:设置识别码,用以在用户操作应用模块时,自动对日志进行标记;监听识别码在各个应用模块之间的传递顺序,用以后续对日志的排序组合,生成日志调用链,实现对日志的归档管理;通过采用字节码插桩技术进行操作数据采集,避免对应用造成侵入,保证了应用的使用安全性。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的一种日志调用链生成方法的主要流程示意图;
图2是根据本发明实施例的一种可选的日志调用链生成方法的流程示意图;
图3是根据本发明实施例的一种日志调用链生成装置的主要模块示意图;
图4是本发明实施例可以应用于其中的示例性***架构图;
图5是适于用来实现本发明实施例的移动设备或服务器的计算机***的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
对于本发明所涉及的词语,做解释如下:
安全日志:每次开关机、运行程序、***报错时,这些信息都会被记录下来,保存在日志文件中。
字节码插桩技术:使用Javaagent与Javassist动态重构Class字节已***监控指令。
需要说明的是,本发明实施例主要适用于分布式应用的日志监控,以将分散存储在不同日志服务器中的日志汇总到一起进行集中化管理,并对日志进行统计及检索,以此生成日志调用链,为后续提高日志查询效率、快速分析日志并定位异常日志提供了基础。
参见图1,示出的是本发明实施例提供的一种日志调用链生成方法的主要流程图,包括如下步骤:
S101:根据应用所处设备的标识和当前时间戳,生成识别码;
S102:监听所述识别码在各个应用模块之间的传递顺序;
S103:提取各个应用模块中与所述识别码对应的日志,按照所述传递顺序对所提取的日志进行排列组合,得到日志调用链。
上述实施方式中,对于步骤S101,在用户点击进入应用后,应用会自动生成一个UUID(Universally Unique Identifier,通用唯一识别码),以使得分布式应用中的所有元素都能有唯一的辨识信息,而不需要通过中央控制端来做辨识信息的指定。如此,应用中每个操作都可以创建与其他操作不冲突的UUID,后续也无需考虑日志创建时的名称重复问题。
UUID是指在一台设备上所生成的数字,用以保证对在同一时空中的所有机器都是唯一的。UUID由以下几部分组成:
1)当前日期和时间,UUID的第一部分与时间有关,若***在生成一个UUID之后,过几秒又生成一个UUID,则第一部分不同,其余部分相同;
2)时钟序列或随机数字序列,例如随机四位数字;
3)全局唯一的IEEE机器识别号,如果有网卡,从网卡MAC地址(Media AccessControl或Medium Access Control,媒体访问控制或物理地址)获得,没有网卡则以其他方式获得。
对于步骤S102,用户对***内应用模块的操作具有顺序性,例如1-2-3、1-3-2。对于同一应用模块,不同用户的操作顺序不同。为便于后续日志调用链的生成,本发明在每次调用一个应用模块时都会产生一个分支,例如1.1->1.1.1->1.1.2>1.2,类似于目录结构,以此记录用户对应用模块的点击或操作顺序。
为更详细记录用户对应用模块的点击/操作顺序,本发明选择将所得识别码随着用户对应用模块的操作顺序进行传递,例如:
1)用户点击订单模块进行操作,此时UUID处在该订单模块中;
2)接着用户点击了商品模块查看商品信息,此时UUID便经由订单模块传输至商品模块;
3)再接着用户点击库存模块,查看该商品的库存信息,此时UUID便经由商品模块传输至库存模块;
4)由此UUID在应用模块之间的传递顺序即为订单模块->商品模块->库存模块。
一个应用中可能包含有多个应用模块,但用户可能仅点击了部分应用模块进行操作,通过UUID的传递,可以判断哪些应用模块被用户操作,以此实现所调用应用模块的筛选以及排序。
进一步的,一个应用模块中可能包含有多个应用子模块,例如商品模块中包含有库存模块和价格模块。当用户点击查看商品库存时,此时对于UUID的传递顺序为:先传输UUID至商品模块,之后再传输至该商品模块中的库存模块,类似于目录中的1.1->1.1.1。
对于步骤S103,应用模块中的日志存储于与该应用模块对应的日志服务器中。为便于后续对日志的提取和集中归档,本发明选择在生成日志时,根据识别码和应用模块的标识,生成该日志的标识,以此得到该日志与识别码之间的对应关系。
但同一用户可能对同一应用模块或应用子模块进行多次操作,例如点击库存模块后返回再点击商品模块,即用户对商品模块操作次数为两次,而这两次可能所得操作数据不同,因此会生成两个日志。
若仍采用识别码和应用模块的标识生成日志标识的方式,可能无法考虑这两个日志的执行先后顺序,因此在原有识别码和应用模块标识的基础上,还需要考虑用户对该应用模块的操作时间戳。例如17:30日志1、18:00日志2。
具体地:
采集对各个应用模块的操作数据,生成与各个应用模块对应的日志;
根据识别码、各个应用模块的标识和对各个应用模块的操作时间戳,得到各个日志的标识。
日志对应于用户对调用应用模块所进行的操作,在根据识别码提取日志后,需根据识别码在这些应用模块之间的传递顺序,对整个交易流程产生的日志记录一个顺序,以此生成日志调用链。
通常引入调用链可解决的问题:
1、快速定位问题出在哪个部件;每个调用链都会生成一个调用链ID,后续可以通过该ID进行查询;
2、对于不同服务的性能,能够准确得到请求与相应的时间差(部件性能优化)。
上述实施例所提供的方法,利用识别码自动对各个日志服务器中的日志进行提取,且根据识别码在应用模块之间的传递顺序进行日志排序,以此实现日志调用链的自动生成。
参见图2,示出了根据本发明实施例的一种可选的日志调用链生成方法流程示意图,包括如下步骤,
S201:根据应用所处设备的标识和当前时间戳,生成识别码;
S202:利用字节码插桩技术,分别监听各个应用模块在操作过程中的性能数据;
S203:利用指标采集技术,分别监听各个应用模块在操作过程中的环境数据;
S204:基于对各个应用模块所采集的性能数据和环境数据,生成多个日志;
S205:根据所述识别码、各个应用模块的标识和对各个应用模块的操作时间戳,得到各个日志的标识;
S206:监听所述识别码在各个应用模块之间的传递顺序;
S207:提取各个应用模块中与所述识别码对应的日志,按照所述传递顺序对所提取的日志进行排列组合,得到日志调用链。
上述实施方式中,对于步骤S201、S205~S207可分别参见图1所示步骤S101~S103的描述,在此不再赘述。
上述实施方式中,对于步骤S202~S204,对于用户调用应用模块的操作数据的采集,分为内部性能采集和外部环境采集,以分别得到性能数据和环境数据。
1、内部性能数据采集
采集方式可以是字节码插桩技术或硬编码方式,但考虑硬编码方式和应用代码耦合度较高,一定程度上可能会造成应用侵入,因此本发明主要选用字节码插桩技术。
通过字节码插桩技术监控应用内部性能数据,例如http响应时间、服务响应、异常、SQL语句(Structured Query Language,结构化查询语言)、外部接口响应。且在精准监控应用内部数据的同时,不会对应用造成侵入,从而简化应用推广成本。
另外,对于一般监控,通过调用操作***命令可以轻松获得资源指标。例如linux***命令,uptime获取机器负载情况,free命令获取***可用内存数,si、so命令获取交换区写入和读取的数量。
2、外部环境数据采集
基于metricbeat(轻量型指标采集器)采集应用模块在操作过程中的外部环境数据,例如CPU使用率、内存、文件***、磁盘IO和网络IO统计数据,还可以针对应用中的每个进程获取与top命令类似的统计数据。此外基于metricbeat中提供的插件,还可以主动采集mysql、redis、nginx等状态信息。
因此,对于每个应用模块的操作数据,包含上述性能数据和环境数据,以此生成用户本次在该应用模块中操作的日志。
完整的日志具有非常重要的作用:
1)信息查找:通过检索日志信息,定位相应的bug,找出解决方案;
2)服务诊断:通过对日志信息进行统计、分析,了解服务器的负荷和服务运行状态,找出耗时请求进行优化等等;
3)数据分析:如果是格式化的log,可以做进一步的数据分析,统计、聚合出有意义的信息。
本发明整套架构是在ELK(实时日志分析平台)基础上进行的扩展升级,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成,通常应用于日志集中式收集场景,主要分为日志采集、传输、存储与展现四部分。
对于所生成的日志,通常采用filebeat进行日志收集,然后通过logstash(还可以使用beats、kafka)输出至ElasticSearch进行归档存储,之后生成日志调用链。通常client端安装在需要收集日志的日志服务器中,server端负责将收到的各节点日志进行过滤、修改等操作,之后一并发往elasticsearch。
Kibana是一个基于浏览器页面的Elasticsearch前端展示工具,为Logstash和ElasticSearch提供的日志分析友好的Web界面,以帮助用户汇总、分析和搜索重要的日志。
本发明在通过使用logstash传输日志至ElasticSearch之前,还会基于基于用户自定义设置,例如性能告警,CPU达到60%、内存使用达到70%、出现错误日志等,触发报警操作。
若基础指标达到了用户设置的规则,可以直接基于logstash当中logstash-output-http插件输送数据流至报警中心触发报警;但若报警条件较为复杂,例如某个接口或者某个方法调用次数达到上限或者是在一定时间内调用的性能指标QPS达不到要求,则可以基于logstash-output-zabbix输送数据流至报警中心触发报警。
上述实施例所提供的方法,解决了现有分布式应用场景下日志集中归档困难的问题,通过监听识别码在应用模块之间的传递顺序,实现将各日志按照调用链方式进行归档,便于后续日志查询、定位异常日志;通过字节码插桩技术采集对应用模块的操作数据,不会对应用造成侵入。
参见图3,示出了本发明实施例提供的一种日志调用链生成装置300的主要模块示意图,包括:
识别码生成模块301,用于根据应用所处设备的标识和当前时间戳,生成识别码;
顺序监听模块302,用于监听所述识别码在各个应用模块之间的传递顺序;
调用链生成模块303,用于提取各个应用模块中与所述识别码对应的日志,按照所述传递顺序对所提取的日志进行排列组合,得到日志调用链。
本发明实施装置中,所述顺序监听模块302,还用于:当应用模块包括应用子模块时,监听对应用模块中各个应用子模块的调用顺序,以按照所述调用顺序,将所述识别码在各个应用子模块之间进行顺序传递。
本发明实施装置还包括数据采集模块304(图中未标出),用于:分别采集对各个应用模块的操作数据,以基于所采集的操作数据,生成日志;根据所述识别码、各个应用模块的标识和对各个应用模块的操作时间戳,得到各个日志的标识。
本发明实施装置中,所述数据采集模块304,用于:
利用字节码插桩技术,分别监听各个应用模块在操作过程中的性能数据;以及
利用指标采集技术,分别监听各个应用模块在操作过程中的环境数据。
另外,在本发明实施例中所述装置的具体实施内容,在上面所述方法中已经详细说明了,故在此重复内容不再说明。
本发明实施例所提供的装置,解决了现有分布式应用场景下日志集中归档困难的问题,通过监听识别码在应用模块之间的传递顺序,实现将各日志按照调用链方式进行归档,便于后续日志查询、定位异常日志;通过字节码插桩技术采集对应用模块的操作数据,不会对应用造成侵入。
图4示出了可以应用本发明实施例的示例性***架构400。
如图4所示,***架构400可以包括终端设备401、402、403,网络404和服务器405(仅仅是示例)。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备401、402、403通过网络404与服务器405交互,以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用。
终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器405可以是提供各种服务的服务器,例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。
需要说明的是,本发明实施例所提供的方法一般由服务器405执行,相应地,装置一般设置于服务器405中。
应该理解,图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图5,其示出了适于用来实现本发明实施例的终端设备的计算机***500的结构示意图。图5示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,计算机***500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有***500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时,执行本发明的***中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括识别码生成模块、顺序监听模块、调用链生成模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,调用链生成还可以被描述为“日志调用链生成”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:
根据应用所处设备的标识和当前时间戳,生成识别码;
监听所述识别码在各个应用模块之间的传递顺序;
提取各个应用模块中与所述识别码对应的日志,按照所述传递顺序对所提取的日志进行排列组合,得到日志调用链。
根据本发明实施例的技术方案,解决了现有分布式应用场景下日志集中归档困难的问题,通过监听识别码在应用模块之间的传递顺序,实现将各日志按照调用链方式进行归档,便于后续日志查询、定位异常日志;通过字节码插桩技术采集对应用模块的操作数据,不会对应用造成侵入。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种日志调用链生成方法,其特征在于,包括:
根据应用所处设备的标识和当前时间戳,生成识别码;
监听所述识别码在各个应用模块之间的传递顺序;
提取各个应用模块中与所述识别码对应的日志,按照所述传递顺序对所提取的日志进行排列组合,得到日志调用链。
2.根据权利要求1所述的方法,其特征在于,所述监听所述识别码在各个应用模块之间的传递顺序,还包括:
当应用模块包括应用子模块时,监听对应用模块中各个应用子模块的调用顺序,以按照所述调用顺序,将所述识别码在各个应用子模块之间进行顺序传递。
3.根据权利要求1所述的方法,其特征在于,在所述提取各个应用模块中与所述识别码对应的日志之前,还包括:
分别采集对各个应用模块的操作数据,以基于所采集的操作数据,生成日志;
根据所述识别码、各个应用模块的标识和对各个应用模块的操作时间戳,得到各个日志的标识。
4.根据权利要求3所述的方法,其特征在于,所述分别采集对各个应用模块的操作数据,包括:
利用字节码插桩技术,分别监听各个应用模块在操作过程中的性能数据;以及
利用指标采集技术,分别监听各个应用模块在操作过程中的环境数据。
5.一种日志调用链生成装置,其特征在于,包括:
识别码生成模块,用于根据应用所处设备的标识和当前时间戳,生成识别码;
顺序监听模块,用于监听所述识别码在各个应用模块之间的传递顺序;
调用链生成模块,用于提取各个应用模块中与所述识别码对应的日志,按照所述传递顺序对所提取的日志进行排列组合,得到日志调用链。
6.根据权利要求5所述的装置,其特征在于,所述顺序监听模块,还用于:
当应用模块包括应用子模块时,监听对应用模块中各个应用子模块的调用顺序,以按照所述调用顺序,将所述识别码在各个应用子模块之间进行顺序传递。
7.根据权利要求5所述的装置,其特征在于,还包括数据采集模块,用于:
分别采集对各个应用模块的操作数据,以基于所采集的操作数据,生成日志;
根据所述识别码、各个应用模块的标识和对各个应用模块的操作时间戳,得到各个日志的标识。
8.根据权利要求7所述的装置,其特征在于,所述数据采集模块,用于:
利用字节码插桩技术,分别监听各个应用模块在操作过程中的性能数据;以及
利用指标采集技术,分别监听各个应用模块在操作过程中的环境数据。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-4中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-4中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910936077.2A CN112579406B (zh) | 2019-09-29 | 2019-09-29 | 一种日志调用链生成方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910936077.2A CN112579406B (zh) | 2019-09-29 | 2019-09-29 | 一种日志调用链生成方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112579406A true CN112579406A (zh) | 2021-03-30 |
CN112579406B CN112579406B (zh) | 2024-04-05 |
Family
ID=75111252
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910936077.2A Active CN112579406B (zh) | 2019-09-29 | 2019-09-29 | 一种日志调用链生成方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112579406B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115270115A (zh) * | 2022-09-27 | 2022-11-01 | 北京航空航天大学 | 一种边缘应用行为信息采集方法及*** |
CN115294203A (zh) * | 2022-10-09 | 2022-11-04 | 智道网联科技(北京)有限公司 | 电子地图的日志处理方法、设备和计算机可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170187734A1 (en) * | 2015-12-28 | 2017-06-29 | International Business Machines Corporation | System and method for field extraction of data contained within a log stream |
CN107645562A (zh) * | 2017-10-12 | 2018-01-30 | 广州爱九游信息技术有限公司 | 数据传输处理方法、装置、设备及*** |
-
2019
- 2019-09-29 CN CN201910936077.2A patent/CN112579406B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170187734A1 (en) * | 2015-12-28 | 2017-06-29 | International Business Machines Corporation | System and method for field extraction of data contained within a log stream |
CN107645562A (zh) * | 2017-10-12 | 2018-01-30 | 广州爱九游信息技术有限公司 | 数据传输处理方法、装置、设备及*** |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115270115A (zh) * | 2022-09-27 | 2022-11-01 | 北京航空航天大学 | 一种边缘应用行为信息采集方法及*** |
CN115294203A (zh) * | 2022-10-09 | 2022-11-04 | 智道网联科技(北京)有限公司 | 电子地图的日志处理方法、设备和计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112579406B (zh) | 2024-04-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107330034B (zh) | 一种日志分析方法和装置、计算机设备、存储介质 | |
US11934417B2 (en) | Dynamically monitoring an information technology networked entity | |
CN109660397B (zh) | 用于采集日志的***、方法和装置 | |
US11106442B1 (en) | Information technology networked entity monitoring with metric selection prior to deployment | |
US9953066B2 (en) | Automatically generating and reporting merged performance and capacity statistics | |
CN111190888A (zh) | 一种管理图数据库集群的方法和装置 | |
CN111309550A (zh) | 应用程序的数据采集方法、***、设备和存储介质 | |
CN113987074A (zh) | 分布式服务全链路监控方法、装置、电子设备及存储介质 | |
CN107957940B (zh) | 一种测试日志处理方法、***及终端 | |
CN109672722B (zh) | 数据部署方法及装置、计算机存储介质和电子设备 | |
CN111367760B (zh) | 日志采集方法及装置、计算机设备、存储介质 | |
CN110928853A (zh) | 一种标识日志的方法和装置 | |
CN110928934A (zh) | 一种用于业务分析的数据处理方法和装置 | |
US10585678B2 (en) | Insertion of custom activities in an orchestrated application suite | |
CN112579406B (zh) | 一种日志调用链生成方法和装置 | |
CN110351131B (zh) | 一种用于分布式链路的监控方法、装置和电子设备 | |
CN110554951A (zh) | 一种埋点管理的方法和装置 | |
CN117076250A (zh) | 一种数据处理的方法和装置 | |
CN111930385A (zh) | 数据采集方法、装置、设备及存储介质 | |
CN111488386A (zh) | 数据查询方法和装置 | |
CN111698109A (zh) | 监控日志的方法和装置 | |
CN111241048A (zh) | 一种web终端日志管理方法、装置、介质及电子设备 | |
CN108984221B (zh) | 一种多平台用户行为日志的采集方法和装置 | |
CN114579415A (zh) | 一种埋点数据的配置方法、获取方法、装置、设备及介质 | |
CN113704203A (zh) | 一种日志文件的处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |