当前位置: 首页 > 科技观察

如何快速过滤掉一个请求的所有日志?

时间:2023-03-15 10:27:14 科技观察

01。前言当现网出现故障时,我们往往需要获取请求过程中的所有日志进行定位。如果请求只在一个线程中处理,我们可以通过线程ID过滤日志,但是如果请求中包含异步线程的处理,那么单独线程ID就会捉襟见肘。华为物联网平台提供接收设备上报数据的能力。当数据到达平台后,平台会进行一些复杂的业务逻辑处理,如数据存储、规则引擎、数据推送、命令下发等。由于这个逻辑之间没有强耦合关系,所以通常是异步处理的。如何快速过滤掉一个数据上报请求中包含的所有业务日志,就是本文要介绍的内容。02.文SLF4J日志框架提供了一个MDC(MappedDiagnosticContexts)工具类,谷歌翻译为mappeddiagnosticcontext,从字面上理解起来比较困难,我们可以先做一下。publicclassMain{privatestaticfinalStringKEY="requestId";privatestaticfinalLoggerlogger=LoggerFactory.getLogger(Main.class);publicstaticvoidmain(String[]args){//入口传入请求IDMDC.put(KEY,UUID.randomUUID().toString());//打印日志logger.debug("loginmainthread1");logger.debug("loginmainthread2");logger.debug("loginmainthread3");//退出移除请求IDMDC.remove(KEY);}}我们在mainfunction入口调用MDC.put()方法传入请求ID,出口调用MDC.remove()方法移除请求ID。配置log4j2.xml文件后,运行main函数,可以在控制台看到如下日志输出:2018-02-1713:19:52.606{requestId=f97ea0fb-2a43-40f4-a3e8-711f776857d0}[main]DEBUGcn.wudashan.Main-loginmainthread12018-02-1713:19:52.609{requestId=f97ea0fb-2a43-40f4-a3e8-711f776857d0}[main]DEBUGcn.wudashan.Main-loginmainthread22018-02-1713:19:52=.60f{refquest40f4-a3e8-711f776857d0}[main]DEBUGcn.wudashan.Main-loginmainthread3从日志中可以明显看出花括号中包含了(映射的)请求ID(requestId),这其实是我们定位(诊断)的关键)问题词(上下文)。最新面试题整理完毕,点击Java面试库小程序在线刷题。借助MDC工具,只要在接口或切面植入put()和remove()代码,我们在现网定位问题时,可以通过greprequestId=xxx*.log快速过滤掉某个请求的所有日志.03.进阶然而,MDC工具真的有我们想象的那么方便吗?回到最开始,一个请求可能会涉及到多线程的异步处理,那么在多线程的异步场景下,还能正常工作吗?话不多说,给我看看代码。推荐一个SpringBoot基础教程和实例:https://github.com/javastacks/spring-boot-best-practicepublicclassMain{privatestaticfinalStringKEY="requestId";privatestaticfinalLoggerlogger=LoggerFactory.getLogger(Main.class);publicstaticvoidmain(String[]args){//入口传入请求IDMDC.put(KEY,UUID.randomUUID().toString());//主线程打印loglogger.debug("loginmainthread");//异步线程打印LognewThread(newRunnable(){@Overridepublicvoidrun(){logger.debug("loginotherthread");}}).start();//退出移除请求IDMDC.remove(KEY);}}在代码中,我们新建一个异步线程,并在匿名对象Runnable的run()方法中打印日志。运行main函数,可以在控制台看到如下日志输出:2018-02-1714:05:43.487{requestId=e6099c85-72be-4986-8a28-de6bb2e52b01}[main]DEBUGcn.wudashan.Main-loginmainthread2018-02-1714:05:43.490{}[Thread-1]DEBUGcn.wudashan.Main-loginotherthread遗憾的是,异步线程中并没有打印请求ID。这里发生了什么?要解决这个问题,我们就不得不知道MDC的实现原理。最新面试题整理完毕,点击Java面试库小程序在线刷题。限于篇幅,这里就不详细介绍了。MDC之所以在异步线程中不生效,是因为底层使用了ThreadLocal作为数据结构。调用MDC.put()方法传入的requestID只在当前线程有效。有兴趣的朋友可以自行深挖代码细节。知道了原理,解决这个问题就很容易了。我们可以使用装饰器模式,写一个新的MDCRunnable类来装饰Runnable接口。在创建MDCRunnable类时保存当前线程的MDC值,然后在执行run()方法时将保存的MDC值复制到异步线程中。代码实现如下:publicclassMDCRunnableimplementsRunnable{privatefinalRunnablerunnable;privatefinalMapma??p;publicMDCRunnable(Runnablerunnable){this.runnable=runnable;//保存当前线程的MDC值this.map=MDC.getCopyOfContextMap();}@Overridepublicvoidrun(){//传入保存的MDC值for(Map.Entryentry:map.entrySet()){MDC.put(entry.getKey(),entry.getValue());}//装饰实现run方法runnable.run();//移除保存的MDC值for(Map.Entryentry:map.entrySet()){MDC.remove(entry.getKey());}}}接下来,我们需要对main函数中创建的Runnable实现类进行修饰:[]args){//Entry传入请求IDMDC.put(KEY,UUID.randomUUID().toString());//Mainthre广告打印loglogger.debug("loginmainthread");//异步线程打印log,装饰有MDCRunnableRunnablenewThread(newMDCRunnable(newRunnable(){@Overridepublicvoidrun(){logger.debug("loginotherthread");}})).start();//异步线程池打印日志,装饰RunnableEXECUTOR.execute(newMDCRunnable(newRunnable(){@Overridepublicvoidrun(){logger.debug("loginotherthreadpool");}}));EXECUTOR.shutdown();//退出移除请求IDMDC.remove(KEY);}}执行main函数,输出如下如下日志:2018-03-0423:44:05.343{requestId=5ee2a117-e090-41d8-977b-cef5dea09d34}[main]DEBUGcn.wudashan.Main-loginmainthread2018-03-0423:44:05.346{requestId=5ee2a117-1d080-977b-cef5dea09d34}[Thread-1]DEBUGcn.wudashan.Main-loginotherthread2018-03-0423:44:05.347{requestId=5ee2a117-e090-41d8-977b-cef5dea09d34}[pool-2-thread-1]DEBUGcn.wudashan.main-loginotherthreadpool恭喜!经过我们的努力,requestId最后在异步线程和线程池中打印出来!04.小结本文介绍如何使用MDC工具快速过滤一个请求所有请求的日志,通过装饰器模式,MDC工具也可以在异步线程中生效。有了MDC,再用AOP技术把requestId植入到各个环节,就可以过滤掉整个系统中任何一个进程的日志。使用MDC工具可以大大节省开发自测阶段定位问题的时间,提高开发效率;在运维阶段,可以快速收集相关日志信息,加快分析速度。