百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程网 > 正文

监控系统如何做埋点,监控数据库和HTTP请求

yuyutoo 2024-10-25 19:21 9 浏览 0 评论

JDBC做过java开发的都知道JDBC是干什么的,RestApi其实就是http的调用,http的调用就是调用第三方的服务的时候,第三方的服务并不是在自己的系统范围内,如果出现不稳定挂掉,对自身来说是不可控了,所以第三方服务而言对我们而言是非常的明感的。JDBC和RestApi的监控对系统来讲意义很大,数据库得多重要,在系统的内部进行监控更能良好的反应sql的执行性能。

源码:https://github.com/limingios/netFuture/tree/master/源码/『互联网架构』调?链系统工程结构(111)



(一)JDBC调用拦截

  • JDBC插桩目的

哪些监控怼开发运维来说最有用的。

  1. SQL语句、SQL参数、用了多长时间、SQL类型、结果集大小、返回字段、规范、Join次数
  2. 拦截监听SQL语句
  3. 找出慢查询语句
  • 模型结构

字段类型描述sqltextsql语句paramsjson参数resultSizeint结果大小urlvarchar数据库连接路径userNamevarchar数据库用户名errortext异常堆栈useTimeint用时

  • JDBC插桩位置

这些user,框架,连接池,驱动都依赖jdbc,jdbc是一个什么东西?jdbc是一种规范,一堆接口组成的规范j2se,由驱动来实现的。servlet也是一种接口规范,是j2ee的规范,由tomcat,jetty等容器实现的。任任何一层都可以做为插桩的切入点,但是选用User 层、框架层、连接池&数据源层、驱动层其实现是多样的,无法做到普适性。所以在此选用JDBC 作为插桩切入 点。



  • JDBC插桩机制


从上图可以分析出JDBC执行过程

1.从驱动获取连接(Connection)

2.基于连接构建预处理对象(prepareStatement)

3.执行SQL

4.读取结果集(ResultSet)

5.关闭释放连接。

其中涉及对象构建逻辑如下:

Driver==》Connection==》prepareStatement==》ResultSet



(二)Http调用拦截

  • Http埋点目的

很多时候我们会调用第三方API。比如:消息推送、短信发送、第三方支付接口等,因为服务是第三方提供,如果服务出现性能或可用性问题对于我方而言不可控,所以这类接口的稳定性是我们需要重点关注的对象。

通常这类接口会基于Http协议实现,所对Htpp协议监控,即实现了对第三方接口的监控。

  • Http埋点位置



1.user层:无法判断User具体执行方法,基于配置又做不到普适性。

2.Http协议层:能找到具体方法,也能做到普适性。需要对Http协议进行全面解析,而且Http协议为文本协议,解析难度更大,实现成本居高。

3.专有SDK、与自定义封装的Http工具包,跟具体业务偶合同样无法做到普适应。

4.java net URL 与 HttpClient 都是Http client 基于二者实现可以在一定程度上达成我们的目标。

  • Http埋点机制(java.net.URL)

URL常用写法:

URL url = new URL("https://www.baidu.com");
URLConnection conn = url.openConnection();
conn.setDoInput(true);
conn.setDoOutput(true);
conn.connect();
OutputStream output = conn.getOutputStream();
output.write("a=c&b=1".getBytes());
InputStream input = conn.getInputStream();
byte[] bytes = IOUtils.readFully(input, -1, false);
System.out.println(new String(bytes));

URL 装载执行过程:

  1. URL 基于protocol 构建对应 UrlStreamHandler
  2. UrlStreamHandler.openConnection() 打开连接,返回URlConnection
  3. URlConnection 设置连接属性
  4. URlConnection 打开 outPutStream 写入参数
  5. URlConnection 打开 inPutStream读取结果

其中涉及对象构建逻辑如下:

URL==》URLStreamHandler==》URLConnection==》outPutStream、InputStream。

如果上述过程加一层<u>静态代理</u>即可监控这些对象所有的执行过程从而得到所需监控数据:

URL==》Proxy(URLStreamHandler)==》Proxy(URLConnection)==》Proxy(outPutStream)、Proxy(InputStream)。

  • URL的类结构



怎么样才能加上这层代理呢?其关键方法在于 通过静态代理的方式。 <u>java.net.URL#setURLStreamHandlerFactory。</u>该方法允许用户自定义URL协议实现.



PS:太复杂了,看源码debug看比较好,jdbc和restApi通过的proxy代理的方式。

相关推荐

当 Linux 根分区 (/) 已满时如何释放空间?

根分区(/)是Linux文件系统的核心,包含操作系统核心文件、配置文件、日志文件、缓存和用户数据等。当根分区满载时,系统可能出现无法写入新文件、应用程序崩溃甚至无法启动的情况。常见原因包括:...

玩转 Linux 之:磁盘分区、挂载知多少?

今天来聊聊linux下磁盘分区、挂载的问题,篇幅所限,不会聊的太底层,纯当科普!!1、Linux分区简介1.1主分区vs扩展分区硬盘分区表中最多能存储四个分区,但我们实际使用时一般只分为两...

Linux 文件搜索神器 find 实战详解,建议收藏

在Linux系统使用中,作为一个管理员,我希望能查找系统中所有的大小超过200M文件,查看近7天系统中哪些文件被修改过,找出所有子目录中的可执行文件,这些任务需求...

Linux 操作系统磁盘操作(linux 磁盘命令)

一、文档介绍本文档描述Linux操作系统下多种场景下的磁盘操作情况。二、名词解释...

Win10新版19603推送:一键清理磁盘空间、首次集成Linux文件管理器

继上周四的Build19592后,微软今晨面向快速通道的Insider会员推送Windows10新预览版,操作系统版本号Build19603。除了一些常规修复,本次更新还带了不少新功能,一起来了...

Android 16允许Linux终端使用手机全部存储空间

IT之家4月20日消息,谷歌Pixel手机正朝着成为强大便携式计算设备的目标迈进。2025年3月的更新中,Linux终端应用的推出为这一转变奠定了重要基础。该应用允许兼容的安卓设备...

Linux 系统管理大容量磁盘(2TB+)操作指南

对于容量超过2TB的磁盘,传统MBR分区表的32位寻址机制存在限制(最大支持2.2TB)。需采用GPT(GUIDPartitionTable)分区方案,其支持64位寻址,理论上限为9.4ZB(9....

Linux 服务器上查看磁盘类型的方法

方法1:使用lsblk命令lsblk输出说明:TYPE列显示设备类型,如disk(物理磁盘)、part(分区)、rom(只读存储)等。...

ESXI7虚机上的Ubuntu Linux 22.04 LVM空间扩容操作记录

本人在实际的使用中经常遇到Vmware上安装的Linux虚机的LVM扩容情况,最终实现lv的扩容,大多数情况因为虚机都是有备用或者可停机的情况,一般情况下通过添加一块物理盘再加入vg,然后扩容lv来实...

5.4K Star很容易!Windows读取Linux磁盘格式工具

[开源日记],分享10k+Star的优质开源项目...

Linux 文件系统监控:用脚本自动化磁盘空间管理

在Linux系统中,文件系统监控是一项非常重要的任务,它可以帮助我们及时发现磁盘空间不足的问题,避免因磁盘满而导致的系统服务不可用。通过编写脚本自动化磁盘空间管理,我们可以更加高效地处理这一问题。下面...

Linux磁盘管理LVM实战(linux实验磁盘管理)

LVM(逻辑卷管理器,LogicalVolumeManager)是一种在Linux系统中用于灵活管理磁盘空间的技术,通过将物理磁盘抽象为逻辑卷,实现动态调整存储容量、跨磁盘扩展等功能。本章节...

Linux查看文件大小:`ls`和`du`为何结果不同?一文讲透原理!

Linux查看文件大小:ls和du为何结果不同?一文讲透原理!在Linux运维中,查看文件大小是日常高频操作。但你是否遇到过以下困惑?...

使用 df 命令检查服务器磁盘满了,但用 du 命令发现实际小于磁盘容量

在Linux系统中,管理员或开发者经常会遇到一个令人困惑的问题:使用...

Linux磁盘爆满紧急救援指南:5步清理释放50GB+小白也能轻松搞定

“服务器卡死?网站崩溃?当Linux系统弹出‘Nospaceleft’的红色警报,别慌!本文手把手教你从‘删库到跑路’进阶为‘磁盘清理大师’,5个关键步骤+30条救命命令,快速释放磁盘空间,拯救你...

取消回复欢迎 发表评论: