位置: 编程技术 - 正文

利用shell命令统计日志的方法详解(shell命令su)

编辑:rootadmin

推荐整理分享利用shell命令统计日志的方法详解(shell命令su),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:使用shell命令,使用shell命令,shell命令的用法,shell命令su,shell命令的用法,使用shell命令,使用shell命令,使用shell命令,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

大家都知道,通过使用 shell 命令可以很方便地对日志进行统计和分析,当服务有异常的时候,需要去排查日志,那么掌握一种统计日志的技巧就是必不可少的了。

假设有一个包含下面内容的日志文件 access.log。我们以统计这个文件的日志为例。

不同的服务对应的日志可能不一样,本文使用示例日志的格式是:

注意:mac 系统和 linux 系统中的命令行为可能不同,以下命令请在 linux 系统中使用

排除特殊日志

统计日志时,我们可能不关心 HEAD 请求,或者只关心 GET 请求,这里首先需要筛选日志,可以使用 grep 命令。-v 的含义是排除匹配的文本行。

查看接口耗时情况

我们可以将每行的 time 匹配出来,然后做一个排序。使用 awk 的 match 方法可以匹配正则:

awk 命令使用方法如下:

我们实际上只用到了 action:match($0, /time=([0-9]+.[0-9]+)/, result); print result[1] 这一段。

match 方法接收三个参数:需要匹配的文本、正则表达式、结果数组。$0 代表 awk 命令处理的每一行,结果数组是可选的,因为我们要拿到匹配结果所以这里传入了一个 result 数组,用来存储匹配后的结果。

注意这里的正则我没有使用 d 来表示数字,因为 awk 指令默认使用 “EREs",不支持 d 的表示,具体请看 linux shell 正则表达式(BREs,EREs,PREs)差异比较。

result 数组实际上和 javascript 里的结果数组很像了,所以我们打印出第二个元素,即匹配到的内容。执行完这行命令后结果如下:

当然实际上一天的日志可能是成千上万条,我们需要对日志进行排序,且只展示前 3 条。这里使用到 sort 命令。

利用shell命令统计日志的方法详解(shell命令su)

sort 命令默认从小到大排序,且当作字符串排序。所以默认情况下使用 sort 命令之后 "" 会排在 "8" 前面。那么需要使用 -n 指定按数字排序,-r 来按从大到小排序,然后我们查看前 3 条:

结果:

查看耗时最高的接口

当然我们一般不会只查看接口耗时情况,还需要把具体日志也打印出来,上面的命令就不能满足要求了。

awk 的打印默认是按空格分隔的,意思是 -- GET 这一行如果使用 awk '{print $1}' 会打印出 "--",类似地,$2 会打印出 GET。

根据日志特征,我们可以使用 | 来作为分隔符,这样就能打印出各个我们感兴趣的值了。因为我们想找出耗时最高的接口,那么我们把 time、date 和 url 单独找出来。

awk 的 -F 参数用来自定义分隔符。然后我们可以数一下三个部分按 | 分隔后分别是第几个:time 是第 6 个、date 是第 1 个、url 是第 4 个。

这样打出来结果为:

因为我们想按 time 来排序,而 sort 可以按列来排序,而列是按空格分隔的,我们目前第一列是 time=xxx,是不能排序的,所以这里要想办法把 time= 给去掉,因为我们很鸡贼地把耗时放在了第一列,那么其实再通过 time= 进行分隔一下就行了。

结果:

使用 sort 的 -k 参数可以指定要排序的列,这里是第 1 列;再结合上面的排序,就能把耗时最高的日志打印出来了:

结果:

统计请求次数最多的接口

如果需要统计哪些接口每天请求量是最多的,只需要新引入 uniq 命令。

我们已经可以通过 grep -v HEAD access.log | awk -F '|' '{print $4}' 来筛选出所有的 url,uniq 命令可以删除 相邻 的相同的行,而 -c 可以输出每行出现的次数。

所以我们先把 url 排序以让相同的 url 放在一起,然后使用 uniq -c 来统计出现的次数:

因为示例日志数量太少,我们假设日志里有多条,那么结果应该类似下面:

接下来再 sort 即可:

总结

标签: shell命令su

本文链接地址:https://www.jiuchutong.com/biancheng/379740.html 转载请保留说明!

上一篇:Linux中的特殊符号与正则表达式(linux特殊符号转义)

下一篇:Linux中的Syslog命令(linux的syslog配置)

  • 企业所得税汇算清缴补缴税款分录
  • 房地产开发企业资质等级有几个
  • 租赁收入缴纳个人所得税
  • 讲师讲课费标准2019
  • 公允价值模式下,投资性房地产不计提折旧或摊销
  • 购入股票作为短期投资是什么凭证
  • 其他应付款在借方资产负债表怎么填
  • 原材料的可变现净值等于产品可变现净值减加工费么
  • 有限合伙企业如何分红
  • 工程项目中的设备主要包括什么和什么
  • 无分包声明
  • 不需要缴纳企业所得税的企业类型
  • 一般纳税人企业所得税政策最新2023税率
  • 红字发票账务处理摘要
  • 国税发2005 9号 税屋
  • 孵化器虚拟地址多少钱一个啊
  • 小企业长期待摊费用包括哪些
  • 必要报酬率的计算公式Rm
  • 工地没有手续擅自开工违法吗
  • 应交税费进项税额在借方说明什么
  • 地税定额发票还要交税吗
  • 租车公司的车能租吗
  • 车间低值易耗品有哪些
  • 业绩补偿协议
  • 个体户怎么核定开多少票
  • 发放给职工
  • 建筑劳务公司开票税率是多少
  • 收到科技局研发的短信
  • 笔记本闪屏正常吗
  • win11怎么压缩图片画质
  • 苹果官网入口
  • 已认证未付款可以退款吗
  • 视同销售货物服务无形资产
  • win10的环境配置在哪
  • PHP:mcrypt_module_get_algo_key_size()的用法_Mcrypt函数
  • php年月日时间代码
  • 材料报废 开什么发票
  • 局部规划算法
  • dns域名解析两种方式
  • 哪些企业可以开13点税票
  • 网上抄税报税操作流程
  • 境外出差
  • 农民工专用账户回执单
  • 个体户开普票有没有完税证明
  • 出口商品没有发票可以入收入吗
  • 城市维护建设税,教育费附加,地方教育费附加
  • 固定资产原值和净值在报表哪里看
  • 无偿调入固定资产怎么入账
  • 支付宝付款对面知道名字吗
  • 新公司第一年要交什么税
  • sqlserver数据库获取当前时间
  • 资产处置损益影响损益吗
  • 继续教育的相关知识
  • 免征增值税政策的政策有哪些?
  • 无形资产的税收优惠政策
  • 收到单位借款如何入账
  • 个人独资企业需要缴纳哪些税种
  • 职工教育经费产生的差异
  • 工会经费滞纳金怎么算
  • 收到客户不要的定金怎么做账?
  • 价税分离购销合同模板
  • 信息技术服务费可以全额抵扣吗
  • 进项税额转出加计抵减填在哪里
  • 成本类科目借贷规则
  • win8.1升级到win10
  • windows route metric
  • mac uuid查询
  • sks文件是什么
  • linux 源文件
  • win10推送升级win11
  • 微软星期二补丁
  • python scrapy爬虫
  • 备份多个数据库
  • 批处理计数
  • python的threading模块详解
  • python读入txt
  • 增值税发票打印机怎么连接电脑
  • 地税局基层职位怎么样
  • 2013年山西高考作文
  • 实收资本印花税税率多少
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设