当前位置: 首页 > 科技观察

Shell在手,天下无敌——服务器日志分析不用愁?

时间:2023-03-11 20:20:34 科技观察

自己的小网站运行在阿里云的ECS上,偶尔会分析一下自己的网站服务器日志,看看网站的访问量。看看黑阔有没有造成伤害!所以收集整理了一些服务器日志分析命令,大家可以试试看!1、查看IP访问量:awk'{print$1}'log_file|sort|uniq|wc-l2、查看某个页面的访问量:grep"/index.php"log_file|wc-l3,查看方式每个IP访问过多少页:awk'{++S[$1]}END{for(ainS)printa,S[a]}'log_file>log.txtsort-n-t''-k2log.txt配合sort来进一步排序4、将每个IP访问的页面数从小到大排序:awk'{++S[$1]}END{for(ainS)printS[a],a}'log_file|sort-n5。查看某个IP访问了哪些页面:grep^111.111.111.111log_file|awk'{print$1,$7}'6.去除搜索引擎统计页面:awk'{print$12,$1}'log_file|grep^"Mozilla|awk'{print$2}'|sort|uniq|wc-l7,8月16日14:00点内查看,2015访问了多少IP:awk'{print$4,$1}'log_file|grep16/Aug/2015:14|awk'{print$2}'|sort|uniq|wc-l8,查看前十个ip地址awk'{print$1}'|sort|uniq-c|sort-nr|head-10access_loguniq-c相当于对统计信息进行分组,将统计信息放在最前面cataccess.log|awk'{print$1}'|sort|uniq-c|sort-nr|head-10catataaccess.log|awk'{counts[$(11)]+=1};END{for(urlincounts)printcounts[url],url}9.访问最多的10个文件或页面catlog_file|awk'{print$11}'|sort|uniq-c|sort-nr|head-10catlog_file|awk'{print$11}'|sort|uniq-c|sort-nr|head-20awk'{print$1}'log_file|排序-n-r|uniq-c|sort-n-r|head-20前20个ip10访问***,通过子域名的访问次数,根据referer计算,略有不准确cataccess.log|awk'{print$11}'|sed-e's/http:////'-e's//.*//'|sort|uniq-c|sort-rn|head-2011,列出几个传输大小为***catwww的文件。access.log|awk'($7~/.php/){print$10""$1""$4""$7}'|sort-nr|head-10012,列出输出大于200000byte(约200kb)的页面以及相应的页面出现次数catwww.access.log|awk'($10>200000&&$7~/.php/){print$7}'|sort-n|uniq-c|sort-nr|head-10013,如果log***栏记录页面文件传输时间,列出客户端最耗时的页面catwww.access.log|awk'($7~/.php/){print$NF""$1""$4""$7}'|sort-nr|head-10014,列出最耗时的页面(超过60秒)和对应的页面出现次数catwww.access.log|awk'($NF>60&&$7~/.php/){print$7}'|sort-n|uniq-c|sort-nr|head-10015,列出传输时间超过30秒的文件catwww.access.log|awk'($NF>30){print$7}'|sort-n|uniq-c|sort-nr|head-2016,列出当前服务器上运行的各个进程的编号,倒序排列ps-ef|awk-F'''{print$8""$9}'|sort|uniq-c|sort-nr|head-2017,查看当前conc个数的差异httpd.confnetstat-an|grepESTABLISHED|wc-l18中apache的当前访问数和MaxClients个数,可以使用如下参数查看数据ps-ef|grephttpd|wc-l1388统计httpd进程数。即使是一个请求也会启动一个进程。在Apache服务器上使用,表示Apache可以处理1388个并发请求。这个值可以由Apache根据负载自动调整。netstat-nat|grep-i"80"|wc-l4341netstat-an会打印系统当前的网络链接状态,而grep-i"80"用于提取80端口相关的连接,wc-l会执行统计连接数。最后返回的数字是80端口当前请求的总数。netstat-na|grepESTABLISHED|wc-l376netstat-an会打印系统当前的网络链接状态,grepESTABLISHED会提取已建立连接的信息。那么wc-lstatistics返回的数字就是当前所有80端口建立的连接总数。netstat-nat||grepESTABLISHED|wc可以查看所有已建立连接的详细记录19,输出每个ip的连接数,以及每个状态的连接总数netstat-n|awk'/^tcp/{n=split($(NF-1),array,":");if(n<=2)++S[array[(1)]];else++S[array[(4)]];++s[$NF];++N}END{for(ainS){printf("%-20s%s",a,S[a]);++I}printf("%-20s%s","TOTAL_IP",I);for(ains)printf("%-20s%s",a,s[a]);printf("%-20s%s","TOTAL_LINK",N);}'20。其他收集与分析日志文件下访问2012-05-04页面***的前20个网址,排序cataccess.log|grep'04/May/2012'|awk'{print$11}'|sort|uniq-c|sort-nr|head-20在访问页面的URL地址中查询www.abc.com的IP地址cataccess_log|awk'($11~/www.abc.com/){print$1}'|sort|uniq-c|sort-nr获取10个访问***的IP地址同时查询catlinewow-access.log|awk'{print$1}'|sort|uniq-c|sort-nr|head-10时间段查询按时间记录时间段catlinewow-access.log|awk'{print$1}'|sort|uniq-c|sort-nr|head-10分析2015/8/15到2015/8/16访问"/index.php?g=Member&m=Public&a=sendValidCode"IP倒序catlog_file|egrep'1***ug/2015|16/Aug/2015'|awk'{if($7=="/index.php?g=Member&m=Public&a=sendValidCode")print$1,$7}'|sort|uniq-c|sort-nr($7~/.php/)$7包含.php并输出,这句话的意思是最耗时的一百PHP页面catlog_file|awk'($7~/.php/){print$NF""$1""$4""$7}'|sort-nr|head-100列出最耗时的页面(60秒以上)以及对应的页面出现次数cataccess.log|awk'($NF>60&&$7~/.php/){print$7}'|sort-n|uniq-c|sort-nr|head-100统计网站流量(G)cataccess.log|awk'{sum+=$10}END{printsum/1024/1024/1024}'统计404连接awk'($9~/404/)'access.log|awk'{print$9,$7}'|排序统计数据httpstatacataccess.log|awk'{counts[$(9)]+=1};END{for(codeincounts)printcode,counts[code]}'catataaccess.log|awk'{print$9}'|sort|uniq-c|sort-rnconcurrentwatch"awk'{if($9~/200|30|404/)COUNT[$4]++}END{for(ainCOUNT)printa,COUNT[a]}'log_file|sort-k2-nr|head-n10"带宽统计catapache.log|awk'{if($7~/GET/)count++}END{print"client_request="count}'catapache.log|awk'{BYTE+=$11}END{打印"client_kbyte_out="BYTE/1024"KB"}'找出前10个IPcat/tmp/access.log|grep"20/Mar/2011";|awk'{print$3}'|sort|uniq-c|sort-nr|headip连接数是多少ip***doingcataccess.log|grep"10.0.21.17"|awk'{print$8}'|sort|uniq-c|sort-nr|head-n10小时内ip连接数最多的10个时段awk-vFS="[:]"'{gsub("-.*","",$1);num[$2""$1]++}END{for(iinnum)printi,num[i]}'log_file|sort-n-k3-r|head-10找出访问次数最多的分钟awk'{print$1}'access.log|grep"20/Mar/2011"|cut-c14-18|sort|uniq-c|sort-nr|head记录5分钟if[$DATE_MINUTE!=$DATE_END_MINUTE];then#判断开始时间戳和结束时间戳是否相等结束时间戳查看tcp连接状态的行号netstat-nat|awk'{print$6}'|sort|uniq-c|sort-rnnetstat-n|awk'/^tcp/{++S[$NF]};END{for(ainS)printa,S[a]}'netstat-n|awk'/^tcp/{++state[$NF]};END{for(keyinstate)printkey,"",state[key]}'netstat-n|awk'/^tcp/{++arr[$NF]};END{for(kinarr)printk,"",arr[k]}'netstat-n|awk'/^tcp/{print$NF}'|sort|uniq-c|sort-rnnetstat-ant|awk'{print$NF}'|grep-v'[a-z]'|sort|uniq-cnetstat-ant|awk'/ip:80/{split($5,ip,":");++S[ip[1]]}END{for(ainS)printS[a],a}'|sort-nnetstat-ant|awk'/:80/{split($5,ip,":");++S[ip[1]]}END{for(ainS)printS[a],a}'|sort-rn|head-n10awk'BEGIN{printf("http_codecount_num")}{COUNT[$10]++}END{for(ainCOUNT)printfa""COUNT[a]""}'查找请求数前20的IP(常用于查找攻击源):netstat-anlp|grep80|greptcp|awk'{print$5}'|awk-F:'{print$1}'|sort|uniq-c|sort-nr|head-n20netstat-ant|awk'/:80/{split($5,ip,":");++A[ip[1]]}END{for(iinA)printA[i],i}'|sort-rn|head-n20使用tcpdump嗅探访问端口80,看看谁***tcpdump-ieth0-tnndstport80-c1000|awk-F"."'{print$1"."$2"."$3"."$4}'|sort|uniq-c|sort-nr|head-20查找更多time_wait连接netstat-n|grepTIME_WAIT|awk'{print$5}'|sort|uniq-c|sort-rn|head-n20查找更多SYN连接netstat-an|grepSYN|awk'{print$5}'|awk-F:'{print$1}'|sort|uniq-c|sort-nr|more根据端口列表进程netstat-ntlp|grep80|awk'{print$7}'|cut-d/-f1查看连接数和当前连接数netstat-ant|grep$ip:80|wc-lnetstat-ant|grep$ip:80|grepEST|wc-l查看IP访问次数netstat-nat|grep":80"|awk'{print$5}'|awk-F:'{print$1}'|sort|uniq-c|sort-nLinux命令分析当前Link状态netstat-n|awk'/^tcp/{++S[$NF]}END{for(ainS)printa,S[a]}'watch"netstat-n|awk'/^tcp/{++S[$NF]}END{for(ainS)printa,S[a]}'"#LAST_ACK可以通过watch5一直监听到#关闭一个TCP连接需要从两个方向关闭,两个各方发送FIN来表示单向数据的关闭。当通信双方发送最后一个FIN时,发送方此时处于LAST_ACK状态。当发送方收到对方的确认(Fin的Ack确认),整个TCP连接才真正关闭。;SYN_RECV30#表示等待处理的请求数;ESTABLISHED1597#表示正常数据传输状态;FIN_WAIT151#表示服务器主动请求关闭tcp连接;FIN_WAIT2504#表示客户端中断连接;TIME_WAIT1057#表示已经处理完等待超时结束的请求数;