当前位置: 首页 > Linux

您是否担心使用shell分析服务器日志?

时间:2023-04-06 02:19:15 Linux

我自己的小网站运行在阿里云的ECS上,偶尔分析一下我的网站服务器日志,看看网站的访问量。且看有没有黑白肆虐!所以收集整理了一些服务器日志分析命令,大家可以试试看!1、查看IP访问次数:awk'{print$1}'log_file|sort|uniq|wc-l2。查看某个页面的访问次数:grep"/index.php"log_file|wc-l3。查看每个IP访问了多少页:awk'{++S[$1]}END{for(ainS)printa,S[a]}'log_file>log.txtsort-n-t''-k2log.txtwithsort进一步排序4.将每个IP访问的页数从小到大排序:awk'{++S[$1]}END{for(ainS)printS[a],a}'日志文件|排序-n5。查看某个IP访问了哪些页面:grep^111.111.111.111log_file|grep^\"Mozilla|awk'{print$2}'|sort|uniq|wc-l7,查看2015年8月16日14:00一小时内IP访问数:awk'{print$4,$1}'log_file|grep16/Aug/2015:14|awk'{print$2}'|sort|uniq|wc-l8,查看访问的前十个ip地址awk'{print$1}'|sort|uniq-c|sort-nr|head-10access_loguniq-c相当于分组统计,把统计放在最前面cataccess.log|awk'{print$1}'|sort|uniq-c|sort-nr|head-10cataccess.log|awk'{counts[$(11)]+=1};END{for(urlincounts)printcounts[url],url}9,访问最多的10个文件或页面catlog_file|awk'{print$11}'|排序|uniq-c|排序-nr|head-10catlog_file|awk'{print$11}'|sort|uniq-c|sort-nr|head-20awk'{print$1}'log_file|sort-n-r|uniq-c|排序-n-r|head-20访问次数最多的前20个ip10,通过子域名的访问次数,根据referer计算,略显不准确cataccess.log|awk'{print$11}'|sed-e's/http:\/\///'-e's/\/.*//'|排序|uniq-c|排序-rn|head-2011,列出传输大小最大的几个文件catwww.access.log|awk'($7~/\.php/){print$10""$1""$4""$7}'|sort-nr|head-10012,列出输出大于200000byte(约200kb)的页面和对应页面出现次数catwww.access.log|awk'($10>200000&&$7~/\.php/){print$7}'|sort-n|uniq-c|sort-nr|head-10013,如果日志的最后一栏记录了页面文件传输时间,列出了客户端最耗时的页面catwww.access.log|awk'($7~/\.php/){print$NF""$1""$4""$7}'|sort-nr|head-10014,列出最耗时的页面(超过60秒)和对应的页面出现次数catwww.access.log|awk'($NF>60&&$7~/\.php/){print$7}'|sort-n|uniq-c|sort-nr|head-10015,列出传输时间超过30秒的文件catwww.access.log|awk'($NF>30){print$7}'|sort-n|uniq-c|sort-nr|head-2016,列出当前服务器上运行的各个进程数,倒序排序ps-ef|Awk-F'''{print$8""$9}'|排序|uniq-c|sort-nr|head-2017,查看apache当前并发数与httpd.conf中MaxClients数的差值netstat-an|grep已建立|wc-l18,可以使用如下参数查看数据ps-ef|grephttpd|wc-l1388统计httpd进程数,即使一个请求也会启动一个进程,用在Apache服务器中意味着Apache可以处理1388个并发请求,这个值Apache可以根据负载自动调整。netstat-nat|grep-i"80"|wc-l4341netstat-an会打印系统当前的网络链接状态,grep-i"80"用于提取80端口相关的连接,wc-l统计数量的连接。最后返回的数字是当前所有80端口的请求总数。netstat-na|grepESTABLISHED|wc-l376netstat-an会打印系统当前的网络链接状态,grepESTABLISHED会提取已建立连接的信息.那么wc-lstatistics返回的数字就是当前所有80端口建立的连接总数。netstat-nat||grepESTABLISHED|wc可以查看所有已建立连接的详细记录19,输出每个ip的连接数,以及每个状态下的连接总数netstat-n|awk'/^tcp/{n=split($(NF-1),array,":");if(n<=2)++S[array[(1)]];else++S[array[(4)]];++s[$NF];++N}END{for(S中的a){printf("%-20s%s\n",a,S[a]);++I}printf("%-20s%s\nn","TOTAL_IP",I);for(ains)printf("%-20s%s\n",a,s[a]);printf("%-20s%s\n","TOTAL_LINK",N);}'20。其他收集并分析了2012-05-04访问最多的页面的前20个URL下的日志文件并排序cataccess.log|grep'04/May/2012'|awk'{print$11}'|sort|uniq-c|sort-nr|head-20查询访问页面的URL地址中www.abc.com的IP地址cataccess_log|awk'($11~/\www.abc.com/){print$1}'|sort|uniq-c|sort-nr获取前10个IP地址,同时按时间查询catlinewow-access.log|awk'{print$1}'|sort|uniq-c|sort-nr|head-10时间段查询日志时间段catlog_file|egrep'15/Aug/2015|16/Aug/2015'|awk'{print$1}'|sort|uniq-c|sort-nr|head-10分析2015/8/15到2015/8/16访问"/index.php?g=Member&m=Public&a=sendValidCode"IP逆序catlog_file|egrep'15/Aug/2015|16/Aug/2015'|awk'{if($7=="/index.php?g=Member&m=Public&a=sendValidCode")print$1,$7}'|sort|uniq-c|sort-nr($7~/.php/)如果$7包含.php,则输出,的意思这句话是最耗时的一百个PHP页面catlog_file|awk'($7~/\.php/){print$NF""$1""$4""$7}'|sort-nr|head-100列出最耗时的页面(超过60秒)和对应的页面出现次数cataccess.log|awk'($NF>60&&$7~/\.php/){print$7}'|sort-n|uniq-c|sort-nr|head-100统计网站流量(G)cataccess.log|awk'{sum+=$10}END{printsum/1024/1024/1024}'统计404连接awk'($9~/404/)'access.log|awk'{print$9,$7}'|排序统计httpstatuscataccess.log|awk'{counts[$(9)]+=1};END{for(codeincounts)printcode,counts[code]}'cataccess.log|awk'{print$9}'|sort|uniq-c|sort-rn同时观看每秒"awk'{if($9~/200|30|404/)COUNT[$4]++}END{for(ainCOUNT)printa,COUNT[a]}'log_file|sort-k2-nr|head-n10"带宽统计catapache.log|awk'{if($7~/GET/)count++}END{print"client_request="count}'catapache.log|awk'{BYTE+=$11}END{print"client_kbyte_out="BYTE/1024"KB"}'找出答案某天的访问次数最多10个IPcat/tmp/access.log|grep"20/Mar/2011"|awk'{print$3}'|sort|uniq-c|sort-nr|head今天ip连接数最多的ip是什么cataccess.log|grep“10.0.21.17”|awk'{print$8}'|排序|uniq-c|排序-nr|head-n10小时内ip连接数最多的10个时段awk-vFS="[:]"'{gsub("-.*","",$1);num[$2""$1]++}END{for(iinnum)printi,num[i]}'日志文件|排序-n-k3-r|head-10找出访问最多的分钟awk'{print$1}'access.log|grep"20/Mar/2011"|cut-c14-18|sort|uniq-c|sort-nr|head耗时5分钟logif[$DATE_MINUTE!=$DATE_END_MINUTE];then#判断开始时间戳和结束时间timestamp是否相等START_LINE=sed-n"/$DATE_MINUTE/="$APACHE_LOG|head-n1#如果不相等则取出开始时间戳的行号和结束时间戳的行号查看连接tcp的状态netstat-nat|awk'{print$6}'|sort|uniq-c|sort-rnnetstat-n|awk'/^tcp/{++S[$NF]};END{for(ainS)printa,S[a]}'netstat-n|awk'/^tcp/{++state[$NF]};END{for(keyinstate)printkey,"\t",state[key]}'netstat-n|awk'/^tcp/{++arr[$NF]};END{for(kinarr)printk,"\t",arr[k]}'netstat-n|awk'/^tcp/{print$NF}'|sort|uniq-c|sort-rn网络统计-ant|awk'{print$NF}'|grep-v'[a-z]'|排序|uniq-cnetstat-ant|awk'/ip:80/{split($5,ip,":");++S[ip[1]]}END{for(ainS)printS[a],a}'|sort-nnetstat-ant|awk'/:80/{split($5,ip,":");++S[ip[1]]}END{for(ainS)printS[a],a}'|sort-rn|head-n10awk'BEGIN{printf("http_code\tcount_num\n")}{COUNT[$10]++}END{for(ainCOUNT)printfa"\t\t"COUNT[a]"\n"}'查找请求数量前20的IP(常用于查找攻击源):netstat-anlp|grep80|greptcp|awk'{print$5}'|awk-F:'{print$1}'|sort|uniq-c|sort-nr|head-n20netstat-ant|awk'/:80/{split($5,ip,":");++A[ip[1]]}END{for(iinA)printA[i],i}'|sort-rn|head-n20使用tcpdump嗅探80端口,看谁的访问权限最高tcpdump-ieth0-tnndst端口80-c1000|awk-F“。”'{打印$1"."$2"."$3"."$4}'|排序|uniq-c|sort-nr|head-20查找更多time_wait连接netstat-n|grepTIME_WAIT|awk'{print$5}'|sort|uniq-c|sort-rn|head-n20查找和比较多个SYN连接netstat-an|grep同步|awk'{print$5}'|awk-F:'{print$1}'|排序|uniq-c|排序-nr|更多端口列表程序netstat-ntlp|grep80|awk'{print$7}'|cut-d/-f1查看连接数和当前连接数netstat-ant|grep$ip:80|wc-lnetstat-蚂蚁|grep$ip:80|grepEST|wc-l查看IP访问次数netstat-nat|grep":80"|awk'{print$5}'|awk-F:'{print$1}'|排序|uniq-c|sort-nlinux命令分析当前链接状态netstat-n|awk'/^tcp/{++S[$NF]}END{for(ainS)printa,S[a]}'watch"netstat-n|awk'/^tcp/{++S[\$NF]}END{for(ainS)printa,S[a]}'"#LAST_ACK可以通过watch一直监听到5#关闭一个TCP连接从两个方向分别关闭,双方发送FIN表示单向数据的关闭。当通信双方发送最后一个FIN时,发送方此时处于LAST_ACK状态。当发送方收到对方的确认(Fin的Ack确认)后才真正关闭整个TCP连接;SYN_RECV30#表示等待处理的请求数;ESTABLISHED1597#表示正常数据传输状态;FIN_WAIT151#表示服务器主动请求关闭tcp连接;FIN_WAIT2504#表示客户端中断连接;TIME_WAIT1057#表示已经处理完等待超时结束的请求数;文章中的一些命令是从网上收集整理的。------------------------我是分界线-------------------------海阔天空(对Nginx感兴趣的童鞋可以看看)Nginx系列课程索引介绍:WebServer与PHP通信姿势熟悉了解Nginx与PHP如何通信:PHP程序员应该知道Nginx(上)如何更好的使用Nginx及Nginx配置进阶:PHP程序员应该知道的Nginx(中)深入理解Nginx内核和Nginx的运行原理,在实践中剖析Nginx高性能的秘密:PHP程序员应该知道的Nginx(下)跑不如听.让我们一起开发Nginx的扩展