我自己的一个小网站跑在阿里云的ECS上，偶尔会分析一下自己的网站服务器日志，看看网站的访问量。且看有没有黑白肆虐！所以收集整理了一些服务器日志分析命令，大家可以试试看！1、查看有多少个IP访问：awk'{print$1}'log_file|sort|uniq|wc-lPS:wc-l查看有多少行2、查看某个页面的访问次数：grep"/index.php"日志文件|wc-l3,查看每个IP访问了多少页:awk'{++S[$1]}END{for(ainS)printa,S[a]}'log_file>log.txtsort-n-t''-k2log.txt#配合sort进一步排序4.将每个IP访问的页数从小到大排序：awk'{++S[$1]}END{for(ainS)printS[a],a}'日志文件|sort-n5.查看某个IP访问了哪些页面：grep^111.111.111.111log_file|awk'{print$1,$7}'6.从搜索引擎统计中删除页面：awk'{print$12,$1}'log_file|grep^\"Mozilla|awk'{print$2}'|sort|uniq|wc-l7,查看2015年8月16日14:00一小时内IP访问数:awk'{print$4,$1}'log_file|grep16/Aug/2015:14|awk'{print$2}'|sort|uniq|wc-l8，查看前十个ip地址awk'{print$1}'|sort|uniq-c|sort-nr|head-10access_loguniq-c相当于分组统计，把统计放在最前面cataccess.log|awk'{print$1}'|sort|uniq-c|sort-nr|head-10cataccess.log|awk'{counts[$(11)]+=1};END{for(urlincounts)printcounts[url],url}9,10访问次数最多的文件或页面catlog_file|awk'{print$11}'|sort|uniq-c|sort-nr|head-10catlog_file|awk'{print$11}'|sort|uniq-c|sort-nr|head-20awk'{print$1}'log_file|sort-n-r|uniq-c|排序-n-r|head-20#访问量最大的前20个ip10，通过子域名访问的次数，根据referer计算，略显不准确cataccess.log|awk'{print$11}'|sed-e's/http:\/\///'-e's/\/.*//'|排序|uniq-c|排序-rn|head-2011,列出传输大小最大的几个文件catwww.access.log|awk'($7~/\.php/){print$10""$1""$4""$7}'|sort-nr|head-10012,list输出大于200000byte（约200kb）的页面及对应页面出现的次数catwww.access.log|awk'($10>200000&&$7~/\.php/){print$7}'|sort-n|uniq-c|排序-nr|head-10013。如果日志的最后一列记录了页面文件传输时间，则列出客户端最耗时的页面catwww.access.log|awk'($7~/\.php/){print$NF""$1""$4""$7}'|sort-nr|head-10014，列出最耗时的页面（超过60秒）和对应的页面出现次数catwww.access.log|awk'($NF>60&&$7~/\.php/){print$7}'|sort-n|uniq-c|sort-nr|head-10015,列出传输时间超过30秒的文件catwww.access.log|awk'($NF>30){print$7}'|sort-n|uniq-c|sort-nr|head-2016,列出每个正在运行的进程数，倒序ps-ef|awk-F'''{print$8""$9}'|排序|uniq-c|sort-nr|head-2017，查看apache当前的并发访问数和httpd.conf中的maxClients数量有什么区别netstat-an|grep已建立|wc-l18，可以使用如下参数查看数据ps-ef|grephttpd|wc-l统计httpd进程数，即使一个请求也会启动一个进程，用于Apache服务器。这意味着Apache可以处理1388个并发请求，这个值可以由Apache根据负载情况自动调整。netstat-nat|grep-i"80"|wc-lnetstat-an会打印系统当前的网络链接状态，而grep-i"80"用于提取80端口相关的连接，wc-l统计连接数。最后返回的数字是当前所有80端口的请求总数。netstat-na|grepESTABLISHED|wc-lnetstat-an会打印系统当前的网络链接状态，grepESTABLISHED会提取已建立连接的信息.然后wc-l统计。最后返回的数字是当前所有80端口建立的连接总数。netstat-nat||grepESTABLISHED|wc可以查看所有已建立连接的详细记录19，输出每个ip的连接数，以及每个状态下的连接总数netstat-n|awk'/^tcp/{n=split($(NF-1),array,":");if(n<=2)++S[array[(1)]];else++S[array[(4)]];++s[$NF];++N}END{for(S中的a){printf("%-20s%s\n",a,S[a]);++I}printf("%-20s%s\nn","TOTAL_IP",I);for(ains)printf("%-20s%s\n",a,s[a]);printf("%-20s%s\n","TOTAL_LINK",N);}'20。收集并分析其他日志文件下2012-05-04访问量最大的前20个页面的URL，排序cataccess.log|grep'04/May/2012'|awk'{print$11}'|sort|uniq-c|sort-nr|head-20查询访问页面的URL地址中www.abc.com的IP地址cataccess_log|awk'($11~/\www.abc.com/){print$1}'|sort|uniq-c|sort-nr获取前10个IP地址，同时按时间查询catlinewow-access.log|awk'{print$1}'|sort|uniq-c|sort-nr|head-10时间段查询日志时间段catlog_file|egrep'15/Aug/2015|16/Aug/2015'|awk'{print$1}'|sort|uniq-c|sort-nr|head-10分析"/index.php?g=Member&m=的IPpublic&a=sendValidCode"2015/8/15到2015/8/16逆序访问catlog_file|egrep'15/Aug/2015|16/Aug/2015'|awk'{if($7=="/index.php?g=Member&m=Public&a=sendValidCode")print$1,$7}'|sort|uniq-c|sort-nr($7~/.php/)如果$7包含.php，则输出，这句话的意思是最次-consuming一百个PHP页面catlog_file|awk'($7~/\.php/){print$NF""$1""$4""$7}'|sort-nr|head-100列出最耗时的Pages（超过60秒）和对应页面出现的次数*cataccess.log|awk'($NF>60&&$7~/.php/){print$7}'|sort-n|uniq-c|sort-nr|head-100统计网站流量(G)cataccess.log|awk'{sum+=$10}END{printsum/1024/1024/1024}'统计404个连接awk'($9~/404/)'access.log|awk'{print$9,$7}'|排序统计httpstatus.cataccess.log|awk'{counts[$(9)]+=1};END{for(codeincounts)printcode,counts[code]}'cataccess.log|awk'{print$9}'|sort|uniq-c|sort-rn每秒并发：watch"awk'{if($9~/200|30|404/)COUNT[$4]++}END{for(ainCOUNT)printa,COUNT[a]}'log_file|sort-k2-nr|head-n10"bandwidthstatisticscatapache.log|awk'{if($7~/GET/)count++}END{print"client_request="count}'catapache.log|awk'{BYTE+=$11}END{print"client_kbyte_out="BYTE/1024"KB"}'找出一天访问量最大的10个IP猫/tmp/access.log|grep"20/Mar/2011"|awk'{print$3}'|sort|uniq-c|sort-nr|head今天ip连接数最多的ips在做什么：cataccess.log|grep"10.0.21.17"|awk'{print$8}'|排序|uniq-c|排序-nr|head-n10小时内ip连接数最多的10个时段awk-vFS="[:]"'{gsub("-.*","",$1);num[$2""$1]++}END{for(iinnum)printi,num[i]}'日志文件|排序-n-k3-r|head-10找出访问最多的分钟awk'{print$1}'access.log|grep"20/Mar/2011"|cut-c14-18|sort|uniq-c|sort-nr|head取5分钟日志if[$DATE_MINUTE!=$DATE_END_MINUTE];then#判断开始时间戳和结束时间时间戳是否相等START_LINE=sed-n"/$DATE_MINUTE/="$APACHE_LOG|head-n1#如果不相等，则取出开始时间戳的行号和结束时间戳的行号，查看链接状态tcpnetstat-nat|awk'{print$6}'|sort|uniq-c|sort-rnnetstat-n|awk'/^tcp/{++S[$NF]};END{for(ainS)printa,S[a]}'netstat-n|awk'/^tcp/{++state[$NF]};END{for(keyinstate)printkey,"\t",state[key]}'netstat-n|awk'/^tcp/{++arr[$NF]};END{for(kinarr)printk,"\t",arr[k]}'netstat-n|awk'/^tcp/{print$NF}'|sort|uniq-c|sort-rnnetstat-ant|Awk'{print$NF}'|grep-v'[a-z]'|排序|uniq-cnetstat-ant|awk'/ip:80/{split($5,ip,":");++S[ip[1]]}END{for(ainS)printS[a],a}'|sort-nnetstat-ant|awk'/:80/{split($5,ip,":");++S[ip[1]]}END{for(ainS)printS[a],a}'|sort-rn|head-n10awk'BEGIN{printf("http_code\tcount_num\n")}{COUNT[$10]++}END{for(ainCOUNT)printfa"\t\t"COUNT[a]"\n"}'查找请求数量前20的IP（常用于查找攻击源）：netstat-anlp|grep80|greptcp|awk'{print$5}'|awk-F:'{print$1}'|sort|uniq-c|sort-nr|head-n20netstat-ant|awk'/:80/{split($5,ip,":");++A[ip[1]]}END{for(iinA)printA[i],i}'|sort-rn|head-n20sniffwithtcpdump探索端口80查看谁拥有最高访问权限tcpdump-ieth0-tnndst端口80-c1000|awk-F“。”'{打印$1"."$2"."$3"."$4}'|排序|uniq-c|sort-nr|head-20找到更多time_wait连接netstat-n|grepTIME_WAIT|awk'{print$5}'|sort|uniq-c|sort-rn|head-n20找到更多SYN连接netstat-an|grep同步|awk'{print$5}'|awk-F:'{print$1}'|排序|uniq-c|排序-nr|按端口列出更多进程netstat-ntlp|grep80|awk'{print$7}'|cut-d/-f1查看连接数和当前连接数netstat-ant|grep$ip:80|wc-lnetstat-蚂蚁|grep$ip:80|grepEST|wc-l查看IP访问次数netstat-nat|grep":80"|awk'{print$5}'|awk-F:'{print$1}'|排序|uniq-c|sort-nlinux命令分析当前Link状态netstat-n|awk'/^tcp/{++S[$NF]}END{for(ainS)printa,S[a]}'watch"netstat-n|awk'/^tcp/{++S[$NF]}END{for(ainS)printa,S[a]}'"#可以随时通过watch5监听LAST_ACK关闭一个TCP连接需要分别从两个方向关闭，双方发送FIN表示单向数据的关闭。当通信中的双方发送最后一个FIN时，发送方此时处于LAST_ACK状态。当发送方收到对方的确认（Fin的Ack确认）后，才真正关闭整个TCP连接；SYN_RECV30#表示等待处理的请求数；ESTABLISHED1597#表示正常数据传输状态；FIN_WAIT151#表示服务器端主动请求关闭tcp连接；FIN_WAIT2504#表示客户端中断连接；TIME_WAIT1057#表示已经处理完等待超时结束的请求数；AppendixJanuaryJanJanuaryFebruaryFebruaryMarchMarMarchAprilAprAprilMayMayJuneJuneJulyJulyJulyAugustAugestSeptOctOctoberNovemberNovemberDecemberDecember-----------------------结尾-----------------------
