基于nginx日志，封蜘蛛IP

#! /bin/bash

grep 'spider' /home/logs/client/access.log |grep -v 'Baidu' |awk '{print $1}' >/root/ip1.txt  //日志中大部分蜘蛛都有spider的关键字，但是百度的不能封，所以过滤掉百度
grep 'YoudaoBot' /home/logs/client/access.log  | awk '{print $1}' >>/root/ip1.txt  // 封掉网易的有道
grep 'Yahoo!' /home/logs/client/access.log  | awk '{print $1}' >>/root/ip1.txt  //封掉雅虎
sort -n /root/ip1.txt |uniq  |sort |grep -v '192.168.0.' |grep -v '127.0.0.1'>/root/ip2.txt // 过滤掉信任IP
/sbin/iptables -nvL |awk '$1 <= 30 {print $8}' >/root/ip3.txt  // 如果一小时内，发包不超过30个就要解封
for ip in `cat /root/ip3.txt`; do /sbin/iptables -D INPUT -s $ip -j DROP ; done
/sbin/iptables -Z // 将iptables计数器置为0
for ip in `cat /root/ip2.txt`; do /sbin/iptables -I INPUT -s $ip -j DROP ; done

shell 将字符串反向显示

写一个shell脚本，将输入的字符串反转过来显示。即如果输入的字符串是”12345”,则输出的是”54321”。

vim  r.sh#!/bin/bash
str=$1;
len=${#str};
for((i=len;i>-1;i--))
do
echo -n "${str:i:1}"
done
echo运行   
sh   r.sh  "12345"
结果：
54321

在0到9的数字前加一个零，大于9的不加

#! /bin/bash
for i in `seq 0 23`; do
        if [ $i -lt 10 ] ; then
                itask=`echo $i |sed 's/[0-9]/0&/'`
                echo $itask
        else itask=`echo $i`
                echo $itask
        fi
done

打印文件中特定的某行到某行之间的内容

例如：有个文件test的内容如下：
ert
fff
**
[abcfd]
123
324
444
[rty]
**
fgfgf
怎么能截取
[abcfd]
123
324
444
[rty]
这一部分出来呢？

答案： sed -n '/\[abcfd\]/,/\[rty\]/p' test

系统巡检脚本

要求如下：
请使用vmstat采集间隔1秒连续60秒得数据，汇总各项数据的平均值，一并形成一个报告。


答案：#! /bin/bash

## for vmstat 1 60 and get the average number.
## Writern by Aming.

comm="/usr/bin/vmstat"
f1="/tmp/1.txt"
f2="/tmp/2.txt"
f3="/tmp/3.txt"

$comm 1 60 >$f1
tail -n 60 $f1 >$f2
n=`awk '{print NF}' $f2 |head -n1`
echo "">$f3
for i in `seq 1 $n`; do
        awk 'BEGIN {a=0}; {a=a+$"'$i'"};END{print a/NR}' $f2 >> $f3
done

cat $f1
echo "the average number is:"
echo "-----------------------------------------------------------------------------------"
cat $f3|xargs

打印test文件里面空行所在的行号

test的文件内容如下：
root:x:0:0:root:/root:/bin/bash

daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
halt:x:7:0:halt:/sbin:/sbin/halt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
operator:x:11:0:operator:/root:/sbin/nologin
root:x:0:0:root:/root:/bin/bash

daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
halt:x:7:0:halt:/sbin:/sbin/halt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
operator:x:11:0:operator:/root:/sbin/nologin
games:x:12:100:games:/usr/games:/sbin/nologin

gopher:x:13:30:gopher:/var/gopher:/sbin/nologin
ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin

答案：grep ^$ test -n|awk -F: '{print $1}' 或者cat test -n |awk '$2~/^$/{print $1}'

Shell脚本实现

我想把root下的2009年的目录都在当前目录打包，之后在把这些文件夹删除，怎么写脚本啊？
这是不是要做两次匹配啊！先匹配一次是d开头的目录，再匹配一次2009日期什么的，最后删除，前面的我会写，后面就匹配日期了我就不会了~~请高手帮忙！！！

Strace 命令详解

strace 命令是一种强大的工具, 能够显示任何由用户空间程式发出的系统调用. strace 显示这些调用的参数并返回符号形式的值. strace 从内核接收信息, 而且无需以任何特别的方式来构建内核. strace 的每一行输出包括系统调用名称, 然后是参数和返回值.
下面记录几个常用option:

-f -F选项告诉strace同时跟踪fork和vfork出来的进程
-o xxx.txt 输出到某个文档.
-e execve 只记录 execve 这类系统调用.

参数说明

-c 统计每一系统调用的所执行的时间,次数和出错的次数等.
-d 输出strace关于标准错误的调试信息.
-f 跟踪由fork调用所产生的子进程.
-ff 如果提供-o filename,则所有进程的跟踪结果输出到相应的filename.pid中,pid是各进程的进程号.
-F 尝试跟踪vfork调用.在-f时,vfork不被跟踪.
-h 输出简要的帮助信息.
-i 输出系统调用的入口指针.
-q 禁止输出关于脱离的消息.
-r 打印出相对时间关于每一个系统调用.
-t 在输出中的每一行前加上时间信息.
-tt 在输出中的每一行前加上时间信息,微秒级.
-ttt 微秒级输出,以秒了表示时间.
-T 显示每一调用所耗的时间.
-v 输出所有的系统调用.一些调用关于环境变量,状态,输入输出等调用由于使用频繁,默认不输出.
-V 输出strace的版本信息.
-x 以十六进制形式输出非标准字符串.
-xx 所有字符串以十六进制形式输出.
-a column 设置返回值的输出位置.默认 为40.
-e expr 指定一个表达式,用来控制如何跟踪.格式如下:
[qualifier=][!]value1[,value2]...
qualifier只能是 trace,abbrev,verbose,raw,signal,read,write其中之一.value是用来限定的符号或数字.默认的 qualifier是 trace.感叹号是否定符号.例如-eopen等价于 -e trace=open,表示只跟踪open调用.而-etrace!=open表示跟踪除了open以外的其它调用.有两个特殊的符号 all 和 none. 注意有些shell使用!来执行历史记录里的命令,所以要使用\\.
-e trace=set 只跟踪指定的系统调用.例如:-e trace=open,close,rean,write表示只跟踪这四个系统调用.默认的为set=all.
-e trace=file 只跟踪有关文件操作的系统调用.
-e trace=process 只跟踪有关进程控制的系统调用.
-e trace=network 跟踪与网络有关的所有系统调用.
-e strace=signal 跟踪所有与系统信号有关的系统调用.
-e trace=ipc 跟踪所有与进程通讯有关的系统调用.
-e abbrev=set 设定strace输出的系统调用的结果集.-v 等与 abbrev=none.默认为abbrev=all.
-e raw=set 将指定的系统调用的参数以十六进制显示.
-e signal=set 指定跟踪的系统信号.默认为all.如 signal=!SIGIO(或者signal=!io),表示不跟踪SIGIO信号.
-e read=set 输出从指定文件中读出的数据.例如-e read=3,5
-e write=set 输出写入到指定文件中的数据.
-o filename 将strace的输出写入文件filename
-p pid 跟踪指定的进程pid.
-s strsize 指定输出的字符串的最大长度.默认为32.文件名一直全部输出.
-u username 以username 的UID和GID执行被跟踪的命令.

脚本问题

需求：备份并压缩/etc目录的所有内容，存放在/root/bak目录里，且文件名为如下形式yymmdd_etc，yy为年，mm为月，dd为日。
我的脚本是这样写的

请高手帮我分析一下为什么我备份后出现的是yymmdd.tar.gz呢？而不是yymmdd_etc呢？请在我的脚本的基础上修改！！！谢谢！

网卡发包很大时抓包脚本

apache 和 nginx 切换

背景：web服务器上默认跑apache，但是偶尔会有负载超级高的时候，（可能是配置了华盾），idc机房又要求必须使用华盾，而且华盾不支持nginx。我们的服务器跑nginx两年一直好好的，可换apache后总是负载很高。所以我想到，当负载高到一定程度时，就切换nginx，当负载降下来再切换回apache。#! /bin/bash

killphp(){
if `pgrep  'php-fpm'>/dev/null` ; then
        /usr/local/php/sbin/php-fpm stop
        killall -9 php-fpm
fi
}

killnginx(){
if `pgrep  'nginx' >/dev/null`; then
        /etc/init.d/nginx stop
        killall -9 nginx
fi
}

killhttpd(){
if `pgrep 'httpd'>/dev/null`; then
        killall httpd
        kill -9 `ps aux |grep httpd |grep -v 'grep ' |awk '{print $2}'`
fi
}

starthttpd(){
if `pgrep 'httpd'>/dev/null`; then
        echo ok >/dev/null
else
        /usr/local/apache2/bin/apachectl start
fi
}

startibsys(){
if `pgrep 'ibsysServer'>/dev/null`; then
        echo ok >/dev/null
else
        /usr/local/ibsys/ibsysServer
fi
}

Load(){

w|grep load |awk -F 'average:' '{print $2}'|awk '{print $1}' |cut -d'.' -f 1

}

rmail="[email protected]"
L="35"

while :; do

        killphp
        killnginx
        starthttpd
        startibsys

        load=`Load`
        if [ $load -gt $L ]; then
                free >>/tmp/load.log
                top -bn1 |head -n 100 >>/tmp/load.log
                killhttpd
                killall -9 ibsysServer
                sleep 30
                killphp
                killnginx
                /usr/local/php/sbin/php-fpm start 2>/tmp/mail.txt
                killhttpd
                /etc/init.d/nginx start 2>>/tmp/mail.txt
                echo "web-rr load is more than 50 and the apache stop." >>/tmp/mail.txt && mail -s 'web-rr load' $rmail </tmp/mail.txt
                sleep 120
                load2=`Load`
                if [ $load2 -lt 15 ]; then
                        killphp
                        killnginx
                        starthttpd
                        startibsys
                fi
        fi
        sleep 3
done把这个脚本丢到后台运行即可。

封蜘蛛

#youdao
for i in 248 249 219 220 ; do iptables -I INPUT -s 61.135.$i.0/24 -p tcp --dport 80 -j DROP; done
for i in 44 46 64 74 75 154 158 156; do iptables -I INPUT -s 74.125.$i.0/24 -p tcp --dport 80 -j DROP; done
#Tomato Bot
for i in 93 125 94 104 120 88 19 61; do iptables -I INPUT -s 220.181.$i.0/24 -p tcp --dport 80 -j DROP; done
iptables -I INPUT -s 123.126.50.0/24 -p tcp --dport 80 -j DROP
iptables -I INPUT -s 123.126.68.0/24 -p tcp --dport 80 -j DROP
#bing bot
for i in 49 51 53 104 108 109 110 ; do iptables -I INPUT -s 65.52.$i.0/24 -p tcp --dport 80 -j DROP; done
for i in 115 165 25 3 4 37 51 55 ; do iptables -I INPUT -s 65.55.$i.0/24 -p tcp --dport 80 -j DROP; done
for i in 107 16 17 18 50 116 36 37 38 39; do iptables -I INPUT -s 157.55.$i.0/24 -p tcp --dport 80 -j DROP; done
for i in 0 1 2 ; do iptables -I INPUT -s 157.56.$i.0/24 -p tcp --dport 80 -j DROP; done
for i in 12 13 192 193 194 195 199 204; do iptables -I INPUT -s 207.46.$i.0/24 -p tcp --dport 80 -j DROP; done
#Yahoo
for i in `seq 0 6`; do iptables -I INPUT -s 110.75.17$i.0/24 -p tcp --dport 80 -j DROP; done
for i in `seq 0 5`; do iptables -I INPUT -s 67.195.11$i.0/24 -p tcp --dport 80 -j DROP; done
#web-sniffer
iptables -I INPUT -s 58.68.134.10 -p tcp --dport 80 -j DROP
#jikespider
for i in 220 221 219; do iptables -I INPUT -s 1.202.$i.0/24 -p tcp --dport 80 -j DROP; done
#search17
iptables -I INPUT -s 96.31.166.228 -p tcp --dport 80 -j DROP
#YandexBot
iptables -I INPUT -s 95.108.150.235 -p tcp --dport 80 -j DROP
iptables -I INPUT -s 95.108.151.244 -p tcp --dport 80 -j DROP
iptables -I INPUT -s 95.108.244.252 -p tcp --dport 80 -j DROP
iptables -I INPUT -s 95.108.247.252 -p tcp --dport 80 -j DROP
iptables -I INPUT -s 178.154.200.147 -p tcp --dport 80 -j DROP
iptables -I INPUT -s 178.154.200.158 -p tcp --dport 80 -j DROP
#MJ12bot
iptables -I INPUT -s 188.165.248.204 -p tcp --dport 80 -j DROP
iptables -I INPUT -s 173.236.21.106 -p tcp --dport 80 -j DROP
#qihoo
iptables -I INPUT -s 61.55.186.0/24 -p tcp --dport 80 -j DROP

discuz论坛附件递增备份脚本

#! /bin/bash
exec 1>/var/log/serverattbak.log 2>&1
soudir=web:/home/www/attachments
bakdir=/attachments/attbak/serverbak
d=`date --date "-1 day" +%y%m%d`
d2=`date  +%y%m%d`
w=`date +%w`
rs=/usr/bin/rsync
echo serverbak begin at `date`
[ -d $bakdir/server-$w ] || mkdir $bakdir/server-$w
if [ $w = "0" ]; then

        $rs -ar --delete $soudir/* $bakdir/server-$w/
else
        $rs -ar $soudir/day_$d/  $bakdir/server-$w/day_$d/
        $rs -ar $soudir/day_$d2/  $bakdir/server-$w/day_$d2/
        /usr/bin/find $bakdir/server-$w/ -type f -mmin +1600 |xargs rm -f
fi
echo serverbak end at `date`

分享我的一个脚本，检测程序更新，有更新做备份

达到的目的： 项目程序不定期更新，一旦有更新就需要做一次备份，但是一些日志，缓存，临时文件需要排除掉。#! /bin/bash

basedir="/data/web/"
bakdir="/data/web_backup"

while :; do
    cd $basedir
    sum=0
    for f in `ls|grep -v logs|grep -v tmp `; do
        n=`find  $f/ -type f -mmin -5 |wc -l`
        sum=$[$sum+$n]
    done
    prename=`date +%m%d%H%M`
    if [ $sum -gt "0" ]; then
        /usr/bin/rsync -a --exclude=logs --exclude=tmp $basedir $bakdir/$prename\_web
        cd $bakdir
        tar zcf  $prename\_web.tar.gz  $prename\_web
        rm -r $prename\_web
        /usr/bin/find $bakdir/  -mtime +2 |xargs rm -rf
    fi
    sleep 300
done
         

为远程服务器增加rsyncd的信任IP

#! /bin/bash

echo "Please input the new ip:"
read ip
echo "please input the web ip:"
read webip
echo "please input the db ip:"
read dbip

ip1=`echo $ip|awk -F'.' '{print $1"."$2"."$3}'`
ip2=$ip1.0\/24

change(){
    sed  -i "s#\(^hosts.*\)#& $ip2#g" $1
}

addip() {
    scp $1:/etc/rsyncd.conf /tmp/$1-rsyncd.conf >/dev/null
    if grep -q "$ip2" /tmp/$1-rsyncd.conf; then
        echo "$1 has been added the new ip."
    else
        change /tmp/$1-rsyncd.conf
        scp /tmp/$1-rsyncd.conf $1:/etc/rsyncd.conf >/dev/null && echo "$1 add new ip done."
    fi
}

addip $webip
addip $dbip
if grep -q $ip2 /etc/rsyncd.conf; then
    echo ""
else
    change /etc/rsyncd.conf
fi