當前位置: 妍妍網 > 碼農

周五如期而至,配上日常運維10個指令碼更佳~

2024-05-31碼農

關註上方 浩道Linux ,回復 資料 ,即可獲取海量 L inux Python 網路通訊、網路安全 等學習資料!

前言

大家好,這裏是 浩道Linux ,主要給大家分享 L inux P ython 網路通訊、網路安全等 相關的IT知識平台。

周五不會缺席,日常運維指令碼如約而至,今天浩道跟大家分享一些經典運維shell指令碼,助你提升日常運維指令碼能力,一起卷一卷!

1、檢測兩台伺服器指定目錄下的檔一致性

#!/bin/bash
######################################
檢測兩台伺服器指定目錄下的檔一致性
#####################################
#透過對比兩台伺服器上檔的md5值,達到檢測一致性的目的
dir=/data/web
b_ip=192.168.88.10
#將指定目錄下的檔全部遍歷出來並作為md5sum命令的參數,進而得到所有檔的md5值,並寫入到指定檔中
find $dir -type f|xargs md5sum > /tmp/md5_a.txt
ssh $b_ip"find $dir -type f|xargs md5sum > /tmp/md5_b.txt"
scp $b_ip:/tmp/md5_b.txt /tmp
#將檔名作為遍歷物件進行一一比對
for f in `awk '{print $2} /tmp/md5_a.txt'`do
#以a機器為標準,當b機器不存在遍歷物件中的檔時直接輸出不存在的結果
if grep -qw "$f" /tmp/md5_b.txt
then
md5_a=`grep -w "$f" /tmp/md5_a.txt|awk '{print $1}'`
md5_b=`grep -w "$f" /tmp/md5_b.txt|awk '{print $1}'`
#當檔存在時,如果md5值不一致則輸出檔改變的結果
if [ $md5_a != $md5_b ]then
echo"$f changed."
fi
else
echo"$f deleted."
fi
done

2、定時清空檔內容,定時記錄檔大小

#!/bin/bash
#################################################################
每小時執行一次指令碼(任務計劃),當時間為0點或12點時,將目標目錄下的所有檔內#容清空,但不刪除檔,其他時間則只統計各個檔的大小,一個檔一行,輸出到以時#間和日期命名的檔中,需要考慮目標目錄下二級、三級等子目錄的檔
################################################################
logfile=/tmp/`date +%H-%F`.log
n=`date +%H`
if [ $n -eq 00 ] || [ $n -eq 12 ]
then
#透過for迴圈,以find命令作為遍歷條件,將目標目錄下的所有檔進行遍歷並做相應操作
for i in `find /data/log/ -type f`
do
true > $i
done
else
for i in `find /data/log/ -type f`
do
du -sh $i >> $logfile
done
fi

3、檢測網卡流量,並按規定格式記錄在日誌中

#!/bin/bash
#######################################################
#檢測網卡流量,並按規定格式記錄在日誌中#規定一分鐘記錄一次
#日誌格式如下所示:
#2019-08-12 20:40
#ens33 input: 1234bps
#ens33 output: 1235bps
######################################################3
while :
do
#設定語言為英文,保障輸出結果是英文,否則會出現bug
LANG=en
logfile=/tmp/`date +%d`.log
#將下面執行的命令結果輸出重新導向到logfile日誌中
exec >> $logfile
date +"%F %H:%M"
#sar命令統計的流量單位為kb/s,日誌格式為bps,因此要*1000*8
sar -n DEV 1 59|grep Average|grep ens33|awk '{print $2,"\t","input:","\t",$5*1000*8,"bps","\n",$2,"\t","output:","\t",$6*1000*8,"bps"}'
echo"####################"
#因為執行sar命令需要59秒,因此不需要sleep
done

4、計算文件每行出現的數位個數,並計算整個文件的數位總數

#!/bin/bash
#########################################################
#計算文件每行出現的數位個數,並計算整個文件的數位總數
########################################################
#使用awk只輸出文件行數(截取第一段)
n=`wc -l a.txt|awk '{print $1}'`
sum=0
#文件中每一行可能存在空格,因此不能直接用文件內容進行遍歷
for i in `seq 1 $n`do
#輸出的行用變量表示時,需要用雙引號
line=`sed -n "$i"p a.txt`#wc -L選項,統計最長行的長度
n_n=`echo$line|sed s'/[^0-9]//'g|wc -L`
echo$n_nsum=$[$sum+$n_n]
done
echo"sum:$sum"

殺死所有指令碼

#!/bin/bash
################################################################
#有一些指令碼加入到了cron之中,存在指令碼尚未執行完畢又有新任務需要執行的情況,
#導致系統負載升高,因此可透過編寫指令碼,篩選出影響負載的行程一次性全部殺死。
################################################################
ps aux|grep 指定行程名|grep -v grep|awk '{print $2}'|xargs kill -9

5、從 FTP 伺服器下載檔

#!/bin/bash
if [ $# -ne 1 ]; then
echo"Usage: $0 filename"
fi
dir=$(dirname $1)
file=$(basename $1)
ftp -n -v << EOF # -n 自動登入
open 192.168.1.10 # ftp伺服器
user admin password
binary # 設定ftp傳輸模式為二進制,避免MD5值不同或.tar.gz壓縮包格式錯誤
cd$dir
get "$file"
EOF

6、連續輸入5個100以內的數位,統計和、最小和最大

#!/bin/bash
COUNT=1
SUM=0
MIN=0
MAX=100
while [ $COUNT -le 5 ]; do
read -p "請輸入1-10個整數:" INT
if [[ ! $INT =~ ^[0-9]+$ ]]; then
echo"輸入必須是整數!"
exit 1
elif [[ $INT -gt 100 ]]; then
echo"輸入必須是100以內!"
exit 1
fi
SUM=$(($SUM+$INT))
$MIN -lt $INT ] && MIN=$INT
$MAX -gt $INT ] && MAX=$INT
let COUNT++
done
echo"SUM: $SUM"
echo"MIN: $MIN"
echo"MAX: $MAX

使用者猜數位

#!/bin/bash # 指令碼生成一個 100 以內的隨機數,提示使用者猜數位,根據使用者的輸入,提示使用者猜對了,
# 猜小了或猜大了,直至使用者猜對指令碼結束。
# RANDOM 為系統內建的系統變量,值為 0‐32767的隨機數
# 使用取余演算法將隨機數變為 1‐100 的隨機數num=$[RANDOM0+1]echo "$num" 
# 使用 read 提示使用者猜數位
# 使用 if 判斷使用者猜數位的大小關系:‐eq(等於),‐ne(不等於),‐gt(大於),‐ge(大於等於),
# ‐lt(小於),‐le(小於等於)
while :
do
read -p "電腦生成了一個 1‐100 的隨機數,你猜: " cai
if [ $cai -eq $num ]
then
echo"恭喜,猜對了"
exit
elif [ $cai -gt $num ]
then
echo"Oops,猜大了"
else
echo"Oops,猜小了"
fi
done

7、監測 Nginx 存取日誌 502 情況,並做相應動作

假設伺服器環境為 lnmp,近期存取經常出現 502 現象,且 502 錯誤在重新開機 php-fpm 服務後消失,因此需要編寫監控指令碼,一旦出現 502,則自動重新開機 php-fpm 服務。

#場景:
#1.存取日誌檔的路徑:/data/log/access.log
#2.指令碼死迴圈,每10秒檢測一次,10秒的日誌條數為300條,出現502的比例不低於10%(30條)則需要重新開機php-fpm服務
#3.重新開機命令為:/etc/init.d/php-fpm restart
#!/bin/bash
###########################################################
#監測Nginx存取日誌502情況,並做相應動作
###########################################################
log=/data/log/access.log
N=30 #設定閾值
while :do
#檢視存取日誌的最新300條,並統計502的次數
err=`tail -n 300 $log |grep -c '502" '
if [ $err -ge $N ] 
then
/etc/init.d/php-fpm restart 2> /dev/null 
#設定60s延遲防止指令碼bug導致無限重新開機php-fpm服務
sleep 60
fi
 sleep 10
done

8、將結果分別賦值給變量

套用場景:希望將執行結果或者位置參數賦值給變量,以便後續使用。

方法1:

for i in $(echo"4 5 6"); do
eval a$i=$idone
echo$a4$a5$a6

方法2:將位置參數192.168.1.1{1,2}拆分為到每個變量

num=0
for i in $(evalecho $*);do#eval將{1,2}分解為1 2
let num+=1
eval node${num}="$i"
done
echo$node1$node2$node3
# bash a.sh 192.168.1.1{1,2}
192.168.1.11 192.168.1.12
方法3:arr=(4 5 6)
INDEX1=$(echo${arr[0]})
INDEX2=$(echo${arr[1]})
INDEX3=$(echo${arr[2]})

9、批次修改檔名

範例:

# touch article_{1..3}.html
# lsarticle_1.html article_2.html article_3.html
目的:把article改為bbs

方法1:

for file in $(ls *html); do
mv $file bbs_${file#*_}
# mv $file $(echo $file |sed -r 's/.*(_.*)/bbs\1/')
# mv $file $(echo $file |echo bbs_$(cut -d_ -f2)

方法2:


for file in $(find . -maxdepth 1 -name "*html"); do
mv $file bbs_${file#*_}done

方法3:

# rename article bbs *.html
把一個文件前五行中包含字母的行刪掉,同時刪除6到10行包含的所有字母
1)準備測試檔,檔名為2.txt
第1行1234567不包含字母
第2行56789BBBBBB
第3行67890CCCCCCCC
第4行78asdfDDDDDDDDD
第5行123456EEEEEEEE
第6行1234567ASDF
第7行56789ASDF
第8行67890ASDF
第9行78asdfADSF
第10行123456AAAA
第11行67890ASDF
第12行78asdfADSF
第13行123456AAAA

2)指令碼如下:

#!/bin/bash
###############################################################
把一個文件前五行中包含字母的行刪掉,同時刪除6到10行包含的所有字母
##############################################################
sed -n '1,5'p 2.txt |sed '/[a-zA-Z]/'d
sed -n '6,10'p 2.txt |sed s'/[a-zA-Z]//'g
sed -n '11,$'p 2.txt
#最終結果只是在螢幕上打印結果,如果想直接更改檔,可將輸出結果寫入臨時檔中,再替換2.txt或者使用-i選項

10、統計當前目錄中以.html結尾的檔總大

方法1:

# find . -name "*.html" -exec du -k {} \; |awk '{sum+=$1}END{print sum}'
方法2:
```bash
for size in $(ls -l *.html |awk '{print $5}'); do
sum=$(($sum+$size))
done
echo$sum

11、掃描主機埠狀態

#!/bin/bash
HOST=$1
PORT="22 25 80 8080"
for PORT in$PORTdo
ifecho &>/dev/null > /dev/tcp/$HOST/$PORTthen
echo"$PORT open"
else
echo"$PORT close"
fi
done
用 shell 打印範例語句中字母數小於6的單詞
#範例語句:
#Bash also interprets a number of multi-character options.
#!/bin/bash
##############################################################
#shell打印範例語句中字母數小於6的單詞
##############################################################
for s in Bash also interprets a number of multi-character options.
do
 n=`echo$s|wc -c` 
if [ $n -lt 6 ] 
then
echo$s
fi
done

12、輸入數位執行相應命令

#!/bin/bash
##############################################################
#輸入數位執行相應命令
##############################################################
echo"*cmd menu* 1-date 2-ls 3-who 4-pwd 0-exit "
while :
do
#捕獲使用者鍵入值
read -p "please input number :" n
 n1=`echo$n|sed s'/[0-9]//'g`
#空輸入檢測 
if [ -z "$n" ]
then
continue
fi
#非數位輸入檢測 
if [ -n "$n1" ]
then
exit 0
fi
break
done
case$nin
 1)
 date
 ;;
 2)
 ls
 ;;
 3)
 who
 ;;
 4)
pwd
 ;;
 0)
break
 ;;
#輸入數位非1-4的提示
 *)
echo"please input number is [1-4]"
esac

13、Expect 實作 SSH 免互動執行命令

Expect是一個自動互動式應用程式的工具,如telnet,ftp,passwd等。

需先安裝expect軟體包。

方法1:EOF標準輸出作為expect標準輸入

#!/bin/bash
USER=root
PASS=123.com
IP=192.168.1.120
expect << EOFset timeout 30spawn ssh $USER@$IP expect { "(yes/no)" {send "yes\r"; exp_continue} "password:" {send "$PASS\r"}
}
expect "$USER@*" {send "$1\r"}
expect "$USER@*" {send "exit\r"}
expect eof
EOF

方法2:

#!/bin/bash
USER=root
PASS=123.com
IP=192.168.1.120
expect -c "
spawn ssh $USER@$IP
expect {
\"(yes/no)\" {send \"yes\r\"; exp_continue}
\"password:\" {send \"$PASS\r\"; exp_continue}
\"$USER@*\" {send \"df -h\r exit\r\"; exp_continue}
}"

方法3:將expect指令碼獨立出來

登入指令碼:
# cat login.exp
#!/usr/bin/expect
set ip [lindex $argv 0]
set user [lindex $argv 1]
set passwd [lindex $argv 2]
set cmd [lindex $argv 3]
if { $argc != 4 } {
puts "Usage: expect login.exp ip user passwd"
exit 1
}
set timeout 30
spawn ssh $user@$ip
expect {
"(yes/no)" {send "yes\r"; exp_continue}
"password:" {send "$passwd\r"}
}
expect "$user@*" {send "$cmd\r"}
expect "$user@*" {send "exit\r"}
expect eof

執行命令指令碼:寫個迴圈可以批次操作多台伺服器

#!/bin/bash
HOST_INFO=user_info.txt
for ip in $(awk '{print $1}'$HOST_INFO)
do
user=$(awk -v I="$ip"'I==$1{print $2}'$HOST_INFO)
pass=$(awk -v I="$ip"'I==$1{print $3}'$HOST_INFO)
expect login.exp $ip$user$pass$1
done
Linux主機SSH連線資訊:
# cat user_info.txt
192.168.1.120 root 123456
建立10個使用者,並分別設定密碼,密碼要求10位且包含大小寫字母以及數位,最後需要把每個使用者的密碼存在指定檔中
```bash
#!/bin/bash
##############################################################
#建立10個使用者,並分別設定密碼,密碼要求10位且包含大小寫字母以及數位
#最後需要把每個使用者的密碼存在指定檔中#前提條件:安裝mkpasswd命令
##############################################################
#生成10個使用者的序列(00-09)
for u in `seq -w 0 09`do
#建立使用者
 useradd user_$u
#生成密碼
 p=`mkpasswd -s 0 -l 10` 
#從標準輸入中讀取密碼進行修改(不安全)
echo$p|passwd --stdin user_$u
#常規修改密碼
echo -e "$p\n$p"|passwd user_$u
#將建立的使用者及對應的密碼記錄到日誌檔中
echo"user_$u$p" >> /tmp/userpassworddone

14、監控 httpd 的行程數,根據監控情況做相應處理

#!/bin/bash
###############################################################################################################################
#需求:
#1.每隔10s監控httpd的行程數,若行程數大於等於500,則自動重新開機Apache服務,並檢測服務是否重新開機成功
#2.若未成功則需要再次啟動,若重新開機5次依舊沒有成功,則向管理員發送告警信件,並結束檢測
#3.如果啟動成功,則等待1分鐘後再次檢測httpd行程數,若行程數正常,則恢復正常檢測(10s一次),否則放棄重新開機並向管理員發送告警信件,並結束檢測
###############################################################################################################################
#計數器函式
check_service()
{
 j=0
for i in `seq 1 5` 
do
#重新開機Apache的命令
 /usr/local/apache2/bin/apachectl restart 2> /var/log/httpderr.log
#判斷服務是否重新開機成功
if [ $? -eq 0 ] then
break
else
 j=$[$j+1] fi
#判斷服務是否已嘗試重新開機5次
if [ $j -eq 5 ] then
 mail.py exit
fi
done }while :do
 n=`pgrep -l httpd|wc -l` 
#判斷httpd服務行程數是否超過500
if [ $n -gt 500 ] then
 /usr/local/apache2/bin/apachectl restart 
if [ $? -ne 0 ] 
then
 check_service 
else
 sleep 60
 n2=`pgrep -l httpd|wc -l` 
#判斷重新開機後是否依舊超過500
if [ $n2 -gt 500 ] 
then
 mail.py exit
fi
fi
fi
#每隔10s檢測一次
 sleep 10done

15、批次修改伺服器使用者密碼

Linux主機SSH連線資訊:舊密碼

# cat old_pass.txt 
192.168.18.217 root 123456 22
192.168.18.218 root 123456 22
內容格式:IP User Password Port
SSH遠端修改密碼指令碼:新密碼隨機生成
https://www.linuxprobe.com/books
#!/bin/bash
OLD_INFO=old_pass.txt
NEW_INFO=new_pass.txt
for IP in $(awk '/^[^#]/{print $1}'$OLD_INFO); do
USER=$(awk -v I=$IP'I==$1{print $2}'$OLD_INFO)
PASS=$(awk -v I=$IP'I==$1{print $3}'$OLD_INFO)
PORT=$(awk -v I=$IP'I==$1{print $4}'$OLD_INFO)
NEW_PASS=$(mkpasswd -l 8) # 隨機密碼
echo"$IP$USER$NEW_PASS$PORT" >> $NEW_INFO
expect -c "
spawn ssh -p$PORT$USER@$IP
set timeout 2
expect {
\"(yes/no)\" {send \"yes\r\";exp_continue}
\"password:\" {send \"$PASS\r\";exp_continue}
\"$USER@*\" {send \"echo \'$NEW_PASS\' |passwd --stdin $USER\r exit\r\";exp_continue}
}"

done
生成新密碼檔:
# cat new_pass.txt 
192.168.18.217 root n8wX3mU% 22
192.168.18.218 root c87;ZnnL 22

16、iptables 自動遮蔽存取網站頻繁的IP

場景:惡意存取,安全防範

1)遮蔽每分鐘存取超過200的IP

方法1:根據存取日誌(Nginx為例)

#!/bin/bash
DATE=$(date +%d/%b/%Y:%H:%M)
ABNORMAL_IP=$(tail -n5000 access.log |grep $DATE |awk '{a[$1]++}END{for(i in a)if(a[i]>100)print i}')
#先tail防止檔過大,讀取慢,數位可調整每分鐘最大的存取量。awk不能直接過濾日誌,因為包含特殊字元。
for IP in$ABNORMAL_IPdo
if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
iptables -I INPUT -s $IP -j DROP fidone

方法2:透過TCP建立的連線

#!/bin/bash
ABNORMAL_IP=$(netstat -an |awk '$4~/:80$/ && $6~/ESTABLISHED/{gsub(/:[0-9]+/,"",$5);{a[$5]++}}END{for(i in a)if(a[i]>100)print i}')
#gsub是將第五列(客戶端IP)的冒號和埠去掉
for IP in$ABNORMAL_IPdo
if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
iptables -I INPUT -s $IP -j DROP
fi
done

2)遮蔽每分鐘SSH嘗試登入超過10次的IP

方法1:透過lastb獲取登入狀態:

#!/bin/bash
DATE=$(date +"%a %b %e %H:%M"#星期月天分時 %e單數位時顯示7,而%d顯示07
ABNORMAL_IP=$(lastb |grep "$DATE" |awk '{a[$3]++}END{for(i in a)if(a[i]>10)print i}')for IP in$ABNORMAL_IPdo
if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
iptables -I INPUT -s $IP -j DROP fidone

方法2:透過日誌獲取登入狀態

#!/bin/bash
DATE=$(date +"%b %d %H")
ABNORMAL_IP="$(tail -n10000 /var/log/auth.log |grep "$DATE" |awk '/Failed/{a[$(NF-3)]++}END{for(i in a)if(a[i]>5)print i}')"
for IP in$ABNORMAL_IPdo
if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
iptables -A INPUT -s $IP -j DROP
echo"$(date +"%F %T") - iptables -A INPUT -s $IP -j DROP" >>~/ssh-login-limit.log
fi
done

17、根據web存取日誌,封禁請求量異常的IP,如IP在半小時後恢復正常,則解除封禁

#!/bin/bash
####################################################################################
#根據web存取日誌,封禁請求量異常的IP,如IP在半小時後恢復正常,則解除封禁
####################################################################################
logfile=/data/log/access.log
#顯示一分鐘前的小時和分鐘
d1=`date -d "-1 minute" +%H%M`
d2=`date +%M`
ipt=/sbin/iptables
ips=/tmp/ips.txt
block()

#將一分鐘前的日誌全部過濾出來並提取IP以及統計存取次數
 grep '$d1:'$logfile|awk '{print $1}'|sort -n|uniq -c|sort -n > $ips
#利用for迴圈將次數超過100的IP依次遍歷出來並予以封禁
for i in `awk '$1>100 {print $2}'$ips
do
$ipt -I INPUT -p tcp --dport 80 -s $i -j REJECT 
echo"`date +%F-%T` $i" >> /tmp/badip.log 
done
}
unblock()

#將封禁後所產生的pkts數量小於10的IP依次遍歷予以解封
for a in `$ipt -nvL INPUT --line-numbers |grep '0.0.0.0/0'|awk '$2<10 {print $1}'|sort -nr` 
do
$ipt -D INPUT $a
done
$ipt -Z
}
#當時間在00分以及30分時執行解封函式
if [ $d2 -eq "00" ] || [ $d2 -eq "30" ] 
then
#要先解再封,因為剛剛封禁時產生的pkts數量很少
 unblock
 block 
else
 block
fi

18、判斷使用者輸入的是否為IP地址

方法1:

#!/bin/bash
functioncheck_ip(){
IP=$1
VALID_CHECK=$(echo$IP|awk -F. '$1< =255&&$2<=255&&$3<=255&&$4<=255{print "yes"}')
ifecho$IP|grep -E "^[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}$">/dev/null; then
if [ $VALID_CHECK == "yes" ]; then
echo"$IP available."
else
echo"$IP not available!"
fi
else
echo"Format error!"
fi
}
check_ip 192.168.1.1
check_ip 256.1.1.1

方法2:

#!/bin/bash
functioncheck_ip(){
IP=$1
if [[ $IP =~ ^[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}$ ]]; then
FIELD1=$(echo$IP|cut -d. -f1)
FIELD2=$(echo$IP|cut -d. -f2)
FIELD3=$(echo$IP|cut -d. -f3)
FIELD4=$(echo$IP|cut -d. -f4)
if [ $FIELD1 -le 255 -a $FIELD2 -le 255 -a $FIELD3 -le 255 -a $FIELD4 -le 255 ]; then
echo"$IP available."
else
echo"$IP not available!"
fi
else
echo"Format error!"
fi
}
check_ip 192.168.1.1
check_ip 256.1.1.1

增加版:

加個死迴圈,如果IP可用就結束,不可用提示繼續輸入,並使用awk判斷。

#!/bin/bash
functioncheck_ip(){
local IP=$1
VALID_CHECK=$(echo$IP|awk -F. '$1< =255&&$2<=255&&$3<=255&&$4<=255{print "yes"}')
ifecho$IP|grep -E "^[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}$" >/dev/null; then
if [ $VALID_CHECK == "yes" ]; then
return 0
else
echo"$IP not available!"
return 1
fi
else
echo"Format error! Please input again."
return 1
fi
}
whiletruedo
read -p "Please enter IP: " IP
check_ip $IP
[ $? -eq 0 ] && break || continue
done

更多精彩

關註公眾號 浩道Linux

浩道Linux ,專註於 Linux系統 的相關知識、 網路通訊 網路安全 Python相關 知識以及涵蓋IT行業相關技能的學習, 理論與實戰結合,真正讓你在學習工作中真正去用到所學。同時也會分享一些面試經驗,助你找到高薪offer,讓我們一起去學習,一起去進步,一起去漲薪!期待您的加入~~~ 關註回復「資料」可 免費獲取學習資料 (含有電子書籍、視訊等)。

喜歡的話,記得 點「贊」 「在看」