AWK是Linux下一個非常強大的文本處理工具，能夠分析各種復雜檔。
以下是8個常見的AWK文本處理案例，可助你提升AWK技能！
案例一：分析Nginx存取日誌
統計存取IP次數：
awk '{a[$1]++}END{for(v in a)print v,a[v]}' access.log
統計存取IP次數：
awk '{a[$1]++}END{for(v in a)print v,a[v]}' access.log
統計存取存取大於100次的IP：
awk '{a[$1]++}END{for(v in a){if(a[v]>100)print v,a[v]}}' access.log
統計存取IP次數並排序取前10：
awk '{a[$1]++}END{for(v in a)print v,a[v]|"sort -k2 -nr |head -10"}' access.log
統計時間段存取最多的IP：
awk '$4>="[02/Jan/2017:00:02:00" && $4<="[02/Jan/2017:00:03:00"{a[$1]++}END{for(v in a)print v,a[v]}' access.log
統計上一分鐘存取量：
date=$(date -d '-1 minute' +%d/%d/%Y:%H:%M)
awk -vdate=$date'$4~date{c++}END{print c}' access.log
統計存取最多的10個頁面：
awk '{a[$7]++}END{for(v in a)print v,a[v]|"sort -k1 -nr|head -n10"}' access.log
統計每個URL數量和返回內容總大小:
awk '{a[$7]++;size[$7]+=$10}END{for(v in a)print a[v],v,size[v]}' access.log
統計每個IP存取狀態碼數量：
awk '{a[$1" "$9]++}END{for(v in a)print v,a[v]}' access.log
統計存取IP是404狀態次數：
awk '{if($9~/404/)a[$1" "$9]++}END{for(i in a)print v,a[v]}' access.log
案例二：兩個檔差異對比
生成a和b兩個檔，用於測試：
$ seq 1 5 > a
$ seq 3 7 > b
找出b檔在a檔相同記錄：
方法1：
awk 'FNR==NR{a[$0];next}{if($0 in a)print $0}' a b
3
4
5
awk 'FNR==NR{a[$0];next}{if($0 in a)print FILENAME,$0}' a b
b 3
b 4
b 5
awk 'FNR==NR{a[$0]}NR>FNR{if($0 ina)print $0}' a b
3
4
5
awk 'FNR==NR{a[$0]=1;next}(a[$0]==1)' a b # a[$0]是透過b檔每行獲取值，如果是1說明有
awk 'FNR==NR{a[$0]=1;next}{if(a[$0]==1)print}' a b
3
4
5
方法2：
awk 'FILENAME=="a"{a[$0]}FILENAME=="b"{if($0 in a)print $0}' a b
3
4
5
4
5
方法3：
awk 'ARGIND==1{a[$0]=1}ARGIND==2 && a[$0]==1' a b
3
4
5
找出b檔在a檔不同
記錄
：
方法1：
awk 'FNR==NR{a[$0];next}!($0 in a)' a b
6
7
awk 'FNR==NR{a[$0]=1;next}(a[$0]!=1)' a b
或
awk 'FNR==NR{a[$0]=1;next}{if(a[$0]!=1)print}' a b
6
7
方法2：
awk 'FILENAME=="a"{a[$0]=1}FILENAME=="b" && a[$0]!=1' a b
方法3：
awk 'ARGIND==1{a[$0]=1}ARGIND==2 && a[$0]!=1' a b
案例三：合並兩個檔
生成a和b兩個檔，用於測試：
$ cat a
zhangsan 20
lisi 23
wangwu 29
$ cat b
zhangsan man
lisi woman
wangwu ma
將a檔合並到b檔：
方法1：
awk 'FNR==NR{a[$1]=$0;next}{print a[$1],$2}' a b
zhangsan 20 man
lisi 23 woman
wangwu 29 man
方法2：
awk 'FNR==NR{a[$1]=$0}NR>FNR{print a[$1],$2}' a b
zhangsan 20 man
lisi 23 woman
wangwu 29 man
將a檔相同IP的服務名合並：
$ cat a
192.168.1.1: httpd
192.168.1.1: tomcat
192.168.1.2: httpd
192.168.1.2: postfix
192.168.1.3: mysqld
192.168.1.4: httpd
awk 'BEGIN{FS=":";OFS=":"}{a[$1]=a[$1] $2}END{for(v in a)print v,a[v]}' a
192.168.1.4: httpd
192.168.1.1: httpd tomcat
192.168.1.2: httpd postfix
192.168.1.3: mysql
解讀：
陣列a儲存是$1=a[$1] $2，第一個a[$1]是以第一個欄位為下標，值是a[$1] $2，也就是$1=a[$1] $2，值的a[$1]是用第一個欄位為下標獲取對應的值，但第一次陣列a還沒有元素，那麽a[$1]是空值，此時陣列儲存是192.168.1.1=httpd，再遇到192.168.1.1時，a[$1]透過第一欄位下標獲得上次陣列的httpd，把當前處理的行第二個欄位放到上一次同下標的值後面，作為下標192.168.1.1的新值。此時陣列儲存是192.168.1.1=httpd tomcat。每次遇到相同的下標（第一個欄位）就會獲取上次這個下標對應的值與當前欄位並作為此下標的新值。
案例四：將第一列合並到一行
$ cat file
1 2 3
4 5 6
7 8 9
awk '{for(i=1;i<=NF;i++)a[i]=a[i]$i" "}END{for(vin a)print a[v]}' file
1 4 7
2 5 8
3 6
解讀：
for迴圈是遍歷每行的欄位，NF等於3，迴圈3次。
讀取第一行時：
第一個欄位：a[1]=a[1]1" " 值a[1]還未定義陣列，下標也獲取不到對應的值，所以為空，因此a[1]=1 。
第二個欄位：a[2]=a[2]2" " 值a[2]陣列a已經定義，但沒有2這個下標，也獲取不到對應的值，為空，因此a[2]=2 。
第三個欄位：a[3]=a[3]3" " 值a[2]與上面一樣，為空,a[3]=3 。
讀取第二行時：
第一個欄位：a[1]=a[1]4" " 值a[2]獲取陣列a的2為下標對應的值，上面已經有這個下標了，對應的值是1，因此a[1]=1 4
第二個欄位：a[2]=a[2]5" " 同上，a[2]=2 5
第三個欄位：a[3]=a[3]6" " 同上，a[2]=3 6
讀取第三行時處理方式同上，陣列最後還是三個下標，分別是1=1 4 7，2=2 5 8，3=36 9。最後for迴圈輸出所有下標值。
案例五：字串拆分
方法1：
echo"hello" |awk -F '''{for(i=1;i<=NF;i++)print $i}'
h
e
l
l
o
方法2：
echo"hello" |awk '{split($0,a,"''");for(v in a)print a[v]}'
l
o
h
e
l
案例六：統計出現的次數
統計字串中每個字母出現的次數：
echo"a.b.c,c.d.e" |awk -F'[.,]''{for(i=1;i<=NF;i++)a[$i]++}END{for(v in a)print v,a[v]}'
a 1
b 1
c 2
d 1
e 1
案例七：獲取某列數位最大數
$ cat a
a b 1
c d 2
e f 3
g h 3
i j 2
獲取第三欄位最大值：
awk 'BEGIN{max=0}{if($3>max)max=$3}END{print max}' a
3
打印第三欄位最大行：
awk 'BEGIN{max=0}{a[$0]=$3;if($3>max)max=$3}END{for(v in a)if(a[v]==max)print v}'a
g h 3
e f 3
案例八：去除文本第一行和最後一行
seq 5 |awk 'NR>2{print s}{s=$0}'
2
3
4
解讀：
讀取第
一行，NR=1，不執行print s，s=1
讀取第二行，NR=2，不執行print s，s=2 （大於為真）
讀取第三行，NR=3，執行print s，此時s是上一次p賦值內容2，s=3
最後一行，執行print s，打印倒數第二行，s=最後一行。
掌握這些 AWK 案例，你將在 Linux 下處理文本無敵了！
往期推薦
點亮，伺服器三年不宕機
