awk是處理文本文件的一個(gè)應(yīng)用程序,幾乎所有 Linux 系統(tǒng)都自帶這個(gè)程序。
awk其實(shí)不僅僅是工具軟件,還是一種編程語(yǔ)言。不過,本文只介紹它的命令行用法,對(duì)于大多數(shù)場(chǎng)合,應(yīng)該足夠用了。
一、基本用法
awk的基本用法就是下面的形式。
1 2 3 4 5 | # 格式 $ awk 動(dòng)作 文件名 ? # 示例 $ awk '{print $0}' demo.txt |
上面示例中,demo.txt是awk所要處理的文本文件。前面單引號(hào)內(nèi)部有一個(gè)大括號(hào),里面就是每一行的處理動(dòng)作print $0。其中,print是打印命令,$0代表當(dāng)前行,因此上面命令的執(zhí)行結(jié)果,就是把每一行原樣打印出來(lái)。
awk也可以處理標(biāo)準(zhǔn)輸入(stdin)。
1 2 | $ echo 'this is a test' | awk '{print $0}' this is a test |
上面代碼中,print $0就是把標(biāo)準(zhǔn)輸入this is a test,重新打印了一遍。
awk會(huì)根據(jù)空格和制表符,將每一行分成若干字段,依次用$1、$2、$3代表第一個(gè)字段、第二個(gè)字段、第三個(gè)字段等等。
1 2 | $ echo 'this is a test' | awk '{print $3}' a |
上面代碼中,$3代表this is a test的第三個(gè)字段a。
下面,為了便于舉例,我們把/etc/passwd文件保存成demo.txt。
1 2 3 4 5 | root:x:0:0:root:/root:/usr/bin/zsh daemon:x:1:1:daemon:/usr/sbin:/usr/sbin/nologin bin:x:2:2:bin:/bin:/usr/sbin/nologin sys:x:3:3:sys:/dev:/usr/sbin/nologin sync:x:4:65534:sync:/bin:/bin/sync |
這個(gè)文件的字段分隔符是冒號(hào)(:),所以要用-F參數(shù)指定分隔符為冒號(hào)。然后,才能提取到它的第一個(gè)字段。
1 2 3 4 5 6 | $ awk -F ':' '{ print $1 }' demo.txt root daemon bin sys sync |
二、變量
除了$ + 數(shù)字表示某個(gè)字段,awk還提供其他一些變量。
變量NF表示當(dāng)前行有多少個(gè)字段,因此$NF就代表最后一個(gè)字段。
1 2 | $ echo 'this is a test' | awk '{print $NF}' test |
$(NF-1)代表倒數(shù)第二個(gè)字段。
1 2 3 4 5 6 | $ awk -F ':' '{print $1, $(NF-1)}' demo.txt root /root daemon /usr/sbin bin /bin sys /dev sync /bin |
上面代碼中,print命令里面的逗號(hào),表示輸出的時(shí)候,兩個(gè)部分之間使用空格分隔。
變量NR表示當(dāng)前處理的是第幾行。
1 2 3 4 5 6 | $ awk -F ':' '{print NR ") " $1}' demo.txt 1) root 2) daemon 3) bin 4) sys 5) sync |
上面代碼中,print命令里面,如果原樣輸出字符,要放在雙引號(hào)里面。
awk的其他內(nèi)置變量如下。
FILENAME:當(dāng)前文件名
FS:字段分隔符,默認(rèn)是空格和制表符。
RS:行分隔符,用于分割每一行,默認(rèn)是換行符。
OFS:輸出字段的分隔符,用于打印時(shí)分隔字段,默認(rèn)為空格。
ORS:輸出記錄的分隔符,用于打印時(shí)分隔記錄,默認(rèn)為換行符。
OFMT:數(shù)字輸出的格式,默認(rèn)為%.6g。
三、函數(shù)
awk還提供了一些內(nèi)置函數(shù),方便對(duì)原始數(shù)據(jù)的處理。
函數(shù)toupper()用于將字符轉(zhuǎn)為大寫。
1 2 3 4 5 6 | $ awk -F ':' '{ print toupper($1) }' demo.txt ROOT DAEMON BIN SYS SYNC |
上面代碼中,第一個(gè)字段輸出時(shí)都變成了大寫。
其他常用函數(shù)如下。
tolower():字符轉(zhuǎn)為小寫。
length():返回字符串長(zhǎng)度。
substr():返回子字符串。
sin():正弦。
cos():余弦。
sqrt():平方根。
rand():隨機(jī)數(shù)。
awk內(nèi)置函數(shù)的完整列表,可以查看手冊(cè)。
四、條件
awk允許指定輸出條件,只輸出符合條件的行。
輸出條件要寫在動(dòng)作的前面。
1 | $ awk '條件 動(dòng)作' 文件名 |
請(qǐng)看下面的例子。
1 2 3 4 5 | $ awk -F ':' '/usr/ {print $1}' demo.txt root daemon bin sys |
上面代碼中,print命令前面是一個(gè)正則表達(dá)式,只輸出包含usr的行。
下面的例子只輸出奇數(shù)行,以及輸出第三行以后的行。
1 2 3 4 5 6 7 8 9 10 | # 輸出奇數(shù)行 $ awk -F ':' 'NR % 2 == 1 {print $1}' demo.txt root bin sync ? # 輸出第三行以后的行 $ awk -F ':' 'NR >3 {print $1}' demo.txt sys sync |
下面的例子輸出第一個(gè)字段等于指定值的行。
1 2 3 4 5 6 | $ awk -F ':' '$1 == "root" {print $1}' demo.txt root ? $ awk -F ':' '$1 == "root" || $1 == "bin" {print $1}' demo.txt root bin |
五、if 語(yǔ)句
awk提供了if結(jié)構(gòu),用于編寫復(fù)雜的條件。
1 2 3 4 | $ awk -F ':' '{if ($1 > "m") print $1}' demo.txt root sys sync |
上面代碼輸出第一個(gè)字段的第一個(gè)字符大于m的行。
if結(jié)構(gòu)還可以指定else部分。
1 2 3 4 5 6 | $ awk -F ':' '{if ($1 > "m") print $1; else print "---"}' demo.txt root --- --- sys sync |