Awk
一、简介
诞生于 20 世纪 70 年代末期,名字取自3个发明者姓的首字母。
它是专门为文本处理设计的编程语言,也是行处理软件,通常用于扫描、过滤、统计汇总工作,数据可以来自标准输入也可以是管道或文件。
使用起来非常简单:和 sed 命令类似,awk 命令也是逐行扫描文件,寻找含有目标文本的行,如果匹配成功,则会在该行上执行用户想要的操作。
二、基本格式
2.1 格式简介
命令由 2 部分组成,分别为匹配规则和执行命令,如下所示:
awk 选项 '匹配规则{执行命令}' 文件名
awk:固定字符
选项:可省略
值 | 含义 |
-F fs | 指定以 fs 作为输入行的分隔符,awk 命令默认分隔符为空格或制表符。 |
-f file | 从脚本文件中读取 awk 脚本指令,以取代直接在命令行中输入指令。 |
-v var=val | 在执行处理过程之前,设置一个变量 var,并给其设备初始值为 val。 |
'':整个脚本命令是用单引号''括起。
匹配规则:和 sed 的 address 部分作用相同,用来指定脚本命令可以作用到的具体行,可以用字符串或正则指定。
执行命令:对具体行执行的命令(大部分是print),需要用大括号{}括起来,
文件名:需要被操作的文件
注意:如果没有指定执行命令,则默认会把匹配的行输出;如果不指定匹配规则,则默认匹配文本中所有的行。
2.2 例1
[root@
localhost
~]# awk '/^$/ {print "Blank line"}' test.txt
在此命令中:
1)/^$/
是一个正则表达式,功能是匹配文本中的空白行。
2)执行命令使用的是 print,它的作用就是将指定的文本进行输出。
3)因此,整个命令的功能是,如果 test.txt 有 N 个空白行,那么执行此命令会输出 N 个 Blank line。
三、主要特性:数据字段变量
3.1 简介
awk 的优点之一就是它会自动给一行中的每个数据元素分配一个变量,所以sed命令常用于一整行的处理,而awk倾向于将一行看成多个字段处理(如报表某些场景比较好用) awk通过字段分隔符(默认的字段分隔符是任意的空白字符,如空格或制表符)把每行分为多个数据字段,
默认情况下,awk 会将如下变量分配给它在文本行中发现的数据字段:
$0 代表整个文本行;
$n 代表文本行中的第 n 个数据字段。
3.2 例2
例子中,awk 程序读取文本文件,只显示第 1 个数据字段的值:
[root@localhost ~]# cat data2.txt
One line of test text.
Two lines of test text.
Three lines of test text.
[root@localhost ~]# awk '{print $1}' data2.txt
One
Two
Three
该程序用 $1 字段变量来表示“仅显示每行文本的第 1 个数据字段”。当然,如果你要读取采用了其他字段分隔符的文件,可以用 -F 选项手动指定。
四、其它特性
4.1 特性二:多个命令
和linux命令一样,awk 允许将多条命令组合成一个正常的程序。在命令之间放个分号即可。
例:
[root@localhost ~]# echo "My name is Rich" | awk '{$4="Christine"; print $0}'
My name is Christine
第一条命令给 $4 赋值。第二条命令打印整个数据字段。
可以看到,awk 程序在输出中已经将原文本中的第四个数据字段替换成了新值。
4.2 特性三:可以执行文件
awk其实是一门脚本语言,像其他语言一样,我们可以写在文件里再执行它,这可以让我们做一些复杂操作。
[root@localhost ~]# cat awk.sh
{print $1 "'s home directory is " $6}
[root@localhost ~]# awk -F: -f awk.sh /etc/passwd
yikezhuo's home directory is /home/yikezhuo
sorenzzhu's home directory is /home/sorenzzhu
svenli's home directory is /home/svenli
arnicedeng's home directory is /home/arnicedeng ...
awk.sh 脚本文件会使用 print 命令打印 /etc/passwd 文件的主目录数据字段(字段变量 $6),以及 userid 数据字段(字段变量 $1)。