Linux学习之路-Awk命令

Awk命令

Awk 语法：

awk [options] –f scriptfile var value file(s)

awk [options] ‘script’ var=value file(s)

     其中‘script’ 由pattern{action}组成

pattern 包括以下几种：

u  正则表达式 （例 /^a/{action}）

u  关系表达式 （例’$1 > 5’或’$1 == “abc”’用运算符表中的关系运算符进行操作）

u  模式匹配表达式 （用~匹配和~!不匹配,例‘awk ‘$1~/^M/ {print $0}‘ file ）

u  模式，模式 （指定一个行的范围，可以正则或关系表达式。例$1 == "M.Tansley",$1 == "J.Lulu" {print $0}‘ file 或awk ‘/^M/,/^J/ {print $0}‘ file）

    BEGIN （指定在第一条记录执行之前进行的一些操作，一般用于设置变量，打印表头等）
       这个动作块在 awk 处理任何输入文件之前执行。所以它可以在没有任何输入的情   况下进行测试。它通常用来改变内建变量的值，如 OFS,RS 和 FS 等，以及打印标题。如： awk ‘BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3} test 。上式表示，在处理输入文件以前，域分隔符 (FS) 被设为冒号，输出文件分隔符 (OFS) 被设置为制表符，输出记录分隔符 (ORS) 被设置为两个换行符。 awk ‘BEGIN{print "TITLE TEST"} 只打印标题。

    END （最后一条记录执行完成后进行的一些操作，可用于输出结果或表尾等）

    action 由一个或多个命令、函数、表达式组成，它们之间由;号隔开。主要有四部分：1.变量或数组赋值 2.输出命令 3.内置函数 4.流程控制

awk 的环境变量

   FS 输入字段分隔符，默认是任何空格

   OFS 输出字段分隔符，默认是任何空格

   RS 输入行分隔符，默认是回车

   ORS 输出行分隔符，默认是回车

   NF 当前行，当前记录的字段数

   NR 总行数（所有文件）

   FNR 总行数（单文件，当前文件，当只有一个文件时，同NR）

   $n 当前记录第n个字段变量

   $0 当前行变量

   FILENAME 当前文件名

   ARGIND 命令行中当前文件的位置(从0开始算)

   ARGC 命令行参数的数目

 awk 编程中的变量

n  awk 可以在命令行中给变量赋值，然后将这个变量传输给awk脚本。如 awk -f     awkscript test="ok"，上式的test是自定义变量，被赋值为ok。在awk脚本中，这些变量使用起来就象是在脚本中建立的一样。    注意，如果想在BEGIN中使用该变量，需呀加上-v参数，这样 awk –f awkscript –v test="ok"。

n  域变量也可被赋值和修改，如 awk ‘{$2 = 100 + $1; print }‘ test 注意，字符串一定要用双引号。

awk 的运算符

   = += -= *= /= %= ^= **= 赋值

   ?: C 条件表达式

   || 逻辑或

   && 逻辑与

   ~ ~! 匹配正则表达式和不匹配正则表达式

   < <= > >= != == 关系运算符

   + - 加，减

   * / & 乘，除与求余

   + - ! 一元加，减和逻辑非

   ^ *** 求幂

   ++ -- 增加或减少，作为前缀或后缀

   $ 字段引用

awk 中记录和域的概念

l  记录 ：awk把每一个以换行符分隔开的行当一个记录，$0指的是一条记录。变量NR：一个计数器，每处理完一条记录，NR的值就增加1。如$ awk ‘{print NR,$0}‘ test将输出test文件中所有记录，并在记录前显示记录号

l  域 ：记录中每个单词称做“域”，默认情况下以空格或tab分隔。awk可跟踪域的个数，并在内建变量NF中保存该值。如$ awk ‘{print $1,$3}‘ test将打印test文件中第一和第三个以空格分开的列(域)
内建变量FS保存输入域分隔符的值，默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$ awk -F: ‘{print $1,$5}‘ test将打印以冒号为分隔符的第一，第五列的内容。
可以同时使用多个域分隔符，这时应该把分隔符写成放到方括号中，如$awk -F‘[:\t]‘ ‘{print $1,$3}‘ test，表示以空格、冒号和tab作为分隔符。
输出域的分隔符默认是一个空格，保存在OFS中。如$ awk -F: ‘{print $1,$5}‘ test，$1和$5间的逗号就是OFS的值。

awk 的重定向和管道

n  awk 可使用 shell 的重定向符进行重定向输出，如： $ awk ‘$1 = 100 {print $1 > "output_file" }‘ test 。上式表示如果第一个域的值等于 100 ，则把它输出到 output_file 中。也可以用 >> 来重定向输出，但不清空文件，只做追加操作。

n  输出重定向需用到 getline 函数。 getline 从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。它负责从输入获得下一行的内容，并给 NF,NR 和 FNR 等内建变量赋值。如果得到一条记录， getline 函数返回 1 ，如果到达文件的末尾就返回 0 ，如果出现错误，例如打开文件失败，就返回 -1 。如：

n  awk ‘BEGIN{ "date" | getline d; print d}‘ test 。执行 linux 的 date 命令，并通过管道输出给 getline ，然后再把输出赋值给自定义变量 d ，并打印它。

n  awk ‘BEGIN{"date" | getline d; split(d,mon); print mon[2]}‘ test 。执行 shell 的 date 命令，并通过管道输出给 getline ，然后 getline 从管道中读取并将输入赋值给 d ， split 函数把变量 d 转化成数组 mon ，然后打印数组 mon 的第二个元素。

n  awk ‘BEGIN{while( "ls" | getline) print}‘ ，命令 ls 的输出传递给 geline 作为输入，循环使 getline 从 ls 的输出中读取一行，并把它打印到屏幕。这里没有输入文件，因为 BEGIN 块在打开输入文件前执行，所以可以忽略输入文件。

n  awk ‘BEGIN{printf "What is your name?"; getline name < "/dev/tty" } $1 ~name {print "Found" name on line ", NR"."} END{print "See you," name "."} test 。在屏幕上打印 ”What is your name?", 并等待用户应答。当一行输入完毕后， getline 函数从终端接收该行输入，并把它储存在自定义变量 name 中。如果第一个域匹配变量 name 的值， print 函数就被执行， END 块打印 Seeyou 和 name 的值。

n  awk ‘BEGIN{while (getline < "/etc/passwd" > 0) lc++; print lc}‘ 。 awk 将逐行读取文件 /etc/passwd 的内容，在到达文件末尾前，计数器 lc 一直增加，当到末尾时，打印 lc 的值。注意，如果文件不存在， getline 返回 -1 ，如果到达文件的末尾就返回 0 ，如果读到一行，就返回 1 ，所以命令 while (getline < "/etc/passwd") 在文件不存在的情况下将陷入无限循环，因为返回 -1 表示逻辑真。

n  可以在 awk 中打开一个管道，且同一时刻只能有一个管道存在。通过 close() 可关闭管道。如： awk ‘{print $1, $2 | "sort" }‘ test END {close("sort")} 。 awd 把 print 语句的输出通过管道作为 linux 命令 sort 的输入 ,END 块执行关闭管道操作。

n  system 函数可以在 awk 中执行 linux 的命令。如： $ awk ‘BEGIN{system("clear")‘

getline 函数说明：

A ．getline从整体上来说，应这么理解它的用法：

    当其左右无重定向符 | 或 < 时，getline作用于当前文件，读入当前文件的第一行给其后跟的变量 var 或$0（无变量）；应该注意到，由于awk在处理getline之前已经读入了一行，所以getline得到的返回结果是隔行的。

     当其左右有重定向符 | 或 < 时，getline则作用于定向输入文件，由于该文件是刚打开，并没有被awk读入一行，只是getline读入，那么getline返回的是该文件的第一行，而不是隔行。

用法大致以下几种：

awk ‘BEGIN{“cat data.txt”|getline d; print d}’ data2.txt

awk ‘BEGIN{“cat data.txt”|getline; print $0}’ data2.txt

awk ‘BEGIN{getline d < “data.txt”; print d}’ data2.txt

awk ‘BEGIN{getline < “data.txt”; print $0}’ data2.txt

以上均实现“只打印data.txt文件的第一行”

若打印全部行，用循环

awk ‘BEGIN{FS=”:”;while(getline<”/etc/passwd”>0){print $1}}’ data.txt(这里意思是/etc/passwd存在的话，)

理解以下这句的执行流程：

awk ‘{getline; print $0}’ data.txt

       awk 首先读入第一行，接着处理getline函数，getline读入的是第二行，把第二行给了$0，打印，然后awk再读入第三行，getline再读第四行。。。循环下去

awk 的内置函数

    split( 字符串,数组，分隔符)：

    功能：将string表示的字符串以fieldsep为分隔符进行切片，并切片后的结果保存至array为名的数组中；数组下标从1开始；此函数有返回值，返回值为切片后的元素的个数

例：awk -v test="a,b,c,d" ‘BEGIN{r=split(test,array,",");for(i=1;i<=r;i++){print fed[i]}}‘

    length(string)

            功能：返回给定字串的长度

例：awk -v test="abcd" ‘BEGIN{print length(test)}‘

    substr(string,start[,length])

            功能：从string中取子串，从start为起始位置为取length长度的子串

例：awk -v test="abcd" ‘BEGIN{r=substr(test,1,2);print r}‘

    match(string,regular expression)

            功能：返回指定正则表达式在字符串中的位置

例：awk -v test="ddaabcd" ‘BEGIN{r=match(test,/abc/);print r}‘

    index(string,substring)

            功能：返回子字符串第一次被匹配的位置

例：awk -v test="abcd" ‘BEGIN{print index(test,"b")}‘

    sub( 查找字符串,替换字符串，查找位置)

            功能：替换第一次找到到的内容，查找字符串用正则表达式表示，查找位置省略的话，默认为整个文档，还有gsub函数，全局替换

例：awk -v test="abcd" ‘BEGIN{sub(/b/,"oo",test);print test}‘

时间函数

systime 函数返回从1970年1月1日开始到当前时间(不计闰年)的整秒数。一般与strftime配合使用。格式如下：

systime()

例： awk ‘BEGIN{print systime()}‘

strftime 函数使用C库中的strftime函数格式化时间。格式如下：

systime( [format specification][,timestamp] )

日期和时间格式说明符

格式 描述

%a 星期几的缩写(Sun)

%A 星期几的完整写法(Sunday)

%b 月名的缩写(Oct)

%B 月名的完整写法(October)

%c 本地日期和时间

%d 十进制日期

%D 日期 08/20/99

%e 日期，如果只有一位会补上一个空格

%H 用十进制表示24小时格式的小时

%I 用十进制表示12小时格式的小时

%j 从1月1日起一年中的第几天

%m 十进制表示的月份

%M 十进制表示的分钟

%p 12 小时表示法(AM/PM)

%S 十进制表示的秒

%U 十进制表示的一年中的第几个星期(星期天作为一个星期的开始)

%w 十进制表示的星期几(星期天是0)

%W 十进制表示的一年中的第几个星期(星期一作为一个星期的开始)

%x 重新设置本地日期(08/20/99)

%X 重新设置本地时间(12：00：00)

%y 两位数字表示的年(99)

%Y 当前月份

%Z 时区(PDT)

%% 百分号(%)

例：awk -v test="abcd" ‘BEGIN{print strftime("%D",systime())}‘

数组

awk 中的数组的下标可以是数字和字母，称为关联数组。

用变量作为数组下标。如：$ awk {name[x++]=$2};END{for(i=0;i<NR;i++) print i,name[i]}‘ test。数组name中的下标是一个自定义变量x，awk初始化x的值为0，在每次使用后增加1。第二个域的值被赋给name数组的各个元素。在END模块中，for循环被用于循

环整个数组，从下标为0的元素开始，打印那些存储在数组中的值。因为下标是关健字，所以它不一定从0开始，可以从任何值开始。

special for 循环用于读取关联数组中的元素。格式如下：

{for (item in arrayname){

print arrayname[item]

}

}

 awk ‘/^tom/{name[NR]=$1}; END{for(i in name){print name[i]}}‘ test 。打印有值的数组元素。打印的顺序是随机的。

用字符串作为下标。如：count["test"]

用域值作为数组的下标。一种新的for循环方式，for (index_value in array) statement。例: awk ‘{count[$1]++}

END{for(name in count) print name,count[name]}‘ test 。该语句将打印$1中字符串出现的次数。它首先以第一个域作数组count

的下标，第一个域变化，索引就变化。

delete 函数用于删除数组元素。例：$ awk ‘{line[x++]=$1} END{for(x in line) delete(line[x])}‘ test。分配给数组line的是第一个

域的值，所有记录处理完成后，special for循环将删除每一个元素

条件语句

if 语句

格式：

{if (expression){

statement; statement; ...

}

}

例：awk -v test="a" ‘BEGIN{if(test=="a"){print "aaa"}}‘

例：awk ‘{if ($1 < $2) {count++; print "ok"}}‘ test.如果第一个域小于第二个域，则count加一，并打印ok。

if/else 语句，用于双重判断。

格式：

{if (expression){

statement; statement; ...

}

else{

statement; statement; ...

}

}

例：awk -v test="a" ‘BEGIN{if(test=="a"){print "aaa"}else{print "pk"}}‘
例：awk ‘{if ($1 > 100){ count++; print $1} else {count--; print $2}‘ test。如果$1大于100，则count加一，并打印$1，否则count

减一，并打印$1。

if/else else if 语句，用于多重判断,注意这个与bash中的有点不一样，bash中是elif

格式：

{if (expression){

statement; statement; ...

}

else if (expression){

statement; statement; ...

}

else if (expression){

statement; statement; ...

}

else {

statement; statement; ...

}

}

例：awk -v test="b" ‘BEGIN{if(test=="a"){print "aaa"}else if(test=="b"){print "bbb"}else{print "pk"}}‘

循环

awk 有三种循环:while循环；for循环；special for循环。

awk ‘{ i = 1; while ( i <= NF ) { print NF,$i; i++}}‘ test 。变量的初始值为1，若i小于可等于NF(记录中域的个数),则执行打印语句，且i增加1。直到i的值大于NF.

awk ‘{for (i = 1; i<NF; i++) print NF,$i}‘ test 。作用同上。

breadk continue 语句。break用于在满足条件的情况下跳出循环；continue用于在满足条件的情况下忽略后面的语句，直接返回循环的

顶端。

例：

for ( x=3; x<=NF; x++){

if ($x<0){print "Bottomed out!"; break}}

for ( x=3; x<=NF; x++){

if ($x==0){print "Get next item"; continue}}

next 语句从输入文件中读取一行，然后从头开始执行awk脚本。例：

{if ($1 ~/test/){next}else {print}}

exit 语句用于结束awk程序，但不会略过END块。退出状态为0代表成功，非零值表示出错。

本文出自 “天真小同志” 博客，请务必保留此出处http://dengxi.blog.51cto.com/4804263/1697147

原文：http://dengxi.blog.51cto.com/4804263/1697147