范围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。如果有一个模板没出现,则匹配到开头或末尾。如$ awk '/root/,/mysql/' test将显示root第一次出现到mysql第一次出现之间的所有行。 $ cat /etc/passwd | awk -F: '\ NF != 7{\ printf("line %d,does not have 7 fields:%s\n",NR,$0)}\ $1 !~ /[A-Za-z0-9]/{printf("line %d,non alpha and numeric user id:%d: %s\n,NR,$0)}\ $2 == "*" {printf("line %d, no password: %s\n",NR,$0)}'  | cat把结果输出给awk,awk把域之间的分隔符设为冒号。 |  | 如果域的数量(NF)不等于7,就执行下面的程序。 |  | printf打印字符串"line ?? does not have 7 fields",并显示该条记录。 |  | 如果第一个域没有包含任何字母和数字,printf打印“no alpha and numeric user id" ,并显示记录数和记录。 |  | 如果第二个域是一个星号,就打印字符串“no passwd”,紧跟着显示记录数和记录本身。 |
$ awk '/^(no|so)/' test-----打印所有以模式no或so开头的行。 $ awk '/^[ns]/{print $1}' test-----如果记录以n或s开头,就打印这个记录。 $ awk '$1 ~/[0-9][0-9]$/(print $1}' test-----如果第一个域以两个数字结束就打印这个记录。 $ awk '$1 == 100 || $2 < 50' test-----如果第一个或等于100或者第二个域小于50,则打印该行。 $ awk '$1 != 10' test-----如果第一个域不等于10就打印该行。 $ awk '/test/{print $1 + 10}' test-----如果记录包含正则表达式test,则第一个域加10并打印出来。 $ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test-----如果第一个域大于5则打印问号后面的表达式值,否则打印冒号后面的表达式值。 $ awk '/^root/,/^mysql/' test----打印以正则表达式root开头的记录到以正则表达式mysql开头的记录范围内的所有记录。如果找到一个新的正则表达式root开头的记录,则继续打印直到下一个以正则表达式mysql开头的记录为止,或到文件末尾。
在awk中,变量不需要定义就可以直接使用,变量类型可以是数字或字符串。 赋值格式:Variable = expression,如$ awk '$1 ~/test/{count = $2 + $3; print count}' test,上式的作用是,awk先扫描第一个域,一旦test匹配,就把第二个域的值加上第三个域的值,并把结果赋值给变量count,最后打印出来。 awk可以在命令行中给变量赋值,然后将这个变量传输给awk脚本。如$ awk -F: -f awkscript month=4 year=2004 test,上式的month和year都是自定义变量,分别被赋值为4和2004。在awk脚本中,这些变量使用起来就象是在脚本中建立的一样。注意,如果参数前面出现test,那么在BEGIN语句中的变量就不能被使用。 域变量也可被赋值和修改,如$ awk '{$2 = 100 + $1; print }' test,上式表示,如果第二个域不存在,awk将计算表达式100加$1的值,并将其赋值给$2,如果第二个域存在,则用表达式的值覆盖$2原来的值。再例如:$ awk '$1 == "root"{$1 ="test";print}' test,如果第一个域的值是“root”,则把它赋值为“test”,注意,字符串一定要用双引号。 内建变量的使用。变量列表在前面已列出,现在举个例子说明一下。$ awk -F: '{IGNORECASE=1; $1 == "MARY"{print NR,$1,$2,$NF}'test,把IGNORECASE设为1代表忽略大小写,打印第一个域是mary的记录数、第一个域、第二个域和最后一个域。
BEGIN模块后紧跟着动作块,这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情况下进行测试。它通常用来改变内建变量的值,如OFS,RS和FS等,以及打印标题。如:$ awk 'BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3} test。上式表示,在处理输入文件以前,域分隔符(FS)被设为冒号,输出文件分隔符(OFS)被设置为制表符,输出记录分隔符(ORS)被设置为两个换行符。$ awk 'BEGIN{print "TITLE TEST"}只打印标题。 END不匹配任何的输入文件,但是执行动作块中的所有动作,它在整个输入文件处理完成后被执行。如$ awk 'END{print "The number of records is" NR}' test,上式将打印所有被处理的记录数。 awk可使用shell的重定向符进行重定向输出,如:$ awk '$1 = 100 {print $1 > "output_file" }' test。上式表示如果第一个域的值等于100,则把它输出到output_file中。也可以用>>来重定向输出,但不清空文件,只做追加操作。 输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。它负责从输入获得下一行的内容,并给NF,NR和FNR等内建变量赋值。如果得到一条记录,getline函数返回1,如果到达文件的末尾就返回0,如果出现错误,例如打开文件失败,就返回-1。如: $ awk 'BEGIN{ "date" | getline d; print d}' test。执行linux的date命令,并通过管道输出给getline,然后再把输出赋值给自定义变量d,并打印它。 $ awk 'BEGIN{"date" | getline d; split(d,mon); print mon[2]}' test。执行shell的date命令,并通过管道输出给getline,然后getline从管道中读取并将输入赋值给d,split函数把变量d转化成数组mon,然后打印数组mon的第二个元素。 $ awk 'BEGIN{while( "ls" | getline) print}',命令ls的输出传递给geline作为输入,循环使getline从ls的输出中读取一行,并把它打印到屏幕。这里没有输入文件,因为BEGIN块在打开输入文件前执行,所以可以忽略输入文件。 $ awk 'BEGIN{printf "What is your name?"; getline name < "/dev/tty" } $1 ~name {print "Found" name on line ", NR "."} END{print "See you," name "."} test。在屏幕上打印”What is your name?",并等待用户应答。当一行输入完毕后,getline函数从终端接收该行输入,并把它储存在自定义变量name中。如果第一个域匹配变量name的值,print函数就被执行,END块打印See you和name的值。 $ awk 'BEGIN{while (getline < "/etc/passwd" > 0) lc++; print lc}'。awk将逐行读取文件/etc/passwd的内容,在到达文件末尾前,计数器lc一直增加,当到末尾时,打印lc的值。注意,如果文件不存在,getline返回-1,如果到达文件的末尾就返回0,如果读到一行,就返回1,所以命令 while (getline < "/etc/passwd")在文件不存在的情况下将陷入无限循环,因为返回-1表示逻辑真。 可以在awk中打开一个管道,且同一时刻只能有一个管道存在。通过close()可关闭管道。如:$ awk '{print $1, $2 | "sort" }' test END {close("sort")}。awd把print语句的输出通过管道作为linux命令sort的输入,END块执行关闭管道操作。 system函数可以在awk中执行linux的命令。如:$ awk 'BEGIN{system("clear")'。 fflush函数用以刷新输出缓冲区,如果没有参数,就刷新标准输出的缓冲区,如果以空字符串为参数,如fflush(""),则刷新所有文件和管道的输出缓冲区。
awk中的条件语句是从C语言中借鉴过来的,可控制程序的流程。 格式:
{if (expression){
statement; statement; ...
}
} $ awk '{if ($1 <$2) print $2 "too high"}' test。如果第一个域小于第二个域则打印。 $ awk '{if ($1 < $2) {count++; print "ok"}}' test.如果第一个域小于第二个域,则count加一,并打印ok。 格式:
{if (expression){
statement; statement; ...
}
else{
statement; statement; ...
}
} $ awk '{if ($1 > 100) print $1 "bad" ; else print "ok"}' test。如果$1大于100则打印$1 bad,否则打印ok。 $ awk '{if ($1 > 100){ count++; print $1} else {count--; print $2}' test。如果$1大于100,则count加一,并打印$1,否则count减一,并打印$1。 14.5.3. if/else else if语句,用于多重判断。格式:
{if (expression){
statement; statement; ...
}
else if (expression){
statement; statement; ...
}
else if (expression){
statement; statement; ...
}
else {
statement; statement; ...
}
} awk有三种循环: while循环;for循环;special for循环。 $ awk '{ i = 1; while ( i <= NF ) { print NF,$i; i++}}' test。变量的初始值为1,若i小于可等于NF(记录中域的个数),则执行打印语句,且i增加1。直到i的值大于NF. $ awk '{for (i = 1; i<NF; i++) print NF,$i}' test。作用同上。 bread continue 语句。break用于在满足条件的情况下跳出循环;continue用于在满足条件的情况下忽略后面的语句,直接返回循环的顶端。如: {for ( x=3; x<=NF; x++)
if ($x<0){print "Bottomed out!"; break}}
{for ( x=3; x<=NF; x++)
if ($x==0){print "Get next item"; continue}}
next 语句从输入文件中读取一行,然后从头开始执行awk脚本。如: {if ($1 ~/test/){next}
else {print}
}
exit 语句用于结束awk程序,但不会略过END块。退出状态为0代表成功,非零值表示出错。
awk中的数组的下标可以是数字和字母,称为关联数组。 用变量作为数组下标。如:$ awk {name[x++]=$2};END{for(i=0;i<NR;i++) print i,name[i]}' test。数组name中的下标是一个自定义变量x,awk初始化x的值为0,在每次使用后增加1。第二个域的值被赋给name数组的各个元素。在END模块中,for循环被用于循环整个数组,从下标为0的元素开始,打印那些存储在数组中的值。因为下标是关健字,所以它不一定从0开始,可以从任何值开始。 special for 循环用于读取关联数组中的元素。格式如下: {for (item in arrayname){
print arrayname[item]
}
}
$ awk '/^tom/{name[NR]=$1}; END{for(i in name){print name[i]}}' test。打印有值的数组元素。打印的顺序是随机的。用字符串作为下标。如:count["test"] 用域值作为数组的下标。一种新的for循环方式,for (index_value in array) statement。如:$ awk '{count[$1]++} END{for(name in count) print name,count[name]}' test。该语句将打印$1中字符串出现的次数。它首先以第一个域作数组count的下标,第一个域变化,索引就变化。 delete 函数用于删除数组元素。如:$ awk '{line[x++]=$1} END{for(x in line) delete(line[x])}' test。分配给数组line的是第一个域的值,所有记录处理完成后,special for循环将删除每一个元素。
sub 函数匹配记录中最大、最靠左边的子字符串的正则表达式,并用替换字符串替换这些字符串。如果没有指定目标字符串就默认使用整个记录。替换只发生在第一次匹配的时候。格式如下: sub (regular expression, substitution string):
sub (regular expression, substitution string, target string)
实例: $ awk '{ sub(/test/, "mytest"); print }' testfile
$ awk '{ sub(/test/, "mytest"); $1}; print }' testfile
第一个例子在整个记录中匹配,替换只发生在第一次匹配发生的时候。如要在整个文件中进行匹配需要用到gsub 第二个例子在整个记录的第一个域中进行匹配,替换只发生在第一次匹配发生的时候。 gsub 函数作用如sub,但它在整个文档中进行匹配。格式如下: gsub (regular expression, substitution string)
gsub (regular expression, substitution string, target string)
实例: $ awk '{ gsub(/test/, "mytest"); print }' testfile
$ awk '{ gsub(/test/, "mytest" , $1) }; print }' testfile
第一个例子在整个文档中匹配test,匹配的都被替换成mytest。 第二个例子在整个文档的第一个域中匹配,所有匹配的都被替换成mytest。 index 函数返回子字符串第一次被匹配的位置,偏移量从位置1开始。格式如下: index(string, substring)
实例: $ awk '{ print index("mytest", "test") }' testfile
实例返回test在mytest的位置,结果应该是3。 length 函数返回记录的字符数。格式如下: length( string )
length
实例: $ awk '{ print length( "test" ) }'
$ awk '{ print length }' testfile
第一个实例返回test字符串的长度。 第二个实例返回testfile文件中第条记录的字符数。 substr 函数返回从位置1开始的子字符串,如果指定长度超过实际长度,就返回整个字符串。格式如下: substr( string, starting position )
substr( string, starting position, length of string )
实例: $ awk '{ print substr( "hello world", 7,11 ) }'
上例截取了world子字符串。 match 函数返回在字符串中正则表达式位置的索引,如果找不到指定的正则表达式则返回0。match函数会设置内建变量RSTART为字符串中子字符串的开始位置,RLENGTH为到子字符串末尾的字符个数。substr可利于这些变量来截取字符串。函数格式如下: match( string, regular expression )
实例: $ awk '{start=match("this is a test",/[a-z]+$/); print start}'
$ awk '{start=match("this is a test",/[a-z]+$/); print start, RSTART, RLENGTH }'
第一个实例打印以连续小写字符结尾的开始位置,这里是11。 第二个实例还打印RSTART和RLENGTH变量,这里是11(start),11(RSTART),4(RLENGTH)。 toupper 和tolower 函数可用于字符串大小间的转换,该功能只在gawk中有效。格式如下: toupper( string )
tolower( string )
实例: $ awk '{ print toupper("test"), tolower("TEST") }'
split 函数可按给定的分隔符把字符串分割为一个数组。如果分隔符没提供,则按当前FS值进行分割。格式如下: split( string, array, field separator )
split( string, array )
实例: $ awk '{ split( "20:18:00", time, ":" ); print time[2] }'
上例把时间按冒号分割到time数组内,并显示第二个数组元素18。
systime函数返回从1970年1月1日开始到当前时间(不计闰年)的整秒数。格式如下: systime()
实例: $ awk '{ now = systime(); print now }'
strftime函数使用C库中的strftime函数格式化时间。格式如下: systime( [format specification][,timestamp] )
Table 3. 日期和时间格式说明符 格式 | 描述 |
---|
%a | 星期几的缩写(Sun) | %A | 星期几的完整写法(Sunday) | %b | 月名的缩写(Oct) | %B | 月名的完整写法(October) | %c | 本地日期和时间 | %d | 十进制日期 | %D | 日期 08/20/99 | %e | 日期,如果只有一位会补上一个空格 | %H | 用十进制表示24小时格式的小时 | %I | 用十进制表示12小时格式的小时 | %j | 从1月1日起一年中的第几天 | %m | 十进制表示的月份 | %M | 十进制表示的分钟 | %p | 12小时表示法(AM/PM) | %S | 十进制表示的秒 | %U | 十进制表示的一年中的第几个星期(星期天作为一个星期的开始) | %w | 十进制表示的星期几(星期天是0) | %W | 十进制表示的一年中的第几个星期(星期一作为一个星期的开始) | %x | 重新设置本地日期(08/20/99) | %X | 重新设置本地时间(12:00:00) | %y | 两位数字表示的年(99) | %Y | 当前月份 | %Z | 时区(PDT) | %% | 百分号(%) |
实例: $ awk '{ now=strftime( "%D", systime() ); print now }'
$ awk '{ now=strftime("%m/%d/%y"); print now }'
Table 4. 函数名称 | 返回值 |
---|
atan2(x,y) | y,x范围内的余切 | cos(x) | 余弦函数 | exp(x) | 求幂 | int(x) | 取整 | log(x) | 自然对数 | rand() | 随机数 | sin(x) | 正弦 | sqrt(x) | 平方根 | srand(x) | x是rand()函数的种子 | int(x) | 取整,过程没有舍入 | rand() | 产生一个大于等于0而小于1的随机数 |
在awk中还可自定义函数,格式如下: function name ( parameter, parameter, parameter, ... ) {
statements
return expression # the return statement and expression are optional
}
awk中使用NR和FNR的一些例子http://blog.sina.com.cn/s/blog_5a3640220100b7c8.html http://www.linuxidc.com/Linux/2012-05/61174.htm 一般在awk里面输入文件是多个时,NR==FNR才有意义,如果这个值为true,表示还在处理第一个文件。 NR==FNR 這個一般用於讀取兩個或者兩個以上的文件中,用於判斷是在讀取第一個文件。。 test.txt 10行内容 test2.txt 4行内容 awk '{print NR,FNR}' test.txt test2.txt 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 10 10 11 1 12 2 13 3 14 4 现在有两个文件格式如下: #cat account 张三|000001 李四|000002 #cat cdr 000001|10 000001|20 000002|30 000002|15 想要得到的结果是将用户名,帐号和金额在同一行打印出来,如下: 张三|000001|10 张三|000001|20 李四|000002|30 李四|000002|15 执行如下代码 #awk -F \| 'NR==FNR{a[$2]=$0;next}{print a[$1]"|"$2}' account cdr 注释: 由NR=FNR为真时,判断当前读入的是第一个文件account,然后使用{a[$2]=$0;next}循环将account文件的每行记录都存入数组a,并使用$2第2个字段作为下标引用. 由NR=FNR为假时,判断当前读入了第二个文件cdr,然后跳过{a[$2]=$0;next},对第二个文件cdr的每一行都无条件执行 {print a[$1]"|"$2},此时变量$1为第二个文件的第一个字段,与读入第一个文件时,采用第一个文件第二个字段$2为数组下标相同.因此可以在此使用 a[$1]引用数组。 awk '{gsub(/\$/,"");gsub(/,/,""); if ($1>=0.1 && $1<0.2) c1+=1; else if ($1>=0.2 && $1<0.3) c2+=1; else if ($1>=0.3 && $1<0.4) c3+=1; else if ($1>=0.4 && $1<0.5) c4+=1; else if ($1>=0.5 && $1<0.6) c5+=1; else if ($1>=0.6 && $1<0.7) c6+=1; else if ($1>=0.7 && $1<0.8) c7+=1; else if ($1>=0.8 && $1<0.9) c8+=1; else if ($1>=0.9 ) c9+=1; else c10+=1; } END {printf "%d\t%d\t%d\t%d\t%d\t%d\t%d\t%d\t%d\t%d\t",c1,c2,c3,c4,c5,c6,c7,c8,c9,c10} ' /NEW 示例/例子: awk '{if($0~/^>.*$/) {tmp=$0; getline; if( length($0)>=200) {print tmp"\n"$0; } }}' filename awk '{if($0~/^>.*$/) {IGNORECASE=1; if($0~/PREDICTED/) {getline;} else {print $0; getline; print $0; } }}' filename awk '{if($0~/^>.*$/) {IGNORECASE=1; if($0~/mRNA/) {print $0; getline; print $0; } else {getline;} }}' filename awk '{ temp=$0; getline; if($0~/unavailable/) {;} else {print temp"\n"$0;} }' filename substr($4,20) ---> 表示是从第4个字段里的第20个字符开始,一直到设定的分隔符","结束. substr($3,12,8) ---> 表示是从第3个字段里的第12个字符开始,截取8个字符结束. 一、awk字符串转数字 $ awk 'BEGIN{a="100";b="10test10";print (a+b+0);}' 110 只需要将变量通过”+”连接运算。自动强制将字符串转为整型。非数字变成0,发现第一个非数字字符,后面自动忽略。 二、awk数字转为字符串 $ awk 'BEGIN{a=100;b=100;c=(a""b);print c}' 100100 只需要将变量与””符号连接起来运算即可。 三、awk字符串连接操作(字符串连接;链接;串联) $ awk 'BEGIN{a="a";b="b";c=(a""b);print c}' ab $ awk 'BEGIN{a="a";b="b";c=(a+b);print c}' 0 把文件中的各行串联起来: awk 'BEGIN{xxxx="";}{xxxx=(xxxx""$0);}END{print xxxx}' temp.txt awk 'BEGIN{xxxx="";}{xxxx=(xxxx"\",\""$0);}END{print xxxx}' temp.txt
提取满足条件的子字符串: cat > temp 74938 A>G 347589B>C43795743
awk '{x=$0;while (match(x, "[A-Z]>[A-Z]") > 0) { print substr(x, RSTART, RLENGTH); x = substr(x, RSTART+RLENGTH);} }' temp awk字符串函数,包含使用示例: https://www.tutorialspoint.com/awk/awk_string_functions.htm https://www.gnu.org/software/gawk/manual/html_node/String-Functions.html |