linux awk命令

awk是一种用于处理数据和生成报告的编程语言。它既不是具有独立意义的英文单词,也不是几个相关单词的缩写。事实上,awk是三个人名的缩写,他们是:Aho、(Peter) Weinberg和(Brain)Kernighan。正是这三个人创造了awk---一个优秀的样式扫描与处理工具。

AWK的功能是什么?与sed和grep很相似,awk是一种样式扫描与处理工具。但其功能却大大强于sed和grep。awk提供了极其强大的功能:它几乎可以完成 grep和sed所能完成的全部工作,同时,它还可以可以进行样式装入、流控制、数学运算符、进程控制语句甚至于内置的变量和函数。它具备了一个完整的语言所应具有的几乎所有精美特性。实际上,awk的确拥有自己的语言:awk程序设计语言,awk的三位创建者已将它正式定义为:样式扫描和处理语言。
一般的使用格式是:
      awk '{pattern + action}' {filenames}

pattern指在每一行中进行匹配的条件,action指针对符合条件的行进行的操作,filenames是输入的文件名。
假设data文件中有以下数据:
 1 donald 305 20050129
 2 chin 102 20040129
 3 mark 304 20040229

下面对这个文件进行操作:
1>Cmd    :  awk '{print $1, $2, $3, $4}' data
 Result  : 1 donald 305 20050129
           2 chin 102 20040129
           3 mark 304 20040229

2>Cmd    :  awk '{print $1"\t", $2"\t", $3"\t", $4}' data
 Result  : 1        donald  305     20050129
           2        chin    102     20040129
           3        mark    304     20040229 

 Note    : 这里显示的格式并不是输出的真实格式,真实格式是中间会有一个tab符号,格式对的很整齐,只不过在html里看不出来。

3>Cmd    :  awk '/donald/ {print $4}' data
 Result  : 20050129
 Note    : 匹配当data文件中包含字符串"donald"的行,输出第4列的值.

4>Cmd    :  awk '/donald|chin/ {print $1, $2}' data
 Result  : 1 donald
           2 chin
 Note    : 这里的"|"应该是或的作用,而不是管道,输出。

5>Cmd    :  awk '/a[rl]/ {print $1, $2}' data
 Result  : 1 donald
           3 mark
 Note    : 兼容perl的正则表达式,匹配包含"ar"或"al"的列,输出。
  
6>Cmd    :  awk '/a[rl]/ {print $1, $2, $3+1}' data
 Result  : 1 donald 306
           3 mark 305
 Note    : 给第三列加上1再输出。
 
7>Cmd    :  awk '/a[rl]/ {print $1, $2} {print $3+1}' data
 Result  : 1 donald
           306
           103
           3 mark
           305
 Note    : 匹配只对第一对花括号产生作用。扫描行,如果匹配,输出1,2列,然后输出第3列+1的值。如果不匹配,输出第3列+1的值。

8>Cmd    :  awk 'FS="n" {print $1}' data
 Result  : 1
           2 chi
           3 mark 304 20040229
 Note    : 使用"n"而不是空格做为分隔符。注意:对第一行貌似不起作用,第一行还是按照原来的分隔符进行分隔。

9>Cmd    :  awk 'FS="n" {OFS="-"} {print $1, $2}' data
 Result  : 1-donald
           2 chi- 102 20040129
           3 mark 304 20040229-
 Note    : 把分隔符输出。

10>Cmd   :  awk 'FS="n" {OFS="-"} {print NR, $1, $2}' data
 Result  : 1-1-donald
           2-2 chi- 102 20040129
           3-3 mark 304 20040229-
 Note    : 使用NR变量,num of row,即行号,输出。

11>Cmd   :  awk '{x=x+$3} {print NR, $3, x}' data
 Result  : 1 305 305
           2 102 407
           3 304 711
 Note    : 使用变量进行累加计算。注意:x的初始值为0,第一行后就变成了$3。

12>Cmd   :  awk '{x=x+$3} END {print NR, $3, x}' data
 Result  : 3 304 711
 Note    : 使用BEGIN和END在处理之前或之后显示结果,输出。

13>Cmd   :  awk '{x=x+$3} {print NR, $3, x | "sort -nr"}' data
 Result  : 3 304 711
           2 102 407
           1 305 305
 Note    : 在awk内使用管道进行排序,输出。

14>Cmd   :  cat command
            {x=x+$3}
            {print NR, $3, x | "sort -nr"}
            awk -f command data
 Result  : 3 304 711
           2 102 407
           1 305 305
 Note    : 将指定写在文件中,输出。

如果简单的输出不能处理您的程序中所需要的复杂信息,则可以尝试由 printf 命令获得的更加复杂的输出,其语法是

printf( format, value, value ...)

该语法类似于 C 语言中的 printf 命令,而格式的规格是相同的。通过插入一项定义如何打印数值的规格,可以定义该格式。格式规格包含一个跟有字母的 %。类似于打印命令,printf 不必包含在圆括号中,但是可以认为使用圆括号是一种良好的习惯。

下表列出 printf 命令提供的各种规格。

规格 说明
%c 打印单个 ASCII 字符
%d 打印十进制数
%e 打印数字的科学计数表示
%f 打印浮点表示
%g 打印 %e 或 %f;两种方式都更简短
%o 打印无符号的八进制数
s 打印 ASCII 字符串
%x 打印无符号的十六进制数
%% 打印百分号;不执行转换

可以在 % 与字符之间提供某些附加的格式化参数。这些参数进一步改进数值的打印方式:

参数 说明
- 将字段中的表达式向左对齐
,width 根据需要将字段补齐到指定宽度(前导零使用零将字段补齐)
.prec 小数点右面数字的最大字符串宽度或最大数量

From: http://www.sciencenet.cn/m/Print.aspx?id=214216

作者: tangaf   发布时间: 2010-11-15