awk基本用法、处理条件、awk应用案例、监控脚本编写

1 正则表达式补充

\w 匹配数字、字母、下划线

    egrep "roo\w" user   #找roo后面必须是数字或字母或下划线的字符串

\s 匹配空格、tab键

    egrep "roo\s" user   #找roo后面是1个空格或者tab键打出来的空格的字符串，如果没有
    就不输出

\d 匹配数字，和[0-9]等效

    egrep "(25[0-5]\.|2[0-4][0-9]\.|1?[0-9]?[0-9]\.){3}(25[0-5]|2[0-4][0-9]|1?[0-9]?[0-9])"   #匹配ip地址
    grep -P "(25[0-5]\.|2[0-4]\d\.|1?\d?\d\.){3}(25[0-5]|2[0-4]\d|1?\d?\d)"   #匹配ip地址

2 sed补充

a行下追加 i行上添加 c替换整行

    sed 'a 666' user    #所有行的下面追加666
    sed '1a 666' user   #第1行的下面追加666
    sed '/^bin/a 666' user   #在以bin开头的行的下面追加666
    sed 'i 666' user  #所有行的上面添加666
    sed '5i 666' user   #第5行的上面添加666
    sed '$i 666' user  #最后1行的上面添加666
    sed 'c 666' user   #所有行都替换成666
    sed '1c 666' user  #替换第1行为666

替换特殊用法

    cat abc.txt                                #先准备素材
    100   laowang
    98   gangge
    59   laoniu
    sed -r 's/([0-9]+)(\s+)([a-z]+)/\3\2\1/' abc.txt    #使用替换功能更改文本列,此处小括号相当于保留（复制），\1相当于粘贴之前第1个小括号里的内容

3 案例1：使用awk提取文本

3.1 问题

本案例要求使用awk工具完成下列过滤任务：

• 练习awk工具的基本用法
• 提取本机系统数据
• 格式化输出信息

3.2 步骤

实现此案例需要按照如下步骤进行。

步骤一：awk的基本用法

1）基本操作方法

格式1：awk [选项] '[条件]{指令}' 文件

格式2：前置指令 | awk [选项] '[条件]{指令}'

其中，print 是最常用的编辑指令；若有多条编辑指令，可用分号分隔。

Awk过滤数据时支持仅打印某一列，如第2列、第5列等。

处理文本时，默认将空格、制表符作为分隔符。

条件可以用/ /的方式，与sed类似

awk常用内置变量：

$0 文本当前行的全部内容

$1 文本的第1列

$2 文件的第2列

$3 文件的第3列，依此类推

NR 文件当前行的行号

NF 文件当前行的列数（有几列）

    [root@svr5 ~]# cat abc.txt 
    hello the world
    welcome to beijing
    awk '{print}' abc.txt                #输出所有
    awk '/to/{print}' abc.txt            #输出有to的那行
    awk '{print $2}' abc.txt            #输出所有行的第2列
    awk '/to/{print $1}' abc.txt        #输出有to的那行的第1列
    awk '{print $0}' abc.txt            #输出所有行所有列
    awk '{print $0,$1}' abc.txt        #输出所有行所有列，第1列
    awk '{print NR}' abc.txt            #输出所有行的行号
    awk '{print NR,$0}' abc.txt        #输出所有行的行号，所有列
    awk '{print NR,NF}' abc.txt        #输出所有行的行号，列号(有几列)

再使用之前的user文档测试

    awk '/^bin/{print NR}'  user        #找以bin开头的行，显示该行的行号
    awk '/^bin/{print NR,$0}'  user    #找以bin开头的行，显示该行的行号，所有列
    awk '{print NF}'   user            #输出所有行的列号（每行有几列）

2）选项 -F 可指定分隔符

    awk -F: '{print $1}'  user         #文档中如果没有空格，可以用F修改分隔符
    awk -F: '{print $1,$6}'  user        #使用冒号作为列的分隔符，显示第1、6列

awk还识别多种单个的字符，比如以“:”或“/”分隔

    awk -F [:/] '/^root/{print $1,$10}' user

awk的print指令不仅可以打印变量，还可以打印常量

    awk -F: '{print $1" 的家目录是 "$6}'  user    #输出常量，加双引号即可
    awk -F: '{print $1" 的解释器是 "$7}'  user

步骤二：利用awk提取本机系统数据

1）收集根分区剩余容量

    df -h | awk  '/\/$/{print  $4}'    #使用df  -h 作为前置指令交给awk处理找到以/结尾的行，并输出第4列
    df -h | awk  '/\/$/{print  "根分区剩余容量是"$4}'   #然后加常量输出

2）收集网卡流量信息

RX为接收的数据量，TX为发送的数据量。packets以数据包的数量为单位，bytes以字节为单位：

    ifconfig eth0 | awk '/RX p/{print "eth0网卡接收的数据量是"$5"字节"}'
    ifconfig eth0 | awk '/TX p/{print "eth0网卡发送的数据量是"$5"字节"}'

步骤三：格式化输出信息

1）awk处理的时机

awk会逐行处理文本，支持在处理第一行之前做一些准备工作，以及在处理完最后一行之后做一些总结性质的工作。在命令格式上分别体现如下：

    awk  [选项]  '[条件]{指令}'  文件
    awk  [选项]  'BEGIN{指令} {指令} END{指令}'  文件

• BEGIN{ } 行前处理，读取文件内容前执行，指令执行1次
• { } 逐行处理，读取文件过程中执行，指令执行n次
• END{ } 行后处理，读取文件结束后执行，指令执行1次

    awk -F: 'BEGIN{print "start"}{print $1}END{print "over"}' user
    awk 'BEGIN{print NR}{print NR}END{print NR}' user

2）格式化输出/etc/passwd文件

要求: 格式化输出passwd文件内容时，要求第一行为列表标题，中间打印用户的名称、UID、家目录信息，最后一行提示一共已处理文本的总行数，效果如图-1所示。

3）根据实现思路编写、验证awk过滤语句

输出信息时，可以使用“\t”显示Tab制表位：

    awk 'BEGIN{print "User\tUID\tHome"}'            #第1步输出表头信息
    awk -F: '{print $1"\t"$3"\t"$6}' user            #第2步输出内容
    awk 'END{print "总计"NR"行" }' user                #第3步输出结尾
    awk -F: 'BEGIN{print "User\tUID\tHome"}{print $1"\t"$3"\t"$6}END{print "总计"NR"行"}' user   #合在一起写

4 案例2：awk处理条件

4.1 问题

• 本案例要求使用awk工具熟悉各种条件，以达到更精确查找某行的目的

4.2 步骤

实现此案例需要按照如下步骤进行。

步骤一：认识awk处理条件的设置

使用正则设置条件

/正则/ ~ 包含 !~不包含

    awk -F: '$6~/root/{print}'  user  #输出第6列包含root的行
    awk -F: '$6~/bin/{print}'  user   #输出第6列包含bin的行
    awk -F: '$6!~/bin/{print}'  user  #输出第6列不包含bin的行

2）使用数值/字符串比较设置条件

比较符号：==(等于) !=（不等于） >（大于）

>=（大于等于） <（小于） <=（小于等于）

    awk -F: '$3<3{print}' user            #输出第3列小于3的行
    awk -F: '$3<=3{print}' user        #输出第3列小于等于3的行
    awk -F: 'NR==2{print}' user        #输出第2行
    awk -F: 'NR>2{print}' user            #输出行号大于2的行

3）逻辑测试条件

    awk -F: 'NR>=3&&NR<=5{print}' user            #找行号是3~5行
    awk -F: 'NR==2||NR==4{print}' user            #找行号是2或者4的行
    awk -F: 'NR==2||NR==40{print}' user        #如果只有一个条件满足就显示一个

当定义了条件且指令就是print时可以省略指令不写

    awk -F: '$7~/bash/&&$3<=500' user        #找第7列包含bash并且第3列小于等于500的行
    awk 'NR==2&&NR==4' user                #找行号既是2又是4的行，不存在，无输出
    awk -F: '$7~/bash/&&NR<=3' user        #找第7列包含bash并且行号是1~3的
    awk -F: '$7~/bash/||NR<=3' user        #找第7列包含bash或者行号是1~3的

4）数学运算

    awk 'NR%2==0{print NR,$0}' user   #在条件中使用运算，找到将行号除以2余数等于0的行，然后输出该行的行号和所有列，相当于输出偶数行

5 使用awk统计网站访问量

使用awk统计网站访问量

    setenforce 0                         #关闭selinux
    systemctl stop firewalld            #关闭防火墙
    systemctl restart httpd            #开启网站服务

使用浏览器多访问几次网站，包括本机用curl

    curl  192.168.88.2:82                #如果端口没改过就不用敲:82
    awk  '{print $1}'  /var/log/httpd/access_log   #初步统计，不完美

6 案例3：awk数组

6.1 问题

本案例要求了解awk数组的使用

步骤一：awk数组

1）数组的语法格式

数组是一个可以存储多个值的变量，具体使用的格式如下：

定义数组的格式：数组名[下标]=元素值

调用数组的格式：数组名[下标]

    awk 'BEGIN{a=10;a=20;print a}'                 #首先测试普通变量
    awk 'BEGIN{a[1]=10;a[2]=20;print a[2],a[1]}'    #使用awk测试数组，创建数组a，下标1对应值是10，下标2对应值是20，然后输出下标是2与下标是1的值

注意，awk数组的下标除了可以使用数字，也可以使用字符串，字符串需要使用双引号：

    awk 'BEGIN{a["abc"]="abcabc";a["xyz"]="xyzxyz";print a["xyz"]}'   

以上信息是手工输入，还可以从文档收集

准备一个测试文档，里面有6行，每行分别是abc、xyz、abc、opq、xyz、abc 然后按照awk逐行处理的工作特点使用awk '{a[$1]++}' shu.txt 走完每一行得到下列结果，但不会输出到屏幕

    逐行任务            每行实际执行        执行结果
    a[$1]++            a[abc]++            a[abc]=1
    a[$1]++            a[xyz]++            a[xyz]=1
    a[$1]++            a[abc]++            a[abc]=2
    a[$1]++            a[opq]++            a[opq]=1
    a[$1]++            a[xyz]++            a[xyz]=2
    a[$1]++            a[abc]++            a[abc]=3
    awk  '{a[$1]++}END{print a["abc"]}'  shu.txt        #如果要看值，可以输出数组名[下标]，由于数组下标不确定，逐行任务运算前可以不用BEGIN任务定义

根据上述操作了解数组可以收集信息，但收集完了之后查看确不方便，可以用for循环实现。方法如下：

for(变量名 in 数组名){print 变量名} #这个格式可以查看数组的所有下标

    awk '{a[$1]++}END{for(i in a){print i,a[i]}}' shu.txt   #使用逐行任务与数组收集文档shu.txt中的信息，然后在END任务中使用for循环显示所有数组a的下标与值

7 案例4：awk扩展应用

7.1 问题

本案例要求使用awk工具完成下列两个任务：

分析Web日志的访问量排名，要求获得客户机的地址、访问次数，并且按照访问次数排名

7.2 方案

1）awk统计Web访问排名

在分析Web日志文件时，每条访问记录的第一列就是客户机的IP地址，其中会有很多重复的IP地址。因此只用awk提取出这一列是不够的，还需要统计重复记录的数量并且进行排序。

通过awk提取信息时，利用IP地址作为数组下标，每遇到一个重复值就将此数组元素递增1，最终就获得了这个IP地址出现的次数。

针对文本排序输出可以采用sort命令，相关的常见选项为-r、-n、-k。其中-n表示按数字顺序升序排列，而-r表示反序，-k可以指定按第几个字段来排序。

7.3 步骤

实现此案例需要按照如下步骤进行。

步骤一：统计Web访问量排名

分步测试、验证效果如下所述。

1）提取IP地址及访问量

    awk '{ip[$1]++}END{for(i in ip){print ip[i],i }}' /var/log/httpd/access_log     #数组名称可以自定义其他的，通过awk数组+for循环查看日志中哪个ip来访过以及来访的次数

2）对第1）步的结果根据访问量排名?

    awk '{ip[$1]++}END{for(i in ip){print ip[i],i}}' /var/log/httpd/access_log | sort -nr        #使用sort命令增加排序功能，-n是以数字形式排序，-r是降序

8 案例5：安全检测

8.1 问题

本案例要检测登录者的IP

检测安全日志，登录root且密码错误就输出对方IP

8.2 步骤

实现此案例需要按照如下步骤进行。

步骤一：准备工作

1）/var/log/secure是安全日志，如果有人登陆时输入错误密码的话信息会记录下来，这种信息可以用awk抓取出来，方法如下：

    awk '/Failed password for root/{ip[$11]++}END{for(i in ip){print i,ip[i]}}'  /var/log/secure    #统计安全日志中访问root账户且密码输入错误的ip地址与次数

9 案例6：编写监控脚本

9.1 问题

本案例要求编写脚本，实现计算机各个性能数据监控的功能，具体监控项目要求如下：

9.2 步骤

实现此案例需要按照如下步骤进行。

步骤一：准备工作

1）部分常用命令

    [root@svr5 ~]# uptime                            #查看CPU负载
    [root@svr5 ~]# ifconfig eth0                    #查看网卡流量
    [root@svr5 ~]# free                            #查看内存信息
    [root@svr5 ~]# df                                #查看磁盘空间
    [root@svr5 ~]# wc -l /etc/passwd                #查看计算机账户数量
    [root@svr5 ~]# who |wc -l                        #查看登录账户数量
    [root@svr5 ~]# rpm -qa |wc -l                    #查看已安装软件包数量

步骤二：编写参考脚本

1）脚本内容如下：

    #!/bin/bash
    while :
    do
    clear                                    #清屏
    free -h | awk  '/^Mem:/{print "剩余内存容量是"$4}'
    df -h | awk  '/\/$/{print "根分区剩余容量是"$4}'
    awk 'END{print "用户总数是"NR"个"}'  /etc/passwd
    who | awk 'END{print "登录用户数量是"NR"个"}'
    uptime | awk '{print "cpu的15分钟平均负载是"$NF}'
    rpm -qa | awk 'END{print "安装的软件包数量是"NR"个"}'
    sleep 3
    done