文本处理工具基础(grep系、sed、awk等)

简介:

常用的文本编辑工具有vim、vi、nano,同时文本处理工具还有文本处理三剑客:grep系、sed、awk,具体介绍如下。

1、grep系

grep系是文本搜索工具,可以分为grep、egrep、fgrep,是基于“PATTERN”对于给定的文本进行模糊搜索,同时grep系默认工作于贪婪模式下。

(1)grep:Global search Regular expression and Print out the line(利用正则表达式进行全局搜索,并将匹配的行显示出来)

  grep的格式一为:grep [OPTION] PATTERN [FILE……]

  格式中的PATTERN,是过滤条件,是正则表达式元字符以及没有特殊含义的文本字符组成。正则表达式的元字符,其会被正则表达式引擎解释为特殊含义;最完整的的正则表达式引擎为pcre(perl common regular expression),即perl语言的正则表达式引擎。 对于正则表达式引擎来说,字是由非特殊字符组成的连续字符串。

  正则表达式的元字符分为两类:基本的正则表达式BRE、扩展得到正则表达式ERE。grep默认仅支持基本的正则表达式,egrep默认支持扩展正则表达式,fgrep默认不开启正则表达式引擎。其中的文本字符,是只具备字符表面的那些字母。   

  grep命令的常用选项为:-i,--ignore-case:忽略文本字符的大小写

                       -v,--invert-match:反向匹配,最终显示的结果是PATTERN不能成功匹配的行

                       -c,--count:计数,统计匹配PATTERN的所有行数

                       -o,--only-matching:关闭贪婪模式,仅显示PATTERN能够匹配的内容

                       -q,--quiet,--silent:安静模式,不输出任何匹配结果(判断有无这样的信息,只关注有无和模式匹配的内容)

                       --color[=WHEN],--colour[=WHEN]:将匹配PATTERN的内容进行高亮显示,常用--color=auto

                       -E,--extended-regexp:扩展的正则表达式,grep -E相当于egrep

                       -F,--fixed-strings,--fixed-regexp:grep -F相当于fgrep

                       -G,--basic-regexp:基本正则表达式,egrep -G相当于grep

                       -P,--perl-regexp:使用PCRE引擎

                       -A NUM,--after-context=NUM:在显示匹配PATTERN的行的同时显示其后面的NUM行

                       -B NUM,--before-context=NUM:在显示匹配PATTERN的行的同时显示其前面的NUM行

                       -C NUM,-NUM,--context=NUM:在显示匹配PATTERN的行的同时显示其前后的NUM行

 例如:# grep "^root\>"  /etc/passwd : 在/etc/passwd中查找并显示用户名为“root”用户的信息

       # grep -n "little" /etc/group :查找并显示在/etc/group中"little"所在的行和行号

       # grep -v "^root\>"  /etc/passwd : 在/etc/passwd中查找并显示除了“root”之外的所有用户的信息  (结果中的一部分)

       # grep -o "little" /etc/group :在/etc/group中查找"little"

       # grep -i 'o' /var/log/boot.log :在/var/log/boot.log查找字母"o"和"O"所在的行

       # grep -E "t{2,}"  /etc/rc.d/init.d/network :在/etc/rc.d/init.d/network中查找并显示"t"至少出现2次所匹配的行

       # grep -A 2 "/dev/shm"  /etc/fstab :在/etc/fstab中查找并显示"/dev/shm "所匹配的行以及下2行

       # grep -B 1 "order " etc/host.conf :在/etc/host.conf 中查找并显示"order "所匹配的行以及上1行

       # grep -C 1 "MemFree" /proc/meminfo :在/proc/meminfo查找"MemFree"所在的行以及上一行和下一行



 PATTERN是正则表达式元字符。基本的正则表达式元字符为GLOBBING,简化版的正则表达式有[]、?、*

 grep字符匹配如下:

    .:匹配任意单个个字符

    []:匹配任意范围内的单个字符

    [^]:匹配指定范围以外的任意单个字符

    [:lower:]:所有的小写字母

    [:upper:]:所有的大写字母

    [:alpha:]:表示所有的字母字符

    [:digit:]:表示所有的十进制数字

    [:space:]:表示空白字符

    [:alnum:]:表示所有的大小写字母以及十进制数字

    [:punct:]:所有的标点符号

    [:xdigt:] :显示所有打的十六进制数字

    a~z:所有的小写字母

    A~Z:所有的大写字母

    0~9:表示所有的十进制数字

 例如:# echo "Aa12@" | grep "[[:alpha:]]"  :显示"Aa12@"中的字母不区分大小写

       # echo " A a12@" | grep "[[:space:]]" :显示"A a12@"中的空白字符

       # ls -l | grep "r..r" :显示r开头和结尾的内容,其中 . 表示任意单个字符

       # echo "hello little525" | grep "[0-9]"

       # echo "hello little525" | grep "[^0-9]"

       # grep -c "^[[:space:]]*&" little

 下列所有的字符集都可以放置于[]之中用于匹配单个字符;次数匹配,解释为该类字符之前的那个字符可以出现的次数,具体字符如下:

    *:其前面的字符可以出现任意次(0次、1次或多次)

    \?:其前面的字符可以有可以无(0次或1次)

    \+: 其前面的字符至少出现1次

    \{m\}:其前面的字符必须出现m次

    \{m,n\}:其前面的字符至少出现m次,至多出现n次(m<n)

    \{,n\}:其前面的字符至少出现0次,至多出现n次

    \{m,\}:其前面的字符至少出现m次,至多不限

    .* :在正则表达式中,表示任意长度,任意字符的方式

 例如:# echo "root" | grep "o*"  :匹配其前的o任意次  

       # echo "root" | grep "o\?" :匹配o2次, \?:匹配其前的字符0次或1次

       # echo "rooot" | grep "o\?" :匹配o3次

       # echo "root" | grep ".*" :匹配其前的任意字符任意次

       # echo "root" | grep "o\{2\}*"  :"o"出现2次

       # echo "rooot" | grep "o\{3,\}*"  :"o"至少出现3次


 grep位置锚定字符如下,其中,\b表示旧版本中的锚定方法:

    行锚定:行首锚定^ ;行尾锚定$

    字锚定:字首锚定 \<或\b ;字尾锚定 \>或\b

 例如:'^\<root\>' 和^\[[:digit:]]\{2\}\>'

       # cat /etc/passwd | grep "^z.*"  :查找并显示以"z"开头的用户的所有信息

       # cat /etc/rc.d/rc.sysinit | grep -n "^$" :显示以"n"为行尾的所有用户组的信息

       # grep -n "\<little\>" /etc/passwd :显示用户名为little的所有信息

       # grep -n "bash\>$" /etc/passwd :显示shell为/bin/bash的所有用户

       # ifconfig | grep -E -o "\<([1-9]|[1-9][0-9]|(1[0-9]{2}|2[0-1][0-9]|22[0-3]))\.([0-9][1-9]{2}|(1[0-9]{2}|2[0-4][0-9]|25[0-5])\.){2}.([0-9]|[1-9][0-9]|1[0-9][0-9]|2[0-4][0-9]|25[0-4]))\>"


 分组与引用字符为\(PATTERN\);将此PATTERN所匹配到的所有字符当做一个不可分割的整体来处理,在正则表达式引擎中,有一系列的内置变量,这些变量会保存所有分组内的字符信息,用于后项引用,这些变量依次是\2、\3、\4…… 例如至少要匹配一次xy表达为\(xy\)\+

  多分组的例子pattern1\(pattern2\)pattern3\(pattern4\(pattern5\)\)中,其中,第一个小括号  \1:表示pattern2;\2:表示pattern4;\3:表示pattern5。例子中\1:表示第一组小括号中的PATTERN匹配到的字符;\2:表示第二组小括号中的PATTERN匹配到的字符……

  grep引用字符的例子:请找出在/etc/passwd中用户的UID和GID相同的用户账户:# grep '\(\<[[:digit:]]\+\>\).*\1' /etc/passwd

 grep的或字符为:\|

  注意:\| 将其左右两边的字符串当做整体来对待。例如:A\|american,即A或american

  grep或字符的例子:请找出ifconfig命令的执行结果中数值在100~255之间的整数:第一位可以为1和2;第二位中,如果第一位为1,则第二位可以为0~9;若第一位为2,第二位有0~4和0~5两种情况;若第一位为1,第二位为0~9,则第三位可以为0~9;若第一位为2,第二位为0~4,则第三位可以为0~9;若第一位为2,第二位为5,则第三位可以为0~5。

   # ifconfig | grep '\<\(1[0~9][0~9]\|2[0~4][0~9]\|25[0~5]\)\>'

  

 grep的格式二为:grep [OPTION] [-e PATTERN | -f FILE] [FILE……]

   在默认情况下,grep后面只允许有一个PATTERN,如果想在一次grep中写多个PATTERN,则需要用-e选项,每一个-e选项只能使用一个PATTERN作为参数。要将所需要的PATTERN写入一个文件中,保证每行只有一个PATTERN,我们就可以使用-f FILE方式来实现多PATTERN的匹配。

 例如:(1)、# ls -l | grep '^a':通过管道过滤ls -l输出的内容,只显示以a开头的行

       (2)、# grep 'test' d*:显示所有以d开头的文件中包含test的行

       (3)、# grep 'test' aa bb cc:显示在aa,bb,cc文件中匹配test的行

       (4)、# grep '[a-z]\{5\}' aa:显示所有包含每个字符串有5个连续小写字符的字符串的行

       (5)、# grep "a|b" :匹配包含字符样式为"a|b"的行


  

 (2)egrep

 egrep的格式为:egrep [OPTION] PATTERN [FILE……]

 egrep扩展的正则表达式字符如下,和grep相比egrep少了很多\,书写起来比较方便:

 字符匹配:. [] [^]

 次数匹配:* ? + (m) (m,n) (m,) (0,n)

 位置锚定:^ $ \<,\b \>,\b

 分组与引用:() \1,\2,\3……

 或:|

 例如:# grep -E "a|b" :匹配包含字符样式为"a"或"b"的行

       # egrep -i --color=auto 'o' /var/log/boot.log :在/var/log/boot.log查找字母"o"和"O"所在的行

       # egrep --color=auto -n "^ro+" /etc/passwd :查找以r开头后面至少有一个o的用户所在的行


 (3)fgrep

 fgrep的PATTERN中所有的字符都被当做文本字符来处理


 


2、sed:stream EDitor,即流编辑器。

sed是一种行编辑器,其是在执行时被改变,其原数据不变。

3、awk

awk格式为:awk -F "DELIMITER" '[\PATTERN\]{print $1,$2,$3,……$NF}' FILE……

其中,-F "DELIMITER":是指定字段分隔符,其默认为空白字符。$1,$2,$3,……$NF:根据字段分隔符切割出来的文本片段都存放在相应的内部变量中

gawk即GNU awk,gawk在Linux中用的最多。awk是一种文本格式化工具、文本报告生产器,也叫做文本处理的编程语言。

例如:# awk -F : 'print $NF' /etc/passwd

      # df | tr -s ' ' |cut -d ' ' -f6   (tr为格式转换,例如:tr '\n' ',')


另有其他的文本处理命令:wc、cut、sort、uniq、diff、patch等,具体解释如下:

 wc命令

 wc的格式为:wc [OPTION]…… [FILE……]

 -l:只显示行数

 -w:只显示字数

 -c:只显示字符数

 例如:# wc -l install.log

       # wc last | ec -l

 

 cut命令:remove sections from each line of files

 能够被cut命令修剪的文件,一般都是具有一定结构或格式的文本文档,如/etc/passwd

 cut格式为:cut [OPTION]…… [FILE……]

  -d,delimiter=DELIM:指定在实施修剪操作时所依赖的分隔符,默认是空白字符

  -f,--fields=LIST:根据定义的分隔符来指定字段的编号

  --output-delimiter=STRING:指定输出分隔符,自定义

 cut中地址定界的使用方法如下:

        #:选择被指定的单个字段

        #,#:离散的多个被指定的单个字段

        #-#:连续的多个被指定的字段


sort命令:sort line of text files 

sort命令是将文本文件按行继续排序,默认排序方式是按照ASCII码表中字符顺序进行,这个排序标准可以修改。

-R,--random-sort:随机排序,这种随机算法是非常简陋的,不适合用在复杂环境

-r,--reverce:排序后倒序排序

-u,--unique:去重,重复出现的行,只保留1行,连续且完全相同的叫做重复

-n,--numeric-sort:以数字的数值大小进行排序

-t,--field-separator=SEP:指定字段分隔符

-k,--key=KEYDEF:指明根据哪一个关键字段进行排序,一般和-t一起进行使用


uniq命令:report or omit repeated lines

-d,--repeated:只显示重复出现的行,而且每一组重复行只显示一行

-u,--unique:只显示不重复的行

-c,--count:在每行以前缀的方式显示重复行的重复次数


diff命令: compare files line by line

diff命令是同一文件的不同修改版本:相当于打补丁机制


patch命令:apply changes to files

 patch格式为:patch [-R][-i patchfile]

 -R:恢复还原补丁文件 例如:# patch -R -i name.patch name

其中,diff和patch是一组同时使用的命令。


     本文转自little_ding 51CTO博客,原文链接:http://blog.51cto.com/12496428/1914997,如需转载请自行联系原作者







相关文章
|
8月前
|
运维 Shell Linux
linux文本处理工具——grep、sed、awk用法
linux文本处理工具——grep、sed、awk用法
97 1
|
11月前
|
Linux C语言 计算机视觉
linux中最为常用的三大文本(grep,sed,awk)处理工具(下)
linux中最为常用的三大文本(grep,sed,awk)处理工具
124 0
|
11月前
|
存储 移动开发 Unix
linux中最为常用的三大文本(grep,sed,awk)处理工具
linux中最为常用的三大文本(grep,sed,awk)处理工具
99 0
|
Linux Perl
linux高级命令行文本处理cut,sed,awk
cut   sort排序 wc  sed linux sed的详细指令 -i会删除 删除 替换 AWK awk命令详解   ...
1753 0
|
Linux 网络安全 Perl
Linux的文本处理工具浅谈-awk sed grep
Linux的文本处理工具浅谈 awk   老大 【功能说明】 用于文本处理的语言(取行,过滤),支持正则 NR代表行数,$n取某一列,$NF最后一列 NR==20,NR==30 从20行到30行 FS竖着切,列的分隔符 RS横着切,行的分隔符 ...
1402 0
|
Perl 机器学习/深度学习