正则表达式概述

学习之前,可以暂时把正则表达式理解为功能更高级的通配符(wildcard)。

在Shell里,可以通过通配符来匹配一些具有相似模式的字符串,比如下面的命令:

$ ls *           # 列举所有的文件     
$ ls *.c         # 列举所有以".c"结尾的文件
$ ls 108?.c      # 列举以108开头,后面跟一个任意字符,再以".c"结尾的文件
$ ls 108[56].c   # 列举以108开头,后面跟5或6,再以".c"结尾的文件
$ ls 108[0-8].c  # 列举以108开头,后面跟0~8中的任意一个,再以".c"结尾的文件
$ ls l08[!0].c   # 列举以108开头,后面跟一个不为0的字符,再以".c"结尾的文件

其中,'*'、'?' 等就被称为通配符,因为他们可以匹配一个或多个符合规则的字符,具体的,这些通配符的作用如下:

  • '*' 用于匹配零个或多个任意字符。
  • '?' 用于匹配单个任意字符。
  • '[]' 用于匹配可能出现的单个字符,比如[56]表示该位置可能出现5或6, 也可以使用范围的方式,比如[0-8]表示数字范围0~8,[a-i]表示字符范围a~i。
  • '!' 用于排除单个字符。

通配符的作用就是用于字符串的匹配,但是在遇到比较复杂的匹配需求时,通配符就无能为力了,比如像“匹配以test开头,后面跟1个或多个数字,再跟3个非数字的字符,再以abcef中的一个或多个字符结尾的字符串”,或是匹配一个邮箱地址,只使用通配符的话就无法实现,这时,正则表达式就可以派上用场了。

正则表达式是比通配符功能更加强大的用于字符串模式匹配的工具,具体地,正则表达式可以实现以下功能:

  1. 字符串模式匹配,即验证字符串是否符合指定特征,比如验证一串字符是否是一个合法的邮箱地址;
  2. 在模式匹配的基础上,进行字符串分割,将字符串按规则分割成几个部分,以便于提取字符串,比如从邮箱地址中提取@前面的用户名;


使用正则表达式的最大问题是正则表达式有很多的流派(正则表达式“派别”简述 - Keep Coding),也就是在实现相同功能的情况下,不同流派的正则表达式可能有不同的写法。具体来说,正则表达式可以分为以下几类:

  1. POSIX基础正则表达式(basic regular expression, BRE)
  2. POSIX扩展正则表达式(extended regular expression, ERE)
  3. Perl兼容的正则表达式(Perl compatible reqular expression, PCRE)

关于这几个流派,PCRE一般用于编程语言,比如Perl, Boost.Regex, java.util.regex。BRE和ERE一般用于POSIX程序,比如sed, awk, grep等,其中sed默认使用BRE,awk默认使用ERE,而grep则可以通过选项选择使用哪种流派的正则表达式。关于这几个流派的正则表达式差异可以参考:正则表达式 BRE ERE PCRE 区别 | IT日记,本篇主要介绍PCRE。


学习正则表达式可以借助一些在线测试的网站,比如:在线正则表达式测试工具,Regexp在线调试 - 在线工具

正则表达式规则

关于模式匹配

所谓模式匹配,其实就是给出一个模式串和目标串,然后判断目标串中是否存在匹配串。

模式串用以描述要匹配的字符串特征,可以包含用于模式匹配的元字符,也可以包含普通字符。目标串则可以是任何字符串,匹配串是目标串中符合模式串的实际字符串。

以上面的通配符举例,abc[de]f就是一个模式串,这个模式串描述的字符串特征是“abc开头,后面接一个d或e,再接一个f”。目标串可以是任何字符串,这里以目标串abcdefg举例,在这个目标串里,不存在与模式串匹配的目标串。把目标串改成abcdfg,则存在一个匹配串abcdfg,匹配位置是从1开始,结束于5(下标从1开始)。如果把目标串改成abcdfgabcefg,则存在两个匹配串abcdfgabcefg,第一个匹配串起始于1,结束于5,第二个匹配串起始于7,结束于11。

模式串不一定要匹配整串目标串,只要部分匹配,就算匹配成功,甚至在一个目标串里可以存在多个匹配串。

正则表达式充当的就是模式串的作用,通过正则表达式可以描述一个待匹配的字符串特征。

正则表达式构成

参考:http://regexlab.com/zh/regref.htm

正则表达式其实就是一串用于描述字符串特征的字符串,包含普通字符和元字符。普通字符用于匹配目标串里的相同字符,比如正则表达式abc,在匹配目标串abcdef时,匹配的结果是成功,匹配到的内容是abc,匹配到的位置是开始于1,结束于3。元字符和Shell里的通配符功能类似,用于匹配一类字符,只不过正则表达式里的元字符数量比Shell里的通配符数量要多很多,功能也比通配符强大。下面的表格包含正则表达式里可用的元字符,其中有些是转义字符:


表达式可匹配
\r,\n匹配回车和换行符
\t匹配制表符
\\匹配 '\'
\^匹配 ^
\$匹配 $
\.匹配 .
\d任意一个数字,0~9中的任意一个
\w任意一个字母、数字或下划线,也就是A~Z, a~z,0~9, _ 中任意一个
\s空格、制表符、换页符等空白字符中的任意一个
.匹配除换行符(\n)以外的任意一个字符
[ab5@]匹配'a'、'b'、'5'、'@'中的任意一个
[^abc]匹配'a'、'b'、'c'之外的任意一个字符
[f-k]匹配'f'~'k'之间的任意一个字符
[^A-F0-3]

匹配'A'~'F','0'~'3'之外的任意一个字符

^匹配字符串起始位置,不匹配任何实际字符
&匹配字符串结束位置,不匹配任何实际字符
\b匹配一个单词边界,也就是单词和空格之间的位置,不匹配任何字符
{n}表达式重复n次,比如 a{5} 相当于 aaaaa
{m, n}表达式重复m~n次,比如 ba{1,3} 可以匹配 ba, baa, baaa
{m,}表达式至少重复m次,比如 \w\d{2} 可以匹配 a12, _456, m1234, ...
?表达式出现0次或1次,相当于{0,1},比如 a[cd]? 可以匹配a, ac, ad
+表达式至少出现1次,相当于{1,},比如 a+b 可以匹配 ab, aab, aaab, ...
*表达式不出现或出现任意次,相当于{0,}, 比如 \^*b 可以匹配 b, ^b, ^^b, ^^^b, ...
|左右两边的表达式之间“或”的关系,匹配左边或右边。
()
  1. 在修饰匹配次数时,括号中的表达式作为一个整体被修饰,比如 (go)+ 可表示 go, gogo, gogogo, ...
  2. 取匹配结果的时候,括号中的表达式匹配到的内容可以单独得到

关于匹配次数中的贪婪与非贪婪

在基于出现次数进行匹配时,正则表达式总是基于可行的最大次数进行匹配,以目标串dxxxdxxxd为例,下面两个正则表达式的匹配规则描述如表格所述:

表达式匹配结果
(d)(\w+)\w+ 将匹配第一个"d"后面的所有字符"xxxdxxxd"
(d)(\w+)(d)\w+ 将匹配第一个"d"和最后一个"d"之间的全部内容,虽然 \w+ 可以连最后一个"d"也匹配上,但是为了让表达式匹配成功,\w+ 不得不让出最后一个可以匹配上的"d"

上面的示例可以可以说明在基于次数进行匹配时,在保证可匹配成功的情况下,正则表达式总是尽可以多地匹配字符,这点对 {m,n}, {m,}, ?, *也一样,这种匹配原则叫作“贪婪”模式。

非贪婪模式:

在匹配次数的特殊符号后面加一个"?"号,可以使匹配次数不定的表达式尽可能少的匹配,使可匹配或不匹配的表达式,尽可能地不匹配。

表达式匹配结果
(d)(\w+?)\w+? 将尽可能少得匹配"d"之后的字符,这里只会匹配第一个"x"
(d)(\w+?)(d)为了让整个表达式区分成功,\w+? 将不得不匹配"d"后面的"xxx"才可以让后面的"d"匹配,结果是 \w+? 只匹配了"xxx"

反向引用\1, \2...

在匹配过程中使用前面括号中已经匹配的结果,比如匹配配对的标签:

<td>aa</td>

<p>aa</p>









几个示例:.*

区分多种不同的正则表达式类型,搞清楚它们之间的区别和应用场景,以及放在代码中的转义字符处理,特别是C++中构造正则表达式时的反人类的转义写法。


几个实例,

notepad++中替换文本

匹配UUID

匹配邮箱
















  • 无标签