Blog A Paranoid Guy

深入浅出的正则表达式教程

2016-09-19

引者注:本教程系翻译过来的,具体出处已不清。但深入浅出的讲解了正则最基础的语法功能,引者看来很好理解,便引过来。


1.引言

正则表达式(regular expression)描述了一种字符串匹配的模式,可以用来:含有符合某个

(1) 检查一个串中是否含有符合某个规则的字串,并且可以得到这个字串;

(2) 根据匹配规则对字符串进行灵活的替换操作。

正则表达式学习起来其实是很简单的,不多的几个较为抽象的概念也很容易理解。之所以很多人感觉正则表达式比较复杂,一方面是因为大多数文档没有做到由浅入深的讲解,概念上没有注意先后顺序,给对着的理解带来困难;另一方面,各种引擎自带的文档一般都要介绍它特有的功能,然而这部分特有的功能并不是我们首先要理解的。


2.正则表达式规则

2.1 普通字符

字母、数字、汉字、下划线、以及后边章节中没有特殊定义的标点符号,都是 普通字符 。表达式中的普通字符,在匹配一个字符串的时候,匹配与之相同的一个字符。

举例1:表达式 c ,在匹配字符串 abcdef 时,匹配结果是:成功;匹配到的内容是:c ;匹配到的位置是:开始于2,结束于3。(注:下标从0开始还是从1开始,因当前编程语言的不同而可能不同)。

举例2:表达式 bcd ,在匹配字符串 abcde 时,匹配结果是:成功;匹配到的内容是:bcd ;匹配到的位置是:开始于1,结束于4。

2.2 简单的转义字符

一些不便书写的字符,采用在前面加 \ 的方法。这些字符其实我们都已经熟知了。

表达式 可匹配
\r, \n 代表回车和换行
\t 制表符
\ 代表”"本身

还有其他一些在后边章节中有特殊用处的标点符号,在前面加 \ 后,就代表该符号本身。比如:^$ 都有特殊意义,如果想要皮诶字符串中的 ^$ 字符,正则表达式就需要写成 \^\$

表达式 可匹配
\^ 匹配^本身
$ 匹配$符号本身
. 匹配小数点(.)本身

这些转义字符的匹配方法与 普通字符 是类似的。也是匹配与之相同的一个字符。

举例:表达式 \$d ,在匹配字符串 abc$de 时,匹配结果是:成功;匹配到的内容是:$d ;匹配到的位置是:开始于3,结束于5.

2.3 能够与’多种字符’ 匹配的表达式

正则表达式中的一些表示方法,可以匹配 多种字符 其中的任意一个字符。比如,表达式 \d 可以匹配任意一个数字。虽然可以匹配其中任意字符,但是只能是一个,不是多个。这就好比玩扑克牌的时候,大小王可以代替任意一张牌,但是中能代替一张牌。

表达式 可匹配
\d 任意一个数字,0~9中的任意一个
\w 任意一个字母或数字或下划线,也就是A~Z,a~z,0~9,_ 中的任意一个
\s 包括空格、制表符、换页符等空白字符的其中任意一个
. 除了换行符(\n)之外的其他任意一个

举例1:表达式 \d\d ,在匹配 abc123 时,匹配结果是:成功;匹配到的内容是:12 ;匹配到的位置是:开始于3,结束于5.

举例2:表达式 a.\d ,在匹配 aaa100 ,匹配结果是:成功;匹配到的内容是: aa1 ;匹配到的位置是:开始于1,结束于4。

2.4 自定义能够匹配’多种字符’的表达式

使用方括号 [] 包含一系列字符,能够匹配其中任意一个字符。用 [^] 包含一系列字符,则能够匹配其中字符之外的任意一个字符。同样的道理,虽然可以匹配其中任意一个,但是只能是一个,不是多个。

表达式 可匹配
[ab5@] 匹配a或b或5或@
[^abc] 匹配除a,b,c之外的任意一个字符
[f-k] 匹配f-k之间的任意一个字符
[^A-F0-3] 匹配除A-F,0-3之外的任意一个字符

举例1:表达式 [bcd][bcd] 匹配 abc123 时,匹配的结果是:成功;匹配到的内容是:bc ;匹配到的位置是:开始于1,结束于3。

举例2:表达式 [^abc] 匹配 abc123 时,匹配的结果是:成功;匹配到的内容是:1 ;匹配到的位置是:开始于3,结束于4。

2.5 修饰匹配次数的特殊符号

前面章节中讲到的表达式,无论是只能匹配一种字符的表达式,还是可以匹配多种字符的表达式,都只能匹配一次。如果使用表达式再加上修饰匹配次数的特殊符号,那么不用重复书写表达式就可以重复匹配。

使用方法是:“次数修饰”放在被修饰的表达式的后面。比如:[bcd][bcd] 可以写成 [bcd]{2}

表达式 作用
{n} 表达式重复n次,比如:”\w{2}” 相当于 “\w\w”;”a{5}” 相当于 “aaaaa”
{m, n} 表达式至少重复m次,最多重复n次,比如:”ba{1,3}” 可以匹配 “ba” 或 “baa” 或 “baaa”
[f-k] 匹配f-k之间的任意一个字符
{m,} 表达式至少重复m次,比如:”\w\d{2,}” 可以匹配”a12”,”_456”,”M12344”
? 匹配表达式0次或者1次,相当于{0, 1},比如:”a[cd]”可以匹配”a”,”ac”,”ad”
+ 表达式至少出现1次,相当于{1,},比如:”a+b”可以匹配”ab”,”aab”,”aaab”
* 表达式不出现或者出现任意次,相当于{0,},比如:”\^*b”可以匹配”b”,”^^^b”

举例1:表达式 \d+/.?\d* 在匹配 it costs $12.5 时,匹配的结果是:成功;匹配到的内容是:12.5 ;匹配到的位置是:开始于10,结束于14。

举例2:表达式 go{2, 8}gle 在匹配 Ads by goooooogle 时,匹配的结果是:成功;匹配到的内容是:goooooogle ;匹配到的位置是:开始于7,结束于17。

2.6 其他一些代表抽象意义的符号

一些符号在表达式中代表抽象的特殊意义:

表达式 作用
^ 与字符串开始的地方匹配,不匹配任何字符
$ 与字符串结束的地方匹配,不匹配任何字符
\b 匹配一个单词边界,也就是单词和空格之间的位置,不匹配任何字符

进一步的文字说明仍然比较抽象,因此,举例帮助大家理解。

举例1:表达式 ^aaa 在匹配 xxx aaa xxx 时,匹配的结果是:失败。因为 ^ 要求与字符串开始的地方匹配,因此只有当 aaa 位于字符串开头的时候,^aaa 才能匹配,比如:aaa xxx xxx

举例2:表达式 aaa$ 在匹配 xxx aaa xxx 时,匹配结果是:失败。因为 $ 要求与字符串结束的地方匹配,因此,只有当 aaa 位于字符串的结尾的时候,aaa$ 才能匹配,比如:xxx xxx aaa

举例3:表达式 .\b. 在匹配 @@@abc 时,匹配结果是:成功;匹配到的内容是:@a ;匹配到的位置是:开始于2,结束 于4。

进一步说明:\b^$ 类似,本身不匹配任何字符,但是它要求它在匹配结果中所处位置的两边,其中一边是 \w 范围,另一边是非 \w 范围。

举例4:表达式 \bend\b 在匹配 weekend,endfor,end 时,匹配结果是:成功;匹配到的内容是:end ;匹配到的位置是:开始于15,结束于18。

一些符号可以影响表达式内部子表达式之间的关系:

表达式 作用
| 左右两边表达式之间 “或” 关系,匹配左边或者右边
() (1).在被修饰匹配次数的时候,括号中的表达式可以作为整体被修饰;
(2). 取匹配结果的时候,括号中的表达式匹配到的内容可以被单独得到

举例5:表达式 Tom|Jack 在匹配字符串 I'm Tom,he is Jack 时,匹配结果是:成功;匹配到的内容是:Tom ;匹配到的位置是:开始于4,结束于7.匹配下一个时,匹配结果是:成功;匹配到的内容是:Jack ;匹配到的位置是:开始于15,结束于19。

举例6:表达式 (go\s*)+ 在匹配 Let's go go go! 时,匹配结果是:成功;匹配到的内容是:go go go ;匹配到的位置是:开始于6,结束于14。

举例7:表达式 ¥(\d+\.?\d) 在匹配 $10.9,¥20.5 时,匹配的结果是:成功;匹配到的内容是:¥20.5 ;匹配到的位置是:开始于6,结束于10。单独获取括号范围匹配到的内容是:20.5


3.正则表达式中的一些高级规则

3.1 匹配次数中的贪婪与非贪婪

贪婪模式:

在使用修饰匹配次数的特殊符号时,有几种表示方法可以同时使同一个表达式能够匹配不同的次数,比如:”{m, n}” ,”{m,}” ,?*+ ,具体匹配次数随被匹配的字符串而定。这种重复匹配不定次数的表达式在匹配过程中,总是尽可能多的匹配。比如,针对文本 dxxxdxxxd ,举例如下:

表达式 作用
(d)(\w+) “/w+” 将匹配第一个 “d” 之后所有字符 “xxxdxxxd”
(d)(\w+)(d) “\w+” 将匹配第一个 “d” 和最后一个 “d” 之间的所有字符。
虽然 “\w+” 也能够匹配上最后一个 “d” ,但是为了使整个表达式匹配成功,
“\w+” 可以 “让出” 它本来能够匹配的最后一个 “d”

由此可见,\w+ 在匹配的时候,总是尽可能多的匹配符合它规则的字符。虽然第二个举例中,它没有匹配最后一个 d ,但那也是为了让整个表达式匹配成功。同理,带 * 和 “{m, n}” 的表达式都是尽可能多的匹配,带 ? 的表达式在可匹配可不匹配的视乎,也是尽可能的 “要匹配” 。这种匹配原则就叫做 贪婪 模式。

非贪婪模式:

在修饰匹配次数的特殊符号后再加上 ? 号,则可以使匹配次数不定的表达式尽可能少的匹配,使可匹配可不匹配的表达式,尽可能的 “不匹配” 。这种匹配原则叫做 非贪婪 模式,也叫作 勉强 模式。若果少匹配就会导致整个正则表达式匹配失败的时候,与贪婪模式类似,非贪婪模式会最小限度的再匹配一些,以使整个正则表达式匹配成功。举例如下,针对文本 “dxxxdxxxd” 举例:

表达式 作用
(d)(\w+?) “\w+?” 将尽可能少的匹配第一个 “d” 之后的字符,结果是:”\w+?” 只匹配了一个 “x”
(d)(\w+?)(d) 为了让整个表达式匹配成功,”\w+?” 不得不匹配 “xxx” 才可以让后边的 “d” 匹配,从而使整个表达式匹配成功。因此,结果是:”\w+?” 匹配 “xxx”

更多的情况,举例如下:

举例1:表达式 <td>(.*)</td> 与字符串 <td><p>aa</p></td><td><p>bb</p></td> 匹配时,匹配结果是:成功;匹配到的内容是:<td><p>aa</p></td><td><p>bb</p></td> 整个字符串,表达式中的 <td> 将与字符串中最后一个 </td> 匹配。

举例2:相比之下,表达式 <td>(.*)</td> 匹配举例1中同样的字符串是,将只得到 <td><p>aa</p></td> ,再次匹配下一个时,可以得到第二个 <td><p>bb</p></td>

3.2 反向引用 \1,\2…

表达式在匹配时,表达式引擎会将小括号 () 包含的表达式所匹配到的字符串记录下来。在获取匹配结果的识货,小括号包含的表达式所匹配到的字符串可以单独火球。这一点,在前面的举例中,已经多次展示了。在实际应用场合中,当用某种边界来查找,而索要获取的内容又不包含边界时,必须使用小括号来指定所要的范围。比如前面的 <td>(.*?)</td>

其实,”小括号包含的表达式所匹配到的字符串” 不仅是在匹配结束之后才可以使用,在匹配过程中也可以使用。表达式后边的部分,可以引用前面 “括号内的子匹配已经匹配到的字符串” 。引用方法是 \ 加上一个数字。\1 引用第1对括号内匹配到的字符串,\2 引用第2对括号内匹配到的字符串…以此类推,如果一对括号内包含另一对括号,则外层的括号先排序号。换句话说,哪一对的左括号 ( 在前,那这一对就先排序号。

举例1:表达式 ('|")(.*?)(/1) 在匹配 'Hello',"World" 时,匹配的结果是:成功;匹配到的内容是:'Hello' 。再次匹配下一个时,可以匹配到 "World"

举例2:表达式 (\w)\1{4,} 在匹配 aa bbbb abcdefg ccccc 111121111 999999999 时,匹配结果是:成功;匹配到的内容是:cccccc 。再次匹配下一个时,将得到 999999999 。这个表达式要求 \w 范围的字符至少重复5次,注意与 \w{5,} 之间的区别。

举例3:表达式 <(\w+)\s*(\w+(=('|").*?\4)?\s*)*>.*?<//1> 在匹配 <td id='td1' style="bgcolor:white"></td> 时,匹配结果是:成功。如果 <td></td> 不配对,则会匹配失败;如果改成其他配对,也可以匹配成功。

3.3 预搜索,不匹配;反向预搜索,不匹配

前边的章节中,我讲到了几个代表抽象意义的特殊符号:^$\b 。它们都有一个共同点,那就是:它们本身不匹配任何字符,只是对 “字符串的两头” 或者 “字符之间的缝隙” 附加了一个条件。理解到这个概念以后,本节将继续介绍另外一种对 “两头” 或者 “缝隙” 附加条件的,更灵活的方法。

正向预搜索: (?=xxxxx)(?!xxxxx)

格式:(?=xxxxx) ,在匹配的字符串中,它对所处的 “缝隙” 或者 “两头” 附加条件是:所在缝隙的右侧,必须能够匹配上 xxxxx 这部分的表达式。因为它只是在此作为这个缝隙上附加的条件,所以它并不影响后面表达式去真正匹配这个缝隙之后的字符。这就类似 \b ,本身不匹配任何字符。\b 只是将所在缝隙之前、之后的字符取来进行了一下判断,不会影响后边的表达式来真正的匹配。

举例1:表达式 Windows(?=NT|XP) 在匹配 Windows 98Windows NTWindows 2000 时,将只匹配 Windows NT 中的 Windows ,其他的 Windows 字样则不被匹配。

举例2:表达式 (\w)((?=\1\1\1)(\1))+ 在匹配字符串 aaa ffffff 9999999999 时,将可以匹配6个 f 的前4个,可以匹配9个 9 前7个。这个表达式可以解读成:重复4次以上的字母 数字,则匹配剩下最后2位之前的部分。当然,这个表达式可以不这样写,在此的目的是作为演示之用。

格式:(?!xxxxx) ,所在缝隙的右侧,必须不能匹配 xxxxx 这部分表达式。

举例3:表达式 ((?!\bstop\b).)+ 在匹配 fdjka ljfdl stop fjdsla fdj 时,将从头一直匹配到 stop 之前的位置,如果字符串中没有 stop ,则匹配整个字符串。

举例4:表达式 do(?!\w) 在匹配字符串 done,do,dog 时,只能匹配 do 。在本条举例中,do 后边使用 (?!\w) 和使用 \b 效果是一样的。

反向预搜索: (?<=xxxxx)(?<!xxxxx)

这两种格式的概念和正向预搜索是类似的,反向预搜索要求的条件是:所在缝隙的 “左侧” ,两种格式分别要求必须能够匹配和必须不能够匹配指定的表达式,而不是去判断右侧。与 “正向预搜索” 一样的是它们都是对所在缝隙的一种附加太偶见,本身都不匹配任何字符。


4.其他通用规则

4.1 规则一

表达式中,可以使用 \xXX\uXXXX 表示一个字符(X 表示一个十六进制数)

形式 字符范围
\xXX 编号在 0 ~ 255 范围的字符,比如:空格可以使用 “\x20” 表示
\uXXXX 任何字符可以使用 “\u” 再加上其编号的4位十六进制数表示,比如:”4E2D

4.2 规则二

在表达式 \s\d\w\b 表示特殊意义的同时,对应的大写字母表示相反的意义

表达式 可匹配
\D 匹配所有的非数字字符
\W 匹配所有的字母、数字、下划线以外的字符
\S 匹配所有非空白字符
\B 匹配非单词边界,即左右两边都是 “\w” 范围或者左右两边都不是 “\w” 范围时的字符缝隙

4.3 规则三

在表达式中有特殊意义,需要添加 \ 才能匹配该字符本身的字符汇总

字符 说明
^ 匹配输入字符串开始的位置。要匹配 “^” 字符本身,请使用 “\^”
$ 匹配输入字符串结束的位置。要匹配 “$” 字符本身,请使用 “$”
() 标记一个子表达式的开始和结束位置。要匹配小括号,请使用 “(” 和 “)”
[] 用来自定义能够匹配 ‘多种字符’ 的表达式。要匹配中括号,请使用 “[” 和 “]”
{} 修饰匹配次数的符号。要匹配大括号,请使用 “{” 和 “}”
. 匹配除了换行符以外的任意一个字符。要匹配小数点本身,请使用 “.”
? 修饰匹配次数为0次或1次。要匹配 “?” 字符本身,请使用 “\?”
+ 修饰匹配次数为至少1次。要匹配 “+” 字符本身,请使用 “+”
* 修饰匹配次数为0次或任意次。要匹配 “*” 字符本身,请使用 “*”
| 左右两边表达式之间 “或” 关系。匹配 “" 本身,请使用 \|

4.4 规则四

括号 () 内的子表达式,若果希望匹配结果不进行记录供以后使用,可以使用 (?:xxxxx) 格式。

举例1:表达式 (?:(\w)\1)+ 匹配 “a bbccdd efg” 时,结果是 “bbccdd” 。括号 (?:) 范围的匹配结果不进行记录,因此 (\w) 使用 \1 来引用。

4.5 规则五

常用的表达式属性设置简介:IgnorecaseSinglelineMultilineGlobal

表达式属性 说明
Ignorecase 默认情况下,表达式中的字母是要区分大小写的。
配置为 Ignorecase 可使匹配时不区分大小写。有的表达式引擎,
把 “大小写” 概念延伸至 UNICODE 范围的大小写
Singleline 默认情况下,小数点 “.” 匹配除了换行符以外的字符。
配置为 Singleline 可使小数点可匹配包括换行符在内的所有字符
Multiline 默认情况下,表达式 “^” 和 “$” 只匹配字符串的开始(1)和结尾(4)位置。
如:(1)xxxxxxxxx (2)\n(3)xxxxxxxxx(4)配置为 Multiline 可以使 “^” 匹配(1)外,
还可以匹配换行符之后,下一行开始前(3)的位置,使 “$” 匹配(4)外,
还可以匹配换行符之前,一行结束(2)的位置
Gloabal 主要在将表达式用来替换时起作用,配置为 Global 表示替换所有的匹配

5.推荐的参考资料

教程推荐:

正则表达式30分钟入门教程

正则表达式(MDN)

正则表达式(MSDN)

跟我学正则表达式系列

书籍推荐:

精通正则表达式

正则表达式必知必会

正则表达式经典实例


Comments