Zjmainstay学习笔记 | 是非明于学习，境界升于内省

Zjmainstay学习笔记
2014年12月14日 14:34:36

深入理解正则表达式高级教程 Featured

作者： 

本文是一篇正则表达式高级教程，主要通过对正则表达式几个概念的介绍，深入探讨正则表达式高级功能，以期达到通俗化解释正则表达式高深概念的目的。

前面已经写过一篇文章《我眼里的正则表达式（入门）》介绍过正则表达式的基础和基本套路正则三段论：定锚点，去噪点，取数据了，接下来这篇文章，补充一点相对高级的概念：

    1. 概念一：按单字符匹配
    2. 概念二：匹配优先和不匹配优先
    3. 概念三：贪婪模式与非贪婪模式
    4. 概念四：环视（断言）
    5. 概念五：平衡组
    6. 概念六：模式修饰符
    7. 附：正则三段论应用

概念一：按单字符匹配

正则里面的数据都是按照单个字符来进行匹配的，这个通过数值区间的例子最容易体现出来，比如，示例一：

我要匹配0-15的数值区间，用正则来写的话，便是[0-9]|1[0-5]，这里，便是把0-9这种单字符的情况，和10-15这种多字符的情况拆分开了，使用分支|来区分开，表示要么是0-9，要么是10-15。
上面是两位数值的情况，现在延伸至1-65535，我个人的处理思想是从大到小，一块块分解：

  1. 1. 65530-65535  ==>  6553[0-5]          末位区间0-5
  2. 2. 65500-65529  ==>  655[0-2][0-9]      第四位区间0-2，末位区间0-9
  3. 3. 65000-65499  ==>  65[0-4][0-9]{2}    第三位区间0-4，后两位0-9
  4. 4. 60000-64999  ==>  6[0-4][0-9]{3}     第二位区间0-4，后三位0-9
  5. 5. 10000-59999  ==>  [1-5][0-9]{4}      第一位区间1-5，后四位0-9
  6. 6. 1-9999       ==>  [1-9][0-9]{0,3}    第一位只能是1-9，后三位可有可无

最后组合起来：
(6553[0-5]|655[0-2][0-9]|65[0-4][0-9]{2}|6[0-4][0-9]{3}|[1-5][0-9]{4}|[1-9][0-9]{0,3})
便得到1-65535匹配正则。

根据数据处理需求，可以在正则前后加上^和$，以匹配整个数据串，或者前后加入\b，把它当做单词边界处理。没有限定字符的边界往往是js正则判断中常见的错误之一。

概念二：匹配优先和不匹配优先

匹配优先和不匹配优先从字面理解也是比较容易的，所谓匹配优先，就是，能匹配我就先匹配；不匹配优先就是，能不匹配我就先不匹配，这段匹配先跳过，先看看后面的匹配能不能通过。

概念三：贪婪模式与非贪婪模式

正则的贪婪模式和非贪婪模式是一个比较容易混淆的概念，不过，我们可以这么理解，一个人很贪婪，所以他会能拿多少拿多少，换过来，那就是贪婪模式下的正则表达式，能匹配多少就匹配多少，尽可能最多。而非贪婪模式，则是能不匹配就不匹配，尽可能最少。

下面举个例子，示例二：

需求：匹配1后面跟任意个0
源串：10001
使用贪婪模式：10*       结果：1000 和 1
使用非贪婪模式：10*?    结果：1 和 1

首先，*是匹配0个或多个的意思。

  1. 贪婪模式下，它表示，首先匹配一个1，然后匹配1后面的0，最多可以匹配3个0，因此得到1000，然后第二次又匹配到一个1，但是后面没有0，因此得到1；
  1. 非贪婪模式下，它表示，首先匹配一个1，然后1后面的0，能不匹配就不匹配了，所以，它每次都只是匹配了一个1。

看到这里，也许，有些人觉得，哎呀，我懂了！
那么，下来我们改改，看看你是不是真懂了。

示例三：

需求：匹配1后面跟任意个0，再跟一个1
源串：10001
使用贪婪模式：10*1       结果：10001
使用非贪婪模式：10*?1    结果：10001

为什么这两次的结果一样了？

因为，正则表达式要判断完这整个正则才算成功，这种情况下，

  1. 贪婪模式，首先匹配一个1，然后匹配1后面尽可能多的0，发现3个，再匹配0后面的一个1，正则表达式匹配完，完成匹配，得到10001；
  1. 非贪婪模式，首先匹配一个1，然后，0*?是非贪婪模式，它不想匹配了（非贪婪模式不匹配优先），看看后面是不是1了？然后发现哎妈呀，后面是个0啊，然后它回头，不能再偷懒了，用0*?匹配一个0吧，然后匹配到10，又不想匹配了，看看后面有没有1了，还是没有，又回去用0*?匹配掉一个0，得到100，继续偷懒，但是发现后面还不是1，然后又用0*?匹配得到1000，最后，发现真不容易啊，终于看到1了，匹配得到10001，正则表达式匹配完，完成匹配。

看到这里，是不是懂了？
那究竟哪个模式好呢？

什么时候使用贪婪模式，什么时候使用非贪婪模式，哪个性能好，哪个性能不好，不能一概而论，要根据情况分析。
下面我举个例子：
源码：

  1. <a href="http://www.zjmainstay.cn/my-regexp" target="_blank" title="我眼里的正则表达式（入门）">我眼里的正则表达式（入门）</a>
  2. <a title="我眼里的正则表达式（入门）" href="http://www.zjmainstay.cn/my-regexp" target="_blank">我眼里的正则表达式（入门）</a>

正则1：<a [^>]*?href="([^"]*?)"[^>]*?>([^<]*?)</a>（238次）
正则2：<a [^>]*?href="([^"]*)"[^>]*>([^<]*)</a>（65次）
正则3：<a [^>]*href="([^"]*)"[^>]*>([^<]*)</a>（136次）
附：执行次数的获取请下载正则表达式测试工具：RegexBuddy 4.1.0-正则测试工具.rar，使用里面的Debug功能。

正则1是通用写法，正则2是在确定字符不会溢出的情况下消除非贪婪模式，正则3是证明并不是全部消除非贪婪模式就是最优。

因此，关于贪婪模式好还是非贪婪模式好的讨论，只能说根据需求而定，不过，在平时的时候用，一般使用非贪婪模式较多，因为贪婪模式经常会由于元字符范围限制不严谨而导致匹配越界，得到非预期结果。

在确定的数据结构里，可以尝试使用[^>]*>这样的排除字符贪婪模式替换非贪婪模式，提升匹配的效率。注意，贪婪部分（[^>]*）的匹配，最好不要越过其后面的字符（>），否则会导致贪婪模式下的回溯，如正则3，[^>]*的匹配越过了href，一直匹配到>为止，而这时候再匹配href，会匹配不到而导致多次回溯处理，直到回溯到href前的位置，后面才继续了下去。

另外，需要注意一点，无论使用贪婪模式还是非贪婪模式，在不同语言需要注意回溯次数和嵌套次数的限制，比如在PHP中，pcre.backtrack_limit=100000，pcre.recursion_limit=100000。

概念四：环视（断言/零宽断言）

环视，在不同的地方又称之为零宽断言，简称断言。
用一句通俗的话解释：
环视，就是先从全局环顾一遍正则，（然后断定结果，）再做进一步匹配处理。
断言，就是先从全局环顾一遍正则，然后断定结果，再做进一步匹配处理。

两个虽然字面不一样，意思却是同一个，都是做全局观望，再做进一步处理。

环视的作用相当于对其所在位置加了一个附加条件，只有满足这个条件，环视子表达式才能匹配成功。

环视主要有以下4个用法：
(?<=exp) 匹配前面是exp的数据
(?<!exp) 匹配前面不是exp的数据
(?=exp) 匹配后面是exp的数据
(?!exp) 匹配后面不是exp的数据

示例四：
(?<=B)AAA 匹配前面是B的数据，即BAAA匹配，而CAAA不匹配
(?<!B)AAA 匹配前面不是B的数据，即CAAA匹配，而BAAA不匹配
AAA(?=B) 匹配后面是B的数据，即AAAB匹配，而AAAC不匹配
AAA(?!B) 匹配后面不是B的数据，即AAAC能匹配，而AAAB不能匹配

另外，还会看到(?!B)[A-Z]这种写法，其实它是[A-Z]范围里，排除B的意思，前置的(?!B)只是对后面数据的一个限定，从而达到过滤匹配的效果。

因此，环视做排除处理是比较实用的，比如，示例五：

需求：字母、数字组合，不区分大小写，不能纯数字或者纯字母，6-16个字符。
通用正则：^[a-z0-9]{6,16}$    字母数字组合，6-16个字符
    排除纯字母：(?!^[a-z]+$)
排除纯数字：(?!^[0-9]+$)
    组合起来：(?!^[a-z]+$)(?!^[0-9]+$)^[a-z0-9]{6,16}$

注意，环视部分是不占宽度的，所以有零宽断言的叫法。
所谓不占宽度，可以分成两部分理解：
1、环视的匹配结果不纳入数据结果
2、环视它匹配过的地方，下次还能用它继续匹配。

如果不是环视，则匹配过的地方，不能再匹配第二次了。

上面示例四体现了：环视的匹配结果不纳入数据结果，它的结果：

  1. (?<=B)AAA     源串：BAAA  结果：AAA
  2. (?<!B)AAA     源串：CAAA  结果：AAA
  3. AAA(?=B)      源串：AAAB  结果：AAA
  4. AAA(?!B)      源串：AAAC  结果：AAA

而示例五体现了：环视它匹配过的地方，下次还能用它继续匹配
因为，整个匹配过程中，正则表达式一共走了3次字符串匹配，第一次匹配不全部是字母，第二次匹配不全部是数字，第三次匹配全部是字母数字组合，6-16个字符。

  1. 扩展部分：
  2. `[A-Z](?<=B)`   [A-Z]范围等于B
  3. `[A-Z](?<!B)`   [A-Z]范围排除B
  4. `(?!B)[A-Z]`    [A-Z]范围排除B

概念五：平衡组

平衡组并不是所有程序语言都支持，而我本人使用的PHP语言就不支持，所以平时接触也是比较少的。

平衡组主要用到下面四个语法：

  1.     (?'group') 把捕获的内容命名为group,并压入堆栈(Stack)
  2.     (?'-group') 从堆栈上弹出最后压入堆栈的名为group的捕获内容，如果堆栈本来为空，则本分组的匹配失败
  3.     (?(group)yes|no) 如果堆栈上存在以名为group的捕获内容的话，继续匹配yes部分的表达式，否则继续匹配no部分
  4.     (?!) 零宽负向先行断言，由于没有后缀表达式，如没有(?!B)的B，试图匹配总是失败

在PHP中是支持(?(group)yes|no)语法的，这里的group是分组编号，即子模式编号，如(A)?(?(1)yes|no) ，匹配Ayes 和 no

下面这里引用《正则表达式30分钟入门教程#平衡组》关于<>配对匹配的例子，展示平衡组用法，

  1. <                         #最外层的左括号
  2.     [^<>]*                #最外层的左括号后面的不是括号的内容
  3.     (
  4.         (
  5.             (?'Open'<)    #碰到了左括号，在黑板上写一个"Open"
  6.             [^<>]*       #匹配左括号后面的不是括号的内容
  7.         )+
  8.         (
  9.             (?'-Open'>)   #碰到了右括号，擦掉一个"Open"
  10.             [^<>]*        #匹配右括号后面不是括号的内容
  11.         )+
  12.     )*
  13.     (?(Open)(?!))         #在遇到最外层的右括号时，判断黑板上还有没有没擦掉的"Open"；如果还有，则匹配失败
  14. >                         #最外层的右括号
  16. 平衡组的一个最常见的应用就是匹配HTML,下面这个例子可以匹配嵌套的<div>标签：
  18. <div[^>]*>[^<>]*(((?'Open'<div[^>]*>)[^<>]*)+((?'-Open'</div>)[^<>]*)+)*(?(Open)(?!))</div>

概念六：模式修饰符

模式修饰符在许多程序语言中都支持的，比如最常见的是i，不区分大小写，如javascript里的/[a-z0-9]/i，表示匹配字母数字，不区分大小写。

本人在写php正则时常用的模式修饰符主要有i和s，如：
$pattern = '#[a-z0-9]+#is';

模式修饰符s的作用主要是的.能够匹配换行，在处理换行数据时，通常会用到。

在PHP中，模式修饰符有两种用法，一种是上面的，在分隔符后面的模式修饰符，它的作用范围是全局；另一种是在正则表达式中间的。
例如：

  1. 正则：/((?i)[A-Z]+)c/
  2. 测试字符：abcABC
  3. 匹配：abc
  4. 说明：局部（ab）的大小写被忽略了，(?i)的作用范围在分组1内

如果把正则改成：/([A-Z]+)c/i，则匹配结果将是：abcABC
示例地址：PHP正则表达式中间的模式修饰符

关于PHP模式修饰符的讲解，请查看PHP手册中的《PHP模式修饰符》。

七：正则三段论应用

《我眼里的正则表达式（入门）》 和 本文《深入正则表达式应用》几乎倾尽本人正则学习全部思想，但是很多读者反馈，看晕了！看到如此点评，实属无奈，因此，有必要追加本节，来个整体统筹运用，希望能让大家犹如拨云见月，洞悉其中的精义。

正则三段论：定锚点，去噪点，取数据

两篇文章中，最重要的部分当属正则三段论：定锚点，去噪点，取数据，它是整个正则处理过程中的灵魂，它贯穿整个正则撰写过程。

下面举例说明它的思想，示例六：

  1. 源数据：标题：深入正则表达式应用，作者：Zjmainstay
  2. 需求：匹配作者名字

我要从源数据取到Zjmainstay这个作者名，那么，在这里，作者：就是我们所说的锚点，因为在上面这段数据中它能够唯一定位到我们的数据Zjmainstay（就在它后面），因此，我们得到

(1) 定锚点：作者：

而在这里，我们不需要关心标题什么的，因此，标题：深入正则表达式应用，就是我们的噪点，因此，我们得到

(2) 去噪点

最后，我们确定作者：后面就是我们的数据，这个数据可以是任意字符，因此，我们得到正则：
作者：(.*)

而噪点部分，因为不会对数据取值造成干扰，直接去掉，不需要引入正则中。

下面再举一个噪点干扰的例子，示例七：

  1. 源数据： <a href="http://www.zjmainstay.cn/my-regexp" class="demo8" title="正则三段论应用举例">正则表达式入门教程</a>
  2. 需求：提取链接和标题，还有a标签的文字

看到这个源数据和需求，我们必须定位好锚点，主要有：
1. <a //必须是a标签
2. href=" 和 " //href=""的内容得到链接
3. title=" 和 " //title=""的内容得到标题
4. > 和 </a> //>和</a>的内容得到标签文字

然后，其他的都是噪点，使用.*?替代，需要提取的数据部分使用括号获取子模式，得到分组数据，因此得到正则：
<a href="(.*?)".*?title="(.*?)">(.*?)</a>

看到这里，也许有朋友觉得，我还是不会写，那么，再来一个更简单的构建方法，细化步骤，从源串逐步得到正则，示例八：

  1. 1. 直接拷贝源串，特殊字符处理转义（本例没特殊字符）
  2.     <a href="http://www.zjmainstay.cn/my-regexp" class="demo8" title="正则三段论应用举例">正则表达式入门教程</a>
  4. 2. 从左到右，一段段转化
  5.     2.1 <a href="(.*?)" class="demo8" title="正则三段论应用举例">正则表达式入门教程</a>
  6.     2.2 <a href="(.*?)".*?title="正则三段论应用举例">正则表达式入门教程</a>
  7.     2.3 <a href="(.*?)".*?title="(.*?)">正则表达式入门教程</a>
  8.     2.4 <a href="(.*?)".*?title="(.*?)">(.*?)</a>
  10. 3. 得到最终的正则
  11.     <a href="(.*?)".*?title="(.*?)">(.*?)</a>

至此，正则三段论的基本思想已经展示完毕，大家还有什么不解请评论留言，本人看到会第一时间给予回复。

熟悉正则三段论处理思想，剩下的便是基本语义的熟练程度了，这个通过多用多练可以达到熟能生巧的境界。

最后留下一句至尊提醒：.是万能字符，大家看着用，遇到换行使用[\s\S]替换.即可。

（完）

如果读者有不同见解，请加Q群联系交流，谢谢！
欢迎加群（434252251）讨论正则问题：专精正则表达式（434252251）

 

附：
正则测试工具 RegexBuddy 4.1.0-正则测试工具.rar
正则表达式工具RegexBuddy使用教程 正则表达式工具RegexBuddy使用教程
Mac 正则表达式工具 Mac正则表达式测试工具



未经同意禁止转载！
转载请附带本文原文地址：深入理解正则表达式高级教程，首发自 Zjmainstay学习笔记
阅读( 37407 )
看完顺手点个赞呗：
(111 votes)
标签：
Zjmainstay

最新发布自 Zjmainstay

相关文章

更多当前分类内容： « 百度音乐XML正则匹配解析 正则表达式测试工具RegexBuddy-4.1.0 »
back to top

交流互动

1.PHP cURL群：PHP cURL高级技术
2.正则表达式群：专精正则表达式
3. QQ联系(加请说明)：QQ联系博主（951086941）
4. 邮箱：zjmainstay@163.com
5. 打赏博主：

开源项目

PHP 自动模拟登录类
基于cURL命令解析获得PHP代码
Markdown HTML互转(正则经典)
Mac正则测试工具(regex101)

阅读排行榜

推荐笔记

最新笔记

友情链接

正则在线测试工具-嗨正则 正则在线测试工具-嗨正则
在线摩斯密码翻译器摩斯密码翻译器&练习工具
博客园-Zjmainstay Zjmainstay - 博客园
X-Space X-Space
khanacademy-可汗学院免费视频 khanacademy-可汗学院

访问统计

网站总访问量：

Back to Top

© Zjmainstay学习笔记 2012-2024