正则表达式

一,概述

正则表达式最早是由神经生理学家用以描述神经网络,于1956正式发布。然后被发现可用于计算搜索算法。直至现在正则表达式都是基于文本的编辑器和搜索工具中的一个重要部分。

在典型的搜索和替换操作中,必须提供要查找的确切文字。对于静态文本,简单搜索和替换任务可能足够了,但对于动态文本,需要使用正则表达式。

测试字符串的某个模式。例如,可以对一个输入字符串进行测试,看在该字符串是否存在一个电话号码模式或一个信用卡号码模式。这称为数据有效性验证。

替换文本。可以在文档中使用一个正则表达式来标识特定文字,然后可以全部将其删除,或者替换为别的文字。

根据模式匹配从字符串中提取一个子字符串。可以用来在文本或输入字段中查找特定文字。

例如,如果需要搜索整个 web 站点来删除某些过时的材料并替换某些HTML 格式化标记,则可以使用正则表达式对每个文件进行测试,看在该文件中是否存在所要查找的材料或 HTML 格式化标记。用这个方法,就可以将受影响的文件范围缩小到包含要删除或更改的材料的那些文件。然后可以使用正则表达式来删除过时的材料,最后,可以再次使用正则表达式来查找并替换那些需要替换的标记。

正则表达式字符串处理能力强大。正则表达式给缺乏字符串处理能力的JScript 带来了明显改善。不过VBScript具有丰富的字符串处理功能,在VBScript中使用正则表达式的效率更高,它允许在单个表达式中执行多个字符串操作。

二,语法

1,元字符及其在正则表达式上下文中的行为

\ 转义标志符:将下一个字符标记为一个特殊字符、或一个原义字符、或一个 向后引用、或一个八进制转义符。例如,'n' 匹配字符 “n”。'\n' 匹配一个换行符。序列 '\\' 匹配 “\” 而 “\(” 则匹配 ”(“。

字符串开始标志符:匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性,

$ 字符串结束标志符:匹配输入字符串的结束位置。如果设置了RegExp 对象的 Multiline 属性,$ 也匹配 '\n' 或 '\r' 之前的位置。

* 非负整数次匹配符:匹配前面的子表达式零次或多次。例如,zo* 能匹配 “z” 以及 “zoo”。* 等价于{0,}。

+ 自然数次匹配符:匹配前面的子表达式一次或多次。例如,'zo+' 能匹配 “zo” 以及 “zoo”,但不能匹配 “z”。+ 等价于 {1,}。

? 零壹次匹配符:匹配前面的子表达式零次或一次。例如,”do(es)?” 可以匹配 “do” 或 “does” 中的”do” 。? 等价于 {0,1}。

? 还有最小化其它匹配效果的作用:当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串 “oooo”,'o+?' 将匹配单个 “o”,而 'o+' 将匹配所有 'o'。

{n} n次匹配符:n 是一个非负整数。匹配确定的 n 次。例如,'o{2}' 不能匹配 “Bob” 中的 'o',但是能匹配 “food” 中的两个 o。

{n,} n次以上匹配符:n 是一个非负整数。至少匹配n 次。例如,'o{2,}' 不能匹配 “Bob” 中的 'o',但能匹配 “foooood” 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。

{n,m} n到m次匹配符:m 和 n 均为非负整数,其中n ⇐ m。最少匹配 n 次且最多匹配 m 次。例如,”o{1,3}” 将匹配 “fooooood” 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。

. 单字符匹配:匹配除 “\n” 之外的任何单个字符。要匹配包括 '\n' 在内的任何字符,请使用象 '[.\n]' 的模式。

(pattern) 匹配 pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到,在VBScript 中使用 SubMatches 集合,在JScript 中则使用 $0…$9 属性。要匹配圆括号字符,请使用 '\(' 或 '\)'。

(?:pattern) 匹配pattern但不获取匹配结果,也就是说这是一个非获取匹配,不进行存储供以后使用。这在使用 “或” 字符 (|) 来组合一个模式的各个部分是很有用。例如, 'industr(?:y|ies)' 就是一个比 'industry|industries' 更简略的表达式。

(?=pattern) 正向预查,在任何匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如,'Windows (?=95|98|NT|2000)' 能匹配 “Windows 2000” 中的 “Windows” ,但不能匹配 “Windows 3.1” 中的 “Windows”。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。

(?!pattern) 负向预查,在任何不匹配 pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如'Windows (?!95|98|NT|2000)' 能匹配 “Windows 3.1” 中的 “Windows”,但不能匹配 “Windows 2000” 中的 “Windows”。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始

x|y 匹配 x 或 y。例如,'z|food' 能匹配 “z” 或 “food”。'(z|f)ood' 则匹配 “zood” 或 “food”。

[xyz] 字符集合。匹配所包含的任意一个字符。例如, '[abc]' 可以匹配 “plain” 中的 'a'。

[^xyz] 负值字符集合。匹配未包含的任意字符。例如, '[^abc]' 可以匹配 “plain” 中的'p'。

[a-z] 字符范围。匹配指定范围内的任意字符。例如,'[a-z]' 可以匹配 'a' 到 'z' 范围内的任意小写字母字符。

[^a-z] 负值字符范围。匹配任何不在指定范围内的任意字符。例如,'[^a-z]' 可以匹配任何不在 'a' 到 'z' 范围内的任意字符。

\b 匹配一个单词边界,也就是指单词和空格间的位置。例如, 'er\b' 可以匹配”never” 中的 'er',但不能匹配 “verb” 中的 'er'。

\B 匹配非单词边界。'er\B' 能匹配 “verb” 中的 'er',但不能匹配 “never” 中的 'er'。

\cx 匹配由 x 指明的控制字符。例如, \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 'c' 字符。

\d 匹配一个数字字符。等价于 [0-9]。

\D 匹配一个非数字字符。等价于 [^0-9]。

\f 匹配一个换页符。等价于 \x0c 和 \cL。

\n 匹配一个换行符。等价于 \x0a 和 \cJ。

\r 匹配一个回车符。等价于 \x0d 和 \cM。

\s 匹配任何空白字符,包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。

\S 匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。

\t 匹配一个制表符。等价于 \x09 和 \cI。

\v 匹配一个垂直制表符。等价于 \x0b 和 \cK。

\w 匹配包括下划线的任何单词字符。等价于'[A-Za-z0-9_]'。

\W 匹配任何非单词字符。等价于 '[^A-Za-z0-9_]'。

\xn 匹配 n,其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如,'\x41' 匹配 “A”。'\x041' 则等价于 '\x04' & “1”。正则表达式中可以使用 ASCII 编码。.

\num 匹配 num,其中 num 是一个正整数。对所获取的匹配的引用。例如,'(.)\1' 匹配两个连续的相同字符。

\n 标识一个八进制转义值或一个向后引用。如果 \n 之前至少 n 个获取的子表达式,则 n 为向后引用。否则,如果 n 为八进制数字 (0-7),则 n 为一个八进制转义值。

\nm 标识一个八进制转义值或一个向后引用。如果 \nm 之前至少有 nm 个获得子表达式,则 nm 为向后引用。如果 \nm 之前至少有 n 个获取,则 n 为一个后跟文字 m 的向后引用。如果前面的条件都不满足,若 n 和 m 均为八进制数字 (0-7),则 \nm 将匹配八进制转义值 nm。

\nml 如果 n 为八进制数字 (0-3),且 m 和 l 均为八进制数字 (0-7),则匹配八进制转义值 nml。

\un 匹配 n,其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如, \u00A9 匹配版权符号 (©)。

2,建立正则表达式

JScript中分隔符为一对正斜杠 (/) 字符。例如:

/expression/

VBScript中采用一对引号 (””) 来确定正则表达式的边界。例如:

“expression”

正则表达式模式均存储在RegExp对象的Pattern属性中。

3,优先级顺序

\ 转义符

(), (?:), (?=), [] 圆括号和方括号

*, +, ?, {n}, {n,}, {n,m} 限定符

4,

工具

涉及到要对批量的文件甚至是批量的待替换字符串进行查找与替换时,正则表达式与GREP工具就显得强大无敌了。

使用经验:PowerGrep是最强大的工具但输入一连串的正则待替换字符串时稍显繁琐,而UltraReplace?虽然不成熟,但是输入规则方面有一个很方便的地方,就是输入框会保留上一次的显示内容,所以可以直接在上一次的正则表达式上直接编辑就形成下一个表达式,依此类推可以节省很多重复动作。所以可以在UltraReplace输入编辑完大量规则后一一直接COPY回PowerGrep的规则框内,虽然动作枯燥单调,但是不会出错。也可以导出UltraReplace的规则,然后修改成适合PowerGrep的XML配置的.pga文件,不过这个动作比较费脑筋,容易出错。

正则表达式批量替换工具:

windows下的正则式工具介绍之一:RegexBuddy

windows下的正则式工具介绍之二:powergrep

windows下的正则式工具介绍之三:MTracer2.0介绍以及与RegexBuddy比较

数据采集利器PowerGREP10分钟上手指南 这个软件,速度还是比较快的。不过这个软件比较消耗内存。另外需要注意一点,就是文件的编码,需要在reference里面的encode指定。 我使用powergrep的一点体会

超级批量文本替换,免费但尚未成熟的国产软件

正则表达式验证工具:

与正则表达式相关的几个小工具

正则表达式测试软件(Regex) V0.5.0.2 下载

RegeX 可视化正则表达式替换器 (SearchRex) RegeX使用教程 下载

正则表达式验证器RegexTester 下载

我写的正则表达式测试工具 (阿良原创) 下载

参考

正则表达式30分钟入门教程

http://www.chedong.com/blog/archives/000224.html

准备关键词测试时经常需要进行Url Encode和Url Decode,以下是2个常用的单行Perl脚本(正则表达式):输入为日志或关键词列表

Urlencode:对 \n 不转码 perl -p -e 's/([^\w\-\.\@])/$1 eq "\n" ? "\n":sprintf("%%%2.2x",ord($1))/eg' keywords.list UrlDecode: perl -p -e 's/%(..)/pack("c", hex($1))/eg' query.log