正则表达式相关知识

在编写处理字符串的程时,经常会遇到在一段文本中查找符合某些规则的字符串的需求,正则表达式就是用于描述这些规则的工具,换句话说,我们可以使用正则表达式来定义字符串的匹配模式,即如何检查一个字符串是否有跟某种模式匹配的部分或者从一个字符串中将与模式匹配的部分提取出来或者替换掉。

举一个简单的例子,如果你在Windows操作系统中使用过文件查找并且在指定文件名时使用过通配符(*?),那么正则表达式也是与之类似的用来进行文本匹配的工具,只不过比起通配符正则表达式更强大,它能更精确地描述你的需求,当然你付出的代价是书写一个正则表达式比使用通配符要复杂得多,因为任何给你带来好处的东西都需要你付出对应的代价。

再举一个例子,我们从某个地方(可能是一个文本文件,也可能是网络上的一则新闻)获得了一个字符串,希望在字符串中找出手机号和座机号。当然我们可以设定手机号是11位的数字(注意并不是随机的11位数字,因为你没有见过“25012345678”这样的手机号),而座机号则是类似于“区号-号码”这样的模式,如果不使用正则表达式要完成这个任务就会比较麻烦。最初计算机是为了做数学运算而诞生的,处理的信息基本上都是数值,而今天我们在日常工作中处理的信息基本上都是文本数据,我们希望计算机能够识别和处理符合某些模式的文本,正则表达式就显得非常重要了。今天几乎所有的编程语言都提供了对正则表达式操作的支持,Python通过标准库中的re模块来支持正则表达式操作。

关于正则表达式的相关知识,大家可以阅读一篇非常有名的博文叫《正则表达式30分钟入门教程》,读完这篇文章后你就可以看懂下面的表格,这是我们对正则表达式中的一些基本符号进行的扼要总结。

符号 解释 示例 说明
. 匹配任意字符 b.t 可以匹配bat / but / b#t / b1t等
\w 匹配字母/数字/下划线 b\wt 可以匹配bat / b1t / b_t等
但不能匹配b#t
\s 匹配空白字符(包括\r、\n、\t等) love\syou 可以匹配love you
\d 匹配数字 \d\d 可以匹配01 / 23 / 99等
\b 匹配单词的边界 \bThe\b
^ 匹配字符串的开始 ^The 可以匹配The开头的字符串
$ 匹配字符串的结束 .exe$ 可以匹配.exe结尾的字符串
\W 匹配非字母/数字/下划线 b\Wt 可以匹配b#t / b@t等
但不能匹配but / b1t / b_t等
\S 匹配非空白字符 love\Syou 可以匹配love#you等
但不能匹配love you
\D 匹配非数字 \d\D 可以匹配9a / 3# / 0F等
\B 匹配非单词边界 \Bio\B
[] 匹配来自字符集的任意单一字符 [aeiou] 可以匹配任一元音字母字符
[^] 匹配不在字符集中的任意单一字符 [^aeiou] 可以匹配任一非元音字母字符
* 匹配0次或多次 \w*
+ 匹配1次或多次 \w+
? 匹配0次或1次 \w?
{N} 匹配N次 \w{3}
{M,} 匹配至少M次 \w{3,}
{M,N} 匹配至少M次至多N次 \w{3,6}
| 分支 foo|bar 可以匹配foo或者bar
(?#) 注释
(exp) 匹配exp并捕获到自动命名的组中
(?exp) 匹配exp并捕获到名为name的组中
(?:exp) 匹配exp但是不捕获匹配的文本
(?=exp) 匹配exp前面的位置 \b\w+(?=ing) 可以匹配I’m dancing中的danc
(?<=exp) 匹配exp后面的位置 (?<=\bdanc)\w+\b 可以匹配I love dancing and reading中的第一个ing
(?!exp) 匹配后面不是exp的位置
(?<!exp) 匹配前面不是exp的位置
*? 重复任意次,但尽可能少重复 a.b
a.
?b
将正则表达式应用于aabab,前者会匹配整个字符串aabab,后者会匹配aab和ab两个字符串
+? 重复1次或多次,但尽可能少重复
?? 重复0次或1次,但尽可能少重复
{M,N}? 重复M到N次,但尽可能少重复
{M,}? 重复M次以上,但尽可能少重复

说明: 如果需要匹配的字符是正则表达式中的特殊字符,那么可以使用\进行转义处理,例如想匹配小数点可以写成.就可以了,因为直接写.会匹配任意字符;同理,想匹配圆括号必须写成(和),否则圆括号被视为正则表达式中的分组。

Python对正则表达式的支持

Python提供了re模块来支持正则表达式相关操作,下面是re模块中的核心函数。

函数 说明
compile(pattern, flags=0) 编译正则表达式返回正则表达式对象
match(pattern, string, flags=0) 用正则表达式匹配字符串 成功返回匹配对象 否则返回None
search(pattern, string, flags=0) 搜索字符串中第一次出现正则表达式的模式 成功返回匹配对象 否则返回None
split(pattern, string, maxsplit=0, flags=0) 用正则表达式指定的模式分隔符拆分字符串 返回列表
sub(pattern, repl, string, count=0, flags=0) 用指定的字符串替换原字符串中与正则表达式匹配的模式 可以用count指定替换的次数
fullmatch(pattern, string, flags=0) match函数的完全匹配(从字符串开头到结尾)版本
findall(pattern, string, flags=0) 查找字符串所有与正则表达式匹配的模式 返回字符串的列表
finditer(pattern, string, flags=0) 查找字符串所有与正则表达式匹配的模式 返回一个迭代器
purge() 清除隐式编译的正则表达式的缓存
re.I / re.IGNORECASE 忽略大小写匹配标记
re.M / re.MULTILINE 多行匹配标记

说明: 上面提到的re模块中的这些函数,实际开发中也可以用正则表达式对象的方法替代对这些函数的使用,如果一个正则表达式需要重复的使用,那么先通过compile函数编译正则表达式并创建出正则表达式对象无疑是更为明智的选择。

下面我们通过一系列的例子来告诉大家在Python中如何使用正则表达式。

例子1:验证输入用户名和QQ号是否有效并给出对应的提示信息。

  1. """
  2. 例1:验证输入用户名和QQ号是否有效并给出对应的提示信息
  3. 要求:用户名必须由字母、数字或下划线构成且长度在6~20个字符之间,QQ号是5~12的数字且首位不能为0
  4. """
  5. import re
  6. username = input('请输入用户名:')
  7. qq = input('请输入QQ号:')
  8. # match函数的第一个参数是正则表达式字符串或正则表达式对象
  9. # match函数的第二个参数是要跟正则表达式做匹配的字符串对象
  10. m1 = re.match(r'^[0-9a-zA-Z_]{6,20}$', username)
  11. if not m1:
  12. print('请输入有效的用户名')
  13. # fullmatch函数要求字符串和正则表达式完全匹配,所以正则表达式没有写起始符和结束符
  14. m2 = re.fullmatch(r'[1-9]\d{4,11}', qq)
  15. if not m2:
  16. print('请输入有效的QQ号')
  17. if m1 and m2:
  18. print('输入正确')

提示: 上面在书写正则表达式时使用了“原始字符串”的写法(在字符串前面加上了r),所谓“原始字符串”就是字符串中的每个字符都是它原始的意义,说得更直接一点就是字符串中没有所谓的转义字符啦。因为正则表达式中有很多元字符和需要进行转义的地方,如果不使用原始字符串就需要将反斜杠写作\,例如表示数字的\d得书写成\d,这样不仅写起来不方便,阅读的时候也会很吃力。

例子2:从一段文字中提取出国内手机号码。

截至到2019年,联通,移动,电信三大运营商的手机号段如下: 1、中国电信号段: 133、149、153、173、177、180、181、189、191、199; 2、中国联通号段: 130、131、132、145、155、156、166、171、175、176、185、186; 3、中国移动号段: 134(0-8)、135、136、137、138、139、147、150、151、152、157、158、159、172、178、182、183、184、187、188、198;

  1. """
  2. 例2:从一段文字中提取出国内手机号码
  3. """
  4. import re
  5. def main():
  6. # 创建正则表达式对象,使用了前瞻和回顾来保证手机号前后不应该再出现数字
  7. pattern = re.compile(r'(?<=\D)1[3456789]\d{9}(?=\D)')
  8. # 更准确(?<=\D)(1[38]\d{9}|14[579]\d{8}|15[0-35-9]\d{8}|166\d{8}|17[1-35-8]\d{8}|19[198]\d{8})(?=\D)
  9. sentence = '''重要的事情说313333333遍,我的手机号是16638809963或13222099586这两个号,
  10. 不是13022212113,这个手机号2年前就不用了。'''
  11. print('----------方法1:查找所有匹配并保存到一个列表中-----------')
  12. tels_list = re.findall(pattern, sentence)
  13. for tel in tels_list:
  14. print(tel)
  15. print('----------方法2:通过迭代器取出匹配对象并获得匹配的内容-----------')
  16. for temp in pattern.finditer(sentence):
  17. print(temp.group())
  18. print('----------方法3:通过search函数指定搜索位置找出所有匹配-----------')
  19. m = pattern.search(sentence)
  20. while m:
  21. print(m.group())
  22. m = pattern.search(sentence, m.end())
  23. if __name__ == '__main__':
  24. main()

说明: 上面匹配国内手机号的正则表达式并不够好,因为像14开头的号码只有145或147,而上面的正则表达式并没有考虑这种情况,要匹配国内手机号,更好的正则表达式的写法是:(?<=\D)(1[38]\d{9}|14[579]\d{8}|15[0-35-9]\d{8}|166\d{8}|17[1-35-8]\d{8}|19[198]\d{8})(?=\D)。

例子3:替换字符串中的不良内容

  1. """
  2. 例子3:替换字符串中的不良内容
  3. """
  4. import re
  5. sentence = 'oh, shit! 你是傻逼吗?Fuck you.'
  6. purified = re.sub('fuck|shit|[傻煞沙][比逼吊雕碉叉屄]', '*', sentence, flags=re.IGNORECASE)
  7. print(purified)

说明: re模块的正则表达式相关函数中都有一个flags参数,它代表了正则表达式的匹配标记,可以通过该标记来指定匹配时是否忽略大小写、是否进行多行匹配、是否显示调试信息等。如果需要为flags参数指定多个值,可以使用按位或运算符进行叠加,如flags=re.I | re.M

例子4:拆分长字符串

  1. """
  2. 例子4:拆分长字符串
  3. """
  4. import re
  5. poem = '窗前明月光,疑是地上霜。举头望明月,低头思故乡。'
  6. sentence_list = re.split(r'[, . ,。]', poem)
  7. sentence_list = [sentence for sentence in sentence_list if sentence] # 去掉空行
  8. print(sentence_list)
  9. for sentence in sentence_list:
  10. print(sentence)

简单的总结

正则表达式在字符串的处理和匹配上真的非常强大,通过上面的例子相信大家已经感受到了正则表达式的魅力,当然写一个正则表达式对新手来说并不是那么容易,但是很多事情都是熟能生巧,大胆的去尝试就行了,有一个在线的正则表达式测试工具相信能够在一定程度上帮到大家。