2022-07-05 23:20:20

面向“对象”编程——数据分析师学正则

正则有用吗?有用。
干啥用的?文本匹配用的,可快速定位、过滤、提取出你想要的文本!
那我学了做啥,现用现查不就好了?道理是这个道理,但是基本的正则,看懂,还是要学一些基础的,基础学了,举一反三,到时候再查,也就知道为什么这么写了,甚至可以看出一些垃圾博主(比如我)的谬误。

1.正则分类

正则分好多种,不同语言、不同命令支持的正则也都不完全一样,不过原理基本相同,只是元字符可能不一样。

正则基本可以分为三类:

  1. 基本的正则表达式(Basic Regular Expression 又叫 Basic RegEx 简称 BREs)
  2. 扩展的正则表达式(Extended Regular Expression 又叫 Extended RegEx 简称 EREs)
  3. Perl 的正则表达式(Perl Regular Expression 又叫 Perl RegEx 简称 PREs)
字符 说明 Basic RegEx Extended RegEx python RegEx Perl regEx
转义 \ \ \ \
^ 匹配行首,例如’^dog’匹配以字符串dog开头的行(注意:awk 指令中,’^'则是匹配字符串的开始) ^ ^ ^ ^
$ 匹配行尾,例如:’^、dog'匹配以字符串 dog 为结尾的行(注意:awk 指令中,'’则是匹配字符串的结尾) $ $ $ $
^$ 匹配空行 ^$ ^$ ^$ ^$
^string$ 匹配行,例如:’^dog$'匹配只含一个字符串 dog 的行 ^string$ ^string$ ^string$ ^string$
< 匹配单词,例如:’<frog’ (等价于’\bfrog’),匹配以 frog 开头的单词 < < 不支持 不支持(但可以使用\b来匹配单词,例如:’\bfrog’)
> 匹配单词,例如:‘frog>’(等价于’frog\b '),匹配以 frog 结尾的单词 > > 不支持 不支持(但可以使用\b来匹配单词,例如:‘frog\b’)
<x> 匹配一个单词或者一个特定字符,例如:’<frog>’(等价于’\bfrog\b’)、’<G>’ <x> <x> 不支持 不支持(但可以使用\b来匹配单词,例如:’\bfrog\b’
() 匹配表达式,例如:不支持’(frog)’ 不支持(但可以使用(),如:(dog) () () ()
() 匹配表达式,例如:不支持’(frog)’ () 不支持(同()) 不支持(同()) 不支持(同())
匹配前面的子表达式 0 次或 1 次(等价于{0,1}),例如:where(is)?能匹配"where" 以及"whereis" 不支持(同?)
? 匹配前面的子表达式 0 次或 1 次(等价于’{0,1}’),例如:'where(is)? '能匹配 “where"以及"whereis” ? 不支持(同?) 不支持(同?) 不支持(同?)
? 当该字符紧跟在任何一个其他限制符(*, +, ?, {n},{n,}, {n,m}) 后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串 “oooo”,‘o+?’ 将匹配单个"o",而 ‘o+’ 将匹配所有 ‘o’ 不支持 不支持 不支持 不支持
. 匹配除换行符(’\n’)之外的任意单个字符(注意:awk 指令中的句点能匹配换行符) . .(如果要匹配包括“\n”在内的任何一个字符,请使用:’(^$)|(.) . .(如果要匹配包括“\n”在内的任何一个字符,请使用:’ [.\n] ’
* 匹配前面的子表达式 0 次或多次(等价于{0, }),例如:zo* 能匹配 "z"以及 “zoo” * * * *
+ 匹配前面的子表达式 1 次或多次(等价于’{1, }’),例如:'where(is)+ '能匹配 “whereis"以及"whereisis” + 不支持(同+) 不支持(同+) 不支持(同+)
+ 匹配前面的子表达式 1 次或多次(等价于{1, }),例如:zo+能匹配 "zo"以及 “zoo”,但不能匹配 “z” 不支持(同+) + + +
{n} n 必须是一个 0 或者正整数,匹配子表达式 n 次,例如:zo{2}能匹配 不支持(同{n}) {n} {n} {n}
{n,} “zooz”,但不能匹配 "Bob"n 必须是一个 0 或者正整数,匹配子表达式大于等于 n次,例如:go{2,} 不支持(同{n,}) {n,} {n,} {n,}
{n,m} 能匹配 “good”,但不能匹配 godm 和 n 均为非负整数,其中 n <= m,最少匹配 n 次且最多匹配 m 次 ,例如:o{1,3}将配"fooooood" 中的前三个 o(请注意在逗号和两个数之间不能有空格) 不支持(同{n,m}) {n,m} {n,m} {n,m}
x|y 匹配 x 或 y,例如: 不支持’z|(food)’ 能匹配 “z” 或"food";’(z|f)ood’ 则匹配"zood" 或 “food” 不支持(同x|y) x|y x|y x|y
[0-9] 匹配从 0 到 9 中的任意一个数字字符(注意:要写成递增) [0-9] [0-9] [0-9] [0-9]
[xyz] 字符集合,匹配所包含的任意一个字符,例如:’[abc]'可以匹配"lay" 中的 ‘a’(注意:如果元字符,例如:. *等,它们被放在[ ]中,那么它们将变成一个普通字符) [xyz] [xyz] [xyz] [xyz]
[^xyz] 负值字符集合,匹配未包含的任意一个字符(注意:不包括换行符),例如:’[^abc]’ 可以匹配 “Lay” 中的’L’(注意:[^xyz]在awk 指令中则是匹配未包含的任意一个字符+换行符) [^xyz] [^xyz] [^xyz] [^xyz]
[A-Za-z] 匹配大写字母或者小写字母中的任意一个字符(注意:要写成递增) [A-Za-z] [A-Za-z] [A-Za-z] [A-Za-z]
[^A-Za-z] 匹配除了大写与小写字母之外的任意一个字符(注意:写成递增) [^A-Za-z] [^A-Za-z] [^A-Za-z] [^A-Za-z]
\d 匹配从 0 到 9 中的任意一个数字字符(等价于 [0-9]) 不支持 不支持 \d \d
\D 匹配非数字字符(等价于 [^0-9]) 不支持 不支持 \D \D
\S 匹配任何非空白字符(等价于[^\f\n\r\t\v]) 不支持 不支持 \S \S
\s 匹配任何空白字符,包括空格、制表符、换页符等等(等价于[ \f\n\r\t\v]) 不支持 不支持 \s \s
\W 匹配任何非单词字符 (等价于[^A-Za-z0-9_]) \W \W \W \W
\w 匹配包括下划线的任何单词字符(等价于[A-Za-z0-9_]) \w \w \w \w
\B 匹配非单词边界,例如:‘er\B’ 能匹配 “verb” 中的’er’,但不能匹配"never" 中的’er’ \B \B \B \B
\b 匹配一个单词边界,也就是指单词和空格间的位置,例如: ‘er\b’ 可以匹配"never" 中的 ‘er’,但不能匹配 “verb” 中的’er’ \b \b \b \b
\t 匹配一个横向制表符(等价于 \x09和 \cI) 不支持 不支持 \t \t
\v 匹配一个垂直制表符(等价于 \x0b和 \cK) 不支持 不支持 \v \v
\n 匹配一个换行符(等价于 \x0a 和\cJ) 不支持 不支持 \n \n
\f 匹配一个换页符(等价于\x0c 和\cL) 不支持 不支持 \f \f
\r 匹配一个回车符(等价于 \x0d 和\cM) 不支持 不支持 \r \r
\ 匹配转义字符本身"" \ \ \ \
\cx 匹配由 x 指明的控制字符,例如:\cM匹配一个Control-M 或回车符,x 的值必须为A-Z 或 a-z 之一,否则,将 c 视为一个原义的 ‘c’ 字符 不支持 不支持 \cx
\xn 匹配 n,其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长,例如:’\x41’ 匹配 “A”。’\x041’ 则等价于’\x04’ & “1”。正则表达式中可以使用 ASCII 编码 不支持 不支持 \xn
\num 匹配 num,其中 num是一个正整数。表示对所获取的匹配的引用 不支持 \num \num
[:alnum:] 匹配任何一个字母或数字([A-Za-z0-9]),例如:’[[:alnum:]] ’ [:alnum:] [:alnum:] [:alnum:] [:alnum:]
[:alpha:] 匹配任何一个字母([A-Za-z]), 例如:’ [[:alpha:]] ’ [:alpha:] [:alpha:] [:alpha:] [:alpha:]
[:digit:] 匹配任何一个数字([0-9]),例如:’[[:digit:]] ’ [:digit:] [:digit:] [:digit:] [:digit:]
[:lower:] 匹配任何一个小写字母([a-z]), 例如:’ [[:lower:]] ’ [:lower:] [:lower:] [:lower:] [:lower:]
[:upper:] 匹配任何一个大写字母([A-Z]) [:upper:] [:upper:] [:upper:] [:upper:]
[:space:] 任何一个空白字符: 支持制表符、空格,例如:’ [[:space:]] ’ [:space:] [:space:] [:space:] [:space:]
[:blank:] 空格和制表符(横向和纵向),例如:’[[:blank:]]‘ó’[\s\t\v]’ [:blank:] [:blank:] [:blank:] [:blank:]
[:graph:] 任何一个可以看得见的且可以打印的字符(注意:不包括空格和换行符等),例如:’[[:graph:]] ’ [:graph:] [:graph:] [:graph:] [:graph:]
[:print:] 任何一个可以打印的字符(注意:不包括:[:cntrl:]、字符串结束符’\0’、EOF 文件结束符(-1), 但包括空格符号),例如:’[[:print:]] ’ [:print:] [:print:] [:print:] [:print:]
[:cntrl:] 任何一个控制字符(ASCII 字符集中的前 32 个字符,即:用十进制表示为从 0 到31,例如:换行符、制表符等等),例如:’ [[:cntrl:]]’ [:cntrl:] [:cntrl:] [:cntrl:] [:cntrl:]
[:punct:] 任何一个标点符号(不包括:[:alnum:]、[:cntrl:]、[:space:]这些字符集) [:punct:] [:punct:] [:punct:] [:punct:]
[:xdigit:] 任何一个十六进制数(即:0-9,a-f,A-F) [:xdigit:] [:xdigit:] [:xdigit:] [:xdigit:]

{{<hint info>}}
总结

  • 网上找的,看整得挺全的,就搬过来了
  • 基本能用Perl正则就Perl正则;不支持,那就扩展正则;基础正则是真的很难用,还要一堆转义
  • 在python匹配的时候,直接r,用原生字符串即可,这样就不用转义了
  • 各种正则包,基本都支持几个修饰符,比如全局g、多行匹配m、忽略大小写i等
  • 可以拿一些常用的文本来尝试提取信息,比如手机号、邮箱、网址等
  • 更进一步,模式匹配还有断言语法、后向引用等
  • linux命令的话,常用三种grep、sed、awk
    • grep相对简单常用
    • sed倾向于行文本处理,mac下的sed不是gnu sed,如果感觉别扭,换gsed,这个跟linux是一样的;sed的高级玩法可多种模式切换,支持行控制,支持多种操作,本身就是一种脚本语言
    • awk倾向于列文本处理,mac下的awk也不是gnu awk,同上,可替换为gawk跟linux保持一致;awk也是脚本语言,支持编程,有很多内置方法
  • go的正则自成一派,叫go正则,感觉是阉割版的perl正则,没仔细查
  • 如果是elk,那就是grok正则,又是一套自己的玩法
  • 总之,具体用啥,看自己的技术栈吧,分析师基本接触两种:sql正则和python正则(你是R语言为主,那就是R的正则);比较好掌握
    {{</hint>}}

2.正则实战

找了一套题:飞书文档

本文链接:https://troy.wang/post/wife-oriented-programming-2.html

-- EOF --