在 python 中使用正则表达式解析网络日志文件

Question

我有一个包含数字主机数据和字母数字用户名数据的网络日志文件。以下是日志文件中的几行：

189.254.43.43 - swift6867 [21/Jun/2019:15:53:00 -0700] "GET /architectures/recontextualize/morph/scale HTTP/1.0" 204 8976
20.80.28.12 - hagenes4423 [21/Jun/2019:15:53:01 -0700] "POST /harness HTTP/1.1" 404 28127
112.211.50.38 - - [21/Jun/2019:15:53:03 -0700] "DELETE /harness/e-business/functionalities HTTP/1.1" 405 7975

有时，用户名会用连字符代替。

我只想提取第一个方括号之前的数据，然后将其转换为字典列表。例如：

example_dict = {"host":"189.254.43.43", 
                "user_name":"swift6867"}

这是我使用的正则表达式：

pattern = """
    (?P<host>[\d]*[.][\d]*[.][\d]*[.][\d]*)     # host dictionary
    (?P<username>([\w]+|-)(?=\ \[))             # username dictionary 
"""

re.finditer(pattern,logdata,re.VERBOSE)

正则表达式未找到任何匹配项。只有个别正则表达式语句有效。我的意思是，如果我注释掉用户名字典的正则表达式，主机字典的正则表达式将起作用，反之亦然。

我做错了什么？

Answer 1

您可以使用下一个正则表达式 (demo):

^(?P<host>(?:\d+\.?){4})\s*-\s*(?P<user_name>[^\s-]*?)\s

要创建字典列表，您可以应用 groupdict() on each Match object returned by finditer():

import re
...
pattern = r'^(?P<host>(?:\d+\.?){4})\s*-\s*(?P<user_name>[^\s-]*?)\s'
result = [i.groupdict() for i in re.finditer(pattern, logdata, re.MULTILINE)]

使用此正则表达式的步骤会少一些 (demo)，因此在更大的数据上它应该稍微快一些：

^(?P<host>\d+\.\d+\.\d+\.\d+)\s*-\s*(?P<user_name>[^\s-]*?)\s

在 python 中使用正则表达式解析网络日志文件

Parsing web log file using regex in python

python

regex

regex-group

regex-look-ahead