使用 Grok 从路径字符串和 return 路径中过滤掉 UUID

Question

这是我尝试过滤的日志的示例行：

Request starting HTTP/1.1 GET http://api0.api.sin/api/social/v1/owner/4b3b60f6-1a54-4fbc-87b5-cc44496a6dbf/feeds/notifications/unread/count

我期待的结果如下：

  {
  "message": [
    [
      "Request starting"
    ]
  ],
  "httpversion": [
    [
      "1.1"
    ]
  ],
  "BASE10NUM": [
    [
      "1.1"
    ]
  ],
  "verb": [
    [
      "GET"
    ]
  ],
  "request": [
    [
      "http://api0.api.sin/api/social/v1/owner/feeds/notifications/unread/count"
    ]
  ],
  "uuid": [
    [
      "4b3b60f6-1a54-4fbc-87b5-cc44496a6dbf"
    ]
  ]
}

我尝试使用以下 grok 表达式，但请求返回为 2 个单独的值。

%{DATA:message}(?: HTTP/%{NUMBER:httpversion}) %{WORD:verb} %{NOTSPACE:request}%{UUID:uuid}%{NOTSPACE:request}

Answer 1

你可以将UUID前后的部分分别抓取到不同的组中，然后将两个值合并为一个字段：

grok {
  match => {
    "message" => "%{DATA:message}(?: HTTP/%{NUMBER:httpversion}) %{WORD:verb} %{NOTSPACE:request1}/%{UUID:uuid}%{NOTSPACE:request2}"
  }
}

mutate {
  add_field => {
    "request" => "%{request1}%{request2}"
  }
}

如果您愿意，您也可以稍后删除 request1 和 request2。

如果你不能使用mutate，你只能想出一个request包含UUID的表达式：

%{DATA:message}(?: HTTP/%{NUMBER:httpversion}) %{WORD:verb} (?<request>.*?(?<UUID>[a-fA-F0-9]{8}(?:-[a-fA-F0-9]{4}){3}-[a-fA-F0-9]{12})\S*)

因为无法将两个不相交的文本字符串匹配到一个捕获组中。

使用 Grok 从路径字符串和 return 路径中过滤掉 UUID

Using Grok filter out UUID from path string and return path

regex

elasticsearch

logstash

grok

logz.io