Grok模式-用于逗号分隔的数据

时间:2018-12-27 18:48:41

标签: elasticsearch filebeat grok

我正在尝试为以下数据记录捕获Grok模式:

-一行-

0,2018-12-17 22:40:30.000,25980000,92,真实,0,400,33,0,2018-12-16 22:40:30.000,2018-12-17 05:53:30.000, 433,17,32,1,1,1,18,2018-12-17,非常清醒

-第二行-

1,2018-12-17 22:41:30.000,25980000,92,真实,0,400,33,0,2018-12-16 22:40:30.000,2018-12-17 05:53:30.000, 433,17,32,1,1,1,18,2018-12-17,醒着

这是我的骗子模式:

%{NUMBER:ID}%{NOTSPACE}%{TIMESTAMP_ISO8601:RecordedDateTimeStamp}*%{NOTSPACE}%{NUMBER:Efficiency}%{NOTSPACE}%{DATA:IsMainSleep}%{NOTSPACE}%{NUMBER:MinutesAfterWakeup}%{NOTSPACE}%{NUMBER:MinutesAsleep}%{NOTSPACE}%{NUMBER:MinutesAwake}%{NOTSPACE}%{NUMBER:MinutesToFallAsleep}%{NOTSPACE}%{NUMBER:SleepStartTime}%{NOTSPACE}%{NUMBER:SleepEndTime}%{NOTSPACE}%{NUMBER:TimeInBed"}%{NOTSPACE}%{NUMBER:RestlessCount}%{NOTSPACE}%{NUMBER:RestlessDuration}%{NOTSPACE}%{NUMBER:AwakeCount}%{NOTSPACE}%{NUMBER:AwakeDuration}%{NOTSPACE}%{NUMBER:AwakeningsCount}%{NOTSPACE}%{TIMESTAMP_ISO8601:DateOfSleep}%{NOTSPACE}%{DATA:SleepState}

我不确定为什么,但是它在Kibana的Grok Debugger工具中不起作用。

有人可以帮我弄清楚我的grok模式有什么问题吗?

提前谢谢

1 个答案:

答案 0 :(得分:1)

您的grok模式有18个字段,但是您的数据记录有19个字段,第三个字段在两个记录上都具有相同的值(25980000,这是作业ID吗?),因此未在您的模式中考虑。

此外,您还有另外两个未解析为时间戳的时间戳,您需要使用$锚定最后一个字段,以告知每条消息的结尾(grok将尝试匹配任何内容的地方)

尝试这种古怪的模式:

%{NUMBER:ID},%{TIMESTAMP_ISO8601:RecordedDateTimeStamp},%{NUMBER:jobId},%{NUMBER:Efficiency},%{DATA:IsMainSleep},%{NUMBER:MinutesAfterWakeup},%{NUMBER:MinutesAsleep},%{NUMBER:MinutesAwake},%{NUMBER:MinutesToFallAsleep},%{TIMESTAMP_ISO8601:SleepStartTime},%{TIMESTAMP_ISO8601:SleepEndTime},%{NUMBER:TimeInBed},%{NUMBER:RestlessCount},%{NUMBER:RestlessDuration},%{NUMBER:AwakeCount},%{NUMBER:AwakeDuration},%{NUMBER:AwakeningsCount},%{DATA:DateOfSleep},%{DATA:SleepState}$

只需在我的实验室上进行测试,即可得到以下结果:

{
"MinutesToFallAsleep": "0",
"MinutesAsleep": "400",
"AwakeningsCount": "18",
"TimeInBed": "433",
"AwakeDuration": "1",
"SleepEndTime": "2018-12-17 05:53:30.000",
"MinutesAfterWakeup": "0",
"RestlessDuration": "32",
"jobId": "25980000",
"MinutesAwake": "33",
"SleepStartTime": "2018-12-16 22:40:30.000",
"Efficiency": "92",
"AwakeCount": "1",
"IsMainSleep": "True",
"RestlessCount": "17",
"RecordedDateTimeStamp": "2018-12-17 22:41:30.000",
"DateOfSleep": "2018-12-17",
"ID": "1",
"SleepState": "Awake"
}