BigQuery vs Elasticsearch用于分析和存储应用程序日志

时间:2016-07-17 10:11:45

标签: elasticsearch google-bigquery kibana

我正在研究使用BigQuery获取对应用程序日志文件的深入了解的优点。这些日志由Java和C#应用程序生成,其中大部分位于基于云的VM上。我很想知道其他人是否已经这样做以及BigQuery与ElasticSearch / Logstash / Kibana的相对优点。

BigQuery的优势似乎是它可以处理大量数据,而ELK解决方案似乎更适合日志文件的非结构化特性,特别是当它们来自不同的系统时。

我还希望在仪表板上显示信息。 Kibana似乎非常好。使用Google解决方案(使用Google工作表等)创建仪表板有多容易?

思考,用例?

1 个答案:

答案 0 :(得分:7)

2017年更新:GCP正式支持弹性

Elasticsearch和BigQuery一起工作很好。 BigQuery将获取尽可能多的数据,并在几秒钟内以任何方式查询它。同时,经过良好调整的Elasticsearch安装程序将在不到一秒的时间内为您提供答案,但仅针对有限数量的数据进行某些查询。

请阅读Ory at Rounds的这篇文章,详细介绍了他们如何使用这两篇​​文章:

https://www.rounds.com/blog/collecting-user-data-and-usage/

这两个最重要的标题总结了他们两个理由:

  • 使用Elasticsearch进行实时数据
  • Google BigQuery的大数据