AWS弹性搜索突然缩小大小

时间:2017-02-01 14:25:06

标签: amazon-web-services elasticsearch

我们有一个类似社交的应用程序,我们开始在生产中使用AWS ElasticcSearch服务,但我们开始遇到ES问题,ES版本是2.3。

群集配置为:

  • 数据节点:2
  • 数据节点类型:m3.medium.elasticsearch
  • 专用主实例数:3
  • 专用主实例类型:t2.small.elasticsearch。
  • 每个数据节点的容量:50GB。

问题是,在不到30分钟的时间内,其中一个节点空闲存储大小从9 GB变为0 GB,我们不知道这是怎么发生的。

我们有4种类型的文档,其中一种是动态类型,我们称之为组类型,这是因为Group的每个文档都可以有N个字段来表示组的朋友。 像

这样的东西
{
  13: [1,2,3,4],
  5: [1,3,4],
  user_ids: [1,2,3,4,6,7],
  id: 1
}

这意味着身份证号为13和5的用户是该群组中ID为1的某些用户的朋友。

因此,该文档可以根据用户数量增长。

如果有人遇到或遇到同样的问题,或者只是完全理解弹性搜索架构,那么他的帮助就会很棒。

指数信息:

curl -XGET 'http://host/_cat/indices?v
health status index              pri rep docs.count docs.deleted store.size pri.store.size 
green  open   .kibana-4           1   1          5            0      1.9mb       1017.3kb 
green  open   X                   1   1    2259502        29575     57.5gb         28.7gb 
green  open   Y                   1   1     113156            0     21.7mb         10.8mb


curl -XGET 'http://host/_cat/nodes?v&h=host,id,ip,rp,hp,d,cpu,v,r,m,n
host     id     ip   rp hp    d    cpu v    r m  n       
x.x.x.x tIgm x.x.x.x 95  5  5.7gb   0 2.3.2 - m Shatter 
x.x.x.x puUF x.x.x.x 95  6  5.7gb   0 2.3.2 - m Justice 
x.x.x.x 1qZi x.x.x.x 97 54 17.7gb   7 2.3.2 d - Allatou 
x.x.x.x lcty x.x.x.x 97 60 17.7gb   8 2.3.2 d - Amergin 
x.x.x.x Nq1H x.x.x.x  5 15  5.7gb   0 2.3.2 - * Arkus

非常感谢!

1 个答案:

答案 0 :(得分:0)

我设法解决了这个问题。

我的问题称为Mapping Explosion

在映射中使用变量键,就像我在Group文档类型中那样,会产生一个不断增长的索引。

相关问题