前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Elasticsearch 集群写入拒绝率突然飙升

Elasticsearch 集群写入拒绝率突然飙升

原创
作者头像
南非骆驼说大数据
修改2022-11-28 16:51:10
6940
修改2022-11-28 16:51:10
举报
文章被收录于专栏:南非骆驼说大数据

一、前言

  • 问题一: 客户突然反馈,集群写入拒绝飙升,需要紧急处理,云控制台截图如下:
控制台写入拒绝指标
控制台写入拒绝指标
  • 问题二:logstash写不进数据,客户着急处理
logstash报错
logstash报错

二、分析步骤

  • 问题一-处理步骤:

一般出现拒绝,我们第一时间就要看日志,结合日志,我们发现很多如下type错误:

日志type错误
日志type错误

再看一下监控,没其他业务毛刺问题,同时,客户write thread_pool 持续打满堆积

thread_pool write写队列打满
thread_pool write写队列打满
  • 问题2-处理步骤 同样是查看日志
字段超限
字段超限

字段超限导致的数据写入异常,影响其他数据写入。调整字段限制参数后,数据写入即正常。

写入恢复正常
写入恢复正常

三、问题原因

结合两个问题现象,这里大致可以断定,是客户mapping中出现了type导致索引数据写不进,出现的错误又持续堆积,把节点的写队列打满,影响了集群整体业务的写入。

代码语言:javascript
复制
Rejecting mapping update to [cover] as the final mapping would have more than 1 type: [*, cover_type

问题原因:这种type错误占用了多余的队列,引起了拒绝,导致正常的索引写入也受影响。

四、解决办法

1, 直接删除掉这个cover这个索引

2,另外用户之前建了个模板, type是*,他这边一直要给cover建一个cover_type,让用户把模板删掉了,让他先建,自动映射其他用户的cover_type,这样就没有这个错误日志了。

再观察10分钟,这个拒绝率就下来了。

写入拒绝
写入拒绝

就这样,比较顺利的解决了客户的问题。与其他操作没有关系。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、前言
  • 二、分析步骤
  • 三、问题原因
  • 四、解决办法
相关产品与服务
Elasticsearch Service
腾讯云 Elasticsearch Service(ES)是云端全托管海量数据检索分析服务,拥有高性能自研内核,集成X-Pack。ES 支持通过自治索引、存算分离、集群巡检等特性轻松管理集群,也支持免运维、自动弹性、按需使用的 Serverless 模式。使用 ES 您可以高效构建信息检索、日志分析、运维监控等服务,它独特的向量检索还可助您构建基于语义、图像的AI深度应用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档