通过我们前面的ELK学习,我们已经深入了解了ELK的相关知识以及腾讯云Elasticsearch 的操作与维护,那么,在实际生产应用中,我们如何根据企业自身业务的数据存量需求去选择合适配置的腾讯云ES集群进而保证企业应用的高效持续安全呢?那么今天我们就来讲讲这个问题:
腾讯云 Elasticsearch Service(ES)集群每个节点均是由计算(云服务器)和存储(云硬盘)两部分构成。依托腾讯云 ES 提供的弹性伸缩机制,在业务规模增大,性能遇到瓶颈的时候,您可以随时扩容,调整得到合适的集群规格。
节点规格 | 使用场景 | CPU核数 | 内存 |
---|---|---|---|
ES.S1.SMALL2 | 测试使用(不能作为应于生产 | 1 | 2G |
ES.S1.MEDIUM4 | 生产 | 2 | 4G |
ES.S1.MEDIUM8 | 生产 | 2 | 8G |
ES.S1.LARGE16 | 生产 | 4 | 16G |
ES.S1.2XLARGE32 | 生产 | 8 | 32G |
ES.S1.4XLARGE64 | 生产 | 16 | 64G |
腾讯云 ES 节点存储部分采用的是云硬盘(SSD 或高性能),用户可以根据业务需求自定义磁盘大小。单节点存储范围在100G~1T之间。ES是集群是线性扩展的。集群能力随着节点数的增加而增加。
(1)存储容量评估
影响腾讯云 ES 服务存储容量的主要因素如下:
因此,为保证服务的稳定运行,建议至少预留50%的存储空间,因此建议申请的存储容量为:
存储容量=原数据*(1+副本数量)*2.2
那么,我们来算一下,比如我公司的业务数据在半年内大概会逐步到200G的索引。副本1个。那么我要申请的云存储空间为:
200*(1+1)*2.2 = 880G 也就是1T 的存储空间
(2)计算资源评估
ES 的计算资源主要消耗在写入和查询过程,而不同业务场景在写入和查询方面的复杂度不同、比重不同,导致计算资源相比存储资源较难评估,但一般情况下,存储资源会较早成为瓶颈,因此建议您优先评估存储资源量,在实际测试过程中确认计算资源是否足够,您结合存储资源初步选择计算资源,然后在测试过程中验证、调整。根据经验:为了保证性能,在内存与数据量间有一个建议的比例:
- 搜索类项目的比列建议在1:16以内 ,也就是说1GB的JVM 内存可以存16GB的磁盘数据
- 日志类项目的比列建议在1:48~~~1:96之间,也就是说1G的JVM 内存可以相当于48G的数据量
- ES JVM 的内存不要大于31G,预留一半给操作系统,用作文件缓存。这里选的ES云主机节点的内存包括JVM+操作系统共用
-建议您至少选择3个节点,避免 ES 实例出现脑裂问题,保证 ES 实例具有较高的节点故障容错能力。
-如果您有非常大的存储容量需求,建议选择高规格的节点,避免大量低规格节点,这对大实例的性能、稳定性等有较大好处。
-定期自动化删除过期不必要的索引,根据业务情况删除时间很久之前不用的索引,可以参考这个文章:
https://cloud.tencent.com/developer/article/1361207
那么我们再来算一下?上面那个存数数据我们算1T,这个集群我们给他3个节点,那么每个node就是1TB/3=333GB,也就是400GB索引数据。
如果是搜索类项目,每个node内存应该是400GB/16=25G<31G,也就是我们要选3台配置为25G内存的节点。3个节点足够
如果是日志类项目,每个Node内存应该是400G/48=9G<31G,3个节点也足够
因此,综上所述,那么可以选择8核*32G*3节点数或者16核64GB*3节点的规格
每个 ES 索引被分为多个分片,数据按哈希算法打散到不同的分片中。由于索引分片的数量影响读写性能、故障恢复速度,且通常无法轻松更改,需要提前考虑。这里给出配置分片数量的一些常用建议:
腾讯云CES技术团队的推荐方案是: 对于数据量较小(100GB以下)的index,往往写入压力查询压力相对较低,一般设置3~5个shard,number_of_replicas设置为1即可(也就是一主一从,共两副本) 。 对于数据量较大(100GB以上)的index: 一般把单个shard的数据量控制在(20GB~50GB) 让index压力分摊至多个节点:可通过index.routing.allocation.total_shards_per_node参数,强制限定一个节点上该index的shard数量,让shard尽量分配到不同节点上 综合考虑整个index的shard数量,如果shard数量(不包括副本)超过50个,就很可能引发拒绝率上升的问题,此时可考虑把该index拆分为多个独立的index,分摊数据量,同时配合routing使用,降低每个查询需要访问的shard数量。
例如, 假设实例有5个数据节点,Index 当前大小为150GB,预期半年后增长50%。如果我们控制每个单分片为30GB,则大约需要150GB * (1 + 50%) / 30 ≈ 7个分片,考虑到有两个数据节点支撑2/7的数据压力,节点间压力相对不均匀,我们把分片数量调整到10个。
我们如何选择合适的ES集群才能保证业务高效的运转是一个长期而复杂的过程。由于场景应用都不一样,我们需要在实际生产中结合存储资源初步选择计算资源进而不断去验证、调整。当您需要对实例扩容时,建议优先进行纵向扩容,然后再考虑横向扩容增加节点个数。,最好的方法还是需要您在业务的实际使用过程中逐步去探索。依托腾讯云 ES 提供的弹性伸缩机制,在业务规模增大,性能遇到瓶颈的时候,您可以随时扩容,调整得到合适的集群规格。
当完成实例类型的初步选择后,您可以使用真实数据进行测试,通过观察 CPU 使用率、写入指标(性能、拒绝率)、查询指标(QPS、拒绝率)等监控信息,进一步确认实例类型是否合适。另外,建议针对上述监控信息配置告警,方便在线上使用时,及时发现资源不足等问题。
感谢社区好文分享的干货学习(强烈推荐):https://cloud.tencent.com/developer/article/1507657
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。