首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

腾讯数据库核心集群索引优化实践

腾讯数据库MongoDB天然支持高可用、分布式、高性能、高压缩、schema free、完善的客户端访问均衡策略等功能。...· 索引优化收益(节省90%以上CPU资源、85%磁盘IO资源、20%存储成本) 问题分析过程 收到用户集群性能瓶颈反馈后,通过集群监控信息及服务器监控信息可以看出集群存在如下现象: · Mongod节点...腾讯DBbrain for MongoDB基于SQL分类+索引规则+代价计算完美实现索引智能推荐,下期将为大家带来腾讯索引推荐方案及实现细节的分享。...作者:腾讯MongoDB团队 腾讯MongoDB当前服务于游戏、电商、社交、教育、新闻资讯、金融、物联网、软件服务等多个行业;MongoDB团队(简称CMongo)致力于对开源MongoDb内核进行深度研究及持续性优化...﹀ ﹀ ﹀ -- 更多精彩 -- 叮咚买菜自建MongoDB上腾讯实践 亿级月活全民K歌Feed业务在腾讯MongoDB中的应用及优化实践 ↓↓点击阅读原文,了解更多优惠

96330
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    腾讯ES如何通过Reindex实现跨集群数据拷贝

    拓扑如下: image.png 二、前提条件 新购一个腾讯ES集群,创建时间必须在2020年5月20日以后; Reindex支持拷贝得ES版本必须主版本相同,不能ES6、ES7实现reindex;...云梯内部同事购买的ES集群因为网络架构原因,暂时不支持此功能,可以通过控制台自己购买ES集群; 实现2个不同集群间的底层网络的互通; 三、Reindex 实践 实现从私有ES到公有ES集群数据拷贝...在实现此功能前,我们需要在ES集群的配置文件开放设置白名单,需要将远程操作reindex功能的集群VIP配置到需要拷贝数据集群的配置文件里,比如,我这里是拷贝自建集群数据,那么我就要在自建集群的配置文件里添加需要访问的集群...到私有ES集群数据拷贝 如果要实现公有ES到自建ES的数据拷贝,我们也需要给ES集群的配置文件进行IP开白,用户可以在上的ES集群腾讯控制台,高级配置文件里,自定义图形化添加reindex...三、腾讯ES集群间Reindex实践 参考链接:腾讯ES如何通过Reindex实现跨集群数据拷贝 https://cloud.tencent.com/developer/article/1811443

    3.5K181

    腾讯ES如何通过Reindex实现跨集群数据拷贝

    /1764879 那么本节,我们来讲解腾讯公有ElasticSeach的一些应用,本次的测试环境如下: image.png 二、基础条件 目标集群: es-cqujhmdp 广州三区 源集群...功能需要开放远程 ES 集群访问地址的白名单,用户现在可以在腾讯控制台- ->选中某个ES集群-->高级配置里进行该配置文件的更改,注意:更改此配置需要重启ES集群。...注意1: reindex.remote.whitelist 表示访问集群的VIP信息,比如,A集群需要通过Reindex拷贝B集群上的数据,那我们就在B集群的配置文件里,配置A集群的VIP信息,并重启集群就好了...注意2: 如果源集群、目标集群存在多可用区的时候,比如这里,我是从多可用区的集群去拷贝单可用区的集群数据,执行reindex的时候,出现了这么一个错误“10.2.20.29:9200 not whitelisted...腾讯ES如何通过Reindex实现跨集群数据拷贝 参考这里: https://cloud.tencent.com/developer/article/1764879

    3.3K110

    基于腾讯CVM搭建Hadoop集群数据迁移最佳实践

    一、需求和目标 本文主要介绍如何在腾讯CVM上搭建Hadoop集群,以及如何通过distcp工具将友商Hadoop中的数据迁移到腾讯自建Hadoop集群。...目的:用Hadoop自带的distcp工具,将友商HDFS的数据迁移到腾讯 1、配置注意事项 (1)确保友商云和腾讯侧的主机名不一样; (2)友商云和腾讯侧所有节点配置公网IP; (3)hosts...配置:所有节点上都配置本地集群内的内网IP与主机名映射 + 对方集群的外网IP与主机名映射; 在友商上hosts配置如下,因为要将友商HDFS数据拷贝到腾讯,所以在友商每个节点需要添加腾讯节点外网...六、总结 Hadoop集群间迁移一般采用distcp工具,这里介绍的是通过在外网如果实现数据的迁移。在企业实际的生产环境中,如果数据量比较大,可以用专线将两边内网打通,基于内网来做数据迁移。...另外如果是冷数据,可以将冷数据迁移到腾讯COS存储,可以降低成本,具体见:https://cloud.tencent.com/document/product/436/7212

    14.1K122

    腾讯联网环境下搭建kubernetes集群

    ,顺便体验一下腾讯开源的tencentos.详情见腾讯官网:https://cloud.tencent.com/document/product/213/38027。...kubectl --disableexcludes=kubernetes # 开机自启 systemctl enable kubelet.service [image.png] 当然了,这里也可以直接使用腾讯的源了...maxconn 2000 EOF systemctl enable haproxy && systemctl start haproxy && systemctl status haproxy 登陆腾讯负载均衡管理后台...主要是想验证一下是否可以跨区域vpc去搭建kubernetes集群的可行性。网络质量什么的还没有想好怎么测试。只是抛砖引玉。上是很大成都上方便了许多。起码bgp什么的配置的都相对省略了。...如果有上跨区域搭建kubernetes集群的可以参考一下。

    3.9K133

    腾讯CVM上搭建Hadoop集群

    介绍 本教程将介绍如何在腾讯CVM上搭建Hadoop集群。Hadoop中是一个Apache的框架,可以让你通过基本的编程处理跨服务器集群的分布式方式的大型数据集。...在本教程中,我们将在四台腾讯CVM上搭建Hadoop集群 准备 本教程需要以下内容: 4台Ubuntu 16.04 服务器,每一台服务都需要设置好一个可以使用sudo命令的非root账户。...此时,我们的从节点CVMs指向HDFS的数据目录,这将允许我们运行我们的Hadoop集群。 第7步 - 运行Hadoop集群 我们已经到了可以启动Hadoop集群的程度。...创建Hadoop教程就到这里,我们发现配置非常繁琐,这里我推荐你使用腾讯弹性MapReduce服务,弹性MapReduce (EMR)结合技术和 Hadoop、Hive、Spark、Hbase、Storm...您可以在数分钟内创建安全可靠的专属 Hadoop 集群,以分析位于集群数据节点或 COS 上的 PB 级海量数据。 更多Hadoop教程请前往腾讯+社区学习更多知识。

    8.6K53

    腾讯Lighthouse同地域组建Kubernetes集群

    本文中的脚本针对同地域的腾讯服务器组建Kubernetes集群进行优化。...腾讯多地域请参考 腾讯多地域组建Kubernetes集群,跨多地域请参考 跨多地域组建Kubernetes集群(k3s)。...环境要求所有节点须为全新安装的Debian11/12或Ubuntu22.04操作系统脚本使用了腾讯的metadata获取IP,所有节点部署在腾讯上同个地域(CVM、Lighthouse均可)多账号、...Flannel-vxlan 通过使用 Virtual Extensible LAN 技术创建一个虚拟的二层网络购买并配置Lighthouse服务器Lighthouse是腾讯推出的一款轻量应用服务器产品...设置防火墙参考下面的列表在腾讯控制台设置防火墙规则。若无需精细控制的,可以设置为允许所有节点间TCP/UPD协议的全部端口互访。

    1.3K413

    腾讯Lighthouse组建跨地域Kubernetes集群

    腾讯轻量服务器3周年刚过,买买买完后,发现手里又多了好几台轻量服务器,拿来干什么还没想好,那就先来个“分布式吃灰”吧。...环境要求 所有节点须为全新安装的Debian11/12或Ubuntu22.04操作系统 脚本使用了腾讯的metadata获取IP,所有节点部署在腾讯上不同的地域(CVM、Lighthouse均可)...跨云集群请参考本站另一篇文章:跨多地域组建Kubernetes集群(k3s) 使用的组件 K3s 一个轻量级的Kubernetes发行版,专为生产环境而设计 Flannel 一个虚拟网络层,用于为容器化工作负载创建网络隔离和通信...旨在提供安全的通信 Flannel-WireGuard Flannel网络插件的一种后端,使用WireGuard加密和隧道技术来保护网络通信 购买并配置Lighthouse服务器 Lighthouse是腾讯推出的一款轻量应用服务器产品...在腾讯控制台设置防火墙 参考下面的列表在腾讯控制台设置防火墙规则。若无需精细控制的,可以设置为允许所有节点间TCP/UPD协议的全部端口互访。

    8.4K2840

    基于腾讯容器服务Serverless集群的EMQ X集群搭建

    本文介绍使用EMQ X在腾讯容器服务Serverless集群上搭建MQTT服务。...:https://github.com/emqx/emqx-operatorcert-manager的安装说明地址:https://cert-manager.io/docs/installation/腾讯容器服务...Serverless集群(原弹性容器服务EKS):https://console.cloud.tencent.com/tke2/quickstart搭建步骤创建腾讯容器服务Serverless集群图片图片按流程往下走...cert-manager.yaml由于cert-manager 官方使用的镜像在 quay.io (需要修改为 quay.tencentcloudcr.com )进行拉取,但由于众说周知的原因网络不通,腾讯有一篇文档...我是在腾讯控制台修改了yaml的配置解决问题的。图片以第一个Deployment为例,演示如何修改:图片后面两个Deployment也需要做同样的修改。

    2.2K30

    基于腾讯CVM构建MySQL MHA Keepalived集群

    1.2 环境部署 如下图所示,使用5台腾讯centos 7.5 CVM搭建MHA集群环境。...准备集群环境,安装依赖包,授权用户,配置ssh密钥对认证登陆,所有节点之间互相以root秘钥对认证登录,管理主机以root密钥对认证登录所有数据节点主机,配置mha集群。...port --new_master_host=host --new_master_ip=ip --new_master_port=port\n"; } 3.5 配置keepalived的配置文件 (1)在腾讯控制台申请...etc/mha_manager/app1.cnf app1 (pid:14901) is running(0:PING_OK), master:10.10.2.12 5 总结 通过以上操作,可以成功在腾讯通过...腾讯CDB高可用集群也是基于类似方案来实现,但是切换速度更快、数据一致性有保障,建议使用腾讯CDB产品(腾讯CDB详细介绍)。

    9.3K100

    腾讯上使用kubeadm搭建Kubernetes集群

    提到容器技术必然会提到容器的编排系统,在众多编排系统中Google的Kubernetes已跑在了行业的最前端,本文将介绍如何使用kubeadm快速的搭建一套用于学习和测试的kubernetes集群。...环境准备 VPC 国内 国外 地域 北京 国际地域 机器 三台 一台 腾讯资源&环境准备 1 腾讯国内地域和国际地域分别创建一个VPC,例如北京一个VPC,中国香港一个VPC 2 国内地域...https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml 6 将node添加到集群内...上使用 kubectl命令,在master 复制配置文件到node上即可 scp /root/.kube/config node01:/root/.kube/config kubeadm安装k8s集群采坑专栏...net.bridge.bridge-nf-call-iptables = 1 net.bridge.bridge-nf-call-arptables = 1 sysctl -p 使用如下命令: 加入节点到集群

    4.5K80

    腾讯Elasticsearch集群规划及性能优化实践

    集成X-Pack高级特性,适用日志分析/企业搜索/BI分析等场景 ---- 随着腾讯 Elasticsearch 产品功能越来越丰富,ES 用户越来越多,上的集群规模也越来越大。...本文则结合我们在给腾讯 ES 集群日常运维工作中遇到的各种集群问题及总结沉淀的一些运维经验,来介绍下如何规划好集群容量及索引配置,以及所遵循的一些原则和经验。...下面这张图是上一个 100个节点,总分片数在 11W+ 的集群。每天 8点切换新索引时,写入直接掉0,集群不可用时间在数小时不等。 对于这种问题,我们腾讯ES团队也有一些非常成熟的优化方案。...,并且可将温节点数据通过快照方式备份到腾讯COS中,然后将温节点上索引的副本设置为0,这样便可进一步降低集群中的总分片数量。...能够进一步提升集群的写入性能和稳定性。最后介绍了日常运维工作中常见的排查集群问题的方法和思路。希望本文能够帮助到腾讯的每一个ES客户。

    1.4K30

    腾讯上自建Kubernetes集群,部署Kubernetes Dashboard

    使用 Kubernetes Dashboard,您可以: 向 Kubernetes 集群部署容器化应用 诊断容器化应用的问题 管理集群的资源 查看集群上所运行的应用程序 创建、修改Kubernetes...上的资源(例如 Deployment、Job、DaemonSet等) 展示集群上发生的错误 例如:您可以伸缩一个 Deployment、执行滚动更新、重启一个 Pod 或部署一个新的应用程序 以上文字翻译自...关注微服务参考架构的视角对界面进行组织,参考 Kuboard 简介 Kuboard 中,不需要手工编写 YAML 文件,进一步降低 K8S 使用难度,提高便捷性 Kuboard 可以导出整个微服务架构的部署信息,并在新的名称空间/集群导入配置信息...Kuboard 的一个发展方向是,提供内建的 监控套件(目前的全局监控套件成熟度比较高) 为了帮助大家选择适合自己的工具,本文将详细描述如何在 Kubernetes 集群中安装 Kubernetes...name: dashboard-admin namespace: kubernetes-dashboard 4.2 创建clusterrolebinding为dashboard sa授权集群权限

    2.2K00
    领券