Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序，Get更优阅读体验！
立即前往
文档建议反馈控制台
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
发布
首页
学习
活动
专区
圈层
工具
MCP广场
返回腾讯云官网
社区首页 >专栏 >零门槛！使用Docker快速部署ES集群

零门槛！使用Docker快速部署ES集群

作者头像
张戈
发布于 2018-04-16 09:26:25
发布于 2018-04-16 09:26:25
8K00
代码可运行
举报
文章被收录于专栏：张戈的专栏张戈的专栏
运行总次数：0
代码可运行
关联问题
换一批

自从接触 Docker 之后，对 Docker 简直是爱不释手，做什么都是行云流水。遇到部署开源软件需求，第一时间想到的都是有没有现成的 Docker 镜像？能不能直接拉起来使用？

所以，这次网平的 ES 集群的重建，全部使用 DockerHub 已有镜像完成部署，整个过程变得非常简单！本文将分享详细的部署过程，希望对 ES 感兴趣或即将入坑 ES 的同学带来一些帮助。

一、整体架构

这里，我先给出本文最终的整体架构，让大家有一个清晰的部署思路：

角色分离：本文分享的 ES 架构中，特意将 Master 和 Client 独立出来，后续节点的重启维护都能快速完成，对用户几乎没有影响。另外将这些角色独立出来的以后，对应的计算资源消耗也就从 Data 节点剥离了出来，更容易掌握 Data 节点资源消耗与写入量和查询量之间的联系，非常有利于集群后续的容量管理和规划，算是一个比较成熟的中小型方案，准备正儿八经开搞的同学可以参考部署。

Ps：详细的 ES 角色职责说明可以查看官方文档。

数据流向：Beats 或自研系统上报日志到 Kafka，然后 Logstash 从 Kafka 读取数据写入 ES.Client，最终数据存放到 ES.Data 节点。用户可以通过 Kibana 或 ES.Client 的 Restful 接口查询数据。

本文涉及的 IP 的角色属性清单：

名称

服务器 IP

角色

备注

Docker 仓库

192.168.1.111

Docker/registry

内网私有仓库，需要外网

Kafka Cluster

192.168.1.100

Kafka/Zookeeper

192.168.1.101

Kafka/Zookeeper

192.168.1.102

Kafka/Zookeeper

ES Cluster

192.168.2.100

ES: Master/Client/Kibana

128Gx35 核

192.168.2.101

ES: Master/Client/Kibana

192.168.2.102

ES: Master/Client/Kibana

192.168.3.100

ES: DATA

64Gx32 核 2TBx12 Ps：预算充足的强烈推荐上 SSD 硬盘，可以极大的提高集群性能！

192.168.3.101

ES: DATA

192.168.3.102

ES: DATA

192.168.3.103

ES: DATA

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
# docker参数
==================================================
--name   指定docker容器的名称
--net=host   使用host网络模式（和宿主机一个网络）
--restart always docker 异常退出后自动重启
--volume / -v   挂载本地目录，格式 /src:/dst
-e 指定docker启动后环境变量（env）
--privileged 让docker可以拥有root权限
--ulimit nofile   系统文件句柄打开数量限制
--ulimit memlock 最大锁定内存地址空间，-1表示不限制
--memory 限制docker内存
--memory-swap 限制docker虚拟内存，-1 为不限制，共用宿主机swap
--cpuset-cpus 指定docker绑定的CPU
TERM=dumb   让docker里面可以执行top命令
 
# Zookeeper docker参数
==================================================
ZOO_PORT          配置zookeeper的服务端口
ZOO_DATA_DIR      配置zookeeper的文件存放目录
ZOO_DATA_LOG_DIR  配置zookeeper的日志存放目录
ZOO_MY_ID         配置zookeeper的节点ID，和ZOO_SERVERS中的一一对应
ZOO_SERVERS       配置集群节点信息
 
# Kafka docker参数
==================================================
KAFKA_BROKER_ID     配置broker id
KAFKA_PORT         配置服务端口
KAFKA_HEAP_OPTS   配置JVM heap内存限制
KAFKA_HOST_NAME   服务监听地址
KAFKA_ADVERTISED_HOST_NAME 同上
KAFKA_LOG_DIRS       配置数据存放分区
KAFKA_ZOOKEEPER_CONNECT   配置zookeeper连接
 
# 系统参数
==================================================
vm.max_map_count 定义了一个进程能拥有的最多的内存区域
vm.swappiness   配置是否允许使用swap虚拟内存
 
# ES参数
==================================================
iyunwei 纳尼？嗯，这只是我们爱运维的体现^_^
ES_JAVA_OPTS 配置ES JVM heap内存限制
cluster.name   集群名称
node.name 节点名称
node.master 节点角色配置，true表示可以成为主节点，false不能成为主节点
node.data   节点角色配置，true表示可以成为数据节点，false不能成为数据节点
node.ingest 节点角色配置，true表示可以成为协调节点，false不能成为协调节点（简单解释，请以官方为准）
node.attr.rack  节点服务器所在的机柜信息，可能在数据分布中起到指导作用
discovery.zen.ping.unicast.hosts 配置自动发现IP列表
discovery.zen.minimum_master_nodes 防止脑裂，这个参数控制的是，一个节点需要看到的具有master节点资格的最小数量，然后才能在集群中做操作。官方的推荐值是(N/2)+1，其中N是具有master资格的节点的数量（我们的情况是3，因此这个参数设置为2，但对于只有2个节点的情况，设置为2就有些问题了，一个节点DOWN掉后，你肯定连不上2台服务器了，这点需要注意）。
gateway.recover_after_nodes 控制集群在达到多少个节点之后才会开始数据恢复,通过这个设置可以避免集群自动相互发现的初期,shard分片不全的问题,假如es集群内一共有5个节点,就可以设置为5,那么这个集群必须有5个节点启动后才会开始数据分片,如果设置为3,就有可能另外两个节点没存储数据分片
network.host 绑定服务的IP地址
transport.tcp.port 内部通信端口
http.port 对外服务端口
path.data 数据存放目录
bootstrap.memory_lock 锁住内存，确保ES不使用swap
bootstrap.system_call_filter        系统调用过滤器，建议禁用该项检查，因为很多检查项需要Linux 3.5以上的内核，否则会报错。
 
# kibana参数
==================================================
SERVER_NAME 节点名称，可显示在X-pack界面
ELASTICSEARCH_URL 指定ES地址
ELASTICSEARCH_USERNAME        ES鉴权用户，若ES开启了X-pack鉴权，则需要配置
ELASTICSEARCH_PASSWORD        ES鉴权密码，同上
XPACK_MONITORING_UI_CONTAINER_ELASTICSEARCH_ENABLED 让x-pack支持docker的CPU使用率显示

本文涉及的部分参数简单解释（更多详细解释请咨询搜索引擎）：

二、Docker 资源

1、Docker 私有仓库搭建（针对内网环境）

①、在有外网的服务器 192.168.1.111 上进行如下操作：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
#安装docker
yum install -y docker 
systemctl start docker
 
#拉取私有仓库镜像：
docker pull registry
 
#启动仓库
docker run \
--restart=always \
--net=host \
-v /data/images:/tmp/registry \
-dti registry

Ps：若内部没有外网服务器，可以使用离线导出导入（save/load）的方案来做本地仓库，具体参考我之前整理的 Docker 入门教程-->传送门

②、docker 启动后，开始拉取所需镜像：

以下镜像均位于 dockerHub，拉取龟速，这里可以使用阿里云的 dockerHub 加速服务（腾讯云的仅支持腾讯云服务器内网使用）

zookeeper

镜像主页:https://hub.docker.com/_/zookeeper/

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
# 拉取
docker pull zookeeper
# 推送本地仓库
docker tag zookeeper localhost:5000/zookeeper:latest
docker push localhost:5000/zookeeper:latest

kafka

镜像主页： https://hub.docker.com/r/wurstmeister/kafka/

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
# 拉取
docker pull wurstmeister/kafka
# 推送本地仓库
docker tag wurstmeister/kafka:latest  localhost:5000/kafka:latest
docker push  localhost:5000/kafka:latest

Elastic

镜像主页：https://www.docker.elastic.co/

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
# 拉取
docker pull docker.elastic.co/elasticsearch/elasticsearch:5.6.8
docker pull docker.elastic.co/kibana/kibana:5.6.8
docker pull docker.elastic.co/logstash/logstash:5.6.8
 
# 打tag
docker tag docker.elastic.co/elasticsearch/elasticsearch:5.6.8 localhost:5000/elastic/elasticsearch:5.6.8
docker tag docker.elastic.co/kibana/kibana:5.6.8 localhost:5000/elastic/kibana:5.6.8
docker tag docker.elastic.co/logstash/logstash:5.6.8 localhost:5000/elastic/logstash:5.6.8
 
# 推送本地仓库
docker push localhost:5000/elastic/elasticsearch:5.6.8
docker push localhost:5000/elastic/kibana:5.6.8
docker push localhost:5000/elastic/logstash:5.6.8

Ps：6.X 版本强制启用了 content-type 头部请求，比较烦，本文选择 5.X 的最后一个版本，实际使用请自行抉择。

完成以上步骤，我们就在 192.168.1.111 上建立了一个 Docker 私有仓库，地址是 192.168.1.111:5000。

2、所有服务器节点都安装要 docker，并开启私有仓库支持

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
yum install docker -y

vim /etc/sysconfig/docker 添加兼容私有仓库非 https 协议配置：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
OPTIONS='--insecure-registry 192.168.1.111:5000'

启动 Docker：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
systemctl start docker
systemctl enable docker

完成这一步之后，Docker 环境已准备完毕。

三、部署 Kafka 集群

Ps：若只是单纯部署 ES 集群，而不需要用到 kafka，可以跳过本步骤

1、部署 zookeeper

①、部署节点 1

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
# 192.168.1.100
# 创建数据存放目录
mkdir -p /data/zookeeper
# 启动
docker run --name zookeeper \
        --net=host \
  --restart always \
  -v /data/zookeeper:/data/zookeeper \
  -e ZOO_PORT=2181 \
  -e ZOO_DATA_DIR=/data/zookeeper/data \
  -e ZOO_DATA_LOG_DIR=/data/zookeeper/logs \
  -e ZOO_MY_ID=1 \
  -e ZOO_SERVERS="server.1=192.168.1.100:2888:3888 server.2=192.168.1.101:2888:3888 server.3=192.168.1.102:2888:3888" \
  -d 192.168.1.111:5000/zookeeper:latest

②、部署节点 2

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
# 192.168.1.101
# 创建数据存放目录
mkdir -p /data/zookeeper
# 启动
docker run --name zookeeper \
        --net=host
  --restart always \
  -v /data/zookeeper:/data/zookeeper \
  -e ZOO_PORT=2181 \
  -e ZOO_DATA_DIR=/data/zookeeper/data \
  -e ZOO_DATA_LOG_DIR=/data/zookeeper/logs \
  -e ZOO_MY_ID=2 \
  -e ZOO_SERVERS="server.1=192.168.1.100:2888:3888 server.2=192.168.1.101:2888:3888 server.3=192.168.1.102:2888:3888" \
  -d 192.168.1.111:5000/zookeeper:latest

③、部署节点 3

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
# 192.168.1.103
# 创建数据存放目录
mkdir -p /data/zookeeper
# 启动
docker run --name zookeeper \
        --net=host \
  --restart always \
  -v /data/zookeeper:/data/zookeeper \
  -e ZOO_PORT=2181 \
  -e ZOO_DATA_DIR=/data/zookeeper/data \
  -e ZOO_DATA_LOG_DIR=/data/zookeeper/logs \
  -e ZOO_MY_ID=3 \
  -e ZOO_SERVERS="server.1=192.168.1.100:2888:3888 server.2=192.168.1.101:2888:3888 server.3=192.168.1.102:2888:3888" \
  -d 192.168.1.111:5000/zookeeper:latest

2、部署 kafka

①、部署节点 1

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
# 机器有11块盘，这里都用起来
mkdir -p /data{1..11}/kafka
 
# 启动
docker run --name kafka \
        --net=host \
        --volume /data1:/data1 \
        --volume /data2:/data2 \
        --volume /data3:/data3 \
        --volume /data4:/data4 \
        --volume /data5:/data5 \
        --volume /data6:/data6 \
        --volume /data7:/data7 \
        --volume /data8:/data8 \
        --volume /data9:/data9 \
        --volume /data10:/data10 \
        --volume /data11:/data11 \
        -e KAFKA_BROKER_ID=1 \
        -e KAFKA_PORT=9092 \
        -e KAFKA_HEAP_OPTS="-Xms8g -Xmx8g" \
        -e KAFKA_HOST_NAME=192.168.1.100 \
        -e KAFKA_ADVERTISED_HOST_NAME=192.168.1.100 \
       -e KAFKA_LOG_DIRS=/data1/kafka,/data2/kafka,/data3/kafka,/data4/kafka,/data5/kafka,/data6/kafka,/data7/kafka,/data8/kafka,/data9/kafka,/data10/kafka,/data11/kafka \
        -e KAFKA_ZOOKEEPER_CONNECT="192.168.1.100:2181,192.168.1.101:2181,192.168.1.102:2181" \
        -d 192.168.1.111:5000/kafka:latest

②、部署节点 2

只需要修改如下参数，其他和节点 1 代码一样：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
-e KAFKA_BROKER_ID=2 \
-e KAFKA_HOST_NAME=192.168.1.101 \
-e KAFKA_ADVERTISED_HOST_NAME=192.168.1.101 \

③、部署节点 3

同上所述，只需要修改如下参数：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
-e KAFKA_BROKER_ID=3 \
-e KAFKA_HOST_NAME=192.168.1.102 \
-e KAFKA_ADVERTISED_HOST_NAME=192.168.1.102 \

完成之后，我们就使用纯 Docker 搭建了一个 Kafka 集群。仔细看了下，这个 kafka 镜像无法通过环境变量来设置 topics 的默认参数，比如默认副本数、partion 数以及过期时间等。但是后续我们还可以通过 kafka 的 shell 命令来调整这些参数，比如我要调整数据的过期时间：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
#将topics demo的过期时间调整为1天：
 docker exec -ti kafka /opt/kafka/bin/kafka-configs.sh --zookeeper 192.168.1.100:2181 --entity-name demo --entity-type topics --alter  --add-config retention.ms=86400

更多 kafka shell 命令行可以自行搜索。

四、部署 ES 集群

1、内核参数优化

vim /etc/sysctl.conf

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
vm.max_map_count = 655360
vm.swappiness = 1

最后，执行 sysctl -p 生效

3、创建挂载目录

Master 节点：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
mkdir -p /data/iyunwei/master
chown -R 1000:1000 /data/iyunwei

Client 节点：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
mkdir -p /data/iyunwei/client
chown -R 1000:1000 /data/iyunwei

data 节点（TS 机器有 12 块盘，这里都用起来）：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
mkdir -p /data{1..12}/iyunwei/data
chown -R 1000:1000 /data{1..12}/iyunwei

Ps：ES 官方 Docker 镜像启动用户 ID 是 1000，所以这里给 1000:1000 授权。

5、启动 Master、Client 和 DATA 节点

在 3 台 Master 节点执行如下启动脚本，其中只需要修改 node.name 值，比如 MASTER-100：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
#!/bin/bash
# 删除已退出的同名容器
docker ps -a | grep es_master |egrep "Exited|Created" | awk '{print $1}'|xargs -i% docker rm -f % 2>/dev/null
# 启动
docker run --name es_master \
        -d --net=host \
        --restart=always \
        --privileged=true \
        --ulimit nofile=655350 \
        --ulimit memlock=-1 \
        --memory=12G \
        --memory-swap=-1 \
        --cpuset-cpus='31-34' \
        --volume /data:/data \
        --volume /etc/localtime:/etc/localtime \
        -e TERM=dumb \
        -e ES_JAVA_OPTS="-Xms8g -Xmx8g" \
        -e cluster.name="iyunwei" \
        -e node.name="MASTER-100" \
        -e node.master=true \
        -e node.data=false \
        -e node.ingest=false \
        -e node.attr.rack="0402-K03" \
        -e discovery.zen.ping.unicast.hosts="192.168.2.100:9301,192.168.2.101:9301,192.168.2.102:9301,192.168.2.100:9300,192.168.2.102:9300,192.168.2.103:9300,192.168.3.100:9300,192.168.3.101:9300,192.168.3.102:9300,192.168.3.103:9300" \
        -e discovery.zen.minimum_master_nodes=2 \
        -e gateway.recover_after_nodes=5 \
        -e network.host=0.0.0.0 \
        -e transport.tcp.port=9301 \
        -e http.port=9201 \
        -e path.data="/data/iyunwei/master" \
        -e path.logs=/data/elastic/logs \
        -e bootstrap.memory_lock=true \
        -e bootstrap.system_call_filter=false \
        -e indices.fielddata.cache.size="25%" \
        192.168.1.111:5000/elastic/elasticsearch:5.6.8

在 3 台 Client 节点启动如下脚本，同样只需要修改 node.name 的值，比如 CLIENT-101：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
#!/bin/bash
docker ps -a | grep es_client |egrep "Exited|Created" | awk '{print $1}'|xargs -i% docker rm -f % 2>/dev/null
docker run --name es_client \
        -d --net=host \
        --restart=always \
        --privileged=true \
        --ulimit nofile=655350 \
        --ulimit memlock=-1 \
        --memory=64G \
        --memory-swap=-1 \
        --cpuset-cpus='23-30' \
        --volume /data:/data \
        --volume /etc/localtime:/etc/localtime \
        -e TERM=dumb \
        -e ES_JAVA_OPTS="-Xms31g -Xmx31g" \
        -e cluster.name="iyunwei" \
        -e node.name="CLIENT-100" \
        -e node.master=false \
        -e node.data=false \
        -e node.attr.rack="0402-K03" \
        -e discovery.zen.ping.unicast.hosts="192.168.2.100:9301,192.168.2.101:9301,192.168.2.102:9301,192.168.2.100:9300,192.168.2.102:9300,192.168.2.103:9300,192.168.3.100:9300,192.168.3.101:9300,192.168.3.102:9300,192.168.3.103:9300" \
        -e discovery.zen.minimum_master_nodes=2 \
        -e gateway.recover_after_nodes=2 \
        -e network.host=0.0.0.0 \
        -e transport.tcp.port=9300 \
        -e http.port=9200 \
        -e path.data="/data/iyunwei/client" \
        -e path.logs=/data/elastic/logs \
        -e bootstrap.memory_lock=true \
        -e bootstrap.system_call_filter=false \
        -e indices.fielddata.cache.size="25%" \
        192.168.1.111:5000/elastic/elasticsearch:5.6.8

在4台 DATA 节点启动如下脚本，同样只需要修改 node.name 的值，比如 DATA-101：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
#!/bin/bash
docker ps -a | grep es_data |egrep "Exited|Created" | awk '{print $1}'|xargs -i% docker rm -f % 2>/dev/null
docker run --name es_data \
        -d --net=host \
        --restart=always \
        --privileged \
        --ulimit nofile=655350 \
        --ulimit memlock=-1 \
        --volume /data:/data \
        --volume /data1:/data1 \
        --volume /data2:/data2 \
        --volume /data3:/data3 \
        --volume /data4:/data4 \
        --volume /data5:/data5 \
        --volume /data6:/data6 \
        --volume /data7:/data7 \
        --volume /data8:/data8 \
        --volume /data9:/data9 \
        --volume /data10:/data10 \
        --volume /data11:/data11 \
        --volume /etc/localtime:/etc/localtime \
        --ulimit memlock=-1 \
        -e TERM=dumb \
        -e ES_JAVA_OPTS="-Xms31g -Xmx31g" \
        -e cluster.name="iyunwei" \
        -e node.name="DATA-135" \
        -e node.master=false \
        -e node.data=true \
        -e node.ingest=false \
        -e node.attr.rack="0402-Q06" \
        -e discovery.zen.ping.unicast.hosts="192.168.2.100:9301,192.168.2.101:9301,192.168.2.102:9301,192.168.2.100:9300,192.168.2.102:9300,192.168.2.103:9300,192.168.3.100:9300,192.168.3.101:9300,192.168.3.102:9300,192.168.3.103:9300" \
        -e discovery.zen.minimum_master_nodes=2 \
        -e gateway.recover_after_nodes=2 \
        -e network.host=0.0.0.0 \
        -e http.port=9200 \
        -e path.data="/data1/iyunwei/data,/data2/iyunwei/data,/data3/iyunwei/data,/data4/iyunwei/data,/data5/iyunwei/data,/data6/iyunwei/data,/data7/iyunwei/data,/data8/iyunwei/data,/data9/iyunwei/data,/data10/iyunwei/data,/data11/iyunwei/data,/data12/iyunwei/data" \
        -e path.logs=/data/elastic/logs \
        -e bootstrap.memory_lock=true \
        -e bootstrap.system_call_filter=false \
        -e indices.fielddata.cache.size="25%" \
        192.168.1.111:5000/elastic/elasticsearch:5.6.8

6、注册 x-pack

官方镜像都默认集成了 x-pack，x-pack 是 elastic 官方的商业版插件，支持监控、鉴权以及机器学习等功能。

坏消息是这玩意按节点收费，一个节点 6 万/年，比较昂贵！

好消息是我们可以免费使用 x-pack 的基础版本（1 年授权，可更换），支持集群可视化监控，导入授权后 x-pack 会自动关闭 monitoring 以外的功能，比如登陆鉴权等【套餐详情】。

注册步骤：

①、注册并下载授权码：https://register.elastic.co/xpack_register

，得到类似 jager-zhang-d13eeec2-723c-41d2-b912-4c56674c32a0-v5.json 授权文件

②、导入授权信息：

教程：

https://www.elastic.co/guide/en/x-pack/current/license-management.html

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
curl -XPUT http://192.168.2.100:9200/_license?acknowledge=true -d @jager-zhang-d13eeec2-723c-41d2-b912-4c56674c32a0-v5.json -uelastic:changeme

这样就激活了 x-pack 了。

7、部署 kibana

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
#!/bin/bash
docker ps -a | grep kibana | egrep "Exited|Create" | awk '{print $1}'|xargs -i% docker rm -f % 2>/dev/null
docker run --name kibana \
        --restart=always \
        -d --net=host \
        -v /data:/data \
        -v /etc/localtime:/etc/localtime \
        --privileged \
        -e TERM=dumb \
        -e SERVER_HOST=0.0.0.0 \
        -e SERVER_PORT=5601 \
        -e SERVER_NAME=Kibana-100 \
        -e ELASTICSEARCH_URL=http://localhost:9200 \
        -e ELASTICSEARCH_USERNAME=elastic \
        -e ELASTICSEARCH_PASSWORD=changeme \
        -e XPACK_MONITORING_UI_CONTAINER_ELASTICSEARCH_ENABLED=false \
        -e LOG_FILE=/data/elastic/logs/kibana.log \
        192.168.1.111:5000/elastic/kibana:5.6.8

Ps：XPACK_MONITORING_UI_CONTAINER_ELASTICSEARCH_ENABLED 这个参数还有一个折腾记录，回头补上分享。

8、部署 logstash

logstash 在整个架构中属于消费者角色，将数据从 kafka 中读出，然后写入 ES。

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
#!/bin/bash
docker ps -a | grep logstash |egrep "Exited|Created" | awk '{print $1}'|xargs -i% docker rm -f % 2>/dev/null
docker run --name logstash \
        -d --net=host \
        --restart=always \
        --privileged \
        --ulimit nofile=655350 \
        --ulimit memlock=-1 \
        -e ES_JAVA_OPTS="-Xms16g -Xmx16g" \
        -e TERM=dumb \
        --volume /etc/localtime:/etc/localtime \
        --volume /data/elastic/config:/usr/share/logstash/config \
        --volume /data/elastic/config/pipeline:/usr/share/logstash/pipeline \
        --volume /data/elastic/logs:/usr/share/logstash/logs \
        192.168.1.111:5000/elastic/logstash:5.6.8

Ps：/data/elastic/config 存放了 logstash 配置文件，其中 pipeline 文件夹里面存放 logstash 的 input、filter、output 规则。logstash.yml 是主配置文件，如下是推荐配置项：

代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
# 名称，会在x-pack展示
node.name: LOGSTASH-100
# 配置文件夹目录
path.config: /usr/share/logstash/pipeline
# 配置ES地址，用于上报自我监控信息到ES
xpack.monitoring.elasticsearch.url: http://localhost:9200
# 自动重载配置（很赞）
config.reload.automatic: true  
# 每60秒检查配置是否有修改（很赞）
config.reload.interval: 60

Ps：本文附件可以下载到完整的 config 配置文件。

10、拓展配置

由于我们使用的是 x-pack 的基础版本，所以没有鉴权功能，这里只好折中处理一下：

  • 引入 Aproxy 对 kibana 做鉴权（部署文档）
  • 使用 iptables 对端口做安全限制，只允许指定机器访问相关端口，比如：
代码语言：javascript
代码运行次数：0
运行
AI代码解释
复制
iptables -I INPUT -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j REJECT --reject-with icmp-port-unreachable
iptables -I INPUT -s 192.168.1.100/32   -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT
iptables -I INPUT -s 192.168.1.101/32   -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT
iptables -I INPUT -s 192.168.1.102/32   -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT
iptables -I INPUT -s 192.168.2.100/32   -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT
iptables -I INPUT -s 192.168.2.101/32   -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT
iptables -I INPUT -s 192.168.2.102/32   -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT
iptables -I INPUT -s 192.168.3.101/32   -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT
iptables -I INPUT -s 192.168.3.102/32   -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT
iptables -I INPUT -s 192.168.3.103/32   -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT
iptables -I INPUT -s 192.168.3.104/32   -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT
iptables -I INPUT -s 127.0.0.1/32       -p tcp -m multiport --dports 9200,9300,9201,9301,5601 -j ACCEPT

五、成品展示

全部完成之后，访问 kibana 地址就能看到漂亮的界面啦！当然，真正数据上报之前，我们还需要做一些准备工作，比如添加索引模板等，本文篇幅有限这里就不做更多介绍了，敬请关注张戈博客 ES 系列文集（整理中）！

下面截 2 张美图，诱惑一下，喜欢的话赶紧折腾吧！

本文参与 腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。
原始发表：2018年03月31日，如有侵权请联系 cloudcommunity@tencent.com 删除
容器镜像服务
开源

本文分享自 作者个人站点/博客 前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ，欢迎热爱写作的你一起参与！

容器镜像服务
开源
评论
登录后参与评论
暂无评论
登录 后参与评论
推荐阅读
编辑精选文章
换一批
万字详解高可用架构设计
2496
Go 开发者必备：Protocol Buffers 入门指南
1436
10分钟带你彻底搞懂分布式链路跟踪
950
多租户的 4 种常用方案
1995
亿级月活的社交 APP，陌陌如何做到 3 分钟定位故障？
1370
60页PPT全解：DeepSeek系列论文技术要点整理
2439
Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
es容器镜像服务日志数据apachehttps
随着时间的积累，日志数据会越来越多，当你需要查看并分析庞杂的日志数据时，可通过 Filebeat+Kafka+Logstash+Elasticsearch 采集日志数据到Elasticsearch（简称ES）中，并通过 Kibana 进行可视化展示与分析。
高楼Zee
2021/09/23
2.2K0
Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
es集群+elk搭建+kafka搭建分布式日志收集系统
Elasticsearch Service
如果没有输入信息表示没有安装。 如果安装可以使用rpm -qa | grep java | xargs rpm -e --nodeps 批量卸载所有带有Java的文件 这句命令的关键字是java
黎明大大
2020/09/08
1K0
es集群+elk搭建+kafka搭建分布式日志收集系统
Docker-compose 建立ELK集群
容器镜像服务apache容器
计划创建3个ES实例组成一个集群，同时创建一个Kibana实例连接该集群。每个ES实例使用本地配置文件，方便配置文件的保存和版本管理。Kibana的配置文件也放在本地，通过文件映射的方式挂载到容器内。
大江小浪
2020/02/13
1.4K0
使用 EFKLK 搭建 Kubernetes 日志收集工具栈
Elasticsearch Serviceapache日志数据kafkakubernetes
前面大家介绍了 Kubernetes 集群中的几种日志收集方案，Kubernetes 中比较流行的日志收集解决方案是 Elasticsearch、Fluentd 和 Kibana（EFK）技术栈，也是官方现在比较推荐的一种方案。
CNCF
2021/05/07
2.1K0
使用 EFKLK 搭建 Kubernetes 日志收集工具栈
Elasticsearch实践：ELK+Kafka+Beats对日志收集平台的实现
kafkaelasticsearchelk日志实践
当我们在开源日志分析系统的领域，谈及 ELK 架构可谓是家喻户晓。然而，这个生态系统并非 Elastic 有意为之，毕竟 Elasticsearch 的初衷是作为一个分布式搜索引擎。其广泛应用于日志系统，实则是一种意料之外，这是社区用户的推动所致。如今，众多云服务厂商在推广自己的日志服务时，往往以 ELK 作为参照标准，由此可见，ELK 的影响力之深远。
栗筝i
2023/10/23
1.7K0
Elasticsearch实践：ELK+Kafka+Beats对日志收集平台的实现
干货 | Elasticsearch 多种跨机房灾备方案对比与实战解读
https网络安全消息队列 CMQ 版kafka数据迁移
Elasticsearch 集群的高可用，保证服务的连续性是企业最关注的需求。通常当企业达到一定规模时，不管是在云上还是线下都会有多个机房做异地灾备，确保在某个机房不可用时，还能持续对外提供业务。本文将会介绍几种 Elasticsearch 常见的灾备方案，同时提供了 Demo 案例方便大家动手体验。
铭毅天下
2022/01/05
6K0
干货 | Elasticsearch 多种跨机房灾备方案对比与实战解读
ES8集群部署
部署服务集群跨域配置
这次ES8集群部署花的时间真不少，还熬了两夜，原本是比较简单的，同事搞就可以了，结果还是超出了预期，不熟悉的东西部署也是相当耗时间的。开始是准备基于Docker部署的，但是没有成功，网上参考了很多，调各个配置参数，就是没成功，后来看到这个文章：https://www.zsjweblog.com/2022/03/09/elasticsearch8-1-0%e9%9b%86%e7%be%a4%e6%90%ad%e5%bb%ba/，改为直接使用安装包进行部署，在测试机上尝试是可以把几个节点服务连接成一个集群的。
明月AI
2024/02/26
7990
ES8集群部署
docker-compose快速部署elasticsearch-8.x集群+kibana
eshttpapache容器https
欢迎访问我的GitHub 这里分类和汇总了欣宸的全部原创(含配套源码)：https://github.com/zq2599/blog_demos 本篇概览 前文《Docker下elasticsearch8部署、扩容、基本操作实战(含kibana)》介绍了用docker快速部署es和kibana的过程，然而整个过程人工操作步骤还是多了点，能不能更简单些呢？毕竟很多时候大家关注的是使用，不愿在部署上费太多时间 借助docker-compose，可以将es集群+kibana的安装过程可以进一步简化，精简后的步骤
程序员欣宸
2022/06/13
5.4K2
docker-compose快速部署elasticsearch-8.x集群+kibana
容器部署日志分析平台ELK7.10.1（Elasisearch+Filebeat+Redis+Logstash+Kibana）
esElasticsearch Serviceapache云数据库 Redis®存储
  ELK日志分析系统是Logstash、Elastcsearch、Kibana开源软件的集合，对外是作为一个日志管理系统的开源方案，它可以从任何来源、任何格式进行日志搜索、分析与可视化展示。
非著名运维
2022/06/22
1.3K0
容器部署日志分析平台ELK7.10.1（Elasisearch+Filebeat+Redis+Logstash+Kibana）
ELK——使用Docker快速搭建
elasticsearchelk服务镜像数据
"ELK"是三个开源项目的首字母缩写，这三个项目分别是：Elasticsearch、Logstash 和 Kibana。Elasticsearch 是一个搜索和分析引擎。Logstash 是服务器端数据处理管道，能够同时从多个来源采集数据，转换数据，然后将数据发送到诸如 Elasticsearch 等"存储库"中。Kibana 则可以让用户在 Elasticsearch 中使用图形和图表对数据进行可视化,Elastic Stack 是 ELK Stack 的更新换代产品。 Docker镜像站 | Docker@Elastic Elasticsearch-7.6 | elasticsearch-7.6 Kibana-7.6 | kibana-7.6 Logstash-7.6 | logstash-7.6
思索
2024/08/16
3050
ELK——使用Docker快速搭建
ELK实战（Springboot日志输出查找）
https容器镜像服务网络安全apacheElasticsearch Service
需求 把分布式系统，集群日志集中处理快速查询 搭建ELK并与springboot日志输出结合 搭建ELK 基于我前面的elasticsearch搭建博客文档docker-compose.yml基础上进行添加修改 新建docker-compose.yml文件，内容如下 version: '2' services: elasticsearch-central: image: elasticsearch:5.6.4 container_name: es1 volumes:
老梁
2019/09/10
1.8K0
ELK实战（Springboot日志输出查找）
ELK 集群部署
apachenode.jsesnginxElasticsearch Service
Elasticsearch 是一个分布式、高扩展、高实时的搜索与数据分析引擎。它能很方便的使大量数据具有搜索、分析和探索的能力。充分利用Elasticsearch的水平伸缩性，能使数据在生产环境变得更有价值。Elasticsearch 的实现原理主要分为以下几个步骤，首先用户将数据提交到Elasticsearch 数据库中，再通过分词控制器去将对应的语句分词，将其权重和分词结果一并存入数据，当用户搜索数据时候，再根据权重将结果排名，打分，再将返回结果呈现给用户。
Kevin song
2020/04/27
1.7K0
基于docker部署elk进行日志管理和分析
es容器镜像服务容器Elasticsearch Serviceapache
ELK 是 Elasticsearch、Logstrash 和 Kibana 的缩写，它们代表的是一套成熟的日志管理系统，ELK Stack 已经成为目前最流行的集中式日志解决管理方案。
IT不难
2022/05/23
5630
基于docker部署elk进行日志管理和分析
ELK环境搭建
Elasticsearch Servicehttpapache开源
ELK提供了一整套的解决方案，而且都是开源的整个，它们之间互相配合，可以很完美的和Kafka进行整合起来。
无涯WuYa
2022/01/18
5540
ELK环境搭建
容器部署ELK7.10，适用于生产
kafkahttps网络安全zookeeper容器镜像服务
一、elk架构简介 首先 logstash 具有日志采集、过滤、筛选等功能，功能完善但同时体量也会比较大，消耗系统资源自然也多。filebeat作为一个轻量级日志采集工具，虽然没有过滤筛选功能，但是仅
YP小站
2021/01/29
1.9K0
容器部署ELK7.10，适用于生产
使用 Docker 搭建 ELK 环境
容器容器镜像服务apacheElasticsearch Service
本文使用「署名 4.0 国际 (CC BY 4.0)」许可协议，欢迎转载、或重新修改使用，但需要注明来源。 署名 4.0 国际 (CC BY 4.0)
soulteary
2020/05/04
1.7K0
使用 Docker 搭建 ELK 环境
ELK+kafka+Filebeat
kafkaeszookeeperapachehttps
软件包官方下载地址：https://www.elastic.co/cn/downloads/ 2、部署ElasticSearch
@凌晨
2021/01/29
6590
ELK+kafka+Filebeat
【docker】使用docker安装部署elasticsearch+Kibana
apacheElasticsearch Service容器数据分析容器镜像服务
Elasticsearch 是一个分布式、RESTful 风格的搜索和数据分析引擎，能够解决不断涌现出的各种用例。作为 Elastic Stack 的核心，它集中存储您的数据，帮助您发现意料之中以及意料之外的情况。
宝耶需努力
2022/12/13
4K0
【docker】使用docker安装部署elasticsearch+Kibana
ELK日志收集原理+es集群+elk搭建+本地目录文件读取,搭建分布式日志收集系统
搜索引擎esapi开源分布式
如果没有输入信息表示没有安装。 如果安装可以使用rpm -qa | grep java | xargs rpm -e --nodeps 批量卸载所有带有Java的文件 这句命令的关键字是java
黎明大大
2020/09/08
5.1K0
ELK日志收集原理+es集群+elk搭建+本地目录文件读取,搭建分布式日志收集系统
Filebeat5+Kafka+ELK Docker搭建日志系统
容器镜像服务容器htmlr 语言access
纯粹是处于个人爱好，各种技术只要跟 Docker 搭边就倾爱它的 Docker 镜像版本。本文除了filebeat agent是二进制版本直接安装在应用机上，与docker无关，其他都是基于docker 镜像版本的集群安装。
曲水流觞
2019/11/05
9690
Filebeat5+Kafka+ELK Docker搭建日志系统
推荐阅读
编辑精选文章
万字详解高可用架构设计Go 开发者必备：Protocol Buffers 入门指南10分钟带你彻底搞懂分布式链路跟踪
相关讨论
用docker安装完es，不能使用？es集群容灾，当一个节点宕机、集群进行恢复，如果这个节点又起来了会发生什么？我有无门槛代金券，近期不用了，有什么办法能给别人用么？
相关课程
腾讯云向量数据库-RAG七天入门训练营AI绘画-StableDiffusion图像生成Python教程-Django框架快速入门到实战
Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
2.2K0
es集群+elk搭建+kafka搭建分布式日志收集系统
1K0
Docker-compose 建立ELK集群
1.4K0
使用 EFKLK 搭建 Kubernetes 日志收集工具栈
2.1K0
Elasticsearch实践：ELK+Kafka+Beats对日志收集平台的实现
1.7K0
干货 | Elasticsearch 多种跨机房灾备方案对比与实战解读
6K0
ES8集群部署
7990
docker-compose快速部署elasticsearch-8.x集群+kibana
5.4K2
容器部署日志分析平台ELK7.10.1（Elasisearch+Filebeat+Redis+Logstash+Kibana）
1.3K0
ELK——使用Docker快速搭建
3050
ELK实战（Springboot日志输出查找）
1.8K0
ELK 集群部署
1.7K0
基于docker部署elk进行日志管理和分析
5630
ELK环境搭建
5540
容器部署ELK7.10，适用于生产
1.9K0
使用 Docker 搭建 ELK 环境
1.7K0
ELK+kafka+Filebeat
6590
【docker】使用docker安装部署elasticsearch+Kibana
4K0
ELK日志收集原理+es集群+elk搭建+本地目录文件读取,搭建分布式日志收集系统
5.1K0
Filebeat5+Kafka+ELK Docker搭建日志系统
9690
相关推荐
Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
更多 >
张戈0
LV.1
腾讯高级工程师
文章
328
获赞
2.2K
专栏
1
作者相关精选
换一批
加入讨论
的问答专区 >
不惑
1产品KOL擅长5个领域
相关课程
一站式学习中心 >
腾讯云向量数据库-RAG七天入门训练营
2148人在学
向量数据库
腾讯云安灯
AI绘画-StableDiffusion图像生成
1690人在学
大模型图像创作引擎
高性能应用服务
Python教程-Django框架快速入门到实战
970人在学
对象存储
python
开源框架
领券

腾讯云开发者

扫码关注腾讯云开发者

扫码关注腾讯云开发者

领取腾讯云代金券

热门产品

热门推荐

更多推荐

Copyright © 2013 - 2025 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有 

深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 深公网安备号 44030502008569

腾讯云计算（北京）有限责任公司 京ICP证150476号 |  京ICP备11018762号 | 京公网安备号11010802020287

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档

Copyright © 2013 - 2025 Tencent Cloud.

All Rights Reserved. 腾讯云 版权所有

登录 后参与评论
6
3
目录
本文部分代码块支持一键运行，欢迎体验
本文部分代码块支持一键运行，欢迎体验