Byconity on Kubesphere

operator开发工程师

发布于 2024-02-03 12:27:38

2790

基于 KubeSphere 搭建生产级云原生数仓 ByConity

什么是 KubeSphere

KubeSphere 是在 Kubernetes 之上构建的面向云原生应用的分布式操作系统，完全开源，支持多云与多集群管理，提供全栈的 IT 自动化运维能力，简化企业的 DevOps 工作流。它的架构可以非常方便地使第三方应用与云原生生态组件进行即插即用 (plug-and-play) 的集成。

什么是 ByConity

ByConity 是分布式的云原生SQL数仓引擎，擅长交互式查询和即席查询，具有支持多表关联复杂查询、集群扩容无感、离线批数据和实时数据流统一汇总等特点。

前言

知识点

定级：入门级
如何基于 KubeSphere 搭建多节点的 k8s 集群
如何配置 OpenEBS 或者 juiceFS 存储
如何部署 ByConity

服务器配置

主机名	IP	CPU	内存	系统盘	数据盘	用途
master1	10.101.32.13	4	8	50	100	KubeSphere/k8s-master
node1	10.101.32.14	4	8	50	100	k8s-worker
node2	10.101.32.15	4	8	50	100	k8s-worker
node3	10.101.32.16	4	8	50	100	k8s-worker
node4	10.101.32.17	4	8	50	100	k8s-worker

环境涉及软件版本信息

操作系统：CentOS 7.9.2009 (Core) 3.10.0-1160.15.2.el7.x86_64
KubeSphere：3.3.0
ByConity: 0.1.0-GA
Kubernetes：v1.23.7
Docker：20.10.8
JuiceFS：v1.0.4
KubeKey: v2.2.1

环境准备

1. K8s 环境

我这里主要推荐 kubesphere 来部署 k8s 环境。为啥呢？

安装简单，得益于简单三步就可以部署一个高可用的 k8s 环境。

下载 KubeKey

1 2	export KKZONE=cn curl -sfL https://get-kk.kubesphere.io \| VERSION=v3.0.2 sh -

创建并配置集群文件

1	./kk create config config.yaml

编辑 config.yaml ，添加节点的 IP 、用户名、密码，并指定节点的角色

创建集群

1	./kk create cluster -f config.yaml

以上步骤有问题可以参考 kubesphere 官方文档

还有一个原因就是，颜值高，有非常丰富的生态工具。

KubeSphere 围绕 Kubernetes 集成了多个云原生生态主流的开源软件，同时支持对接大部分流行的第三方组件，从应用和应用生命周期管理到集群底层的运行时，将这些开源项目作为其后端组件，通过标准的 API 与 KubeSphere 控制台交互，最终在一个统一的控制台界面提供一致的用户体验，以降低对不同工具的学习成本和复杂性。

这对于 ByConity 这样一个中间件服务来说，简直是巨大福音。可以灵活配置底层的存储组建（如：ceph,OpenEBS,JuiceFS），也可以方便配置上层监控运维可视化服务（如：Prometheus,Kafka，Superset，Tableau等）。

2、配置存储

kubesphere 的集群安装好之后，默认有一个 local 的 storageClass

需要将 chart 包中 value.yaml 中所有的 storageClassName 由 openebs-hostpath 替换成 local

当然如果你没有默认的 storageClass，可以自己部署存储 OpenEBS 或者利用 KubeSphere 丰富的生态部署 JuiceFS 。

OpenEBS 部署步骤

安装命令，kubectl 或者 helm

1 2 3 4 5	kubectl apply -f https://openebs.github.io/charts/openebs-operator.yaml helm repo add openebs https://openebs.github.io/charts helm repo update helm install --namespace openebs --name openebs openebs/openebs

创建 StorageClass

1 2 3 4 5 6 7 8 9 10 11 12 13 14	apiVersion: storage.k8s.io/v1 kind: StorageClass metadata: name: local-hostpath annotations: openebs.io/cas-type: local cas.openebs.io/config: \| - name: StorageType value: hostpath - name: BasePath value: /var/local-hostpath provisioner: openebs.io/local reclaimPolicy: Delete volumeBindingMode: WaitForFirstConsumer

安装验证

1 2 3	kubectl get pods -n openebs -l openebs.io/component-name=openebs-localpv-provisioner kubectl get sc

详细步骤，请参考 OpenEBS 官方文档

在 KubeSphere 上使用 JuiceFS

安装 JuiceFS CSI Driver 如果 KubeSphere 的版本为 v3.2.0 及以上，可以直接在应用商店中安装 CSI Driver。
使用安装好的 JuiceFS CSI Driver 已经创建好一个 StorageClass，名为上述 storageClass 的 name，比如上述创建的 StorageClass 为 juicefs-sc，可以直接使用。

详细步骤，请参考在 KubeSphere 上使用 JuiceFS