如何修改启用Kerberos的CDP集群的主机名

文档编写目的

在集群安装初期由于未规范集群主机的主机名，这样会带来集群管理的不便，现需要将CDH/CDP集群的主机名统一规范化，在修改主机名的过程中需要注意什么？本篇文章主要介绍如何修改Kerberos环境下的CDP集群的HOSTNAME，在修改CDH集群的主机名采用相同的方法。修改集群所有主机的hostname的步骤如下：

内容概述

1. 环境说明及停止集群服务
2. 修改集群HOSTNAME、KDC及集群服务配置
3. 功能验证

测试环境

1. CM为7.4.4版本，Cloudera Runtime版本为7.1.7版本
2. 采用root用户操作
3. 操作系统Redhat7.6

前置条件

1. 集群已启用Kerberos
2. 元数据库和KDC服务器都在该节点上
3. 如果有使用kudu，则需要提前备份Kudu的数据（这里没有提供对应操作)

环境说明

测试环境为单节点集群，所有的角色和服务都部署在该节点上。

集群原始HOSTNAME说明

该节点的HOSTNAME由cdp.cloudera.aliyun修改为cdp1.cloudera.com

修改后的目标环境的IP和HOSTNAME如下

停止集群所有服务

停止CDP服务

在CM主页→集群名右侧的三竖点→stop,停止CDP集群的服务，如果有多个集群，按照相同的方法停止所有集群的服务。

停止成功

停止Cloudera Management Service服务

在CM主页→Cloudera Management Service右侧的三竖点→stop,停止CMS的服务

CDP和CMS的所有服务都停止完毕后，如下图所示：

停止Cloudera Manager Server服务

登录CM服务所在节点执行如下命令停止服务

systemctl stop cloudera-scm-server

7180端口无法访问则表示停止成功

停止集群所有节点的cloudera-scm-agent服务

可以使用批量脚本执行命令来停止所有节点的cloudera-scm-agent服务，本测试中集群为单节点集群，因此直接执行命令即可

systemctl stop cloudera-scm-agent

修改集群主机的HOSTNAME

修改主机的HOSTNAME

执行如下命令修改集群的HOSTNAME

hostnamectl set-hostname cdp1.cloudera.com
hostname

注意：按照需求将集群所有节点的HOSTNAME修改为指定的名称

修改/etc/hosts文件

修改一台主机的/etc/hosts文件，将集群的所有节点的hosts信息都配置到该节点上。如果是通过DNS管理的hostname，则需要调整DNS的配置，而不需要配置/etc/hosts文件。

vim /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6
10.0.0.100      cdp1.cloudera.com    cdp1.cloudera.com

Hosts文件同步到所有节点

对于正常的集群，需要将修改后的hosts文件同步至集群所有节点的/etc目录下

for i in {100..100}; do scp /etc/hosts 10.0.0.$i:/etc/hosts ; done

这里的测试集群为单节点集群，不涉及到文件同步的问题。

检查所有节点的HOSTNAME是否配置正确

使用DNS配置hostname也需要进行该检查。

for i in {100..100}; do ssh 10.0.0.$i 'hostname' ; done

修改krb5.conf配置文件

修改krb5文件

修改了KDC服务所在服务器的HOSTNAME，需要将相应的客户端配置修改/etc/krb5.conf文件，内容如下：

[root@cdh01 ~]# vim /etc/krb5.conf
[libdefaults]
default_realm = CLOUDERA.COM
dns_lookup_kdc = false
dns_lookup_realm = false
ticket_lifetime = 86400
renew_lifetime = 604800
forwardable = true
default_tgs_enctypes = aes256-cts-hmac-sha1-96 aes128-cts-hmac-sha1-96 arcfour-hmac-md5
default_tkt_enctypes = aes256-cts-hmac-sha1-96 aes128-cts-hmac-sha1-96 arcfour-hmac-md5
permitted_enctypes = aes256-cts-hmac-sha1-96 aes128-cts-hmac-sha1-96 arcfour-hmac-md5
udp_preference_limit = 1
kdc_timeout = 3000
[realms]
CLOUDERA.COM = {
kdc = cdp1.cloudera.com
admin_server = cdp1.cloudera.com
}
[domain_realm]
.cdp1.cloudera.com = CLOUDERA.COM
cdp1.cloudera.com = CLOUDERA.COM

将/etc/krb5.conf文件同步至集群所有节点

for i in {100..100}; do scp /etc/krb5.conf 10.0.0.$i:/etc/krb5.conf ; done

重启Kerberos的服务

systemctl restart krb5kdc
systemctl restart kadmin
systemctl status krb5kdc
systemctl status kadmin

测试Kerberos服务是否正常

[root@cdp ~]# kinit etl_user
Password for etl_user@CLOUDERA.COM:
[root@cdp ~]# klist

修改CM服务配置并启动

修改Cloudera Manager Server服务的数据库配置

修改CM Server的元数据库信息的配置文件/etc/cloudera-scm-server/db.properties

vim /etc/cloudera-scm-server/db.properties

将com.cloudera.cmf.db.host地址修改为新的HOSTNAME。这里配置的是localhost，因此不需要调整。在大家的环境中，该值基本上不会是localhost。

修改cloudera-scm-agent服务的配置

CM Agent的配置文件是/etc/cloudera-scm-agent/config.ini，需要将所有节点的该配置文件进行调整。

vim /etc/cloudera-scm-agent/config.ini

注意：需要修改集群所有节点上的配置。我这台机器因为做成镜像的原因，server_host设置为localhost,大家的集群该属性都是需要修改的。

启动cloudera-scm-server服务

systemctl start cloudera-scm-server
netstat -apn |grep 7180

启动集群所有节点的cloudera-scm-agent服务

for i in {100..100}; do ssh 10.0.0.$i 'systemctl start cloudera-scm-agent' ; done

修改集群服务配置

登录Cloudera Manager管理界面

修改集群所有服务的数据库配置信息

CM主页→配置→数据库配置

将所有服务的数据库HOSTNAME更改为修改后的HOSTNAME

搜索host，然后将所有修改的host都进行调整，然后保存修改。

保存配置。

修改CM中Kerberos配置信息

CM主页→管理→设置

进入集群设置界面，类别中选择Kerberos，然后搜索host，将所有涉及修改的host都进行调整

将KDC和KADMIN指向的主机host更改为最新的HOSTNAME，并保存配置。

重新生成集群所有服务的Kerberos信息

CM主页→Hosts→进入主机列表界面

全选主机，然后执行重新生成Keytab

点击确认，生成所有的Keytab。生成成功后显示如下：

进入管理→安全→Kerberos凭据界面查看集群所有服务的prinicipal账号信息

在过滤器中进行过滤，过滤条件为新的主机名，查看Principal是否正确

注意：重新生成Keytab时需要确保所有服务都是停止状态，这里旧的prinicipal信息也存在，但不影响集群服务使用，如果你有强迫症就是不想看到这些，可以在KDC数据库中将cm库下的CREDENTIALS表数据删除，然后再重新生成。

启动Cloudera Management Service服务

在CM页面先启动CMS服务。

CMS服务启动成功

进入Konx服务，修改Knox的匹配白名单

进入Hue，修改代理主机

进入Kudu服务

查看Kudu的Master和tserver的日志和数据目录的配置

进入到操作系统，清空对应的master和tserver的日志和数据目录

完成以上配置后，部署客户端配置

点击“部署客户端配置”

启动CDP集群

集群启动成功

集群各个服务状态正常

功能验证

主机名检查

集群的所有节点的HOSTNAME已修改为最新

运行检查所有主机进行主机健康检查

MR任务验证

向集群提交一个MapReduce作业测试集群功能是否正常

[[root@cdp1 zookeeper]#  kinit etl_user
Password for etl_user@CLOUDERA.COM:
[[root@cdp1 zookeeper]# hadoop jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar pi 5 5

作业运行成功

Spark任务验证

向集群提交一个Spark作业验证集群是否正常

[root@cdp1 ~]# klist
[root@cdp1 ~]# spark-submit --class org.apache.spark.examples.SparkPi  --master yarn-client --num-executors 4 --driver-memory 2g  --driver-cores 1 --executor-memory 2g --executor-cores 1  /opt/cloudera/parcels/CDH/lib/spark/examples/jars/spark-examples_2.11-2.4.7.7.1.7.0-551.jar 10

作业运行成功

Hive验证

Beeline测试

Beeline连接

klist
beeline

执行beeline查询

select count(*) from worldwidebank.ww_customers;

Hue测试

Zeppelin测试

Impala测试

Impala-shell测试

Hue测试

通过Knox自动跳转其他组件

通过Knox跳转到其他应用的页面

总结

• 修改CDP集群的HOSTNAME，需要注意修改CM节点的HOSTNAME需要将集群所有AGENT节点执行CM的HOSTNAME配置信息更新。
• MYSQL服务所在节点的HOSTNAME修改，则需要更新集群所有用到MYSQL服务的配置信息。
• 修改了Kerberos服务器的HOSTNAME，需要更新krb5.conf配置并同步到集群的所有节点。
• 群集启用了Kerberos，需要在Cloudra Manager上为所有服务重新生成Keytab信息，重新生成keytab需要停止停止除cloudera-scm-server外的所有服务和组件。如果是使用CM管理的Kerberos，需要关注/etc/krb5.conf文件是否会被重置，建议取消使用CM管理Kerberos。
• 需要将客户端重新进行部署。
• 如果集群中有Kudu，需要先进行Kudu的数据迁移，否则会导致Kudu的数据丢失。
• 如果是使用DNS来管理主机名和IP地址，则也修改在DNS那边进行调整，否则可能会导致Hive的Metastore找到原来的主机名，从而导致服务不可用。
• 主机名修改完成后，需要进行各种验证来保证正常运行。