(代表客户提交)
..
我们正在使用kubernetes上的kafka连接集群(头盔图表)。
然而,要安装插件,建议扩展与本地连接器提供的“cp连接基”映像。这里的更多说明:https://docs.confluent.io/current/connect/managing/extending.html#create-a-docker-image-containing-local-connectors
我无法这样做与雪花卡夫卡连接器。
有推荐的工作场所吗?
P.S.:
对于PoC,我在本地机器上运行了kafka connector,并在插件目录中添加了雪花-kafka-连接器jar文件,运行良好。但是需要这个码头映像来进行生产部署。
发布于 2019-10-18 06:34:35
您是否尝试过用Docker安装外部卷并映射存储雪花连接器jar的这个位置:https://docs.confluent.io/current/installation/docker/operations/external-volumes.html#
例如:
导航到~/cp-docker-映像/示例/cp-所有一体
在文本编辑器中打开docker-compose.yml
将最后一行(如下)添加到文件中,并保存
connect:
image: confluentinc/kafka-connect-datagen:latest
build:
context: .
dockerfile: Dockerfile
hostname: connect
container_name: connect
depends_on:
- zookeeper
- broker
- schema-registry
ports:
- "8083:8083"
volumes:
- ~/my-location:/etc/kafka-connect/jar
并修改连接插件路径以读取类似的内容;
CONNECT_PLUGIN_PATH: "/usr/share/java,/usr/share/confluent-hub-components,/etc/kafka-connect/jars"
卷:将本地目录映射到Docker中的逻辑文件系统位置。因此,当它启动时,它可以通过映射/etc/kafka-connect/jars从我的Mac上的~/ my -位置(或您在这里放置的任何内容)读取。
连接插件路径:和您可以看到,我们只是添加了/etc/ Kafka -连接/jars作为一个已知的位置,然后为卡夫卡连接寻找新的连接器加载使用。
希望这能有所帮助。
发布于 2019-11-21 13:38:50
除了Mike关于将连接器安装为外部卷的建议外,我还建议考虑两个额外的选项。
构建自定义映像
使用confluent-hub
,您可以将连接器安装到新映像中。例如:
FROM confluentinc/cp-kafka-connect-base
RUN echo "===> Installing Snowflake Connector ..."
RUN confluent-hub install --no-prompt snowflakeinc/snowflake-kafka-connector:0.5.5
在运行时安装连接器
如果您使用的是Docker,您可以构造一个command
段落来在运行时安装连接器:
command:
- bash
- -c
- |
echo "Installing connector plugins"
confluent-hub install --no-prompt snowflakeinc/snowflake-kafka-connector:0.5.5
#
echo "Launching Kafka Connect worker"
/etc/confluent/docker/run &
#
sleep infinity
有关更多详细信息,请参阅这里。
https://stackoverflow.com/questions/58327092
复制相似问题