首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >为雪花-卡夫卡连接器和cp连接基构建一个组合式对接映像,以便部署在kafka连接集群上。

为雪花-卡夫卡连接器和cp连接基构建一个组合式对接映像,以便部署在kafka连接集群上。
EN

Stack Overflow用户
提问于 2019-10-10 16:10:12
回答 2查看 1.5K关注 0票数 1

(代表客户提交)

..

我们正在使用kubernetes上的kafka连接集群(头盔图表)。

然而,要安装插件,建议扩展与本地连接器提供的“cp连接基”映像。这里的更多说明:https://docs.confluent.io/current/connect/managing/extending.html#create-a-docker-image-containing-local-connectors

我无法这样做与雪花卡夫卡连接器。

有推荐的工作场所吗?

P.S.:

对于PoC,我在本地机器上运行了kafka connector,并在插件目录中添加了雪花-kafka-连接器jar文件,运行良好。但是需要这个码头映像来进行生产部署。

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2019-10-18 06:34:35

您是否尝试过用Docker安装外部卷并映射存储雪花连接器jar的这个位置:https://docs.confluent.io/current/installation/docker/operations/external-volumes.html#

例如:

导航到~/cp-docker-映像/示例/cp-所有一体

在文本编辑器中打开docker-compose.yml

将最后一行(如下)添加到文件中,并保存

代码语言:javascript
运行
复制
  connect:
    image: confluentinc/kafka-connect-datagen:latest
    build:
      context: .
      dockerfile: Dockerfile
    hostname: connect
    container_name: connect
    depends_on:
      - zookeeper
      - broker
      - schema-registry
    ports:
      - "8083:8083"
    volumes:
      - ~/my-location:/etc/kafka-connect/jar

并修改连接插件路径以读取类似的内容;

代码语言:javascript
运行
复制
 CONNECT_PLUGIN_PATH: "/usr/share/java,/usr/share/confluent-hub-components,/etc/kafka-connect/jars"

卷:将本地目录映射到Docker中的逻辑文件系统位置。因此,当它启动时,它可以通过映射/etc/kafka-connect/jars从我的Mac上的~/ my -位置(或您在这里放置的任何内容)读取。

连接插件路径:和您可以看到,我们只是添加了/etc/ Kafka -连接/jars作为一个已知的位置,然后为卡夫卡连接寻找新的连接器加载使用。

希望这能有所帮助。

票数 3
EN

Stack Overflow用户

发布于 2019-11-21 13:38:50

除了Mike关于将连接器安装为外部卷的建议外,我还建议考虑两个额外的选项。

构建自定义映像

使用confluent-hub,您可以将连接器安装到新映像中。例如:

代码语言:javascript
运行
复制
FROM confluentinc/cp-kafka-connect-base

RUN echo "===> Installing Snowflake Connector ..."
RUN confluent-hub install --no-prompt snowflakeinc/snowflake-kafka-connector:0.5.5

在运行时安装连接器

如果您使用的是Docker,您可以构造一个command段落来在运行时安装连接器:

代码语言:javascript
运行
复制
    command: 
      - bash 
      - -c 
      - |
        echo "Installing connector plugins"
        confluent-hub install --no-prompt snowflakeinc/snowflake-kafka-connector:0.5.5
        #
        echo "Launching Kafka Connect worker"
        /etc/confluent/docker/run & 
        #
        sleep infinity

有关更多详细信息,请参阅这里

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/58327092

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档