首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Flink 利器:开源平台 StreamX 简介

StreamX 简介 StreamX 是 Flink & Spark 极速开发脚手架,开源的流批一体一站式大数据平台。...自2021年3月起开源,提供了一系列开箱即用的 Conncetor,标准化了配置、开发、测试、部署、监控、运维的整个过程, 提供 scala 和 java 两套api, 其最终目的是打造一个一站式大数据平台...可以理解为是一个开源版本、简化版的阿里云实时计算 Flink 版或腾讯云流计算 Oceanus 平台。...支持任务备份、回滚(配置回滚) 在线管理依赖(maven pom)和自定义jar 自定义udf、连接器等支持 Flink SQL WebIDE 支持catalog、hive 任务运行失败发送告警邮件...支持失败重启重试 从任务开发阶段到部署管理全链路支持 ...

6.2K60

基于 netcore 开源管理平台

介绍DM 是一个完全开源的项目,源代码全部托管在 Gitee 上,项目源码和核心插件源码放在 https://gitee.com/xiaomagenb/dlvmDM 优势dm 基于插件化架构,在建设系统时...使用 DM 可以快速开发出各类信息化管理系统,例如 OA 办公系统、项目管理系统、商城系统、供应链系统、客户关系管理系统、微信公众平台管理系统、小程序管理后台,同时可开发移动程序服务端.功能列表1....用户管理3. 职位管理4. 机构管理5. 应用管理6. 角色管理7. 菜单管理8. 资源查看9. 系统配置10. 字典管理11. 在线用户12. 定时任务13. 文件管理14. 多数据源15....通知管理18.SQL 监控19. 服务器信息20. 持续更新..DM 部分功能截图

82920
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    基于 netcore 开源管理平台

    介绍DM 是一个完全开源的项目,源代码全部托管在 Gitee 上,项目源码和核心插件源码放在 ​ ​https://gitee.com/xiaomagenb/dlvm​​DM 优势dm 基于插件化架构,...使用 DM 可以快速开发出各类信息化管理系统,例如 OA 办公系统、项目管理系统、商城系统、供应链系统、客户关系管理系统、微信公众平台管理系统、小程序管理后台,同时可开发移动程序服务端.功能列表1....用户管理3. 职位管理4. 机构管理5. 应用管理6. 角色管理7. 菜单管理8. 资源查看9. 系统配置10. 字典管理11. 在线用户12. 定时任务13. 文件管理14. 多数据源15....通知管理18.SQL 监控19. 服务器信息20. 持续更新..DM 部分功能截图图片图片图片

    67310

    Doris + Flink + DolphinScheduler + Dinky 构建开源数据平台

    + DolphinScheduler + Dinky 构建开源数据平台。...本次分享将介绍如何运用 Doris + Flink + DolphinScheduler + Dinky 四个开源项目来构建一个基本的数据平台,并支持离线、实时、OLAP 三种技术需求。...二、开源数据平台思路 本章节主要讲述数据平台搭建所用的开源项目介绍以及设计思路。 技术介绍 Apache Doris 首先要运用到的是 Apache Doris。...开源数据平台的设计思路是通过 Flink SQL Batch 以及 Doris SQL 的能力实现一个离线任务的开发;使用 DolphinScheduler 进行离线工作流编排和调度;通过 Flink...统一元数据管理:需要统一的元数据中心来管理外部数据源元数据,使其可以自动同步数据库物理模型与平台逻辑模型之间的结构,增强平台一站式的开发能力。

    11.9K76

    DLVM 开源平台管理框架

    介绍DM 是一个完全开源的项目,源代码全部托管在 Gitee 上,项目源码和核心插件源码放在 https://gitee.com/xiaomagenb/dlvmDM 优势dm 基于插件化架构,在建设系统时...使用 DM 可以快速开发出各类信息化管理系统,例如 OA 办公系统、项目管理系统、商城系统、供应链系统、客户关系管理系统、微信公众平台管理系统、小程序管理后台,同时可开发移动程序服务端.功能列表1....用户管理3. 职位管理4. 机构管理5. 应用管理6. 角色管理7. 菜单管理8. 资源查看9. 系统配置10. 字典管理11. 在线用户12. 定时任务13. 文件管理14. 多数据源15....通知管理18.SQL 监控19. 服务器信息20. 持续更新..DM 部分功能截图图片图片图片图片

    77540

    开源任务管理平台TaskManager介绍

    从本篇开始将带你实现一款自己的任务管理平台。在工作中你曾经需要应用执行一个任务吗?这个任务每天或每周星期二晚上11:30,或许仅仅每个月的最后一天执行。...开源TaskManager介绍及实现原理    TaskManager是基于Quartz.NET的一款开源任务管理系统,使用Window服务来承载。...来看一下邮件提醒效果,有没有很激动,很想使用这个开源TaskManager平台啦! ?    ...由于是使用Windows服务做为承载器,那么我们只需要知道怎么安装Windows服务,也就能使用该平台了。...1.右键以管理员方式运行Windows安装卸载工具   2.选择TaskManger.exe-》安装-》运行 ?  运行成功以后可以在系统管理-》服务 里面找到“定时任务管服务” ?

    2.5K90

    Flink状态管理

    Hi~朋友,关注置顶防止错过消息 什么是有状态的计算 使用状态的场景 为什么需要状态管理 理想状态管理的特点 Flink状态分类 Managed State分类 Keyed Stated特点 Operator...流式作业一般需要7*24小时不间断的运行,在宕机恢复时需要保证数据不丢失,在计算时要保证计算结果准确,数据不重复,恰好计算1次,为了达到上述这些目的,我们就需要对 程序运行过程中的状态进行管理。...可靠:状态需要可以被持久化,保证宕机后可以恢复 Flink状态分类 Managed State RawState 状态管理方式 Flink Runtime自动管理:自动存储、自动恢复、内存优化 用户自己管理...如果从Checkpoint进行恢复,需要保证数据源支持重发,同时Flink提供了两种一致性语义(恰好一次或者至少一次)。...Flink自动触发管理 用户手动触发管理 用途 Task发生异常时快速恢复 有计划地进行备份,作业停止后可以恢复,比如修改代码、调整并发 特点 轻量;自动从故障恢复;作业停止后默认清除 持久;标准格式存储

    85330

    Flink 状态管理

    二、状态编程 2.1 键控状态 Flink 提供了以下数据格式来管理和存储键控状态 (Keyed State): ValueState:存储单值类型的状态。...:savepoints 四、状态后端 4.1 状态管理器分类 默认情况下,所有的状态都存储在 JVM 的堆内存中,在状态数据过多的情况下,这种方式很有可能导致内存溢出,因此 Flink 该提供了其它方式来存储状态数据...,这些存储方式统一称为状态后端 (或状态管理器): 主要有以下三种: 1....RocksDBStateBackend RocksDBStateBackend 是 Flink 内置的第三方状态管理器,采用嵌入式的 key-value 型数据库 RocksDB 来存储正在进行的数据。...4.2 配置方式 Flink 支持使用两种方式来配置后端管理器: 第一种方式:基于代码方式进行配置,只对当前作业生效: // 配置 FsStateBackend env.setStateBackend(

    47220

    开源认证授权管理平台Keycloak初体验

    realm是管理用户和对应应用的空间,有点租户的味道,可以让不同realm之间保持逻辑隔离的能力。...默认情况下,Keycloack提供了一个叫Master的realm,这个Master不承担具体应用和用户的管理,它只用来管理其它realm的生命周期。 ?...Master域的管理职能示意图 登入Master的realm创建一个自定义域felord.cn。 ? 创建自定义域 User User是能够登录到应用系统的实体,其实可以理解为账户。...接下来在我上面的自定义域felord.cn中新建一个用户,步骤为: 菜单栏找到管理->用户,然后打开添加用户。 键入唯一的必填项用户名(username)。...client adapters Keycloack为了支持多语言和跨平台而设计的适配器,比如适配Java的、适配Python的。有些是内置的实现,有些需要我们按照Keycloack的抽象定义来实现。

    4.8K30

    滴滴开源敏捷测试用例管理平台

    简介 AgileTC是一套敏捷的测试用例管理平台,具备与xmind等脑图工具一致的操作体验。支持测试用例管理、执行计划管理、进度计算、多人实时协同等能力,方便测试人员对用例和测试过程进行管理。...产品可以独立使用,也支持以组件化方式嵌入项目管理平台,配合项目管理使用。...最终由三个平台组成:脑图编辑平台、用例集管理平台和测试任务管理平台。以下主要介绍脑图编辑平台。...部分脑图基本绘制和布局能力借鉴了百度开源kity的能力。...项目地址 项目地址:https://github.com/didi/AgileTC 原文始发于微信公众号(全栈程序员社区):滴滴开源敏捷测试用例管理平台

    1.6K20

    宜信开源|漏洞管理平台『洞察』部署指南

    『洞察』是宜信安全部开发,集成应用系统资产管理、漏洞全生命周期管理、安全知识库管理三位一体的管理平台。 『洞察』使用了Python语言进行开发,利用Flask框架+MySQL+Docker部署实现。...CORP_MAIL = '@qq.com' 2)修改邮件CC抄送列表 #平台发送的每封邮件的邮件抄送列表,可以设置发送给安全部邮箱列表,可自行修改,也可以保持不变为空     '''     示例:     ...下面配置在泊坞窗容器中进行,进入搬运工容器命令: # docker exec -it open_source_srcpm bash # cd srcpm 数据库初始化详细配置 1)创建数据库表,添加超级管理员账号...,并设置角色 角色分为: 安全管理员 安全人员 普通用户 增加角色页面URL:http://127.0.0.1:9000/srcpm/admin/ role_add 并将【普通用户】设置为默认角色。...GitHub开源地址:https://github.com/creditease-sec/insight 内容来源:宜信技术学院

    2.1K30

    开源视频联动物联网平台】产品管理

    设备类型:设备类型分为直连设备、网关、子设备3类,详情如下: 直连设备:此类设备可直接接入物联网开发平台且无挂载子设备。 网关:此类设备可直接接入物联网开发平台,并且可接受子设备加入局域网络。...子设备:此类设备必须依托网关设备才可与物联网开发平台进行通信,例如 Zigbee、蓝牙、Modbus等设备。 认证方式:物联网开发平台提供两种认证方式用于设备与平台之间鉴权认证。...证书认证:在创建设备时,平台将为设备生成一个证书文件和一个私钥文件,实现设备与云之间的双向认证。 密钥认证:在创建设备时,使用平台为设备随机生成的 PSK。...设备初始信息上报:设备连接平台时上报的初始信息,便于平台展示设备详细信息,如设备 MAC 地址、IMEI 号。...子设备管理 子设备身份注册后,需由网关向物联网平台上报网关与子设备的拓扑关系,然后进行子设备上线。 子设备上线过程中,物联网平台会校验子设备的身份和与网关的拓扑关系。

    10610

    开源视频联动物联网平台】设备管理

    使用场景 在成功创建物联网开发平台的设备后,您可以在控制台中进行设备信息的管理和查看。在这里,您可以获取详细的设备信息,包括设备类型、设备标识、连接状态等,从而更好地了解和控制您的设备。...功能介绍 设备概览 单击设备管理,进入设备管理页,您可以进行以下操作: 查看某个产品下的设备信息:在页面上方下拉菜单中选择某个产品。您可查看设备当前状态: 未激活:设备未接入物联网开发平台。...您可下载设备 SDK 进行设备开发,将设备接入物联网平台进行激活。 在线:设备已激活,与物联网开发平台成功连接。 离线:设备已激活,与物联网开发平台断开连接。...激活时间:设备第一次连接开发平台的时间。 最后上线时间:设备最后一次连接开发平台的时间。...查看设备行为:选择物模型日志,单击行为即可查看该设备的行为信息,具体包括: 行为的定义:在物模型中定义管理

    8610
    领券