首页
学习
活动
专区
工具
TVP
发布

Panda诚

专栏成员
77
文章
134228
阅读量
17
订阅数
MySQL全字段读写测试(NIFI 1.15.3)
GEOMETRY POINT LINESTRING POLYGON MULTIPOINT MULTILINESTRING MULTIPOLYGON GEOMETRYCOLLECTION
@阿诚
2022-03-04
1.4K0
MySQL全字段类型概览
MySQL支持多种数据类型:数字类型,日期和时间类型,字符类型,空间类型和JSON类型。
@阿诚
2022-03-04
3K0
Apache NiFi中的JWT身份验证
JSON Web Tokens为众多Web应用程序和框架提供了灵活的身份验证和授权标准。RFC 7519概述了JWT的基本要素,枚举了符合公共声明属性的所需编码,格式和已注册的声明属性名称(payload里属性称为声明)。RFC 7515中的JSON Web签名和RFC 7518中的JSON Web算法描述了JWT的支持标准,其他的比如OAuth 2.0框架的安全标准构建在这些支持标准上,就可以在各种服务中启用授权。
@阿诚
2022-03-04
3.9K0
NIFI流程微信告警
如何不写代码,只利用NIFI的组件,以及免费的资源,实现流程组件报错微信告警的功能?
@阿诚
2021-12-27
1.6K0
使用jolt替换值(1/0->男/女)
现在有一组JSON格式的数据如下,可能因为各种原因吧,其中表示性别的sex字段并没有使用男 女这样直接的值来表达,然后老板说:“我不要1/0,你给我换成我能看得懂的汉字”
@阿诚
2021-12-18
1.7K0
Version 1.14.0的重大功能更新
Apache NiFi 1.14.0 版是一个增加了重要的功能、改进和bug修复的版本,发布日期2021年7月14日。
@阿诚
2021-08-20
1.3K0
基于日志的Oracle实时同步的实现- Oracle环境准备
一般来说以上都默认包含LogMiner分析包,无需再安装 。如果不能确认,可以 DBA 身份登录系统,查看系统中是否存在运行 LogMiner 所需要的 dbms_logmnr、 dbms_logmnr_d 包,如果没有需要安装 LogMiner 工具,必须首先要运行下面这样两个脚本:ORACLE_HOME/rdbms/admin/dbmslm.sql ORACLE_HOME/rdbms/admin/dbmslmd.sql 。这两个脚本必须均以 DBA 用户身份运行。
@阿诚
2021-07-23
2.4K0
Mac下使用Docker安装Oracle
最近需要用到oracle(Oracle 实时采集),但是本地又是Mac系统,所以想起来在本地使用Docker安装Oracle。
@阿诚
2021-07-23
1.6K0
基于Oracle LogMiner的实时采集一、Logminer简介及使用
Oracle LogMiner 是 Oracle 公司从产品 8i 以后提供的一个实际非常有用的分析工具,使用该工具可以轻松获得 Oracle 在线/归档日志文件中的具体内容,特别是该工具可以分析出所有对于数据库操作的 DML 和 DDL 语句。该工具特别适用于调试、审计或者回退某个特定的事务。LogMiner 分析工具实际上是由一组 PL/SQL 包和一些动态视图( Oracle8i 内置包的一部分)组成,它作为 Oracle 数据库的一部分来发布是 8i 产品提供的一个完全免费的工具。但该工具和其他 Oracle 内建工具相比使用起来显得有些复杂,主要原因是该工具没有提供任何的图形用户界面( GUI)。
@阿诚
2021-07-23
2.9K0
FlowFile存储库原理
系统正在积极处理的FlowFiles保存在JVM内存中的Hash Map中。这使它们的处理效率非常高,但是由于多种原因,例如断电,内核崩溃,系统升级和维护周期,因此需要一种辅助机制来在整个进程重新启动中提供数据的持久性。FlowFile存储库是系统中当前存在的每个FlowFiles的元数据的Write-Ahead Log(或数据记录)。该FlowFile元数据包括与FlowFile相关联的所有attributes,指向FlowFile实际内容的指针(该内容存在于内容存储库中)以及FlowFile的状态,例如FlowFile所属的Connection/Queue。预写日志为NiFi提供了处理重启和意外系统故障所需的弹性。
@阿诚
2021-03-08
1.2K0
Provenance存储库原理
在Provenance存储库中存储每个FlowFile的历史记录。此历史记录用于提供每个数据的数据沿袭(也称为产销监管链)。每次为FlowFile发生事件(创建,分叉,克隆,修改FlowFile等)时,都会创建一个新的Provenance事件。这个出处事件是流文件的快照,因为它看起来就是在那个时间点存在的流。创建Provenance事件后,它将复制所有FlowFile的属性和指向FlowFile内容的指针,并将其与FlowFile的状态(例如其与其他出处事件的关系)聚合到Provenance存储库里。该快照将不会更改,直到过期。根据“nifi.properties”文件中的指定,Provenance存储库将在完成后的一段时间内保留所有这些来源事件。
@阿诚
2021-03-08
9500
Apache NIFI v1.13.0发布了
回顾2020年,Apache NIFI一共发布了7个版本1.12.1、1.12.0、1.11.4、1.11.3、1.11.2、1.11.1、1.11.0。版本发布之频繁前所未有,可以看出NIFI的开源社区贡献力量壮大了许多,同时也更加期待NIFI未来能够给我们带来更多的惊喜。
@阿诚
2021-03-07
7590
Apache NiFi的 Write-Ahead Log 实现
NiFi使用预写日志来跟踪FlowFiles(即数据记录)在系统中流动时的变化。该预写日志跟踪FlowFiles本身的更改,例如FlowFile的属性(组成元数据的键/值对)及其状态,再比如FlowFile所属的Connection /Queue。
@阿诚
2021-03-07
1.2K0
内容存储库原理
内容存储库就是本地存储所有FlowFiles内容的地方,通常是三个存储库中最大的。该存储库利用不变性和写时复制来最大提升读写速度和保证线程安全性。Content Repo的核心设计是将FlowFile的内容保存在磁盘上,并仅在需要时才将其读入JVM内存。这使NiFi可以处理大量小的对象,而无需生产者和消费者处理器将完整的对象保存在内存中。因此,在不损害内存的情况下,非常容易执行诸如拆分,聚合和转换非常大的对象之类的操作。
@阿诚
2021-03-07
8090
Apache NIFI 架构
流量控制器是操作的大脑。它为运行扩展提供线程,并管理扩展何时接收要执行的资源的时间表。
@阿诚
2021-03-07
1.1K0
打印Java对象头
这部分主要用来存储对象自身的运行时数据,如hashcode、gc分代年龄等。mark word的位长度为JVM的一个Word大小,也就是说32位JVM的Mark word为32位,64位JVM为64位。 为了让一个字大小存储更多的信息,JVM将字的最低两个位设置为标记位,不同标记位下的Mark Word示意如下:
@阿诚
2021-02-04
2.5K0
深入了解Java锁
继 打印Java对象头,我们再深入探索一下Java锁。无锁状态我们就不说了,下面我们一一打印偏向锁、轻量锁,重量锁的对象头。
@阿诚
2021-02-04
4320
偏向锁批量重偏向与批量撤销
批量重偏向:当一个线程创建了大量对象并执行了初始的同步操作,后来另一个线程也来将这些对象作为锁对象进行操作,会导偏向锁重偏向的操作。 批量撤销:在多线程竞争剧烈的情况下,使用偏向锁将会降低效率,于是乎产生了批量撤销机制。 JVM的默认参数值: intx BiasedLockingBulkRebiasThreshold = 20 默认偏向锁批量重偏向阈值 intx BiasedLockingBulkRevokeThreshold = 40 默认偏向锁批量撤销阈值 批量重偏向 测试代码: pu
@阿诚
2021-02-04
1.4K0
为什么建议使用NIFI里的Record
许多第一次接触使用NIFI的同学在同步关系型数据库的某一张表的时候,可能会拖拽出类似于下面的一个流程。
@阿诚
2020-11-25
1.7K0
数据抽取的常见理论方法
数据抽取是指从源数据源系统抽取需要的数据。实际应用中,数据源较多采用的是关系数据库。总体而言,数据抽取的常见方法有两大类,一是基于查询式的,一是基于日志的。
@阿诚
2020-09-15
1.6K0
点击加载更多
社区活动
【纪录片】中国数据库前世今生
穿越半个世纪,探寻中国数据库50年的发展历程
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档