首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

周期生命周期管理

这是学习笔记第 2085 篇文章 对于周期生命周期管理,一直以来是一个不被重视环节,听起来有些拗口,所谓周期就是类似日表分区那样数据,在MySQL中我们和业务方算是达成了共识,把需求引导过来后...建需求是一种第风险操作,而删除则是高风险操作,所以在处理方式上两者方式就有很大差别,比如创建周期,我们可以提前一两周就预创建1个月~3个月周期。...创建工作相对可控,但是删除操作就麻烦了,我们需要谨慎处理,为了保证drop操作可控和可回溯,我们设置了回收站处理方式,即一个数据库会对应一个arch命名归档库,当我们要删除周期时,可以把要删除...第二阶段是清理,做drop操作,在arch归档库开始删除操作,删除频率不宜过于频繁。 ? 在开始阶段,我们需要做就是根据逻辑去提取过期周期。...一般来说在清理过程中,我们需要增加一系列校验规则,比如对周期属性进行检查,确保操作完全可靠,可控。

90830

MySQL周期管理设计

这是学习笔记第 2038 篇文章 关于MySQL周期管理,近期做了初步设计,总体上是希望把周期管理和业务同学对接起来,实现流程化管理。...对于周期数据管理,能够实现数据批量管理,也可以对接到大数据中实现数据分析,并通过巡检任务对接,让整个流程动起来。 ?...对于整体设计方面,需要开发后端API,API列表如下: 周期表列表 周期创建 周期属性变更 周期批量变更接口 周期数据清理接口 巡检任务 大数据提取接口 即时通讯提醒接口 对于模型设计是重中之重...,也能够决定我们周期管理存储设计优劣。...模型方面考虑了如下一些: Mysql_dailytable 周期 Mysql_cycle_table_manage_log 周期维护日志(包含配置创建,属性修改) Mysql_cycle_table_ddl_log

1.8K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    周期清理逻辑设计

    这是学习笔记第 2065 篇文章 今天做了下周期清理设计,从实践效果来看还不错。现在线上环境有差不多50多个周期要统一管理,随着这个管理规模扩大,对于生命周期管理也迫在眉睫。...有一套环境有6000多张,其实按照保留周期需要只有800多个,剩下过期周期都应该删除。...整个周期清理逻辑做了下面的设计: 1.以API方式设计 参数设计: ip_addr db_port Start_time End_time Table_schema Table_name Code...: cycle_table_list 2.根据配置中保留信息得到过期列表 存在不连续周期,如果是20190101,20190103这样不连续周期,需要保证程序健壮性 更早周期,如果我们扫描周期是近...2个月,2个月之前过期周期也应该被覆盖 3.检查归档数据库是否存在 归档数据库是整个设计核心,即数据不是直接drop,而是做了转储。

    46510

    当DevOps“遇上”周期

    搜索“DevOps”,出来是茫茫多信息,最奇怪现象是明明2009年才提出名词,却有人号称有十年以上DevOps经验。那小编只好来扒一扒关于DevOps那些事。...DevOps Engineer(DevOps工程师)根据开发人员需求构建各种工具,提高开发速度与品质,解决开发人员后顾之忧。...在DevOps 2015研讨会上,有人鉴于数量繁多DevOps工具,仿照元素周期制作出了一张DevOps周期。划分了数据库、CI、日志、安全、监控、配置管理、云服务等15个大类,120个工具。...DevOps 2015研讨会上DevOps周期 掌握了以上图片里这些工具,或许你就是一名合格全栈工程师。...但个人认为,不要沉迷于工具带来便利,大多数DevOps工具都是自动化工具,用任意script语言一样能写出同样效果,重要是完全理解了这些工具背后设计理念和使用时机。

    1.1K60

    CISO元素周期

    我在会上看到了一些有趣东西,逐渐分享给大家,比如接下来要说到CISO元素周期,里面提到了诸多CISO需要关注重点。笔者将其翻译了过来,再加上自己理解,写成这篇文章,供大家娱乐和拍砖。...大会厂商将CISO需要考虑安全要素汇总提炼,总结成为下面的CISO元素周期,在下面的篇幅中,我将对逐个要素做以解释。...Cm (Configuration Management) 配置管理 随着软件系统日益复杂化和用户需求、软件更新频繁化,配置管理逐渐成为软件生命周期重要控制过程,在软件开发过程中扮演着越来越来重要角色...Dso (DevSecOps) “DevSecOps”,一种全新安全理念与模式,从DecOps概念延伸和演变而来,其核心理念为安全是整个IT团队(包括开发、运维及安全团队)每个人责任,需要贯穿从开发到运营整个业务生命周期每一个环节...St (Stuffing) 员工:没人啥事都落不了地 Te (Technology) 技术:技术是工具 Oz (Optimization) 优化:好好优化,天天向上 以上是我们对安全总监元素周期翻译和粗浅理解

    69230

    函数周期丨NATURALINNERJOIN

    NATURALINNERJOIN这个函数可以通过内部联接,返回两个共有列重合部分,也就是交集,但是不同之处在于会将两个其他列也添加到新中。 微软将其划分到”函数“中。...语法 DAX=NATURALINNERJOIN(, ) 参数 左右:可以是表达式,也可以是物理。 返回结果 左右共有列重合部分,以及其他列组成。...注意 1、@高飞老师在论坛上曾说,这个函数使用分为有模型关系和无模型关系两种情况。 无关系情况下,两个共有列需要同样列名; 有关系情况下,两个共有列列名不能重复。...,可以看到A和C有很明显格式区别。...) 结果如下: [ed222a9af4688e0bf38c21b0d2f9764e.png] 返回两个重合列以及其他列组成

    35620

    函数周期丨INTERSECT

    INTERSECT函数 INTERSECT英文含义是“相交、交叉”。 因此从名称就能看出来这个函数用途:取两个交叉部分,即交集。 这个函数与白茶之前说EXCEPT函数作用正好相反。...此函数被微软划分为“函数”中。 用途:取两个交集。 语法 DAX=INTERSECT(, ) 参数 :物理,也可以是表达式。 返回结果 整张1在2中出现过行。...注意 1.1和2顺序,顺序不同返回结果也不同; 2.两个必须具有相同列数; 3.返回列名与第一参数相匹配; 4.若重复行12都出现,则不删除重复项。...例子 模拟数据: 这是白茶随机模拟数据,比较简单,一共是三张。 例子1: 例子1 = INTERSECT ( 'A', 'B' ) 结果: 返回B中存在A、C、D,列名承袭A。...例子2: 例子2 = INTERSECT ( 'B', 'A' ) 结果: 返回A中存在A、C、D,列名承袭B。

    62920

    函数周期丨EXCEPT

    因此从名称就能看出来这个函数用途:返回不在一个另一个数据。 此函数被微软划分为“函数”中。 用途:可以用来排查两个交集之外数据。...应用案例传送门:《新增客户》 语法 DAX=EXCEPT(, ) 参数 :物理,也可以是表达式。 返回结果 整张。内容为第一参数中表行,去掉第二参数表行所剩余行。...注意 1.1和2顺序,顺序不同返回结果也不同; 2.两个必须具有相同列数; 3.返回列名与第一参数相匹配。...例子1: 例子1 = EXCEPT ( 'A', 'B' ) 结果: [b3091c08c551739886524d37912357f5.png] 返回结果为B中不存在E、F、G三行,注意看名称...例子2: 例子2 = EXCEPT ( 'B', 'A' ) 结果: [5af9ab366bd209f75bdee283fefd435a.png] 返回结果为A中不存在甲、乙、丙、丁四行,列名承袭第一参数表

    55620

    函数周期丨时间丨丨CALENDAR

    [1240] CALENDAR函数 语法= CALENDAR(,) CALENDAR函数,属于常用函数”之一,一般用于生成日期维度。也可以用来构建虚拟日期进行计算。...返回结果 一个具有单个“日期列”,这个日期列包含开始与结束日期。并且是连续不间断,比如一月份实际销售是27天,利用这个函数生成日期列是31天。连续、不间断、不挂挡。...应用例子 例子1:下面这个代码返回一个从2019年12月1日到2019年12月15日,连续15天函数,日期列有15行,连续不间断15天。...白茶之前生成两个,一个是12月1日到15日,一个是11月1日到15日,取最小值最大值,CALENDAR函数生成一个从11月1日到12月15日连续45天日期列。...白茶会不定期分享一些函数基本用法。 (文件在PowerBI丨需求圈知识星球) [1240] 这里是白茶,一个PowerBI初学者。[1240]

    39400

    函数周期丨筛选丨丨ALLSELECTED

    [1240] ALLSELECTED函数 ALLSELECTED函数,被微软划分为“筛选”类函数,隶属于“函数”。其用途,常常是用来计算或者显示明面上筛选影响,而忽略其行上下文影响。...语法 DAX= ALLSELECTED([ | [, [, [,…]]]] ) 参数 :(可选项)不能是表达式,现有名称。...列:(可选项可重复)不能是表达式,现有列名称。 注意:要么是,要么是列;如果是多列,必须在同一中。返回结果 不带任何列或行上下文上下文。...例子3,没有关系维度筛选生效: 维度 = DATESBETWEEN ( '例子'[坐标轴], DATE ( 2020, 1, 4 ), DATE ( 2020, 1, 8 ) ) 随机生成一个维度,...ALLSELECTED例子3 = CALCULATE ( SUM ( '例子'[数据] ), FILTER ( '例子', '例子'[坐标轴] IN ALLSELECTED ( '维度'

    1K00

    函数周期丨筛选丨丨SUBSTITUTEWITHINDEX

    也可以指被添加索引。...索引列名:为即将添加索引列命名。 参照表:与主表有关系参考,通常指的是维度。 参照表[列]:与主表所共有的列,通常是模型关系中一端。 排序:调整索引列排序方式。DESC/ASC。...现在假定事实没有相关索引列,但是我们做出来维度要索引,该怎么进行呢?...INDEX虚拟中,提取BA一列,去掉重复项,作为维度参考。 最后,利用SUBSTITUTEWITHINDEX函数,替换掉了两个虚拟共有列[商品],输出结果为[品名列]和[索引列]。...这样的话我们就绕过PQ,不需要去PQ编辑界面添加索引,仅在DAX中完成了维度提取,添加索引操作。 例子2: 将我们刚才生成维度与事实建立联系。

    55240

    函数周期丨其他丨丨DATATABLE

    DATATABLE函数 DATATABLE函数属于“其他”函数,隶属于函数。 可能从名称上看,小伙伴差不多能猜到这个函数用途,其作用有点类似于其他编程语言中创建语法,可以添加新数据。...原因: 1.直接利用EXCEL添加数据源方式操作简单; 2.也可以直接利用界面上新表功能直接添加; 3.会M语言小伙伴可以在PQ中直接处理数据。...参数 列名:顾名思义,这一列名称。 类型: 对应列数据格式。有这几种选项:INTEGER、DOUBLE、STRING、BOOLEAN、CURRENCY、DATETIME。...值:每一列所对应数据。 返回结果 新。...白茶会不定期分享一些函数卡片 (文件在知识星球[PowerBI丨需求圈]) 这里是白茶,一个PowerBI初学者。

    34740

    函数周期丨筛选丨丨ADDMISSINGITEMS

    可能白茶对这一部分函数整理比较慢,希望小伙伴们多多体谅。 ADDMISSGITEMS函数被微软划分到“筛选器”这一大类之中,隶属于“函数”。...语法 DAX= ADDMISSINGITEMS([,…],,[,…], [筛选条件]) 参数 展示列:(可选,可重复)需要展示出来列。 汇总表:经过筛选处理之后。...筛选条件:(可选,可重复)定义筛选条件函数表达式。 返回结果 经过分组处理,一部分为筛选计算之后“可见项”; 一部分为不符合条件“缺失项”。...,是一张经过筛选之后,销售数据小于等于115,且与日期列搭配显示。...函数能更直接一些,可以通过筛选和计算直接显示可见项,但是结果上不太灵活; 3、FILTER函数偏向于筛选类,可以直接筛选,可以与CALCULATE函数搭配计算,但是又比较复杂。

    87300

    函数周期丨筛选丨丨ALL

    [1240] ALL函数 ALL函数隶属于“函数”,被微软划分为“筛选”类函数之中。...其实白茶觉得部分函数微软划分有点模糊,比如本期ALL函数,虽然可以单独使用,但是其更主要作用是作为中间函数使用。 主要用途:用来清除外部筛选器。...语法 DAX= ALL( [ | [, [, [,…]]]] ) 参数 参数:可以是一个;可以是一列或者多列。 返回结果 或列。...例子 模拟数据: [1240] 这是白茶随机模拟一份数据。 例子1: ALL例子1 = ALL ( '例子' ) 结果: [1240] 单纯ALL整个,不与其他函数搭配使用,相当于整体复制。...ALL函数使用方式还有很多,比如白茶之前写过组内占比,各类排名等等。 白茶会不定期分享一些函数卡片哦。

    76000

    函数周期丨时间丨丨CALENDARAUTO

    [1240] CALENDARAUTO函数 语法= CALENDARAUTO([参数]) CALENDARAUTO函数,属于常用“函数”之一。一般用于生成日期维度,用途与CALENDAR差不多。...返回结果 一个具有日期列,并且是连续不断。相对于CALENDAR函数,它返回范围比较广。...如果数据包含多个日期维度,推荐使用这个函数,它会检测所有的数据模型,生成一个涵盖所有日期范围日期。 应用例子 例子1:数据如下。 [1240] 导入到PowerBI中。...比如输入参数2,那么开始日期就是3月1日,不要2月份之前以及2月份数据。通常情况下,参数我们使用很少,一般默认不填就可以了。 那我要是有多个呢? 例子4:数据如下。...生成一个涵盖所有日期范围日期。 最后一个问题,这个函数可以没有数据情况下使用么? 例子5:输入代码。

    82700

    函数周期丨筛选丨丨CALCULATETABLE

    [1240] CALCULATETABLE函数 CALCULATETABLE函数属于“筛选”类函数,隶属于“函数”。...某种意义上来说,CALCULATETABLE函数其实就是CALCULATE函数函数模式。 其核心点都是一致,根据上下文生成新上下文。 二者区别是一个返回是值,一个返回。...感兴趣小伙伴可以看看白茶之前写文章《精品丨CALCULATE函数进价知识》,里面有系统介绍。 用途:构建新上下文环境,生成一个符合我们需求。...语法 DAX= CALCULATETABLE(,,,…) 参数 表达式:必须项,可以是一个,也可以是表达式。 筛选器:可选项可重复,用来过滤条件使用。...返回结果 根据筛选器生成上下文对表达式进行计算,返回一张。 例子 模拟数据: [1240] 这是白茶随机模拟数据。

    1.2K00

    函数周期丨筛选丨丨VALUES

    当参数为列时,返回结果会去除重复值,保留空项;当参数为时,结果不会进行去重复操作。 用途:适用于度量值计算。...语法 DAX= VALUES(or列) 参数 VALUES函数参数可以是列,也可以是,但不能是表达式。 返回结果 去除重复值列或者返回一个完整。当为单列单行时,可以作为值使用。...,在函数模式下,都会进行去重复操作。...= SUMX ( ALL ( '维度'[类别] ), CALCULATE ( COUNTROWS ( '例子' ) ) ) 结果: [1240] 在例子和维度上下文中,DISTINCT函数排除掉因扩展原因导致空值项目...ALL函数在例子上下文中计算,没有屏蔽掉例子筛选效果,其计算结果包含空值项目;而在维度上下文中,清除了维度筛选效果,计算结果包含空值项目,每个返回值均为总计行数37。

    98410

    函数周期丨筛选丨丨FILTER

    [1240] FILTER函数 FILTER函数属于“筛选”类函数,隶属于“”函数,其使用频率可以算得上最高几个函数之一。 用途:用来筛选或者作为计算筛选条件。...语法 DAX= FILTER(,) 参数 :可以是固定,也可以是表达式。 条件:过滤条件。 返回结果 由符合筛选条件行组成。...代码: 双层FILTER = FILTER ( FILTER ( '例子', MONTH ( '例子'[日期] ) < 2 ), '例子'[类别] = "白" ) 结果: [1240] 从结果上看,三者结果是一模一样...1、从性能上看,双层FILTER性能优于前两者; 2、从执行顺序上看,多层FILTER时,通常是从内往外计算。...白茶会不定期分享一些函数卡片 (文件在知识星球PowerBI丨需求圈) [1240] 这里是白茶,一个PowerBI初学者。 [1240]

    62700

    函数周期丨筛选丨丨ALLEXCEPT

    [1240] ALLEXCEPT函数 ALLEXCEPT函数属于“筛选”类函数,隶属于“函数”,在ALL函数系列家族中,其地位是不可或缺。 EXCEPT翻译成中文是什么意思?表示:除了意思。...因此,这个函数所表达意思顾名思义,“除了...剩下都....”。联想起ALL函数特性,这个函数表示除了某一项受到筛选之外,其他项目全部清除筛选。 用途:特别适用于组内占比计算。...语法 DAX= ALLEXCEPT(,[,[,…]]) 参数 :要清除筛选器。 列:(可重复)位于第一参数表中,需要保留筛选列。除了这一列之外,其他列全部不受筛选影响。...注意:不能使用表达式和列表达式。 返回结果 除了保留筛选器那一列,清除了其他筛选条件一个。 例子 模拟数据: [1240] 这是白茶随机模拟一份数据。...例子1: ALLEXCEPT例子1 = ALLEXCEPT ( '例子', '例子'[类别] ) 结果: [1240] 因为当前上下文环境为行上下文,默认筛选条件为空,结果返回为剔除了保留筛选列一个

    72900
    领券