首页
学习
活动
专区
圈层
工具
发布

【实战】将多个不规则多级表头的工作表合并为一个规范的一维表数据结果表

最近在项目里,有个临时的小需求,需要将一些行列交叉结构的表格进行汇总合并,转换成规范的一维表数据结构进行后续的分析使用。...从一开始想到的使用VBA拼接字符串方式,完成PowerQuery的M语言查询字符串,然后转换成使用插件方式来实现相同功能更顺手,最后发现,在当前工作薄里使用PowerQuery来获取当前工作薄的其他工作表内容...,也是可行的,并且不需要转换智能表就可以把数据抽取至PowerQuery内。...再最后,发现PowerQuery直接就支持了这种多工作表合并,只要自定义函数时,定义的参数合适,直接使用自定义函数返回一个表结果,就可以展开后得到多行记录的纵向合并(类似原生PowerQuery在处理同一文件夹的多个文件纵向合并的效果...整个实现的过程,也并非一步到位,借着在知识星球里发表,经过各星友一起讨论启发,逐渐完善起来最终的结果。探索是曲折的,但众人一起合力时,就会有出乎意料的精彩结果出来。

3.6K20

什么是金山文档轻维表?如何根据日期自动提醒表格中的内容?

什么是金山文档轻维表?金山文档作为老牌文档应用,推出了新的功能轻维表,是一款新式在线协作表格,具有传统表格强大的内核发动机,是专为多人协作场景设计的增强版表格软件,可以支持快速搭建轻量应用。...由于金山文档轻维表是一款以表格为基础,同时引入了数据库理念的「全新协作效率应用」,可以广泛使用在例如项目管理、信息管理、团队任务分配的多种不同场景。金山文档轻维表如何根据日期自动提醒发送表格中的内容?...利用腾讯云HiFlow场景连接器,连接金山文档轻维表和企业微信、飞书、钉钉等企业应用,在项目开始时,自动发送提醒。发送效果如下:如何实现金山文档轻维表根据日期自动提醒发送表格中的内容?...这里除了连接钉钉之外,我们也支持企业微信、飞书、短信、邮件等多类型的消息通知。如果还有其他的通知方式需求,也欢迎大家和我们进行沟通。金山文档轻维表+腾讯云HIFlow场景连接器还有哪些自动化玩法?...行政人事:员工生日自动提醒、发送生日祝福员工入职纪念日自动发送邮件祝福运营员工值班自动提醒上下班及解答线上活动上下线自动提醒此外,除了基于日期的提醒,还可以进行数据写入、数据同步、数据读取等多种玩法,期待你的探索交流

5.8K22
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    游戏行业实战案例1:日活跃率分析

    【面试题】某游戏数据后台设有“登录日志”和“登出日志”两张表。 “登录日志”记录各玩家的登录时间和登录时的角色等级。 “登出日志”记录各玩家的登出时间和登出时的角色等级。...根据题意可知,当日即为开服首日(2022-08-13),因此,我们要用where子句筛选出日期为“2022-08-13”的数据: where 日期 = '2022-08-13' 至少登录过游戏一次表示登录过游戏即可...计算玩家数即为计算玩家数量,而count()函数具有计数功能,因此我们使用count()函数来计算玩家数;玩家使用“角色id”唯一识别,一个“角色id”对应一位玩家,因此我们对“角色id”进行计数: count...这里存在多个筛选条件: 1)从“登录日志”中筛选出开服次日(2022-08-14)登录的玩家: select 角色id from 登录日志 where 日期 = '2022-08-14'; 2)并且玩家属于开服首日...计算开服首日(2022-08-13)的活跃玩家总数的SQL的书写方法如下: select count(distinct 角色id) from 登录日志 where 日期 = '2022-08-13'

    89130

    Linux定时任务完全指南:crontab命令从入门到精通

    一、初识Linux定时任务在Linux系统中,crontab命令堪称自动化运维的瑞士军刀。...与传统的手动操作相比,crontab具有三大核心优势:精确的时间控制能力(支持分钟级调度)、灵活的配置方式(支持多用户隔离配置)以及可靠的执行机制(集成系统日志监控)。...二、crontab核心配置详解2.1 时间表达式解析crontab的时间表达式由五个时间字段组成,格式为:分钟(0-59) 小时(0-23) 日期(1-31) 月份(1-12) 星期(0-6)每个字段支持以下特殊符号...0 3 * * * /opt/scripts/db_backup.sh工作日每半小时同步日志:*/30 9-18 * * 1-5 /usr/bin/log_sync每月首日清理缓存:0 0 1 * *...从简单的日志清理到复杂的自动化运维体系,这项技能将持续为你的工作效率赋能。建议结合具体业务需求,先从小任务开始实践,逐步构建完整的自动化运维方案。

    1.6K10

    特征工程|时间特征构造以及时间序列特征构造

    df['一天中的第几分钟']=df['时间'].apply(lambda x: x.minute + x.hour*60) # 星期几; df['星期几']=df['时间'].apply(lambda...1)首日聚合特征 例如:注册首日投资总金额、注册首日页面访问时长、注册首日总点击次数等; 2)最近时间聚合特征 例如:最近N天APP登录天数、最近一个月的购买金额、最近购物至今天数等; 3)区间内的聚合特征...例如:2018年至2019年的总购买金额、每天下午的平均客流量、在某公司工作期间加班的天数等; 0x03 时间序列特征构造 时间序列不仅包含一维时间变量,还有一维其他变量,如股票价格、天气温度、降雨量...如此类推,我们可以得到多个训练样本,每个样本有多个特征。 2.时间序列历史特征 1)前一(或n)个窗口的取值 例子:昨天、前天和3天前的销售量。...2)周期性时间序列前一(或n)周期的前一(或n)个窗口的取值 例子:写字楼楼下的快餐店的销售量一般具有周期性,周期长度为7天,7天前和14天前的销售量。

    3.6K20

    特征工程系列:时间特征构造以及时间序列特征构造

    df['一天中的第几分钟']=df['时间'].apply(lambda x: x.minute + x.hour*60) # 星期几; df['星期几']=df['时间'].apply(lambda...1)首日聚合特征 例如:注册首日投资总金额、注册首日页面访问时长、注册首日总点击次数等; 2)最近时间聚合特征 例如:最近N天APP登录天数、最近一个月的购买金额、最近购物至今天数等; 3)区间内的聚合特征...例如:2018年至2019年的总购买金额、每天下午的平均客流量、在某公司工作期间加班的天数等; 0x03 时间序列特征构造 时间序列不仅包含一维时间变量,还有一维其他变量,如股票价格、天气温度、降雨量...如此类推,我们可以得到多个训练样本,每个样本有多个特征。 2.时间序列历史特征 1)前一(或n)个窗口的取值 例子:昨天、前天和3天前的销售量。...2)周期性时间序列前一(或n)周期的前一(或n)个窗口的取值 例子:写字楼楼下的快餐店的销售量一般具有周期性,周期长度为7天,7天前和14天前的销售量。

    6.1K42

    特征工程系列:时间特征构造以及时间序列特征构造

    df['一天中的第几分钟']=df['时间'].apply(lambda x: x.minute + x.hour*60) # 星期几; df['星期几']=df['时间'].apply(lambda...1)首日聚合特征 例如:注册首日投资总金额、注册首日页面访问时长、注册首日总点击次数等; 2)最近时间聚合特征 例如:最近N天APP登录天数、最近一个月的购买金额、最近购物至今天数等; 3)区间内的聚合特征...例如:2018年至2019年的总购买金额、每天下午的平均客流量、在某公司工作期间加班的天数等; 0x03 时间序列特征构造 时间序列不仅包含一维时间变量,还有一维其他变量,如股票价格、天气温度、降雨量...如此类推,我们可以得到多个训练样本,每个样本有多个特征。 2.时间序列历史特征 1)前一(或n)个窗口的取值 例子:昨天、前天和3天前的销售量。...2)周期性时间序列前一(或n)周期的前一(或n)个窗口的取值 例子:写字楼楼下的快餐店的销售量一般具有周期性,周期长度为7天,7天前和14天前的销售量。

    1.5K40

    9. 数仓开发之 DWD 层

    每日装载 1.5 退单事务事实表 建表 首日装载 每日装载 1.6 退款成功事务事实表 建表 首日装 每日装载 1.7 购物车周期快照事实表 建表 首日装载 每日装载 2....数据装载脚本 6.1 首日装载脚本 6.2 每日装载脚本 DWD层设计要点: DWD 层的设计依据 : 维度建模理论,该层存储维度模型的事实表 DWD 层的数据存储格式 : orc 列式存储 + snappy...压缩 DWD 层表名的命名规范 : dwd_数据域_表名_单分区增量****全量标识( inc / full ) 1....datetime(0) operate_time 修改日期 datetime(0) 建表 首日装载 每日装载 1.4 支付成功事务事实表 支付表(payment_info) 字段名 字段说明...datetime(0) operate_time 修改日期 datetime(0) 建表 首日装载 每日装载 1.5 退单事务事实表 建表 首日装载 每日装载 1.6 退款成功事务事实表

    86850

    一篇文章搞懂数据仓库:维度表(设计原则、设计方法)

    维度是维度建模的基础和灵魂。在维度建模中,将度量称为“事实” , 将环境描述为“维度”。 维度表包含了事实表中指定属性的相关详细信息,最常用的维度表有日期维度、城市维度等。...例,小编的日期维表: num字段名字段中文名描述数据类型1date日期日期 yyyMMdd格式bigint2week星期,数字型星期,数字型 0-6bigint3week_cn星期中文名星期中文名 星期一...缓慢变化维的三种处理方式: ① TYPE1 直接覆盖原值 适用于:不看历史数据,简单粗暴 ② TYPE2 拉链表 需要在维度行再增加三列:有效日期、截止日期、行标识(可选)。...第二步:确定主维表。此处的主维表一般是 ODS 表,直接与业务 系统同步。以淘宝商品维度为例, s_auction_auctions 是与前台商品中心 系统同步的商品表,此表即是主维表。...第三步:确定相关维表。数据仓库是业务源系统的数据整合,不同业务系统或者同 一业务系统中的表之间存在 关联性。根据对业务的梳 理,确定哪些表和主维表存在关联关系,并选择其中的某些表用于生成维度属性。

    4.1K20

    定时任务管理详解:cron与at的配置与使用

    好事发生这里推荐一篇实用的文章:《【探索数据结构】线性表之顺序表》,作者:【池央】。本文介绍了线性表中的顺序表这一数据结构,分为静态顺序表和动态顺序表两种。...通过代码示例,展示了顺序表操作的具体实现方法,为读者提供了一个全面的顺序表学习参考。定时任务是系统运维管理中的一项基本功能,通过合理设置定时任务,可以实现自动化运维,提高效率并减少人为干预。...1. crontab文件格式crontab文件包含了定时任务的配置信息,每一行代表一个任务,格式如下:* * * * * command其中,前五个字段依次代表分钟、小时、日期、月份和星期,command...各字段的取值范围如下:分钟(0-59)小时(0-23)日期(1-31)月份(1-12)星期(0-7,其中0和7代表星期天)2....这些工具在系统运维中具有重要作用,能够帮助运维人员实现自动化任务调度,提升工作效率。希望本文能为读者提供有价值的参考,帮助你更好地理解和使用定时任务工具。如果有任何问题或需要进一步讨论,欢迎交流探讨。

    66410

    如何为Power BI日历图表增加农历、节气、节日、星座以及其他任何信息

    基础的日期表同上一节一样,一个度量值完成,以下列举2年: 日期表 = ADDCOLUMNS(CALENDAR(DATE(2021,1,1),DATE(2022,12,31)), "年",YEAR([...2), "第几周",WEEKNUM([Date],2) ) 农历、节气、节日、星座、放假安排等信息可在网上搜索万年历获得(文末的二维码作者已经整理好了2022年的,供星友使用): 新建一个切换条件表...'[Date])=TODAY(),"White",IF(SELECTEDVALUE('日期表'[星期值])>=6,"Grey","Black"))&"'>"&SELECTEDVALUE('日期表'[日]...'[Date])=TODAY(),"White",IF(SELECTEDVALUE('日期表'[星期值])>=6,"Grey","Black"))& "'>"& SWITCH(SELECTEDVALUE...('切换条件'[条件]),"农历+节气+节日",SELECTEDVALUE('日期表'[农历节日节气]),"农历",SELECTEDVALUE('日期表'[农历]),"星座",SELECTEDVALUE

    3.3K40

    游戏行业实战案例2:玩家等级

    (如玩家没有登出日志,则使用登录日志的等级信息。) 【解题思路】 计算玩家在开服首日(2022-08-13)等级分布情况即为计算2022-08-13各等级停留的角色数。...因此,在查询时,我们需要从表中筛选出2022-08-13的数据,即: where 日期 = '2022-08-13' 那么从哪个表中取数进行筛选呢?...时间,角色等级 from 登出日志 where 日期 = '2022-08-13'; 查询结果如下: 纵向联结后,在联结的表(设为临时表a)的基础上对每个玩家按时间排序,找出每个玩家最后一次时间下的等级...where 日期 = '2022-08-13') as a; 查询结果如下: 将上述查询结果设为临时表b,从该临时表中筛选出排名为1(where 排名 = 1)的数据即可得到玩家的停留等级信息。...可以看到,这其实是一个分组汇总问题,而计算数量可以使用具有计数功能的聚合函数—count()函数。 因此,我们使用group by子句组合count()函数计算各等级停留的角色数。

    1.3K30

    从 jsonpath 和 xpath 到 SPL

    但多层数据要比传统的二维表结构复杂,取数后再处理的难度也大。         早期,没有专业的json/XML的后处理技术,JAVA开发者通常要采取硬写代码或入库再算的方式。...入库虽然解决了部分计算能力,但步骤多,延迟大,额外制造了JAVA与数据库的紧耦合,架构性很差,而且数据库只擅长计算二维表,处理多层结构化数据的能力并不强。...SPL具有足够的计算能力         esProc SPL是JVM下开源的结构化数据/多层数据处理语言,内置专业的多层数据对象,提供了丰富的计算函数、字符串函数、日期函数,具有不亚于SQL的计算能力...比如:         时间类函数,日期增减:elapse(“2020-02-27”,5) //返回2020-03-03         星期几:day@w(“2020-02-27”) //返回5,即星期...虽然数据源不同,但在SPL中的数据类型都是序表,因此可以用一致的方法计算多层数据。一致的计算代码使SPL具有高度的可移植性。

    2.7K40

    hive DIM 层数据装载解析

    Join红色数据 + 黄色数据 Right Join红色数据 + 绿色数据 Full Join 红色数据 + 黄色数据 + 绿色数据 Join红色数据 Union方式需要两个表列数相同,具有相近属性的列...下单等业务过程相关的表中都通过province_id字段与地区维度产生关联,显然base_province应为主维表 insert overwrite table dim_province_full partition...基于维度建模理论,我们要确定主维表,将商品维度相关的原始表关联起来。维度表的粒度与主维表保持一致,后者的主键就是维度表的唯一标识。...优惠券相关的原始业务表只有coupon_info,不需要确定主维表和相关维表。因此,只须关联ods_coupon_info_full与ods_base_dic_full。...前者保存最新的维度数据,后者保存有效期截至分区日期的数据。 首日 业务数据库的user_info表中记录了全量最新的用户数据,全部进入9999-12-31分区。

    48021

    大数据分析工具Power BI(六):DAX表达式简单运用

    DISTINCT(表的表达式):针对表的表达式返回该表具有不重复行的新表。...ADDCOLUMNS函数来一次性创建多个列的日期表。...2、通过ADDCOLUMNS函数创建日期表 ADDCOLUMNS函数作用是用来向指定表添加列并返回具有新列的表,其用法如下: ADDCOLUMNS(表,"名称1","表达式1","名称2","表达式2"...以上表是指向哪个表中添加列,后续的名称1是要添加的列名称,紧跟的表达式是获取该列值对应的DAX表达式,如果有多个新增的列以此类推往后写多个名称和表达式。...以上表代表从哪个表选择列,名称1是创建新列的名称,紧跟的表达式1是获取该列值对应的DAX表达式,如果有多个新增的列以此类推往后写多个名称和表达式。

    6.4K101

    matlab数据可视化交通流量分析天气条件、共享单车时间序列数据

    访问 Properties 时间表的 显示行时间是时间表的第一维,变量是第二维。...通过对bikeData 使用大括号的内容进行索引,将数字数据作为矩阵返回 。显示前八行。使用标准表下标访问多个变量。...时间表的行时间不必按任何特定顺序排列。它可以包含未按行时间排序的行。时间表还可以包含具有相同行时间的多行,尽管这些行可以具有不同的数据值。即使行时间已排序且唯一,它们也可能因不同大小的时间步长而不同。...趋势相似,表明在寒冷的日子里骑自行车的人更少。 按星期几和一天中的时间分析 根据不同的时间区间(例如星期几和一天中的时间)检查数据。使用varfun 对变量执行分组计算来确定每天的总计数 。...由于该地区的餐馆,这可能表明大学的时间表和交通。按星期几和一天中的小时检查趋势。 byra = varfun(@mikaa,'Grpiaibes',{'HOfDay','ay'},...

    1.6K10

    matlab数据可视化交通流量分析天气条件、共享单车时间序列数据

    访问 Properties 时间表的 显示行时间是时间表的第一维,变量是第二维。...通过对bikeData 使用大括号的内容进行索引,将数字数据作为矩阵返回 。显示前八行。使用标准表下标访问多个变量。...时间表非常适合解决异常和错误。 时间表的行时间不必按任何特定顺序排列。它可以包含未按行时间排序的行。时间表还可以包含具有相同行时间的多行,尽管这些行可以具有不同的数据值。...趋势相似,表明在寒冷的日子里骑自行车的人更少。 按星期几和一天中的时间分析 根据不同的时间区间(例如星期几和一天中的时间)检查数据。使用varfun 对变量执行分组计算来确定每天的总计数 。...由于该地区的餐馆,这可能表明大学的时间表和交通。按星期几和一天中的小时检查趋势。 byra = varfun(@mikaa,'Grpiaibes',{'HOfDay','ay'},...

    40010

    一步一步教你制作销售目标分析报告

    这个表中有销售日期和销售额,我们可以使用DAX函数来将销售目标处理到该表的汇总数据表中。接下就一起来处理数据吧。在PowerQuery中手动输入销售目标表 ?...1、提前销售日期和销售金额字段   在建模中新建表输入公式:销售汇总=SUMMARIZE('销售明细','销售明细'[销售日期],"销售额",SUM('销售明细'[业绩金额])) ?   ...2、新建年,月,星期,年月,月周等列,方便后面计算指标   年 = YEAR('销售汇总'[销售日期])   月 = MONTH('销售汇总'[销售日期])   周 = WEEKDAY('销售汇总...由于销售数据存在不确定性,尤其是小的销售店铺可能存在销售数据差异比较大,所以我们需要通过计算平均销售额来计算出具有参考价值的数据。   ...,MINX进行条件求和,计数,求最小值   3、FILTER,EARLIER函数配合对表格进行筛选   4、CALENDAR生成一个日期表。

    2.2K20
    领券