老肥今天和大家分享的是招商银行2022FinTech精英训练营的数据赛道。
该赛题是表格类赛题,主要是对客户流失进行预测,是一个常规的二分类问题,评价指标为AUC,其特点是A榜和B榜两个阶段是完全不同的打法。
A榜数据是与训练集同分布的数据,而B榜的数据则非同分布,因此成绩变化波动也比较大,下面我们一起从两个不同榜单的不同打法来简单回顾一下本赛题吧。
A榜思路
* 原始特征简单处理,将“?”字段统一替换为nan缺失值,所有数值特征统一减二,(这里考虑到2是出题方为了脱敏进行的变换,减二还原之后做特征交叉效果更佳)
* 训练集与测试集分布一致,具有同升同降的规律
* 基于特征理解,做的简单交叉验证分数提升非常有限
* 采用暴力全集特征交叉(二阶、加减乘除)、group组合提取偏离值特征以及数值变量与类别变量交叉(三阶)
* 使用特征重要性进行特征遍历筛选,选择线下高于一定得分的模型(使用不同特征组合)进行融合
B榜思路
* 观察完数据与其他选手分享的得分之后就一个思路 找毒特 !!
* 目标就是找到训练集与测试集分布不一致的特征-删除
* 首先通过对抗验证的思路找到auc指标远大于0.5的特征,(这些特征名中有较大一部分带有CUR,猜测测试集中的数据取自和训练集不同的年份,导致差异显著)遂全部删除带有CUR的特征
* 然后玄学删除特征 (总结发现的主要规律是线下越低,线上越高【奇怪的现象】)
* 上一步骤主要通过特征重要性,迭代删除最重要的特征(和A榜做法相反,以获得更低的线下得分和更高的线上得分)
* 提交进行玄学测试(次数有限,做的很差))
本次比赛最终结果差强人意(A榜第9,B榜第28),感觉自己对于分布差异的特征理解还未完全到位,期待前排的选手来分享分享思路与做法