全文共3230字,预计学习时长9分钟
pandas是基于numpy构建的,使数据分析工作变得更快更简单的高级数据结构和操作工具。本文为大家带来10个玩转Python的小技巧,学会了分分钟通关变大神!
read_csv
每个人都知道这个命令。但如果你要读取很大的数据,尝试添加这个参数:nrows = 5,以便在实际加载整个表之前仅读取表的一小部分。然后你可以通过选择错误的分隔符来避免错误(它不一定总是以逗号分隔)。
(或者,你可以在linux中使用'head'命令来检查任何文本文件中的前5行,例如:head -c 5 data.txt)
select_dtypes
如果必须在Python中进行数据预处理,那么这个命令可以节约一些时间。读取表后,每列的默认数据类型可以是bool,int64,float64,object,category,timedelta64或datetime64。你可以先查看
命令分发的结果以了解数据帧的所有可能数据类型,然后执行
选择仅具有数字特征的子数据帧。
Copy
这是一个重要的命令。如果执行以下命令:
你会发现df1已经改变了。这是因为df2 = df1没有复制df1的值并将其分配给df2,而是设置指向df1的指针。因此,df2的任何变化都会导致df1发生变化 要解决这个问题,你可以:
= df1.copy()
或者
Map
这是一个可以进行简单数据转换的命令。首先定义一个字典,其中'keys'是旧值,'values'是新值。
举几个例子:True,False为1,0(用于建模); 定义水平; 用户定义的词法编码。
apply or not apply?
如果我们想创建一个新的列,并将其他列作为输入,那么apply函数有时非常有用。
在上面的代码中,我们定义了一个带有两个输入变量的函数,并使用apply函数将其应用于列'c1'和'c2'。
但“apply函数”的问题是它有时太慢了。 如果你想计算两列“c1”和“c2”的最大值,你可以:
但你会发现它比这个命令慢得多:
注意:如果可以使用其他内置函数完成相同的工作(它们通常更快),请不要使用apply。例如,如果要将列'c'舍入为整数,请执行round(df ['c'],0)而非使用apply函数:
value counts
这是一个检查值分布的命令。例如,如果你想检查“c”列中每个值的可能值和频率,可以执行以下操作
它有一些有用的技巧/参数:
缺失值的数量
构建模型时,你可能希望排除具有很多缺失值或全是缺失值的行。你可以使用.isnull()和.sum()来计算指定列中缺失值的数量。
选择具有特定ID的行
在SQL中,我们可以使用SELECT * FROM ... WHERE ID('A001','C022',...)来获取具有特定ID的记录。如果想用Pandas做同样的事情,你可以
Percentile groups
你有一个数字列,并希望将该列中的值分类为组,例如将列的前5%,分为组1,前5-20%分为组2,前20%-50%分为组3,最后50%分为组4。当然,你可以用pandas.cut来做,但这里提供另一个选择:
这个指令使计算机运行的非常快(没有使用应用功能)。
to_csv
这也是每个人都会使用的命令。这里指出两个技巧。 第一个是
你可以使用此命令准确地打印出写入文件的前五行数据。
另一个技巧是处理混合在一起的整数和缺失值。如果列同时包含缺失值和整数,则数据类型仍将是float而不是int。导出表时,可以添加float_format ='%。0f'将所有浮点数舍入为整数。如果只想要所有列的整数输出,请使用此技巧,你将摆脱所有令人苦恼的'.0'。
留言 点赞 发个朋友圈
我们一起分享AI学习与发展的干货
编译组:张怡雯、陈孔亮
领取专属 10元无门槛券
私享最新 技术干货