首页
学习
活动
专区
圈层
工具
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

数据分析篇 | PyCon 大咖亲传 pandas 25 式,长文建议收藏

操控缺失值 把字符串分割为多列 把 Series 里的列表转换为 DataFrame 用多个函数聚合 用一个 DataFrame 合并聚合的输出结果 选择行与列 重塑多重索引 Series 创建透视表...查看 pandas 及其支持项的版本 使用 pd.__version__ 查看 pandas 的版本。 ? 查看所有 pandas 的支持项版本,使用 show_versions 函数。...rename()方法改列名是最灵活的方式,它的参数是字典,字典的 Key 是原列名,值是新列名,还可以指定轴向(axis)。 ? 这种方式的优点是可以重命名任意数量的列,一列、多列、所有列都可以。...使用 sample()方法随机选择 75% 的记录,并将之赋值给 moives_1。 ? 使用 drop() 方法删掉 movies 里所有 movies_1,并将之赋值给 movies_2。 ?...用 dropna() 删除列里的所有缺失值。 ? 只想删除列中缺失值高于 10% 的缺失值,可以设置 dropna() 里的阈值,即 threshold. ? 16.

7.2K20

8 个 Python 高效数据分析的技巧

具体来说,map通过对列表中每个元素执行某种操作并将其转换为新列表。在本例中,它遍历每个元素并乘以2,构成新列表。请注意,list()函数只是将输出转换为列表类型。...在Pandas中,删除一列或在NumPy矩阵中求和值时,可能会遇到Axis。...回想一下Pandas中的shape df.shape (# of Rows, # of Columns) 从Pandas DataFrame中调用shape属性返回一个元组,第一个值代表行数,第二个值代表列数...如果你不太熟悉Series,可以将它想成类似Numpy的数组。 Apply将一个函数应用于指定轴上的每一个元素。...Pandas内置的pivot_table函数以DataFrame的形式创建电子表格样式的数据透视表,,它可以帮助我们快速查看某几列的数据。

2.7K20
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    8个Python高效数据分析的技巧

    具体来说,map通过对列表中每个元素执行某种操作并将其转换为新列表。 在本例中,它遍历每个元素并乘以2,构成新列表。 请注意,list()函数只是将输出转换为列表类型。...---- 在Pandas中,删除一列或在NumPy矩阵中求和值时,可能会遇到Axis。...回想一下Pandas中的shape 1df.shape 2(# of Rows, # of Columns) 从Pandas DataFrame中调用shape属性返回一个元组,第一个值代表行数,第二个值代表列数...如果你不太熟悉Series,可以将它想成类似Numpy的数组。 Apply将一个函数应用于指定轴上的每一个元素。...Pandas内置的pivot_table函数以DataFrame的形式创建电子表格样式的数据透视表,,它可以帮助我们快速查看某几列的数据。

    2.1K20

    在Python中实现Excel的VLOOKUP、HLOOKUP、XLOOKUP函数功能

    pandas提供了广泛的工具选择,因此我们可以通过多种方式复制XLOOKUP函数。这里我们将介绍一种方法:筛选和apply()的组合。...在第一行中,我们用一些参数定义了一个名为xlookup的函数: lookup_value:我们感兴趣的值,这将是一个字符串值 lookup_array:这是源数据框架中的一列,我们正在查找此数组/列中的...图3 公式完成,现在“向下拖动” 因为我们用代码做所有事情,而且没有GUI(图形化用户界面),所以我们不能简单地双击某个东西来“拖拽”公式。...dataframe.apply(func, axis = 0,args=()) func:我们正在应用的函数 axis:我们可以将该函数应用于行或列。...根据设计,apply将自动传递来自调用方数据框架(系列)的所有数据。在我们的示例中,apply()将df1['用户姓名']作为第一个参数传递给函数xlookup。

    7.4K11

    详解Python数据处理Pandas库

    通过pandas提供的相应函数,我们可以方便地从不同数据源导入数据,并将其转换为pandas的数据结构。导出数据。...通过pandas提供的相应函数,我们可以方便地将数据导出到不同的目标。三、数据查看和筛选查看数据。pandas库提供了多种方法来查看数据,包括查看数据头部、尾部、摘要统计信息等。...)在上面的例子中,我们分别使用了head()、tail()和describe()函数来查看数据的头部、尾部和摘要统计信息。...代码示例:import pandas as pd# 按列进行分组并计算平均值grouped\_df = df.groupby('column\_name').mean()# 多列分组并计算总和grouped...\_df = df.groupby(['column1', 'column2']).sum()在上面的例子中,我们分别按列进行了分组,并计算了平均值;另外,我们还进行了多列分组,并计算了总和。

    37020

    数据处理技巧 | 带你了解Pandas.groupby() 常用数据处理方法

    今天我们继续推出一篇数据处理常用的操作技能汇总:灵活使用pandas.groupby()函数,实现数据的高效率处理,主要内容如下: pandas.groupby()三大主要操作介绍 pandas.groupby...aggregate对多列操作 除了sum()求和函数外,我们还列举几个pandas常用的计算函数,具体如下表: 函数(Function) 描述(Description) mean() 计算各组平均值 size...同时计算多个结果 可能还有小伙伴问“能不能将聚合计算之后的新的结果列进行重命名呢?”,该操作在实际工作中经常应用的到,如:根据某列进行统计,并将结果重新命名。...在pandas以前的版本中需要自定义聚合操作,如下: # 定义aggregation汇总计算 aggregations = { #在values01列上的操作 'values01': {...这里举一个例子大家就能明白了,即我们以Team列进行分组,并且希望我们的分组结果中每一组的个数都大于3,我们该如何分组呢?练习数据如下: ?

    3.8K11

    超全的pandas数据分析常用函数总结:下篇

    基础知识在数据分析中就像是九阳神功,熟练的掌握,加以运用,就可以练就深厚的内力,成为绝顶高手自然不在话下! 为了更好地学习数据分析,我对于数据分析中pandas这一模块里面常用的函数进行了总结。...文章中的所有代码都会有讲解和注释,绝大部分也都会配有运行结果,酱紫的话,整篇总结篇幅量自然不小,所以我分成了上下两篇,这里是下篇。 《超全的pandas数据分析常用函数总结:上篇》 5....6.2.5 用iloc取连续的多行和多列 提取第3行到第6行,第4列到第5列的值,取得是行和列交叉点的位置。 data.iloc[2:6,3:5] 输出结果: ?...6.2.6 用iloc取不连续的多行和多列 提取第3行和第6行,第4列和第5列的交叉值 data.iloc[[2,6],[3,5]] 输出结果: ?...在筛选后的数据中,对money进行求和 输出结果:9.0 8.

    3.9K20

    超全的pandas数据分析常用函数总结:下篇

    基础知识在数据分析中就像是九阳神功,熟练的掌握,加以运用,就可以练就深厚的内力,成为绝顶高手自然不在话下! 为了更好地学习数据分析,我对于数据分析中pandas这一模块里面常用的函数进行了总结。...文章中的所有代码都会有讲解和注释,绝大部分也都会配有运行结果,酱紫的话,整篇总结篇幅量自然不小,所以我分成了上下两篇,这里是下篇。 《超全的pandas数据分析常用函数总结:上篇》 5....6.2.5 用iloc取连续的多行和多列 提取第3行到第6行,第4列到第5列的值,取得是行和列交叉点的位置。 data.iloc[2:6,3:5] 输出结果: ?...6.2.6 用iloc取不连续的多行和多列 提取第3行和第6行,第4列和第5列的交叉值 data.iloc[[2,6],[3,5]] 输出结果: ?...# 在筛选后的数据中,对money进行求和 输出结果:9.0 8.

    5K20

    Python3分析CSV数据

    2.2 筛选特定的行 在输入文件筛选出特定行的三种方法: 行中的值满足某个条件 行中的值属于某个集合 行中的值匹配正则表达式 从输入文件中筛选出特定行的通用代码结构: for row in filereader...pandas提供loc函数,可以同时选择特定的行与列。...需要在逗号前设定行筛选条件,在逗号后设定列筛选条件。 例如,loc函数的条件设置为:Supplier Name列中姓名包含 Z,或者Cost列中的值大于600.0,并且需要所有的列。...基本过程就是将每个输入文件读取到pandas数据框中,将所有数据框追加到一个数据框列表,然后使用concat 函数将所有数据框连接成一个数据框。...下面的代码演示了如何对于多个文件中的某一列计算这两个统计量(总计和均值),并将每个输入文件的计算结果写入输出文件。 #!

    6.7K10

    Pandas库

    DataFrame: DataFrame是Pandas的主要数据结构,用于执行数据清洗和数据操作任务。 它是一个二维表格结构,可以包含多列数据,并且每列可以有不同的数据类型。...如何在Pandas中实现高效的数据清洗和预处理? 在Pandas中实现高效的数据清洗和预处理,可以通过以下步骤和方法来完成: 处理空值: 使用dropna()函数删除含有缺失值的行或列。...统一数据格式: 确保所有数据列具有相同的格式,例如统一日期格式、货币格式等。 数据加载与初步探索: 使用read_csv()、read_excel()等函数加载数据。...条件筛选与函数处理(Condition Selection and Function Processing) : 使用条件筛选和自定义函数可以进一步增强时间序列数据的处理能力。...Pandas的groupby方法可以高效地完成这一任务。 在Pandas中,如何使用聚合函数进行复杂数据分析? 在Pandas中,使用聚合函数进行复杂数据分析是一种常见且有效的方法。

    14910

    左手pandas右手Python,带你学习数据透视表

    数据透视表是数据分析工作中经常会用到的一种工具。Excel本身具有强大的透视表功能,Python中pandas也有透视表的实现。...当我们只指定index时,就是指定了行标签,pivot_table函数会默认按照平均值,汇总所有的数值字段。...2.Excel实现 在上面的基础上,只需在“值”的位置加入Quantity,并将值字段设置为“求和”即可。...目标9:对Price和Quantity使用不同的汇总方式 1.pandas实现 通过字典的方式,为不同的字段传入不同的聚合函数。...,列表里可以传入多个参数,如 table.query('Rep == ["Craig Booker", "John Smith"]') 2.excel实现 做好的数据透视表,具有行和列的筛选功能。

    3.7K40

    Pandas 25 式

    操控缺失值 把字符串分割为多列 把 Series 里的列表转换为 DataFrame 用多个函数聚合 用一个 DataFrame 合并聚合的输出结果 选择行与列 重塑多重索引 Series 创建透视表...查看 pandas 及其支持项的版本 使用 pd.__version__ 查看 pandas 的版本。 ? 查看所有 pandas 的支持项版本,使用 show_versions 函数。...rename()方法改列名是最灵活的方式,它的参数是字典,字典的 Key 是原列名,值是新列名,还可以指定轴向(axis)。 ? 这种方式的优点是可以重命名任意数量的列,一列、多列、所有列都可以。...使用 sample()方法随机选择 75% 的记录,并将之赋值给 moives_1。 ? 使用 drop() 方法删掉 movies 里所有 movies_1,并将之赋值给 movies_2。 ?...用 dropna() 删除列里的所有缺失值。 ? 只想删除列中缺失值高于 10% 的缺失值,可以设置 dropna() 里的阈值,即 threshold. ? 16.

    8.5K00

    最全面的Pandas的教程!没有之一!

    请务必记住,除非用户明确指定,否则在调用 .drop() 的时候,Pandas 并不会真的永久性地删除这行/列。这主要是为了防止用户误操作丢失数据。 你可以通过调用 df 来确认数据的完整性。...此外,你还可以制定多行和/或多列,如上所示。 条件筛选 用中括号 [] 的方式,除了直接指定选中某些列外,还能接收一个条件语句,然后筛选出符合条件的行/列。...比如,我们希望在下面这个表格中筛选出 'W'>0 的行: ? 如果要进一步筛选,只看 'X' 列中 'W'>0 的数据: ?...比如,我们先定义一个 square() 函数,然后对表中的 col1 列应用这个函数: ? 在上面这个例子中,这个函数被应用到这一列里的每一个元素上。同样,我们也可以调用任意的内置函数。...Pandas 的数据透视表能自动帮你对数据进行分组、切片、筛选、排序、计数、求和或取平均值,并将结果直观地显示出来。比如,这里有个关于动物的统计表: ?

    26.1K64

    Python面试十问2

    此外,你可以通过传递参数来调整df.describe()的行为,例如include参数可以设置为'all'来包含所有列的统计信息,或者设置为'O'来仅包含对象列的统计信息。...五、pandas中的索引操作 pandas⽀持四种类型的多轴索引,它们是: Dataframe.[ ] 此函数称为索引运算符 Dataframe.loc[ ] : 此函数⽤于标签 Dataframe.iloc...七、apply() 函数使用方法 如果需要将函数应⽤到DataFrame中的每个数据元素,可以使⽤ apply() 函数以便将函数应⽤于给定dataframe中的每⼀⾏。...先分组,再⽤ sum()函数计算每组的汇总数据  多列分组后,⽣成多层索引,也可以应⽤ sum 函数 分组后可以使用如sum()、mean()、min()、max()等聚合函数来计算每个组的统计值。...: 可以对需要的计算数据进⾏筛选 Columns: 类似Index可以设置列层次字段,它不是⼀个必要参数,作为⼀种分割数据的可选⽅式。

    11510

    Pandas速查卡-Python数据科学

    刚开始学习pandas时要记住所有常用的函数和方法显然是有困难的,所以在Dataquest(https://www.dataquest.io/)我们主张查找pandas参考资料(http://pandas.pydata.org...=n) 删除所有小于n个非空值的行 df.fillna(x) 用x替换所有空值 s.fillna(s.mean()) 将所有空值替换为均值(均值可以用统计部分中的几乎任何函数替换) s.astype(float...df.groupby([col1,col2]) 从多列返回一组对象的值 df.groupby(col1)[col2] 返回col2中的值的平均值,按col1中的值分组(平均值可以用统计部分中的几乎任何函数替换...(col1).agg(np.mean) 查找每个唯一col1组的所有列的平均值 data.apply(np.mean) 在每个列上应用函数 data.apply(np.max,axis=1) 在每行上应用一个函数...df.describe() 数值列的汇总统计信息 df.mean() 返回所有列的平均值 df.corr() 查找数据框中的列之间的相关性 df.count() 计算每个数据框的列中的非空值的数量 df.max

    9.2K80

    手把手教你做一个“渣”数据师,用Python代替老情人Excel

    我希望用Python取代几乎所有的excel功能,无论是简单的筛选还是相对复杂的创建并分析数据和数组。 我将展示从简单到复杂的计算任务。强烈建议你跟着我一起做这些步骤,以便更好地理解它们。...请按照以下链接下载数据,并将其放在与存储Python文件的同一文件夹中。...2、查看多列 ? 3、查看特定行 这里使用的方法是loc函数,其中我们可以指定以冒号分隔的起始行和结束行。注意,索引从0开始而不是1。 ? 4、同时分割行和列 ? 5、在某一列中筛选 ?...6、筛选多种数值 ? 7、用列表筛选多种数值 ? 8、筛选不在列表或Excel中的值 ? 9、用多个条件筛选多列数据 输入应为列一个表,此方法相当于excel中的高级过滤器功能: ?...由于Pandas中没有“Vlookup”函数,因此Merge用与SQL相同的备用函数。

    8.4K30

    Python3分析Excel数据

    设置数据框和iloc函数,同时选择特定的行与特定的列。如果使用iloc函数来选择列,那么就需要在列索引值前面加上一个冒号和一个逗号,表示为这些特定的列保留所有的行。...3.3.1 在所有工作表中筛选特定行 pandas通过在read_excel函数中设置sheetname=None,可以一次性读取工作簿中的所有工作表。...当在每个数据框中筛选特定行时,结果是一个新的筛选过的数据框,所以可以创建一个列表保存这些筛选过的数据框,然后将它们连接成一个最终数据框。 在所有工作表中筛选出销售额大于$2000.00的所有行。...有两种方法可以从工作表中选取一组列: 使用列索引值 使用列标题 在所有工作表中选取Customer Name和Sale Amount列 用pandas的read_excel函数将所有工作表读入字典。...然后,用loc函数在每个工作表中选取特定的列,创建一个筛选过的数据框列表,并将这些数据框连接在一起,形成一个最终数据框。

    3.4K20

    Excel与pandas:使用applymap()创建复杂的计算列

    标签:Python与Excel,pandas 我们之前讨论了如何在pandas中创建计算列,并讲解了一些简单的示例。...图1 创建一个辅助函数 现在,让我们创建一个取平均值的函数,并将其处理/转换为字母等级。 图2 现在我们要把这个函数应用到每个学生身上。那么,在列中对每个学生进行循环?不!...pandas applymap()方法 pandas提供了一种将自定义函数应用于列或整个数据框架的简单方法,就是.applymap()方法,这有点类似于map()函数的作用。...注意下面的代码,我们只在包含平均值的三列上应用函数。因为我们知道第一列包含字符串,如果我们尝试对字符串数据应用letter_grade()函数,可能会遇到错误。...图3 我们仍然可以使用map()函数来转换分数等级,但是,需要在三列中的每一列上分别使用map(),而applymap()能够覆盖整个数据框架(多列)。

    3.9K10
    领券