在Excel中，我们可以通过单击功能区“数据”选项卡上的“删除重复项”按钮“轻松”删除表中的重复项。确实很容易！然而，当数据集太大，或者电子表格中有公式时，这项操作有时会变得很慢。因此，我们将探讨如何使用Python从数据表中删除重复项，它超级简单、快速、灵活。
Pandas[1]是用Python分析数据的工业标准。只需敲几下键盘，就可以加载、过滤、重组和可视化数千兆字节的异质信息。它建立在NumPy库的基础上，借用了它的许多概念和语法约定，所以如果你对NumPy很熟悉，你会发现Pandas是一个相当熟悉的工具。即使你从未听说过NumPy，Pandas也可以让你在几乎没有编程背景的情况下轻松拿捏数据分析问题。
玩转Pandas系列已经连续推送5篇，尽量贴近Pandas的本质原理，结合工作实践，按照使用Pandas的逻辑步骤，系统地并结合实例推送Pandas的主要常用功能，已经推送的5篇文章：
最近公司在做关联图谱的项目，想挖掘团伙犯罪。在准备关系数据时需要根据两列组合删除数据框中的重复值，两列中元素的顺序可能是相反的。
上次给大家分享了数据分析中要用的anaconda以及一些模块的安装和导入，至于具体如何使用python处理excel还有点模糊，今天就来研究一下如何使用，提高工作效率。
可选DISTINCT子句出现在SELECT关键字之后、可选TOP子句和第一个SELECT-ITEM之前。
当以某种方式组合多个序列或数据帧时，在进行任何计算之前，数据的每个维度会首先自动在每个轴上对齐。 轴的这种无声且自动的对齐会给初学者造成极大的困惑，但它为超级用户提供了极大的灵活性。 本章将深入探讨索引对象，然后展示利用其自动对齐功能的各种秘籍。
这篇万字长文，是黄同学辛苦为大家辛苦翻译排版。希望大家一定从头到尾学习，否则，可能会找不到操作的数据源。
在我看来，对于Numpy以及Matplotlib，Pandas可以帮助创建一个非常牢固的用于数据挖掘与分析的基础。而Scipy（会在接下来的帖子中提及）当然是另一个主要的也十分出色的科学计算库，但是我认为前三者才是真正的Python科学计算的支柱。
数据经过采集后通常会被存储到Word、Excel、JSON等文件或数据库中，从而为后期的预处理工作做好数据储备。数据获取是数据预处理的第一步操作，主要是从不同的渠道中读取数据。Pandas支持CSV、TXT、Excel、JSON这几种格式文件、HTML表格的读取操作，另外Python可借助第三方库实现Word与PDF文件的读取操作。本章主要为大家介绍如何从多个渠道中获取数据，为预处理做好数据准备。
Polars[2]是Pandas最近的转世（用Rust编写，因此速度更快，它不再使用NumPy的引擎，但语法却非常相似，所以学习 Pandas 后对学习 Polars 帮助非常大。
数据清理是数据预处理的一个关键环节，它占据整个数据分析或挖掘50%~70%的时间。在这一环节中，我们主要通过一定的检测与处理方法，将良莠不齐的“脏”数据清理成质量较高的“干净”数据。pandas为数据清理提供了一系列方法，本章将围绕这些数据清理方法进行详细地讲解。 数据清理概述
索引是对数据库表中的一列或多列的值进行排序的一种结构，使用索引可以提高数据库中特定数据的查询速度。
SELECT语句执行从IRIS数据库检索数据的查询。 在其最简单的形式中，它从单个表的一个或多个列(字段)中检索数据。 列由select-item列表指定，表由FROM table-ref子句指定，WHERE子句可选地提供一个或多个限制条件，选择哪些行返回它们的列值。
前2篇分别系统性介绍了numpy和matplotlib的入门基本知识，今天本文自然是要对pandas进行入门详细介绍，通过本文你将系统性了解pandas为何会有数据分析界"瑞士军刀"的盛誉。
前几天在Python最强王者交流群【哎呦喂 是豆子～】问了一个Pandas实战的问题，一起来看看吧。问题描述：
主键索引（PRIMARY） 数据列不允许重复，不允许为NULL，一个表只能有一个主键 唯一索引（UNIQUE） 数据列不允许重复，允许为NULL值，一个表允许多个列创建唯一索引。 可以通过 ALTER TABLE table_name ADD UNIQUE (column); 创建唯一索引 可以通过 ALTER TABLE table_name ADD UNIQUE (column1,column2); 创建唯一组合索引 普通索引（INDEX） 可以通过 ALTER TABLE table_name ADD INDEX index_name (column); 创建普通索引 可以通过 ALTER TABLE table_name ADD INDEX index_name(column1, column2, column3); 创建组合索引 全文索引（FULLTEXT） 可以通过 ALTER TABLE table_name ADD FULLTEXT (column);https://www.alwdzr.com 创建全文索引 索引并非是越多越好，创建索引也需要耗费资源，一是增加了数据库的存储空间，二是在插入和删除时要花费较多的时间维护索引
链接：https://towardsdatascience.com/30-examples-to-master-pandas-f8a2da751fa4
Josh Devlin 2017年2月21日 Pandas可以说是数据科学最重要的Python包。 它不仅提供了很多方法和函数，使得处理数据更容易；而且它已经优化了运行速度，与使用Python的内置函数进行数值数据处理相比，这是一个显著的优势。 刚开始学习pandas时要记住所有常用的函数和方法显然是有困难的，所以在Dataquest（https://www.dataquest.io/）我们主张查找pandas参考资料（http://pandas.pydata.org/pandas-docs/stab
1.FROM 执行笛卡尔积 FROM 才是 SQL 语句执行的第一步，并非 SELECT 。对FROM子句中的前两个表执行笛卡尔积(交叉联接），生成虚拟表VT1，获取不同数据源的数据集。
在日常工作中，我们可能会从多个数据集中获取数据，并且希望合并两个或多个不同的数据集。这时就可以使用Pandas包中的Merge函数。在本文中，我们将介绍用于合并数据的三个函数merge、merge_ordered、merge_asof
前言： pandas是在numpy的基础上开发出来的，有两种数据类型Series和DataFrame Series由一组数据（numpy的ndarray）和一组与之相对应的标签构成 DataFrame表格行的数据结构，包含一组有序的列 Series 何为Series？ Series由一组数据（numpy的ndarray）和一组与之相对应的标签构成 创建Series from pandas import Series,DataFrame import pandas as pd ser01=S
用Python做数据分析光是掌握numpy和matplotlib可不够，Pandas是必须要掌握的一个重点，numpy虽然能够帮我们处理处理数值型数据，但是这还不够，很多时候，我们的数据除了数值之外，还有字符串，还有时间序列等，比如：我们通过爬虫获取到了存储在数据库中的数据。
✅作者简介：人工智能专业本科在读，喜欢计算机与编程，写博客记录自己的学习历程。 🍎个人主页：小嗷犬的博客 🍊个人信条：为天地立心，为生民立命，为往圣继绝学，为万世开太平。 🥭本文内容：Python 数据处理：Pandas库的使用 ---- Python 数据处理：Pandas库的使用 1.Pandas 数据结构 1.1 Series 1.2 DataFrame 2.基本功能 2.1 重新索引 2.2 丢弃指定轴上的项 2.3 索引、选取和过滤 2.4 用 loc 和 iloc 进行选取 2.5
Python数据分析——Numpy、Pandas库 总第48篇 ▼ 利用Python进行数据分析中有两个重要的库是Numpy和Pandas，本章将围绕这两个库进行展开介绍。 Numpy库 Numpy
本章的目的是通过彻底检查序列和数据帧数据结构来介绍 Pandas 的基础。 对于 Pandas 用户来说，了解序列和数据帧的每个组件，并了解 Pandas 中的每一列数据正好具有一种数据类型，这一点至关重要。
可以把DataFrame看作由Series对象组成的字典，其中key是列名，值是Series Series和Python中的列表非常相似，但是它的每个元素的数据类型必须相同
本次分享一个交通行业实战项目，这个项目是对出租车GPS数据进行分析，具体内容包括了数据理解、业务场景、数据处理、可视化等。
数据科学是一个跨学科领域，具有各种应用，并且在解决具有挑战性的社会问题方面具有巨大潜力。通过建立数据科学技能，您可以赋予自己参与和引领塑造您的生活和整个社会对话的能力，无论是与气候变化作斗争、推出多样性倡议，还是其他方面。
这是一个关于 pandas 从基础到进阶的练习题系列，来源于 github 上的 guipsamora/pandas_exercises 。这个项目从基础到进阶，可以检验你有多么了解 pandas。
本篇文章，我们将从索引基础开始，介绍什么是索引以及索引的几种类型，然后学习如何创建索引以及索引设计的基本原则。
字段类型选择 慷慨是不明智的 在相关的表中使用相同的数据类型，因为可能进行join 选择标示符：整数通常是最佳选择，尽量避免使用字符串 大致决定数据类型（数字，字符串，时间等） 选择存储更小的类型，选择更简单的类型（如整数优于字符串），选择mysql内建时间类型而不是字符串，选择整数而不是字符串来保存IP 尽量避免使用NULL：任何包含null值的列都将不会被包含在索引中。即使索引有多列这样之情况下，只要这些列中有一列含有null，该列就会从索引中排除。也就是说如果某列存在空值，即使对该列建索引也不会提高性
df.isnull() df的空值为True df.notnull() df的非空值为True
PCA（Principal Component Analysis）是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用于高维数据的降维。 PCA的作用 你手上有一批数据，但是特征太多，你感觉数据太稀疏了 你选了一堆特征，但是感觉某些特征之间的相关性太高了，比如用户月消费预测的时候，你选了用户身高以及用户性别这两个特征，一般男生的身高比较高，你觉得特征有点冗余 你的小霸王内存不够，内存只有4个G，装不下太大的矩阵，但是你又不想减少训练数据，N
来源：www.cnblogs.com/jclian91/p/12305471.html
我们使用read读取数据集时，可以先通过info 方法了解不同字段的条目数量，数据类型，是否缺失及内存占用情况
Pandas是用于Python编程语言的开源高级数据分析和处理库。使用pandas，可以轻松加载，准备，操作和分析数据。它是用于数据分析操作的最优选和广泛使用的库之一。
这是 pandas 快速上手系列的第 5 篇文章，本篇详细介绍了 unique 的使用和示例。pandas 库中的 unique 方法用于获取 DataFrame/Series 中唯一的值或记录。它通常用于查看数据中存在哪些唯一值、去重以及一些数据探索和清理任务。
每个机器学习项目都有自己独特的形式。对于每个项目，都可以遵循一组预定义的步骤。尽管没有严格的流程，但是可以提出一个通用模板。
在本章的每一节中，我们将使用第一章中的婴儿名称数据集。我们将提出一个问题，将问题分解为大体步骤，然后使用pandas DataFrame将每个步骤转换为 Python 代码。 我们从导入pandas开始：
GROUP BY是SELECT命令的一个子句。 可选的GROUP BY子句出现在FROM子句和可选的WHERE子句之后，可选的HAVING和ORDER BY子句之前。
Excel与Python都是数据分析中常用的工具，本文将使用动态图(Excel)+代码(Python)的方式来演示这两种工具是如何实现数据的读取、生成、计算、修改、统计、抽样、查找、可视化、存储等数据处理中的常用操作！
在数据处理和分析中，重复数据是一个常见的问题。为了确保数据的准确性和一致性，我们需要对数据进行去重操作。Pandas提供了一个功能强大的去重函数——drop_duplicates()，它可以帮助我们轻松地处理数据中的重复值。本文将详细介绍drop_duplicates()函数的用法和应用场景。
“软件工程师阅读教科书作为参考时不会记住所有的东西，但是要知道如何快速查找重·要的知识点。”
大数据文摘作品，转载要求见文末 编译 | 徐宇文，蒋晔、范玥灿 卞峥，yawei xia 技术早已成为金融业的一项资产：金融交易的高速、高频与超大数据体量结合，促使金融机构在一年一年不断地加深对技术的关注，在今天，技术已经切实成为了金融界的一项主导能力。 在金融界最受欢迎的编程语言中，你会看到R和Python，与C++，C#和Java这些语言并列。在本教程中，你将开始学习如何在金融场景下运用Python。本教程涵盖以下这些方面： 基础知识：对于金融入门阶段的读者，你将会首先学到股票和交易策略，什么是时间序列
由于许多潜在的 pandas 用户对 SQL 有一定的了解，本页旨在提供使用 pandas 执行各种 SQL 操作的一些示例。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
