PandasvsSQL,招招经典!转载
原创Pandas 和 SQL 有很多相似之处,都是对二维表的数据进行查询、处理,都是数据分析中常用的工具。
对于只会 Pandas 或只会 SQL 的朋友,可以通过今天例子快速学会另一个。
1. 数据查询
首先,读取数据
import pandas as pd
import numpy as np
tips = pd.read_csv(tips.csv)
tips
1.1 查询列
查询 total_bill
和 tip
两列
tips[["total_bill", "tip"]]
用 SQL 实现:
select total_bill, tip
from tips;
1.2 增加列
查询结果中,新增一列 tip_rate
tips[tip_rate] = tips["tip"] / tips["total_bill"]
用 SQL 实现:
select *, tip/total_bill as tip_rate
from tips;
1.3 筛选条件
查询 time
列等于 Dinner
并且 tip
列大于5的数据
tips[(tips["time"] == "Dinner") & (tips["tip"] > 5.00)]
用 SQL 实现:
select *
from tips
where time = Dinner and tip > 5.00;
2. 分组聚合
按照某列分组计数
tips.groupby("sex").size()
sex
Female 87
Male 157
dtype: int64
用 SQL 实现:
select sex, count(*)
from tips
group by sex;
按照多列聚合多个值
tips.groupby(["smoker", "day"]).agg({"tip": [np.size, np.mean]})
用 SQL 实现:
select smoker, day, count(*), avg(tip)
from tips
group by smoker, day;
3. join
构造两个临时 DataFrame
df1 = pd.DataFrame({"key": ["A", "B", "C", "D"], "value": np.random.randn(4)})
df2 = pd.DataFrame({"key": ["B", "D", "D", "E"], "value": np.random.randn(4)})
先用 Pandas 分别实现 inner join
、 left join
、 right join
和 full join
。
# inner join
pd.merge(df1, df2, on="key")
# left join
pd.merge(df1, df2, on="key", how="left")
# inner join
pd.merge(df1, df2, on="key", how="right")
# inner join
pd.merge(df1, df2, on="key", how="outer")
用 SQL 分别实现:
# inner join
select *
from df1 inner join df2
on df1.key = df2.key;
# left join
select *
from df1 left join df2
on df1.key = df2.key;
# right join
select *
from df1 right join df2
on df1.key = df2.key;
# full join
select *
from df1 full join df2
on df1.key = df2.key;
4. union
将两个表纵向堆叠
pd.concat([df1, df2])
用 SQL 实现:
select *
from df1
union all
SELECT *
from df2;
将两个表纵向堆叠并去重
pd.concat([df1, df2]).drop_duplicates()
用 SQL 实现:
select *
from df1
union
SELECT *
from df2;
5. 开窗
对 tips
中 day
列取值相同的记录按照 total_bill
排序。
(tips.assign(
rn=tips.sort_values(["total_bill"], ascending=False)
.groupby(["day"])
.cumcount()
+ 1
)
.sort_values(["day", "rn"])
)
用 SQL 实现:
select
*,
row_number() over(partition by day order by total_bill desc) as rn
from tips t
day
列取值相同的记录会被划分到同一个窗口内,并按照 total_bill
排序,窗口之间的数据互不影响,这类操作便被称为 开窗 。
今天的内容就到这里啦。通过几个简单的实践案例大家可以直观感受下 Pandas 和 SQL 在数据处理上的相似之处。
推荐阅读:
入门: 最全的零基础学Python的问题 | 零基础学了8个月的Python | 实战项目 |学Python就是这条捷径
干货:爬取豆瓣短评,电影《后来的我们》 | 38年NBA最佳球员分析 | 从万众期待到口碑扑街!唐探3令人失望 | 笑看新倚天屠龙记 | 灯谜答题王 |用Python做个海量小姐姐素描图 |碟中谍这么火,我用机器学习做个迷你推荐系统电影
趣味:弹球游戏 | 九宫格 | 漂亮的花 | 两百行Python《天天酷跑》游戏!
AI: 会做诗的机器人 | 给图片上色 | 预测收入 | 碟中谍这么火,我用机器学习做个迷你推荐系统电影
小工具: Pdf转Word,轻松搞定表格和水印! | 一键把html网页保存为pdf!| 再见PDF提取收费! | 用90行代码打造最强PDF转换器,word、PPT、excel、markdown、html一键转换 | 制作一款钉钉低价机票提示器! |60行代码做了一个语音壁纸切换器天天看小姐姐!|
年度爆款文案
-
1). 卧槽!Pdf转Word用Python轻松搞定 !
-
2).学Python真香!我用100行代码做了个网站,帮人PS旅行图片,赚个鸡腿吃
-
3).首播过亿,火爆全网,我分析了《乘风破浪的姐姐》,发现了这些秘密
-
4). 80行代码!用Python做一个哆来A梦分身
-
5).你必须掌握的20个python代码,短小精悍,用处无穷
-
6). 30个Python奇淫技巧集
-
7). 我总结的80页《菜鸟学Python精选干货.pdf》,都是干货
-
8). 再见Python!我要学Go了!2500字深度分析 !
-
9).发现一个舔狗福利!这个Python爬虫神器太爽了,自动下载妹子图
版权声明
所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除