受到numpy100题的启发，我们制作了pandas50题。

Pandas 是基于 NumPy 的一种数据处理工具，该工具为了解决数据分析任务而创建。Pandas 纳入了大量库和一些标准的数据模型，提供了高效地操作大型数据集所需的函数和方法。 这些练习着重DataFrame和Series对象的基本操作，包括数据的索引、分组、统计和清洗。

点击此处查看线上运行效果👇

50道练习带你玩转Pandaswww.kesci.com

更多Pandas教程，可以查看我之前的文章：

10套练习，教你如何用Pandas做数据分析【1-5】

10套练习，教你如何用Pandas做数据分析【6-10】

其他x题系列：

基本操作

  1. 导入 Pandas 库并简写为 pd，并输出版本号
  1. import pandas as pd
  2. pd.__version__
  1. 从列表创建 Series
  1. arr = [0, 1, 2, 3, 4]
  2. df = pd.Series(arr) # 如果不指定索引，则默认从 0 开始
  3. df
  1. 从字典创建 Series
  1. d = {'a':1,'b':2,'c':3,'d':4,'e':5}
  2. df = pd.Series(d)
  3. df
  1. 从 NumPy 数组创建 DataFrame
  1. dates = pd.date_range('today',periods=6) # 定义时间序列作为 index
  2. num_arr = np.random.randn(6,4) # 传入 numpy 随机数组
  3. columns = ['A','B','C','D'] # 将列表作为列名
  4. df = pd.DataFrame(num_arr, index = dates, columns = columns)
  5. df
  1. 从CSV中创建 DataFrame，分隔符为“；”，编码格式为gbk
  1. df = pd.read_csv('test.csv', encoding='gbk, sep=';')
  1. 从字典对象创建DataFrame，并设置索引
  1. import numpy as np
  3. data = {'animal': ['cat', 'cat', 'snake', 'dog', 'dog', 'cat', 'snake', 'cat', 'dog', 'dog'],
  4.         'age': [2.5, 3, 0.5, np.nan, 5, 2, 4.5, np.nan, 7, 3],
  5.         'visits': [1, 3, 2, 3, 2, 3, 1, 1, 2, 1],
  6.         'priority': ['yes', 'yes', 'no', 'yes', 'no', 'no', 'no', 'yes', 'no', 'no']}
  8. labels = ['a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j']
  9. df = pd.DataFrame(data, index=labels)
  10. df
  1. 显示df的基础信息，包括行的数量；列名；每一列值的数量、类型
  1. df.info()
  2. # 方法二
  3. # df.describe()
  1. 展示df的前3行
  1. df.iloc[:3]
  2. # 方法二
  3. #df.head(3)
  1. 取出df的animal和age列
  1. df.loc[:, ['animal', 'age']]
  2. # 方法二
  3. # df[['animal', 'age']]
  1. 取出索引为[3, 4, 8]行的animal和age列
  1. df.loc[df.index[[3, 4, 8]], ['animal', 'age']]

  1. 取出age值大于3的行

  2. 取出age值缺失的行

13.取出age在2,4间的行（不含）

  1. df[(df['age']>2) & (df['age']>4)]
  2. # 方法二
  3. # df[df['age'].between(2, 4)]

  1. `f行的age改为1.5

  2. 计算visits的总和

  3. 计算每个不同种类animal的age的平均数

  1. df.groupby('animal')['age'].mean()
  1. 计算df中每个种类animal的数量
  1. df['animal'].value_counts()
  1. 先按age降序排列，后按visits升序排列
  1. df.sort_values(by=['age', 'visits'], ascending=[False, True])
  1. 将priority列中的yes, no替换为布尔值True, False
  1. df['priority'] = df['priority'].map({'yes': True, 'no': False})
  2. df
  1. 将animal列中的snake替换为python
  1. df['animal'] = df['animal'].replace('snake', 'python')
  2. df
  1. 对每种animal的每种不同数量visits，计算平均age，即，返回一个表格，行是aniaml种类，列是visits数量，表格值是行动物种类列访客数量的平均年龄
  1. df.pivot_table(index='animal', columns='visits', values='age', aggfunc='mean')
  1. 在df中插入新行k，然后删除该行
  1. #插入
  2. df.loc['k'] = [5.5, 'dog', 'no', 2]
  3. # 删除
  4. df = df.drop('k')
  5. df

进阶操作

  1. 有一列整数列A的DatraFrame，删除数值重复的行
  1. df = pd.DataFrame({'A': [1, 2, 2, 3, 4, 5, 5, 5, 6, 7, 7]})
  2. print(df)
  3. df1 = df.loc[df['A'].shift() != df['A']]
  4. # 方法二
  5. # df1 = df.drop_duplicates(subset='A')
  6. print(df1)
  1. 一个全数值DatraFrame，每个数字减去该行的平均数
  1. df = pd.DataFrame(np.random.random(size=(5, 3)))
  2. print(df)
  3. df1 = df.sub(df.mean(axis=1), axis=0)
  4. print(df1)
  1. 一个有5列的DataFrame，求哪一列的和最小
  1. df = pd.DataFrame(np.random.random(size=(5, 5)), columns=list('abcde'))
  2. print(df)
  3. df.sum().idxmin()
  1. 给定DataFrame，求A列每个值的前3大的B的值的和
  1. df = pd.DataFrame({'A': list('aaabbcaabcccbbc'), 
  2.                    'B': [12,345,3,1,45,14,4,52,54,23,235,21,57,3,87]})
  3. print(df)
  4. df1 = df.groupby('A')['B'].nlargest(3).sum(level=0)
  5. print(df1)
  1. 给定DataFrame，有列A, B，A的值在1-100（含），对A列每10步长，求对应的B的和
  1. df = pd.DataFrame({'A': [1,2,11,11,33,34,35,40,79,99], 
  2.                    'B': [1,2,11,11,33,34,35,40,79,99]})
  3. print(df)
  4. df1 = df.groupby(pd.cut(df['A'], np.arange(0, 101, 10)))['B'].sum()
  5. print(df1)
  1. 给定DataFrame，计算每个元素至左边最近的0（或者至开头）的距离，生成新列y
  1. df = pd.DataFrame({'X': [7, 2, 0, 3, 4, 2, 5, 0, 3, 4]})
  3. izero = np.r_[-1, (df['X'] == 0).to_numpy().nonzero()[0]] # 标记0的位置
  4. idx = np.arange(len(df))
  5. df['Y'] = idx - izero[np.searchsorted(izero - 1, idx) - 1]
  6. print(df)
  8. # 方法二
  9. # x = (df['X'] != 0).cumsum()
  10. # y = x != x.shift()
  11. # df['Y'] = y.groupby((y != y.shift()).cumsum()).cumsum()
  13. # 方法三
  14. # df['Y'] = df.groupby((df['X'] == 0).cumsum()).cumcount()
  15. #first_zero_idx = (df['X'] == 0).idxmax()
  16. # df['Y'].iloc[0:first_zero_idx] += 1
  1. 一个全数值的DataFrame，返回最大3个值的坐标
  1. df = pd.DataFrame(np.random.random(size=(5, 3)))
  2. print(df)
  3. df.unstack().sort_values()[-3:].index.tolist()
  1. 给定DataFrame，将负值代替为同组的平均值
  1. df = pd.DataFrame({'grps': list('aaabbcaabcccbbc'), 
  2.                    'vals': [-12,345,3,1,45,14,4,-52,54,23,-235,21,57,3,87]})
  3. print(df)
  5. def replace(group):
  6.     mask = group<0
  7.     group[mask] = group[~mask].mean()
  8.     return group
  10. df['vals'] = df.groupby(['grps'])['vals'].transform(replace)
  11. print(df)
  1. 计算3位滑动窗口的平均值，忽略NAN
  1. df = pd.DataFrame({'group': list('aabbabbbabab'),
  2.                     'value': [1, 2, 3, np.nan, 2, 3, np.nan, 1, 7, 3, np.nan, 8]})
  3. print(df)
  5. g1 = df.groupby(['group'])['value']
  6. g2 = df.fillna(0).groupby(['group'])['value'] 
  8. s = g2.rolling(3, min_periods=1).sum() / g1.rolling(3, min_periods=1).count()
  9. s.reset_index(level=0, drop=True).sort_index()

Series 和 Datetime索引

  1. 创建Series s，将2015所有工作日作为随机值的索引
  1. dti = pd.date_range(start='2015-01-01', end='2015-12-31', freq='B') 
  2. s = pd.Series(np.random.rand(len(dti)), index=dti)
  4. s.head(10)
  1. 所有礼拜三的值求和
  1. s[s.index.weekday == 2].sum()

  1. 求每个自然月的平均数

  2. 每连续4个月为一组，求最大值所在的日期

  1. s.groupby(pd.Grouper(freq='4M')).idxmax()
  1. 创建2015-2016每月第三个星期四的序列
  1. pd.date_range('2015-01-01', '2016-12-31', freq='WOM-3THU')

数据清洗

  1. df = pd.DataFrame({'From_To': ['LoNDon_paris', 'MAdrid_miLAN', 'londON_StockhOlm', 
  2.                                'Budapest_PaRis', 'Brussels_londOn'],
  3.               'FlightNumber': [10045, np.nan, 10065, np.nan, 10085],
  4.               'RecentDelays': [[23, 47], [], [24, 43, 87], [13], [67, 32]],
  5.                    'Airline': ['KLM(!)', '<Air France> (12)', '(British Airways. )', 
  6.                                '12. Air France', '"Swiss Air"']})
  7. df
  1. FlightNumber列中有些值缺失了，他们本来应该是每一行增加10，填充缺失的数值，并且令数据类型为整数
  1. df['FlightNumber'] = df['FlightNumber'].interpolate().astype(int)
  2. df
  1. 将FromTo列从分开，分成From, To两列，并删除原始列
  1. temp = df.From_To.str.split('_', expand=True)
  2. temp.columns = ['From', 'To']
  3. df = df.join(temp)
  4. df = df.drop('From_To', axis=1)
  5. df
  1. 将From, To大小写统一首字母大写其余小写
  1. df['From'] = df['From'].str.capitalize()
  2. df['To'] = df['To'].str.capitalize()
  3. df
  1. Airline列，有一些多余的标点符号，需要提取出正确的航司名称。举例：’(British Airways. )’ 应该改为 ‘British Airways’.
  1. df['Airline'] = df['Airline'].str.extract('([a-zA-Z\s]+)', expand=False).str.strip()
  2. df
  1. Airline列，数据被以列表的形式录入，但是我们希望每个数字被录入成单独一列，delay_1, delay_2, …没有的用NAN替代。
  1. delays = df['RecentDelays'].apply(pd.Series)
  2. delays.columns = ['delay_{}'.format(n) for n in range(1, len(delays.columns)+1)]
  3. df = df.drop('RecentDelays', axis=1).join(delays)
  4. df

层次化索引

  1. 用 letters = [‘A’, ‘B’, ‘C’]和 numbers = list(range(10))的组合作为系列随机值的层次化索引
  1. letters = ['A', 'B', 'C']
  2. numbers = list(range(4))
  4. mi = pd.MultiIndex.from_product([letters, numbers])
  5. s = pd.Series(np.random.rand(12), index=mi)
  6. s
  1. 检查s是否是字典顺序排序的
  1. s.index.is_lexsorted()
  2. # 方法二
  3. # s.index.lexsort_depth == s.index.nlevels

  1. 选择二级索引为1, 3的行

  2. 对s进行切片操作，取一级索引至B，二级索引从2开始到最后

  1. s.loc[pd.IndexSlice[:'B', 2:]]
  2. # 方法二
  3. # s.loc[slice(None, 'B'), slice(2, None)]
  1. 计算每个一级索引的和（A, B, C每一个的和）
  1. s.sum(level=0)
  2. #方法二
  3. #s.unstack().sum(axis=0)
  1. 交换索引等级，新的Series是字典顺序吗？不是的话请排序
  1. new_s = s.swaplevel(0, 1)
  2. print(new_s)
  3. print(new_s.index.is_lexsorted())
  4. new_s = new_s.sort_index()
  5. print(new_s)

可视化

  1. import matplotlib.pyplot as plt
  2. df = pd.DataFrame({"xs":[1,5,2,8,1], "ys":[4,2,1,9,6]})
  3. plt.style.use('ggplot')
  1. 画出df的散点图
  1. df.plot.scatter("xs", "ys", color = "black", marker = "x")
  1. 可视化指定4维DataFrame
  1. df = pd.DataFrame({"productivity":[5,2,3,1,4,5,6,7,8,3,4,8,9],
  2.                    "hours_in"    :[1,9,6,5,3,9,2,9,1,7,4,2,2],
  3.                    "happiness"   :[2,1,3,2,3,1,2,3,1,2,2,1,3],
  4.                    "caffienated" :[0,0,1,1,0,0,0,0,1,1,0,1,0]})
  6. df.plot.scatter("hours_in", "productivity", s = df.happiness * 100, c = df.caffienated)
  1. 在同一个图中可视化2组数据，共用X轴，但y轴不同
  1. df = pd.DataFrame({"revenue":[57,68,63,71,72,90,80,62,59,51,47,52],
  2.                    "advertising":[2.1,1.9,2.7,3.0,3.6,3.2,2.7,2.4,1.8,1.6,1.3,1.9],
  3.                    "month":range(12)})
  5. ax = df.plot.bar("month", "revenue", color = "green")
  6. df.plot.line("month", "advertising", secondary_y = True, ax = ax)
  7. ax.set_xlim((-1,12));

参考资料 | 100-pandas-puzzles - GitHub | Pandas 百题大冲关

点击此处查看线上运行效果👇

50道练习带你玩转Pandaswww.kesci.com