Python 数据科学之 Pandas

生成 Series 数据

用值列表生成 Series 时,Pandas 默认自动生成整数索引:

import numpy as np
import pandas as pd

s = pd.Series([1, 3, 5, np.nan, 6, 8])
s

# Output
0    1.0
1    3.0
2    5.0
3    NaN
4    6.0
5    8.0
dtype: float64

用含日期时间索引与标签的 NumPy 数组生成 DataFrame:

dates = pd.date_range('20130101', periods=6)
dates

# Output
DatetimeIndex(['2013-01-01', '2013-01-02', '2013-01-03', '2013-01-04', '2013-01-05', '2013-01-06'],
              dtype='datetime64[ns]', freq='D')
df = pd.DataFrame(np.random.randn(6, 4), index=dates, columns=list('ABCD'))
df

Output:

g8L67dJkXB.png!large

用 Series 字典对象生成 DataFrame:

df2 = pd.DataFrame({'A': 1.,
                    'B': pd.Timestamp('20130102'),
                    'C': pd.Series(1, index=list(range(4)), dtype='float32'),
                    'D': np.array([3] * 4, dtype='int32'),
                    'E': pd.Categorical(["test", "train", "test", "train"]),
                    'F': 'foo'})
df2

Output:

3BTyaQnboC.png!large

DataFrame 的列有不同数据类型:

df2.dtypes

# Output
A           float64
B    datetime64[ns]
C           float32
D             int32
E          category
F            object
dtype: object

IPython支持 tab 键自动补全列名与公共属性。下面是部分可自动补全的属性:

  • df2.A
  • df2.abs
  • df2.add
  • df2.add_prefix
  • df2.add_suffix
  • df2.align
  • df2.all
  • df2.any
  • df2.append
  • df2.apply
  • df2.applymap
  • df2.D
  • df2.bool
  • df2.boxplot
  • df2.C
  • df2.clip
  • df2.clip_lower
  • df2.clip_upper
  • df2.columns
  • df2.combine
  • df2.combine_first
  • df2.compound
  • df2.consolidate

列 A、B、C、D 和 E 都可以自动补全;为简洁起见,此处只显示了部分属性。

查看数据

# 查看 DataFrame 头部数据
df.head()
# 查看 DataFrame 尾部数据
df.tail(3)
# 显示索引
df.index
# 显示列名
df.columns
# 显示值
df.values
# 快速查看数据的统计摘要
df.describe()
# 转制数据
df.T
# 按轴排序
df.sort_index(axis=1, ascending=False)
# 按值排序
df.sort_values(by='B')

获取数据

选择

提醒
选择、设置标准 Python / Numpy 的表达式已经非常直观,交互也很方便,但对于生产代码,我们还是推荐优化过的 Pandas 数据访问方法:.at.iat.loc.iloc

详见索引与选择数据多层索引与高级索引文档。

# 选择单列,产生 Series,与 `df.A` 等效
df['A']

# Output
2013-01-01   -1.208257
2013-01-02   -1.102261
2013-01-03   -0.059864
2013-01-04    0.644392
2013-01-05   -1.350474
2013-01-06    1.402061
Freq: D, Name: A, dtype: float64

按标签选择

# 用标签提取一行数据
df.loc[dates[0]]

# Output
A   -1.208257
B    2.018486
C    0.679159
D   -0.587707
Name: 2013-01-01 00:00:00, dtype: float64

# 用标签选择多列数据
df.loc[:, ['A', 'B']]

Output:

RCRhvI3xvI.png!large

用标签切片,包含行与列结束点

df.loc['20130102':'20130104', ['A', 'B']]

Output:

jnuLtQhyQB.png!large

# 返回对象降维
df.loc['20130102', ['A', 'B']]

# Output
A   -1.102261
B   -0.538013
Name: 2013-01-02 00:00:00, dtype: float64

# 提取标量值
df.loc[dates[0], 'A']
# Output
-1.2082567185245703

# 快速访问标量,与 loc 等效
df.at[dates[0], 'A']
# Output
-1.2082567185245703

按位置选择

用整数位置选择:

df.iloc[3]
# Output
A    0.644392
B    0.316984
C   -0.583878
D    1.197701
Name: 2013-01-04 00:00:00, dtype: float64

# 类似 NumPy / Python,用整数切片:
df.iloc[3:5, 0:2]

Output:

jbyTpc2Qd2.png!large

# 类似 NumPy / Python,用整数列表按位置切片:
df.iloc[[1, 2, 4], [0, 2]]

Output:

deNdaxNFVZ.png!large

# 显式整行切片
df.iloc[1:3, :]

Output:

Nb05QkAKX0.png!large

# 显式整列切片
df.iloc[:, 1:3]

Output:

xwcvYg60G2.png!large

# 显式提取值
df.iloc[1, 1]
# Output
-0.5380131662468983

# 快速访问标量 等效与 iloc
df.iat[1, 1]
# Output
-0.5380131662468983

布尔索引

# 用单列的值选择数据
df[df.A > 0]

Output:

JcVK9eOp0u.png!large

# 选择 DataFrame 里满足条件的值
df[df > 0]

Output:

5jiMFbWtUd.png!large

# 用 isin() 筛选
df2 = df.copy()
df2['E'] = ['one', 'one', 'two', 'three', 'four', 'three']
df2

Output:

CJHGC7j8Df.png!large

df2[df2['E'].isin(['two', 'four'])]

Output:

ft45HGgwuI.png!large

赋值

用索引自动对齐新增列的数据:

s1 = pd.Series([1, 2, 3, 4, 5, 6], index=pd.date_range('20130102', periods=6))
s1
# Output
2013-01-02    1
2013-01-03    2
2013-01-04    3
2013-01-05    4
2013-01-06    5
2013-01-07    6
Freq: D, dtype: int64
df['F'] = s1

# 按标签赋值
df.at[dates[0], 'A'] = 0

# 按位置赋值
df.iat[0, 1] = 0

# 按 NumPy 数组赋值
df.loc[:, 'D'] = np.array([5] * len(df))

df

Output:

yDjUAIDcqT.png!large

# 用 where 条件赋值
df2 = df.copy()
df2[df2 > 0] = -df2
df2

Output:

GPXS5RHsgK.png!large

缺失值

Pandas 主要用 np.nan 表示缺失数据。 计算时,默认不包含空值。详见缺失数据

重建索引(reindex)可以更改、添加、删除指定轴的索引,并返回数据副本,即不更改原数据。

df1 = df.reindex(index=dates[0:4], columns=list(df.columns) + ['E'])
df1.loc[dates[0]:dates[1], 'E'] = 1
df1

Output:

Qtmaax1jjc.png!large

# 删除所有含缺失值的行
df1.dropna(how='any')

Output:

Gz8BsFnyO9.png!large

# 填充缺失值
df1.fillna(value=5)

Output:

lemZ9okPNR.png!large

# 提取 nan 值的布尔掩码
pd.isna(df1)

q8ihVuRn5v.png!large

运算

二进制操作

统计

一般情况下,运算时排除缺失值。
描述性统计:

df.mean()
# Output
A   -0.077691
B    0.049952
C    0.017299
D    5.000000
F    3.000000
dtype: float64

# 在另一个轴(即,行)上执行同样的操作
df.mean(1)

# Output
2013-01-01    1.419790
2013-01-02    0.650095
2013-01-03    1.482753
2013-01-04    1.675500
2013-01-05    1.271426
2013-01-06    2.771865
Freq: D, dtype: float64

# 不同维度对象运算时,要先对齐。 此外,Pandas 自动沿指定维度广播
s = pd.Series([1, 3, 5, np.nan, 6, 8], index=dates).shift(2)
s

# Output
2013-01-01    NaN
2013-01-02    NaN
2013-01-03    1.0
2013-01-04    3.0
2013-01-05    5.0
2013-01-06    NaN
Freq: D, dtype: float64
df.sub(s, axis='index')

ghJIHT5WNs.png!large

Apply 函数

Apply 函数处理数据:

df.apply(np.cumsum)

Output:

0seYJYIl9m.png!large

df.apply(lambda x: x.max() - x.min())
# Output
A    2.752535
B    1.907837
C    2.480673
D    0.000000
F    4.000000
dtype: float64

直方图

s = pd.Series(np.random.randint(0, 7, size=10))
s
# Output
0    2
1    5
2    1
3    6
4    0
5    0
6    6
7    0
8    6
9    3
dtype: int64

s.value_counts()
# Output
6    3
0    3
5    1
3    1
2    1
1    1
dtype: int64

字符串方法

Series 的 str 属性包含一组字符串处理功能,如下列代码所示。注意,str 的模式匹配默认使用正则表达式。详见矢量字符串方法

s = pd.Series(['A', 'B', 'C', 'Aaba', 'Baca', np.nan, 'CABA', 'dog', 'cat'])
s.str.lower()

# Output
0       a
1       b
2       c
3    aaba
4    baca
5     NaN
6    caba
7     dog
8     cat
dtype: object

合并(Merge)

结合(Concat)

Pandas 提供了多种将 Series、DataFrame 对象组合在一起的功能,用索引与关联代数功能的多种设置逻辑可执行连接(join)与合并(merge)操作。
concat() 用于连接 Pandas 对象:

df = pd.DataFrame(np.random.randn(10, 4))
df

Output:

9bwun04Kwv.png!large

# 分解为多组
pieces = [df[:3], df[3:7], df[7:]]
pd.concat(pieces)

Output:

BoAaEWjlvl.png!large

连接(join)

SQL 风格的合并。 详见数据库风格连接

left = pd.DataFrame({'key': ['foo', 'foo'], 'lval': [1, 2]})
right = pd.DataFrame({'key': ['foo', 'foo'], 'rval': [4, 5]})
left

Output:

y3tGls7CLh.png!large

right

Output:

Se9E58C2Y5.png!large

合并

pd.merge(left, right, on='key')

Output:

rWkY2C5nMJ.png!large

left = pd.DataFrame({'key': ['foo', 'bar'], 'lval': [1, 2]})
right = pd.DataFrame({'key': ['foo', 'bar'], 'rval': [4, 5]})
left

Output:

nKRdhLKPIL.png!large

right

Output:

nzKj5fPyiy.png!large

pd.merge(left, right, on='key')

Output:

4kGughhZtq.png!large

追加(Append)

为 DataFrame 追加行。

df = pd.DataFrame(np.random.randn(8, 4), columns=['A', 'B', 'C', 'D'])
df

Output:

d9K85QG1PF.png!large

s = df.iloc[3]
df.append(s, ignore_index=True)

Output:

X1jZEdQrQV.png!large

分组(Grouping)

“group by” 指的是涵盖下列一项或多项步骤的处理流程:

  • 分割:按条件把数据分割成多组;
  • 应用:为每组单独应用函数;
  • 组合:将处理结果组合成一个数据结构。
    df = pd.DataFrame({'A': ['foo', 'bar', 'foo', 'bar',
                           'foo', 'bar', 'foo', 'foo'],
                     'B': ['one', 'one', 'two', 'three',
                           'two', 'two', 'one', 'three'],
                     'C': np.random.randn(8),
                     'D': np.random.randn(8)})
    df

Output:

jokSA5WrRO.png!large

# 先分组,再用 sum()函数计算每组的汇总数据
df.groupby('A').sum()

Output:

JlyJMFM3jJ.png!large

多列分组后,生成多层索引,也可以应用 sum 函数:

df.groupby(['A', 'B']).sum()

xg47rAEH3t.png!large

重塑(Reshaping)

详见多层索引重塑

堆叠(Stack)

tuples = list(zip(*[['bar', 'bar', 'baz', 'baz',
                     'foo', 'foo', 'qux', 'qux'],
                    ['one', 'two', 'one', 'two',
                     'one', 'two', 'one', 'two']]))
index = pd.MultiIndex.from_tuples(tuples, names=['first', 'second'])
df = pd.DataFrame(np.random.randn(8, 2), index=index, columns=['A', 'B'])
df2 = df[:4]
df2

Output:

cCZEu3qXwj.png!large

stack()方法把 DataFrame 列压缩至一层:

stacked = df2.stack()
stacked
# Output
first  second
bar    one     A   -0.282081
               B   -1.133788
       two     A   -0.225216
               B   -1.659150
baz    one     A    0.281171
               B   -2.048107
       two     A    0.697422
               B   -1.202862
dtype: float64

压缩后的 DataFrame 或 Series 具有多层索引, stack() 的逆操作是 unstack(),默认为拆叠最后一层:

stacked.unstack()

Output:

OWN6HYH8fA.png!large

stacked.unstack(1)

Output:

EpeoLck9oA.png!large

stacked.unstack(0)

Output:

tHkJ4RX2qm.png!large

数据透视表(Pivot Tables)

df = pd.DataFrame({'A': ['one', 'one', 'two', 'three'] * 3,
                   'B': ['A', 'B', 'C'] * 4,
                   'C': ['foo', 'foo', 'foo', 'bar', 'bar', 'bar'] * 2,
                   'D': np.random.randn(12),
                   'E': np.random.randn(12)})
df

Output:

7DNWHPSRbm.png!large

用上述数据生成数据透视表非常简单:

pd.pivot_table(df, values='D', index=['A', 'B'], columns=['C'])

Output:

Qij7OwKuNE.png!large

时间序列(TimeSeries)

Pandas 为频率转换时重采样提供了虽然简单易用,但强大高效的功能,如,将秒级的数据转换为 5 分钟为频率的数据。这种操作常见于财务应用程序,但又不仅限于此。

rng = pd.date_range('1/1/2012', periods=100, freq='S')
ts = pd.Series(np.random.randint(0, 500, len(rng)), index=rng)
ts.resample('5Min').sum()

# Output
2012-01-01    27830
Freq: 5T, dtype: int64

# 时区表示
rng = pd.date_range('3/6/2012 00:00', periods=5, freq='D')
ts = pd.Series(np.random.randn(len(rng)), rng)
ts

# Output
2012-03-06   -0.122874
2012-03-07    3.048883
2012-03-08    0.974570
2012-03-09    0.676963
2012-03-10    1.857628
Freq: D, dtype: float64

ts_utc = ts.tz_localize('UTC')
ts_utc

# Output
2012-03-06 00:00:00+00:00   -0.122874
2012-03-07 00:00:00+00:00    3.048883
2012-03-08 00:00:00+00:00    0.974570
2012-03-09 00:00:00+00:00    0.676963
2012-03-10 00:00:00+00:00    1.857628
Freq: D, dtype: float64

# 转换成其它时区
ts_utc.tz_convert('US/Eastern')

# Output
2012-03-05 19:00:00-05:00   -0.122874
2012-03-06 19:00:00-05:00    3.048883
2012-03-07 19:00:00-05:00    0.974570
2012-03-08 19:00:00-05:00    0.676963
2012-03-09 19:00:00-05:00    1.857628
Freq: D, dtype: float64

# 转换时间段
rng = pd.date_range('1/1/2012', periods=5, freq='M')
ts = pd.Series(np.random.randn(len(rng)), index=rng)
ts

# Output
2012-01-31   -1.263639
2012-02-29   -0.101891
2012-03-31   -0.578687
2012-04-30   -1.472608
2012-05-31    0.565977
Freq: M, dtype: float64

ps = ts.to_period()
ps

# Output
2012-01   -1.263639
2012-02   -0.101891
2012-03   -0.578687
2012-04   -1.472608
2012-05    0.565977
Freq: M, dtype: float64

ps.to_timestamp()

# Output
2012-01-01   -1.263639
2012-02-01   -0.101891
2012-03-01   -0.578687
2012-04-01   -1.472608
2012-05-01    0.565977
Freq: MS, dtype: float64

Pandas 函数可以很方便地转换时间段与时间戳。下例把以 11 月为结束年份的季度频率转换为下一季度月末上午 9 点:

prng = pd.period_range('1990Q1', '2000Q4', freq='Q-NOV')
ts = pd.Series(np.random.randn(len(prng)), prng)
ts.index = (prng.asfreq('M', 'e') + 1).asfreq('H', 's') + 9
ts.head()

# Output
1990-03-01 09:00   -1.147739
1990-06-01 09:00    1.924324
1990-09-01 09:00   -0.451538
1990-12-01 09:00    0.978331
1991-03-01 09:00   -0.419933
Freq: H, dtype: float64

类别型(Categoricals)

Pandas 的 DataFrame 里可以包含类别数据。API 文档

df = pd.DataFrame({"id": [1, 2, 3, 4, 5, 6],
                   "raw_grade": ['a', 'b', 'b', 'a', 'a', 'e']})
# 将 grade 的原生数据转换为类别型数据
df["grade"] = df["raw_grade"].astype("category")
df["grade"]

# Output
0    a
1    b
2    b
3    a
4    a
5    e
Name: grade, dtype: category
Categories (3, object): [a, b, e]

用有含义的名字重命名不同类型,调用 Series.cat.categories

df["grade"].cat.categories = ["very good", "good", "very bad"]

重新排序各类别,并添加缺失类,Series.cat 的方法默认返回新 Series。

df["grade"] = df["grade"].cat.set_categories(["very bad", "bad", "medium",
                                              "good", "very good"])
df["grade"]

# Output
0    very good
1         good
2         good
3    very good
4    very good
5     very bad
Name: grade, dtype: category
Categories (5, object): [very bad, bad, medium, good, very good]

注意,这里是按生成类别时的顺序排序,不是按词汇排序:

df.sort_values(by="grade")

Output:

zxoLlqtb9C.png!large

按类列分组(groupby)时,即便某类别为空,也会显示:

df.groupby("grade").size()

# Output
grade
very bad     1
bad          0
medium       0
good         2
very good    3
dtype: int64

可视化

ts = pd.Series(np.random.randn(1000),
               index=pd.date_range('1/1/2000', periods=1000))
ts = ts.cumsum()
ts.plot()

Output:

<matplotlib.axes._subplots.AxesSubplot at 0x11a89e240>

tCs2ikEZl9.png!large

DataFrame 的 plot() 方法可以快速绘制所有带标签的列:

df = pd.DataFrame(np.random.randn(1000, 4), index=ts.index,
                  columns=['A', 'B', 'C', 'D'])
df = df.cumsum()
import matplotlib.pyplot as plt
plt.figure()
df.plot()
plt.legend(loc='best')

Output:

<matplotlib.legend.Legend at 0x11c9dc198>
<Figure size 432x288 with 0 Axes>

lfKZLaDAvp.png!large

数据输入 / 输出

CSV

# 写入 CSV 文件
df.to_csv('foo.csv')

# 读取 CSV 文件数据
pd.read_csv('foo.csv')

HDF5

# 写入 HDF5 Store
df.to_hdf('foo.h5', 'df')

# 读取 HDF5 Store
pd.read_hdf('foo.h5', 'df')

Excel

# 写入 Excel 文件
df.to_excel('foo.xlsx', sheet_name='Sheet1')

# 读取 Excel 文件
pd.read_excel('foo.xlsx', 'Sheet1', index_col=None, na_values=['NA'])

各种坑(Gotchas)

执行某些操作,将触发异常,如:

>>> if pd.Series([False, True, False]):
...    print("I was true")

Traceback
    ...
ValueError: The truth value of an array is ambiguous. Use a.empty, a.any() or a.all().

参阅比较操作文档,查看错误提示与解决方案。详见各种坑文档。Pandas

本作品采用《CC 协议》,转载必须注明作者和本文链接

不要试图用百米冲刺的方法完成马拉松比赛。

讨论数量: 0
(= ̄ω ̄=)··· 暂无内容!

请勿发布不友善或者负能量的内容。与人为善,比聪明更重要!