Series
创建
Series是一种类似于一维数组的对象,它由一组数据(各种NumPy数据类型)以及一组与之相关的数据标签(即索引)组成。仅由一组数据即可产生最简单的Series
In [1]: import pandas as pdIn [2]: obj = pd.Series([4, 7, -5, 3])In [3]: objOut[3]:0 41 72 -53 3dtype: int64
Series的字符串表现形式为:索引在左边,值在右边。由于我们没有为数据指定索引,于是会自动创建一个0到N-1(N为数据的长度)的整数型索引。你可以通过Series的 values 和 index 属性获取其数组表示形式和索引对象
In [4]: obj.valuesOut[4]: array([ 4, 7, -5, 3], dtype=int64)In [6]: obj.indexOut[6]: RangeIndex(start=0, stop=4, step=1)
可以看出, pandas中的区间也是左开右闭的, 这跟NumPy是一致的
索引
通常,我们希望所创建的Series带有一个可以对各个数据点进行标记的索引
In [7]: obj2 = pd.Series([4, 7, -5, 3], index=['b', 'd', 'a', 'c'])In [8]: obj2Out[8]:b 4d 7a -5c 3dtype: int64In [9]: obj2.indexOut[9]: Index(['b', 'd', 'a', 'c'], dtype='object')
与普通NumPy数组相比,可以通过索引的方式选取Series中的单个或一组值
In [10]: obj2['a']Out[10]: -5In [11]: obj2['d'] = 6In [12]: obj2[['c', 'a', 'b']]Out[12]:c 3a -5b 4dtype: int64
[‘c’, ‘a’, ‘d’]是索引列表,即使它包含的是字符串而不是整数
运算
使用NumPy函数或类似NumPy的运算(如根据布尔型数组进行过滤、标量乘法、应用数学函数等)都会保留索引值的链接
In [13]: obj2[obj2 > 0]Out[13]:b 4d 6c 3dtype: int64In [14]: obj2 * 2Out[14]:b 8d 12a -10c 6dtype: int64In [15]: import numpy as npIn [16]: np.exp(obj2)Out[16]:b 54.598150d 403.428793a 0.006738c 20.085537dtype: float64
可看作字典
还可以将Series看成是一个定长的有序字典,因为它是索引值到数据值的一个映射。它可以用在许多原本需要字典参数的函数中
In [17]: 'b' in obj2Out[17]: TrueIn [18]: 'e' in obj2Out[18]: False
如果数据被存放在一个Python字典中,也可以直接通过这个字典来创建Series
In [20]: sdata = {'Ohio': 2223, 'Twxa': 30002, 'Oregon': 17002, 'Utah': 23144}In [21]: obj3 = pd.Series(sdata)In [22]: obj3Out[22]:Ohio 2223Twxa 30002Oregon 17002Utah 23144dtype: int64
如果只传入一个字典,则结果Series中的索引就是原字典的键(有序排列)。你可以传入排好序的字典的键以改变顺序
In [23]: states = ['California', 'Ohio', 'Oregon', 'Texas']In [24]: obj4 = pd.Series(sdata, index=states)In [26]: obj4Out[26]:California NaNOhio 2223.0Oregon 17002.0Texas NaNdtype: float64
在这个例子中, sdata 中跟states 索引相匹配的那3个值会被找出来并放到相应的位置上, 但由于”California”所对应的sdata值找不到,所以其结果就为NaN(即“非数字”(not a number),在pandas中, 它用于表示缺失或NA值)。因为‘Utah’不在states 中,它被从结果中除去
我将使用缺失(missing)或NA表示缺失数据。pandas的isnull 和notnull 函数可用于检测缺失数据
In [27]: pd.isnull(obj4)Out[27]:California TrueOhio FalseOregon FalseTexas Truedtype: boolIn [28]: pd.notnull(obj4)Out[28]:California FalseOhio TrueOregon TrueTexas Falsedtype: bool
Series也有类似的实例方法
In [29]: obj4.isnull()Out[29]:California TrueOhio FalseOregon FalseTexas Truedtype: bool
对于许多应用而言,Series最重要的一个功能是,它会根据运算的索引标签自动对齐数据, 这类似于数据库中的join操作
In [30]: obj3Out[30]:Ohio 2223Twxa 30002Oregon 17002Utah 23144dtype: int64In [31]: obj4Out[31]:California NaNOhio 2223.0Oregon 17002.0Texas NaNdtype: float64In [32]: obj3 + obj4Out[32]:California NaNOhio 4446.0Oregon 34004.0Texas NaNTwxa NaNUtah NaNdtype: float64
Series对象本身及其索引都有一个name属性,该属性跟pandas其他的关键功能关系非常密切
In [5]: obj4.name = 'population'In [6]: obj4.index.name = 'state'In [7]: obj4Out[7]:stateCalifornia NaNOiho NaNOregon 16000.0Texas 71000.0Name: population, dtype: float64
Series的索引可以通过赋值的方式就地修改
In [8]: obj4.index = [1,2,3,4]In [9]: obj4Out[9]:1 NaN2 NaN3 16000.04 71000.0Name: population, dtype: float64
DataFrame
DataFrame是一个表格型的数据结构,它含有一组有序的列,每列可以是不同的值类型(数值、字符串、布尔值等)。DataFrame既有行索引也有列索引,它可以被看做由Series组成的字典(共用同一个索引)。DataFrame中的数据是以一个或多个二维块存放的(而不是列表、字典或别的一维数据结构)
创建
建DataFrame的办法有很多, 最常用的一种是直接传入一个由等长列表或NumPy数组组成的字典
In [10]: data = {'state': ['Ohio', 'Ohio', 'Ohio', 'Nevada', 'Nevada', 'Nevada'],...: 'year': [2000, 2001, 2002, 2001, 2002, 2003],...: 'pop': [1.5, 1.7, 3.6, 2.4, 2.9, 3.2]}In [11]: frame = pd.DataFrame(data)In [12]: frameOut[12]:state year pop0 Ohio 2000 1.51 Ohio 2001 1.72 Ohio 2002 3.63 Nevada 2001 2.44 Nevada 2002 2.95 Nevada 2003 3.2
对于特别大的DataFrame,head 方法会选取前五行
In [13]: frame.head()Out[13]:state year pop0 Ohio 2000 1.51 Ohio 2001 1.72 Ohio 2002 3.63 Nevada 2001 2.44 Nevada 2002 2.9
指定列名
如果指定了列序列,则DataFrame的列就会按照指定顺序进行排列
In [14]: pd.DataFrame(data, columns=['year', 'state', 'pop'])Out[14]:year state pop0 2000 Ohio 1.51 2001 Ohio 1.72 2002 Ohio 3.63 2001 Nevada 2.44 2002 Nevada 2.95 2003 Nevada 3.2
如果传入的列在数据中找不到, 就会在结果中产生缺失值
In [16]: frame2 = pd.DataFrame(data, columns=['year', 'state', 'pop', 'debt'],...: index=['one', 'two', 'three', 'four', 'five',...: 'six'])In [17]: frame2Out[17]:year state pop debtone 2000 Ohio 1.5 NaNtwo 2001 Ohio 1.7 NaNthree 2002 Ohio 3.6 NaNfour 2001 Nevada 2.4 NaNfive 2002 Nevada 2.9 NaNsix 2003 Nevada 3.2 NaNIn [19]: frame2.columnsOut[19]: Index(['year', 'state', 'pop', 'debt'], dtype='object')
索引
通过类似字典标记的方式或属性的方式,可以将DataFrame的列获取为一个Series
In [20]: frame2['state']Out[20]:one Ohiotwo Ohiothree Ohiofour Nevadafive Nevadasix NevadaName: state, dtype: objectIn [21]: frame2.yearOut[21]:one 2000two 2001three 2002four 2001five 2002six 2003Name: year, dtype: int64
笔记: IPython提供了类似属性的访问(即frame2.year) 和tab补全。 frame2[column]适用于任何列的名, 但是frame2.column只有在列名是一个合理的Python变量名时才适用
注意,返回的Series拥有原DataFrame相同的索引,且其 name 属性也已经被相应地设置好了。行也可以通过位置或名称的方式进行获取, 比如用 loc 属性
In [22]: frame2.loc['three']Out[22]:year 2002state Ohiopop 3.6debt NaNName: three, dtype: object
列可以通过赋值的方式进行修改。例如,我们可以给那个空的”debt“列赋上一个标量值或一组值
In [23]: frame2['debt'] = 16.5In [24]: frame2Out[24]:year state pop debtone 2000 Ohio 1.5 16.5two 2001 Ohio 1.7 16.5three 2002 Ohio 3.6 16.5four 2001 Nevada 2.4 16.5five 2002 Nevada 2.9 16.5six 2003 Nevada 3.2 16.5In [25]: import numpy as npIn [26]: frame2['debt'] = np.arange(6.)In [27]: frame2Out[27]:year state pop debtone 2000 Ohio 1.5 0.0two 2001 Ohio 1.7 1.0three 2002 Ohio 3.6 2.0four 2001 Nevada 2.4 3.0five 2002 Nevada 2.9 4.0six 2003 Nevada 3.2 5.0
将列表或数组赋值给某个列时,其长度必须跟DataFrame的长度相匹配。如果赋值的是一个Series,就会精确匹配DataFrame的索引,所有的空位都将被填上缺失值
In [28]: val = pd.Series([-1.2, -1.5, -1.7], index=['two', 'four', 'five'])In [29]: frame2['debt'] = valIn [30]: frame2Out[30]:year state pop debtone 2000 Ohio 1.5 NaNtwo 2001 Ohio 1.7 -1.2three 2002 Ohio 3.6 NaNfour 2001 Nevada 2.4 -1.5five 2002 Nevada 2.9 -1.7six 2003 Nevada 3.2 NaN
删除列
为不存在的列赋值会创建出一个新列。关键字 del 用于删除列
In [31]: frame2['eastern'] = frame2.state == 'Ohio'In [32]: frame2Out[32]:year state pop debt easternone 2000 Ohio 1.5 NaN Truetwo 2001 Ohio 1.7 -1.2 Truethree 2002 Ohio 3.6 NaN Truefour 2001 Nevada 2.4 -1.5 Falsefive 2002 Nevada 2.9 -1.7 Falsesix 2003 Nevada 3.2 NaN FalseIn [33]: del frame2['eastern']In [34]: frame2.columnsOut[34]: Index(['year', 'state', 'pop', 'debt'], dtype='object')
注意: 通过索引方式返回的列只是相应数据的视图而已, 并不是副本。 因此, 对返回的Series所做的任何就地修改全都会反映到源DataFrame上。 通过Series的copy方法即可指定复制列
嵌套字典初始化
另一种常见的数据形式是嵌套字典。如果嵌套字典传给DataFrame,pandas就会被解释为:外层字典的键作为列,内层键则作为行索引
In [35]: pop = {'Nevada': {2001: 2.4, 2002: 2.9},...: 'Ohio': {2000: 1.5, 2001: 1.7, 2002: 3.6}}In [36]: frame3 = pd.DataFrame(pop)In [37]: frame3Out[37]:Nevada Ohio2001 2.4 1.72002 2.9 3.62000 NaN 1.5
你也可以使用类似NumPy数组的方法,对DataFrame进行转置
In [38]: frame.TOut[38]:0 1 2 3 4 5state Ohio Ohio Ohio Nevada Nevada Nevadayear 2000 2001 2002 2001 2002 2003pop 1.5 1.7 3.6 2.4 2.9 3.2
内层字典的键会被合并、排序以形成最终的索引。如果明确指定了索引,则不会这样
In [39]: pd.DataFrame(pop, index=[2001, 2002, 2003])Out[39]:Nevada Ohio2001 2.4 1.72002 2.9 3.62003 NaN NaN
由Series组成的字典差不多也是一样的用法
In [40]: pdata = {'Ohio': frame3['Ohio'][:-1],...: 'Nevada': frame3['Nevada'][:2]}In [41]: pd.DataFrame(pdata)Out[41]:Ohio Nevada2001 1.7 2.42002 3.6 2.9
DataFrame构造函数所能接受的各种数据如下表
跟Series一样,values 属性也会以二维ndarray的形式返回DataFrame中的数据
In [43]: frame3.valuesOut[43]:array([[2.4, 1.7],[2.9, 3.6],[nan, 1.5]])
如果DataFrame各列的数据类型不同,则值数组的dtype就会选用能兼容所有列的数据类型
In [44]: frame2.valuesOut[44]:array([[2000, 'Ohio', 1.5, nan],[2001, 'Ohio', 1.7, -1.2],[2002, 'Ohio', 3.6, nan],[2001, 'Nevada', 2.4, -1.5],[2002, 'Nevada', 2.9, -1.7],[2003, 'Nevada', 3.2, nan]], dtype=object)
索引对象
pandas的索引对象负责管理轴标签和其他元数据(比如轴名称等)。构建 Series 或DataFrame 时, 所用到的任何数组或其他序列的标签都会被转换成一个 Index
In [3]: obj = pd.Series(range(3), index=['a', 'b', 'c'])In [6]: index = obj.indexIn [7]: index[1:]Out[7]: Index(['b', 'c'], dtype='object')
Index 对象是不可变的,因此用户不能对其进行修改
index[1] = 'd' # TypeError
不可变可以使 Index 对象在多个数据结构之间安全共享
In [9]: labels = pd.Index(np.arange(3))In [10]: labelsOut[10]: Int64Index([0, 1, 2], dtype='int64')In [11]: obj2 = pd.Series([1.5, 2.2, 3.1], index=labels)In [12]: obj2Out[12]:0 1.51 2.22 3.1dtype: float64In [13]: obj2.index is labelsOut[13]: True
注意:虽然用户不需要经常使用Index的功能,但是因为一些操作会生成包含被索引化的数据,理解它们的工作原理是很重要的
除了类似于数组, Index 的功能也类似一个固定大小的集合
In [14]: frame3Out[14]:state Nevada Ohioyear2000 NaN 1.52001 2.4 1.72002 2.9 3.6In [15]: frame3.columnsOut[15]: Index(['Nevada', 'Ohio'], dtype='object', name='state')In [16]: 'Ohio' in frame3.columnsOut[16]: TrueIn [17]: 2003 in frame3.indexOut[17]: False
与python的集合不同,pandas的 Index 可以包含重复的标签
In [14]: dup_labels = pd.Index(['foo', 'foo', 'bar', 'bar'])In [15]: dup_labelsOut[15]: Index(['foo', 'foo', 'bar', 'bar'], dtype='object')
下表是每一个索引的方法和属性
