1200字范文,内容丰富有趣,写作的好帮手!
1200字范文 > python科学计算笔记(十三)pandas的merge concat合并数据集

python科学计算笔记(十三)pandas的merge concat合并数据集

时间:2018-12-28 04:38:49

相关推荐

python科学计算笔记(十三)pandas的merge concat合并数据集

本篇博客主要介绍:

合并数据集:.merge()、.concat()等方法,类似于SQL或其他关系型数据库的连接操作。

合并数据集

1) merge 函数参数

1、多对一的合并(一个表的连接键列有重复值,另一个表中的连接键没有重复值)

import pandas as pdimport numpy as npdf1 = pd.DataFrame({'key':['b','b','a','c','a','a','b'],'data1': range(7)})df1

df2 = pd.DataFrame({'key':['a','b','d'],'data2':range(3)})df2

pd.merge(df1,df2)#默认情况

df1.merge(df2)

df1.merge(df2,on = 'key',how = 'inner')#内连接,取交集

df1.merge(df2,on = 'key',how = 'outer')#外链接,取并集,并用nan填充

df1.merge(df2,on = 'key',how = 'left')#左连接,左侧DataFrame取全部,右侧DataFrame取部分

df1.merge(df2,on = 'key',how = 'right')#右连接,右侧DataFrame取全部,左侧DataFrame取部分

如果左右侧DataFrame的连接键列名不一致,但是取值有重叠,可使用left_on、right_on来指定左右连接键

df3 = pd.DataFrame({'lkey':['b','b','a','c','a','a','b'],'data1': range(7)})df3

df4 = pd.DataFrame({'rkey':['a','b','d'],'data2':range(3)})df4

df3.merge(df4,left_on = 'lkey',right_on = 'rkey',how = 'inner')

2、多对多的合并(一个表的连接键列有重复值,另一个表中的连接键有重复值)

df1 = pd.DataFrame({'key':['b','b','a','c','a','a','b'],'data1': range(7)})df1

df5 = pd.DataFrame({'key':['a','b','a','b','b'],'data2': range(5)})df5

df1.merge(df5)

合并小结

1)默认情况下,会将两个表中相同列名作为连接键

2)多对多,会采用笛卡尔积形式链接(左表连接键有三个值‘1,3,5’,右表有两个值‘2,3’,则会形成,(1,2)(1,3)(3,1),(3,2)。。。6种组合)

3)存在多个连接键的处理

left = pd.DataFrame({'key1':['foo','foo','bar'],'key2':['one','one','two'],'lval':[1,2,3]})right = pd.DataFrame({'key1':['foo','foo','bar','bar'],'key2':['one','one','one','two'],'rval':[4,5,6,7]})

left

right

pd.merge(left,right,on = ['key1','key2'],how = 'outer')

1)连接键是多对多关系,应执行笛卡尔积形式

2)多列应看连接键值对是否一致

4)对连接表中非连接列的重复列名的处理

pd.merge(left,right,on = 'key1')

pd.merge(left,right,on = 'key1',suffixes = ('_left','_right'))

2)索引上的合并

当连接键位于索引中时,成为索引上的合并,可以通过merge函数,传入left_index、right_index来说明应该被索引的情况。

一表中连接键是索引列、另一表连接键是非索引列

left1 = pd.DataFrame({'key':['a','b','a','a','b','c'],'value': range(6)})left1

right1 = pd.DataFrame({'group_val':[3.5,7]},index = ['a','b'])right1

pd.merge(left1,right1,left_on = 'key',right_index = True)

有上可知,left_on、right_on是指定表中非索引列为连接键,left_index、right_index是指定表中索引列为连接键,两者可以组合,是为了区分是否是索引列

两个表中的索引列都是连接键

left2 = pd.DataFrame(np.arange(6).reshape(3,2),index = ['a','b','e'],columns = ['0hio','nevada'])right2 = pd.DataFrame(np.arange(7,15).reshape(4,2),index = ['b','c','d','e'],columns = ['misso','ala'])left2

right2

pd.merge(left2,right2,left_index = True,right_index = True,how = 'outer')

3)轴向连接

在这里展示一种新的连接方法,对应于numpy的concatenate函数,pandas有concat函数

#numpyarr =np.arange(12).reshape(3,4)

arr

array([[ 0, 1, 2, 3],[ 4, 5, 6, 7],[ 8, 9, 10, 11]])

np.concatenate([arr,arr],axis = 1)#横轴连接块

array([[ 0, 1, 2, 3, 0, 1, 2, 3],[ 4, 5, 6, 7, 4, 5, 6, 7],[ 8, 9, 10, 11, 8, 9, 10, 11]])

concat函数参数表格

s1 = pd.Series([0,1,2],index = ['a','b','c'])s2 = pd.Series([2,3,4],index = ['c','f','e'])s3 = pd.Series([4,5,6],index = ['c','f','g'])

pd.concat([s1,s2,s3])#默认并集、纵向连接

a 0 b 1 c 2 c 2 f 3 e 4 c 4 f 5 g 6 dtype: int64

pd.concat([s1,s2,s3],ignore_index = True)#生成纵轴上的并集,索引会自动生成新的一列

0 0 1 1 2 2 3 2 4 3 5 4 6 4 7 5 8 6 dtype: int64

pd.concat([s1,s2,s3],axis = 1,join = 'inner')#纵向取交集,注意该方法对对象表中有重复索引时失效

pd.concat([s1,s2,s3],axis = 1,join = 'outer')#横向索引取并集,纵向索引取交集,注意该方法对对象表中有重复索引时失效

concat函数小结

1)纵向连接,ignore_index = False ,可能生成重复的索引

2)横向连接时,对象索引不能重复

4)合并重叠数据

适用范围:

1)当两个对象的索引有部分或全部重叠时

2)用参数对象中的数据为调用者对象的缺失数据‘打补丁’

a = pd.Series([np.nan,2.5,np.nan,3.5,4.5,np.nan],index = ['a','b','c','d','e','f'])b = pd.Series(np.arange(len(a)),index = ['a','b','c','d','e','f'])

a

a NaNb 2.5c NaNd 3.5e 4.5f NaNdtype: float64

b

a 0b 1c 2d 3e 4f 5dtype: int32

bine_first(b)#利用b填补了a的空值

a 0.0b 2.5c 2.0d 3.5e 4.5f 5.0dtype: float64

a = pd.Series([np.nan,2.5,np.nan,3.5,4.5,np.nan],index = ['g','b','c','d','e','f'])

bine_first(b)#部分索引重叠

a 0.0b 2.5c 2.0d 3.5e 4.5f 5.0g NaNdtype: float64

小结

本篇博客主要讲述了一下内容:

1) merge函数合并数据集

2)concat函数合并数据集

3)combine_first函数,含有重叠索引的缺失值填补

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。