知识点
在全美婴儿名字案例中，使用到的方法有：
按照sex分组按照births属性求和：groupby("sex").births.sum()
concat()用法：第一个参数以列表形式添加
pivot_table透视表制作
image.png
直接添加某列属性diff：group['diff']=group['M] - group['F']
apply()用法
查看DF数据信息：info()
不同方式绘制可视图：
image.png
image.png
查看DF数据框中的所有信息value，除去索引和属性
累计求和：cumsum()
归一化后寻找某个分界点的位置：searchsorted(0.5)
对df中的name属性使用func函数：df.name.map(func)
归一化处理：df/df.sum()
挑选不重复元素：unique()
字符串转化：str.lower()：一定还要带上str
字符串中是否包含：str.contains()
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
# 创建数据指定列属性
data = pd.read_csv(r'D:\Python\datalearning\利用Python进行数据分析\pydata-book\datasets\babynames\yob1880.txt',
names=['name', 'sex', 'births'])
data.head()
image.png
# groupby使用：通过指定一个属性来求另一个的和
data.groupby('sex').births.sum()
image.png
# 同一个路径下面，多个TXT文件合并封装到一个DF里面
years = range(1880, )
pieces = []
columns = ['name', 'sex', 'births']
for year in years:
path = r'D:\Python\datalearning\利用Python进行数据分析\pydata-book\datasets\babynames\yob{}.txt'.format(year)
frame = pd.read_csv(path, names=columns)
# 增加一列数据，属性是year；frame['year']中的
frame['year'] = year
pieces.append(frame)
# concat方法：默认按行组合，加上ignore_index=True取消原始行号
# concat 第一个参数必须是序列或者S或者DF数据，并且是列表的形式
# 上面将所有的frame放进pieces中
names = pd.concat(pieces, ignore_index=True)
image.png
数据透视pivot_table
total_births = names.pivot_table('births', index='year', columns='sex', aggfunc=sum)
total_births.head()
image.png
增加一列数据
# prop列相当于是指定名字相对于总出生数的比例
def add_group(group):
group['prop'] = group.births / group.births.sum()
return group
# 先分组，再利用函数求比例
names = names.groupby(['year', 'sex']).apply(add_group)
names.groupby(['year', 'sex']).prop.sum().head()
image.png
image.png
# DIY模式
pieces = []
for year, group in grouped:
pieces.append(group.sort_values(by='births', ascending=False)[:1000])
top1000 = pd.concat(pieces, ignore_index=True)
分析命名趋势
image.png
# 挑选出4个名字
subset = total_births[['John', 'Harry', 'Mary', 'Marilyn']]
subset.head()
# 绘图
subset.plot(subplots=True, figsize=(12, 10), grid=False,
title="Number of births per year")
image.png
计算最流行的1000个名字的比例，按照year和sex聚合并绘图
table = top1000.pivot_table("prop", index='year',
columns='sex', aggfunc=sum)
table.plot(title='Sum of table1000.prop by year and sex',
yticks=np.linspace(0, 1.2, 13), xticks=range(1880, , 10))
image.png
# 统计男孩的名字；prop的降序排列
df = boys[boys.year == ]
df.head(20)
# prop降序之后，通过累计求和，找出哪些名字加起来等于0.5
# cumsum()累计求和
prop_cumsum = df.sort_values(by='prop', ascending=False).prop.cumsum()
prop_cumsum[:10]
image.png
diversity = top1000.groupby(['year', 'sex']).apply(get_quantile_count)
diversity = diversity.unstack('sex')
image.png
最后一个字母的变革
# 定义一个lambda函数，得到最后一个字母
get_last_letter = lambda x: x[-1]
# 通过map函数将上面的lambda应用在其中
last_letters = names.name.map(get_last_letter)
# 给last_letters命名为last_letter
last_letters.name = 'last_letter'
table = names.pivot_table('births', index=last_letters,
columns=['sex', 'year'], aggfunc=sum)
# 归一化处理
letter_prop = subtable / subtable.sum()
letter_prop
fig, axes = plt.subplots(2,1,figsize=(10 ,8))
letter_prop['M'].plot(kind='bar', rot=0, ax=axes[0], title='Male')
letter_prop['F'].plot(kind='bar', rot=0, ax=axes[1], title='Female',legend=False)
image.png
image.png
image.png
男孩名字变成女孩名字
# unique找出所有不重复的名字
all_names = pd.Series(top1000.name.unique())
# 先把名字变成小写，再看是否包含lesl
lesley_like = all_names[all_names.str.lower().str.contains('lesl')]
# 通过isin来过滤其他名字
filtered = top1000[top1000.name.isin(lesley_like)]
# 通过name属性来分组，再选择根据births属性来统计求和
filtered.groupby('name').births.sum()
image.png
# 按照性别和年度进行聚合，年度进行规范化处理
table = filtered.pivot_table("births", index='year',
columns='sex', aggfunc='sum')
table = table.div(table.sum(1), axis=0)
table.tail()
image.png
