Python Pandas pivot_table在枢轴后缺少列

时间:2014-10-17 18:23:07

标签: python pandas dataframe pivot-table

我有以下数据框。通过读取csv文件来构造数据框。它是一个大型数据集但是出于这个问题的目的,我使用了数据集中的15行作为示例。

   user_id   contrib_count   total_min_length     group_space     expert_level
0     23720        108           1112696               0             l-2
1     23720         13            442059               1             l-2
2     23720         12             32180               2             l-2
3     23720          2             20177               3             l-2
4     23720          1              1608              10             l-2
5   1265184         71            260186               0             l-G
6   1265184         10              3466               2             l-G
7   1265184          1             12081               4             l-G
8    513380        112           1049311               0             l-4
9    513380          1                97               1             l-4
10   513380        113            361980               2             l-4
11   513380         19           1198323               3             l-4
12   513380          2             88301               4             l-4
13    20251        705          17372707               0             l-G
14    20251        103           2327178               1             l-G

预期结果 在枢轴之后我想要的是跟随数据框:

group_space        0      1     2     3     4     5    6   7    8   9    10  expert_level
user_id
20251             705    103    68    24    18     2    6 NaN  NaN   5   22     l-G                                                                  
23720             108     13    12     2   NaN   NaN  NaN NaN  NaN NaN    1     l-2

我这样做的原因一旦我这样做,我就可以将它用于预测任务,其中expert_level作为标签数据。

到目前为止,我已经完成了构建上面的矩阵,但是我无法获得枢轴后显示的expert_level列。

这就是我所做的:

class GroupAnalysis():

    def __init__(self):
        self.df = None
        self.filelocation = '~/somelocation/x.csv'

    def pivot_dataframe(self):

        raw_df = pd.read_csv(self.filelocation)
        self.df = raw_df[(raw_df['group_space'] < 11)]
        self.df.set_index(['user_id', 'group_space'], inplace=True)
        self.df = self.df['contrib_count'].unstack()

通过这样做我得到:

group_space        0      1     2     3     4     5    6   7    8   9    10
user_id
20251             705    103    68    24    18     2    6 NaN  NaN   5   22                                                                
23720             108     13    12     2   NaN   NaN  NaN NaN  NaN NaN    1 

正如您所见,我最后缺少 expert_level列。所以问题是我如何使用expert_level获得数据框,如我在“预期结果”中所示?

1 个答案:

答案 0 :(得分:1)

当你取消堆叠时,你只是卸载了一系列的contrib_count - expert_level和total_min_length已经消失了。

您可以使用.pivot()

,而不是设置索引和取消堆栈
pivoted = df.pivot('user_id', 'group_space', 'contrib_count')

然后,创建一个框架,其中user_id作为索引,expert_level作为列,删除重复项:

lookup = df.drop_duplicates('user_id')[['user_id', 'expert_level']]
lookup.set_index(['user_id'], inplace=True)

然后加入您的支点并查找

result = pivoted.join(lookup)

编辑: 如果您还想包含'total_min_length',则可以进行第二次调整:

pivoted2 = df.pivot('user_id', 'group_space', 'total_min_length')

加入所有三个而不是两个:

result = pivoted.join(lookup).join(pivoted2, lsuffix="_contrib_count", rsuffix="_total_min_length")

请注意,lsuffix和rsuffix需要消除列的歧义,因为两个枢轴都有示例数据中的0,1,2,3,4和10列。