Pandas transform()vs apply()

时间:2017-01-05 02:28:43

标签: python pandas transform apply

我不明白为什么applytransform在同一数据框上调用时会返回不同的dtypes。我之前向自己解释这两个函数的方式是" apply折叠数据,而transformapply完全相同,但保留原始索引并没有崩溃。"请考虑以下事项。

df = pd.DataFrame({'id': [1,1,1,2,2,2,2,3,3,4],
                   'cat': [1,1,0,0,1,0,0,0,0,1]})

让我们识别id列中包含非零条目的cat个。

>>> df.groupby('id')['cat'].apply(lambda x: (x == 1).any())
id
1     True
2     True
3    False
4     True
Name: cat, dtype: bool

大。但是,如果我们想创建一个指标列,我们可以执行以下操作。

>>> df.groupby('id')['cat'].transform(lambda x: (x == 1).any())
0    1
1    1
2    1
3    1
4    1
5    1
6    1
7    0
8    0
9    1
Name: cat, dtype: int64

我不明白为什么dtype现在是int64而不是any()函数返回的布尔值。

当我更改原始数据框以包含一些布尔值时(注意零保持不变),转换方法会在object列中返回布尔值。这对我来说是一个额外的谜,因为所有值都是布尔值,但它被列为object,显然与原始混合型整数和布尔列的dtype相匹配。 / p>

df = pd.DataFrame({'id': [1,1,1,2,2,2,2,3,3,4],
                   'cat': [True,True,0,0,True,0,0,0,0,True]})

>>> df.groupby('id')['cat'].transform(lambda x: (x == 1).any())
0     True
1     True
2     True
3     True
4     True
5     True
6     True
7    False
8    False
9     True
Name: cat, dtype: object

但是,当我使用所有布尔值时,transform函数返回一个布尔列。

df = pd.DataFrame({'id': [1,1,1,2,2,2,2,3,3,4],
                   'cat': [True,True,False,False,True,False,False,False,False,True]})

>>> df.groupby('id')['cat'].transform(lambda x: (x == 1).any())
0     True
1     True
2     True
3     True
4     True
5     True
6     True
7    False
8    False
9     True
Name: cat, dtype: bool

使用我的急性模式识别技能,结果列的dtype似乎与原始列的镜像相同。我会很感激有关为什么会出现这种情况或者在transform函数中发生了什么的提示。欢呼声。

2 个答案:

答案 0 :(得分:7)

看起来SeriesGroupBy.transform()尝试将结果dtype转换为与原始列相同的结果,但DataFrameGroupBy.transform()似乎没有这样做:

In [139]: df.groupby('id')['cat'].transform(lambda x: (x == 1).any())
Out[139]:
0    1
1    1
2    1
3    1
4    1
5    1
6    1
7    0
8    0
9    1
Name: cat, dtype: int64

#                         v       v
In [140]: df.groupby('id')[['cat']].transform(lambda x: (x == 1).any())
Out[140]:
     cat
0   True
1   True
2   True
3   True
4   True
5   True
6   True
7  False
8  False
9   True

In [141]: df.dtypes
Out[141]:
cat    int64
id     int64
dtype: object

答案 1 :(得分:0)

只要加上另一个说明性的示例,总和就更明确了:

df = (
    pd.DataFrame(pd.np.random.rand(10, 3), columns=['a', 'b', 'c'])
        .assign(a=lambda df: df.a > 0.5)
)

Out[70]: 
       a         b         c
0  False  0.126448  0.487302
1  False  0.615451  0.735246
2  False  0.314604  0.585689
3  False  0.442784  0.626908
4  False  0.706729  0.508398
5  False  0.847688  0.300392
6  False  0.596089  0.414652
7  False  0.039695  0.965996
8   True  0.489024  0.161974
9  False  0.928978  0.332414

df.groupby('a').apply(sum)  # drop rows

         a         b         c
a                             
False  0.0  4.618465  4.956997
True   1.0  0.489024  0.161974


df.groupby('a').transform(sum)  # keep dims

          b         c
0  4.618465  4.956997
1  4.618465  4.956997
2  4.618465  4.956997
3  4.618465  4.956997
4  4.618465  4.956997
5  4.618465  4.956997
6  4.618465  4.956997
7  4.618465  4.956997
8  0.489024  0.161974
9  4.618465  4.956997

但是,当应用于pd.DataFrame而不是pd.GroupBy对象时,我看不到任何区别。

相关问题