pyspark中的pivot数据帧

Question

我有DF测试包含以下列

Type  Name  Country      Year    Value
1     Rec      US        2018      8
2     fg       UK        2019      2
5     vd      India      2020      1
7     se       US        2021      3

我想在它上面做一个支点，我试过下面的表达 pivotdata=spark.sql("select * from test").groupby("Country").pivot("Year").sum("Value").show()

我得到了输出，但除了剩下的两列之外，它只显示了几列

Country  2018  2019  2020  2021
US        -     -
UK        -      -
India     -      -
US        -      -

那么，如果我想要所有列，我们该怎么办

Answer 1

如果我正确理解了您需要的内容，您必须在sum（）中提供其他列。考虑下面的例子：

tst=sqlContext.createDataFrame([('2020-04-23',1,2,"india"),('2020-04-24',1,3,"india"),('2020-04-23',1,4,"china"),('2020-04-24',1,5,"china"),('2020-04-23',1,7,"germany"),('2020-04-24',1,9,"germany")],schema=('date','quantity','value','country'))
tst.show()
+     +    +  -+   -+
|      date|quantity|value|country|
+     +    +  -+   -+
|2020-04-23|       1|    2|  india|
|2020-04-24|       1|    3|  india|
|2020-04-23|       1|    4|  china|
|2020-04-24|       1|    5|  china|
|2020-04-23|       1|    7|germany|
|2020-04-24|       1|    9|germany|
+     +    +  -+   -+
df_pivot=tst.groupby('country').pivot('date').sum('quantity','value').show()
df_pivot.show()
+   -+            +          -+            +          -+
|country|2020-04-23_sum(quantity)|2020-04-23_sum(value)|2020-04-24_sum(quantity)|2020-04-24_sum(value)|
+   -+            +          -+            +          -+
|germany|                       1|                    7|                       1|                    9|
|  china|                       1|                    4|                       1|                    5|
|  india|                       1|                    2|                       1|                    3|
+   -+            +          -+            +          -+

如果您不喜欢有趣的列名，那么可以使用agg函数为数据透视列名定义自己的后缀

tst_res=tst.groupby('country').pivot('date').agg(F.sum('quantity').alias('sum_quantity'),F.sum('value').alias('sum_value'))
tst_res.show()
+   -+           -+          +           -+          +
|country|2020-04-23_sum_quantity|2020-04-23_sum_value|2020-04-24_sum_quantity|2020-04-24_sum_value|
+   -+           -+          +           -+          +
|germany|                      1|                   7|                      1|                   9|
|  china|                      1|                   4|                      1|                   5|
|  india|                      1|                   2|                      1|                   3|
+   -+           -+          +           -+          +