如何在使用 CoPPer 按多个列值分组时在列上进行聚合?

How to aggregate on a column while grouping by several columns values using CoPPer?

我有一个包含某些产品当前库存的数据集:

+--------------+-------+
| Product      | Stock |
+--------------+-------+
| chocolate    |   300 |
| coal         |    70 |
| orange juice |   400 |
+--------------+-------+

以及另一个数据集中当前月份和下个月每个产品历年的销售额:

+--------------+------+-------+-------+
| Product      | Year | Month | Sales |
+--------------+------+-------+-------+
| chocolate    | 2017 |    05 |    55 |
| chocolate    | 2017 |    04 |   250 |
| chocolate    | 2016 |    05 |    70 |
| chocolate    | 2016 |    04 |   200 |
|     |        |   |  |     | |     | |
| coal         | 2017 |    05 |    40 |
| coal         | 2017 |    04 |    30 |
| coal         | 2016 |    05 |    50 |
| coal         | 2016 |    04 |    20 |
|     |        |   |  |     | |     | |
| orange juice | 2017 |    05 |   400 |
| orange juice | 2017 |    04 |   350 |
| orange juice | 2016 |    05 |   400 |
| orange juice | 2016 |    04 |   300 |
+--------------+--------------+-------+

我想计算下个月我需要订购的库存,方法是使用以下公式计算当前月份和下个月的预期销售额:

ExpectedSales = max(salesMaxCurrentMonth) + max(salesMaxNextMonth)

订单将

Orders = ExpectedSales * (1 + margin) - Stock

例如,保证金为 10%。

我尝试使用 GroupBy 按几列分组,如下所示,但它似乎按 Stock 而不是 Product 聚合:

salesDataset
    .groupBy(Columns.col("Month"), Columns.col(“Product”))
    .agg(Columns.max(“Sales”).as(“SalesMaxPerMonth”))
    .agg(Columns.sum(“SalesMaxPerMonth”).as(SalesPeriod))
    .withColumn(
        “SalesExpected”, 
        Columns.col(“SalesPeriod”).multiply(Columns.literal(1 + margin)))
    .withColumn(
        “Orders”,
        Columns.col(“SalesExpected”).minus(Columns.col(“Stock”)))
    .withColumn(
        “Orders”,
        Columns.col(“Orders”).map((Double a) -> a >= 0 ? a: 0))
    .doNotAggregateAbove()
    .toCellSet()
    .show();

您在聚合方面的逻辑是正确的,但还有另一种构建您的 CellSet 的方法,您可以在其中提供地图来描述生成它的查询的位置。

salesDataset
    .groupBy(Columns.col("Month"), Columns.col(“Product”))
    .agg(Columns.max(“Sales”).as(“SalesMaxPerMonth”))
    .agg(Columns.sum(“SalesMaxPerMonth”).as(SalesPeriod))
    .withColumn(
        “SalesExpected”, 
        Columns.col(“SalesPeriod”).multiply(Columns.literal(1 + margin)))
    .withColumn(“Orders”, Columns.col(“SalesExpected”).minus(Columns.col(“Stock”)))
    .withColumn(“Orders”, Columns.col(“Orders”).map((Double a) -> a >= 0 ? a: 0))
    .doNotAggregateAbove()
    .toCellSet(
        Empty.<String, Object>map()
        .put(“Product”,null)
        .put(“Stock”, null))
    .show();

其中null在一个位置代表通配符*